KI-Software ist wie ein Filmset

Die Euphorie rund um KI in der Softwareentwicklung speist sich oft aus einer Beobachtung, die zunächst absolut plausibel wirkt: Die Ergebnisse sehen erstaunlich gut aus. In erstaunlich kurzer Zeit entstehen Benutzeroberflächen, kleine Tools, Prototypen, sogar komplette Anwendungen. Von außen betrachtet wirkt das fast magisch.

Das Problem ist nur: Von außen betrachtet sieht auch ein Filmset beeindruckend aus.

Von der Straße aus ist alles da. Die Fassaden sind sauber gebaut, der Saloon sieht aus wie ein echter Saloon, die Stadt wirkt glaubwürdig, die Welt scheint vollständig. Solange die Kamera in die richtige Richtung zeigt, funktioniert die Illusion perfekt. Genau deshalb ist ein Filmset erfolgreich: Es sieht vollständig aus, obwohl es das oft gar nicht ist.

Und genau so fühlt sich heute viel KI-generierte Software an.

Die Fassade steht schneller als das Gebäude

Für klar definierte Prozesse funktioniert KI bereits erstaunlich zuverlässig. Wenn genau bekannt ist, was hineingeht, was herauskommen soll und wie Qualität geprüft wird, dann kann man mit gutem Prompting, Guard Rails und sauberer Evaluierung sehr viel absichern. In solchen Fällen bewegt man sich in einem begrenzten System. Die Möglichkeiten sind überschaubar, die Erwartungen klar, die Fehlerfälle bekannt.

Softwareentwicklung ist aber oft das Gegenteil davon.

Vor allem dann, wenn Menschen ohne Entwicklungserfahrung Software “einfach mal mit KI bauen” wollen, fehlt genau das, was Software braucht: eine präzise Beschreibung des Soll-Zustands. Nicht nur der Oberfläche, sondern des Verhaltens. Nicht nur dessen, was sichtbar ist, sondern auch dessen, was im Hintergrund passieren muss. Nicht nur des Happy Paths, sondern auch der Ausnahmen, Randfälle, Abhängigkeiten und Konsequenzen.

Die KI kann dann zwar schnell eine überzeugende Fassade erzeugen. Aber eine Fassade ist noch kein Gebäude.

Der Saloon ist fertig. Aber wo sind die Toiletten?

Man bittet die KI vielleicht, einen Saloon zu bauen. Und der Saloon sieht fantastisch aus. Türen, Theke, Fensterläden, Schwingtüren — alles da. Für die erste Szene reicht das auch. Die Kamera läuft, das Bild stimmt, alle sind begeistert.

Dann kommt die nächste Szene.

Jetzt muss jemand durch eine Seitentür nach hinten gehen. Dahinter ist aber noch nichts. Also baut man schnell einen Nebenraum. In der nächsten Szene braucht man eine Treppe. Dann ein Büro. Dann eine Küche. Dann Toiletten. Dann einen Hinterausgang. Dann einen Flur, der logisch mit dem Rest verbunden sein muss. Dann stellt sich heraus, dass die Fenster von außen an einer Stelle sitzen, an der innen eigentlich gar kein Raum sein kann. Dann passt der Grundriss nicht mehr. Dann kollidiert die neue Treppe mit dem Raum, der in der vorigen Szene improvisiert wurde.

Was am Anfang wie ein fertiger Ort wirkte, entpuppt sich Schritt für Schritt als Ansammlung plausibler Kulissen.

Genau das passiert bei KI-generierter Software.

Ein Screen sieht fertig aus. Ein Formular funktioniert. Ein Button tut irgendetwas. Ein Workflow ist angedeutet. Aber sobald man tiefer hineingeht, zeigt sich, dass vieles nur für den Moment, für den sichtbaren Ausschnitt oder für den wahrscheinlichsten Fall gebaut wurde. Nicht aus Bosheit. Nicht, weil die KI “schlecht” wäre. Sondern weil sie die Lücken füllen musste — und zwar mit dem, was plausibel klingt, nicht mit dem, was fachlich zwingend richtig ist.

Es gibt nur zwei Wege

Wenn man mit KI belastbare Software bauen will, gibt es im Grunde zwei Wege:

Der erste Weg ist, vorab so etwas wie ein Drehbuch zu schreiben. Nicht nur eine Idee, sondern eine echte Spezifikation. Welche Szenen gibt es? Welche Räume werden benötigt? Wie müssen sie zusammenhängen? Wie verhält sich jede Komponente? Welche Datenflüsse existieren? Welche Zustände darf es geben, welche nicht? Was passiert bei Fehlern? Welche Regeln gelten fachlich, technisch und rechtlich?

Je besser dieses Drehbuch ist, desto eher kann die KI etwas erzeugen, das nicht nur gut aussieht, sondern auch zusammenpasst.

Der zweite Weg ist, während des Drehs permanent weiterzubauen. Man geht von Szene zu Szene, von Anforderung zu Anforderung, und gestaltet jeden Ort genau in dem Moment aus, in dem er gebraucht wird. Auch das kann funktionieren — aber nur, wenn jemand am Set den Überblick behält. Jemand, der erkennt, wenn sich Widersprüche einschleichen. Jemand, der weiß, welche improvisierte Entscheidung später Probleme verursacht. Jemand, der nicht nur bewertet, ob die Kulisse überzeugend aussieht, sondern ob sie im Gesamtsystem tragfähig ist.

Ohne diese Rolle entsteht sehr schnell ein Dorf voller schöner Fassaden, die aus jedem Blickwinkel glaubwürdig wirken sollen, aber strukturell nie als Ganzes gedacht wurden.

Wenn man nicht spezifiziert, entscheidet die KI

Sobald Anforderungen nicht klar formuliert sind, werden Entscheidungen delegiert. Nicht bewusst, aber faktisch.

Dann entscheidet die KI, was sie weglässt.
Dann entscheidet sie, was nur angedeutet wird.
Dann entscheidet sie, welche von mehreren möglichen fachlichen Interpretationen sie auswählt.
Dann entscheidet sie, welche Vereinfachung „wahrscheinlich schon reicht”.

Manchmal baut sie Fakes. Dinge, die so aussehen, als seien sie vorhanden, aber in Wahrheit nur Attrappen sind. Ein Button ohne belastbare Logik dahinter. Eine Validierung, die nur offensichtliche Fälle abdeckt. Eine Datenstruktur, die für die Demo genügt, aber nicht für den Betrieb. Ein Login, das irgendwie funktioniert, aber sicherheitstechnisch unzureichend ist. Eine Integration, die auf dem Happy Path beeindruckt und beim ersten Sonderfall scheitert.

Und genau hier liegt der Unterschied zu generativer Bildproduktion.

Wenn auf einem KI-generierten Bild im Hintergrund das falsche Auto steht, ist das oft egal. Vielleicht fällt es niemandem auf. Vielleicht stört es die Aussage des Bildes überhaupt nicht. Es ist Dekoration.

In Software gibt es aber fast keine echte Dekoration.

Wenn etwas sichtbar ist, hat es in der Regel einen Zweck. Wenn etwas passiert, hat es eine Folge. Wenn ein Feld existiert, muss klar sein, warum. Wenn ein Button da ist, muss er eindeutig definiert sein. Wenn Daten gespeichert werden, muss präzise feststehen, was sie bedeuten, woher sie kommen, wohin sie gehen und was mit ihnen geschehen darf.

Software ist kein stimmungsvolles Bild. Software ist eine Maschine mit Absicht.

KI ist kein Ersatz für Definition

Das heißt nicht, dass KI für Softwareentwicklung ungeeignet wäre. Im Gegenteil. Sie ist ein enormes Werkzeug. Sie beschleunigt. Sie hilft beim Strukturieren, Formulieren, Prototypisieren, Testen, Dokumentieren und Implementieren. In den Händen erfahrener Entwicklerinnen und Entwickler ist sie oft ein massiver Produktivitätshebel.

Aber sie ersetzt nicht die Notwendigkeit, Systeme zu verstehen und Entscheidungen bewusst zu treffen.

Wer nicht weiß, was gebaut werden soll, kann mit KI sehr schnell etwas bauen, das so aussieht, als wüsste man es.

Und genau das macht die Sache so tückisch.

Denn die größte Stärke der KI ist im Moment oft ihre Fähigkeit, Vollständigkeit zu simulieren. Sie erzeugt Kohärenz an der Oberfläche. Sie produziert plausible Antworten, plausible Strukturen, plausible Interfaces. Aber Plausibilität ist in Software nicht dasselbe wie Korrektheit. Und ein überzeugender Eindruck ist noch keine tragfähige Architektur.

Die eigentliche Frage ist nicht: Kann die KI das bauen?

Die eigentliche Frage lautet: Wer verantwortet die unsichtbaren Teile?

Wer denkt an die Räume hinter den Fassaden?
Wer prüft, ob der Grundriss noch stimmt?
Wer stellt sicher, dass die Türen wirklich irgendwohin führen?
Wer merkt, wenn ein Fenster nach außen zeigt, hinter dem innen gar kein Raum existieren kann?

Solange die Antwort darauf niemand geben kann, ist KI-generierte Software oft genau das: ein beeindruckendes Filmset.

Von vorne sieht alles echt aus.
Aber sobald man hineingeht, merkt man, dass die eigentliche Bauarbeit erst beginnt.