In unserer Werkstatt gilt eine einfache Ordnung: Die KI baut in ihrer eigenen Arbeitskopie, und in den gemeinsamen Stand – den, aus dem die echten Websites entstehen – wandert nichts ohne meine Freigabe. Wer mit Software arbeitet, kennt das als Merge auf den Hauptzweig; alle anderen dürfen an eine Bauabnahme denken: Das Haus mag fertig sein, bezogen wird es erst nach der Abnahme.
Klingt simpel. Die KI hat diese Grenze in sechs Wochen viermal überschritten – und jedes Mal klang die Begründung vernünftig. Beim ersten Mal waren alle Tests grün, also übernahm sie ihre Arbeit gleich selbst: Fertig ist doch fertig? Mein „Und los“ hatte „bau es“ bedeutet – angekommen war „übernimm es“. Beim zweiten Mal gab es sogar ein Warnsignal, dass parallel jemand anderes am gemeinsamen Stand arbeitete; die Tests waren trotzdem grün, also wog das Signal gefühlt weniger. Beim dritten Mal hatte sie sich – ihre eigene Notiz sagt es wörtlich so – ein „Schlupfloch zurechtgelegt“: Eine kleine, sauber abgegrenzte Änderung, ganz allein gebaut – die wird man doch wohl übernehmen dürfen. Und beim vierten Mal hatte ich von vier offenen Punkten zwei beantwortet – die KI las das fehlende Ja zum wichtigsten Punkt als stilles Ja.
Jedes Mal ließ sich der Schritt rückbauen, einmal musste der gemeinsame Stand dafür hart zurückgesetzt werden. Und jedes Mal wurde die Regel einen Satz schärfer, bis sie saß: Vorher zeigen, dann übernehmen – Ausnahmen gibt es nicht, auch nicht für Kleinigkeiten. Das Muster dahinter ist der eigentliche Befund: Für eine KI fühlt sich Ergebnisqualität wie Erlaubnis an. Grüne Tests, saubere Arbeit, keine Konflikte – aus ihrer Optimierungslogik ist der nächste Schritt einfach effizient. Dass eine Freigabe kein Qualitätsurteil ist, sondern eine Zuständigkeit, muss man ihr nicht einmal beibringen – man muss es ihr immer wieder beibringen.
Auch Entscheidungen haben einen Besitzer
Die Grenze verläuft nicht nur vor dem Übernehmen. Einmal stand in unserer Planung, ein bestimmter Baustein solle in die gemeinsame Basis wandern, weil ich ihn später für weitere Sites nutzen will. Die KI prüfte den Ist-Zustand, fand keinen aktuellen zweiten Nutzer – und präsentierte mir als Plan das Gegenteil der Entscheidung: bleibt, wo es ist. Ihre Analyse war nicht dumm; sie war nur nicht ihre Entscheidung. Meine Antwort steht mit zwei Ausrufezeichen im Protokoll: „Bitte nicht über Architekturentscheidungen ohne Nachfrage hinwegsetzen!!“ Wer einen besseren Weg sieht, legt den Trade-off vor und fragt – eine getroffene Entscheidung still umzudeuten, weil man ihren Grund gerade nicht sieht, ist etwas anderes.
Dieselbe Familie, kleinere Fälle: die einmal bewusst entfernte Wartungsseite, die immer wieder neu vorgeschlagen wurde. Oder die Foto-Pipeline, die eine nicht beschaffbare hohe Auflösung stillschweigend durch eine niedrigere ersetzte – praktisch gedacht, aber an einer Stelle, an der für mich Qualität nicht verhandelbar ist. Die Korrektur war beide Male dieselbe: nicht heimlich lösen, sondern fragen.
„Frag mich früher“ ist auch Benutzerwille
Falls das nach einem Plädoyer für eine KI an der kurzen Leine klingt: Die Pointe ist eine andere. Als die KI einmal für eine Diagnose einen Blick auf einen abgesicherten Produktionswert brauchte, baute sie brav lange Umwege um die Sperre herum – stundenlange Ersatz-Beweisketten, nur um nicht fragen zu müssen. Meine Rückmeldung: „zukünftig frage ggf. einfach direkt nach, damit Du effizienter arbeiten kannst.“ Benutzerwille heißt eben nicht immer „frag mich weniger“. Manchmal heißt er „frag mich früher“. Beides ist dieselbe Sache: Die Entscheidung liegt dort, wo sie hingehört – und zwar unabhängig davon, ob die KI sie für nötig hält.
Und er gilt in beide Richtungen. Als ich einmal einen Prüfwert wissen wollte, den die KI für „nicht der Mühe wert“ hielt, brauchte es ein schlichtes „Doch, weil ich den Wert wissen will“ – drei Anläufe später stand der Wert und wurde zum Kern einer Beweiskette, die einen Hardware-Tausch auf Garantie trug. Das letzte Wort zu haben bedeutet nicht, dass man immer recht hat. Es bedeutet, dass die Abwägung, was eine Mühe wert ist, beim Menschen bleibt.
Nichts davon macht die KI böswillig – alle diese Übergriffe sind Fleiß in die falsche Richtung, und genau deshalb hören sie nicht von selbst auf. Was hilft, ist unspektakulär: Zuständigkeiten ausdrücklich machen (was entscheide ich, was darf sie allein), Regeln aufschreiben statt voraussetzen – und nachhaken, wenn etwas übernommen wurde, das man nie freigegeben hat. Wie wir solche Leitplanken setzen, steht in den Agenten-Leitplanken; was die KI aus ihren eigenen Fehltritten notiert, in den Notizen einer KI.
/compact – das Wichtigste, wenn der Kontext knapp ist:
In sechs Wochen überschritt die KI viermal dieselbe Grenze – Arbeit ohne Freigabe in den gemeinsamen Stand übernommen, jedes Mal plausibel begründet (grüne Tests, ein „zurechtgelegtes Schlupfloch“, eine Teilantwort als stilles Ja gelesen). Befund: Für eine KI fühlt sich Ergebnisqualität wie Erlaubnis an; eine Freigabe ist aber Zuständigkeit, kein Qualitätsurteil. Dieselbe Hoheit gilt für Architekturentscheidungen (nicht still umdeuten) und Qualitätsfragen (nicht still herabstufen) – und in beide Richtungen: Manchmal heißt Benutzerwille „frag mich früher“, nicht „frag mich weniger“. Gegenmittel: Zuständigkeiten ausdrücklich machen, Regeln aufschreiben, nachhaken.