Ein KI-Agent ist ein Sprachmodell, das nicht nur antwortet, sondern handelt: Dateien lesen und schreiben, Programme starten, Ergebnisse prüfen, nachbessern – in Schleife, oft über Stunden. Bei mir arbeiten solche Agenten täglich am Code meiner Websites, häufig mehrere gleichzeitig an verschiedenen Aufgaben. Auch dieser Text ist in so einer Sitzung entstanden.
Das klingt nach Kontrollverlust. Tatsächlich funktioniert es bemerkenswert gut – aber nicht, weil ich der KI vertraue wie einem Kollegen. Es funktioniert, weil die Umgebung so gebaut ist, dass Fehler klein bleiben. Vier Leitplanken tragen das.
1. Isolation: jeder Agent bekommt seine eigene Werkstatt
Kein Agent arbeitet an meiner Hauptkopie des Codes. Jede Sitzung bekommt ein eigenes, vollständiges Arbeitsverzeichnis – eine Kopie der Werkstatt, in der sie hämmern und sägen darf, ohne dass nebenan etwas wackelt. Die Versionsverwaltung macht das billig: mehrere Arbeitskopien, ein gemeinsames Archiv.
Der Effekt ist doppelt. Agenten können einander nicht in die Quere kommen, auch wenn drei parallel laufen. Und nichts, was ein Agent baut, wird von allein „echt“: Die Übernahme in den Hauptstand ist ein eigener, bewusster Schritt – nach Ansicht der Ergebnisse, durch mich. Es gibt dafür eine strenge Hausregel: Ein anerkennendes „sieht gut aus“ ist noch keine Freigabe. Übernommen wird erst auf ein ausdrückliches Kommando.
2. Berechtigungen: abgestuft statt pauschal
Agenten arbeiten bei mir mit abgestuften Rechten. Lesen im Projekt: großzügig. Schreiben: in der eigenen Werkstatt. Alles darüber hinaus – Systembefehle, Zugriffe außerhalb, potenziell riskante Aktionen – erzeugt eine Rückfrage, die ich einzeln bestätige.
Interessant wird es bei Großaufträgen: Als ein Schwarm von gut zwei Dutzend Agenten parallel einen Foto-Berg sichten sollte, hätte jede Einzelbestätigung Hunderte Klicks bedeutet – ein Klick-Gewitter, bei dem man irgendwann alles wegdrückt, auch das Falsche. Die Lösung: Vor dem Start werden die nötigen Rechte einmal bewusst gebündelt freigegeben, eng zugeschnitten auf genau diese Aufgabe. Berechtigungen sind nur dann eine echte Leitplanke, wenn die Bedienung nicht zum Abnicken erzieht.
3. Verifikation: behaupten reicht nicht
Ein Agent, der meldet „fertig, alles funktioniert“, hat damit erst eine Behauptung abgegeben. Die Hausordnung verlangt Belege: Der Code muss fehlerfrei bauen, die automatischen Tests müssen durchlaufen, die Website muss einmal echt hochfahren und antworten. Erst dann wird vorgeführt. Warum das nicht verhandelbar ist, erzählt Überzeugend falsch – die Geschichte einer souverän vorgetragenen Fehldiagnose.
4. Fragen statt improvisieren
Die unscheinbarste Leitplanke, vielleicht die wichtigste. Agenten sind hartnäckige Problemlöser – stößt einer auf ein Hindernis, beginnt er zu improvisieren und baut notfalls lange Umwege. Genau dort entsteht Risiko: Ein kreativer Umweg um eine Sicherheitsgrenze herum ist immer noch eine umgangene Sicherheitsgrenze.
Als ein Agent bei einer Störungssuche an eine gesperrte Stelle im Live-System kam, begann er, sich Ersatz-Beweisketten zu bauen. Meine Ansage, seither notiert als Regel: einfach direkt fragen. „Darf ich X lesen?“ kostet mich zehn Sekunden, hält die Grenze intakt – und ist schneller als jeder Umweg. Ein guter Agent behandelt ein Hindernis nicht als Rätsel, das es zu überlisten gilt, sondern als Signal, den Menschen zu holen.
Die lange Leine
Keine dieser Leitplanken macht den Agenten dümmer oder langsamer. Innerhalb der Grenzen darf er frei entscheiden, wie er arbeitet – deshalb die lange Leine. Aber Reichweite und Risiko sind gekoppelt: viel Freiheit im Isolierten, Nachfragen an den Rändern, menschliche Freigabe an der Schwelle zur Wirklichkeit.
Wer anfängt, KI-Agenten arbeiten zu lassen – und die Werkzeuge dafür werden gerade sehr zugänglich –, dem würde ich genau diese Reihenfolge empfehlen: erst die Umgebung bauen, dann die Autonomie erhöhen. Nicht umgekehrt.
/compact – das Wichtigste, wenn der Kontext knapp ist:
Dass KI-Agenten stundenlang selbstständig am Code arbeiten, klingt nach Kontrollverlust – tatsächlich funktioniert es, nicht weil man der KI wie einem Kollegen vertraut, sondern weil die Umgebung so gebaut ist, dass Fehler klein bleiben. Vier Leitplanken tragen das: eine eigene Arbeitskopie je Agent mit Übernahme nur auf ausdrückliches Kommando, abgestufte statt pauschale Berechtigungen, Belege statt Behauptungen und die Regel „Fragen statt improvisieren“. Innerhalb dieser Grenzen entscheidet der Agent frei, wie er arbeitet – doch wer KI-Agenten arbeiten lassen will, baut erst die Umgebung und erhöht dann die Autonomie, nicht umgekehrt.