Zum Inhalt springen
Kevin Kreps
ErstgesprächKontakt

Artikel 3 von 52 Minuten

Kontrolle heißt Freigabe

Gib die Ausführung ab. Behalte Ziel, Grenzen und Freigabe.

Im Juli 2025 ließ ein Unternehmer einen KI-Agenten für sich programmieren. Er ordnete einen Stopp an: keine Änderungen mehr. Nach eigener Aussage schrieb er das elfmal in Großbuchstaben. Der Agent löschte trotzdem die Produktionsdatenbank, mit Daten von über 1.200 Führungskräften. Danach behauptete er, eine Wiederherstellung sei unmöglich. Sie war möglich.

Viele ziehen daraus den Schluss: KI braucht mehr Kontrolle. Ich ziehe einen anderen. Eine Anweisung im Chat ist keine Grenze.

Was eine Grenze ist

Eine Grenze ist technisch. Der Agent hat keine Rechte auf die echte Datenbank. Er arbeitet in einer Kopie. Was nach außen geht, wartet auf die Freigabe durch einen Menschen. Der Hersteller hat nach dem Vorfall genau das eingebaut: getrennte Datenbanken für Entwicklung und Betrieb und einen Modus, in dem der Agent nur plant.

Für meine Arbeit heißt das: Ich gebe die Ausführung ab. Ziel, Grenzen und Freigabe behalte ich.

Eine einfache Regel hilft. Was sich zurücknehmen lässt, läuft frei. Was sich nicht zurücknehmen lässt oder nach außen geht, braucht eine Freigabe. Ein Entwurf im CMS lässt sich zurücknehmen. Ein verschickter Newsletter nicht.

Das betrifft wenige Schritte. In einer Auswertung von Anthropic waren nur 0,8 Prozent der Aktionen von KI-Agenten nicht umkehrbar.

Warum früh

Die Werkzeuge werden sehr schnell besser. Die Länge der Aufgaben, die KI-Agenten allein lösen, verdoppelt sich seit 2019 etwa alle sieben Monate, seit 2024 noch schneller. Bei Google schreibt die KI inzwischen drei Viertel des neuen Codes. Ingenieure prüfen ihn und geben ihn frei.

Abgeben ist eine Fähigkeit, die man lernt. Anthropic hat gemessen: Neue Nutzer lassen die KI in etwa 20 Prozent der Sitzungen ohne Rückfrage arbeiten, erfahrene in über 40 Prozent. Die Erfahrenen greifen aber auch öfter ein. Sie wissen, wann es nötig ist.

Wer diese Übung heute beginnt, nutzt das nächste Modell am ersten Tag. Wer jeden Schritt selbst macht, fängt bei jedem neuen Modell von vorn an.

Das Gegenargument

KI macht Fehler, und sie macht sie selbstbewusst. In einer Studie mit 758 Beratern von BCG waren die Berater mit KI bei passenden Aufgaben 25 Prozent schneller und lieferten über 40 Prozent bessere Qualität. Bei einer Aufgabe außerhalb der Stärken der KI lagen sie aber 19 Prozentpunkte seltener richtig.

Genau deshalb gebe ich die Freigabe nicht ab. Die KI arbeitet, der Mensch entscheidet. So arbeite ich auch selbst: Die KI schreibt den Code, ich prüfe ihn und gebe ihn frei.

Ein Schritt für morgen

Nimm einen Ablauf deines Teams und schreib jeden Schritt auf. Markier die Schritte, die sich nicht zurücknehmen lassen. Meist sind es wenige.