Technischer Kontext
Ich bin nicht wegen des „Agentic Oops“-Memes selbst hängengeblieben, sondern wegen der Reaktionen im Thread. Es wurde schnell klar: Das Problem war nicht, dass der Agent einen Fehler gemacht hat, sondern dass die Infrastruktur darauf überhaupt nicht vorbereitet war.
Wenn ich an KI-Integrationen oder KI-Automatisierungen arbeite, gehe ich seit langem von einer unangenehmen Grundregel aus: Der Agent wird irgendwann auf den falschen Knopf drücken. Nicht, weil er „durchgedreht“ ist, sondern weil er zu viele Rechte, einen schlechten Zugriffsbereich oder eine blinde Verbindung zur Produktionsumgebung hatte.
Hier endet die Magie und das langweilige Engineering beginnt, das am Ende das Geschäft rettet. Backups sollten nicht im selben Konto, in derselben Region und schon gar nicht direkt neben der Produktionsumgebung liegen, nur weil es „bequem“ ist.
Das absolute Minimum, das ich als professionell ansehe: ein separates Backup-Konto, eine andere Region und für kritische Daten am besten eine andere Gerichtsbarkeit. Dazu die Regel, dass das Backup-System Daten aus der Live-Umgebung abruft und nicht umgekehrt, damit die Live-Umgebung die Backups nicht überschreiben oder löschen kann.
Wenn das Team klein ist oder es an starken Infrastruktur-Ingenieuren mangelt, ist eine verwaltete Datenbank fast immer billiger als Heldentum. Ein selbst gehostetes PostgreSQL klingt romantisch, bis zur ersten Nacht, in der man unter Last eine Datenbank wiederherstellt und feststellt, dass niemand jemals den gesamten Wiederherstellungsprozess getestet hat.
Ein weiterer Punkt, den ich bei agentenbasierten Systemen nicht übersehen würde, ist die Beobachtbarkeit der Aktionen des Agenten. Nicht nur die Protokolle der Modellabfragen, sondern ein Audit-Trail auf der Ebene von „was der Agent tun wollte“, „mit welchem Token“, „in welcher Umgebung“, „mit welchem Ergebnis“ und wo der Kill-Switch ausgelöst wurde.
Was das für Unternehmen und Automatisierung bedeutet
Gewinnen werden diejenigen, die Automatisierung mit KI als ein System mit Beschränkungen bauen, nicht als eine Demo auf Steroiden. Verlieren werden diejenigen, die einem Agenten Produktionszugriff gegeben haben und ein Backup nur als ein Häkchen in einer Cloud-Konsole betrachten.
Die erste Konsequenz ist einfach: Die Kosten einer schlechten Architektur steigen. Eine einzige unglückliche Aktion eines Agenten kann nicht nur eine Aufgabe, sondern eine ganze Datenkette, Berichte, CRM-Synchronisierungen und Kundenoperationen auf einmal zunichtemachen.
Zweitens: Die Wiederherstellung wird Teil des Produkts, nicht nur ein Add-on. Ich würde keinen KI-Agenten in eine kritische Umgebung entlassen, ohne eine Testwiederherstellung, getrennte Zugriffsrollen und ein klares Rollback-Szenario.
Bei Nahornyi AI Lab analysieren und lösen wir genau solche Engpässe: Wo ein verwalteter Stack benötigt wird, wo eine separate Umgebung entscheidend ist und wo es am besten ist, einen Agenten gar nicht erst direkt auf Daten zugreifen zu lassen. Wenn Sie das Gefühl haben, dass Ihre KI-Automatisierung bereits nützlich ist, aber auf Glück beruht, lassen Sie uns Ihre Architektur überprüfen und eine Lösung ohne schöne, aber sehr teure Überraschungen entwickeln.