Technischer Kontext
Ich habe mir das Material von Anthropic zur rekursiven Selbstverbesserung (recursive self-improvement) genau angesehen, und mein Fazit ist einfach: Es ist noch kein AGI, aber es ist auch kein reines Demo-Spielzeug mehr. Was mich besonders fasziniert hat: Teile des KI-Forschungs- und Entwicklungszyklus (AI R&D), die bisher komplett in Menschenhand lagen, werden nun von den Modellen selbst übernommen. Und das kommt dem, was ich in realen Projekten zur KI-Automatisierung sehe, bereits sehr nahe.
Die Hauptthese von Anthropic ist nicht, dass das Modell plötzlich 'begonnen hat, sich selbst zu erschaffen'. Sie sagen ganz ehrlich: Das Problem liegt derzeit weniger in der Ausführung, sondern im Urteilsvermögen (judgment) – also bei der Entscheidung, welche Richtung, welches Ziel und welche Forschungspriorität gewählt werden soll. Das ist eine wichtige Einschränkung, denn ohne sie driftet man schnell in reißerischen Clickbait wie 'AGI ist bereits da' ab.
Die Zahlen zeichnen ein interessantes Bild. Claude erreichte laut ihren Daten bis Mai 2026 eine Erfolgsquote von 76 % bei den offensten Aufgaben (open-ended tasks), und bei der Optimierung experimenteller Arbeitsabläufe stieg die Beschleunigung in weniger als einem Jahr von etwa 3x auf das 52-fache. Ein weiterer Indikator: Bei der Frage, 'wo als Nächstes geforscht werden soll', lenkte das Modell die Forschung in 64 % der Fälle in eine produktive Richtung, verglichen mit 51 % bei menschlichen Entscheidungen.
Da musste ich an ein älteres Experiment aus der Community mit micromorph denken: Ein selbstverbessernder Agent (self-improving agent) mit nur ein paar hundert Zeilen Python-Code, der seine Funktionalität selbstständig erweitern konnte. Keine Magie, sondern ein ganz normaler Zyklus: Planen, Code anpassen, ausführen, überprüfen, wiederholen. Sobald dem Agenten Zugriffsrechte und ein Ziel gegeben wurden, richtete er sich innerhalb weniger Minuten eine Kommunikation über Telegram ein. Das ist kein rekursives Selbstbewusstsein, sondern ein technisches Entwurfsmuster – aber genau aus solchen Mustern setzt sich die praktische KI-Implementierung zusammen.
Wo würde ich sofort die Bremse ziehen? Bei Rollbacks, Health-Checks und Werkzeugbeschränkungen. Ohne diese wird jeder 'selbstverbessernde' Agent sehr schnell zu einem System, das sich selbst fehlerfrei lahmlegt.
Was sich dadurch für Unternehmen und Automatisierung ändert
Im Business-Bereich werden diejenigen gewinnen, die viele repetitive technische Abläufe haben: Integrationen, interne Bots, Test-Pipelines, kleinere Anpassungen rund um APIs. Dort lässt sich die Entwicklung von KI-Lösungen bereits als Zyklus mit automatischer Überprüfung aufbauen, anstatt nur als einmalige Chat-Anfrage.
Verlieren werden Teams, die Autonomie mit mangelnder Kontrolle verwechseln. Wenn man einen Agenten Code schreiben lässt, ihm Zugriff auf die Produktivumgebung gibt und keine Grenzen setzt, wird er durch diese Freiheit nicht intelligenter, sondern im Unterhalt einfach nur teurer.
Ich würde das derzeit nicht als 'die Geburt von AGI steht kurz bevor' betrachten, sondern als eine neue Ebene der KI-Architektur: Der Agent kann nicht nur eine Aufgabe ausführen, sondern sich auch die passenden Werkzeuge dafür selbst bauen. Genau solche Herausforderungen lösen wir bei Nahornyi AI Lab für unsere Kunden: Wo kein Chatbot um des Chattens willen gesucht wird, sondern eine funktionierende KI-Automatisierung mit Tests, Zugriffsrechten und messbarem wirtschaftlichem Nutzen. Wenn sich in Ihren Prozessen bereits manuelle technische Aufgaben ansammeln, können wir diese gerne gemeinsam analysieren und einen KI-Agenten ohne unnötige Luftschlösser, aber mit echtem Nutzen entwickeln.