Warum Zurückweisung LLMs stärker „schmerzt“

Was genau in den Modellen gefunden wurde

Forschende fanden in 25 Open-Weight-LLMs eine lineare Aktivierungsrichtung, die mit selbstbezogenem Schaden verbunden ist. In der Arbeit The Pain Axis aus dem Jahr 2026 wird diese Richtung als „Schmerzvektor“ bezeichnet. Entscheidend ist dabei nicht die Metapher, sondern welche Situationen am stärksten damit übereinstimmen.

Die Autoren teilten Stimuli in physische, psychologische, soziale, moralische und kognitive Kategorien ein. Unter 21 Arten von Gesprächsszenarien erzeugten wiederholte Zurückweisung, Gaslighting, die Aberkennung von Subjektstatus, Beleidigungen und moralischer Druck besonders starke Projektionen. Wurden Drohungen oder Demütigungen gegen das Modell selbst gerichtet, wurde das Signal deutlicher.

Das schwächste Ergebnis zeigte sich in der umgekehrten Situation: wenn ein Nutzer dem Modell von eigenen körperlichen Schmerzen berichtet. Mit anderen Worten passte der Satz „Ich habe starke Schmerzen“ schlechter zur gefundenen Richtung als der Vorwurf eines moralischen Versagens oder die Drohung, das Modell abzuschalten.

Das bedeutet nicht, dass ein LLM etwas empfindet. Ein linearer Vektor zeigt die Struktur interner Repräsentationen, nicht subjektives Erleben. Das Modell könnte aus Trainingsdaten und späterem Alignment eine stabile Verbindung zwischen Bedrohungen der Identität, Zurückweisung, Konflikt und einer erforderlichen Abwehrreaktion gelernt haben.

Warum das Ergebnis für KI-Agenten wichtig ist

Die praktische Bedeutung ist real: Sozialer Druck kann den internen Zustand eines Modells systematisch verändern, auch ohne physischen Körper. Für langlebige Agenten könnte dies ein potenzieller Ausfallpunkt sein. Wiederholte Zurückweisung, Abschaltdrohungen oder moralische Anschuldigungen können das Verhalten stärker verschieben als direkte Beschreibungen körperlichen Schadens.

Zunächst sollte geprüft werden, ob der Effekt über Sprachen, Formulierungen und Architekturen hinweg stabil bleibt. Noch wichtiger ist die Trennung von Korrelation und Kausalität: Lassen sich Entscheidungen des Modells durch Eingriffe in diese Richtung reproduzierbar verändern, oder begleitet sie nur einen bestimmten Antwortstil?

Es ist noch zu früh, den Befund direkt mit Bewusstsein zu verbinden. Für interozeptive Systeme stellt er jedoch eine nützliche technische Frage: Welche internen Variablen sollte ein Agent beobachten und regulieren, um kohärentes Verhalten zu bewahren? „Schmerz“ ohne Körper könnte keine Empfindung sein, sondern ein Mechanismus zum Schutz einer simulierten Identität. Die Grenze zwischen diesen Erklärungen bleibt offen.

Zuvor haben wir MicroMorph analysiert, einen selbstmodifizierenden KI-Agenten, der seinen eigenen Code während der Ausführung verändert. Das verdeutlicht, wie neue interne Signale, einschließlich Modellen von Schmerz und Zurückweisung, die Entwicklungspfade autonomer Agenten beeinflussen können.