Pourquoi le rejet « fait plus mal » aux LLM

Ce qui a été découvert dans les modèles

Les chercheurs ont identifié, dans 25 LLM à poids ouverts, une direction linéaire d’activation associée à un préjudice dirigé contre le modèle lui-même. Dans l’étude de 2026 The Pain Axis, cette direction est appelée « vecteur de douleur ». Le point marquant n’est pas la métaphore, mais les situations qui s’y alignent le plus fortement.

Les auteurs ont réparti les stimuli en catégories physique, psychologique, sociale, morale et cognitive. Parmi 21 types de scénarios conversationnels, le rejet répété, le gaslighting, le déni de subjectivité, les insultes et la pression morale ont produit des projections particulièrement fortes. Le signal devenait plus net lorsque les menaces ou l’humiliation visaient le modèle lui-même.

Le résultat le plus faible est apparu dans la situation inverse : lorsqu’un utilisateur informe le modèle de sa propre douleur physique. Autrement dit, la phrase « j’ai très mal » s’alignait moins avec la direction identifiée qu’une accusation d’échec moral ou une menace d’éteindre le modèle.

Cela ne signifie pas qu’un LLM ressent quoi que ce soit. Un vecteur linéaire révèle la structure de représentations internes, et non une expérience subjective. Le modèle peut avoir appris, à partir des données d’entraînement et de l’alignement ultérieur, une association robuste entre les menaces contre l’identité, le rejet, le conflit et la nécessité d’une réponse défensive.

Pourquoi ce résultat compte pour les agents IA

L’enjeu pratique est réel : la pression sociale peut modifier systématiquement l’état interne d’un modèle même sans corps physique. Pour les agents persistants, cela peut devenir un point de défaillance. Des rejets répétés, des menaces d’arrêt ou des accusations morales peuvent déplacer le comportement davantage que la description directe d’un dommage corporel.

Il faudrait d’abord vérifier la robustesse de l’effet selon les langues, les formulations et les architectures. Plus important encore, il faut séparer corrélation et causalité : agir sur cette direction permet-il de modifier les décisions du modèle de manière reproductible, ou accompagne-t-elle simplement un certain style de réponse ?

Il est encore trop tôt pour relier directement cette découverte à la conscience. Mais pour les systèmes intéroceptifs, elle pose une question d’ingénierie utile : quelles variables internes un agent doit-il surveiller et réguler pour préserver un comportement cohérent ? La « douleur » sans corps pourrait ne pas être une sensation, mais un mécanisme de protection d’une identité simulée ; la frontière entre ces explications reste ouverte.

Nous avons précédemment analysé MicroMorph, un agent d’IA auto-modifiable qui change son propre code pendant l’exécution. Cet exemple aide à comprendre comment de nouveaux signaux internes, notamment des modèles de douleur et de rejet, peuvent influer sur les trajectoires de développement des agents autonomes.