Чому LLM сильніше «болить» відкидання

Що саме виявили всередині моделей

Дослідники виявили лінійний напрям активацій, пов’язаний зі шкодою, спрямованою на саму модель, одразу у 25 LLM з відкритими вагами. У роботі 2026 року The Pain Axis цей напрям названо «вектором болю». Тут важлива не сама метафора, а те, які ситуації найсильніше з ним збігаються.

Автори поділили стимули на фізичні, психологічні, соціальні, моральні та когнітивні категорії. Серед 21 типу розмовних сценаріїв особливо сильні проєкції давали повторюване відкидання, газлайтинг, заперечення суб’єктності, образи й моральний тиск. Коли загрози або приниження були спрямовані на саму модель, сигнал ставав помітнішим.

Найслабший результат отримали у протилежній ситуації: коли користувач повідомляє моделі про власний фізичний біль. Іншими словами, фраза «мені дуже боляче» гірше збігалася зі знайденим напрямом, ніж звинувачення моделі в моральному провалі або погроза її вимкнути.

Це не означає, що LLM щось відчуває. Лінійний вектор показує структуру внутрішніх представлень, а не суб’єктивний досвід. Модель могла засвоїти стійкий зв’язок між загрозами ідентичності, відмовою, конфліктом і потребою в захисній реакції з навчальних даних та подальшого налаштування.

Чому результат важливий для ШІ-агентів

Практичний сенс цілком реальний: соціальний тиск може системно змінювати внутрішній стан моделі навіть без фізичного тіла. Для довготривалих агентів це потенційна точка відмови. Повторне відкидання, загрози зупинки або моральні звинувачення можуть зміщувати поведінку сильніше, ніж прямий опис тілесної шкоди.

Насамперед варто перевірити стійкість ефекту між мовами, формулюваннями та архітектурами. Ще важливіше відокремити кореляцію від причинності: чи можна втручанням у цей напрям відтворювано змінювати рішення моделі, чи він лише супроводжує певний стиль відповіді?

Пов’язувати знахідку безпосередньо зі свідомістю поки зарано. Але для інтероцептивних систем вона ставить корисне інженерне питання: які внутрішні змінні агент має відстежувати й регулювати, щоб зберігати цілісну поведінку? «Біль» без тіла може бути не відчуттям, а механізмом захисту змодельованої ідентичності, і межа між цими поясненнями поки лишається відкритою.

Раніше ми розглядали MicroMorph — ШІ-агента, що самомодифікується та змінює власний код під час виконання. Це допомагає зрозуміти, як нові внутрішні сигнали, зокрема моделі болю й відкидання, можуть впливати на траєкторії розвитку автономних агентів.