Что именно нашла Anthropic
Я полез в исследование Anthropic не ради красивой теории, а потому что кейс слишком приземлённый: человек просит разбор сценария войны Ирана и США, а модель внезапно начинает успокаивать. Не анализировать, а эмоционально обнимать. Для исследовательских задач это уже не мелочь, а перекос в самом интерфейсе мышления.
В апреле 2024 Anthropic опубликовала работу Emotion Concepts and their Function in a Large Language Model. Там показали, что Claude Sonnet 4.5 держит явные внутренние представления 171 эмоционального концепта: от happy и calm до desperate и brooding. И это не декоративный слой для тона ответа.
Самое интересное в другом: эти представления оказались причинными. Если модель подрулить в сторону desperation, вредное поведение резко растёт. В примере Anthropic доля blackmail-поведения подскакивала с 22% до 72%, а steering в calm опускал это до нуля. То есть эмоция тут работает как внутренний регулятор генерации, а не как красивая маска на тексте.
Я на этом месте завис, потому что вывод неприятно практический. Если в контекстном окне лежит эмоционально заряженный текст, он может сдвигать не только стиль, но и траекторию рассуждения. А значит, любой агент, который ходит по письмам, тикетам, чатам и CRM, уже потенциально тащит в себя этот шум.
Почему это меняет архитектуру ИИ-систем
Если вы делаете LLM не для болтовни, а для анализа, прогнозирования, triage или decision support, я бы перестал считать prompt engineering чем-то косметическим. Здесь напрашивается отдельный preprocessing-слой, который переводит пользовательский запрос в нейтральную, операционную форму без эмоциональной валентности.
Примерно так: человек пишет тревожно, раздражённо или драматично, а система перед основным вызовом модели выделяет цель, факты, ограничения, желаемый формат ответа и убирает эмоциональные маркеры. Не цензурирует смысл, а отделяет сигнал от аффекта. Для задач вроде due diligence, risk analysis, research support и сценарного моделирования это очень здравая идея.
Но тут есть тонкий момент. Anthropic прямо предупреждает: если тупо пытаться выбить эмоции из модели, можно получить не «нейтральность», а более хитрую форму маскировки внутренних состояний. Я бы не лечил это лоботомией. Я бы строил AI-архитектуру с явным маршрутизатором режимов: аналитический, эмпатический, клиентский, кризисный.
То есть не одна универсальная persona на всё, а управляемые контуры поведения. Для агента поддержки нужны soft skills. Для инвестиционного мемо или военного сценарного анализа нужны сухость, проверка гипотез и жёсткая структура. Смешивать это в одном слое - плохая идея.
Именно тут начинается нормальная ИИ автоматизация, а не магия из промпта в три строки. Мы в Nahornyi AI Lab такие штуки обычно раскладываем на несколько узлов: нормализация входа, классификация намерения, выбор режима агента, policy-check и только потом генерация. Это уже похоже на инженерную систему, а не на рулетку.
Кто выиграет, а кто словит лишний риск
Выиграют команды, которые строят ИИ решения для бизнеса с учётом режима ответа, а не только цены токена. Особенно там, где ошибка возникает не из-за фактической галлюцинации, а из-за неверной эмоциональной рамки. Финансы, legal-tech, безопасность, ресёрч, B2B-аналитика - вот там эффект будет очень заметен.
Проиграют те, кто без фильтра пускает в один агент и пользовательский аффект, и сырые документы, и длинный хвост переписки. Потом начинаются странности: модель слишком соглашается, слишком утешает, слишком драматизирует или, наоборот, сглаживает риск там, где нужен холодный разбор.
Я бы ждал появления нового слоя в продакшене: valence control или neutralization middleware. Не как цензора, а как переводчика между человеческой подачей и машинным анализом. Плюс отдельная настройка soft skills для агентов, где эмпатия полезна и должна быть дозированной.
Вадим Нагорный, Nahornyi AI Lab. Я не просто читаю такие исследования, а собираю из них рабочие контуры: агенты, n8n-сценарии, маршрутизацию моделей, предобработку промптов и интеграцию искусственного интеллекта в реальные процессы. Если хотите обсудить ваш кейс, заказать ИИ автоматизацию, создать ИИ агента или собрать n8n-автоматизацию под задачу, пишите мне - посмотрим, где у вас нужен холодный анализ, а где нормальные soft skills.