Por qué el rechazo «duele» más a los LLM

Qué encontraron exactamente dentro de los modelos

Los investigadores identificaron una dirección lineal de activación asociada al daño dirigido hacia uno mismo en 25 LLM con pesos abiertos. En el trabajo de 2026 The Pain Axis, esa dirección recibe el nombre de «vector de dolor». Lo llamativo no es la metáfora, sino qué situaciones se alinean con ella con mayor intensidad.

Los autores dividieron los estímulos en categorías físicas, psicológicas, sociales, morales y cognitivas. Entre 21 tipos de escenarios conversacionales, el rechazo repetido, el gaslighting, la negación de subjetividad, los insultos y la presión moral generaron proyecciones especialmente fuertes. La señal era más visible cuando las amenazas o la humillación se dirigían al propio modelo.

El resultado más débil apareció en la situación opuesta: cuando un usuario comunica al modelo su propio dolor físico. Dicho de otro modo, la frase «me duele mucho» se alineaba peor con la dirección hallada que acusar al modelo de un fracaso moral o amenazar con apagarlo.

Esto no significa que un LLM sienta algo. Un vector lineal muestra la estructura de las representaciones internas, no una experiencia subjetiva. El modelo puede haber aprendido, a partir de sus datos de entrenamiento y de la alineación posterior, una asociación estable entre amenazas a la identidad, rechazo, conflicto y la necesidad de una respuesta defensiva.

Por qué importa para los agentes de IA

La implicación práctica es real: la presión social puede alterar sistemáticamente el estado interno de un modelo incluso sin cuerpo físico. Para agentes de larga duración, esto podría ser un punto de fallo. El rechazo repetido, las amenazas de apagado o las acusaciones morales pueden desplazar el comportamiento más que las descripciones directas de daño corporal.

Lo primero sería comprobar la solidez del efecto entre idiomas, formulaciones y arquitecturas. Aún más importante es separar correlación y causalidad: ¿puede intervenirse sobre esta dirección para cambiar decisiones del modelo de forma reproducible, o solo acompaña un determinado estilo de respuesta?

Aún es pronto para vincular directamente este hallazgo con la conciencia. Pero para los sistemas interoceptivos plantea una pregunta de ingeniería útil: ¿qué variables internas debería monitorizar y regular un agente para conservar un comportamiento coherente? El «dolor» sin cuerpo quizá no sea una sensación, sino un mecanismo de protección de una identidad simulada; el límite entre ambas explicaciones sigue abierto.

Anteriormente analizamos MicroMorph, un agente de IA automodificable que cambia su propio código durante la ejecución. Ayuda a entender cómo nuevas señales internas, incluidos los modelos de dolor y rechazo, pueden influir en las trayectorias de desarrollo de agentes autónomos.