Contexto Técnico
Me interesé en esta discusión no por la elegancia de la formulación, sino porque afecta directamente el costo y la calidad de la automatización con IA. Cuando un agente arrastra toda la basura del historial, no piensa mejor. Simplemente comete errores más caros.
La idea en sí es simple: al comprimir, primero conservo los invariantes, luego extraigo la esencia con alta densidad de información y, para las partes complejas, muestro un ejemplo en lugar de una larga explicación. Es decir, no recuento todo el plan, sino que preservo lo que no se puede romper, lo que afecta la decisión en este momento y cómo debería ser un buen resultado.
Y aquí es donde entiendo a ambas partes de la disputa. Si el plan es defectuoso desde el principio, realmente puedes terminar con cientos de líneas de código desechado. Pero una revisión detallada de cada plan también puede convertirse fácilmente en un sumidero de tokens, donde el agente gasta contexto en la introspección en lugar de trabajar.
En la práctica, separaría dos capas. La primera, la capa permanente: objetivos, limitaciones, prohibiciones arquitectónicas, supuestos críticos. Estos son los invariantes. La segunda, la capa efímera: el paso actual, decisiones controvertidas, señales recientes de los registros, fallos que no deben repetirse.
Interpreto la parte sobre 'alta perplejidad' desde un punto de vista de ingeniería, sin romanticismo. Hay que conservar no lo 'más inteligente', sino lo más raro y útil: un error inesperado, una limitación oculta de la API, un conflicto de requisitos, el costo de un error. El agente generará todo lo trivial por sí mismo. Olvidará primero todo lo inusual.
Y 'Mostrar, no contar' funciona de maravilla en los prompts. En lugar de decir 'escribe de forma breve y al grano', prefiero dar un mini-ejemplo de buena compresión. El modelo capta el formato más rápido y yo obtengo menos divagación estilística y menos palabrería abstracta.
Si observamos las investigaciones sobre compresión extractiva, la lógica es la misma: seleccionar fragmentos importantes suele ser más fiable que reformularlos con un resumen abstracto. Esto es especialmente notable en las cadenas de agentes, donde cualquier generalización imprecisa puede romper el plan más adelante.
Impacto en el Negocio y la Automatización
Para la producción, hay tres efectos directos. Primero: ejecuciones largas más baratas, porque se reducen los tokens sin un recorte ciego. Segundo: menos 'perdido en el medio', cuando el agente olvida un hecho crítico en algún punto intermedio de su historial. Tercero: una integración de IA más fácil en procesos reales, donde el contexto es constantemente ruidoso.
Los equipos con flujos de trabajo largos son los que más se benefician: desarrollo, soporte, auditoría, procesamiento de documentos. Pierden aquellos que creen que una gran ventana de contexto por sí sola reemplaza la arquitectura de IA.
En Nahornyi AI Lab, nos encontramos constantemente con estos cuellos de botella: dónde almacenar invariantes, qué comprimir de forma extractiva y qué no se puede cortar en absoluto. Si su agente ya está quemando el presupuesto pero sigue perdiendo el hilo de la tarea, analicemos su caso y diseñemos una solución de IA para que el modelo finalmente funcione en lugar de solo consumir tokens.