Contexto técnico
Me sumergí en el análisis de Redwood y en el propio artículo porque el tema no es un juego: si los modelos pueden calcular dentro de tokens basura, la automatización con IA ya no puede juzgarse solo por la respuesta visible. Y sí, no es una metáfora bonita, sino un comportamiento observable en los modelos más recientes.
La idea central es simple. Se añade al prompt una cola sin sentido: puntos, signos, contadores, tokens vacíos. Los modelos antiguos casi siempre ignoraban esto, pero los modelos frontera más recientes, según Redwood y el paper "Reading Between the Dots", utilizan esas zonas como memoria de trabajo para cómputos intermedios ocultos.
Lo que me atrapó no fue la palabra filler en sí, sino el mecanismo. El modelo no está obligado a escribir una cadena de pensamiento externa, pero aun así puede empujar representaciones útiles a través de los estados ocultos en esas posiciones. Los autores muestran que este cálculo es parcialmente decodificable desde los estados internos: las capas tempranas extraen hechos y las tardías los combinan.
Las cifras tampoco son vacías. La precisión matemática sin CoT de Opus 4.5 saltó de ~45% al 51% con tokens de relleno; DeepSeek V3 ganó aún más en tareas específicas. Pero una salvedad importante: se trata más de profundidad computacional paralela que de razonamiento secuencial paso a paso.
Así que los tokens de relleno no convierten al transformer en una cinta infinita de pensamiento. Más bien dan al modelo un espacio extra para repartir subtareas, redistribuir activaciones y luego montar la respuesta. Para la interpretabilidad esto es a la vez elegante e inquietante.
Impacto en el negocio y la automatización
Para la implementación aplicada de IA, mi conclusión es contundente: el texto de razonamiento visible no equivale al razonamiento real. Si construyes verificaciones, barandillas o auditorías alrededor de “muestra tu razonamiento”, ese pilar acaba de debilitarse.
El segundo efecto es arquitectónico. La ingeniería de prompts y la integración de IA ya no dependen solo de instrucciones perfectas, sino también de cómo el contexto da espacio al modelo para cálculos internos. Esto puede elevar la calidad en tareas difíciles a la vez que rompe la previsibilidad y el coste de inferencia.
¿Quién gana? Los equipos que prueban modelos a nivel de comportamiento y trazas, no los que confían en un CoT bonito. ¿Quién pierde? Quienes venden “transparencia” basándose solo en el texto de salida. En Nahornyi AI Lab diseccionamos exactamente estas cuestiones en la práctica: dónde ayuda el cómputo oculto y dónde crea riesgo en las soluciones de IA para empresas.
Si tu automatización con IA ya corre en procesos críticos, no esperaría a la próxima sorpresa del modelo. Recorramos con calma tu pipeline, revisemos dónde el control es ilusorio y en Nahornyi AI Lab construyamos el desarrollo de soluciones de IA para que el sistema ahorre tiempo en lugar de introducir riesgos ocultos en el peor momento.