Contexto técnico
Me enganchó de inmediato esta cifra: solo 364M parámetros. Para mí no es una anomalía curiosa de X, sino una cuestión práctica sobre la automatización con IA en un dispositivo donde cada megabyte de memoria y cada milisegundo de latencia realmente importan.
La fuente inicial aún es débil: un breve post de Hugo Thomel y casi cero detalles confirmados. A 16 de julio de 2026, no veo un comunicado oficial con especificaciones, así que tomo la noticia como una señal temprana, no como un hecho definitivo.
Con alta probabilidad hablamos de un modelo del nivel SmolLM2-364M o una arquitectura similar de la misma línea de LLMs compactos. Lo más interesante no es el número de parámetros en sí, sino cómo lograron esa relación tamaño-calidad: mediante destilación, datos, régimen de entrenamiento o una nueva composición de bloques.
Ahí es donde indagaría primero. Si el modelo realmente se mantiene cerca de la clase 1B+ en ciertas tareas, significa que o seleccionaron con mucho acierto los tokens y el currículo, o exprimieron al máximo la destilación profesor-alumno, o mejoraron significativamente la eficiencia de inferencia, logrando no solo más inteligencia sino también un menor coste de ejecución.
Para escenarios en dispositivo, esta es una escala casi perfecta. 364M ya parece un tamaño que se puede empaquetar cuidadosamente en un asistente local, un copiloto integrado, búsqueda offline, clasificación, resumen y casos de borde concretos sin tener que ir constantemente a la nube.
Lo que esto cambia para empresas y automatización
Si la señal se confirma, ganarán los equipos que no necesitan un «sabelotodo» universal sino un ejecutor rápido y barato para un proceso específico. Piensa en soporte, aplicaciones de campo, asistentes internos, dispositivos de venta, terminales de producción.
Perderán los grandes pipelines en la nube que se mantenían por inercia. No en todas partes, desde luego, pero parte de la integración de IA podrá acercarse al dispositivo, reduciendo drásticamente la latencia, el tráfico y el coste total de propiedad.
No convertiría esto en magia. Un modelo pequeño igual exige ingeniería rigurosa: cuantización, evaluación para tu dominio, protección contra la degradación de calidad, enrutamiento entre el circuito local y el de la nube. En Nahornyi AI Lab resolvemos precisamente este tipo de cosas cuando el desarrollo de soluciones de IA no se topa con una demo, sino con limitaciones reales de hardware y presupuesto.
Si tienes un proceso que se frena por la inferencia en la nube o por requisitos de privacidad, examinémoslo sin fanatismo. A veces, en lugar de una plataforma costosa, basta con armar correctamente la automatización con IA para tu escenario, y en Nahornyi AI Lab comprobaré rápidamente contigo si un modelo compacto de nivel 364M puede con ello.