Muse Glimmer 30B cabe en 24 GB de VRAM

Qué es exactamente lo que publicaron

Muse Glimmer 30B llama la atención no por ser otro modelo grande, sino porque Meta lo posiciona en la publicación de lanzamiento y en la tarjeta de Hugging Face como un modelo local abierto para codificación agéntica. La tarjeta indica 30 mil millones de parámetros, Apache 2.0, fecha de lanzamiento August 2026 y contexto de 131,072+ tokens.

Los pesos abiertos están en Hugging Face, y alrededor del lanzamiento aparece una cuantización de 17 GB para ejecutarlo en dispositivos con 24 GB de memoria. Esa es la frontera práctica: no un rack de servidores, no la factura de la nube, sino un nodo local potente.

El modelo también es multimodal, con foco en codificación agéntica. La apuesta no es solo autocompletar código, sino trabajar en modo agente: leer contexto, sostener una tarea larga, invocar herramientas y volver al parche. Aquí los 131k tokens no son un lujo, sino un seguro contra el recorte constante del repositorio.

Los benchmarks lucen fuertes, pero sin magia

El sentido de los benchmarks es simple: Glimmer ya no parece un modelo local de segunda categoría. En las comparaciones declaradas de codificación agéntica, supera con claridad a Gemma4-31B y queda aproximadamente a la par de Qwen3.6-27B: Glimmer es mejor en SWE-Bench Pro y Qwen es más fuerte en Terminal-Bench.

Por separado, la documentación de NVIDIA para Muse Glimmer menciona SWE-Bench Verified 76.0. Es un punto útil en el mapa, pero yo no lo convertiría en una cifra de culto: los agentes de código fallan no solo al resolver tareas, sino también en iteraciones largas, dependencias sucias y mal uso de herramientas.

La afirmación más llamativa sobre velocidad viene de un pequeño modelo auxiliar para acelerar la generación. Con él, para Glimmer se mencionan 233 tokens por segundo en una RTX 5090, 50 en M5 Max y 38 en M4 Max. Suena bien, pero en el trabajo real importa menos el pico de tokens y más cuántos de esos tokens sobreviven a la revisión.

Qué cambia para la codificación local

El cambio principal: 24 GB de VRAM se vuelven una clase de hardware normal para un agente de código local serio. No para un chatbot de juguete junto al editor, sino para un modelo con pesos abiertos, contexto largo y licencia Apache 2.0.

Para mí, lo importante es la combinación de licencia, tamaño y cuantización. Si el modelo puede ejecutarse localmente, mantenerse cerca del código privado y no chocar de inmediato con una API en la nube, los experimentos de ingeniería se vuelven mucho más tranquilos.

Pero el punto débil no desapareció: la agencia. La ejecución local no garantiza ediciones cuidadosas, comandos seguros ni un trabajo fluido con un repositorio grande. La pregunta ya no es si un modelo local puede escribir código, sino cuánta autonomía podemos confiarle sin una cuerda de seguridad.

Pydantic Monty resuelve el problema de ejecutar de forma segura el código generado por LLM mediante un intérprete de Python aislado y sin contenedores. Para un agente de código local como Muse Glimmer 30B, esto cierra directamente la cuestión del entorno de ejecución del código generado.