Nemotron 3.5 Lightning: 30B MoE für Agenten
nvidianemotronagentic-ai
Was NVIDIA genau veröffentlicht hat
NVIDIA hat nicht ein weiteres Fast-Frontier-Modell veröffentlicht, sondern eine schnelle Ausführungsschicht für Agenten: Nemotron 3.5 Lightning, ein offenes 30B MoE-Modell mit 3B aktiven Parametern. Im offiziellen Developer-Blog von NVIDIA und auf der NGC-Modellkarte wird es als Modell für die hochvolumige Ausführung in langlaufenden Agenten beschrieben.
Der Sinn von MoE ist hier recht direkt: Gesamtgröße 30B, aber pro Inferenzschritt sind nur 3B Parameter aktiv. Für agentische Systeme ist das wichtiger, als es klingt, denn ein Agent macht oft nicht eine große Anfrage, sondern Hunderte kleiner Aufrufe: klassifizieren, ein Feld extrahieren, Zustand prüfen, einen engen Schritt ausführen.
Die NGC-Karte nennt die Architektur LatentMoE: ein Hybrid aus Mamba-2, MoE und Attention. Das ist eine interessante Mischung gerade für die Ausführung, wo man nicht nur Qualität bei einzelnen Aufgaben, sondern auch ordentlichen Durchsatz über lange Ketten braucht.
Zur Ankündigung beansprucht NVIDIA bis zur 4-fachen Inferenzgeschwindigkeit gegenüber Modellen ähnlicher Größe. Ich würde das als Herstellerangabe im Kopf behalten, nicht als unabhängiges physikalisches Gesetz: Solche Zahlen hängen immer von Hardware, Batching, Kontextlänge und Aufgabenart ab.
Der ungewöhnlichste Teil der Veröffentlichung ist die Offenheit des Pakets. Laut NVIDIA-Materialien werden Gewichte, Daten und Rezepte unter OpenMDW-1.1 veröffentlicht, und die NGC-Karte spricht ausdrücklich von kommerzieller Nutzbarkeit. Für offene Agenteninfrastruktur ist das stärker, als nur Gewichte hinzuwerfen und zu verschwinden.
Die Hauptverschiebung liegt nicht in der Intelligenz, sondern im Ausführungszyklus
Diese Veröffentlichung ändert das Spiel nicht für den Top-Level-Planer, sondern für die billige und häufige Ausführung von Teilaufgaben. Im NVIDIA-Hub wird explizit ein Szenario beschrieben, in dem Lightning die Massenausführung übernimmt, während stärkere Modelle für die komplexe Planung über NeMo Switchyard bleiben.
Und hier wurde es interessant: Ein Agentensystem scheitert nicht nur am Reasoning, sondern auch an den Kosten jedes zusätzlichen Schrittes. Ist der Executor langsam, wirkt der Agent nur in Demos intelligent, während er in der realen Schleife zur Token-Heizung wird.
Die Unterstützung durch OpenClaw, Hermes Agent und den NeMoClaw-Stack zeigt, dass NVIDIA nicht auf Einzelchats, sondern auf die Runtime-Schicht zielt. Das ist der richtige Ansatzpunkt: Ein spezialisierter Executor sollte langweilig, schnell und vorhersagbar sein.
Was ich als Erstes prüfen würde, ist nicht der schöne Durchsatz, sondern die Stabilität bei gleichartigen Aufgaben mit Zustandsfehlern. 4-fache Geschwindigkeit hilft wenig, wenn der Agent schneller in einem schlechten Teilschritt hängen bleibt. Nemotron 3.5 Lightning sieht aus wie ein praktischer Baustein für Agentensysteme, aber sein Haupttest wird nicht in einer Benchmark-Tabelle stattfinden, sondern in einer langen, schmutzigen Ausführungsschleife.