Inkling 2 Small: ein „kleines“ Modell mit 594 Milliarden Parametern

„Klein“ ist hier nur der aktive Anteil

Bei Inkling 2 Small fällt weniger die Größe auf als das Spiel mit dem Wort small. Thinking Machines AI beschreibt Inkling 2 Small in der Ankündigung und Modellkarte als multimodales Open-Weight-Modell mit 594 Milliarden Parametern, von denen pro Token nur 17 Milliarden aktiv sind.

Es handelt sich um eine Sparse-Mixture-of-Experts-Architektur: Ein Token wird an 8 von 384 Experten weitergeleitet. Die Architektur basiert auf einem 48-schichtigen Decoder-only-Transformer mit hybrider lokaler und globaler Attention. Die Idee ist klar: eine große Gesamtkapazität behalten, ohne bei jedem Token alle Parameter berechnen zu müssen.

17 Milliarden aktive Parameter bedeuten jedoch nicht, dass sich das Modell wie ein gewöhnliches kompaktes 17B-Modell bereitstellen lässt. Die vollständigen 594 Milliarden Gewichte müssen weiterhin gespeichert oder auf Geräte verteilt werden. Der Rechenvorteil pro Token geht daher mit hohen Anforderungen an Speicher, Expertenrouting und Kommunikation zwischen Servern einher.

Das Modell verarbeitet Text und Bilder; das angegebene Kontextfenster liegt bei rund 1 Million Tokens. Der Reasoning-Aufwand ist konfigurierbar, und die veröffentlichten Bewertungen wurden mit dem als xhigh bezeichneten Wert 0,99 durchgeführt. Das ist ein wichtiger Punkt: Qualität lässt sich nicht vom Rechenbudget und von der Antwortlänge trennen.

In der Modellkarte stehen 82,2 % bei SWEBench Verified, 85,1 % bei Terminal-Bench 2.1 und 81,6 % bei MMMU Pro. Dabei handelt es sich um vom Entwickler gemeldete Ergebnisse, und Inkling 2 Small führt nicht jeden Vergleich an. Mit Stand vom 6. November 2026 bleibt eine unabhängige Überprüfung besonders wichtig.

Sparsity garantiert keine günstige Endantwort

Die praktische Kernaussage lautet: Inkling 2 Small kann den Rechenaufwand für einen einzelnen Token reduzieren, aber nicht zwingend die Kosten einer vollständigen Aufgabe. Laut den veröffentlichten Daten erzeugte das Modell durchschnittlich etwa 150.000 Output-Tokens pro Aufgabe – ungefähr viermal so viele wie sein Vorgänger Inkling Small.

An diesem Punkt wirkt die Rechnung weniger beeindruckend. Wenn sich das Reasoning ausdehnt, wird der Vorteil von 17 Milliarden aktiven Parametern teilweise durch lange Trajektorien, Kontextverarbeitung und die Infrastruktur für 594 Milliarden Gewichte aufgezehrt. Ich würde zuerst auf die Gesamtkosten einer abgeschlossenen Aufgabe und die Latenz bis zu einem brauchbaren Ergebnis schauen.

Für Forschende und Teams mit verteilter Infrastruktur ist das Modell durchaus interessant: offene Gewichte, Bilder, langer Kontext und starke gemeldete Coding-Ergebnisse bieten Spielraum für Anpassungen. Für lokale oder kostengünstige Inferenz ist das Wort Small dagegen irreführend. Es ist kein kleines Modell, sondern ein großes Modell, das gelernt hat, sich nur teilweise einzuschalten.

Zuvor haben wir Pony Alpha auf OpenRouter analysiert – vermutlich GLM-5 mit 200K Kontext und Möglichkeiten für sicheres Testen. Dieser Fall ergänzt die Bewertung von Inkling 2 Small, wenn neue Modelle nach Kontextfenster und Einsatzszenarien mit Alternativen verglichen werden.