Self-hosted Qwen und Gemma: Grenzen komplexen Codings

Wo selbst gehostete Modelle bereits funktionieren — und wo sie stocken

Ich würde „das Modell schreibt Code“ nicht mit „das Modell bewältigt Systementwicklung“ gleichsetzen. In der ursprünglichen Diskussion beschreibt ein Entwickler ein Jahr Erfahrung mit eigenen Lösungen auf Basis von Qwen und Gemma: Für gewöhnliche Aufgaben sind sie brauchbar, komplexes Coding bleibt jedoch eine Schwachstelle.

Im November 2026 geht es nicht mehr um die grundsätzliche Tragfähigkeit selbst gehosteter Coding-Assistenten. Der Schwerpunkt liegt auf der Qualität bei langen Aufgaben: einen Plan über Dateien hinweg beizubehalten, interne Konventionen zu verstehen, mit dem Terminal zu arbeiten und fehlgeschlagene Patches zu korrigieren, ohne den Kontext zu verlieren.

Die Unterlagen des Qwen-Teams zu Qwen3-Coder beschreiben die Flaggschiffkonfiguration als MoE-Modell mit 480 Milliarden Parametern, von denen 35 Milliarden aktiv sind. Genannt wurden rund 67 % auf SWE-bench Verified bei Standardbewertung und 69,6 % im Modus mit bis zu 500 Schritten. Das ist ein starkes Ergebnis, macht das Modell aber nicht zu einem kompakten lokalen Werkzeug: Gewichte zu speichern, Speicher und Bandbreite bereitzustellen und den Stack zu betreiben, wird selbst zu einem Infrastrukturprojekt.

Bei Gemma ist die Bereitstellung einfacher, doch für die Reparatur großer Repositories gibt es weniger belastbare Nachweise. Ein kleines Modell kann bei Codesuche, Dokumentation, SQL, Tests und begrenztem Refactoring sehr hilfreich sein. Ohne interne Bewertung würde ich diesen Erfolg nicht auf Kernel, verteilte Systeme oder komplexe Infrastruktur übertragen.

Es gibt noch eine weniger offensichtliche Grenze: Ein selbst gehostetes Modell bedeutet nicht automatisch selbst gehostete Sicherheit. Der Agent benötigt weiterhin Shell-Zugriff, Build-Werkzeuge, Container, Abhängigkeiten und Zugangsdaten. Ein Fehler in diesem Umfeld kann gefährlicher sein als eine schlechte Autovervollständigung.

Warum die Herkunft des Modells für Banken nicht der wichtigste Test ist

Für eine Bank zählt nicht der Pass des Modells, sondern die Kontrollierbarkeit der gesamten Umgebung. Die chinesische Herkunft von Qwen beweist für sich genommen weder Eignung noch Nichteignung: Lizenz, Herkunft von Gewichten und Abhängigkeiten, Datenflüsse, Jurisdiktionsrisiken und interne Regeln für Drittanbieter müssen geprüft werden.

Ein praxisnahes Design ist bewusst konservativ: Das Modell schlägt Änderungen in einer isolierten Umgebung vor, statt einen direkten Weg in die Produktion zu erhalten. Erforderlich sind kurzlebige Zugangsdaten, Netzwerk- und Befehlsbeschränkungen, unveränderbare Protokolle, Secret-Scanning und eine verpflichtende menschliche Prüfung.

Mein technisches Fazit ist einfach: Qwen wirkt bereits wie ein ernsthafter Kandidat für private Repository-Arbeit, während Gemma eine sinnvolle Option für engere Aufgaben bleibt. Die wirkliche Grenze verläuft jedoch nicht zwischen offenen und geschlossenen Modellen, sondern zwischen einem ansehnlichen Patch und einer reproduzierbar sicheren Systemänderung.

Zuvor haben wir Rust LocalGPT vorgestellt: einen lokalen Assistenten als einzelne Binärdatei für die Bereitstellung direkt auf dem Gerät, mit persistentem Speicher und HTTP-API. Seine praktischen Kompromisse zeigen, wo selbst gehostete Modelle sinnvoll bleiben, bevor Coding-Workloads zu anspruchsvoll werden.