Anthropic: Open-Weight-Modelle sollten nicht verboten werden

Was Anthropic genau festgestellt hat

Die Hauptthese ist einfach: Anthropic fordert kein Verbot von Open-Weight-Modellen als Klasse. In seinem offiziellen Material, der Stellungnahme zu Open-Weight-Modellen, schreibt das Unternehmen das Gegenteil: Modelle ohne gefährliche Fähigkeiten sind ein öffentliches Gut, und es müssen konkrete Risiken reguliert werden.

Für mich ist nicht die Formulierung zu Open Weight entscheidend, sondern der Rahmen. Anthropic zieht die Linie nicht zwischen offen und geschlossen, sondern zwischen relativ sicheren Modellen und frontierfähigen Systemen, die Missbrauch verstärken können.

Im selben Dokument nennt Dario Amodei drei Maßnahmen, die das Unternehmen für vernünftig hält: strengere Exportkontrollen für Chips, Maßnahmen gegen industrielles Destillieren und verpflichtende Sicherheitstests für ausreichend leistungsfähige Modelle, unabhängig davon, ob sie offen oder geschlossen sind.

Und hier wird die Position viel klarer. Wurde die Debatte früher oft auf Slogans wie „offen gut“ oder „offen gefährlich“ reduziert, formuliert Anthropic ein eher ingenieurmäßiges Kriterium: Wir schauen auf Fähigkeit, Zugang und Missbrauch, nicht auf die Lizenzideologie.

Bezeichnend ist auch, dass dieses Dokument keinen neuen Benchmark oder eine schicke Zahl enthält, mit der sonst eine politische Botschaft verkleidet wird. Das ist keine Modellveröffentlichung, sondern der Versuch, die Debattenkarte neu zu zeichnen, damit die Regulierer keine Keule, sondern eine Reihe von Schwellenwerten und Auslösern haben.

Warum das die Diskussion verändert

Kurz gesagt: Das ist ein Schlag gegen die Idee eines pauschalen Verbots und gleichzeitig eine Unterstützung für strengere Maßnahmen dort, wo ein Modell wirklich gefährlich ist. Diese Haltung ist sowohl für Entwickler von Open-Weight-Modellen als auch für Regulierer komfortabel, die eine Arbeitsregel statt eines Slogans brauchen.

Erste praktische Konsequenz: Die Debatte lässt sich nun nicht mehr auf „Bist du für oder gegen Offenheit?“ reduzieren. Übernimmt man den Rahmen von Anthropic, muss man diskutieren, welche Fähigkeiten als gefährlich gelten, wie man ausreichende Fähigkeit misst und wer die Sicherheitstests vor der Veröffentlichung durchführt.

Zweite praktische Konsequenz: Im Fokus steht nicht mehr nur die Veröffentlichung der Gewichte, sondern auch die Rechenkette. Chip-Exportkontrollen und der Kampf gegen industrielles Destillieren bedeuten, dass sich die Politik um Rechenleistung und das Kopieren von Fähigkeiten drehen wird, nicht nur um die Modelllizenz.

Mein Fazit ist langweilig, aber wichtig: Das ist weder eine Kapitulation vor dem Open-Weight-Lager noch ein Angriff darauf. Es ist der Versuch, eine fähigkeitsbasierte Regulierung als Sprache der gesamten Diskussion zu etablieren. Und die unangenehmste Frage wird in Zukunft nicht sein: „Öffnen oder nicht öffnen?“, sondern: Wer entscheidet und anhand welcher Tests, dass ein Modell eine gefährliche Schwelle überschritten hat?

Wir haben bereits untersucht, wie Anthropic nach dem Skandal Transparenz wiederherstellte, indem versteckte Qualitätsminderungen bei Abfragen aufgehoben wurden. Dieser Schritt hängt direkt mit ihrer aktuellen Position zu Open-Weight-Modellen zusammen.