Anthropic : il ne faut pas interdire les modèles open-weight

Ce qu’Anthropic a précisé

La thèse principale est simple : Anthropic ne demande pas l’interdiction des modèles open-weight en tant que classe. Dans son document officiel, la Position sur les modèles à poids ouverts, l’entreprise écrit l’inverse : les modèles sans capacités dangereuses constituent un bien public, et il faut réguler les risques concrets.

Pour moi, l’important n’est pas tant la formulation sur l’open weight que le cadre. Anthropic trace la ligne non pas entre ouvert et fermé, mais entre des modèles relativement sûrs et des systèmes aux capacités de pointe susceptibles d’amplifier les abus.

Dans le même document, Dario Amodei cite trois mesures que l’entreprise juge raisonnables : des contrôles renforcés sur l’exportation de puces, des actions contre la distillation à l’échelle industrielle et des tests de sécurité obligatoires pour les modèles suffisamment performants, qu’ils soient ouverts ou fermés.

Et là, la position devient beaucoup plus nette. Auparavant, le débat se réduisait souvent à des slogans comme « l’ouvert est bon » ou « l’ouvert est dangereux », mais Anthropic formule un critère plus technique : on regarde les capacités, l’accès et les mauvais usages, pas l’idéologie de la licence.

Il est également révélateur que ce document ne comporte ni nouveau benchmark ni chiffre tape-à-l’œil, qui servent habituellement à masquer un message politique. Ce n’est pas une sortie de modèle, mais une tentative de redessiner la carte du débat pour que les régulateurs disposent de seuils et de déclencheurs, et non d’un bâton.

Pourquoi cela change la conversation

En bref : c’est un coup porté à l’idée d’une interdiction générale et, en même temps, un soutien à des politiques plus strictes là où un modèle est réellement dangereux. Cette position est commode pour les développeurs de modèles open-weight et pour les régulateurs qui ont besoin d’une règle pratique, pas d’un slogan.

Première conséquence pratique : le débat ne peut plus se réduire à « êtes-vous pour ou contre l’ouverture ? ». Si l’on adopte le cadre d’Anthropic, il faudra discuter des capacités à considérer comme dangereuses, de la mesure du seuil de capacité et de l’identité de l’organisme qui effectue les tests de sécurité avant la publication.

Deuxième conséquence pratique : l’accent est mis non seulement sur la publication des poids, mais aussi sur la chaîne de calcul. Les contrôles sur l’exportation de puces et la lutte contre la distillation à l’échelle industrielle signifient que la politique tournera autour du calcul et de la copie des capacités, et non plus seulement autour de la licence du modèle.

Ma conclusion est ennuyeuse, mais importante : ce n’est ni une capitulation devant le camp de l’open-weight ni une attaque contre lui. C’est une tentative d’imposer la régulation fondée sur les capacités comme langage de toute la discussion. Et désormais, la question la plus inconfortable ne sera pas « ouvrir ou ne pas ouvrir », mais qui décide, et sur quels tests, qu’un modèle a franchi un seuil dangereux.

Nous avons précédemment analysé comment Anthropic a rétabli la transparence après le scandale en supprimant les dégradations cachées de la qualité des requêtes. Cette démarche est directement liée à leur position actuelle sur les modèles open-weight.