Anthropic: no se deben prohibir los modelos de peso abierto

Qué ha fijado exactamente Anthropic

La tesis principal aquí es simple: Anthropic no pide prohibir los modelos de peso abierto como clase. En su material oficial, la Declaración sobre Modelos de Peso Abierto, la empresa escribe lo contrario: los modelos sin capacidades peligrosas son un bien público, y lo que hay que regular son los riesgos concretos.

Para mí, lo más importante no es la formulación sobre open weights, sino el marco. Anthropic traza la línea no entre abierto y cerrado, sino entre modelos relativamente seguros y sistemas con capacidad de frontera que pueden amplificar el uso indebido.

En el mismo documento, Dario Amodei menciona tres medidas que la compañía considera razonables: controles de exportación de chips más fuertes, acciones contra la destilación a escala industrial y pruebas de seguridad obligatorias para modelos suficientemente capaces, ya sean abiertos o cerrados.

Y aquí la posición se vuelve mucho más clara. Si antes el debate solía reducirse a consignas como “abierto es bueno” o “abierto es peligroso”, Anthropic formula un criterio más ingenieril: miramos la capacidad, el acceso y el uso indebido, no la ideología de la licencia.

También es revelador que este documento no contenga un nuevo benchmark ni una cifra llamativa, que suelen disfrazar mensajes políticos. No es el lanzamiento de un modelo, sino un intento de redibujar el mapa del debate para que los reguladores tengan un conjunto de umbrales y disparadores, no un garrote.

Por qué esto cambia la conversación

En resumen: esto es un golpe a la idea de una prohibición generalizada y al mismo tiempo respalda políticas más estrictas allí donde un modelo es realmente peligroso. Esta postura conviene tanto a los desarrolladores de modelos de peso abierto como a los reguladores que necesitan una regla práctica, no un eslogan.

Primera consecuencia práctica: el debate ya no puede reducirse a “¿estás a favor o en contra de la apertura?”. Si adoptamos el marco de Anthropic, tendremos que discutir qué capacidades se consideran peligrosas, cómo medir la capacidad suficiente y quién realiza las pruebas de seguridad antes del lanzamiento.

Segunda consecuencia práctica: el foco ya no está solo en la publicación de los pesos, sino también en la cadena de cómputo. Los controles de exportación de chips y la lucha contra la destilación a escala industrial significan que la política girará en torno al cómputo y a la copia de capacidades, no solo a la licencia del modelo.

Mi conclusión es aburrida pero importante: esto no es una capitulación ante el campo del peso abierto ni un ataque contra él. Es un intento de consolidar la regulación basada en capacidades como el lenguaje de toda la discusión. Y en adelante, la pregunta más incómoda no será “abrir o no abrir”, sino quién decide y con qué pruebas que un modelo ya ha cruzado un umbral peligroso.

Anteriormente examinamos cómo Anthropic restauró la transparencia tras el escándalo, eliminando las reducciones ocultas de calidad en las consultas. Este paso está directamente ligado a su postura actual sobre los modelos open-weight.