Anthropic: моделі з відкритими вагами не слід забороняти

Що саме Anthropic зафіксувала

Головна теза тут проста: Anthropic не закликає заборонити моделі з відкритими вагами як клас. В офіційному матеріалі, Позиція щодо моделей з відкритими вагами, компанія пише протилежне: моделі без небезпечних можливостей є суспільним благом, а регулювати слід конкретні ризики.

Для мене найважливіше не саме формулювання про відкриті ваги, а рамка. Anthropic проводить межу не між відкритим і закритим, а між відносно безпечними моделями та системами з передовими можливостями, здатними посилити зловживання.

У тому ж документі Даріо Амодей називає три заходи, які компанія вважає розумними: жорсткіший експортний контроль за чипами, дії проти промислової дистиляції та обов’язкове тестування безпеки для достатньо потужних моделей, незалежно від того, відкриті вони чи закриті.

І ось тут позиція стала набагато чистішою. Якщо раніше суперечка часто зводилася до гасел «відкрите – добре» або «відкрите – небезпечно», то Anthropic формулює більш інженерний критерій: дивимося на спроможність, доступ і зловживання, а не на ідеологію ліцензування.

Окремо показово, що в цьому документі немає нового бенчмарка чи гарної цифри, якими зазвичай прикривають політичний меседж. Це не реліз моделі, а спроба перемалювати карту суперечки так, щоб у регуляторів був не кийок, а набір порогів і тригерів.

Чому це змінює розмову

Коротко: це удар по ідеї загальної заборони і водночас підтримка жорсткішої політики там, де модель справді небезпечна. Така позиція зручна і для розробників моделей з відкритими вагами, і для регуляторів, яким потрібне не гасло, а робоче правило.

Перший практичний наслідок: суперечку тепер складніше звести до «ви за відкритість чи проти». Якщо прийняти рамку Anthropic, доведеться обговорювати, які саме можливості вважати небезпечними, як виміряти достатню спроможність і хто проводить тестування безпеки до релізу.

Другий практичний наслідок: у фокусі опиняється не лише публікація ваг, а й ланцюжок обчислень. Експортний контроль чипів та боротьба з промисловою дистиляцією означають, що політика буде обертатися навколо обчислювальних ресурсів і копіювання можливостей, а не лише навколо ліцензії на модель.

Мій висновок нудний, але важливий: це не капітуляція перед табором відкритих ваг і не атака на нього. Це спроба закріпити регулювання на основі можливостей як мову всієї дискусії. І далі найнеприємніше питання буде не «відкривати чи не відкривати», а хто і за якими тестами вирішує, що модель уже перетнула небезпечний поріг.

Раніше ми розбирали, як Anthropic відновила прозорість після скандалу, скасувавши приховані зниження якості запитів. Цей крок напряму пов’язаний із їхньою нинішньою позицією щодо моделей з відкритими вагами.