Inkling 2 Small: «мала» модель із 594 млрд параметрів

«Малою» тут є лише активна частина

У Inkling 2 Small привертає увагу не розмір, а гра зі словом small. В анонсі та картці моделі Thinking Machines AI описує Inkling 2 Small як мультимодальну open-weight модель із 594 млрд параметрів, але на кожному токені працюють лише 17 млрд.

Це sparse Mixture-of-Experts: токен спрямовується до 8 із 384 експертів. Архітектура побудована як 48-шаровий decoder-only Transformer із гібридною локальною та глобальною увагою. Ідея зрозуміла: зберегти велику сукупну місткість, не оплачуючи обчислення всіх параметрів для кожного токена.

Проте 17 млрд активних параметрів не означають, що модель можна розгорнути як звичайну компактну 17B. Усі 594 млрд ваг однаково потрібно зберігати або розподіляти між пристроями. Тому економія обчислень на токен поєднується з високими вимогами до пам’яті, маршрутизації експертів і міжсерверного обміну.

Модель приймає текст і зображення, а заявлене контекстне вікно становить близько 1 млн токенів. Можна налаштовувати зусилля міркування; опубліковані оцінки виконувалися за значення 0,99, позначеного як xhigh. Це важлива деталь: якість не можна відокремлювати від обсягу обчислень і довжини відповіді.

У картці моделі вказано 82,2% на SWEBench Verified, 85,1% на Terminal-Bench 2.1 та 81,6% на MMMU Pro. Це результати, заявлені розробником, і Inkling 2 Small не лідирує в усіх порівняннях. Станом на 6 листопада 2026 року незалежна перевірка залишається особливо важливою частиною картини.

Розрідженість не гарантує дешевої підсумкової відповіді

Головний практичний висновок такий: Inkling 2 Small може зменшувати обчислювальне навантаження на один токен, але не обов’язково на все завдання. За опублікованими даними, модель у середньому генерувала близько 150 тисяч вихідних токенів на завдання — приблизно вчетверо більше, ніж попередник Inkling Small.

Саме тут арифметика стає менш ефектною. Якщо міркування розтягується, виграш від 17 млрд активних параметрів частково поглинають довгі траєкторії, робота з контекстом та інфраструктура для 594 млрд ваг. Насамперед варто дивитися не на кількість активних параметрів, а на повну вартість завершеного завдання й затримку до корисного результату.

Для дослідників і команд із розподіленою інфраструктурою модель виглядає змістовно: відкриті ваги, зображення, довгий контекст і сильні заявлені результати в програмуванні дають простір для налаштування. Для локального чи бюджетного інференсу слово Small радше вводить в оману. Це не мала модель, а велика модель, яка навчилася вмикати себе частинами.

Раніше ми розбирали Pony Alpha в OpenRouter — імовірну GLM-5 із контекстом 200K та можливостями для безпечного тестування. Цей кейс добре доповнює оцінку Inkling 2 Small, коли нову модель потрібно зіставити з альтернативами за контекстом і сценаріями застосування.