Inkling 2 Small: малая модель с 594 млрд параметров

«Маленькая» здесь только активная часть

Меня в Inkling 2 Small цепляет не размер, а игра со словом small. Thinking Machines AI в анонсе Inkling 2 Small и карточке модели описывает open-weight мультимодальную модель с 594 млрд параметров, но на каждом токене работают только 17 млрд.

Это sparse Mixture-of-Experts: токен направляется к 8 из 384 экспертов. Архитектура построена как 48-слойный decoder-only Transformer с гибридным локальным и глобальным вниманием. Идея понятная: держать большую совокупную емкость, не оплачивая вычисление всех параметров для каждого токена.

Но 17 млрд активных параметров не означают, что модель можно развернуть как обычную компактную 17B. Полные 594 млрд весов все равно нужно хранить или распределять между устройствами. Поэтому экономия вычислений на токен соседствует с тяжелыми требованиями к памяти, маршрутизации экспертов и межсерверному обмену.

Модель принимает текст и изображения, а заявленное контекстное окно составляет около 1 млн токенов. Доступна настройка усилия рассуждения; опубликованные оценки проводились при значении 0,99, обозначенном как xhigh. Это существенная деталь: качество нельзя отделять от количества вычислений и длины ответа.

В карточке модели указаны 82,2% на SWEBench Verified, 85,1% на Terminal-Bench 2.1 и 81,6% на MMMU Pro. Это результаты, заявленные разработчиком, причем Inkling 2 Small не лидирует во всех сравнениях. По состоянию на 6 ноября 2026 года независимая проверка остается особенно важной частью картины.

Разреженность не гарантирует дешевый итоговый ответ

Главный практический вывод такой: Inkling 2 Small может снижать вычислительную нагрузку на один токен, но не обязательно на всю задачу. По опубликованным данным, модель в среднем генерировала около 150 тысяч выходных токенов на задачу, примерно в четыре раза больше предшественника Inkling Small.

И вот тут арифметика становится менее эффектной. Если рассуждение растягивается, выигрыш от 17 млрд активных параметров частично съедают длинные траектории, работа с контекстом и инфраструктура для 594 млрд весов. Я бы первым делом смотрел не на число активных параметров, а на полную стоимость завершенной задачи и задержку до полезного результата.

Для исследователей и команд с распределенной инфраструктурой модель выглядит содержательно: открытые веса, изображения, длинный контекст и сильные заявленные результаты в кодинге дают пространство для настройки. Для локального или бюджетного инференса слово Small скорее вводит в заблуждение. Это не маленькая модель, а большая модель, которая научилась включать себя по частям.

Ранее мы разбирали Pony Alpha в OpenRouter — вероятную GLM-5 с контекстом 200K и возможностями для безопасного тестирования. Этот кейс хорошо дополняет оценку Inkling 2 Small, когда новую модель нужно сравнить с альтернативами по контексту и сценариям применения.