Технічний контекст
Я одразу зачепився за цю цифру: всього 364M параметрів. Для мене це не просто красива аномалія з X, а дуже практичне питання про AI automation на пристрої, де кожен мегабайт памʼяті та кожна мілісекунда затримки реально мають значення.
Первинне джерело тут поки слабке: короткий пост Hugo Thomel і майже нуль підтверджених деталей. На 16 липня 2026 року я не бачу нормального релізного посту зі специфікацією, тож ставлюся до новини як до раннього сигналу, а не як до фінального факту.
З високою ймовірністю йдеться про модель рівня SmolLM2-364M або близьку архітектуру з тієї ж лінії компактних LLM. Найцікавіше не в числі параметрів як такому, а в тому, чим саме досягли такого співвідношення розміру та якості: дистиляцією, даними, тренувальним режимом або новою компоновкою блоків.
Ось де я б копав у першу чергу. Якщо модель справді тримається поруч із класом 1B+ в окремих задачах, значить або дуже грамотно відібрали токени та curriculum, або вичавили максимум із teacher-student distillation, або серйозно підкрутили inference efficiency і отримали не лише «розумніше», а й «дешевше в запуску».
Для on-device сценаріїв це майже ідеальний масштаб. 364M уже виглядає як розмір, який можна акуратно запакувати в локального помічника, вбудований copilot, офлайн-пошук, класифікацію, сумаризацію та вузькі edge-сценарії без постійного походу в хмару.
Що це змінює для бізнесу та автоматизації
Якщо сигнал підтвердиться, виграють команди, яким не потрібен універсальний «всезнайко», а потрібен швидкий і дешевий виконавець під конкретний процес. Це підтримка, field apps, внутрішні асистенти, retail-пристрої, production terminals.
Програють великі хмарні пайплайни там, де їх тримали просто за інерцією. Не всюди, звісно, але частину AI integration можна буде відвести ближче до пристрою і різко знизити latency, трафік і вартість володіння.
Я б не робив із цього магію. Маленька модель все одно потребує жорсткої інженерії: квантування, eval під ваш домен, захист від деградації якості, маршрутизація між локальним і хмарним контуром. Ми в Nahornyi AI Lab якраз вирішуємо такі штуки на практиці, коли AI solution development упирається не в демо, а в реальні обмеження заліза та бюджету.
Якщо у вас є процес, який гальмує через хмарний inference або вимоги до приватності, давайте подивимося на нього без фанатизму. Іноді замість дорогої платформи досить правильно зібрати AI automation під ваш сценарій, і в Nahornyi AI Lab я разом із вами швидко перевірю, чи потягне це компактна модель рівня 364M.