Self-hosted Qwen і Gemma: межі складного кодування

Де self-hosted моделі вже працюють, а де буксують

Я б не ставив знак рівності між «модель пише код» і «модель справляється із системною розробкою». В оригінальному обговоренні розробник описує рік використання власних рішень на Qwen і Gemma: для звичайних завдань вони придатні, але складне кодування залишається слабким місцем.

Станом на листопад 2026 року це вже не суперечка про принципову життєздатність self-hosted coding assistant. Увага змістилася на якість у довгих завданнях: утримання плану між файлами, розуміння внутрішніх домовленостей, роботу з терміналом і виправлення невдалих патчів без втрати контексту.

У матеріалах команди Qwen про Qwen3-Coder флагманську конфігурацію описано як MoE-модель на 480 млрд параметрів, з яких активні 35 млрд. Для неї наводили близько 67% на SWE-bench Verified за стандартного оцінювання та 69,6% у режимі до 500 ходів. Це сильний результат, але він не робить модель компактним локальним інструментом: зберігання ваг, пам’ять, пропускна здатність і підтримка стають окремим інфраструктурним проєктом.

Із Gemma розгортання простіше, але доказів для ремонту великих репозиторіїв менше. Невелика модель може добре закривати пошук коду, документацію, SQL, тести й обмежений рефакторинг. Я б не переносив цей успіх на ядра, розподілені системи або складну інфраструктуру без внутрішнього оцінювання.

Є і менш помітна межа: self-hosted модель не означає self-hosted безпеку. Агенту однаково потрібні shell, інструменти збирання, контейнери, залежності та облікові дані. Помилка в цій обв’язці небезпечніша за невдале автодоповнення.

Чому для банку походження моделі не є головним тестом

Для банку вирішальним є не паспорт моделі, а керованість усього контуру. Китайське походження Qwen саме по собі не доводить ані прийнятність, ані неприйнятність: треба перевіряти ліцензію, походження ваг і залежностей, потоки даних, юрисдикційні ризики та внутрішню політику щодо третіх сторін.

Практична схема тут навмисно консервативна: модель пропонує зміни в ізольованому середовищі, а не отримує прямий шлях до production. Потрібні короткоживучі облікові дані, обмеження мережі та команд, незмінні журнали, сканування секретів і обов’язкове людське рев’ю.

Мій інженерний висновок простий: Qwen уже виглядає серйозним кандидатом для приватної роботи з репозиторіями, а Gemma лишається розумним варіантом для вужчих завдань. Проте справжня межа проходить не між відкритими й закритими моделями, а між гарним патчем і відтворювано безпечною зміною системи.

Раніше ми розглядали Rust LocalGPT — локального помічника в одному бінарному файлі для розгортання на пристрої, з постійною пам’яттю та HTTP API. Його практичні компроміси допомагають зрозуміти, де self-hosted моделі залишаються життєздатними, перш ніж завдання з програмування стануть надто вимогливими.