Технічний контекст
Я подивився на цю ідею як інженер, а не як форумний теоретик. Логіка зрозуміла: взяти Claude Code за підпискою за $20, $100 чи $200, прослухати трафік, змінити маршрут через lm-proxy або свій шлюз і пустити завдання в дешевші спеціалізовані моделі. Для AI integration звучить привабливо, особливо якщо per-token API на об'ємному завданні спалює десятки чи сотні доларів.
Але тут усе ламається не на рівні "ну, запит — це ж просто JSON". Claude Code працює на авторизованих запитах до інфраструктури Anthropic, де важливі не лише payload, а й токени, схема відповіді, таймінг, ліміти, а іноді й серверна логіка обліку використання. Якщо між клієнтом і бекендом вкрутити проксі, потрібно не просто прочитати трафік, а ще й правдоподібно відтворити весь контракт.
І ось тут я б не розраховував на легку перемогу. HTTPS, можливий certificate pinning, короткоживучі токени, звірка endpoint-ів, поведінкові аномалії за латентністю та формою відповідей, плюс швидкі апдейти клієнта. Крихка схема, яку можна підтримувати рівно до найближчого релізу.
Окремий момент, який багато хто плутає: агент тут — не магія і не "страшний код на машині". Зазвичай це просто оркестрація моделі, інструментів, контексту та кроків виконання. Але якщо провайдер продає підписку під свій UX та свої ліміти, а ви намагаєтеся перетворити її на універсальний дешевий транспорт для чужих агентів, це вже виглядає як антиаб'юз-кейс, а не як нормальна AI architecture.
Що це змінює для бізнесу та автоматизації
Якщо коротко: для продакшену я б на таке не ставив. Занадто високий ризик, що сьогодні схема працює, а завтра у вас бан, зламаний пайплайн і раптова міграція посеред спринту.
Виграють тут лише експериментатори, яким не шкода акаунта і часу на постійний ремонт "костилів". Програють команди, яким потрібна передбачувана AI implementation зі зрозумілою собівартістю, SLA та контролем даних.
Я в таких випадках зазвичай спрощую завдання: де потрібен Claude, залишаю Claude; де можна перенаправити трафік у дешевші моделі, роблю це чесно через нормальний маршрутизатор і свою логіку вибору моделі. Саме такі рішення ми й створюємо для клієнтів у Nahornyi AI Lab: без сірих схем, з робочою AI automation, яка не розвалюється від одного апдейту. Якщо у вас уже накопичились витрати на інференс або агентний стек вийшов занадто дорогим, давайте подивимось архітектуру і знайдемо, де реально заощадити без війни з провайдером.