GPT у Claude Code через проксі: де ламається

Як це взагалі підключають

Claude Code можна спрямувати на зовнішні моделі класу GPT через Anthropic-сумісний проксі: для самого інструменту це виглядає як звичайна кінцева точка Anthropic, а проксі перекладає запити до OpenAI чи іншого провайдера. В офіційній документації Anthropic по Claude Code це вкладається у два механізми: мережеві змінні HTTP_PROXY та HTTPS_PROXY і патерн LLM gateway.

Типова схема проста: піднімається локальний або gateway-проксі, потім Claude Code отримує ANTHROPIC_BASE_URL і токен на кшталт ANTHROPIC_AUTH_TOKEN або ANTHROPIC_API_KEY. У туторіалі LiteLLM описано саме такий потік: запустити proxy через litellm --config, перевірити сумісність з форматом Anthropic і вже потім запускати claude.

На папері це не виглядає брудним хаком. Claude Code не зобов'язаний знати, що за проксі сидить GPT, Gemini, OpenRouter-style бекенд чи інший роутер. Уся магія і весь біль знаходяться в шарі перекладу: повідомлення, виклики інструментів, стрімінг, структура відповіді, маршрутизація моделей.

Окремо цікаві community-сценарії з підагентами. В обговореннях на Reddit люди пробують маппити окремих агентів на різні моделі, наприклад code-reviewer на gpt-4o, а data-analyst на o3. Це вже не просто зміна моделі, а спроба перезібрати поведінку агентного інструмента чужими руками.

Де воно починає їхати боком

Головний ризик не в тому, що проксі не відповість, а в тому, що він відповість майже правильно. Для звичайного чату цього достатньо, але Claude Code сильно опирається на виклики інструментів, потокову видачу та коректне розуміння проміжних результатів.

Якщо інструменти у стилі Anthropic перетворюються у формат іншого провайдера з втратами, агент може почати ходити колами. Звідси й скарги на спам підагентів: модель або проксі знову і знову провокують делегування, замість того щоб закрити задачу. У supplied Reddit-контексті це саме community-reported поведінка, а не офіційно описаний баг Claude Code.

Я б перш за все дивився не на якість фінальної відповіді, а на трасу: які виклики інструментів реально йдуть, як повертаються результати, чи не обрізається контекст, чи не ламається стрімінг. Агентне кодування зазвичай помирає не красиво, а дрібними розсинхронами.

Практичний висновок без романтики

Проксі для GPT у Claude Code має сенс як інженерний експеримент або як спосіб підключити gateway-роутинг, але стабільність там визначається найслабшим перекладачем форматів. LiteLLM, Bifrost, Kong AI Proxy і GitHub-proxy проекти вирішують схожу задачу, але крайові випадки у них будуть різними.

Перемагає не той бекенд, у якого модель розумніша у вакуумі, а той, хто краще імітує Anthropic-поведінку для Claude Code. Якщо підагенти починають спамити, це майже завжди сигнал не про один поганий промпт, а про тертя між агентною логікою Claude Code і чужою модельною семантикою. Ось це місце і залишається найнервовішим у всій схемі.

Раніше ми детально розглядали, як LLM-проксі та шари абстракції допомагають уникнути жорсткої прив'язки до одного вендора. Ця інженерна практика прямо перегукується з тим неоднозначним досвідом, який ми отримали при спробі підключити GPT-моделі в Claude Code через проксі і зіткнулися зі спамом від підагентів.