Fale um protocolo. Rode qualquer modelo.
Seu app mantém um SDK e um formato de fio. O gateway traduz entre as quatro famílias de protocolo de chat e normaliza streaming, chamadas de ferramenta e erros — então adicionar um fornecedor ou trocar de modelo nunca toca o código de negócio.
O que a comunidade realmente reclama
"Adicionamos um segundo fornecedor e agora mantemos dois caminhos de SDK, dois parsers de streaming e dois formatos de chamada de ferramenta." "O Claude Code só fala Anthropic, então não conseguimos colocá-lo em nenhum outro modelo." "Todo proxy que se diz compatível com OpenAI quebra em algum lugar."
O custo real de um modelo é a chamada de API mais o código escrito ao redor dela. A segunda parte nunca aparece na fatura — aparece nas sprints, e multiplica a cada fornecedor que você adiciona.
Como o GateLLM faz
Quatro famílias de protocolo dos dois lados — OpenAI, Anthropic, Gemini, DashScope — traduzem qualquer-para-qualquer. Um cliente só-Anthropic (Claude Code, claude-code-action) alcança um modelo nativo de Qwen ou DeepSeek sem mudar o cliente; além das quatro famílias, mais 15 formatos de protocolo upstream são cobertos conforme a matriz de interoperabilidade.
Uma camada de normalização de capacidades cuida do que uma troca de protocolo realmente custa: formatos de chunk de streaming, mapeamento de chamadas e resultados de ferramenta, partes de imagem e multimodal, e semântica de erros. Chaves, política e atribuição de custo valem do mesmo jeito, qualquer que seja o par de protocolos que a requisição atravesse.
5 alavancas que realmente entregam
- Um SDK, um parser de streaming, um formato de chamada de ferramenta no cliente — um novo fornecedor é uma mudança no console
- Agentes só-Anthropic podem rodar qualquer modelo suportado; sem fork, sem adaptador
- Trocas de modelo ficam dentro do gateway, então o código da aplicação e seus testes ficam intactos
- Egresso nativo: cada fornecedor recebe o próprio protocolo em vez de um envelope OpenAI retraduzido
- A mesma superfície de chave, orçamento e política em todos os pares de protocolo