GateLLM vs LiteLLM
Uma comparação verificada na fonte. Só o GateLLM oferece mecanismos que o LiteLLM não tem — troca condicional de modelo, mistura entre protocolos e commits atômicos de configuração — enquanto ambos compartilham uma base consolidada; algumas coisas diferem em natureza.
Tabela de comparação
Só o GateLLM faz isto
Mecanismos que o LiteLLM não tem — o "como funciona" em uma linha fica abaixo de cada capacidade.
| Capacidade | GateLLM | LiteLLM |
|---|---|---|
| Troca condicional de modeloRegras declarativas switch-route + detecção integrada de modo de plano + scripts context.useModel() — zero alteração no cliente. O LiteLLM precisa de callbacks Python personalizados. | Sim | Não |
| Mistura de modelos / SDKs entre protocolosEntradas nativas qualquer-para-qualquer — chame GPT pelo SDK Anthropic, DeepSeek pelo SDK Gemini. O LiteLLM é centrado em OpenAI; os caminhos inversos passam por camadas de compatibilidade. | Sim | Não |
| Commit de configuração em transação únicaPreparar → visualizar o conjunto completo de conflitos → commit atômico; o lote inteiro é revertido em qualquer conflito. | Sim | Não |
| Bloqueio rígido por cota de custoCiclos diário / mensal retornam 429 quota_exceeded no momento em que o gasto estoura. O LiteLLM só envia alertas de orçamento. | Sim | Não |
| Cobrança à prova de falhasPré-débito → fechamento → estorno com um extrato de operações em andamento — correto mesmo com falhas do processo. | Sim | Não |
| Pool de chaves upstream e vínculo fixoHash FNV-1a ponderado fixa cada chamador em uma chave e passa para a próxima não tentada; weight=0 fica em espera. | Sim | Não |
| Três modos de cobrança + várias moedasToken / por chamada / por duração, USD/CNY/EUR/JPY/GBP, dimensões personalizadas. O LiteLLM só faz acompanhamento baseado em tokens. | Sim | Não |
| Login de credenciais SSO no upstreamIntegra fornecedores sem chaves estáticas (por exemplo, Kiro). O LiteLLM aceita apenas chaves de API estáticas. | Sim | Não |
| Registro de metadados de capacidadeAlimenta injeção e degradação automáticas; mudanças de capacidade de novos modelos não exigem alteração de código. | Sim | Não |
| Branch de release LTSN-1 + branch LTS (veja /lifecycle). O LiteLLM suporta apenas as 4 últimas linhas menores. | Sim | Não |
Ambos fazem bem
Uma base consolidada — qualquer um dos gateways cobre esta camada. A decisão está nas camadas acima e abaixo.
| Capacidade | GateLLM | LiteLLM |
|---|---|---|
| Roteamento de API · fallback · balanceamento de carga | Sim | Sim |
| BYOK, sem margem sobre tokens | Sim | Sim |
| Totalmente auto-hospedado, dados ficam no local | Sim | Sim |
| Normalização de chamada de ferramentas entre fornecedores | Sim | Sim |
| Normalização de saída estruturada (JSON Schema) | Sim | Sim |
| Adaptação de tokens de raciocínio / pensamento | Sim | Sim |
| Cache de prompt entre modelos | Sim | Sim |
| Injeção de busca na web | Sim | Sim |
| Gateway MCP (agregação de ferramentas) | Sim | Sim |
| Console visual para configuração | Sim | Sim |
| Logs de auditoria e medição de uso / custo | Sim | Sim |
Diferente em natureza
Nem melhor nem pior — mecanismos e empacotamento diferentes que você deve pesar diretamente.
| Capacidade | GateLLM | LiteLLM |
|---|---|---|
| Runtime | Binário Rust único · sem pausas de GC | Processo Python + pilha de dependências |
| Superfície de tradução de protocolos | 15 formatos de protocolo; as quatro famílias de protocolo de chat (OpenAI / Anthropic / Gemini / DashScope) traduzem qualquer-para-qualquer, o resto conforme a matriz de interoperabilidade | Envelope centrado em OpenAI + endpoints compatíveis |
| Entradas de protocolo nativas | /v1/messages + count_tokens, generateContent do Gemini, CRUD de /v1beta/cachedContents, /v1/realtime, /mcp — um gateway atende todos os SDKs nativamente | Endpoint compatível com OpenAI (mais variantes compatíveis) |
| Profundidade do cache de prompt | Injeta automaticamente pontos de quebra de cache em chamadas de protocolo OpenAI + mapeamento entre protocolos + deduplicação de cachedContent do Google | Repassa cache_control e normaliza o uso |
| Padrões de privacidade de logs | Logs de requisição desligados por padrão · corpos armazenados são redigidos em toda superfície de saída, revelação bruta só para admin e auditada · retenção padrão de 7 dias | Log de requisição/resposta ligado; redação via guardrails |
| Modo de configuração | Totalmente no console — sem YAML, mudanças aplicadas ao vivo | Centrado em config.yaml |
| Empacotamento de SSO e SCIM empresarial | OIDC + SAML 2.0 + SCIM incluídos na licença fixa por instância, sem cobrança por assento | OSS limita o SSO a 5 usuários; SCIM exige o nível Enterprise com preço por uso |
| Licenciamento | Fixo por instância / memória, sem assentos, sem margem sobre tokens | OSS gratuito; Enterprise tem preço por uso |
| SLA de suporte | Suporte prioritário incluído na licença fixa | O nível padrão não tem compromisso de tempo de resposta; SLA 24/7 é add-on pago (Sev0 1h / Sev1 6h) |
| Superfície de endpoints | Endpoints principais de chat / tempo real / MCP | Acrescenta /batches, /files, /fine_tuning, /vector_stores, /videos, /containers |
| Ecossistema de terceiros | Logs / Prometheus / OTel integrados — saída em protocolo padrão, sem aprisionamento a um fornecedor; detecção de segredos e PII integrada ao gateway, sem motor de terceiros | Gerenciadores de segredos AWS KMS / Vault / CyberArk; guardrails de PII do Presidio; observabilidade Langfuse / Langsmith / Arize |
Verificado contra a documentação oficial de cada produto em 2026-09-04 (docs.litellm.ai / docs.gatellm.io). Algumas capacidades do LiteLLM exigem licença Enterprise; os detalhes podem mudar — confira as fontes antes da compra.
Como os diferenciais funcionam
Cada diferencial do GateLLM é um mecanismo, não uma frase de marketing. Aqui está o que ele faz por baixo do capô, e o que o LiteLLM faz em vez disso.
Tradução de protocolo qualquer-para-qualquer
GateLLM: 15 formatos de protocolo; as quatro famílias de protocolo de chat (OpenAI / Anthropic / Gemini / DashScope) traduzem qualquer-para-qualquer, o resto conforme a matriz de interoperabilidade. Entrada A → saída B sem código de cola.
Onde os rivais ficam aquém: Envelope centrado em OpenAI — SDKs não OpenAI passam por camadas de compatibilidade, e a deriva de formato entre fornecedores exige adaptadores por modelo.
Matriz de interoperabilidade de protocolos (docs) →Injeção automática de pontos de quebra de cache
GateLLM: Injeta automaticamente pontos de quebra de cache em chamadas de protocolo OpenAI, mapeia a semântica de cache entre protocolos e deduplica o cachedContent do Google.
Onde os rivais ficam aquém: Repassa cache_control e normaliza o uso — sem injeção de pontos de quebra no gateway nem mapeamento de cache entre protocolos.
Commit de configuração em transação única
GateLLM: Preparar → visualizar o conjunto completo de conflitos de namespace → commit atômico. O lote inteiro é revertido em qualquer conflito.
Onde os rivais ficam aquém: Hot-reload de config.yaml sem pré-visualização de conflitos nem reversão atômica — um estado parcialmente aplicado exige limpeza manual.
Caminho de dados sem logs por padrão
GateLLM: Logs de requisição desligados por padrão, corpos armazenados redigidos em toda superfície de saída (revelação bruta exige reveal=true mais um papel de admin e é auditada), retenção padrão de 7 dias.
Onde os rivais ficam aquém: Log de requisição/resposta ligado por padrão; a redação é opcional via guardrails.
Três modos de cobrança + várias moedas
GateLLM: Cobrança por token / por chamada / por duração, USD/CNY/EUR/JPY/GBP, dimensões de preço personalizadas e preços privados fixados.
Onde os rivais ficam aquém: Apenas acompanhamento de gasto baseado em tokens — sem modos por chamada/duração nem tabelas de preço em várias moedas.
Binário Rust único, sem pausas de GC
GateLLM: Um único binário com ligação estática, sem coletor de lixo — sobrecarga de gateway inferior a um milissegundo.
Onde os rivais ficam aquém: Processo Python + pilha completa de dependências; pausas de GC sob concorrência sustentada.
Motor de scripts em sandbox
GateLLM: Motor QuickJS com slots antes / depois da requisição e um slot de resposta; context.useModel() troca toda a rota (base_url, protocolo, credenciais); um testador no console e helpers integrados json_path / str_* / regex_*.
Onde os rivais ficam aquém: Apenas callbacks / hooks Python — sem sandbox no gateway, sem slots de tradução antes/depois, sem ciclo de teste no console.
API de scripts (docs) →Migrando do LiteLLM
Aponte o base_url do seu SDK OpenAI para o GateLLM — nenhuma outra alteração de código. Suas chaves BYOK e políticas de roteamento existentes são mantidas; habilite o roteamento de modelos em camadas / governança por modo conforme necessário.
- 1Aponte o base_url do seu SDK OpenAI para o GateLLM (com /v1) — uma linha, nenhuma outra alteração de código.
- 2Informe suas chaves de provedor existentes no console (BYOK) — elas ficam na memória do gateway, nunca persistidas.
- 3Recrie suas políticas de roteamento / fallback / balanceamento de carga no console — elas são mantidas 1:1.
- 4Habilite o roteamento de modelos em camadas ou scripts de transformação apenas se necessário; comece pela base.
Licenciamento vs LiteLLM
O GateLLM é uma licença BYOK auto-hospedada — com preço por instância / memória, nunca uma margem por token. O LiteLLM OSS é gratuito, mas o SSO tem limite de 5 usuários; seu nível Enterprise tem preço por uso, com SLA 24/7 pago como add-on.
Estrutura de custos e licenciamento
- •GateLLM: licença fixa por instância (Pro 2GB $400/mês) — sem assentos, sem margem sobre tokens, sem taxas por uso.
- •LiteLLM OSS: gratuito, auto-hospedado; SSO gratuito até 5 usuários.
- •LiteLLM Enterprise: preço por uso (consulte para orçamento); SLA 24/7 e vários guardrails são add-ons pagos.
- •Em alto volume, a licença fixa desacopla o custo do uso — dobre seus tokens e a licença não muda.
Quando escolher cada um
Escolha o LiteLLM se…
Você quer um proxy OSS maduro com uma grande comunidade, se sente confortável com config.yaml e suas necessidades cabem no nível gratuito — ou precisa das integrações de gerenciador de segredos exclusivas do Enterprise, callbacks de guardrail, sincronização automática de preços de modelos e a divisão admin/worker multi-região, e pode pagar preço por uso.
Escolha o GateLLM se…
Você precisa de um único binário auto-hospedado, entradas multi-protocolo nativas (Anthropic / Gemini / Bedrock / Realtime), um caminho de dados sem logs por padrão, commits de configuração em transação única, cobrança à prova de falhas com bloqueios rígidos de cota de custo e uma licença fixa que permanece estável conforme o uso cresce.
Os dois podem coexistir
Use o LiteLLM para experimentos rápidos e o GateLLM como gateway de produção governado — ambos falam OpenAI, então a troca de SDK é uma linha em qualquer caso.
FAQ
Verificado em 2026-09-04 contra docs.litellm.ai e docs.gatellm.io. Recursos e taxas mudam — confira as fontes antes da compra.