# O que é um gateway de LLM? Definição, usos e como escolher - GateLLM

> Um gateway de LLM leva cada aplicativo, agente e IDE a um único endpoint: tradução de protocolos, custódia de chaves, medição e auditoria. O que ele faz, quando você precisa, quando não precisa e como escolher.

Canônico: https://www.gatellm.io/pt-BR/llm-gateway/

## O que é um gateway de LLM?

O único endpoint que cada aplicativo, agente e IDE chama — e o único lugar onde o tráfego de modelos é roteado, medido, protegido e auditado.

O termo é usado de forma frouxa: fornecedores chamam a mesma camada de gateway de IA, proxy de LLM ou roteador de LLM. Esta página define com precisão, separa do que costuma ser confundido e diz explicitamente quando você não deve implantá-lo.

Gateway de LLM — Gateway de IA / Proxy de LLM / Roteador de LLM

## O que é um gateway de LLM?

Um gateway de LLM é um serviço entre suas aplicações e os provedores de modelos. As aplicações chamam um único endpoint; o gateway encaminha cada requisição ao modelo configurado, traduz protocolos, guarda as chaves dos provedores e registra o uso. Ele não treina com o seu tráfego, não reescreve seus prompts e não substitui o modelo.

- É infraestrutura, não um modelo — os modelos continuam nos provedores que você escolher.
- Um mesmo endpoint atende aplicativos de chat, agentes de código, jobs em lote, voz em tempo real e chamadas de ferramentas MCP.
- A linha útil: o gateway é dono do caminho da requisição, a aplicação é dona do prompt.

## O que um gateway de LLM realmente faz?

Quatro tarefas: rotear cada requisição para o modelo certo, normalizar protocolos para que qualquer cliente fale com qualquer provedor, centralizar chaves e controle de acesso e registrar cada chamada para custo e auditoria. Cache, orçamentos e verificações de conteúdo são construídos sobre essas quatro, não no lugar delas.

- Roteamento e fallback: modelo por papel de agente, nova tentativa em outro provedor em 5xx ou timeout, pool de chaves de origem.
- Tradução de protocolos: quatro famílias de protocolos de chat nos dois sentidos, para o cliente manter o SDK que já usa.
- Governança: grupos de chaves, admissão por cabeçalho, cotas por tenant, SSO e SCIM, logs de auditoria por requisição.
- Observabilidade: séries de tokens e custo por chave, equipe e modelo com resolução de um minuto.

## Por que as empresas colocam um gateway na frente dos modelos?

Porque o acesso a modelos deixa de ser o problema de uma equipe. Quando várias equipes, fornecedores e agentes chamam modelos, as perguntas passam a ser de compras: quem pode usar qual modelo, quanto custa por área, se os dados saíram da rede e quanto tempo de engenharia custa trocar de fornecedor. Um gateway responde com configuração, não com mudança de código.

- Atribuição de custo: cada chamada leva chave e tag, o gasto se separa por equipe.
- Caminho dos dados: o gateway roda na sua rede; as requisições vão apenas aos endpoints configurados.
- Continuidade: falhas de fornecedor e trocas de modelo são tratadas na camada de roteamento.
- Compras: auto-hospedagem com BYOK mantém chaves e tráfego sob seus contratos de fornecedor.

## Quando você realmente precisa de um gateway de LLM?

Quando duas destas condições forem verdadeiras: mais de um provedor de modelos, mais de uma equipe consumidora, exigência de conformidade ou residência de dados, ou gasto que ninguém consegue explicar. Abaixo dessa linha, chamar as APIs dos provedores diretamente é mais simples e mais barato: um gateway é mais um serviço para operar.

- Dois ou mais provedores, por capacidade, custo ou continuidade.
- Relatórios de custo por equipe ou por cliente são um pedido recorrente.
- Os dados não podem sair de uma rede, região ou tenant específicos.
- Vários agentes e IDEs já compartilham uma ou duas chaves de API.

## Quando um gateway é a escolha errada?

Quando você tem uma equipe, um provedor e uma aplicação. Um gateway adiciona um salto, um deployment e um plantão. Se o gasto mensal for previsível e a conformidade for simples, chame o provedor diretamente e reavalie quando o segundo provedor, a segunda equipe ou o primeiro pedido de auditoria chegar.

- Um protótipo ou uma ferramenta interna única em um provedor não precisa de um.
- Gestão de prompts e avaliação de modelos são outros produtos: um gateway não os substitui.
- Nenhum gateway dispensa a leitura dos contratos dos seus provedores.

## Como um gateway difere de um serviço de retransmissão ou do uso direto dos SDKs?

Um serviço de retransmissão encaminha o tráfego a um provedor por você, muitas vezes guardando sua chave e cobrando uma taxa. Um gateway que você opera mantém chaves e tráfego na sua rede e acrescenta roteamento, medição e políticas. Chamar os SDKs diretamente evita o intermediário, mas deixa a lógica de retentativa, protocolo e medição dentro de cada aplicação.

- Para um protótipo, uma retransmissão pode bastar; o preço é que prompts e chaves saem da sua rede.
- Só SDK é mais barato até o segundo provedor aparecer — aí cada aplicativo precisa do mesmo código de cola.
- Das três opções, só o gateway consegue dizer quem gastou o quê.

| Critério | Gateway auto-hospedado | Retransmissão / agregador | Somente SDK do provedor |
| --- | --- | --- | --- |
| Onde roda | Sua VPC ou data center | A nuvem do fornecedor | Dentro de cada aplicação |
| Quem guarda as chaves | Seu cofre de segredos; memória do gateway em execução | O fornecedor da retransmissão | Cada aplicação |
| Cobertura de modelos | Qualquer provedor que você configurar | O catálogo do fornecedor | Um provedor por SDK |
| Roteamento e fallback | Por papel, por chave, entre provedores | Limitado ao catálogo | Escrito por você |
| Relatórios de custo | Por chave, grupo e modelo, do seu próprio livro | Painel do fornecedor | O que você construir |
| Superfície de auditoria | Logs por requisição que você possui | Logs do fornecedor | Dispersos entre aplicativos |

## O gateway deve ser auto-hospedado ou SaaS?

Auto-hospedado quando chaves, prompts ou logs não podem sair da sua rede, ou quando compras não aceita mais um subprocessador. SaaS ganha quando não há equipe de plataforma e você quer zero operação. A pergunta decisiva não é moda: é quem consegue ler o seu tráfego.

- Auto-hospedar custa contêineres, atualizações e um runbook; SaaS custa assinatura e uma revisão de subprocessador.
- Existe o híbrido: plano de dados auto-hospedado com plano de controle do fornecedor; os prompts ficam dentro, os metadados talvez não.
- Peça o diagrama de fluxo de dados, não a página de marketing.

| Critério | Auto-hospedado | SaaS |
| --- | --- | --- |
| Caminho dos dados | Fica na sua rede | Passa pelo fornecedor |
| Custódia das chaves | BYOK, só na memória do gateway | Gerenciadas ou encaminhadas pelo fornecedor |
| Custo operacional | Você roda contêineres e atualizações | O fornecedor opera |
| Primeira requisição | Um arquivo Compose | Cadastro |
| Superfície de conformidade | Seu DPA, seus subprocessadores | DPA e subprocessadores do fornecedor |
| Domínio de falha | Sua infraestrutura | A página de status do fornecedor |

## Como você deve escolher?

Pontue a pré-seleção em cinco pontos: onde roda, sobre o que a fatura se ancora, quais protocolos e SDKs fala nativamente, com que granularidade governa chaves e tenants, e se o fornecedor ainda será dono do produto no ano que vem. Depois verifique o que nenhuma matriz mostra: você consegue reproduzir hoje um relatório de custos de um mês atrás?

- Deployment: auto-hospedado, SaaS ou híbrido — e se o plano de controle liga para casa.
- Âncora de cobrança: por instância, por assento, por token ou percentual do gasto.
- Protocolos: OpenAI, Anthropic, Gemini e DashScope nos dois sentidos, com streaming e chamadas de ferramentas realmente equivalentes.
- Governança: grupos de chaves, ACL por cabeçalho, orçamentos, SSO e SCIM, exportação de auditoria.
- Reprodutibilidade: mesmas entradas, mesmos números, meses depois.

## Perguntas frequentes sobre gateways de LLM

### Gateway de LLM é a mesma coisa que gateway de IA?

Na prática, sim. Os dois nomes designam a camada entre aplicações e modelos. Os fornecedores diferem no escopo: alguns também fazem proxy de imagens, áudio ou embeddings. O GateLLM cobre chat, voz em tempo real, busca na web e chamadas de ferramentas MCP no mesmo endpoint.

### Um gateway adiciona latência?

Um salto de rede dentro da sua própria rede. O GateLLM não adiciona etapa de inferência; o custo medido é pequeno diante da resposta do provedor, e os tokens em streaming seguem conforme chegam.

### O gateway vê meus prompts?

Ele os processa em memória para rotear e, se você ativar, para mascarar credenciais e PII no caminho da requisição. Os logs de requisição vêm desligados; quando ativados, os corpos armazenados são mascarados em todos os pontos de saída e revelar o conteúdo bruto é restrito a administradores e auditado.

### Um gateway pode atender várias equipes?

Sim. Grupos de chaves, ACLs por grupo e cotas por tenant são o mecanismo: cada equipe tem suas chaves e seu orçamento, enquanto o catálogo de modelos e as regras de roteamento são compartilhados.

## Continue lendo

- [Comparar gateways de IA](https://www.gatellm.io/pt-BR/compare.md)
- [Casos de uso](https://www.gatellm.io/pt-BR/use-cases.md)
- [Glossário](https://www.gatellm.io/pt-BR/glossary.md)
- [Calculadora de custos](https://www.gatellm.io/pt-BR/calculator.md)
- [Metodologia do cálculo de custos](https://www.gatellm.io/pt-BR/methodology.md)
- [Governança de IA corporativa](https://www.gatellm.io/pt-BR/enterprise-ai-governance.md)

## Relacionados
- [Início](https://www.gatellm.io/pt-BR/index.md)
- [Preços](https://www.gatellm.io/pt-BR/pricing.md)
- [Calculadora de custos](https://www.gatellm.io/pt-BR/calculator.md)
- [Sobre](https://www.gatellm.io/pt-BR/about.md)
- [Agendar uma demonstração](https://www.gatellm.io/pt-BR/demo.md)
- [FAQ](https://www.gatellm.io/pt-BR/faq.md)
- [Comparar gateways de IA](https://www.gatellm.io/pt-BR/compare.md)
- [Comparar LiteLLM](https://www.gatellm.io/pt-BR/compare/litellm.md)
- [Comparar OpenRouter](https://www.gatellm.io/pt-BR/compare/openrouter.md)
- [Comparar Alibaba Cloud AI Gateway](https://www.gatellm.io/pt-BR/compare/alibaba-cloud.md)
- [Comparar Azure API Management](https://www.gatellm.io/pt-BR/compare/azure-apim.md)
- [Comparar Apigee](https://www.gatellm.io/pt-BR/compare/apigee.md)
- [Comparar Cloudflare AI Gateway](https://www.gatellm.io/pt-BR/compare/cloudflare.md)
- [Comparar Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/kong.md)
- [Comparar Portkey](https://www.gatellm.io/pt-BR/compare/portkey.md)
- [Alternativa ao Microsoft 365 Copilot](https://www.gatellm.io/pt-BR/compare/copilot.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/pt-BR/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/pt-BR/compare/litellm-vs-portkey.md)
- [Casos de uso](https://www.gatellm.io/pt-BR/use-cases.md)
- [Reduzir custo de LLM](https://www.gatellm.io/pt-BR/use-cases/reduce-cost.md)
- [Alta disponibilidade](https://www.gatellm.io/pt-BR/use-cases/high-availability.md)
- [Isolamento multilocatário](https://www.gatellm.io/pt-BR/use-cases/multi-tenant.md)
- [Conformidade e auditoria](https://www.gatellm.io/pt-BR/use-cases/compliance-audit.md)
- [Solução de problemas por sintoma](https://www.gatellm.io/pt-BR/use-cases/troubleshooting.md)
- [Stack de modelos multivendor](https://www.gatellm.io/pt-BR/use-cases/mixed-model-stack.md)
- [IA auto-hospedada dentro do Office](https://www.gatellm.io/pt-BR/use-cases/self-hosted-office-ai.md)
- [Visibilidade e atribuição do uso de tokens](https://www.gatellm.io/pt-BR/use-cases/token-ops.md)
- [Token FinOps: alocação e controle de custos de IA](https://www.gatellm.io/pt-BR/use-cases/token-finops.md)
- [Governança de ferramentas MCP](https://www.gatellm.io/pt-BR/use-cases/mcp-tool-governance.md)
- [Busca na web para todos os modelos](https://www.gatellm.io/pt-BR/use-cases/web-search-grounding.md)
- [Rotação e standby de múltiplas chaves](https://www.gatellm.io/pt-BR/use-cases/multi-key-pooling.md)
- [Controle de admissão de clientes](https://www.gatellm.io/pt-BR/use-cases/client-admission-control.md)
- [Aplicar política de uso de modelos](https://www.gatellm.io/pt-BR/use-cases/enforce-model-policy.md)
- [Sem escolha de modelo no cliente](https://www.gatellm.io/pt-BR/use-cases/automatic-model-tiering.md)
- [Um protocolo, qualquer modelo](https://www.gatellm.io/pt-BR/use-cases/one-protocol-any-model.md)
- [Suplemento Office / Microsoft 365](https://www.gatellm.io/pt-BR/office-addin.md)
- [Glossário](https://www.gatellm.io/pt-BR/glossary.md)
- [Governança de IA corporativa](https://www.gatellm.io/pt-BR/enterprise-ai-governance.md)
- [Metodologia do cálculo de custos](https://www.gatellm.io/pt-BR/methodology.md)
- [Catálogo de modelos](https://www.gatellm.io/pt-BR/models.md)
- [Integrações de SDK e frameworks](https://www.gatellm.io/pt-BR/integrations.md)
- [Agentes de código de IA e harnesses](https://www.gatellm.io/pt-BR/coding-agents.md)
- [Segurança e conformidade](https://www.gatellm.io/pt-BR/security.md)