# Várias chaves por provedor: distribuição ponderada, vínculo fixo, tomada por chave em espera > AI gateway com várias chaves de API por upstream: hash ponderado determinístico, vínculo fixo por chamador, tomada por chave em espera weight=0, vínculos observáveis — combinados ortogonalmente com balanceamento de carga entre upstreams. Canônico: https://www.gatellm.io/pt-BR/use-cases/multi-key-pooling/ Anexe várias chaves de API a um upstream: distribuição ponderada, vínculo fixo por chamador, chaves em espera com weight=0 como rede de segurança — chega de esperas rígidas em 429. ## Do que a comunidade realmente reclama Favoritos do Reddit: "o RPM de uma chave OpenAI não é suficiente, como alterno entre várias contas", "uma chave atinge 429 e o negócio simplesmente espera", "trocar de chave perde toda a afinidade de cache da sessão". Construir sua própria rotação significa lidar sozinho com aderência, pesos, espera e expulsão de falhas — esforço real de engenharia. ## Como o GateLLM faz isso O formulário de upstream do GateLLM aceita várias chaves de API: um hash ponderado determinístico (FNV-1a) vincula cada chamador de forma fixa à mesma chave upstream (estável dentro do TTL; trocar uma chave no lugar não quebra a aderência), e os pesos definem a proporção de distribuição. Quando uma chave falha, o gateway tenta a próxima chave não utilizada dentro desse upstream — sem sobrescrever o vínculo fixo original. Chaves com weight=0 ficam em espera, habilitadas apenas depois que todas as chaves com weight>0 falharam. O estado de vínculo (binding / predicted / stale) é observável linha a linha no console. O mecanismo se combina ortogonalmente com os balanceadores de carga: o Smooth WRR escolhe o upstream entre as entradas, e então a seleção fixa escolhe a chave dentro dele. ## 5 alavancas que realmente funcionam - Múltiplas chaves ponderadas: hash ponderado determinístico distribui os chamadores, os pesos são proporções - Vínculo fixo: cada chamador permanece na mesma chave upstream dentro do TTL — afinidade de cache - Chaves em espera: chaves com weight=0 ficam fora da distribuição normal, habilitadas só depois que todas as chaves ativas falham - Vínculos observáveis: estados binding / predicted / stale linha a linha, atualizados automaticamente a cada 3s - Ortogonal ao balanceador: seleção de chave dentro de um upstream + Smooth WRR entre upstreams se combinam em duas camadas ## FAQ ### A rotação de chaves perde a afinidade de cache de prompt? O vínculo fixo existe exatamente para isso: cada chamador permanece vinculado à mesma chave upstream dentro do TTL, acertando o cache da mesma conta do fornecedor. Trocar uma chave no lugar não quebra a aderência; apenas adicionar / remover / reordenar chaves ou mudar pesos dispara uma nova seleção. ### Quando uma chave em espera entra em ação? Chaves com weight=0 ficam fora da distribuição normal e só são habilitadas depois que todas as chaves com weight>0 foram tentadas e falharam — e elas não mantêm vínculo. Quando uma chave falha no meio do caminho, o gateway tenta a próxima chave não utilizada dentro do mesmo upstream sem sobrescrever o vínculo fixo original: as requisições posteriores desse chamador ainda começam pela chave originalmente vinculada. - [Referência completa: Campos de upstream e modelo (docs)](https://docs.gatellm.io/en/reference/upstreams-models-fields) ## Relacionados - [Início](https://www.gatellm.io/pt-BR/index.md) - [Preços](https://www.gatellm.io/pt-BR/pricing.md) - [Calculadora de custos](https://www.gatellm.io/pt-BR/calculator.md) - [Sobre](https://www.gatellm.io/pt-BR/about.md) - [Agendar uma demonstração](https://www.gatellm.io/pt-BR/demo.md) - [FAQ](https://www.gatellm.io/pt-BR/faq.md) - [Comparar gateways de IA](https://www.gatellm.io/pt-BR/compare.md) - [Comparar LiteLLM](https://www.gatellm.io/pt-BR/compare/litellm.md) - [Comparar OpenRouter](https://www.gatellm.io/pt-BR/compare/openrouter.md) - [Comparar Alibaba Cloud AI Gateway](https://www.gatellm.io/pt-BR/compare/alibaba-cloud.md) - [Comparar Azure API Management](https://www.gatellm.io/pt-BR/compare/azure-apim.md) - [Comparar Apigee](https://www.gatellm.io/pt-BR/compare/apigee.md) - [Comparar Cloudflare AI Gateway](https://www.gatellm.io/pt-BR/compare/cloudflare.md) - [Comparar Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/kong.md) - [Comparar Portkey](https://www.gatellm.io/pt-BR/compare/portkey.md) - [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/litellm-vs-kong.md) - [LiteLLM vs OpenRouter](https://www.gatellm.io/pt-BR/compare/litellm-vs-openrouter.md) - [LiteLLM vs Portkey](https://www.gatellm.io/pt-BR/compare/litellm-vs-portkey.md) - [Casos de uso](https://www.gatellm.io/pt-BR/use-cases.md) - [Reduzir custo de LLM](https://www.gatellm.io/pt-BR/use-cases/reduce-cost.md) - [Alta disponibilidade](https://www.gatellm.io/pt-BR/use-cases/high-availability.md) - [Isolamento multilocatário](https://www.gatellm.io/pt-BR/use-cases/multi-tenant.md) - [Conformidade e auditoria](https://www.gatellm.io/pt-BR/use-cases/compliance-audit.md) - [Solução de problemas por sintoma](https://www.gatellm.io/pt-BR/use-cases/troubleshooting.md) - [Stack de modelos multivendor](https://www.gatellm.io/pt-BR/use-cases/mixed-model-stack.md) - [IA auto-hospedada dentro do Office](https://www.gatellm.io/pt-BR/use-cases/self-hosted-office-ai.md) - [Visibilidade e atribuição do uso de tokens](https://www.gatellm.io/pt-BR/use-cases/token-ops.md) - [Token FinOps: alocação e controle de custos de IA](https://www.gatellm.io/pt-BR/use-cases/token-finops.md) - [Governança de ferramentas MCP](https://www.gatellm.io/pt-BR/use-cases/mcp-tool-governance.md) - [Busca na web para todos os modelos](https://www.gatellm.io/pt-BR/use-cases/web-search-grounding.md) - [Controle de admissão de clientes](https://www.gatellm.io/pt-BR/use-cases/client-admission-control.md) - [Aplicar política de uso de modelos](https://www.gatellm.io/pt-BR/use-cases/enforce-model-policy.md) - [Sem escolha de modelo no cliente](https://www.gatellm.io/pt-BR/use-cases/automatic-model-tiering.md) - [Um protocolo, qualquer modelo](https://www.gatellm.io/pt-BR/use-cases/one-protocol-any-model.md) - [Suplemento Office / Microsoft 365](https://www.gatellm.io/pt-BR/office-addin.md) - [Glossário](https://www.gatellm.io/pt-BR/glossary.md) - [Catálogo de modelos](https://www.gatellm.io/pt-BR/models.md) - [Integrações de SDK e frameworks](https://www.gatellm.io/pt-BR/integrations.md) - [Agentes de código de IA e harnesses](https://www.gatellm.io/pt-BR/coding-agents.md) - [Segurança e conformidade](https://www.gatellm.io/pt-BR/security.md)