# Tornar as chamadas de IA altamente disponíveis: failover multi-nó e DR entre provedores

> HA de AI gateway: failover multi-nó, fallback entre provedores (troca automática em OpenAI 503), estado compartilhado entre instâncias, implantação canário. Auto-hospedado, sem ponto único de SaaS.

Canônico: https://www.gatellm.io/pt-BR/use-cases/high-availability/

Balanceador de carga para failover multi-nó, recuperação de desastres no nível do provedor, estado compartilhado entre instâncias, implantação canário — não mais refém da indisponibilidade de um único provedor.

## Do que a comunidade realmente reclama
Um refrão comum no Reddit: "a OpenAI teve um 503 e o produto inteiro fora do ar." Chamar diretamente um único provedor é um ponto único de falha; acrescente timeouts transoceânicos, filas de limite de taxa 429 e OOM de instância no meio do stream.
Você precisa de failover em milissegundos sem alteração de código.

## Como o GateLLM faz isso
O GateLLM suporta fallback entre provedores: quando o primário retorna 5xx / dá timeout, o tráfego vai para um provedor reserva sem alteração no código de negócio. O balanceador de carga faz failover multi-nó e implantação canário com estado compartilhado entre instâncias.
Auto-hospedado no seu VPC, sem um gateway SaaS como ponto único em si.

## 5 alavancas que realmente funcionam
- Balanceador de carga: failover multi-nó e roteamento ponderado
- Fallback entre provedores: 5xx / timeout do primário alterna automaticamente para um provedor reserva
- DR no nível do provedor
- Implantação canário: novas versões sobem por tráfego, com reversão automática em erros
- Estado compartilhado entre instâncias, para que failover e implantações canário permaneçam consistentes

## FAQ
### Como um AI gateway lida com indisponibilidades de provedores (por exemplo, OpenAI 503)?
Fallback entre provedores: quando o primário retorna 5xx ou dá timeout, o tráfego vai para um provedor reserva sem alteração de código; o balanceador de carga faz failover multi-nó, e a auto-hospedagem elimina o ponto único do SaaS.

### Como várias instâncias fazem implantação canário?
As instâncias compartilham estado; novas versões sobem por tráfego e fazem reversão automática em erros, evitando as armadilhas de implantar tudo de uma vez.

- [Guia completo: Alta disponibilidade (docs)](https://docs.gatellm.io/en/usecases/high-availability)

## Relacionados
- [Início](https://www.gatellm.io/pt-BR/index.md)
- [Preços](https://www.gatellm.io/pt-BR/pricing.md)
- [Calculadora de custos](https://www.gatellm.io/pt-BR/calculator.md)
- [Sobre](https://www.gatellm.io/pt-BR/about.md)
- [Agendar uma demonstração](https://www.gatellm.io/pt-BR/demo.md)
- [FAQ](https://www.gatellm.io/pt-BR/faq.md)
- [Comparar gateways de IA](https://www.gatellm.io/pt-BR/compare.md)
- [Comparar LiteLLM](https://www.gatellm.io/pt-BR/compare/litellm.md)
- [Comparar OpenRouter](https://www.gatellm.io/pt-BR/compare/openrouter.md)
- [Comparar Alibaba Cloud AI Gateway](https://www.gatellm.io/pt-BR/compare/alibaba-cloud.md)
- [Comparar Azure API Management](https://www.gatellm.io/pt-BR/compare/azure-apim.md)
- [Comparar Apigee](https://www.gatellm.io/pt-BR/compare/apigee.md)
- [Comparar Cloudflare AI Gateway](https://www.gatellm.io/pt-BR/compare/cloudflare.md)
- [Comparar Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/kong.md)
- [Comparar Portkey](https://www.gatellm.io/pt-BR/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/pt-BR/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/pt-BR/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/pt-BR/compare/litellm-vs-portkey.md)
- [Casos de uso](https://www.gatellm.io/pt-BR/use-cases.md)
- [Reduzir custo de LLM](https://www.gatellm.io/pt-BR/use-cases/reduce-cost.md)
- [Isolamento multilocatário](https://www.gatellm.io/pt-BR/use-cases/multi-tenant.md)
- [Conformidade e auditoria](https://www.gatellm.io/pt-BR/use-cases/compliance-audit.md)
- [Solução de problemas por sintoma](https://www.gatellm.io/pt-BR/use-cases/troubleshooting.md)
- [Stack de modelos multivendor](https://www.gatellm.io/pt-BR/use-cases/mixed-model-stack.md)
- [IA auto-hospedada dentro do Office](https://www.gatellm.io/pt-BR/use-cases/self-hosted-office-ai.md)
- [Visibilidade e atribuição do uso de tokens](https://www.gatellm.io/pt-BR/use-cases/token-ops.md)
- [Token FinOps: alocação e controle de custos de IA](https://www.gatellm.io/pt-BR/use-cases/token-finops.md)
- [Governança de ferramentas MCP](https://www.gatellm.io/pt-BR/use-cases/mcp-tool-governance.md)
- [Busca na web para todos os modelos](https://www.gatellm.io/pt-BR/use-cases/web-search-grounding.md)
- [Rotação e standby de múltiplas chaves](https://www.gatellm.io/pt-BR/use-cases/multi-key-pooling.md)
- [Controle de admissão de clientes](https://www.gatellm.io/pt-BR/use-cases/client-admission-control.md)
- [Aplicar política de uso de modelos](https://www.gatellm.io/pt-BR/use-cases/enforce-model-policy.md)
- [Sem escolha de modelo no cliente](https://www.gatellm.io/pt-BR/use-cases/automatic-model-tiering.md)
- [Um protocolo, qualquer modelo](https://www.gatellm.io/pt-BR/use-cases/one-protocol-any-model.md)
- [Suplemento Office / Microsoft 365](https://www.gatellm.io/pt-BR/office-addin.md)
- [Glossário](https://www.gatellm.io/pt-BR/glossary.md)
- [Catálogo de modelos](https://www.gatellm.io/pt-BR/models.md)
- [Integrações de SDK e frameworks](https://www.gatellm.io/pt-BR/integrations.md)
- [Agentes de código de IA e harnesses](https://www.gatellm.io/pt-BR/coding-agents.md)
- [Segurança e conformidade](https://www.gatellm.io/pt-BR/security.md)
