# Varias claves por proveedor: distribución ponderada, fijación persistente y relevo de claves en espera

> Gateway de IA con varias claves de API por upstream: hash ponderado determinista, fijación persistente por llamador, relevo de claves en espera con weight=0 y fijaciones observables, apilado de forma ortogonal con el balanceo de carga entre upstreams.

Canonical: https://www.gatellm.io/es/use-cases/multi-key-pooling/

Adjunte varias claves de API a un upstream: distribución ponderada, fijación persistente por llamador y claves en espera con weight=0 como red de seguridad; deje de esperar en seco ante un 429.

## De qué se queja realmente la comunidad
Favoritas de Reddit: "el RPM de una clave de OpenAI no alcanza, ¿cómo roto entre varias cuentas?", "una clave alcanza el 429 y el negocio simplemente espera", "cambiar de clave pierde toda la afinidad de caché de la sesión".
Implementar la rotación por su cuenta implica gestionar la fijación, los pesos, la espera y la expulsión por fallo: un esfuerzo de ingeniería real.

## Cómo lo hace GateLLM
El formulario de upstream de GateLLM acepta varias claves de API: un hash ponderado determinista (FNV-1a) fija de forma persistente cada llamador a la misma clave upstream (estable dentro del TTL; rotar una clave en el mismo sitio no rompe la fijación), y los pesos establecen la proporción de distribución. Cuando una clave falla, el gateway reintenta con la siguiente clave no probada dentro de ese upstream, sin anular la fijación persistente original.
Las claves con weight=0 están en espera y se habilitan solo después de que fallen todas las claves con weight>0. El estado de fijación (binding / predicted / stale) se puede observar fila por fila en la consola.
El mecanismo se apila de forma ortogonal con los balanceadores de carga: Smooth WRR elige el upstream entre las entradas y luego la selección persistente elige la clave dentro de él.

## 5 palancas que realmente funcionan
- Varias claves ponderadas: un hash ponderado determinista distribuye a los llamadores, los pesos son proporciones
- Fijación persistente: cada llamador permanece en la misma clave upstream dentro del TTL, con afinidad de caché
- Claves en espera: las claves con weight=0 quedan fuera de la distribución normal y se habilitan solo tras fallar todas las claves activas
- Fijaciones observables: estados binding / predicted / stale fila por fila, con actualización automática cada 3 s
- Ortogonal al balanceador: la selección de clave dentro de un upstream y Smooth WRR entre upstreams se apilan en dos capas

## Preguntas frecuentes
### ¿La rotación de claves pierde la afinidad de la caché de prompts?
La fijación persistente existe exactamente para eso: cada llamador permanece ligado a la misma clave upstream dentro del TTL, acertando en la caché de la misma cuenta del proveedor. Rotar una clave en el mismo sitio no rompe la fijación; solo añadir, quitar o reordenar claves o cambiar los pesos provoca una nueva selección.

### ¿Cuándo entra en acción una clave en espera?
Las claves con weight=0 quedan fuera de la distribución normal y se habilitan solo después de que se hayan probado y fallado todas las claves con weight>0; además no mantienen fijación. Cuando una clave falla en mitad del proceso, el gateway reintenta con la siguiente clave no probada dentro del mismo upstream sin anular la fijación persistente original: las solicitudes posteriores de ese llamador siguen partiendo de la clave fijada originalmente.

- [Referencia completa: campos de upstream y modelos (docs)](https://docs.gatellm.io/en/reference/upstreams-models-fields)

## Relacionado
- [Inicio](https://www.gatellm.io/es/index.md)
- [Precios](https://www.gatellm.io/es/pricing.md)
- [Calculadora de costos](https://www.gatellm.io/es/calculator.md)
- [Acerca de](https://www.gatellm.io/es/about.md)
- [Reservar una demo](https://www.gatellm.io/es/demo.md)
- [FAQ](https://www.gatellm.io/es/faq.md)
- [Comparar gateways de IA](https://www.gatellm.io/es/compare.md)
- [Comparar LiteLLM](https://www.gatellm.io/es/compare/litellm.md)
- [Comparar OpenRouter](https://www.gatellm.io/es/compare/openrouter.md)
- [Comparar Alibaba Cloud AI Gateway](https://www.gatellm.io/es/compare/alibaba-cloud.md)
- [Comparar Azure API Management](https://www.gatellm.io/es/compare/azure-apim.md)
- [Comparar Apigee](https://www.gatellm.io/es/compare/apigee.md)
- [Comparar Cloudflare AI Gateway](https://www.gatellm.io/es/compare/cloudflare.md)
- [Comparar Kong AI Gateway](https://www.gatellm.io/es/compare/kong.md)
- [Comparar Portkey](https://www.gatellm.io/es/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/es/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/es/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/es/compare/litellm-vs-portkey.md)
- [Casos de uso](https://www.gatellm.io/es/use-cases.md)
- [Reducir el costo de LLM](https://www.gatellm.io/es/use-cases/reduce-cost.md)
- [Alta disponibilidad](https://www.gatellm.io/es/use-cases/high-availability.md)
- [Aislamiento multiusuario](https://www.gatellm.io/es/use-cases/multi-tenant.md)
- [Cumplimiento y auditoría](https://www.gatellm.io/es/use-cases/compliance-audit.md)
- [Solución de problemas por síntoma](https://www.gatellm.io/es/use-cases/troubleshooting.md)
- [Stack de modelos multivendor](https://www.gatellm.io/es/use-cases/mixed-model-stack.md)
- [IA autoalojada dentro de Office](https://www.gatellm.io/es/use-cases/self-hosted-office-ai.md)
- [Visibilidad y atribución del uso de tokens](https://www.gatellm.io/es/use-cases/token-ops.md)
- [Token FinOps: asignación y control del costo de IA](https://www.gatellm.io/es/use-cases/token-finops.md)
- [Gobernanza de herramientas MCP](https://www.gatellm.io/es/use-cases/mcp-tool-governance.md)
- [Búsqueda web para todos los modelos](https://www.gatellm.io/es/use-cases/web-search-grounding.md)
- [Control de admisión de clientes](https://www.gatellm.io/es/use-cases/client-admission-control.md)
- [Aplicar la política de uso de modelos](https://www.gatellm.io/es/use-cases/enforce-model-policy.md)
- [Sin elección de modelo en el cliente](https://www.gatellm.io/es/use-cases/automatic-model-tiering.md)
- [Un protocolo, cualquier modelo](https://www.gatellm.io/es/use-cases/one-protocol-any-model.md)
- [Complemento para Office / Microsoft 365](https://www.gatellm.io/es/office-addin.md)
- [Glosario](https://www.gatellm.io/es/glossary.md)
- [Catálogo de modelos](https://www.gatellm.io/es/models.md)
- [Integraciones de SDK y frameworks](https://www.gatellm.io/es/integrations.md)
- [Agentes de código IA y harnesses](https://www.gatellm.io/es/coding-agents.md)
- [Seguridad y cumplimiento](https://www.gatellm.io/es/security.md)
