# Plusieurs clés par fournisseur : distribution pondérée, liaison persistante, prise de relais des clés en veille

> Passerelle IA avec plusieurs clés API par amont : hachage pondéré déterministe, liaison persistante par appelant, prise de relais des clés de poids 0, liaisons observables — empilés orthogonalement avec la répartition de charge entre amonts.

Canonique: https://www.gatellm.io/fr/use-cases/multi-key-pooling/

Attachez plusieurs clés API à un même amont : distribution pondérée, liaison persistante par appelant, clés en veille de poids 0 comme filet de sécurité — fini les attentes bloquantes sur 429.

## Ce dont la communauté se plaint réellement
Les favoris de Reddit : « le RPM d’une clé OpenAI ne suffit pas, comment tourner sur plusieurs comptes », « une clé atteint 429 et l’activité attend », « changer de clé fait perdre toute l’affinité de cache de session ».
Faire sa propre rotation signifie gérer soi-même la persistance, les poids, la veille et l’éviction en cas d’échec — un vrai travail d’ingénierie.

## Comment GateLLM procède
Le formulaire d’amont GateLLM accepte plusieurs clés API : un hachage pondéré déterministe (FNV-1a) lie durablement chaque appelant à la même clé amont (stable pendant le TTL ; remplacer une clé sur place ne casse pas la liaison), et les poids fixent le ratio de distribution. Lorsqu’une clé échoue, la passerelle réessaie avec la clé suivante non essayée dans cet amont — sans écraser la liaison persistante d’origine.
Les clés de poids 0 sont en veille, activées seulement après l’échec de toutes les clés de poids >0. L’état de liaison (liaison / prédiction / obsolète) est observable ligne par ligne dans la console.
Le mécanisme se combine orthogonalement avec les répartiteurs de charge : Smooth WRR choisit l’amont entre les entrées, puis la sélection persistante choisit la clé à l’intérieur.

## 5 leviers qui portent réellement
- Plusieurs clés pondérées : un hachage pondéré déterministe distribue les appelants, les poids sont des ratios
- Liaison persistante : chaque appelant reste sur la même clé amont pendant le TTL — affinité de cache
- Clés en veille : les clés de poids 0 restent hors de la distribution normale, activées seulement après l’échec de toutes les clés actives
- Liaisons observables : états liaison / prédiction / obsolète ligne par ligne, actualisés toutes les 3 s
- Orthogonal au répartiteur : sélection de clé dans un amont + Smooth WRR entre amonts s’empilent en deux couches

## FAQ
### La rotation de clés fait-elle perdre l’affinité du cache de prompts ?
La liaison persistante existe exactement pour cela : chaque appelant reste lié à la même clé amont pendant le TTL, touchant le cache du même compte fournisseur. Remplacer une clé sur place ne casse pas la liaison ; seuls l’ajout / la suppression / la réorganisation de clés ou un changement de poids déclenchent une resélection.

### Quand une clé en veille prend-elle effet ?
Les clés de poids 0 restent hors de la distribution normale et ne sont activées qu’après l’échec de toutes les clés de poids >0 — et elles ne portent aucune liaison. Lorsqu’une clé échoue en cours de route, la passerelle réessaie avec la clé suivante non essayée dans le même amont sans écraser la liaison persistante d’origine : les requêtes ultérieures de cet appelant partent toujours de la clé initialement liée.

- [Référence complète : champs des amonts et des modèles (docs)](https://docs.gatellm.io/en/reference/upstreams-models-fields)

## Voir aussi
- [Accueil](https://www.gatellm.io/fr/index.md)
- [Tarifs](https://www.gatellm.io/fr/pricing.md)
- [Calculateur de coûts](https://www.gatellm.io/fr/calculator.md)
- [À propos](https://www.gatellm.io/fr/about.md)
- [Réserver une démo](https://www.gatellm.io/fr/demo.md)
- [FAQ](https://www.gatellm.io/fr/faq.md)
- [Comparer les passerelles IA](https://www.gatellm.io/fr/compare.md)
- [Comparer LiteLLM](https://www.gatellm.io/fr/compare/litellm.md)
- [Comparer OpenRouter](https://www.gatellm.io/fr/compare/openrouter.md)
- [Comparer Alibaba Cloud AI Gateway](https://www.gatellm.io/fr/compare/alibaba-cloud.md)
- [Comparer Azure API Management](https://www.gatellm.io/fr/compare/azure-apim.md)
- [Comparer Apigee](https://www.gatellm.io/fr/compare/apigee.md)
- [Comparer Cloudflare AI Gateway](https://www.gatellm.io/fr/compare/cloudflare.md)
- [Comparer Kong AI Gateway](https://www.gatellm.io/fr/compare/kong.md)
- [Comparer Portkey](https://www.gatellm.io/fr/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/fr/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/fr/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/fr/compare/litellm-vs-portkey.md)
- [Cas d’usage](https://www.gatellm.io/fr/use-cases.md)
- [Réduire le coût des LLM](https://www.gatellm.io/fr/use-cases/reduce-cost.md)
- [Haute disponibilité](https://www.gatellm.io/fr/use-cases/high-availability.md)
- [Isolation multi-tenant](https://www.gatellm.io/fr/use-cases/multi-tenant.md)
- [Conformité et audit](https://www.gatellm.io/fr/use-cases/compliance-audit.md)
- [Dépannage par symptôme](https://www.gatellm.io/fr/use-cases/troubleshooting.md)
- [Pile de modèles multi-fournisseurs](https://www.gatellm.io/fr/use-cases/mixed-model-stack.md)
- [Héberger l’IA en interne dans Office](https://www.gatellm.io/fr/use-cases/self-hosted-office-ai.md)
- [Visibilité et attribution des tokens](https://www.gatellm.io/fr/use-cases/token-ops.md)
- [Token FinOps : allocation et contrôle des coûts IA](https://www.gatellm.io/fr/use-cases/token-finops.md)
- [Gouvernance des outils MCP](https://www.gatellm.io/fr/use-cases/mcp-tool-governance.md)
- [Recherche web pour chaque modèle](https://www.gatellm.io/fr/use-cases/web-search-grounding.md)
- [Contrôle des clients connectés](https://www.gatellm.io/fr/use-cases/client-admission-control.md)
- [Imposer la politique d’usage des modèles](https://www.gatellm.io/fr/use-cases/enforce-model-policy.md)
- [Aucun choix de modèle côté client](https://www.gatellm.io/fr/use-cases/automatic-model-tiering.md)
- [Un protocole, n’importe quel modèle](https://www.gatellm.io/fr/use-cases/one-protocol-any-model.md)
- [Complément Office / Microsoft 365](https://www.gatellm.io/fr/office-addin.md)
- [Glossaire](https://www.gatellm.io/fr/glossary.md)
- [Catalogue de modèles](https://www.gatellm.io/fr/models.md)
- [Intégrations SDK et frameworks](https://www.gatellm.io/fr/integrations.md)
- [Agents de codage IA et harnais](https://www.gatellm.io/fr/coding-agents.md)
- [Sécurité et conformité](https://www.gatellm.io/fr/security.md)
