Parlez un protocole. Exécutez n’importe quel modèle.
Votre application garde un SDK et un format de transmission. La passerelle traduit entre les quatre familles de protocoles de chat et normalise le streaming, les appels d’outils et les erreurs — ajouter un fournisseur ou changer de modèle ne touche jamais le code métier.
Ce dont la communauté se plaint vraiment
« Nous avons ajouté un second fournisseur et nous maintenons désormais deux chemins SDK, deux parseurs de streaming et deux formats d’appel d’outils. » « Claude Code ne parle qu’Anthropic, impossible de le mettre sur un autre modèle. » « Tout proxy qui se dit compatible OpenAI casse quelque part. »
Le vrai coût d’un modèle, c’est l’appel API plus le code écrit autour. La seconde partie n’apparaît jamais sur la facture — elle apparaît dans les sprints, et elle est multipliée par chaque fournisseur ajouté.
Comment GateLLM s’y prend
Quatre familles de protocoles des deux côtés — OpenAI, Anthropic, Gemini, DashScope — traduisent de tout vers tout. Un client Anthropic uniquement (Claude Code, claude-code-action) atteint un modèle natif Qwen ou DeepSeek sans modification du client ; au-delà des quatre familles, 15 autres formes de protocoles amont sont couvertes par la matrice d’interopérabilité.
Une couche de normalisation des capacités traite ce que coûte réellement un changement de protocole : formes des blocs de streaming, correspondance des appels et résultats d’outils, parties image et multimodales, sémantique des erreurs. Clés, politique et attribution des coûts s’appliquent de la même façon quelle que soit la paire de protocoles.
5 leviers qui produisent réellement un effet
- Un SDK, un parseur de streaming, un format d’appel d’outils côté client — un nouveau fournisseur est un changement dans la console
- Les agents Anthropic uniquement peuvent exécuter n’importe quel modèle pris en charge ; sans fork ni adaptateur
- Les changements de modèle restent dans la passerelle : le code applicatif et ses tests sont intacts
- Egress natif : chaque fournisseur reçoit son propre protocole plutôt qu’une enveloppe OpenAI retraduite
- La même surface de clés, de budget et de politique pour chaque paire de protocoles