GateLLM vs LiteLLM
Une comparaison vérifiée à la source. GateLLM est seul à proposer des mécanismes que LiteLLM n’a pas — bascule conditionnelle de modèle, mélange inter-protocoles, validation atomique de configuration — tandis que les deux partagent une base établie ; quelques points diffèrent par nature.
Tableau comparatif
Seul GateLLM le propose
Mécanismes que LiteLLM n’a pas — la ligne « comment ça marche » figure sous chaque fonctionnalité.
| Fonctionnalité | GateLLM | LiteLLM |
|---|---|---|
| Bascule conditionnelle de modèleRègles déclaratives switch-route + détection intégrée du mode plan + scripts context.useModel() — aucun changement client. LiteLLM exige des callbacks Python personnalisés. | Oui | Non |
| Mélange de modèles / SDK entre protocolesPoints d’entrée natifs de tout vers tout — appelez GPT depuis le SDK Anthropic, DeepSeek depuis le SDK Gemini. LiteLLM est centré OpenAI ; les chemins inverses passent par des cales (shims). | Oui | Non |
| Validation de configuration en une transactionPréparer → prévisualiser l’ensemble des conflits → validation atomique ; tout le lot est annulé au moindre conflit. | Oui | Non |
| Verrou dur des quotas de coûtLes cycles quotidien / mensuel renvoient 429 quota_exceeded dès que la dépense est atteinte. LiteLLM envoie uniquement des alertes de budget. | Oui | Non |
| Facturation résistante aux plantagesPré-débit → règlement → remboursement avec un grand livre en cours — correct même en cas de plantage du processus. | Oui | Non |
| Mutualisation de clés amont et liaison persistanteUn hachage pondéré FNV-1a fixe chaque appelant sur une clé et bascule vers la clé suivante non essayée ; les clés de poids 0 restent en veille. | Oui | Non |
| Trois modes de facturation + multideviseAu token / par appel / par durée, USD/CNY/EUR/JPY/GBP, dimensions personnalisées. LiteLLM ne fait que du suivi fondé sur les tokens. | Oui | Non |
| Connexion aux identifiants amont via SSOIntègre des fournisseurs sans clé statique (par exemple Kiro). LiteLLM n’accepte que des clés API statiques. | Oui | Non |
| Registre de métadonnées de capacitésPilote l’injection et la dégradation automatiques ; l’évolution des capacités d’un nouveau modèle ne nécessite aucune modification de code. | Oui | Non |
| Branche de version LTSN-1 + branche LTS (voir /lifecycle). LiteLLM ne maintient que les 4 dernières lignes mineures. | Oui | Non |
Les deux le font bien
Une base établie — l’une ou l’autre passerelle couvre cette couche. La décision se joue dans les couches au-dessus et en dessous.
| Fonctionnalité | GateLLM | LiteLLM |
|---|---|---|
| Routage API · repli · répartition de charge | Oui | Oui |
| BYOK, sans marge sur les tokens | Oui | Oui |
| Entièrement auto-hébergé, données sur site | Oui | Oui |
| Normalisation de l’appel d’outils entre fournisseurs | Oui | Oui |
| Normalisation des sorties structurées (JSON Schema) | Oui | Oui |
| Adaptation des tokens de raisonnement / réflexion | Oui | Oui |
| Mise en cache des prompts entre modèles | Oui | Oui |
| Injection de recherche web | Oui | Oui |
| Passerelle MCP (agrégation d’outils) | Oui | Oui |
| Console visuelle de configuration | Oui | Oui |
| Journaux d’audit et mesure de l’usage / des coûts | Oui | Oui |
Différent par nature
Ni meilleur ni moins bon — des mécanismes et des conditionnements différents que vous devez peser directement.
| Fonctionnalité | GateLLM | LiteLLM |
|---|---|---|
| Runtime | Binaire Rust unique · aucune pause GC | Processus Python + pile de dépendances |
| Surface de traduction de protocoles | 15 formes de protocoles ; les quatre familles de protocoles de chat (OpenAI / Anthropic / Gemini / DashScope) se traduisent de tout vers tout, le reste selon la matrice d’interopérabilité | Enveloppe centrée OpenAI + points de terminaison compatibles |
| Points d’entrée natifs par protocole | /v1/messages + count_tokens, generateContent Gemini, CRUD /v1beta/cachedContents, /v1/realtime, /mcp — une seule passerelle sert chaque SDK nativement | Point de terminaison compatible OpenAI (plus des variantes compatibles) |
| Profondeur de la mise en cache des prompts | Injection automatique des points de rupture de cache sur les appels au protocole OpenAI + mappage inter-protocoles + déduplication cachedContent de Google | Transmet cache_control, normalise l’usage |
| Valeurs par défaut de confidentialité des journaux | Journaux de requêtes désactivés par défaut · corps de journaux stockés masqués à chaque surface de sortie, révélation brute réservée aux administrateurs et auditée · rétention par défaut de 7 jours | Journalisation des requêtes/réponses activée ; masquage via guardrails |
| Mode de configuration | Entièrement dans la console — pas de YAML, les changements s’appliquent en direct | Centré sur config.yaml |
| Conditionnement SSO et SCIM entreprise | OIDC + SAML 2.0 + SCIM inclus dans la licence forfaitaire par instance, sans frais par siège | L’OSS plafonne le SSO à 5 utilisateurs ; SCIM exige l’offre Enterprise facturée à l’usage |
| Licence | Forfait par instance / mémoire, sans sièges, sans marge sur les tokens | OSS gratuit ; Enterprise facturé à l’usage |
| SLA de support | Support prioritaire inclus dans la licence forfaitaire | L’offre standard n’a aucun engagement de délai de réponse ; le SLA 24/7 est une extension payante (Sev0 1 h / Sev1 6 h) |
| Surface de points de terminaison | Points de terminaison cœur chat / temps réel / MCP | Ajoute /batches, /files, /fine_tuning, /vector_stores, /videos, /containers |
| Écosystème tiers | Journaux / Prometheus / OTel intégrés — sortie en protocoles standard, sans verrouillage sur un fournisseur ; détection des secrets et des données personnelles intégrée à la passerelle, sans moteur tiers | Gestionnaires de secrets AWS KMS / Vault / CyberArk ; guardrails PII Presidio ; observabilité Langfuse / Langsmith / Arize |
Vérifié par rapport à la documentation officielle de chaque produit au 2026-09-04 (docs.litellm.ai / docs.gatellm.io). Certaines capacités de LiteLLM nécessitent une licence Enterprise ; les détails peuvent évoluer — consultez les sources avant tout achat.
Comment fonctionnent les différenciateurs
Chaque différenciateur GateLLM est un mécanisme, pas une accroche marketing. Voici ce qu’il fait sous le capot, et ce que LiteLLM fait à la place.
Traduction de protocoles de tout vers tout
GateLLM : 15 formes de protocoles ; les quatre familles de protocoles de chat (OpenAI / Anthropic / Gemini / DashScope) se traduisent de tout vers tout, le reste selon la matrice d’interopérabilité. Entrée A → sortie B sans code de liaison.
Là où les concurrents échouent : Enveloppe centrée OpenAI — les SDK non OpenAI passent par des cales de compatibilité, et la dérive de format entre fournisseurs exige des adaptateurs par modèle.
Matrice d’interopérabilité des protocoles (docs) →Injection automatique des points de rupture de cache
GateLLM : Injecte automatiquement les points de rupture de cache sur les appels au protocole OpenAI, mappe la sémantique du cache entre protocoles et déduplique cachedContent de Google.
Là où les concurrents échouent : Transmet cache_control et normalise l’usage — aucune injection de points de rupture côté passerelle ni mappage de cache inter-protocoles.
Validation de configuration en une transaction
GateLLM : Préparer → prévisualiser l’ensemble des conflits d’espace de noms → validation atomique. Tout le lot est annulé au moindre conflit.
Là où les concurrents échouent : Rechargement à chaud de config.yaml sans prévisualisation des conflits ni retour arrière atomique — un état à moitié appliqué exige un nettoyage manuel.
Chemin de données sans journalisation par défaut
GateLLM : Journaux de requêtes désactivés par défaut, corps de journaux stockés masqués à chaque surface de sortie (la révélation brute exige reveal=true plus un rôle administrateur et est auditée), rétention par défaut de 7 jours.
Là où les concurrents échouent : Journalisation des requêtes/réponses activée par défaut ; le masquage est optionnel via les guardrails.
Trois modes de facturation + multidevise
GateLLM : Facturation au token / par appel / par durée, USD/CNY/EUR/JPY/GBP, dimensions de tarification personnalisées et prix privés épinglés.
Là où les concurrents échouent : Suivi des dépenses fondé uniquement sur les tokens — pas de modes par appel/durée ni de grilles multidevises.
Binaire Rust unique, aucune pause GC
GateLLM : Un seul binaire lié statiquement, sans ramasse-miettes — surcharge de passerelle inférieure à la milliseconde.
Là où les concurrents échouent : Processus Python + pile complète de dépendances ; pauses GC sous concurrence soutenue.
Moteur de scripts isolé
GateLLM : Moteur QuickJS avec emplacements avant / après requête et un emplacement réponse ; context.useModel() bascule toute la route (base_url, protocole, identifiants) ; un testeur dans la console plus des assistants intégrés json_path / str_* / regex_*.
Là où les concurrents échouent : Callbacks / hooks Python uniquement — pas de bac à sable côté passerelle, pas d’emplacements de traduction avant/après, pas de boucle de test dans la console.
API de scripts (docs) →Migrer depuis LiteLLM
Pointez le base_url de votre SDK OpenAI vers GateLLM — aucun autre changement de code. Vos clés BYOK et vos politiques de routage existantes sont conservées ; activez le routage par paliers / la gouvernance par mode selon vos besoins.
- 1Pointez le base_url de votre SDK OpenAI vers GateLLM (avec /v1) — une ligne, aucun autre changement de code.
- 2Saisissez vos clés de fournisseurs existantes dans la console (BYOK) — elles résident en mémoire de la passerelle, jamais persistées.
- 3Recréez vos politiques de routage / repli / répartition de charge dans la console — elles sont reprises à l’identique.
- 4Activez le routage par paliers ou les scripts de transformation uniquement si nécessaire ; commencez par la base.
Licence vs LiteLLM
GateLLM est une licence BYOK auto-hébergée — facturée par instance / mémoire, jamais avec une marge par token. LiteLLM OSS est gratuit mais le SSO y est plafonné à 5 utilisateurs ; son offre Enterprise est facturée à l’usage avec un SLA 24/7 payant en option.
Structure de coûts et de licence
- •GateLLM : licence forfaitaire par instance (Pro 2 Go 400 $/mois) — sans sièges, sans marge sur les tokens, sans frais à l’usage.
- •LiteLLM OSS : gratuit, auto-hébergé ; SSO gratuit jusqu’à 5 utilisateurs.
- •LiteLLM Enterprise : facturé à l’usage (devis sur demande) ; le SLA 24/7 et plusieurs guardrails sont des options payantes.
- •À fort volume, la licence forfaitaire découple le coût de l’usage — doublez vos tokens et les frais de licence ne bougent pas.
Quand choisir l’un ou l’autre
Choisissez LiteLLM si…
Vous voulez un proxy OSS mature avec une grande communauté, vous êtes à l’aise avec config.yaml et vos besoins tiennent dans l’offre gratuite — ou vous avez besoin de ses intégrations de gestionnaires de secrets réservées à Enterprise, de ses callbacks de guardrails, de sa synchronisation automatique des tarifs de modèles et de sa séparation admin/worker multi-région, et vous pouvez payer une tarification à l’usage.
Choisissez GateLLM si…
Vous avez besoin d’un binaire unique auto-hébergé, de points d’entrée natifs multi-protocoles (Anthropic / Gemini / Bedrock / Realtime), d’un chemin de données sans journalisation par défaut, de validations de configuration en une transaction, d’une facturation résistante aux plantages avec des verrous durs de quota de coût, et d’une licence forfaitaire qui reste fixe à mesure que l’usage augmente.
Les deux peuvent coexister
Utilisez LiteLLM pour des expérimentations rapides et GateLLM pour la passerelle de production gouvernée — les deux parlent OpenAI, le remplacement de SDK tient donc en une ligne dans les deux cas.
FAQ
Vérifié le 2026-09-04 par rapport à docs.litellm.ai et docs.gatellm.io. Les fonctionnalités et les frais évoluent — consultez les sources avant tout achat.