# LiteLLM vs. Kong AI Gateway - GateLLM

> LiteLLM vs. Kong AI Gateway im Vergleich nach Deployment, Abrechnungsanker, Protokoll-Einstiegspunkten, Governance und Anbieterunabhängigkeit — plus wann keines die richtige Antwort ist.

Kanonisch: https://www.gatellm.io/de/compare/litellm-vs-kong/

## LiteLLM vs. Kong AI Gateway
Beide sind selbst hostbar und beide sind Open-Core. Die entscheidende Frage: Ist Ihr Gateway ein LLM-Gateway oder ein allgemeines API-Gateway, das auch mit Modellen spricht?
LiteLLM und Kong AI Gateway werden verglichen, weil sie die beiden selbst hostbaren Optionen sind, die die meisten Teams in die engere Wahl nehmen. Sie sind nicht dieselbe Art von Software. LiteLLM ist ein LLM-Proxy — seine gesamte Oberfläche sind Modelle, Anbieter und OpenAI-kompatibles Routing. Kong ist ein allgemeines API-Gateway (Plugins, Upstreams, Ratenbegrenzung für beliebigen HTTP-Datenverkehr) mit ergänzten KI-Plugins. Dieser Unterschied bestimmt jede weitere Zeile unten: Protokoll-Einstiegspunkte, Granularität der Governance und wie viel Sie selbst bauen müssen.
## Wann LiteLLM, wann Kong, wann keines
Wählen Sie LiteLLM, wenn der Datenverkehr, den Sie governen, ausschließlich Modell-Datenverkehr ist: Routing pro Modell, Anbieter-Fallback und Kostenzuordnung, ohne eine Plugin-DSL zu lernen, und Sie sind bereit, einen Python-Dienst zu betreiben. Es ist der kürzeste Weg von „viele Anbieter aufrufen“ zu „viele Anbieter über einen Endpunkt aufrufen“.
Wählen Sie Kong, wenn Sie bereits Kong für Nicht-LLM-API-Datenverkehr betreiben. Das vorhandene Gateway wiederzuverwenden — seine Plugins, seine Ratenbegrenzung, seine Betriebs-Runbooks — ist meist besser, als ein zweites Gateway nur für KI einzuführen. Die KI-Plugins sind die kleinere Hälfte dieser Entscheidung.
Keines, wenn ein Anbieter, ein Team und eine überschaubare Monatsrechnung Ihre tatsächliche Situation sind. Die Anbieter-API direkt aufzurufen ist einfacher als beide Optionen, und kein Gateway verdient seine Betriebskosten, bis Sie Multi-Anbieter-Failover, Kostenzuordnung pro Team oder Compliance-Kontrollen brauchen, die der Anbieter nicht liefern kann.
## LiteLLM vs. Kong: häufige Fragen
### Ist LiteLLM oder Kong günstiger?

Beide sind im Open-Source-Kern kostenlos; die Kostenfrage ist, was Sie für Governance zahlen. LiteLLMs OSS-Kern enthält SSO kostenlos bis 5 Benutzer und sperrt RBAC hinter seiner Enterprise-Stufe, und Kong sperrt die KI-Plugins, die Sie bräuchten, hinter Kong Enterprise. Vergleichen Sie die Enterprise-Stufe, die Sie tatsächlich brauchen, nicht den OSS-Download.
### Kann Kong wie LiteLLM zu mehreren Modellanbietern routen?

Kong erreicht Anbieter über KI-Plugins auf einer OpenAI-kompatiblen Oberfläche. LiteLLM ist konstruktionsbedingt OpenAI-zentriert und spricht Anbieter-APIs direkt. Wenn Ihre Anforderung Protokollübersetzung über OpenAI / Anthropic / Gemini / DashScope sowohl am Eingang als auch am Ausgang ist, ist eine OpenAI-kompatible Plugin-Oberfläche nicht dasselbe.
### Behält eines von beiden Prompts in meinem Netzwerk?

Ja — beide sind selbst hostbar, sodass Prompts nicht über ein Dritt-Relay laufen müssen. Das ist der Hauptgrund, warum beide auf dieser Auswahlliste stehen und nicht neben den SaaS-Gateways.
## Drei Gateways, fünf Kriterien
Jede der ersten beiden Spalten ist eine einzeilige Zusammenfassung der passenden Vergleichsseite. Die GateLLM-Spalte ist unsere eigene Position, keine Drittbewertung — gewichten Sie sie entsprechend.
| Kriterium | LiteLLM | Kong AI Gateway | GateLLM |
| --- | --- | --- | --- |
| Deployment | Selbst gehostetes OSS | Selbst gehostetes OSS (+ verwaltetes Konnect) | Vollständig selbst gehostet (Docker / Helm), keine Anbieter-Steuerungsebene |
| Abrechnungsanker | Kostenloses OSS; Enterprise nutzungspreisbasiert | Kostenloses OSS; Enterprise-gated Plugins | Lizenz pro Instanz; kein Token-Aufschlag, keine Gebühr pro Sitzplatz |
| Protokoll-Einstiegspunkte | OpenAI-zentriert | OpenAI-kompatibel + KI-Plugins | Vier Eingänge x vier Ausgänge (OpenAI / Anthropic / Gemini / DashScope) |
| Governance | SSO (max. 5 Benutzer) / RBAC in Enterprise | RBAC / SSO in Enterprise | SSO / SCIM / RBAC + ACL und Budgetgrenzen pro Key-Gruppe |
| Anbieterunabhängigkeit | Unabhängig (BerriAI) | Unabhängig (Kong Inc.) | Unabhängig (Fluxon LLC) |

- [Vollständigen Vergleich GateLLM vs. LiteLLM ansehen](https://www.gatellm.io/de/compare/litellm.md)

## Verwandt
- [Startseite](https://www.gatellm.io/de/index.md)
- [Preise](https://www.gatellm.io/de/pricing.md)
- [Kostenrechner](https://www.gatellm.io/de/calculator.md)
- [Über uns](https://www.gatellm.io/de/about.md)
- [Demo buchen](https://www.gatellm.io/de/demo.md)
- [FAQ](https://www.gatellm.io/de/faq.md)
- [AI-Gateways vergleichen](https://www.gatellm.io/de/compare.md)
- [LiteLLM vergleichen](https://www.gatellm.io/de/compare/litellm.md)
- [OpenRouter vergleichen](https://www.gatellm.io/de/compare/openrouter.md)
- [Alibaba Cloud AI Gateway vergleichen](https://www.gatellm.io/de/compare/alibaba-cloud.md)
- [Azure API Management vergleichen](https://www.gatellm.io/de/compare/azure-apim.md)
- [Apigee vergleichen](https://www.gatellm.io/de/compare/apigee.md)
- [Cloudflare AI Gateway vergleichen](https://www.gatellm.io/de/compare/cloudflare.md)
- [Kong AI Gateway vergleichen](https://www.gatellm.io/de/compare/kong.md)
- [Portkey vergleichen](https://www.gatellm.io/de/compare/portkey.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/de/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/de/compare/litellm-vs-portkey.md)
- [Anwendungsfälle](https://www.gatellm.io/de/use-cases.md)
- [LLM-Kosten senken](https://www.gatellm.io/de/use-cases/reduce-cost.md)
- [Hochverfügbarkeit](https://www.gatellm.io/de/use-cases/high-availability.md)
- [Multi-Tenant-Isolation](https://www.gatellm.io/de/use-cases/multi-tenant.md)
- [Compliance & Audit](https://www.gatellm.io/de/use-cases/compliance-audit.md)
- [Fehlerbehebung nach Symptom](https://www.gatellm.io/de/use-cases/troubleshooting.md)
- [Gemischter Multi-Vendor-Modellstack](https://www.gatellm.io/de/use-cases/mixed-model-stack.md)
- [KI im Office selbst hosten](https://www.gatellm.io/de/use-cases/self-hosted-office-ai.md)
- [Token-Nutzung: Transparenz & Zuordnung](https://www.gatellm.io/de/use-cases/token-ops.md)
- [Token-FinOps: KI-Kosten zuordnen & steuern](https://www.gatellm.io/de/use-cases/token-finops.md)
- [MCP-Tool-Governance](https://www.gatellm.io/de/use-cases/mcp-tool-governance.md)
- [Websuche für jedes Modell](https://www.gatellm.io/de/use-cases/web-search-grounding.md)
- [Multi-Key-Rotation & Standby](https://www.gatellm.io/de/use-cases/multi-key-pooling.md)
- [Zugangskontrolle für verbundene Clients](https://www.gatellm.io/de/use-cases/client-admission-control.md)
- [Modellrichtlinie durchsetzen](https://www.gatellm.io/de/use-cases/enforce-model-policy.md)
- [Keine Modellwahl im Client](https://www.gatellm.io/de/use-cases/automatic-model-tiering.md)
- [Ein Protokoll, jedes Modell](https://www.gatellm.io/de/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 Add-in](https://www.gatellm.io/de/office-addin.md)
- [Glossar](https://www.gatellm.io/de/glossary.md)
- [Modellkatalog](https://www.gatellm.io/de/models.md)
- [SDK- & Framework-Integrationen](https://www.gatellm.io/de/integrations.md)
- [KI-Coding-Agents & Harnesses](https://www.gatellm.io/de/coding-agents.md)
- [Sicherheit & Compliance](https://www.gatellm.io/de/security.md)