LiteLLM vs. Portkey
Beide können das Gateway in Ihrer Infrastruktur betreiben. Der Unterschied ist, wo die Steuerungsebene liegt — und wem sie nächstes Jahr gehört.
LiteLLM und Portkey sind die beiden Auswahloptionen für Teams, die eine selbst gehostete Datenebene mit echter Governance wollen. LiteLLM ist vollständig selbst gehostet und Open-Core. Portkey ist hybrid: Das Gateway läuft in Ihrer Infrastruktur, die Steuerungsebene ist SaaS. Diese Trennung bestimmt den Rest — wo Ihre Konfiguration und Logs liegen und was mit Ihrem Gateway passiert, wenn der Anbieter den Besitzer wechselt.
Drei Gateways, fünf Kriterien
Jede der ersten beiden Spalten ist eine einzeilige Zusammenfassung der passenden Vergleichsseite. Die GateLLM-Spalte ist unsere eigene Position, keine Drittbewertung — gewichten Sie sie entsprechend.
| Kriterium | LiteLLM | Portkey (Prisma AIRS) | GateLLM |
|---|---|---|---|
| Deployment | Selbst gehostetes OSS | Hybrid: Gateway selbst gehostet, Steuerungsebene SaaS | Vollständig selbst gehostet (Docker / Helm), keine Anbieter-Steuerungsebene |
| Abrechnungsanker | Kostenloses OSS; Enterprise nutzungspreisbasiert | $49/Monat + $9 pro 100.000 aufgezeichnete Logs | Lizenz pro Instanz; kein Token-Aufschlag, keine Gebühr pro Sitzplatz |
| Protokoll-Einstiegspunkte | OpenAI-zentriert | OpenAI-kompatibel | Vier Eingänge x vier Ausgänge (OpenAI / Anthropic / Gemini / DashScope) |
| Governance | SSO (max. 5 Benutzer) / RBAC in Enterprise | RBAC / SSO / SCIM / Guardrails | SSO / SCIM / RBAC + ACL und Budgetgrenzen pro Key-Gruppe |
| Anbieterunabhängigkeit | Unabhängig (BerriAI) | Von Palo Alto Networks übernommen (2026-05-29) | Unabhängig (Fluxon LLC) |
Wann LiteLLM, wann Portkey, wann keines
Wählen Sie LiteLLM, wenn Sie das gesamte System — Datenebene und Steuerungsebene — innerhalb Ihrer eigenen Grenze wollen und bereit sind, es zu betreiben. Dann hängt nichts an Ihrem Routing oder Ihren Logs davon ab, dass ein Anbieter erreichbar ist.
Wählen Sie Portkey, wenn Sie Governance-Funktionen (RBAC, SSO, SCIM, Guardrails) wollen, ohne die Steuerungsebene selbst zu bauen, und eine SaaS-Steuerungsebene für Ihre Datenklassifizierung akzeptabel ist. Es ist der schnellere Weg zu governantem Multi-Anbieter-Routing.
Keines, wenn Sie noch nicht an dem Punkt sind, an dem Governance oder Failover eine echte Anforderung ist. Beide sind Infrastruktur, die Sie betreiben und bezahlen müssen; eine direkte Anbieterintegration ist die ehrliche Antwort, bis Multi-Anbieter-Failover, Kostenzuordnung pro Team oder Compliance-Kontrollen die Einschränkung werden.