LiteLLM vs Portkey
Оба могут запускать шлюз в вашей инфраструктуре. Разница — где живёт плоскость управления и кому она будет принадлежать в следующем году.
LiteLLM и Portkey — два варианта шорт-листа для команд, которым нужна self-hosted плоскость данных с настоящим управлением. LiteLLM полностью self-hosted и open-core. Portkey гибриден: шлюз работает в вашей инфраструктуре, плоскость управления — SaaS. Это разделение определяет остальное: где живут ваша конфигурация и логи и что произойдёт с вашим шлюзом, когда производитель сменит владельца.
Три шлюза, пять критериев
Каждая из первых двух колонок — однострочное резюме соответствующей страницы сравнения. Колонка GateLLM — наша собственная позиция, а не оценка третьей стороны, — взвешивайте её соответственно.
| Критерий | LiteLLM | Portkey (Prisma AIRS) | GateLLM |
|---|---|---|---|
| Развёртывание | Self-hosted OSS | Гибрид: шлюз self-hosted, плоскость управления SaaS | Полностью self-hosted (Docker / Helm), без плоскости управления производителя |
| Основа счёта | Бесплатный OSS; Enterprise — по использованию | $49/мес + $9 за каждые 100 тыс. записанных логов | Лицензия на экземпляр; без наценки на токены, без платы за место |
| Протокольные точки входа | С центром на OpenAI | OpenAI-compatible | Четыре входа × четыре выхода (OpenAI / Anthropic / Gemini / DashScope) |
| Управление | SSO (лимит 5 пользователей) / RBAC в Enterprise | RBAC / SSO / SCIM / guardrails | SSO / SCIM / RBAC + ACL и лимиты бюджета на группу ключей |
| Независимость от производителя | Независимый (BerriAI) | Приобретён Palo Alto Networks (2026-05-29) | Независимый (Fluxon LLC) |
Когда LiteLLM, когда Portkey, когда ни один
Выбирайте LiteLLM, если хотите держать всю систему — плоскость данных и плоскость управления — внутри собственного периметра и готовы её эксплуатировать. Тогда ни ваша маршрутизация, ни ваши логи не зависят от доступности производителя.
Выбирайте Portkey, если хотите функции управления (RBAC, SSO, SCIM, guardrails) без самостоятельного построения плоскости управления и SaaS-плоскость управления приемлема для вашей классификации данных. Это более быстрый путь к управляемой мультипровайдерской маршрутизации.
Ни один, если вы ещё не в той точке, где управление или отказоустойчивость — реальное требование. Оба — инфраструктура, которую нужно запускать и оплачивать; прямая интеграция с провайдером — честный ответ, пока ограничением не станут отказоустойчивость между провайдерами, атрибуция затрат по командам или средства контроля соответствия.