LiteLLM vs OpenRouter
Решающая строка — не функции, а то, куда физически уходят ваши промпты. LiteLLM работает в вашем VPC; OpenRouter — размещённый релей.
LiteLLM и OpenRouter сравнивают постоянно, и сравнение обычно идёт не так, потому что это продукты разной формы. OpenRouter — размещённый агрегатор: один endpoint, много моделей, ничего развёртывать не нужно. LiteLLM — библиотека и прокси, которые вы запускаете сами. Оба дают один API поверх многих провайдеров. Только один из них держит путь данных внутри вашей собственной сети — и для регулируемых покупателей это и есть всё решение.
Три шлюза, пять критериев
Каждая из первых двух колонок — однострочное резюме соответствующей страницы сравнения. Колонка GateLLM — наша собственная позиция, а не оценка третьей стороны, — взвешивайте её соответственно.
| Критерий | LiteLLM | OpenRouter | GateLLM |
|---|---|---|---|
| Развёртывание | Self-hosted OSS | Только SaaS | Полностью self-hosted (Docker / Helm), без плоскости управления производителя |
| Основа счёта | Бесплатный OSS; Enterprise — по использованию | Сквозная цена токенов + сборы за кредиты/BYOK | Лицензия на экземпляр; без наценки на токены, без платы за место |
| Протокольные точки входа | С центром на OpenAI | OpenAI-compatible | Четыре входа × четыре выхода (OpenAI / Anthropic / Gemini / DashScope) |
| Управление | SSO (лимит 5 пользователей) / RBAC в Enterprise | Управление на уровне ключа, без RBAC организации | SSO / SCIM / RBAC + ACL и лимиты бюджета на группу ключей |
| Независимость от производителя | Независимый (BerriAI) | Независимый (Series B) | Независимый (Fluxon LLC) |
Когда LiteLLM, когда OpenRouter, когда ни один
Выбирайте LiteLLM, если логика маршрутизации должна жить в вашей инфраструктуре и вы готовы её эксплуатировать. Вы получаете fallback между провайдерами, учёт затрат и OpenAI-compatible поверхность без третьей стороны в пути запроса.
Выбирайте OpenRouter, если нужен нулевой деплой и самый быстрый путь ко многим моделям — прототипы, внутренние инструменты или нагрузки, промпты которых не чувствительны. Это действительно меньше работы, чем запускать что-то самому.
Ни один, если ваша реальная ситуация — один провайдер и одна команда. OpenRouter добавляет переход, который вам не нужен; LiteLLM добавляет сервис, который вам не нужен. Шлюз начинает окупаться при отказоустойчивости между провайдерами, атрибуции затрат по командам или требовании локальности данных.