LiteLLM と OpenRouter
決め手となるのは機能ではなく、プロンプトが物理的にどこへ行くかです。LiteLLM は自社 VPC で動き、OpenRouter はホスト型の中継です。
LiteLLM と OpenRouter は常に比較されますが、両者は製品の形が異なるため、比較はたいてい誤ります。OpenRouter はホスト型アグリゲーターで、ひとつのエンドポイント、多数のモデル、デプロイするものはありません。LiteLLM は自分で動かすライブラリ兼プロキシです。どちらも多数のプロバイダーをひとつの API で提供しますが、データ経路を自社ネットワーク内に保つのは片方だけです。規制業種の購買担当者にとっては、それだけで決まります。
3 つのゲートウェイ、5 つの基準
最初の 2 列はそれぞれ該当する比較ページを 1 行で要約したものです。GateLLM の列は当社の立場であり、第三者の評価ではありません。その前提で判断してください。
| 基準 | LiteLLM | OpenRouter | GateLLM |
|---|---|---|---|
| デプロイ | セルフホスト OSS | SaaS のみ | 完全セルフホスト(Docker / Helm)、ベンダーのコントロールプレーンなし |
| 請求の基準 | OSS は無料。Enterprise は従量課金 | トークンのパススルー + クレジット / BYOK 手数料 | インスタンス単位のライセンス。トークンへの上乗せなし、シート課金なし |
| プロトコルのエントリポイント | OpenAI 中心 | OpenAI 互換 | 4 イングレス × 4 エグレス(OpenAI / Anthropic / Gemini / DashScope) |
| ガバナンス | SSO(5 ユーザー上限)/ RBAC は Enterprise | キー単位の制御、組織 RBAC なし | SSO / SCIM / RBAC + キーグループ単位の ACL と予算上限 |
| ベンダーの独立性 | 独立(BerriAI) | 独立(Series B) | 独立(Fluxon LLC) |
LiteLLM を選ぶとき、OpenRouter を選ぶとき、どちらも選ばないとき
ルーティングロジックを自社インフラ内に置く必要があり、運用する意志があるなら LiteLLM を選んでください。プロバイダーのフォールバック、コスト追跡、OpenAI 互換の面を、リクエスト経路に第三者を挟まずに得られます。
デプロイをゼロにして、多数のモデルへの最短経路を求めるなら OpenRouter を選んでください。プロトタイプ、社内ツール、プロンプトが機密でないワークロードに適しています。自分で何かを運用するより確実に手間が少ないです。
単一プロバイダーと単一チームが実際の状況なら、どちらも選ばないでください。OpenRouter は不要なホップを追加し、LiteLLM は不要なサービスを追加します。ゲートウェイは、マルチプロバイダーのフェイルオーバー、チーム別のコスト配賦、データレジデンシー要件のいずれかで元を取ります。