LiteLLM と OpenRouter

決め手となるのは機能ではなく、プロンプトが物理的にどこへ行くかです。LiteLLM は自社 VPC で動き、OpenRouter はホスト型の中継です。

LiteLLM と OpenRouter は常に比較されますが、両者は製品の形が異なるため、比較はたいてい誤ります。OpenRouter はホスト型アグリゲーターで、ひとつのエンドポイント、多数のモデル、デプロイするものはありません。LiteLLM は自分で動かすライブラリ兼プロキシです。どちらも多数のプロバイダーをひとつの API で提供しますが、データ経路を自社ネットワーク内に保つのは片方だけです。規制業種の購買担当者にとっては、それだけで決まります。

3 つのゲートウェイ、5 つの基準

最初の 2 列はそれぞれ該当する比較ページを 1 行で要約したものです。GateLLM の列は当社の立場であり、第三者の評価ではありません。その前提で判断してください。

基準LiteLLMOpenRouterGateLLM
デプロイセルフホスト OSSSaaS のみ完全セルフホスト(Docker / Helm)、ベンダーのコントロールプレーンなし
請求の基準OSS は無料。Enterprise は従量課金トークンのパススルー + クレジット / BYOK 手数料インスタンス単位のライセンス。トークンへの上乗せなし、シート課金なし
プロトコルのエントリポイントOpenAI 中心OpenAI 互換4 イングレス × 4 エグレス(OpenAI / Anthropic / Gemini / DashScope)
ガバナンスSSO(5 ユーザー上限)/ RBAC は Enterpriseキー単位の制御、組織 RBAC なしSSO / SCIM / RBAC + キーグループ単位の ACL と予算上限
ベンダーの独立性独立(BerriAI)独立(Series B)独立(Fluxon LLC)

LiteLLM を選ぶとき、OpenRouter を選ぶとき、どちらも選ばないとき

ルーティングロジックを自社インフラ内に置く必要があり、運用する意志があるなら LiteLLM を選んでください。プロバイダーのフォールバック、コスト追跡、OpenAI 互換の面を、リクエスト経路に第三者を挟まずに得られます。

デプロイをゼロにして、多数のモデルへの最短経路を求めるなら OpenRouter を選んでください。プロトタイプ、社内ツール、プロンプトが機密でないワークロードに適しています。自分で何かを運用するより確実に手間が少ないです。

単一プロバイダーと単一チームが実際の状況なら、どちらも選ばないでください。OpenRouter は不要なホップを追加し、LiteLLM は不要なサービスを追加します。ゲートウェイは、マルチプロバイダーのフェイルオーバー、チーム別のコスト配賦、データレジデンシー要件のいずれかで元を取ります。

LiteLLM と OpenRouter:よくある質問