GateLLM と LiteLLM
出典で検証済みの比較です。条件付きモデル切り替え、クロスプロトコル混在、アトミックな設定コミットといった LiteLLM にはない仕組みを GateLLM だけが搭載し、両者は確立されたベースラインを共有しています。いくつかの点は性質が異なります。
比較表
GateLLM だけが提供するもの
LiteLLM にはない仕組みです。各機能の下に「どう実現するか」を 1 行で示します。
| 機能 | GateLLM | LiteLLM |
|---|---|---|
| 条件付きモデル切り替え宣言的な switch-route ルール + 組み込みのプランモード検出 + context.useModel() スクリプトで、クライアント側の変更はゼロ。LiteLLM では独自の Python コールバックが必要です。 | あり | なし |
| プロトコルをまたぐモデル / SDK の混在ネイティブな任意対任意のエントリポイント。Anthropic SDK から GPT を、Gemini SDK から DeepSeek を呼び出せます。LiteLLM は OpenAI 中心で、逆方向はシムを経由します。 | あり | なし |
| 単一トランザクションでの設定コミットステージング → 競合の全件プレビュー → アトミックなコミット。競合が 1 つでもあればバッチ全体がロールバックします。 | あり | なし |
| コストクォータによる強制ゲート日次 / 月次のサイクルで、支出が上限に達した瞬間に 429 quota_exceeded を返します。LiteLLM は予算アラートを送るだけです。 | あり | なし |
| クラッシュセーフな課金事前差し引き → 精算 → 返金を進行中台帳で管理し、プロセスクラッシュをまたいでも正しく保たれます。 | あり | なし |
| アップストリームキーのプールとスティッキーな紐付け重み付き FNV-1a ハッシュで各呼び出し元を 1 つのキーに固定し、失敗時は未試行の次のキーへフェイルオーバーします。weight=0 は待機系です。 | あり | なし |
| 3 つの課金モード + 多通貨トークン / 呼び出し単位 / 時間単位、USD/CNY/EUR/JPY/GBP、カスタム次元に対応。LiteLLM はトークンベースの追跡のみです。 | あり | なし |
| アップストリームの SSO 認証ログイン静的キーを持たないベンダー（例：Kiro）をオンボーディングできます。LiteLLM は静的 API キーのみです。 | あり | なし |
| ケイパビリティメタデータレジストリ自動注入とデグラデーションを駆動し、新モデルのケイパビリティ変化にコード変更なしで追従します。 | あり | なし |
| LTS リリースブランチN-1 + LTS ブランチ（/lifecycle を参照）。LiteLLM は直近 4 つのマイナー系列のみをサポートします。 | あり | なし |
両者が得意とするもの
確立されたベースラインです。どちらのゲートウェイでもこの層はカバーできます。判断は上下の層で行います。
| 機能 | GateLLM | LiteLLM |
|---|---|---|
| API ルーティング · フォールバック · 負荷分散 | あり | あり |
| BYOK、トークンへの上乗せなし | あり | あり |
| 完全セルフホスト、データはオンプレミスに留まる | あり | あり |
| クロスベンダーのツール呼び出し正規化 | あり | あり |
| 構造化出力（JSON Schema）の正規化 | あり | あり |
| 推論 / thinking トークンの適応 | あり | あり |
| モデルをまたぐプロンプトキャッシュ | あり | あり |
| Web 検索の注入 | あり | あり |
| MCP ゲートウェイ（ツール集約） | あり | あり |
| 設定用のビジュアルコンソール | あり | あり |
| 監査ログと利用量 / コストの計測 | あり | あり |
性質が異なるもの
優劣ではなく、仕組みとパッケージングの違いです。直接比較して判断してください。
| 機能 | GateLLM | LiteLLM |
|---|---|---|
| ランタイム | 単一の Rust バイナリ · GC ポーズなし | Python プロセス + 依存スタック |
| プロトコル翻訳の範囲 | 15 のプロトコル形状。4 大チャットプロトコルファミリー（OpenAI / Anthropic / Gemini / DashScope）は任意対任意に翻訳し、それ以外は相互運用マトリクスに従う | OpenAI 中心のエンベロープ + 互換エンドポイント |
| ネイティブプロトコルのエントリポイント | /v1/messages + count_tokens、Gemini generateContent、/v1beta/cachedContents CRUD、/v1/realtime、/mcp。ひとつのゲートウェイがすべての SDK にネイティブ対応 | OpenAI 互換エンドポイント（互換バリアントを含む） |
| プロンプトキャッシュの深さ | OpenAI プロトコルの呼び出しにキャッシュブレークポイントを自動注入 + プロトコル間マッピング + Google cachedContent の重複排除 | cache_control をパススルーし、利用量を正規化 |
| ログのプライバシー既定値 | リクエストログは既定でオフ · 保存されたログ本文はすべての出力面で秘匿化 · 生データの表示は管理者のみで監査対象 · 既定の保持期間は 7 日 | リクエスト / レスポンスのログはオン。秘匿化はガードレール経由 |
| 設定方法 | すべてコンソールで完結。YAML 不要、変更は即時反映 | config.yaml 中心 |
| エンタープライズ SSO と SCIM のパッケージング | OIDC + SAML 2.0 + SCIM をインスタンス単位の定額ライセンスに同梱、シート課金なし | OSS では SSO が 5 ユーザーまで。SCIM には従量課金の Enterprise ティアが必要 |
| ライセンス | インスタンス / メモリ単位の定額。シートなし、トークンへの上乗せなし | OSS は無料。Enterprise は従量課金 |
| サポート SLA | 優先サポートを定額ライセンスに含む | Standard ティアには応答時間のコミットメントなし。24/7 SLA は有償アドオン（Sev0 1 時間 / Sev1 6 時間） |
| エンドポイントの範囲 | チャット / リアルタイム / MCP のコアエンドポイント | /batches、/files、/fine_tuning、/vector_stores、/videos、/containers も提供 |
| サードパーティのエコシステム | 組み込みのログ / Prometheus / OTel。標準プロトコルで出力し、単一ベンダーへのロックインなし。シークレット / PII 検出はゲートウェイに内蔵され、サードパーティエンジン不要 | AWS KMS / Vault / CyberArk のシークレットマネージャー。Presidio の PII ガードレール。Langfuse / Langsmith / Arize の可観測性 |
2026-09-04 時点で各製品の公式ドキュメント（docs.litellm.ai / docs.gatellm.io）に基づき検証済みです。LiteLLM の一部機能には Enterprise ライセンスが必要です。詳細は変わり得るため、調達前に出典を確認してください。
差別化要因の仕組み
GateLLM の差別化要因はどれも宣伝文句ではなく仕組みです。内部で何を行い、LiteLLM が代わりに何をするのかを示します。
プロトコルの任意対任意翻訳
GateLLM： 15 のプロトコル形状。4 大チャットプロトコルファミリー（OpenAI / Anthropic / Gemini / DashScope）は任意対任意に翻訳し、それ以外は相互運用マトリクスに従います。イングレス A → エグレス B へグルーコードなしで変換します。
競合が劣る点： OpenAI 中心のエンベロープのため、OpenAI 以外の SDK は互換シムを経由し、クロスベンダーの形式差にはモデルごとのアダプターが必要です。
プロトコル相互運用マトリクス（docs） →キャッシュブレークポイントの自動注入
GateLLM： OpenAI プロトコルの呼び出しにキャッシュブレークポイントを自動注入し、プロトコル間でキャッシュの意味をマッピングし、Google cachedContent を重複排除します。
競合が劣る点： cache_control をパススルーして利用量を正規化するだけで、ゲートウェイ側のブレークポイント注入やプロトコル間のキャッシュマッピングはありません。
単一トランザクションでの設定コミット
GateLLM： ステージング → 名前空間の競合全件プレビュー → アトミックなコミット。競合が 1 つでもあればバッチ全体がロールバックします。
競合が劣る点： config.yaml のホットリロードで、競合プレビューもアトミックなロールバックもありません。中途半端な適用状態は手作業で掃除する必要があります。
既定でログを取らないデータ経路
GateLLM： リクエストログは既定でオフ。保存されたログ本文はすべての出力面で秘匿化（生データの表示には reveal=true と管理者ロールが必要で、監査対象）、既定の保持期間は 7 日です。
競合が劣る点： リクエスト / レスポンスのログが既定でオン。秘匿化はガードレールによるオプトインです。
3 つの課金モード + 多通貨
GateLLM： トークン / 呼び出し単位 / 時間単位の課金、USD/CNY/EUR/JPY/GBP、カスタム料金次元、固定した非公開価格に対応します。
競合が劣る点： トークンベースの支出追跡のみで、呼び出し単位 / 時間単位のモードや多通貨のレートカードはありません。
単一の Rust バイナリ、GC ポーズなし
GateLLM： 静的リンクされた単一バイナリで、ガベージコレクターがありません。ゲートウェイのオーバーヘッドは 1 ミリ秒未満です。
競合が劣る点： Python プロセス + 完全な依存スタック。持続的な並列下では GC ポーズが発生します。
サンドボックス化されたスクリプトエンジン
GateLLM： QuickJS エンジンにリクエスト前 / リクエスト後スロットとレスポンススロットを用意。context.useModel() がルート全体（base_url、プロトコル、認証情報）を切り替えます。コンソール内テスターと組み込みの json_path / str_* / regex_* ヘルパーも利用できます。
競合が劣る点： Python のコールバック / フックのみ。ゲートウェイ側のサンドボックス、翻訳前後のスロット、コンソール内のテストループはありません。
スクリプティング API（docs） →LiteLLM からの移行
OpenAI SDK の base_url を GateLLM に向けるだけで、他のコード変更は不要です。既存の BYOK キーとルーティングポリシーはそのまま引き継げます。必要に応じて段階的モデルルーティングやモード別ガバナンスを有効にしてください。
- 1OpenAI SDK の base_url を GateLLM に向けます（/v1 付き）。1 行だけで、他のコード変更は不要です。
- 2既存のプロバイダーキーをコンソールに入力します（BYOK）。キーはゲートウェイのメモリ内にあり、永続化されません。
- 3ルーティング / フォールバック / 負荷分散のポリシーをコンソールで再作成します。1 対 1 で引き継げます。
- 4段階的モデルルーティングやスクリプト変換は必要な場合だけ有効にし、まずはベースラインから始めてください。
LiteLLM とのライセンス比較
GateLLM は BYOK のセルフホスト型ライセンスで、インスタンス / メモリ単位の価格であり、トークンへの上乗せはありません。LiteLLM の OSS は無料ですが SSO が 5 ユーザーまでに制限され、Enterprise ティアは従量課金で、24/7 SLA は有償アドオンです。
コストとライセンスの構造
- •GateLLM：インスタンス単位の定額ライセンス（Pro 2GB 月額 $400）。シートなし、トークンへの上乗せなし、従量課金なし。
- •LiteLLM OSS：無料のセルフホスト。SSO は 5 ユーザーまで無料。
- •LiteLLM Enterprise：従量課金（見積もりは要問い合わせ）。24/7 SLA と一部のガードレールは有償アドオン。
- •大規模になると定額ライセンスはコストを利用量から切り離します。トークンが 2 倍になってもライセンス料は変わりません。
どちらを選ぶべきか
LiteLLM を選ぶ場合…
大規模なコミュニティを持つ成熟した OSS プロキシを求め、config.yaml の運用に抵抗がなく、無料ティアで要件を満たせる場合。または Enterprise 限定のシークレットマネージャー連携、ガードレールコールバック、モデル価格の自動同期、マルチリージョンな admin / worker 分離が必要で、従量課金を支払える場合。
GateLLM を選ぶ場合…
単一のセルフホストバイナリ、ネイティブなマルチプロトコルエントリポイント（Anthropic / Gemini / Bedrock / Realtime）、既定でログを取らないデータ経路、単一トランザクションの設定コミット、ハードなコストクォータゲート付きのクラッシュセーフな課金、利用量が増えても固定の定額ライセンスが必要な場合。
両者は共存できます
簡単な実験には LiteLLM、統制された本番ゲートウェイには GateLLM を使えます。どちらも OpenAI を話すため、SDK の差し替えはどちらでも 1 行です。
FAQ
2026-09-04 時点で docs.litellm.ai と docs.gatellm.io に基づき検証済みです。機能と手数料は変わり得るため、調達前に出典を確認してください。