LiteLLM と Portkey

どちらもゲートウェイを自社インフラで動かせます。違いはコントロールプレーンがどこにあり、来年それを誰が所有するかです。

LiteLLM と Portkey は、実際のガバナンスを備えたセルフホスト型データプレーンを求めるチームの 2 つの候補です。LiteLLM は完全セルフホストのオープンコアです。Portkey はハイブリッドで、ゲートウェイは自社インフラで動きますがコントロールプレーンは SaaS です。この分割が残りを決めます。設定とログがどこにあり、ベンダーが所有者を変えたときにゲートウェイがどうなるかです。

3 つのゲートウェイ、5 つの基準

最初の 2 列はそれぞれ該当する比較ページを 1 行で要約したものです。GateLLM の列は当社の立場であり、第三者の評価ではありません。その前提で判断してください。

基準LiteLLMPortkey (Prisma AIRS)GateLLM
デプロイセルフホスト OSSハイブリッド:ゲートウェイはセルフホスト、コントロールプレーンは SaaS完全セルフホスト(Docker / Helm)、ベンダーのコントロールプレーンなし
請求の基準OSS は無料。Enterprise は従量課金月額 $49 + 記録ログ 10 万件ごとに $9インスタンス単位のライセンス。トークンへの上乗せなし、シート課金なし
プロトコルのエントリポイントOpenAI 中心OpenAI 互換4 イングレス × 4 エグレス(OpenAI / Anthropic / Gemini / DashScope)
ガバナンスSSO(5 ユーザー上限)/ RBAC は EnterpriseRBAC / SSO / SCIM / ガードレールSSO / SCIM / RBAC + キーグループ単位の ACL と予算上限
ベンダーの独立性独立(BerriAI)Palo Alto Networks が買収(2026-05-29)独立(Fluxon LLC)

LiteLLM を選ぶとき、Portkey を選ぶとき、どちらも選ばないとき

データプレーンとコントロールプレーンの両方を自社の境界内に置きたいなら LiteLLM を選んでください。その場合、ルーティングとログがベンダーの到達可能性に依存することはありません。

コントロールプレーンを自分で作らずにガバナンス機能(RBAC、SSO、SCIM、ガードレール)を求め、データ分類上 SaaS のコントロールプレーンが許容できるなら Portkey を選んでください。統制されたマルチプロバイダールーティングへの近道です。

ガバナンスやフェイルオーバーがまだ実際の要件になっていないなら、どちらも選ばないでください。どちらも運用して費用を払うインフラです。マルチプロバイダーのフェイルオーバー、チーム別のコスト配賦、コンプライアンス管理が制約になるまでは、プロバイダーとの直接統合が正直な答えです。

LiteLLM と Portkey:よくある質問