LiteLLM vs Portkey
两者都能把网关跑在你的基础设施里。差别在于控制面放在哪里 —— 以及明年它归谁。
LiteLLM 与 Portkey 是「要自托管数据面、又要真治理」这类团队的候选名单。LiteLLM 全自托管、开源内核。Portkey 是混合形态:网关跑在你的基础设施里,控制面是 SaaS。这个切分决定了其余一切 —— 你的配置与日志存在哪里,以及厂商易主时你的网关会怎样。
三家网关,五个判据
前两列各自是对应对比页的一句话浓缩。GateLLM 那一列是我们自己的立场,不是第三方评测 —— 请按此权重看待。
| 判据 | LiteLLM | Portkey (Prisma AIRS) | GateLLM |
|---|---|---|---|
| 部署形态 | 自托管 OSS | 混合:网关自托管,控制面 SaaS | 全私有化部署(Docker / Helm),无厂商控制面 |
| 计费锚点 | OSS 免费;企业版按用量 | $49/月 + 每 100k recorded logs 加 $9 | 按实例授权;不加收 Token 费、不收席位费 |
| 协议入口 | OpenAI 中心 | OpenAI 兼容 | 四入四出(OpenAI / Anthropic / Gemini / DashScope) |
| 治理粒度 | SSO(5 用户上限)/ RBAC 在企业版 | RBAC / SSO / SCIM / guardrails | SSO / SCIM / RBAC + 密钥组 ACL 与预算上限 |
| 供应商独立性 | 独立(BerriAI) | 被 Palo Alto Networks 收购(2026-05-29) | 独立厂商(Fluxon LLC) |
什么时候选 LiteLLM、什么时候选 Portkey、什么时候两个都不选
选 LiteLLM:如果你要整个系统 —— 数据面与控制面 —— 都在自己的边界内,并准备运维它。这样你的路由与日志都不依赖某个厂商可达。
选 Portkey:如果你要治理能力(RBAC、SSO、SCIM、guardrails)但不想自己造控制面,且 SaaS 控制面对你的数据分级是可接受的。这是通向「受治理的多厂商路由」更快的一条路。
两个都不选:如果你还没到「治理或 failover 是真需求」的阶段。两者都是你得跑、得付费的基础设施;在多厂商 failover、按团队成本归因或合规控制成为约束之前,直接对接厂商才是诚实的答案。