# LiteLLM vs Kong AI Gateway 对比 - GateLLM

> LiteLLM 与 Kong AI Gateway 的逐项对比：部署形态、计费锚点、协议入口、治理粒度、供应商独立性，以及「两个都不选」什么时候才是对的答案。

规范链接: https://www.gatellm.io/zh-CN/compare/litellm-vs-kong/

## LiteLLM vs Kong AI Gateway
两者都能自托管，内核都开源。真正划线的问题是：你的网关是一个 LLM 网关，还是一个「顺带能接模型」的通用 API 网关？
LiteLLM 和 Kong AI Gateway 被放在一起比，是因为它们是自托管选项里最常进候选的两家。但它们不是同一类软件。LiteLLM 是 LLM 代理 —— 它的全部界面就是模型、厂商与 OpenAI 兼容路由。Kong 是通用 API 网关（插件、upstream、面向任意 HTTP 流量的限流），AI 插件是加装上去的。这个差别决定了下面每一行：协议入口、治理粒度，以及有多少东西要你自己造。
## 什么时候选 LiteLLM、什么时候选 Kong、什么时候两个都不选
选 LiteLLM：如果你要治理的就是模型流量、仅此而已 —— 按模型路由、厂商 failover、成本归因，不必先学一套插件 DSL，且你愿意运维一个 Python 服务。它是从「要调很多厂商」到「通过一个端点调很多厂商」最短的路。
选 Kong：如果你本来就在用 Kong 承载非 LLM 的 API 流量。复用已有的网关 —— 它的插件、限流、既有运维手册 —— 通常胜过为 AI 再引入第二个网关。AI 插件只是这个决策里较小的一半。
两个都不选：如果单一厂商、单一团队、月度花费可控就是你的真实情况。直接调厂商 API 比这两个选项都简单，而且在需要多厂商 failover、按团队成本归因、或厂商给不了的合规控制之前，任何网关都赚不回它的运维成本。
## LiteLLM vs Kong：常见问题
### LiteLLM 和 Kong 哪个更便宜？

两者开源内核都免费；成本问题在于你为治理能力付多少。LiteLLM 的 OSS 内核 SSO 免费至 5 用户，RBAC 才在企业版；Kong 把你需要的 AI 插件放在 Kong Enterprise。要比的是你真正需要的那个企业版档位，不是 OSS 下载包。
### Kong 能像 LiteLLM 那样路由到多个模型厂商吗？

Kong 通过 AI 插件、走 OpenAI 兼容面接厂商。LiteLLM 设计上以 OpenAI 为中心，直接讲各厂商 API。如果你的需求是 OpenAI / Anthropic / Gemini / DashScope 在入口与出口两侧的双向协议转换，那是 OpenAI 兼容插件面给不了的东西。
### 这两家能让 prompt 不出我的网络吗？

能 —— 两者都可自托管，prompt 不必经过第三方中转。这正是它们出现在这份候选名单、而不与纯 SaaS 网关并列的主要原因。
## 三家网关，五个判据
前两列各自是对应对比页的一句话浓缩。GateLLM 那一列是我们自己的立场，不是第三方评测 —— 请按此权重看待。
| 判据 | LiteLLM | Kong AI Gateway | GateLLM |
| --- | --- | --- | --- |
| 部署形态 | 自托管 OSS | 自托管 OSS（+ 托管 Konnect） | 全私有化部署（Docker / Helm），无厂商控制面 |
| 计费锚点 | OSS 免费；企业版按用量 | OSS 免费；插件企业版门控 | 按实例授权；不加收 Token 费、不收席位费 |
| 协议入口 | OpenAI 中心 | OpenAI 兼容 + AI 插件 | 四入四出（OpenAI / Anthropic / Gemini / DashScope） |
| 治理粒度 | SSO（5 用户上限）/ RBAC 在企业版 | RBAC / SSO 在企业版 | SSO / SCIM / RBAC + 密钥组 ACL 与预算上限 |
| 供应商独立性 | 独立（BerriAI） | 独立（Kong Inc.） | 独立厂商（Fluxon LLC） |

- [看完整的 GateLLM vs LiteLLM 对比](https://www.gatellm.io/zh-CN/compare/litellm.md)

## 相关页面
- [首页](https://www.gatellm.io/zh-CN/index.md)
- [定价](https://www.gatellm.io/zh-CN/pricing.md)
- [成本计算器](https://www.gatellm.io/zh-CN/calculator.md)
- [关于](https://www.gatellm.io/zh-CN/about.md)
- [预约演示](https://www.gatellm.io/zh-CN/demo.md)
- [常见问题](https://www.gatellm.io/zh-CN/faq.md)
- [对比 AI 网关](https://www.gatellm.io/zh-CN/compare.md)
- [对比 LiteLLM](https://www.gatellm.io/zh-CN/compare/litellm.md)
- [对比 OpenRouter](https://www.gatellm.io/zh-CN/compare/openrouter.md)
- [对比 Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-CN/compare/alibaba-cloud.md)
- [对比 Azure API Management](https://www.gatellm.io/zh-CN/compare/azure-apim.md)
- [对比 Apigee](https://www.gatellm.io/zh-CN/compare/apigee.md)
- [对比 Cloudflare AI Gateway](https://www.gatellm.io/zh-CN/compare/cloudflare.md)
- [对比 Kong AI Gateway](https://www.gatellm.io/zh-CN/compare/kong.md)
- [对比 Portkey](https://www.gatellm.io/zh-CN/compare/portkey.md)
- [Microsoft 365 Copilot 替代方案](https://www.gatellm.io/zh-CN/compare/copilot.md)
- [LiteLLM vs OpenRouter 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-portkey.md)
- [场景方案](https://www.gatellm.io/zh-CN/use-cases.md)
- [降低调用成本](https://www.gatellm.io/zh-CN/use-cases/reduce-cost.md)
- [做到高可用](https://www.gatellm.io/zh-CN/use-cases/high-availability.md)
- [多租户隔离](https://www.gatellm.io/zh-CN/use-cases/multi-tenant.md)
- [合规与审计](https://www.gatellm.io/zh-CN/use-cases/compliance-audit.md)
- [从症状排障](https://www.gatellm.io/zh-CN/use-cases/troubleshooting.md)
- [混合多供应商模型栈](https://www.gatellm.io/zh-CN/use-cases/mixed-model-stack.md)
- [在 Office 里自托管用 AI](https://www.gatellm.io/zh-CN/use-cases/self-hosted-office-ai.md)
- [Token 用量可见与归因](https://www.gatellm.io/zh-CN/use-cases/token-ops.md)
- [Token FinOps: AI 支出分摊与管控](https://www.gatellm.io/zh-CN/use-cases/token-finops.md)
- [MCP 工具治理](https://www.gatellm.io/zh-CN/use-cases/mcp-tool-governance.md)
- [给模型统一加联网搜索](https://www.gatellm.io/zh-CN/use-cases/web-search-grounding.md)
- [多 Key 轮询与备用](https://www.gatellm.io/zh-CN/use-cases/multi-key-pooling.md)
- [限制接入的客户端](https://www.gatellm.io/zh-CN/use-cases/client-admission-control.md)
- [强制模型使用策略](https://www.gatellm.io/zh-CN/use-cases/enforce-model-policy.md)
- [客户端不暴露模型选择](https://www.gatellm.io/zh-CN/use-cases/automatic-model-tiering.md)
- [一套协议接任意模型](https://www.gatellm.io/zh-CN/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 加载项](https://www.gatellm.io/zh-CN/office-addin.md)
- [术语表](https://www.gatellm.io/zh-CN/glossary.md)
- [什么是 LLM 网关](https://www.gatellm.io/zh-CN/llm-gateway.md)
- [企业 AI 治理](https://www.gatellm.io/zh-CN/enterprise-ai-governance.md)
- [成本对比计算口径](https://www.gatellm.io/zh-CN/methodology.md)
- [模型目录](https://www.gatellm.io/zh-CN/models.md)
- [SDK 与框架集成](https://www.gatellm.io/zh-CN/integrations.md)
- [AI Coding Agent 与 Harness](https://www.gatellm.io/zh-CN/coding-agents.md)
- [安全与合规](https://www.gatellm.io/zh-CN/security.md)
- [隐私政策](https://www.gatellm.io/zh-CN/privacy-policy.md)
- [服务条款](https://www.gatellm.io/zh-CN/terms.md)
- [Cookie 政策](https://www.gatellm.io/zh-CN/cookies.md)
- [数据处理协议 (DPA)](https://www.gatellm.io/zh-CN/dpa.md)
- [子处理方清单](https://www.gatellm.io/zh-CN/subprocessors.md)
- [安全问卷预答库 (CAIQ/SIG/VSA)](https://www.gatellm.io/zh-CN/trust.md)
- [事故响应与支持服务](https://www.gatellm.io/zh-CN/sla.md)
- [漏洞披露政策](https://www.gatellm.io/zh-CN/vulnerability-disclosure.md)
- [开源许可声明](https://www.gatellm.io/zh-CN/open-source-licenses.md)
- [版本支持与生命周期 (EOL)](https://www.gatellm.io/zh-CN/lifecycle.md)
- [技术博客](https://www.gatellm.io/zh-CN/blog.md)
- [你的 Agent 权限比员工还大:在网关层治理 MCP 工具](https://www.gatellm.io/zh-CN/blog/mcp-tool-governance.md)
- [一张一万美元的账单:五种降低 LLM 成本又不让应用变笨的做法](https://www.gatellm.io/zh-CN/blog/reduce-cost.md)
- [厂商的目录价不是你的成本:把真正的 FinOps 用到 Token 支出上](https://www.gatellm.io/zh-CN/blog/token-finops.md)
- [llms.txt](https://www.gatellm.io/zh-CN/llms.txt)
