# LiteLLM vs Kong AI Gateway 對比 - GateLLM

> LiteLLM 與 Kong AI Gateway 的逐項對比：部署形態、計費基準、協議入口、治理粒度、供應商獨立性，以及「兩個都不選」什麼時候才是對的答案。

規範連結: https://www.gatellm.io/zh-TW/compare/litellm-vs-kong/

## LiteLLM vs Kong AI Gateway
兩者都能自託管，核心都開源。真正劃線的問題是：你的閘道器是一個 LLM 閘道器，還是一個「順帶能接模型」的通用 API 閘道器？
LiteLLM 和 Kong AI Gateway 被放在一起比，是因為它們是自託管選項裡最常進候選的兩家。但它們不是同一類軟體。LiteLLM 是 LLM 代理 —— 它的全部介面就是模型、廠商與 OpenAI 相容路由。Kong 是通用 API 閘道器（外掛、upstream、面向任意 HTTP 流量的限流），AI 外掛是加裝上去的。這個差別決定了下面每一行：協議入口、治理粒度，以及有多少東西要你自己造。
## 什麼時候選 LiteLLM、什麼時候選 Kong、什麼時候兩個都不選
選 LiteLLM：如果你要治理的就是模型流量、僅此而已 —— 按模型路由、廠商 failover、成本歸因，不必先學一套外掛 DSL，且你願意維運一個 Python 服務。它是從「要調很多廠商」到「透過一個端點調很多廠商」最短的路。
選 Kong：如果你本來就在用 Kong 承載非 LLM 的 API 流量。複用已有的閘道器 —— 它的外掛、限流、既有維運手冊 —— 通常勝過為 AI 再引入另一個閘道器。AI 外掛只是這個決策裡較小的一半。
兩個都不選：如果單一廠商、單一團隊、月度花費可控就是你的真實情況。直接調廠商 API 比這兩個選項都簡單，而且在需要多廠商 failover、按團隊成本歸因、或廠商給不了的合規控制之前，任何閘道器都賺不回它的維運成本。
## LiteLLM vs Kong：常見問題
### LiteLLM 和 Kong 哪個更便宜？

兩者開源核心都免費；成本問題在於你為治理能力付多少。LiteLLM 的 OSS 核心 SSO 免費至 5 使用者，RBAC 才在企業版；Kong 把你需要的 AI 外掛放在 Kong Enterprise。要比的是你真正需要的那個企業版檔位，不是 OSS 下載包。
### Kong 能像 LiteLLM 那樣路由到多個模型廠商嗎？

Kong 透過 AI 外掛、走 OpenAI 相容面接廠商。LiteLLM 設計上以 OpenAI 為中心，直接講各廠商 API。如果你的需求是 OpenAI / Anthropic / Gemini / DashScope 在入口與出口兩側的雙向協議轉換，那是 OpenAI 相容外掛面給不了的東西。
### 這兩家能讓 prompt 不出我的網路嗎？

能 —— 兩者都可自託管，prompt 不必經過第三方中轉。這正是它們出現在這份候選名單、而不與純 SaaS 閘道器並列的主要原因。
## 三家閘道器，五個準則
前兩列各自是對應對比頁的一句話濃縮。GateLLM 那一列是我們自己的立場，不是第三方評測 —— 請按此權重看待。
| 準則 | LiteLLM | Kong AI Gateway | GateLLM |
| --- | --- | --- | --- |
| 部署形態 | 自託管 OSS | 自託管 OSS（+ 託管 Konnect） | 全私有化部署（Docker / Helm），無廠商控制平面 |
| 計費基準 | OSS 免費；企業版按用量 | OSS 免費；外掛企業版門控 | 按執行個體授權；不加收 Token 費、不收席位費 |
| 協議入口 | OpenAI 中心 | OpenAI 相容 + AI 外掛 | 四入四出（OpenAI / Anthropic / Gemini / DashScope） |
| 治理粒度 | SSO（5 使用者上限）/ RBAC 在企業版 | RBAC / SSO 在企業版 | SSO / SCIM / RBAC + 金鑰組 ACL 與預算上限 |
| 供應商獨立性 | 獨立（BerriAI） | 獨立（Kong Inc.） | 獨立廠商（Fluxon LLC） |

- [看完整的 GateLLM vs LiteLLM 對比](https://www.gatellm.io/zh-TW/compare/litellm.md)

## 相關頁面
- [首頁](https://www.gatellm.io/zh-TW/index.md)
- [定價](https://www.gatellm.io/zh-TW/pricing.md)
- [成本計算器](https://www.gatellm.io/zh-TW/calculator.md)
- [關於](https://www.gatellm.io/zh-TW/about.md)
- [預約示範](https://www.gatellm.io/zh-TW/demo.md)
- [常見問題](https://www.gatellm.io/zh-TW/faq.md)
- [比較 AI 閘道](https://www.gatellm.io/zh-TW/compare.md)
- [比較 LiteLLM](https://www.gatellm.io/zh-TW/compare/litellm.md)
- [比較 OpenRouter](https://www.gatellm.io/zh-TW/compare/openrouter.md)
- [比較 Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-TW/compare/alibaba-cloud.md)
- [比較 Azure API Management](https://www.gatellm.io/zh-TW/compare/azure-apim.md)
- [比較 Apigee](https://www.gatellm.io/zh-TW/compare/apigee.md)
- [比較 Cloudflare AI Gateway](https://www.gatellm.io/zh-TW/compare/cloudflare.md)
- [比較 Kong AI Gateway](https://www.gatellm.io/zh-TW/compare/kong.md)
- [比較 Portkey](https://www.gatellm.io/zh-TW/compare/portkey.md)
- [LiteLLM vs OpenRouter 比較](https://www.gatellm.io/zh-TW/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey 比較](https://www.gatellm.io/zh-TW/compare/litellm-vs-portkey.md)
- [場景方案](https://www.gatellm.io/zh-TW/use-cases.md)
- [降低呼叫成本](https://www.gatellm.io/zh-TW/use-cases/reduce-cost.md)
- [達成高可用](https://www.gatellm.io/zh-TW/use-cases/high-availability.md)
- [多租戶隔離](https://www.gatellm.io/zh-TW/use-cases/multi-tenant.md)
- [合規與稽核](https://www.gatellm.io/zh-TW/use-cases/compliance-audit.md)
- [從症狀排障](https://www.gatellm.io/zh-TW/use-cases/troubleshooting.md)
- [混合多供應商模型堆疊](https://www.gatellm.io/zh-TW/use-cases/mixed-model-stack.md)
- [在 Office 內自架 AI](https://www.gatellm.io/zh-TW/use-cases/self-hosted-office-ai.md)
- [Token 用量可見性與歸因](https://www.gatellm.io/zh-TW/use-cases/token-ops.md)
- [Token FinOps: AI 支出分攤與管控](https://www.gatellm.io/zh-TW/use-cases/token-finops.md)
- [MCP 工具治理](https://www.gatellm.io/zh-TW/use-cases/mcp-tool-governance.md)
- [為所有模型統一加入網路搜尋](https://www.gatellm.io/zh-TW/use-cases/web-search-grounding.md)
- [多 Key 輪替與備援](https://www.gatellm.io/zh-TW/use-cases/multi-key-pooling.md)
- [限制接入的用戶端](https://www.gatellm.io/zh-TW/use-cases/client-admission-control.md)
- [強制模型使用政策](https://www.gatellm.io/zh-TW/use-cases/enforce-model-policy.md)
- [用戶端不暴露模型選擇](https://www.gatellm.io/zh-TW/use-cases/automatic-model-tiering.md)
- [一種協定,任何模型](https://www.gatellm.io/zh-TW/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 增益集](https://www.gatellm.io/zh-TW/office-addin.md)
- [術語表](https://www.gatellm.io/zh-TW/glossary.md)
- [模型目錄](https://www.gatellm.io/zh-TW/models.md)
- [SDK 與框架整合](https://www.gatellm.io/zh-TW/integrations.md)
- [AI Coding Agent 與 Harness](https://www.gatellm.io/zh-TW/coding-agents.md)
- [安全性與合規](https://www.gatellm.io/zh-TW/security.md)