# GateLLM vs Kong AI Gateway - 自托管 AI 网关对比

> GateLLM vs Kong AI Gateway:专为 AI 构建的网关 vs API 网关 + AI 插件。运行时、协议入口与配置方式对比。

规范链接: https://www.gatellm.io/zh-CN/compare/kong/

## GateLLM vs Kong AI Gateway
一份可溯源的对等对比。Kong AI Gateway 在开源 Kong API 网关之上叠加 60+ AI 插件；GateLLM 是专为 AI 构建的自托管网关。差异在运行时、协议入口与配置表达方式。
## 从 Kong AI Gateway 迁移
把 SDK 的 base_url 指向 GateLLM 即可,其余代码不用改。你现有的模型密钥、路由策略可平移到网关,再按需启用 plan 模式切换。
- 把 OpenAI SDK 的 base_url 指向 GateLLM(带 /v1)—— 只改一行,其余代码不动。
- 把各模型厂商 API Key 配进控制台(BYOK)—— 密钥仅存网关内存,不落库。
- 在控制台重建路由 / fallback 策略 —— 1:1 平移。

## 固定授权,功能全含
GateLLM 是单 Rust 二进制,固定授权内功能全含。Kong 开源(Apache 2.0),但语义路由与安全插件为企业版门控。
## 成本结构
- GateLLM:按实例固定授权(Pro 2GB $400/月)—— 功能全含,无插件门控。
- Kong:开源版免费;语义路由 / 语义安全插件需企业版。
- 高用量下固定授权不变;Kong 企业版定价需协商。

## 何时选谁
### 选 Kong,如果…
你已用 Kong 做 API 管理,想扩展到 AI 流量,并接受 decK YAML 与插件配置。
### 选 GateLLM,如果…
你要专为 AI 构建的网关:单 Rust 二进制、原生多协议入口、plan 模式切换,以及无插件门控的固定授权。
### 两者可共存
Kong 管通用 API 流量,GateLLM 专管模型流量,各司其职。
## FAQ
### Kong AI Gateway 能自建吗?
能。Kong Gateway 开源(Apache 2.0)且完全可自建,和 GateLLM 一样。差异在运行时与插件式 AI 能力面。
### 谁的 AI 原生能力更强?
Kong 通过插件把 AI 叠加在通用 API 网关上(语义路由 / 缓存为企业版门控);GateLLM 专为 AI 构建,原生多协议入口 + plan 模式切换。
### 从 Kong 迁移有多难?
极小。两者都讲 OpenAI;把 SDK 的 base_url 指向 GateLLM,再重建密钥与路由。客户端代码零改动。
### 上规模后谁更便宜?
Kong 开源版免费但企业功能门控;GateLLM 是按实例的固定授权、功能全含。按你需要的功能对比。
2026-09-06 对照 developer.konghq.com 与 docs.gatellm.io 核实。功能与定价会漂移,采购前请以官方源为准。
### 差异化机制怎么运作
每项 GateLLM 差异化都是可落地的机制,不是营销话术。下面说明它底层怎么实现,以及 Kong 对应做了什么。
#### 原生多协议入口混用
- **GateLLM**: 四种原生入口(OpenAI / Anthropic / Gemini / DashScope)任意 A→B —— 一个网关原生承接各种 SDK。
- **竞品缺口**: AI Proxy 插件把 provider 归一为统一路由;非 OpenAI SDK 走兼容路径。

#### plan 模式模型切换
- **GateLLM**: 控制台声明式 switch-route + 内置 Claude Code plan 模式检测 + useModel 脚本 —— 规划走顶尖模型、执行走开源 SOTA,客户端零改动。
- **竞品缺口**: AI Proxy Advanced 规则,无 plan 模式感知(语义路由为企业版门控)。

## 对比表
### 只有 GateLLM 做得到
Kong 没有的机制 —— 每项能力下方用一行说明「怎么做到的」。Kong 完全可自建，故此段本就刻意偏薄。
| 能力 | GateLLM | Kong AI Gateway |
| --- | --- | --- |
| 原生多协议入口混用 | ✓ | ✗ |
| 条件模型切换（内置 plan-mode 检测） | ✓ | ✗ |

- **原生多协议入口混用**: 四种原生入口（OpenAI / Anthropic / Gemini / DashScope）任意 A→B。Kong 的 AI Proxy 把 provider 归一为统一路由。
- **条件模型切换（内置 plan-mode 检测）**: 控制台声明式 switch-route + 内置 plan 模式检测 + useModel 脚本。Kong 走 AI Proxy Advanced 规则（语义路由为企业版门控），无 plan 模式感知。

### 双方都做得到
已打平的基线 —— 选哪个都能覆盖这一层。决定在上下两层。
| 能力 | GateLLM | Kong AI Gateway |
| --- | --- | --- |
| 多模型路由 · fallback | ✓ | ✓ |
| 跨厂商负载均衡 | ✓ | ✓ |
| Token 用量与成本计量 | ✓ | ✓ |
| 限流与配额 | ✓ | ✓ |
| 多 API Key 管理 | ✓ | ✓ |
| MCP 工具接入 | ✓ | ✓ |
| 可视化控制台 | ✓ | ✓ |
| 审计日志 | ✓ | ✓ |

### 形态不同之处
不是谁更好 —— 运行时、打包与配置模型不同，值得你直接权衡。
| 能力 | GateLLM | Kong AI Gateway |
| --- | --- | --- |
| 运行形态 | 单 Rust 二进制 · 无 GC 停顿 | Nginx/OpenResty + Lua 插件 |
| 定价 | 按实例固定授权，功能全含 | 开源（Apache 2.0）；语义路由 / 安全插件为企业版门控 |
| 配置形态 | 全控制台 —— 免 YAML，原子提交 | decK 或 Konnect 声明式 YAML |
| 定位 | 专为 AI 构建的网关 | 通用 API 网关 + AI 插件 |
| 运维形态 | 网关要自己跑 | 自托管或托管（Konnect） |

已对照官方文档核实（2026-09-06，developer.konghq.com / docs.gatellm.io）。功能与定价会漂移，采购前请以官方源为准。

## 其他对比
- [LiteLLM](https://www.gatellm.io/zh-CN/compare/litellm.md)
- [OpenRouter](https://www.gatellm.io/zh-CN/compare/openrouter.md)
- [Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-CN/compare/alibaba-cloud.md)
- [Azure API Management](https://www.gatellm.io/zh-CN/compare/azure-apim.md)
- [Apigee](https://www.gatellm.io/zh-CN/compare/apigee.md)
- [Cloudflare AI Gateway](https://www.gatellm.io/zh-CN/compare/cloudflare.md)
- [Portkey (Prisma AIRS)](https://www.gatellm.io/zh-CN/compare/portkey.md)

## 相关页面
- [首页](https://www.gatellm.io/zh-CN/index.md)
- [定价](https://www.gatellm.io/zh-CN/pricing.md)
- [成本计算器](https://www.gatellm.io/zh-CN/calculator.md)
- [关于](https://www.gatellm.io/zh-CN/about.md)
- [预约演示](https://www.gatellm.io/zh-CN/demo.md)
- [常见问题](https://www.gatellm.io/zh-CN/faq.md)
- [对比 AI 网关](https://www.gatellm.io/zh-CN/compare.md)
- [对比 LiteLLM](https://www.gatellm.io/zh-CN/compare/litellm.md)
- [对比 OpenRouter](https://www.gatellm.io/zh-CN/compare/openrouter.md)
- [对比 Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-CN/compare/alibaba-cloud.md)
- [对比 Azure API Management](https://www.gatellm.io/zh-CN/compare/azure-apim.md)
- [对比 Apigee](https://www.gatellm.io/zh-CN/compare/apigee.md)
- [对比 Cloudflare AI Gateway](https://www.gatellm.io/zh-CN/compare/cloudflare.md)
- [对比 Portkey](https://www.gatellm.io/zh-CN/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-portkey.md)
- [场景方案](https://www.gatellm.io/zh-CN/use-cases.md)
- [降低调用成本](https://www.gatellm.io/zh-CN/use-cases/reduce-cost.md)
- [做到高可用](https://www.gatellm.io/zh-CN/use-cases/high-availability.md)
- [多租户隔离](https://www.gatellm.io/zh-CN/use-cases/multi-tenant.md)
- [合规与审计](https://www.gatellm.io/zh-CN/use-cases/compliance-audit.md)
- [从症状排障](https://www.gatellm.io/zh-CN/use-cases/troubleshooting.md)
- [混合多供应商模型栈](https://www.gatellm.io/zh-CN/use-cases/mixed-model-stack.md)
- [在 Office 里自托管用 AI](https://www.gatellm.io/zh-CN/use-cases/self-hosted-office-ai.md)
- [Token 用量可见与归因](https://www.gatellm.io/zh-CN/use-cases/token-ops.md)
- [Token FinOps: AI 支出分摊与管控](https://www.gatellm.io/zh-CN/use-cases/token-finops.md)
- [MCP 工具治理](https://www.gatellm.io/zh-CN/use-cases/mcp-tool-governance.md)
- [给模型统一加联网搜索](https://www.gatellm.io/zh-CN/use-cases/web-search-grounding.md)
- [多 Key 轮询与备用](https://www.gatellm.io/zh-CN/use-cases/multi-key-pooling.md)
- [限制接入的客户端](https://www.gatellm.io/zh-CN/use-cases/client-admission-control.md)
- [强制模型使用策略](https://www.gatellm.io/zh-CN/use-cases/enforce-model-policy.md)
- [客户端不暴露模型选择](https://www.gatellm.io/zh-CN/use-cases/automatic-model-tiering.md)
- [一套协议接任意模型](https://www.gatellm.io/zh-CN/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 加载项](https://www.gatellm.io/zh-CN/office-addin.md)
- [术语表](https://www.gatellm.io/zh-CN/glossary.md)
- [模型目录](https://www.gatellm.io/zh-CN/models.md)
- [SDK 与框架集成](https://www.gatellm.io/zh-CN/integrations.md)
- [AI Coding Agent 与 Harness](https://www.gatellm.io/zh-CN/coding-agents.md)
- [安全与合规](https://www.gatellm.io/zh-CN/security.md)
- [隐私政策](https://www.gatellm.io/zh-CN/privacy-policy.md)
- [服务条款](https://www.gatellm.io/zh-CN/terms.md)
- [Cookie 政策](https://www.gatellm.io/zh-CN/cookies.md)
- [数据处理协议 (DPA)](https://www.gatellm.io/zh-CN/dpa.md)
- [子处理方清单](https://www.gatellm.io/zh-CN/subprocessors.md)
- [安全问卷预答库 (CAIQ/SIG/VSA)](https://www.gatellm.io/zh-CN/trust.md)
- [事故响应与支持服务](https://www.gatellm.io/zh-CN/sla.md)
- [漏洞披露政策](https://www.gatellm.io/zh-CN/vulnerability-disclosure.md)
- [开源许可声明](https://www.gatellm.io/zh-CN/open-source-licenses.md)
- [版本支持与生命周期 (EOL)](https://www.gatellm.io/zh-CN/lifecycle.md)
- [技术博客](https://www.gatellm.io/zh-CN/blog.md)
- [你的 Agent 权限比员工还大:在网关层治理 MCP 工具](https://www.gatellm.io/zh-CN/blog/mcp-tool-governance.md)
- [一张一万美元的账单:五种降低 LLM 成本又不让应用变笨的做法](https://www.gatellm.io/zh-CN/blog/reduce-cost.md)
- [厂商的目录价不是你的成本:把真正的 FinOps 用到 Token 支出上](https://www.gatellm.io/zh-CN/blog/token-finops.md)
- [llms.txt](https://www.gatellm.io/zh-CN/llms.txt)
