GateLLM vs Kong AI Gateway
一份可溯源的对等对比。Kong AI Gateway 在开源 Kong API 网关之上叠加 60+ AI 插件；GateLLM 是专为 AI 构建的自托管网关。差异在运行时、协议入口与配置表达方式。
对比表
只有 GateLLM 做得到
Kong 没有的机制 —— 每项能力下方用一行说明「怎么做到的」。Kong 完全可自建，故此段本就刻意偏薄。
| 能力 | GateLLM | Kong AI Gateway |
|---|---|---|
| 原生多协议入口混用四种原生入口（OpenAI / Anthropic / Gemini / DashScope）任意 A→B。Kong 的 AI Proxy 把 provider 归一为统一路由。 | 支持 | 不支持 |
| 条件模型切换（内置 plan-mode 检测）控制台声明式 switch-route + 内置 plan 模式检测 + useModel 脚本。Kong 走 AI Proxy Advanced 规则（语义路由为企业版门控），无 plan 模式感知。 | 支持 | 不支持 |
双方都做得到
已打平的基线 —— 选哪个都能覆盖这一层。决定在上下两层。
| 能力 | GateLLM | Kong AI Gateway |
|---|---|---|
| 多模型路由 · fallback | 支持 | 支持 |
| 跨厂商负载均衡 | 支持 | 支持 |
| Token 用量与成本计量 | 支持 | 支持 |
| 限流与配额 | 支持 | 支持 |
| 多 API Key 管理 | 支持 | 支持 |
| MCP 工具接入 | 支持 | 支持 |
| 可视化控制台 | 支持 | 支持 |
| 审计日志 | 支持 | 支持 |
形态不同之处
不是谁更好 —— 运行时、打包与配置模型不同，值得你直接权衡。
| 能力 | GateLLM | Kong AI Gateway |
|---|---|---|
| 运行形态 | 单 Rust 二进制 · 无 GC 停顿 | Nginx/OpenResty + Lua 插件 |
| 定价 | 按实例固定授权，功能全含 | 开源（Apache 2.0）；语义路由 / 安全插件为企业版门控 |
| 配置形态 | 全控制台 —— 免 YAML，原子提交 | decK 或 Konnect 声明式 YAML |
| 定位 | 专为 AI 构建的网关 | 通用 API 网关 + AI 插件 |
| 运维形态 | 网关要自己跑 | 自托管或托管（Konnect） |
已对照官方文档核实（2026-09-06，developer.konghq.com / docs.gatellm.io）。功能与定价会漂移，采购前请以官方源为准。
差异化机制怎么运作
每项 GateLLM 差异化都是可落地的机制,不是营销话术。下面说明它底层怎么实现,以及 Kong 对应做了什么。
原生多协议入口混用
GateLLM: 四种原生入口(OpenAI / Anthropic / Gemini / DashScope)任意 A→B —— 一个网关原生承接各种 SDK。
竞品缺口: AI Proxy 插件把 provider 归一为统一路由;非 OpenAI SDK 走兼容路径。
plan 模式模型切换
GateLLM: 控制台声明式 switch-route + 内置 Claude Code plan 模式检测 + useModel 脚本 —— 规划走顶尖模型、执行走开源 SOTA,客户端零改动。
竞品缺口: AI Proxy Advanced 规则,无 plan 模式感知(语义路由为企业版门控)。
从 Kong AI Gateway 迁移
把 SDK 的 base_url 指向 GateLLM 即可,其余代码不用改。你现有的模型密钥、路由策略可平移到网关,再按需启用 plan 模式切换。
- 1把 OpenAI SDK 的 base_url 指向 GateLLM(带 /v1)—— 只改一行,其余代码不动。
- 2把各模型厂商 API Key 配进控制台(BYOK)—— 密钥仅存网关内存,不落库。
- 3在控制台重建路由 / fallback 策略 —— 1:1 平移。
固定授权,功能全含
GateLLM 是单 Rust 二进制,固定授权内功能全含。Kong 开源(Apache 2.0),但语义路由与安全插件为企业版门控。
成本结构
- •GateLLM:按实例固定授权(Pro 2GB $400/月)—— 功能全含,无插件门控。
- •Kong:开源版免费;语义路由 / 语义安全插件需企业版。
- •高用量下固定授权不变;Kong 企业版定价需协商。
何时选谁
选 Kong,如果…
你已用 Kong 做 API 管理,想扩展到 AI 流量,并接受 decK YAML 与插件配置。
选 GateLLM,如果…
你要专为 AI 构建的网关:单 Rust 二进制、原生多协议入口、plan 模式切换,以及无插件门控的固定授权。
两者可共存
Kong 管通用 API 流量,GateLLM 专管模型流量,各司其职。
FAQ
2026-09-06 对照 developer.konghq.com 与 docs.gatellm.io 核实。功能与定价会漂移,采购前请以官方源为准。