GateLLM vs Cloudflare AI Gateway
一份可溯源的对等对比。Cloudflare AI Gateway 是汇聚 20+ provider 的托管边缘代理；GateLLM 是自托管 BYOK 网关。差异在部署形态、协议入口与费率模型。
对比表
只有 GateLLM 做得到
托管边缘网关没有的机制 —— 每项能力下方用一行说明「怎么做到的」。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 原生多协议入口混用四种原生入口（OpenAI / Anthropic / Gemini / DashScope）任意 A→B。Cloudflare AI Gateway 通过单一 OpenAI 兼容端点承接 provider。 | 支持 | 不支持 |
| 自主部署 · 数据不出网全私有化跑在你 VPC / 本地。Cloudflare AI Gateway 是托管边缘服务 —— 流量过 Cloudflare 网络。 | 支持 | 不支持 |
| 条件模型切换（内置 plan-mode 检测）控制台声明式 switch-route + 内置 plan 模式检测 + useModel 脚本。Cloudflare 只有 retry / fallback 路由，无请求级改写层。 | 支持 | 不支持 |
双方都做得到
已打平的基线 —— 选哪个都能覆盖这一层。决定在上下两层。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 多模型路由 · fallback | 支持 | 支持 |
| 跨厂商负载均衡 | 支持 | 支持 |
| Token 用量与成本计量 | 支持 | 支持 |
| 限流与配额 | 支持 | 支持 |
| 多 API Key 管理 | 支持 | 支持 |
| MCP 工具接入 | 支持 | 支持 |
| 可视化控制台 | 支持 | 支持 |
| 审计日志 | 支持 | 支持 |
形态不同之处
不是谁更好 —— 部署、定价与配置模型不同，值得你直接权衡。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 运行形态 | 单 Rust 二进制 · 无 GC 停顿 | 托管边缘（Workers / proxy） |
| 定价 | 按实例固定授权，不加 token 费 | 核心免费 + 付费计划；统一计费充值收 5% 手续费 |
| 配置形态 | 全控制台 —— 免 YAML，原子提交 | Dashboard + API |
| 生态绑定 | 云中立 —— 任意模型厂商 | 深度 Cloudflare 边缘 + Workers 集成 |
| 运维形态 | 网关要自己跑 | 托管边缘服务 |
已对照官方文档核实（2026-09-06，developers.cloudflare.com / docs.gatellm.io）。功能与定价会漂移，采购前请以官方源为准。
差异化机制怎么运作
每项 GateLLM 差异化都是可落地的机制,不是营销话术。下面说明它底层怎么实现,以及 Cloudflare AI Gateway 对应做了什么。
原生多协议入口混用
GateLLM: 四种原生入口(OpenAI / Anthropic / Gemini / DashScope)任意 A→B —— 一个网关原生承接各种 SDK。
竞品缺口: 20+ provider 背后的单一 OpenAI 兼容端点。
自托管数据路径
GateLLM: 跑在你 VPC / 本地。prompt 从不进入我们系统;请求日志默认关闭。
竞品缺口: 托管边缘 —— 流量流经 Cloudflare 网络。
plan 模式模型切换
GateLLM: 控制台声明式 switch-route + 内置 Claude Code plan 模式检测 + useModel 脚本 —— 规划走顶尖模型、执行走开源 SOTA,客户端零改动。
竞品缺口: 仅 retry / fallback 路由,无请求级改写层。
从 Cloudflare AI Gateway 迁移
把 SDK 的 base_url 指向 GateLLM 即可,其余代码不用改。你现有的模型密钥、路由策略可平移到网关,再按需启用 plan 模式切换。
- 1把 OpenAI SDK 的 base_url 指向 GateLLM(带 /v1)—— 只改一行,其余代码不动。
- 2把各模型厂商 API Key 配进控制台(BYOK)—— 密钥仅存网关内存,不落库。
- 3在控制台重建路由 / fallback 策略 —— 1:1 平移。
BYOK 自托管 vs 托管边缘代理
GateLLM 按实例 / 内存授权、永不加收 token 费,且你的 prompt 从不经过第三方边缘。Cloudflare AI Gateway 的统一计费充值收 5% 手续费,流量停留在 Cloudflare 边缘。
成本结构
- •GateLLM:按实例固定授权(Pro 2GB $400/月)—— 不加 token 费。
- •Cloudflare AI Gateway:核心功能免费;付费计划加用量限制;统一计费充值收 5% 手续费。
- •高用量下固定授权让成本与用量脱钩;5% 充值费随用量线性增长。
何时选谁
选 Cloudflare,如果…
你要零配置的边缘代理,并接受 5% 统一计费手续费 + 数据流经 Cloudflare 网络。
选 GateLLM,如果…
数据不能出你的 VPC、需要原生多协议入口与 plan 模式切换,且要无百分比费的固定授权。
两者可共存
用 Cloudflare AI Gateway 做边缘实验,等有了 BYOK 密钥与合规要求,再把生产流量切回你自己的 GateLLM 网关。
FAQ
2026-09-06 对照 developers.cloudflare.com 与 docs.gatellm.io 核实。功能与定价会漂移,采购前请以官方源为准。