GateLLM vs Cloudflare AI Gateway
一份可溯源的對等對比。Cloudflare AI Gateway 是匯聚 20+ provider 的託管邊緣代理；GateLLM 是自託管 BYOK 閘道器。差異在部署形態、協議入口與費率模型。
對比表
只有 GateLLM 做得到
託管邊緣閘道器沒有的機制 —— 每項能力下方用一行說明「怎麼做到的」。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 原生多協議入口混用四種原生入口（OpenAI / Anthropic / Gemini / DashScope）任意 A→B。Cloudflare AI Gateway 透過單一 OpenAI 相容端點承接 provider。 | 支援 | 不支援 |
| 自主部署 · 資料不外流全私有化跑在你 VPC / 本地。Cloudflare AI Gateway 是託管邊緣服務 —— 流量過 Cloudflare 網路。 | 支援 | 不支援 |
| 條件模型切換（內建 plan-mode 檢測）控制台宣告式 switch-route + 內建 plan 模式檢測 + useModel 指令碼。Cloudflare 只有 retry / fallback 路由，無請求級改寫層。 | 支援 | 不支援 |
雙方都做得到
共同的基準 —— 選哪個都能覆蓋這一層。決定在上下兩層。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 多模型路由 · fallback | 支援 | 支援 |
| 跨廠商負載平衡 | 支援 | 支援 |
| Token 用量與成本計量 | 支援 | 支援 |
| 限流與配額 | 支援 | 支援 |
| 多 API Key 管理 | 支援 | 支援 |
| MCP 工具接入 | 支援 | 支援 |
| 視覺化控制台 | 支援 | 支援 |
| 稽核日誌 | 支援 | 支援 |
形態不同之處
不是誰更好 —— 部署、定價與設定模型不同，值得你直接權衡。
| 能力 | GateLLM | Cloudflare AI Gateway |
|---|---|---|
| 執行形態 | 單 Rust 二進位執行檔 · 無 GC 停頓 | 託管邊緣（Workers / proxy） |
| 定價 | 按執行個體固定授權，不加 token 費 | 核心免費 + 付費計劃；統一計費充值收 5% 手續費 |
| 設定形態 | 全控制台 —— 免 YAML，原子提交 | 儀表板 + API |
| 生態繫結 | 雲中立 —— 任意模型廠商 | 深度 Cloudflare 邊緣 + Workers 整合 |
| 維運形態 | 閘道器要自己跑 | 託管邊緣服務 |
已對照官方文件核實（2026-09-06，developers.cloudflare.com / docs.gatellm.io）。功能與定價會漂移，採購前請以官方源為準。
差異化機制怎麼運作
每項 GateLLM 差異化都是可落地的機制,不是行銷話術。下面說明它底層怎麼實現,以及 Cloudflare AI Gateway 對應做了什麼。
原生多協議入口混用
GateLLM: 四種原生入口(OpenAI / Anthropic / Gemini / DashScope)任意 A→B —— 一個閘道器原生承接各種 SDK。
競品缺口: 20+ provider 背後的單一 OpenAI 相容端點。
自託管資料路徑
GateLLM: 跑在你 VPC / 本地。prompt 從不進入我們系統;請求日誌預設關閉。
競品缺口: 託管邊緣 —— 流量流經 Cloudflare 網路。
plan 模式模型切換
GateLLM: 控制台宣告式 switch-route + 內建 Claude Code plan 模式檢測 + useModel 指令碼 —— 規劃走頂尖模型、執行走開源 SOTA,客戶端零改動。
競品缺口: 僅 retry / fallback 路由,無請求級改寫層。
從 Cloudflare AI Gateway 遷移
把 SDK 的 base_url 指向 GateLLM 即可,其餘程式碼不用改。你現有的模型金鑰、路由策略可平移到閘道器,再按需啟用 plan 模式切換。
- 1把 OpenAI SDK 的 base_url 指向 GateLLM(帶 /v1)—— 只改一行,其餘程式碼不動。
- 2把各模型廠商 API Key 配進控制台(BYOK)—— 金鑰僅存閘道器記憶體,不寫入資料庫。
- 3在控制台重建路由 / fallback 策略 —— 1:1 平移。
BYOK 自託管 vs 託管邊緣代理
GateLLM 按執行個體 / 記憶體授權、永不加收 token 費,且你的 prompt 從不經過第三方邊緣。Cloudflare AI Gateway 的統一計費充值收 5% 手續費,流量停留在 Cloudflare 邊緣。
成本結構
- •GateLLM:按執行個體固定授權(Pro 2GB $400/月)—— 不加 token 費。
- •Cloudflare AI Gateway:核心功能免費;付費計劃加用量限制;統一計費充值收 5% 手續費。
- •高用量下固定授權讓成本與用量脫鉤;5% 充值費隨用量線性增長。
何時選誰
選 Cloudflare,如果…
你要零設定的邊緣代理,並接受 5% 統一計費手續費 + 資料流經 Cloudflare 網路。
選 GateLLM,如果…
資料不能出你的 VPC、需要原生多協議入口與 plan 模式切換,且要無百分比費的固定授權。
兩者可共存
用 Cloudflare AI Gateway 做邊緣實驗,等有了 BYOK 金鑰與合規要求,再把生產流量切回你自己的 GateLLM 閘道器。
FAQ
2026-09-06 對照 developers.cloudflare.com 與 docs.gatellm.io 核實。功能與定價會漂移,採購前請以官方源為準。