GateLLM vs OpenRouter
一份可溯源的對等對比。GateLLM 是自託管 BYOK 閘道器,自帶託管聚合商做不到的機制;OpenRouter 把 500+ 模型匯聚到一個 OpenAI 相容 API 之後。差異在部署形態、資料路徑與成本。
對比表
只有 GateLLM 做得到
託管聚合商無法提供的機制 —— 每項能力下方用一行說明「怎麼做到的」。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| 自託管跑在你的 VPC / 本地。OpenRouter 是純託管 SaaS —— 不可自建。 | 支援 | 不支援 |
| 模型身份無可替換環節BYOK 直達廠商官方 API —— 身份由廠商本身保證，中間無可替換環節。 | 支援 | 不支援 |
| 條件模型切換控制台宣告式 switch-route 規則 + plan 模式檢測 + context.useModel() 指令碼。OpenRouter 沒有請求級改寫層。 | 支援 | 不支援 |
| 跨協議原生入口原生 OpenAI / Anthropic / Gemini / Bedrock / Realtime + /mcp，任意 A→B。OpenRouter 是單一 OpenAI 相容入口。 | 支援 | 不支援 |
| 單事務設定提交預覽完整衝突集 → 原子提交。OpenRouter 僅儀表盤變更，無衝突預覽或復原。 | 支援 | 不支援 |
| 設定與權限稽核留痕設定 diff + 登入事件 + MCP 違規。OpenRouter 只有用量日誌。 | 支援 | 不支援 |
| 當機安全計費預扣 → 結算 → 退款 + in-flight 臺帳。OpenRouter 平台側計量，無客戶側臺帳。 | 支援 | 不支援 |
| MCP 工具治理按金鑰組工具級 ACL + 上下文預算 + BM25 檢索，全程稽核。OpenRouter 僅透通 MCP。 | 支援 | 不支援 |
| 私有價與對帳pinned 私有價 + 時間分段快照 + Excel 匯出。OpenRouter 僅透通 list 定價。 | 支援 | 不支援 |
雙方都做得到
共同的基準 —— 選哪個都行。決定在上下兩層。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| 一個 API 接 100+ 模型 | 支援 | 支援 |
| 跨廠商 fallback | 支援 | 支援 |
| 用量與成本可見 | 支援 | 支援 |
| 結構化輸出與工具呼叫 | 支援 | 支援 |
| Prompt 快取 | 支援 | 支援 |
| 預算與配額 | 支援 | 支援 |
| MCP 閘道器 | 支援 | 支援 |
形態不同之處
不是誰更好 —— 部署、資料路徑與成本模型不同，值得你直接權衡。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| BYOK 定價 | 不加價 | 超計劃額度 5% |
| 企業 SSO | OIDC + SAML 2.0 | 企業版；任意 SAML provider |
| SCIM 2.0 自動佈建 | 打包進固定授權 | 企業版 |
| 資料路徑 | prompt 從不進入我們系統；請求日誌預設不寫入資料庫；日誌正文在每個出口面脫敏 | 流量過其平台；企業版可選 EU/US 區域內路由 + 可強制 ZDR，但無自託管選項 |
| 成本結構 | 按執行個體固定授權，不加 token 費 | 推理價透通 + 充值手續費 5.5%（加密 5%）+ BYOK 超額 5% |
| 模型廣度 | 按上游逐個設定 | 500+ 模型 / 60+ provider，零設定 |
| 維運負擔 | 閘道器要自己跑 | 全託管 |
| provider 池化冗餘 | 跨上游 LB | 同模型多 provider + Auto / Exacto + Zero Completion Insurance |
| 起步成本 | 部署 + 設定 | 充值即用、無需自建 |
| 生態整合 | OpenAI 相容 —— LangChain / Vercel AI SDK / 任意 OpenAI 客戶端直接可用 | LangChain / Vercel AI SDK / Langfuse / Mastra / PydanticAI … |
已對照各產品官方文件核實（2026-09-04，openrouter.ai/docs / docs.gatellm.io）。費率與計劃可能漂移，採購前請以官方源為準。
差異化機制怎麼運作
每項 GateLLM 差異化都是可落地的機制,不是行銷話術。下面說明它底層怎麼實現,以及 OpenRouter 對應做了什麼。
自託管資料路徑
GateLLM: 跑在你 VPC / 本地。prompt 從不進入我們系統;請求日誌預設關閉;日誌正文在每個出口面脫敏。
競品缺口: 流量過 OpenRouter 平台。企業版可選 EU/US 區域內路由 + 可強制 ZDR,但無自託管選項。
模型身份無可替換環節
GateLLM: BYOK 直達廠商官方 API endpoint —— 模型身份由廠商 API 本身保證。
競品缺口: 多 provider 池化 + Exacto 品質排序 —— 無廠商級密碼學證明,無法排除被悄悄換成便宜模型。
固定授權,非百分比
GateLLM: 按執行個體授權、與 token 量脫鉤 —— 用量翻倍,費用不變。
競品缺口: 推理價透通 + 充值手續費 5.5%(加密 5%)+ BYOK 超計劃額度 5%。
原生多協議入口
GateLLM: 原生 OpenAI / Anthropic / Gemini / Bedrock / Realtime + /mcp —— 一個閘道器原生承接各種 SDK。
競品缺口: 單一 OpenAI 相容入口。
可稽核的私有價
GateLLM: pinned 私有價 + 時間分段快照 + Excel 6 表匯出 —— 能與廠商帳單對帳的成本。
競品缺口: 僅透通 list 定價;無私有價卡或對帳匯出。
從 OpenRouter 遷移
把 SDK 的 base_url 從 OpenRouter 換成你的 GateLLM 閘道器(OpenAI 相容帶 /v1),其餘程式碼不用改。把各模型廠商的 API Key 配進閘道器(BYOK),原路由邏輯可平移。
- 1把 base_url 換成你的 GateLLM 閘道器(OpenAI 相容帶 /v1)—— 只改一行。
- 2把各廠商 API Key 配進控制台(BYOK)—— 金鑰僅存閘道器記憶體,不寫入資料庫。
- 3在控制台重建 fallback 與 provider 順序 —— 1:1 平移。
- 4分級模型路由或指令碼轉換按需再開。
BYOK vs 託管聚合商
GateLLM 按執行個體 / 記憶體授權,永不加收 token 費;請求從你的閘道器直達廠商 API,不經任何第三方。OpenRouter 推理價透通,但收充值手續費(卡 5.5% / 加密 5%,最低 $0.80),BYOK 超出計劃免費額度後收 5%。
成本結構 —— 費用到底收在哪
- •OpenRouter 的推理價是透通的 —— 模型單價不加價。
- •費用在兩處:充值手續費 5.5%(卡)/ 5%(加密,最低 $0.80)+ BYOK 超出計劃免費額度後 5%。
- •GateLLM:按執行個體固定授權(Pro 2GB $400/月)—— 與 token 量脫鉤。
- •盈虧平衡點:約月推理 $7.3k(走 credits)或 $8k(走 BYOK)時,OpenRouter 費用與 GateLLM Pro 授權持平;之上固定授權勝出,且用量再翻 10 倍授權費不變。
- •注:此數字不含你自己跑閘道器的維運成本 —— 自託管要把維運人力算進去。
何時選誰
選 OpenRouter,如果…
你要 500+ 模型零設定零維運、接受其費率結構,且資料可經託管平台(或付費開企業版區域內路由)。
選 GateLLM,如果…
資料不能出你的 VPC、需要原生 Anthropic / Gemini / Bedrock / Realtime 入口且模型身份無可替換環節,且 token 量高到固定授權比百分比費用更划算。
兩者可共存
用 OpenRouter 快速探索模型,等有了 BYOK 金鑰與合規要求,再把生產流量切回你自己的 GateLLM 閘道器。
FAQ
2026-09-04 對照 openrouter.ai/docs 與 docs.gatellm.io 核實。費率與計劃會漂移,採購前請以官方源為準。