GateLLM vs OpenRouter
一份可溯源的对等对比。OpenRouter 是托管聚合商,把 500+ 模型汇聚到一个 OpenAI 兼容 API 之后;GateLLM 是自托管 BYOK 网关。双方都有 BYOK、SSO 与预算 —— 差异在部署形态、数据路径与成本。
五件聚合商做不到的事
每项 GateLLM 差异化都是可落地的机制,不是营销话术。下面说明它底层怎么实现,以及 OpenRouter 对应做了什么。
自托管数据路径
GateLLM: 跑在你 VPC / 本地。prompt 从不进入我们系统;请求日志默认关闭;28 类凭据自动脱敏。
竞品缺口: 流量过 OpenRouter 平台。企业版可选 EU/US 区域内路由 + 可强制 ZDR,但无自托管选项。
模型身份无可替换环节
GateLLM: BYOK 直达厂商官方 API endpoint —— 模型身份由厂商 API 本身保证。
竞品缺口: 多 provider 池化 + Exacto 质量排序 —— 无厂商级密码学证明,无法排除被悄悄换成便宜模型。
固定授权,非百分比
GateLLM: 按实例授权、与 token 量脱钩 —— 用量翻倍,费用不变。
竞品缺口: 推理价透传 + 充值手续费 5.5%(加密 5%)+ BYOK 超计划额度 5%。
原生多协议入口
GateLLM: 原生 OpenAI / Anthropic / Gemini / Bedrock / Realtime + /mcp —— 一个网关原生承接各种 SDK。
竞品缺口: 单一 OpenAI 兼容入口。
可审计的私有价
GateLLM: pinned 私有价 + 时间分段快照 + Excel 6 表导出 —— 能与厂商账单对账的成本。
竞品缺口: 仅透传 list 定价;无私有价卡或对账导出。
GateLLM vs OpenRouter
一份可溯源的对等对比。GateLLM 是自托管 BYOK 网关 —— 你的 prompt 从不进入我们系统、你付固定授权而非百分比；OpenRouter 是托管聚合商，把 500+ 模型汇聚到一个 OpenAI 兼容 API 之后。差异在部署形态、数据路径与成本。
双方都做得很好 —— 不构成选型差异
如果你的需求全在这一层，选哪个都行。请依据下面两层做决定。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| 一个 API 接 100+ 模型 | ✓ | ✓ |
| 跨厂商 fallback | ✓ | ✓ |
| BYOK（自带密钥） | ✓ 不加价 | ✓ · 超计划额度 5% |
| 企业 SSO | ✓（OIDC + SAML 2.0） | ✓（企业版；任意 SAML provider） |
| SCIM 2.0 自动开户 | ✓ | ✓（企业版） |
| 用量与成本可见 | ✓ | ✓ |
| 结构化输出与工具调用 | ✓ | ✓ |
| Prompt 缓存 | ✓ | ✓ |
| 预算与配额 | ✓ | ✓ |
| MCP 网关 | ✓ | ✓ |
GateLLM 更强之处
已对照 GateLLM 内核（单 Rust 二进制）与 OpenRouter 公开文档核实。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| 部署形态 | 自托管在你的 VPC / 本地 | 托管 SaaS —— 不可自建 |
| 数据路径 | prompt 从不进入我们系统；请求日志默认不落库；28 类凭据自动脱敏 | 流量过其平台；企业版可选 EU/US 区域内路由 + 可强制 ZDR，但无自托管选项 |
| 成本结构 | 按实例固定授权，不加 token 费 | 推理价透传 + 充值手续费 5.5%（加密 5%）+ BYOK 超额 5% |
| 协议入口 | 原生 OpenAI / Anthropic / Gemini / Bedrock / Realtime + /mcp | OpenAI 兼容单一入口 |
| 模型身份 | BYOK 直达厂商官方 API —— 中间无可替换环节 | 多 provider 池化 + Exacto 质量排序 + provider 政策元数据；无厂商级密码学证明 |
| 私有价与账单 | pinned 私有价 + 时间分段快照 + Excel 6 表导出 | 透传 list 定价 |
| 配置事务性 | 预览完整冲突集 → 单事务原子提交 | 仅仪表盘变更，无冲突预览、无原子回滚 |
| 审计留痕 | 配置 diff + 登录事件 + MCP 违规 | 仅用量日志 —— 无配置变更或权限审计留痕 |
| 多协议 SDK 并存 | 一个网关原生承接 OpenAI / Anthropic / Gemini / Bedrock / DashScope SDK，任意 A→B | 单一 OpenAI 兼容入口 |
| 崩溃安全计费 | 预扣 → 结算 → 退款 + in-flight 台账 —— 进程崩溃后账目仍正确 | 平台侧计量，无客户侧台账 |
| MCP 工具治理 | 按密钥组工具级 ACL + 上下文预算 + BM25 检索，全程审计 | MCP 仅透传，无工具级准入控制 |
OpenRouter 更强之处
诚实的对比必须列出聚合商做得好的地方。
| 能力 | GateLLM | OpenRouter |
|---|---|---|
| 模型广度 · 开箱即用 | 按上游逐个配置 | 500+ 模型 / 60+ provider，零配置 |
| 零运维 | 网关要自己跑 | 全托管 |
| provider 池化冗余 | 跨上游 LB | 同模型多 provider + Auto / Exacto + Zero Completion Insurance |
| 起步成本 | 部署 + 配置 | 充值即用、无需自建 |
| 生态集成 | OpenAI 兼容 —— LangChain / Vercel AI SDK / 任意 OpenAI 客户端直接可用 | LangChain / Vercel AI SDK / Langfuse / Mastra / PydanticAI … |
已对照各产品官方文档核实（2026-09-04，openrouter.ai/docs / docs.gatellm.io）。费率与计划可能漂移，采购前请以官方源为准。
从 OpenRouter 迁移
把 SDK 的 base_url 从 OpenRouter 换成你的 GateLLM 网关(OpenAI 兼容带 /v1),其余代码不用改。把各模型厂商的 API Key 配进网关(BYOK),原路由逻辑可平移。
- 1把 base_url 换成你的 GateLLM 网关(OpenAI 兼容带 /v1)—— 只改一行。
- 2把各厂商 API Key 配进控制台(BYOK)—— 密钥仅存网关内存,不落库。
- 3在控制台重建 fallback 与 provider 顺序 —— 1:1 平移。
- 4分级模型路由或脚本转换按需再开。
BYOK vs 托管聚合商
GateLLM 按实例 / 内存授权,永不加收 token 费;请求从你的网关直达厂商 API,不经任何第三方。OpenRouter 推理价透传,但收充值手续费(卡 5.5% / 加密 5%,最低 $0.80),BYOK 超出计划免费额度后收 5%。
成本结构 —— 费用到底收在哪
- •OpenRouter 的推理价是透传的 —— 模型单价不加价。
- •费用在两处:充值手续费 5.5%(卡)/ 5%(加密,最低 $0.80)+ BYOK 超出计划免费额度后 5%。
- •GateLLM:按实例固定授权(Pro 2GB $400/月)—— 与 token 量脱钩。
- •盈亏平衡点:约月推理 $7.3k(走 credits)或 $8k(走 BYOK)时,OpenRouter 费用与 GateLLM Pro 授权持平;之上固定授权胜出,且用量再翻 10 倍授权费不变。
- •注:此数字不含你自己跑网关的运维成本 —— 自托管要把运维人力算进去。
何时选谁
选 OpenRouter,如果…
你要 500+ 模型零配置零运维、接受其费率结构,且数据可经托管平台(或付费开企业版区域内路由)。
选 GateLLM,如果…
数据不能出你的 VPC、需要原生 Anthropic / Gemini / Bedrock / Realtime 入口且模型身份无可替换环节,且 token 量高到固定授权比百分比费用更划算。
两者可共存
用 OpenRouter 快速探索模型,等有了 BYOK 密钥与合规要求,再把生产流量切回你自己的 GateLLM 网关。
FAQ
2026-09-04 对照 openrouter.ai/docs 与 docs.gatellm.io 核实。费率与计划会漂移,采购前请以官方源为准。