GateLLM vs OpenRouter
OpenRouter 是便利的托管聚合商 —— 一个 API 接入 500+ 模型,但不可自建、加收费用、模型真实性靠信任。GateLLM 是自托管 BYOK 网关:密钥直达厂商官方 API,不加 token 费,数据不出内网。
从 OpenRouter 迁移
把 SDK 的 base_url 从 OpenRouter 换成你的 GateLLM 网关(OpenAI 兼容带 /v1),其余代码不用改。把各模型厂商的 API Key 配进网关(BYOK),原路由逻辑可平移,再按需启用组合 / 聚合 / 跨厂商 fallback。
BYOK vs 托管聚合商
OpenRouter 在每 token 上加收费用(通常 5% 起),且你的请求要经它的服务器转发 —— 密钥、prompt、输出都暴露给它,模型是否被替换无法验证。GateLLM 按实例 / 内存授权,永不加收 token 费;请求从你的网关直达厂商 API,不经任何第三方,没有「假模型 / 降智 / 跑路」的空间。