GateLLM vs Portkey(Prisma AIRS)
一份可溯源的對等對比。Portkey 是成熟的 SaaS AI 閘道器,帶 guardrails、prompt 管理與可觀測性 —— 已於 2026-05-29 被 Palo Alto Networks 收購、併入 Prisma AIRS。GateLLM 是全自託管的閘道器,按容量固定授權。差異在控制平面、資料路徑與價格如何隨量增長。
對比表
只有 GateLLM 做得到
這裡是「形態不同」而非「程度不同」。Portkey 在 guardrails 與 prompt 管理上很強 —— 那部分如實寫在下方誠實短板段,不在此處。
| 能力 | GateLLM | Portkey |
|---|---|---|
| 全自託管、無 SaaS 控制平面GateLLM 是單 Rust 二進位執行檔,跑在你自己的 VPC 裡 —— prompt、生成內容與金鑰都不離開你的邊界。Portkey 是混合形態:閘道器可跑在你網內,但控制平面仍是 SaaS。 | 支援 | 不支援 |
| 按容量固定授權(價格不隨流量漲)Pro 為 $400/月(2GB 執行個體),固定不變。Portkey 的 Production 檔是 $49/月 + 每 100k recorded logs 加 $9 —— 可觀測成本隨量增長。 | 支援 | 不支援 |
| 原生多協議入口(4 入 × 4 出,任意 A→B)OpenAI / Anthropic / Gemini / DashScope 任意互通,外加 15 種上遊形態。Portkey 講 OpenAI 相容面;非 OpenAI SDK 走相容 shim。 | 支援 | 不支援 |
| plan 模式模型切換(頂配規劃 / 開源 SOTA 執行)宣告式 switch-route + 內建 plan 模式檢測 + useModel 指令碼 —— 這是 Portkey 沒有的 ~90% 降本槓桿。 | 支援 | 不支援 |
| Microsoft 365 載入項(Excel / Word / PPT / Outlook)自託管、直連你自己的閘道器。Portkey 無 Office 載入項。 | 支援 | 不支援 |
雙方都做得到
共同的基準 —— 選哪個都能覆蓋這一層。決定在上下兩層。
| 能力 | GateLLM | Portkey |
|---|---|---|
| 多模型路由 · fallback | 支援 | 支援 |
| 負載平衡與重試 | 支援 | 支援 |
| 限流與配額 | 支援 | 支援 |
| 金鑰管理(虛擬金鑰) | 支援 | 支援 |
| 快取(簡單與語義) | 支援 | 支援 |
| MCP 工具治理 | 支援 | 支援 |
| 可觀測性(日誌、路徑、成本) | 支援 | 支援 |
| SSO / RBAC / SCIM | 支援 | 支援 |
形態不同之處
不是誰更好 —— 部署、定價與專注點不同,值得你直接權衡。
| 能力 | GateLLM | Portkey |
|---|---|---|
| 部署形態 | 全自託管 —— 單二進位執行檔跑在你 VPC | 混合 —— 閘道器在你網內,控制平面 SaaS |
| 定價 | 按執行個體固定授權(Pro 2GB $400/月) | $49/月 + 每 100k recorded logs 加 $9(按用量) |
| Guardrails | 客戶端准入 + 治理;請求側確定性金鑰與 PII 規則(log / mask / block,按作用域)。無 guardrail 庫,不做越獄 / prompt 注入檢測 | 60+ 內建 guardrails、PII 脫敏、越獄檢測 |
| Prompt 管理 | 不提供 —— prompt 歸你,我們只管路由面 | Prompt studio:範本、版本、環境推廣 |
| 執行時 | 單 Rust 二進位執行檔,無 GC 停頓 | SaaS 控制平面 + 閘道器 agent |
| 廠商歸屬 | Fluxon LLC 獨立產品 | 被 Palo Alto Networks 收購(2026-05-29),併入 Prisma AIRS |
已對照官方文件核實(2026-09-09,portkey.ai / paloaltonetworks.com)。功能與定價會漂移,採購前請以官方源為準。
差異化機制怎麼運作
每項 GateLLM 差異化都是可落地的機制,不是行銷話術。下面說明它底層怎麼實現,以及 Portkey 對應做了什麼。
全自託管、無 SaaS 控制平面
GateLLM: 單 Rust 二進位執行檔,跑在你自己的 VPC 裡 —— prompt、生成內容與金鑰都不離開邊界,沒有任何託管元件能看到你的後設資料。
Portkey 缺口: 混合形態:閘道器可跑在你網內,但控制平面、後設資料與設定仍是 SaaS。
原生多協議入口混用
GateLLM: 四種原生入口(OpenAI / Anthropic / Gemini / DashScope)任意 A→B,外加 15 種上遊形態 —— 一個閘道器原生承接各種 SDK。
Portkey 缺口: OpenAI 相容面;非 OpenAI SDK 走相容 shim,跨廠商格式會漂移。
plan 模式模型切換
GateLLM: 宣告式 switch-route + 內建 plan 模式檢測 + useModel 指令碼 —— 規劃走頂尖模型、執行走開源 SOTA,客戶端零改動。
Portkey 缺口: 無 plan 模式感知;路由與語義決策在 SaaS 控制平面,沒有規劃/執行分層。
固定授權、價格不隨流量漲
GateLLM: Pro 為 $400/月(2GB 執行個體),固定不變。token 翻倍,授權不動。
Portkey 缺口: $49/月 + 每 100k recorded logs 加 $9 —— 每一條請求都讓可觀測成本增長。
Microsoft 365 載入項
GateLLM: 自託管 Office 載入項,覆蓋 Excel / Word / PowerPoint / Outlook,直連你自己的閘道器,含 Entra SSO 與 Purview 標籤門控 —— 資料不外流。
Portkey 缺口: 無 Office 載入項;Portkey 沒有在 Microsoft 365 內直接呼叫模型的等價能力。
從 Portkey 遷移
把 SDK 的 base_url 指向 GateLLM 即可,其餘程式碼不用改。你現有的 BYOK 金鑰與路由策略可平移;但 prompt 範本與 guardrails 不能(見誠實短板 FAQ)。
- 1把 OpenAI SDK 的 base_url 指向 GateLLM(帶 /v1)—— 只改一行,其餘程式碼不動。
- 2把各模型廠商 API Key 配進控制台(BYOK)—— 金鑰僅存閘道器記憶體,不寫入資料庫。
- 3在控制台重建路由 / fallback / 負載平衡策略 —— 1:1 平移。
- 4在閘道器之外重建 prompt 範本,並重新安置你依賴的 guardrails —— GateLLM 覆蓋請求側的確定性金鑰與 PII 規則,不做基於模型的 prompt 檢查。
固定授權 vs 按用量 SaaS
GateLLM 是按執行個體的固定授權 —— Pro 2GB $400/月,與用量無關。Portkey 的 Production 檔是 $49/月 + 每 100k recorded logs 加 $9,成本隨流量增長。
成本結構
- •GateLLM:按執行個體固定授權(Pro 2GB $400/月)—— 無席位費、無 token 加價、無 per-log 費。
- •Portkey:Production $49/月 + 每 100k recorded logs 加 $9;Enterprise 需客製報價。
- •高用量下固定授權與用量解耦;Portkey 的可觀測帳單隨流量增長。
何時選誰
選 Portkey(Prisma AIRS),如果…
你需要開箱即用的 SaaS 控制平面、帶越獄檢測的 60+ guardrail 庫,以及 prompt 管理 studio,且已在 Palo Alto Networks 生態內。
選 GateLLM,如果…
你需要 prompt 與金鑰永不離開邊界、隨用量增長而不動的固定授權、原生多協議入口,或靠 plan 模式切換實現 ~90% 降本。
留意歸屬風險
Portkey 已於 2026-05-29 被 Palo Alto Networks 收購、併入 Prisma AIRS;其 alternatives 與 solutions 頁面現 301 跳轉到 paloaltonetworks.com。若在意供應商獨立性,GateLLM 為獨立所有。
FAQ
已對照官方文件核實(2026-09-09,portkey.ai / paloaltonetworks.com)。功能與定價會漂移,採購前請以官方源為準。