# 企業 AI 治理:CIO 會問的四個問題 - GateLLM

> 誰在用哪個模型、花了多少記給誰、資料有沒有出網、換廠商要改多少程式碼——四個高階主管問題,用已上線的機制回答,不是承諾。

規範連結: https://www.gatellm.io/zh-TW/enterprise-ai-governance/

## 企業 AI 治理:CIO 會問的四個問題

每一次關於 AI 花費的高階主管審查,最後都落到四個問題。本頁每一個回答都指向一個可核實的已上線機制,不是路線圖。

開一個模型存取權限很容易,治理它不容易。下面四個問題決定一個 AI 專案能不能過第一次稽核:誰在用哪個模型、花了多少記給誰、資料有沒有出網、換一家廠商要花多少工程時間。

## 誰在用哪個模型,用了多少?

每個請求都帶金鑰、金鑰分組和模型。GateLLM 依請求記錄 input、output 和快取命中的 token,粒度為分鐘,並給出依金鑰、分組和模型切分的日/月時序。准入控制依請求標頭決定哪些用戶端能連進來。

- 用量與成本可以依人、依金鑰、依金鑰分組和依模型拆開 —— 不需要重建日誌。
- 用戶端准入依 User-Agent 在全域、分組和金鑰三個作用域上管控。
- 請求級記錄保留了端到端追一次呼叫所需的識別碼。

- [Token 用量可見性與歸因](https://www.gatellm.io/zh-TW/use-cases/token-ops.md)
- [限制接入的用戶端](https://www.gatellm.io/zh-TW/use-cases/client-admission-control.md)

## 花了多少錢,記在誰帳上?

計費走的是你自己的價目表,不是廠商的牌價。釘住你談好的價格,用標籤把呼叫分攤到成本中心,依時間窗匯出報表,並設定日/月成本配額 —— 預算用盡時請求被拒。GateLLM 在廠商價格之上不加任何 token 加價。

- 依時間窗保存的價目快照讓幾個月前的報表仍然可重現。
- 依標籤的分攤把 AI 花費變成一本可入帳的帳。
- 日/月配額在觸頂時回傳 429,失控的 Agent 會停在你定的那個數字上。

- [Token FinOps: AI 支出分攤與管控](https://www.gatellm.io/zh-TW/use-cases/token-finops.md)
- [成本計算器](https://www.gatellm.io/zh-TW/calculator.md)
- [成本對比計算口徑](https://www.gatellm.io/zh-TW/methodology.md)

## 資料有沒有出網,能證明嗎?

閘道器跑在你這邊,所以提示詞和回應流量不經過我們。BYOK 下廠商金鑰只存在於閘道器記憶體。憑證和 PII 在請求側被識別,可以依作用域記錄、遮蔽或攔截;落盤的日誌內容在每一個出口點都已遮蔽。

- 請求只發往你設定的模型端點 —— 包括自架的 vLLM 或 Ollama 上游。
- 請求日誌預設關閉;查看原文僅限管理員且留稽核。
- 支援 OIDC 或 SAML 單一登入與 SCIM 同步;依租戶的金鑰與配額。

- [合規與稽核](https://www.gatellm.io/zh-TW/use-cases/compliance-audit.md)
- [安全性與合規](https://www.gatellm.io/zh-TW/security.md)
- [安全問卷預答庫 (CAIQ/SIG/VSA)](https://www.gatellm.io/trust.md)
- [在 Office 內自架 AI](https://www.gatellm.io/zh-TW/use-cases/self-hosted-office-ai.md)

## 如果廠商掛了、或者我們要換模型,要改多少程式碼?

廠商回傳 5xx 或逾時時,請求會在另一家廠商上重試,不需要動應用程式碼。四類聊天協定雙向互譯,用戶端可以繼續用自己那套 SDK。模型身分在閘道器側對應 —— 依存取金鑰、依請求標頭或走備援規則 —— 能力中繼資料來自註冊表。

- 5xx 或逾時跨廠商備援,用戶端無需改動。
- 入口白名單與備援對應讓一個模型名稱保持穩定,後端可以換。
- 能力中繼資料從註冊表載入,模型變化不需要發版。

- [達成高可用](https://www.gatellm.io/zh-TW/use-cases/high-availability.md)
- [一種協定,任何模型](https://www.gatellm.io/zh-TW/use-cases/one-protocol-any-model.md)
- [強制模型使用政策](https://www.gatellm.io/zh-TW/use-cases/enforce-model-policy.md)

## 常見問題

### 回答這四個問題一定要上閘道器嗎?

不一定。只有一家廠商的小團隊,其中兩個問題用廠商後台就能答。另外兩個 —— 你自己掌控的請求級資料路徑,以及不改良程式碼就能跨廠商備援 —— 通常才是必須引入自架元件的原因。

### 「資料不出網」是說完全不發給廠商嗎?

不是。提示詞仍然會發到你選擇的模型端點。閘道器不做中轉:流量從你的網路直接到那些端點,在你自己的廠商合約下。

### 可以先從一個團隊開始,以後再擴嗎?

可以。金鑰、金鑰分組和配額都是疊加的,模型目錄和路由規則是共用的 —— 新團隊不需要新部署。

## 相關內容

- [什麼是 LLM 閘道器](https://www.gatellm.io/zh-TW/llm-gateway.md)
- [成本對比計算口徑](https://www.gatellm.io/zh-TW/methodology.md)
- [模型目錄](https://www.gatellm.io/zh-TW/models.md)
- [比較 AI 閘道](https://www.gatellm.io/zh-TW/compare.md)

## 相關頁面
- [首頁](https://www.gatellm.io/zh-TW/index.md)
- [定價](https://www.gatellm.io/zh-TW/pricing.md)
- [成本計算器](https://www.gatellm.io/zh-TW/calculator.md)
- [關於](https://www.gatellm.io/zh-TW/about.md)
- [預約示範](https://www.gatellm.io/zh-TW/demo.md)
- [常見問題](https://www.gatellm.io/zh-TW/faq.md)
- [比較 AI 閘道](https://www.gatellm.io/zh-TW/compare.md)
- [比較 LiteLLM](https://www.gatellm.io/zh-TW/compare/litellm.md)
- [比較 OpenRouter](https://www.gatellm.io/zh-TW/compare/openrouter.md)
- [比較 Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-TW/compare/alibaba-cloud.md)
- [比較 Azure API Management](https://www.gatellm.io/zh-TW/compare/azure-apim.md)
- [比較 Apigee](https://www.gatellm.io/zh-TW/compare/apigee.md)
- [比較 Cloudflare AI Gateway](https://www.gatellm.io/zh-TW/compare/cloudflare.md)
- [比較 Kong AI Gateway](https://www.gatellm.io/zh-TW/compare/kong.md)
- [比較 Portkey](https://www.gatellm.io/zh-TW/compare/portkey.md)
- [Microsoft 365 Copilot 替代方案](https://www.gatellm.io/zh-TW/compare/copilot.md)
- [LiteLLM vs Kong AI Gateway 比較](https://www.gatellm.io/zh-TW/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter 比較](https://www.gatellm.io/zh-TW/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey 比較](https://www.gatellm.io/zh-TW/compare/litellm-vs-portkey.md)
- [場景方案](https://www.gatellm.io/zh-TW/use-cases.md)
- [降低呼叫成本](https://www.gatellm.io/zh-TW/use-cases/reduce-cost.md)
- [達成高可用](https://www.gatellm.io/zh-TW/use-cases/high-availability.md)
- [多租戶隔離](https://www.gatellm.io/zh-TW/use-cases/multi-tenant.md)
- [合規與稽核](https://www.gatellm.io/zh-TW/use-cases/compliance-audit.md)
- [從症狀排障](https://www.gatellm.io/zh-TW/use-cases/troubleshooting.md)
- [混合多供應商模型堆疊](https://www.gatellm.io/zh-TW/use-cases/mixed-model-stack.md)
- [在 Office 內自架 AI](https://www.gatellm.io/zh-TW/use-cases/self-hosted-office-ai.md)
- [Token 用量可見性與歸因](https://www.gatellm.io/zh-TW/use-cases/token-ops.md)
- [Token FinOps: AI 支出分攤與管控](https://www.gatellm.io/zh-TW/use-cases/token-finops.md)
- [MCP 工具治理](https://www.gatellm.io/zh-TW/use-cases/mcp-tool-governance.md)
- [為所有模型統一加入網路搜尋](https://www.gatellm.io/zh-TW/use-cases/web-search-grounding.md)
- [多 Key 輪替與備援](https://www.gatellm.io/zh-TW/use-cases/multi-key-pooling.md)
- [限制接入的用戶端](https://www.gatellm.io/zh-TW/use-cases/client-admission-control.md)
- [強制模型使用政策](https://www.gatellm.io/zh-TW/use-cases/enforce-model-policy.md)
- [用戶端不暴露模型選擇](https://www.gatellm.io/zh-TW/use-cases/automatic-model-tiering.md)
- [一種協定,任何模型](https://www.gatellm.io/zh-TW/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 增益集](https://www.gatellm.io/zh-TW/office-addin.md)
- [術語表](https://www.gatellm.io/zh-TW/glossary.md)
- [什麼是 LLM 閘道器](https://www.gatellm.io/zh-TW/llm-gateway.md)
- [成本對比計算口徑](https://www.gatellm.io/zh-TW/methodology.md)
- [模型目錄](https://www.gatellm.io/zh-TW/models.md)
- [SDK 與框架整合](https://www.gatellm.io/zh-TW/integrations.md)
- [AI Coding Agent 與 Harness](https://www.gatellm.io/zh-TW/coding-agents.md)
- [安全性與合規](https://www.gatellm.io/zh-TW/security.md)