# 企业 AI 治理:CIO 会问的四个问题 - GateLLM

> 谁在用哪个模型、花了多少记给谁、数据有没有出网、换厂商要改多少代码——四个高管问题,用已上线的机制回答,不是承诺。

规范链接: https://www.gatellm.io/zh-CN/enterprise-ai-governance/

## 企业 AI 治理:CIO 会问的四个问题

每一次关于 AI 花销的高管评审,最后都落到四个问题。本页每一个回答都指向一个可核实的已上线机制,不是路线图。

开一个模型访问权限很容易,治理它不容易。下面四个问题决定一个 AI 项目能不能过第一次审计:谁在用哪个模型、花了多少记给谁、数据有没有出网、换一家厂商要花多少工程时间。

## 谁在用哪个模型,用了多少?

每个请求都带密钥、密钥分组和模型。GateLLM 按请求记录 input、output 和缓存命中的 token,粒度为分钟,并给出按密钥、分组和模型切分的日/月时序。准入控制按请求头决定哪些客户端能连进来。

- 用量与成本可以按人、按密钥、按密钥分组和按模型拆开 —— 不需要重建日志。
- 客户端准入按 User-Agent 在全局、分组和密钥三个作用域上管控。
- 请求级记录保留了端到端追一次调用所需的标识。

- [Token 用量可见与归因](https://www.gatellm.io/zh-CN/use-cases/token-ops.md)
- [限制接入的客户端](https://www.gatellm.io/zh-CN/use-cases/client-admission-control.md)

## 花了多少钱,记在谁账上?

计费走的是你自己的价目表,不是厂商的挂牌价。钉住你谈好的价格,用标签把调用分摊到成本中心,按时间窗导出报表,并设置日/月成本配额 —— 预算用尽时请求被拒。GateLLM 在厂商价格之上不加任何 token 加价。

- 按时间窗保存的价目快照让几个月前的报表仍然可复现。
- 基于标签的分摊把 AI 开销变成一本可入账的账。
- 日/月配额在触顶时返回 429,失控的 Agent 会停在你定的那个数上。

- [Token FinOps: AI 支出分摊与管控](https://www.gatellm.io/zh-CN/use-cases/token-finops.md)
- [成本计算器](https://www.gatellm.io/zh-CN/calculator.md)
- [成本对比计算口径](https://www.gatellm.io/zh-CN/methodology.md)

## 数据有没有出网,能证明吗?

网关跑在你这边,所以提示词和响应流量不经过我们。BYOK 下厂商密钥只存在于网关内存。凭据和 PII 在请求侧被识别,可以按作用域记录、脱敏或拦截;落盘的日志内容在每一个出口点都已脱敏。

- 请求只发往你配置的模型端点 —— 包括自建的 vLLM 或 Ollama 上游。
- 请求日志默认关闭;查看原文仅限管理员且留审计。
- 支持 OIDC 或 SAML 单点登录与 SCIM 同步;按租户的密钥与配额。

- [合规与审计](https://www.gatellm.io/zh-CN/use-cases/compliance-audit.md)
- [安全与合规](https://www.gatellm.io/zh-CN/security.md)
- [安全问卷预答库 (CAIQ/SIG/VSA)](https://www.gatellm.io/zh-CN/trust.md)
- [在 Office 里自托管用 AI](https://www.gatellm.io/zh-CN/use-cases/self-hosted-office-ai.md)

## 如果厂商挂了、或者我们要换模型,要改多少代码?

厂商返回 5xx 或超时时,请求会在另一家厂商上重试,不需要动应用代码。四类聊天协议双向互译,客户端可以继续用自己那套 SDK。模型身份在网关侧映射 —— 按访问密钥、按请求头或走兜底规则 —— 能力元数据来自注册表。

- 5xx 或超时跨厂商兜底,客户端无需改动。
- 入口白名单与兜底映射让一个模型名保持稳定,后端可以换。
- 能力元数据从注册表加载,模型变化不需要发版。

- [做到高可用](https://www.gatellm.io/zh-CN/use-cases/high-availability.md)
- [一套协议接任意模型](https://www.gatellm.io/zh-CN/use-cases/one-protocol-any-model.md)
- [强制模型使用策略](https://www.gatellm.io/zh-CN/use-cases/enforce-model-policy.md)

## 常见问题

### 回答这四个问题一定要上网关吗?

不一定。只有一家厂商的小团队,其中两个问题用厂商后台就能答。另外两个 —— 你自己掌控的请求级数据路径,以及不改进代码就能跨厂商兜底 —— 通常才是必须引入自托管组件的原因。

### 「数据不出网」是说完全不发给厂商吗?

不是。提示词仍然会发到你选择的模型端点。网关不做中转:流量从你的网络直接到那些端点,在你自己的厂商合同下。

### 可以先从一个团队开始,以后再扩吗?

可以。密钥、密钥分组和配额都是叠加的,模型目录和路由规则是共享的 —— 新团队不需要新部署。

## 相关内容

- [什么是 LLM 网关](https://www.gatellm.io/zh-CN/llm-gateway.md)
- [成本对比计算口径](https://www.gatellm.io/zh-CN/methodology.md)
- [模型目录](https://www.gatellm.io/zh-CN/models.md)
- [对比 AI 网关](https://www.gatellm.io/zh-CN/compare.md)

## 相关页面
- [首页](https://www.gatellm.io/zh-CN/index.md)
- [定价](https://www.gatellm.io/zh-CN/pricing.md)
- [成本计算器](https://www.gatellm.io/zh-CN/calculator.md)
- [关于](https://www.gatellm.io/zh-CN/about.md)
- [预约演示](https://www.gatellm.io/zh-CN/demo.md)
- [常见问题](https://www.gatellm.io/zh-CN/faq.md)
- [对比 AI 网关](https://www.gatellm.io/zh-CN/compare.md)
- [对比 LiteLLM](https://www.gatellm.io/zh-CN/compare/litellm.md)
- [对比 OpenRouter](https://www.gatellm.io/zh-CN/compare/openrouter.md)
- [对比 Alibaba Cloud AI Gateway](https://www.gatellm.io/zh-CN/compare/alibaba-cloud.md)
- [对比 Azure API Management](https://www.gatellm.io/zh-CN/compare/azure-apim.md)
- [对比 Apigee](https://www.gatellm.io/zh-CN/compare/apigee.md)
- [对比 Cloudflare AI Gateway](https://www.gatellm.io/zh-CN/compare/cloudflare.md)
- [对比 Kong AI Gateway](https://www.gatellm.io/zh-CN/compare/kong.md)
- [对比 Portkey](https://www.gatellm.io/zh-CN/compare/portkey.md)
- [Microsoft 365 Copilot 替代方案](https://www.gatellm.io/zh-CN/compare/copilot.md)
- [LiteLLM vs Kong AI Gateway 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey 对比](https://www.gatellm.io/zh-CN/compare/litellm-vs-portkey.md)
- [场景方案](https://www.gatellm.io/zh-CN/use-cases.md)
- [降低调用成本](https://www.gatellm.io/zh-CN/use-cases/reduce-cost.md)
- [做到高可用](https://www.gatellm.io/zh-CN/use-cases/high-availability.md)
- [多租户隔离](https://www.gatellm.io/zh-CN/use-cases/multi-tenant.md)
- [合规与审计](https://www.gatellm.io/zh-CN/use-cases/compliance-audit.md)
- [从症状排障](https://www.gatellm.io/zh-CN/use-cases/troubleshooting.md)
- [混合多供应商模型栈](https://www.gatellm.io/zh-CN/use-cases/mixed-model-stack.md)
- [在 Office 里自托管用 AI](https://www.gatellm.io/zh-CN/use-cases/self-hosted-office-ai.md)
- [Token 用量可见与归因](https://www.gatellm.io/zh-CN/use-cases/token-ops.md)
- [Token FinOps: AI 支出分摊与管控](https://www.gatellm.io/zh-CN/use-cases/token-finops.md)
- [MCP 工具治理](https://www.gatellm.io/zh-CN/use-cases/mcp-tool-governance.md)
- [给模型统一加联网搜索](https://www.gatellm.io/zh-CN/use-cases/web-search-grounding.md)
- [多 Key 轮询与备用](https://www.gatellm.io/zh-CN/use-cases/multi-key-pooling.md)
- [限制接入的客户端](https://www.gatellm.io/zh-CN/use-cases/client-admission-control.md)
- [强制模型使用策略](https://www.gatellm.io/zh-CN/use-cases/enforce-model-policy.md)
- [客户端不暴露模型选择](https://www.gatellm.io/zh-CN/use-cases/automatic-model-tiering.md)
- [一套协议接任意模型](https://www.gatellm.io/zh-CN/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 加载项](https://www.gatellm.io/zh-CN/office-addin.md)
- [术语表](https://www.gatellm.io/zh-CN/glossary.md)
- [什么是 LLM 网关](https://www.gatellm.io/zh-CN/llm-gateway.md)
- [成本对比计算口径](https://www.gatellm.io/zh-CN/methodology.md)
- [模型目录](https://www.gatellm.io/zh-CN/models.md)
- [SDK 与框架集成](https://www.gatellm.io/zh-CN/integrations.md)
- [AI Coding Agent 与 Harness](https://www.gatellm.io/zh-CN/coding-agents.md)
- [安全与合规](https://www.gatellm.io/zh-CN/security.md)
- [隐私政策](https://www.gatellm.io/zh-CN/privacy-policy.md)
- [服务条款](https://www.gatellm.io/zh-CN/terms.md)
- [Cookie 政策](https://www.gatellm.io/zh-CN/cookies.md)
- [数据处理协议 (DPA)](https://www.gatellm.io/zh-CN/dpa.md)
- [子处理方清单](https://www.gatellm.io/zh-CN/subprocessors.md)
- [安全问卷预答库 (CAIQ/SIG/VSA)](https://www.gatellm.io/zh-CN/trust.md)
- [事故响应与支持服务](https://www.gatellm.io/zh-CN/sla.md)
- [漏洞披露政策](https://www.gatellm.io/zh-CN/vulnerability-disclosure.md)
- [开源许可声明](https://www.gatellm.io/zh-CN/open-source-licenses.md)
- [版本支持与生命周期 (EOL)](https://www.gatellm.io/zh-CN/lifecycle.md)
- [技术博客](https://www.gatellm.io/zh-CN/blog.md)
- [你的 Agent 权限比员工还大:在网关层治理 MCP 工具](https://www.gatellm.io/zh-CN/blog/mcp-tool-governance.md)
- [一张一万美元的账单:五种降低 LLM 成本又不让应用变笨的做法](https://www.gatellm.io/zh-CN/blog/reduce-cost.md)
- [厂商的目录价不是你的成本:把真正的 FinOps 用到 Token 支出上](https://www.gatellm.io/zh-CN/blog/token-finops.md)
- [llms.txt](https://www.gatellm.io/zh-CN/llms.txt)