GateLLM 与 Microsoft 365 Copilot
两者都把 AI 放进 Excel、Word、PowerPoint 和 Outlook。区别在于推理在哪里跑、模型由谁选,以及数据路径是否留在你的网络里。
对比表
只有 GateLLM 能做到
这是结构差异,不是质量高低的区别。Copilot 在微软生态集成上很强 —— 那些在下文,不在这里。
| 能力 | GateLLM(Office 加载项) | Microsoft 365 Copilot |
|---|---|---|
| 加载项从你自己的源站提供清单指向你托管的 Web 应用,请求发往你运行的网关。Copilot 作为微软服务交付,没有自托管部署选项。 | 有 | 没有 |
| 模型与厂商可选,包括自托管模型路由到你配置的任意厂商,或本地 vLLM / Ollama 上游。Copilot 运行在微软选定的模型上;Copilot Studio 可以接入 Azure AI Foundry 模型,但推理不会搬到你自己的基础设施上。 | 有 | 没有 |
| Office 与开发侧 AI 共用一本账加载项调用的是应用、Agent 和编码工具同一个网关,用量、配额和审计都在一本账上。Copilot 的用量在 Microsoft 365 管理中心单独报表。 | 有 | 没有 |
双方都做得很好
已经拉平的一层 —— 不要用这几行做决策。
| 能力 | GateLLM(Office 加载项) | Microsoft 365 Copilot |
|---|---|---|
| 在 Excel、Word、PowerPoint、Outlook 内使用 AI | 有 | 有 |
| 使用 Microsoft Entra ID 登录 | 有 | 有 |
| 遵循 Microsoft Purview 敏感度标签 | 有 | 有 |
| 从 Microsoft 365 管理中心统一分发 | 有 | 有 |
| 管理员可查看用量报表 | 有 | 有 |
形态不同
不是更好或更坏,而是不同产品在解决有重叠的问题。请直接权衡。
| 能力 | GateLLM(Office 加载项) | Microsoft 365 Copilot |
|---|---|---|
| 推理运行在哪里 | 你的网络内,由你运行的网关承载 | 在 Microsoft 365 服务边界内 |
| 模型选择 | 你配置的任意厂商,含自托管模型 | 微软选定的模型;Copilot Studio 可接入 Azure AI Foundry |
| 接地(grounding) | 当前文档、附件以及你启用的 MCP 服务器 | 覆盖整个租户的 Microsoft Graph 语义索引,并遵循用户权限 |
| 数据条款 | GateLLM 不接收提示词;下游使用受你的厂商合同约束 | 微软声明租户数据不用于训练基础模型,并留在其承诺范围内 |
| 计费形态 | 按网关实例授权,不收席位费 | 在符合条件的 Microsoft 365 套餐之上按用户授权 |
| 仍需依赖 | Microsoft Entra 与 Graph(Office 登录、邮件 / 日历) | Microsoft 365 授权、Graph,以及 Bing 网页接地(管理员可关闭) |
微软相关陈述摘自 learn.microsoft.com;GateLLM 事实已对照 docs.gatellm.io 核实。两个产品都会变 —— 采购前请核对出处。
差别到底在哪
Copilot 是微软的服务,加载项是你自己运行的软件。由此产生三个后果 —— 没有一个叫「Copilot 会用你的数据训练」。
加载项从你的源站提供
GateLLM 怎么做 清单指向你托管的 Web 应用,该应用调用你运行的网关。路径上没有厂商中转,也没有厂商控制面。
Copilot 的做法 Copilot 作为 Microsoft 365 服务的一部分交付,没有自托管部署选项,服务边界天然属于微软。
模型和运行位置由你选
GateLLM 怎么做 请求路由到你配置的任意厂商,包括本地 vLLM 或 Ollama 上游;策略可以按访问密钥或密钥分组钉死模型。
Copilot 的做法 模型由微软选定。Copilot Studio 可以接入 Azure AI Foundry 模型,但推理仍在微软的基础设施内。
Office 与开发侧 AI 共用一本账
GateLLM 怎么做 加载项调用的是应用、Agent 和编码工具同一个网关,因此 token 用量、配额和审计记录是统一且可归到团队的。
Copilot 的做法 Copilot 的用量在 Microsoft 365 管理中心单独报表,与你开发侧 AI 流量所用的治理体系分开。
从 Copilot 迁到自托管加载项
你不是在替换 Microsoft 365,只是在换它背后的 AI 端点。Copilot 授权、Entra 登录和 Graph 都保持原样。
- 1在你的 VPC 内部署网关,接上你在用的厂商,或一个本地 vLLM / Ollama 上游。
- 2部署加载项 Web 应用并在 Entra 租户中注册;清单指向你的源站。
- 3按启用的宿主授予 Graph 权限 —— Outlook 需要额外的管理员同意。
- 4把 Purview 敏感度标签映射到访问策略,让受限文档打不开加载项。
- 5通过 Microsoft 365 管理中心分发,并在网关自己的账本里看用量。
什么不变,什么变
Microsoft 365 授权、Entra 和 Graph 仍然是微软的。变的是推理端点:它搬到你运行的网关上,模型选择权回到你手里,Office 的用量和其余 AI 花销记在同一本账上。
成本结构
- •GateLLM 按网关实例授权,其上没有席位费。
- •BYOK 下你直接向模型厂商付费,许可费不随 token 量上涨。
- •Microsoft 365 Copilot 是在符合条件的 Microsoft 365 套餐之上的按用户授权。
- •诚实的比较方式是:按席位的 AI 授权,对比按实例的网关加模型开销 —— 两者不是同一种形状的成本。
什么时候选哪个
选 Microsoft 365 Copilot,当…
你想要一个托管产品、不想运维任何基础设施,数据驻留要求落在微软服务边界内,并且你真正需要的是覆盖整个租户的 Graph 接地。这条路更省力,对很多组织来说也是对的。
选自托管 Office 加载项,当…
推理必须留在你自己的基础设施上,或者你本来就把开发侧 AI 走网关,或者你需要按团队选模型(包括自托管模型)。代价是你要承担部署和升级。
两个一起用也合理
不少组织给一般员工用 Copilot,给文档不能出网的团队用加载项。两者不互斥,差别只在 AI 端点。
常见问题
微软相关陈述摘自 learn.microsoft.com;GateLLM 事实已对照 docs.gatellm.io 核实。两个产品都会变 —— 采购前请核对出处。