GateLLM 與 Microsoft 365 Copilot
兩者都把 AI 放進 Excel、Word、PowerPoint 和 Outlook。差別在於推論在哪裡跑、模型由誰選,以及資料路徑是否留在你的網路裡。
對比表
只有 GateLLM 能做到
這是結構差異,不是品質高低的差別。Copilot 在微軟生態整合上很強 —— 那些在下文,不在這裡。
| 能力 | GateLLM(Office 載入項) | Microsoft 365 Copilot |
|---|---|---|
| 載入項從你自己的來源網站提供清單指向你託管的 Web 應用,請求發往你執行的閘道器。Copilot 以微軟服務交付,沒有自架部署選項。 | 有 | 沒有 |
| 模型與廠商可選,包括自架模型路由到你設定的任意廠商,或地端 vLLM / Ollama 上游。Copilot 執行在微軟選定的模型上;Copilot Studio 可以接入 Azure AI Foundry 模型,但推論不會搬到你自己的基礎設施上。 | 有 | 沒有 |
| Office 與開發側 AI 共用一本帳載入項呼叫的是應用、Agent 和編碼工具同一個閘道器,用量、配額和稽核都在一本帳上。Copilot 的用量在 Microsoft 365 系統管理中心單獨報表。 | 有 | 沒有 |
雙方都做得很好
已經拉平的一層 —— 不要用這幾行做決策。
| 能力 | GateLLM(Office 載入項) | Microsoft 365 Copilot |
|---|---|---|
| 在 Excel、Word、PowerPoint、Outlook 內使用 AI | 有 | 有 |
| 使用 Microsoft Entra ID 登入 | 有 | 有 |
| 遵循 Microsoft Purview 敏感度標籤 | 有 | 有 |
| 從 Microsoft 365 系統管理中心統一派送 | 有 | 有 |
| 管理員可查看用量報表 | 有 | 有 |
形態不同
不是更好或更壞,而是不同產品在解決有重疊的問題。請直接權衡。
| 能力 | GateLLM(Office 載入項) | Microsoft 365 Copilot |
|---|---|---|
| 推論執行在哪裡 | 你的網路內,由你執行的閘道器承載 | 在 Microsoft 365 服務邊界內 |
| 模型選擇 | 你設定的任意廠商,含自架模型 | 微軟選定的模型;Copilot Studio 可接入 Azure AI Foundry |
| 接地(grounding) | 目前文件、附件以及你啟用的 MCP 伺服器 | 覆蓋整個租戶的 Microsoft Graph 語意索引,並遵循使用者權限 |
| 資料條款 | GateLLM 不接收提示詞;下游使用受你的廠商合約約束 | 微軟聲明租戶資料不用於訓練基礎模型,並留在其承諾範圍內 |
| 計費形態 | 依閘道器執行個體授權,不收席次費 | 在符合條件的 Microsoft 365 方案之上依使用者授權 |
| 仍需依賴 | Microsoft Entra 與 Graph(Office 登入、郵件 / 行事曆) | Microsoft 365 授權、Graph,以及 Bing 網頁接地(管理員可關閉) |
微軟相關陳述摘自 learn.microsoft.com;GateLLM 事實已對照 docs.gatellm.io 核實。兩個產品都會變 —— 採購前請核對出處。
差別到底在哪
Copilot 是微軟的服務,載入項是你自己執行的軟體。由此產生三個後果 —— 沒有一個叫「Copilot 會用你的資料訓練」。
載入項從你的來源網站提供
GateLLM 怎麼做 清單指向你託管的 Web 應用,該應用呼叫你執行的閘道器。路徑上沒有廠商中轉,也沒有廠商控制面。
Copilot 的做法 Copilot 作為 Microsoft 365 服務的一部分交付,沒有自架部署選項,服務邊界天然屬於微軟。
模型和執行位置由你選
GateLLM 怎麼做 請求路由到你設定的任意廠商,包括地端 vLLM 或 Ollama 上游;策略可以依存取金鑰或金鑰分組釘死模型。
Copilot 的做法 模型由微軟選定。Copilot Studio 可以接入 Azure AI Foundry 模型,但推論仍在微軟的基礎設施內。
Office 與開發側 AI 共用一本帳
GateLLM 怎麼做 載入項呼叫的是應用、Agent 和編碼工具同一個閘道器,因此 token 用量、配額和稽核記錄是統一且可歸到團隊的。
Copilot 的做法 Copilot 的用量在 Microsoft 365 系統管理中心單獨報表,與你開發側 AI 流量所用的治理體系分開。
從 Copilot 遷到自架載入項
你不是在替換 Microsoft 365,只是在換它背後的 AI 端點。Copilot 授權、Entra 登入和 Graph 都保持原樣。
- 1在你的 VPC 內部署閘道器,接上你在用的廠商,或一個地端 vLLM / Ollama 上游。
- 2部署載入項 Web 應用並在 Entra 租戶中註冊;清單指向你的來源網站。
- 3依啟用的宿主授予 Graph 權限 —— Outlook 需要額外的管理員同意。
- 4把 Purview 敏感度標籤對應到存取策略,讓受限文件打不開載入項。
- 5透過 Microsoft 365 系統管理中心派送,並在閘道器自己的帳本裡看用量。
什麼不變,什麼變
Microsoft 365 授權、Entra 和 Graph 仍然是微軟的。變的是推論端點:它搬到你執行的閘道器上,模型選擇權回到你手裡,Office 的用量和其餘 AI 花費記在同一本帳上。
成本結構
- •GateLLM 依閘道器執行個體授權,其上沒有席次費。
- •BYOK 下你直接向模型廠商付費,授權費不隨 token 量上漲。
- •Microsoft 365 Copilot 是在符合條件的 Microsoft 365 方案之上的依使用者授權。
- •誠實的比較方式是:依席次的 AI 授權,對比依執行個體的閘道器加模型花費 —— 兩者不是同一種形狀的成本。
什麼時候選哪個
選 Microsoft 365 Copilot,當…
你想要一個託管產品、不想維運任何基礎設施,資料落地要求落在微軟服務邊界內,並且你真正需要的是覆蓋整個租戶的 Graph 接地。這條路更省力,對很多組織來說也是對的。
選自架 Office 載入項,當…
推論必須留在你自己的基礎設施上,或者你本來就把開發側 AI 走閘道器,或者你需要依團隊選模型(包括自架模型)。代價是你要承擔部署和升級。
兩個一起用也合理
不少組織給一般員工用 Copilot,給文件不能出網的團隊用載入項。兩者不互斥,差別只在 AI 端點。
常見問題
微軟相關陳述摘自 learn.microsoft.com;GateLLM 事實已對照 docs.gatellm.io 核實。兩個產品都會變 —— 採購前請核對出處。