安全與合規

BYOK 模式下,API Key 僅儲存在閘道器記憶體,不寫入資料庫、不傳輸。

請求經閘道器路由後直達模型廠商官方 API,資料全程不出你的私有網路。

GateLLM 本身不儲存、不訓練、不快取使用者請求內容。

TLS 1.3 端到端加密。

金鑰僅存記憶體,程式重啟後從你的 secrets 注入,不寫入磁碟。

客戶端准入控制:基於 User-Agent 做准入與差異化策略。

GDPR / CCPA / DPA 就緒。

SOC 2 Type II / ISO 27001 控制對齊(認證準備中)。

SSO(OIDC:Azure AD / Okta / 通用 OIDC,另含 SAML 2.0 + SCIM 2.0)。

請求級稽核日誌,可匯出接入內部維運與計費系統。

Crash-safe 計費:預扣 → 結算 → 退款,程式當機下計費仍正確,有 in-flight 帳本與請求級稽核。

Management API 可程式化管理配額、預算、用量與成本。

網路層:閘道器程式部署在您的 VPC / 本地資料中心,出入站由您設定的安全性群組 / 網路策略控制;請求直達下游模型廠商官方 API,不經過處理者中轉伺服器。

閘道器程式層:無狀態設計,金鑰從設定加密載入至記憶體、不寫入磁碟;任意副本可承接任意請求,支援水平擴展與即時故障轉移;程式重啟後金鑰從您的 secrets 重新注入。

金鑰層:BYOK 模型廠商金鑰僅存閘道器程式記憶體,不寫入持久儲存,維運人員無法讀取明文;客戶端准入控制基於 User-Agent 做准入與差異化策略。

資料層:執行時 prompt / 生成內容不持久化於處理者系統(記憶體內轉發後不寫入資料庫);帳戶與授權靜態資料 AES-256 加密;稽核日誌保留策略由您的維運決定。

計費層:crash-safe 計費(預扣 → 結算 → 退款),程式當機下仍正確,有 in-flight 帳本與請求級稽核。

過度 AI 存取擔憂:GateLLM 以全私有化部署 + BYOK 模式回應——金鑰與 prompt 不出您的網路邊界,您完全掌控用哪些模型、走哪個廠商,無 shadow AI、無隱藏子處理者(見子處理者清單)。

資料被用於訓練:處理者不接觸 prompt 資料;下游模型廠商是否訓練由其政策決定,您在接入前即可在子處理者清單的資料用途矩陣中知悉,全程 opt-in。

跨境合規:處理者帳戶資料透過 SCCs / IDTA 跨境;下游廠商跨境由您直接介接並確保適當保障(見 DPA 第 11 節)。

金鑰洩露:金鑰僅存記憶體、不寫入資料庫、不外傳;SSO 委託您現有 IdP 的 MFA 與會話管理,憑證不分散。

GateLLM 的獨立第三方滲透測試正在籌備中(範圍與授權規則已就緒),覆蓋閘道器程式、認證授權、Edge Functions、API 閘道器、金鑰處理路徑;完成後摘要發布於漏洞披露政策第 7 節。

負責任漏洞披露政策:報告管道 security@gatellm.io(支援 PGP),24 小時確認,按 CVSS 嚴重性分級修復(Critical 7 天 / High 30 天 / Medium 60 天 / Low 90 天)。

提供軟體物料清單(SBOM),依賴項定期掃描已知漏洞,安全修補在發布說明中標註 CVE 編號。