安全与合规

BYOK 模式下,API Key 仅存储在网关内存,不落库、不传输。

请求经网关路由后直达模型厂商官方 API,数据全程不出你的私有网络。

GateLLM 本身不存储、不训练、不缓存用户请求内容。

TLS 1.3 全链路加密。

密钥仅存内存,进程重启后从你的 secrets 注入,不落盘。

客户端准入控制:基于 User-Agent 做准入与差异化策略。

GDPR / CCPA / DPA 就绪。

SOC 2 Type II / ISO 27001 控制对齐(认证准备中)。

SSO(OIDC:Azure AD / Okta / 通用 OIDC,另含 SAML 2.0 + SCIM 2.0)。

请求级审计日志,可导出接入内部运维与计费系统。

Crash-safe 计费:预扣 → 结算 → 退款,进程崩溃下计费仍正确,有 in-flight 账本与请求级审计。

Management API 可程序化管理配额、预算、用量与成本。

网络层:网关进程部署在您的 VPC / 本地数据中心,出入站由您配置的安全组 / 网络策略控制;请求直达下游模型厂商官方 API,不经过处理方中转服务器。

网关进程层:无状态设计,密钥从配置加密加载至内存、不落盘;任意副本可承接任意请求,支持水平扩展与即时故障转移;进程重启后密钥从您的 secrets 重新注入。

密钥层:BYOK 模型厂商密钥仅存网关进程内存,不写入持久存储,运维人员无法读取明文;客户端准入控制基于 User-Agent 做准入与差异化策略。

数据层:运行时 prompt / 补全不持久化于处理方系统(内存内转发后不落库);账户与许可证静态数据 AES-256 加密;审计日志保留策略由您的运维决定。

计费层:crash-safe 计费(预扣 → 结算 → 退款),进程崩溃下仍正确,有 in-flight 账本与请求级审计。

过度 AI 访问担忧:GateLLM 以全私有化部署 + BYOK 模式回应——密钥与 prompt 不出您的网络边界,您完全掌控用哪些模型、走哪个厂商,无 shadow AI、无隐藏子处理方(见子处理方清单)。

数据被用于训练:处理方不接触 prompt 数据;下游模型厂商是否训练由其政策决定,您在接入前即可在子处理方清单的数据用途矩阵中知悉,全程 opt-in。

跨境合规:处理方账户数据通过 SCCs / IDTA 跨境;下游厂商跨境由您直接对接并确保适当保障(见 DPA 第 11 节)。

密钥泄露:密钥仅存内存、不落库、不外传;SSO 委托您现有 IdP 的 MFA 与会话管理,凭证不分散。

GateLLM 的独立第三方渗透测试正在筹备中(范围与授权规则已就绪),覆盖网关进程、认证授权、Edge Functions、API 网关、密钥处理路径;完成后摘要发布于漏洞披露政策第 7 节。

负责任漏洞披露政策:报告渠道 security@gatellm.io(支持 PGP),24 小时确认,按 CVSS 严重性分级修复(Critical 7 天 / High 30 天 / Medium 60 天 / Low 90 天)。

提供软件物料清单(SBOM),依赖项定期扫描已知漏洞,安全补丁在发布说明中标注 CVE 编号。