安全与合规
面向企业采购的安全、隐私与合规要点。全私有化部署,数据不出内网。
GDPRCCPADPASOC 2 Type IIISO 27001等保三级信创
数据不离开你的网络
- •
BYOK 模式下,API Key 仅存储在网关内存,不落库、不传输。
- •
请求经网关路由后直达模型厂商官方 API,数据全程不出你的私有网络。
- •
GateLLM 本身不存储、不训练、不缓存用户请求内容。
传输与密钥安全
- •
TLS 1.3 全链路加密。
- •
密钥仅存内存,进程重启后从你的 secrets 注入,不落盘。
- •
客户端准入控制:基于 User-Agent 做准入与差异化策略。
企业合规
- •
GDPR / CCPA / DPA 就绪。
- •
SOC 2 Type II、ISO 27001(符合要求)。
- •
等保三级、信创(鲲鹏 / 海光)就绪。
- •
SSO/SCIM:SAML、OIDC、飞书、钉钉。
审计与计费正确性
- •
请求级审计日志,可导出接入内部运维与计费系统。
- •
Crash-safe 计费:预扣 → 结算 → 退款,进程崩溃下计费仍正确,有 in-flight 账本与请求级审计。
- •
Management API 可程序化管理配额、预算、用量与成本。