Соответствие требованиям и аудит: self-hosted, редактирование, логирование, хранение
Логирование запросов и ответов (выключено по умолчанию), детерминированное обнаружение секретов и PII на пути запроса, редактирование тел логов на каждой исходящей поверхности, аудит входов и разрешений, хранение и удаление — данные никогда не покидают вашу сеть; соответствие контролам SOC 2 (сертификация в процессе), готовность к GDPR.
На что на самом деле жалуется сообщество
Zhihu и Reddit: «данные финансов / здравоохранения / госсектора не могут покидать страну», «для вызова LLM нужна регистрация алгоритма», «как редактировать PII», «как сохранять журналы аудита».
SaaS-шлюз проводит запросы через свои серверы, поэтому аудит соответствия затруднён; релеи добавляют риск утечки и перепродажи данных.
Как это делает GateLLM
GateLLM развёртывается полностью внутри вашей сети — данные никогда не покидают её, что удовлетворяет требованиям экспорта данных. Логи запросов и ответов выключены по умолчанию и экспортируются для аудита; детерминированное обнаружение секретов и PII работает на пути запроса с выбором log, mask (с обратимостью) или block по области; сохранённые тела логов редактируются на каждой исходящей поверхности, а необработанный просмотр доступен только администратору и аудируется; аудит входов и разрешений (SSO через OIDC / SAML 2.0); хранение и удаление настраиваются.
Ключи BYOK живут в памяти, никогда на диске. Готовность к GDPR; соответствие контролам SOC 2 Type II / ISO 27001 (сертификация в процессе).
5 рычагов, которые действительно работают
- Логирование запросов и ответов (выключено по умолчанию) с экспортом в системы аудита, тела редактируются на каждой исходящей поверхности
- Детерминированное обнаружение секретов и PII на пути запроса — log, mask (с обратимостью) или block, по области
- Аудит входов и разрешений (SSO через OIDC / SAML 2.0)
- Настраиваемая политика хранения и удаления
- Полностью self-hosted: данные никогда не покидают сеть, ключи только в памяти