Безопасность и соответствие требованиям

В режиме BYOK API-ключи живут только в памяти шлюза — никогда не сохраняются и не передаются.

Запросы проходят через шлюз напрямую к API производителей; данные остаются в вашей приватной сети от начала до конца.

Сам GateLLM не хранит, не обучается на и не кеширует содержимое запросов.

TLS 1.3 от начала до конца.

Ключи только в памяти; при перезапуске внедряются из ваших секретов — никогда с диска.

Контроль допуска клиентов: фильтрация по User-Agent с дифференцированными политиками.

Готовность к GDPR / CCPA / DPA.

Соответствие контролам SOC 2 Type II / ISO 27001 (сертификация в процессе).

SSO (OIDC: Azure AD / Okta / универсальный, плюс SAML 2.0 + SCIM 2.0).

Журналы аудита уровня запросов с экспортом во внутренние системы эксплуатации и биллинга.

Безопасный для сбоев биллинг: предварительное списание → расчёт → возврат; биллинг остаётся корректным при падении процесса благодаря реестру незавершённых операций и аудиту каждого запроса.

Management API для программного управления квотами, бюджетами, использованием и стоимостью.

Сетевой уровень: процесс шлюза развёрнут в вашем VPC / локальном дата-центре; входящий и исходящий трафик контролируется настроенными вами группами безопасности / сетевыми политиками; запросы идут напрямую к официальным API нижестоящих провайдеров моделей, минуя любой релей-сервер Processor.

Уровень процесса шлюза: stateless-дизайн; ключи загружаются из зашифрованной конфигурации в память и не сохраняются; любая реплика может обслужить любой запрос, что поддерживает горизонтальное масштабирование и мгновенное переключение при отказе; при перезапуске ключи повторно внедряются из ваших секретов.

Уровень ключей: ключи BYOK производителей моделей живут только в памяти процесса шлюза, никогда не записываются в постоянное хранилище и не могут быть прочитаны открытым текстом операционным персоналом; контроль допуска клиентов фильтрует по User-Agent с дифференцированными политиками.

Уровень данных: рабочие промпты / ответы не сохраняются в системах Processor (передаются в памяти, не сохраняются); данные учётных записей и лицензий в состоянии покоя зашифрованы AES-256; политику хранения журналов аудита определяет ваша операционная команда.

Уровень биллинга: безопасный для сбоев биллинг (предварительное списание → расчёт → возврат) остаётся корректным при падении процесса благодаря реестру незавершённых операций и аудиту каждого запроса.

Опасения по поводу чрезмерного доступа к AI: GateLLM решает это полностью self-hosted развёртыванием + BYOK — ключи и промпты никогда не покидают границу вашей сети; вы полностью контролируете, какие модели использовать и к какому провайдеру маршрутизировать, без теневого AI и скрытых субпроцессоров (см. Список субпроцессоров).

Данные, используемые для обучения: Processor не соприкасается с данными промптов; обучается ли нижестоящий провайдер моделей, определяется его политикой, которую можно изучить в матрице использования данных в Списке субпроцессоров до подключения — полностью по желанию.

Трансграничное соответствие: данные учётных записей Processor передаются за границу по SCCs / IDTA; трансграничная передача нижестоящим провайдерам осуществляется вами напрямую с надлежащими гарантиями (раздел 11 DPA).

Утечка ключей: ключи живут только в памяти, никогда не сохраняются и не передаются; SSO делегирует MFA и управление сессиями вашему существующему IdP, поэтому учётные данные не фрагментируются.

Независимое тестирование на проникновение GateLLM третьей стороной готовится (объём работ и правила взаимодействия готовы), охватывая процесс шлюза, аутентификацию и авторизацию, Edge Functions, API-шлюз и пути работы с ключами; по завершении резюме будет опубликовано в разделе 7 Политики раскрытия уязвимостей.

Политика ответственного раскрытия уязвимостей: сообщайте через security@gatellm.io (поддерживается PGP), подтверждение в течение 24 часов, устранение по серьёзности CVSS (Critical 7 дней / High 30 дней / Medium 60 дней / Low 90 дней).

Предоставляется Software Bill of Materials (SBOM); зависимости регулярно проверяются на известные уязвимости, а патчи безопасности аннотируются идентификаторами CVE в списке изменений.