上級管理者
コンプライアンスと監査:セルフホスト、秘匿化、ログ、保持
リクエスト / レスポンスのログ(既定でオフ)、リクエスト経路上の決定論的なシークレット / PII 検出、すべての出力面でのログ本文の秘匿化、ログインと権限の監査、保持と削除。データはネットワーク外に出ず、SOC 2 統制は整合(認証取得準備中)、GDPR 対応。
コミュニティが実際に不満を言っていること
知乎や Reddit:「金融 / 医療 / 政府のデータを国外に出せない」「LLM を呼ぶにはアルゴリズム届出が必要」「PII をどう秘匿化するのか」「監査ログをどう残すのか」。
SaaS ゲートウェイはリクエストを自社サーバー経由にするため、コンプライアンス監査が難しくなります。リレーはデータ持ち出しと転売のリスクも加えます。
GateLLM の実現方法
GateLLM はネットワーク内に完全にデプロイでき、データが外に出ないためデータ輸出のコンプライアンスを満たします。リクエスト / レスポンスのログは既定でオフで、監査用にエクスポートできます。リクエスト経路上で決定論的なシークレット / PII 検出を実行し、スコープごとに log、mask(可逆)、block を選べます。保存されたログ本文はすべての出力面で秘匿化され、生データの表示は管理者のみで監査対象です。ログインと権限の監査(OIDC / SAML 2.0 による SSO)、保持と削除は設定可能です。
BYOK のキーはメモリ内にあり、ディスクに残りません。GDPR 対応。SOC 2 Type II / ISO 27001 統制は整合(認証取得準備中)。
実際に効果が出る 5 つのレバー
- リクエスト / レスポンスのログ(既定でオフ)を監査システムへエクスポート可能、本文はすべての出力面で秘匿化
- リクエスト経路上の決定論的なシークレット / PII 検出。スコープごとに log、mask(可逆)、block
- ログインと権限の監査(OIDC / SAML 2.0 による SSO)
- 設定可能な保持と削除のポリシー
- 完全セルフホスト:データはネットワーク外に出ず、キーはメモリ内のみ