Compliance und Audit: selbst gehostet, Redaktion, Logging, Aufbewahrung
Anfrage- und Antwort-Logging (standardmäßig aus), deterministische Secret- und PII-Erkennung auf dem Anfragepfad, Log-Inhalte an jeder Ausgangsfläche redigiert, Login- und Berechtigungsaudit, Aufbewahrung und Löschung — Daten verlassen Ihr Netzwerk nie; ausgerichtet an SOC-2-Kontrollen (Zertifizierung in Vorbereitung), DSGVO-ready.
Worüber die Community tatsächlich klagt
Zhihu und Reddit: „Finanz-/Gesundheits-/Regierungsdaten dürfen das Land nicht verlassen“, „das Aufrufen eines LLM erfordert eine Algorithmusregistrierung“, „wie redigiere ich PII“, „wie führe ich Audit-Logs“.
Ein SaaS-Gateway leitet Anfragen über seine eigenen Server, sodass Compliance-Audits schwierig sind; Relays bringen Risiken von Datenexfiltration und Weiterverkauf.
Wie GateLLM es macht
GateLLM wird vollständig in Ihrem Netzwerk bereitgestellt — Daten verlassen es nie, was Datenexport-Compliance erfüllt. Anfrage- und Antwort-Logs sind standardmäßig aus und für Audits exportierbar; deterministische Secret- und PII-Erkennung läuft auf dem Anfragepfad, mit Log, Maskieren (umkehrbar) oder Blockieren je Geltungsbereich; gespeicherte Log-Inhalte werden an jeder Ausgangsfläche redigiert, und Rohfreigabe ist nur für Administratoren und auditiert; Login- und Berechtigungsaudit (SSO über OIDC / SAML 2.0); Aufbewahrung und Löschung sind konfigurierbar.
BYOK-Schlüssel liegen im Speicher, nie auf der Festplatte. DSGVO-ready; ausgerichtet an SOC-2-Type-II-/ISO-27001-Kontrollen (Zertifizierung in Vorbereitung).
5 Hebel, die tatsächlich wirken
- Anfrage- und Antwort-Logging (standardmäßig aus), exportierbar in Audit-Systeme, Inhalte an jeder Ausgangsfläche redigiert
- Deterministische Secret- und PII-Erkennung auf dem Anfragepfad — Log, Maskieren (umkehrbar) oder Blockieren, je Geltungsbereich
- Login- und Berechtigungsaudit (SSO über OIDC / SAML 2.0)
- Konfigurierbare Aufbewahrungs- und Löschrichtlinie
- Vollständig selbst gehostet: Daten verlassen das Netzwerk nie, Schlüssel nur im Speicher