Cumplimiento y auditoría: autoalojado, anonimización, logs y retención
Registro de solicitudes y respuestas (desactivado por defecto), detección determinista de secretos y PII en la ruta de la solicitud, cuerpos de log anonimizados en cada superficie de salida, auditoría de inicios de sesión y permisos, retención y eliminación: los datos nunca salen de su red; controles alineados con SOC 2 (certificación en preparación) y listo para RGPD.
De qué se queja realmente la comunidad
Zhihu y Reddit: "los datos de finanzas, salud o gobierno no pueden salir del país", "llamar a un LLM requiere un registro de algoritmos", "cómo anonimizo la PII", "cómo conservo registros de auditoría".
Un gateway SaaS enruta las solicitudes por sus propios servidores, así que las auditorías de cumplimiento son difíciles; los relés añaden riesgo de exfiltración y reventa de datos.
Cómo lo hace GateLLM
GateLLM se despliega por completo dentro de su red: los datos nunca salen, lo que cumple con la normativa de exportación de datos. Los registros de solicitudes y respuestas están desactivados por defecto y son exportables para auditoría; la detección determinista de secretos y PII se ejecuta en la ruta de la solicitud, con registrar, enmascarar (de forma reversible) o bloquear por ámbito; los cuerpos de log almacenados se anonimizan en cada superficie de salida y la revelación sin procesar es solo para administradores y queda auditada; auditoría de inicios de sesión y permisos (SSO mediante OIDC / SAML 2.0); la retención y la eliminación son configurables.
Las claves BYOK viven en memoria, nunca en disco. Listo para RGPD; controles alineados con SOC 2 Type II / ISO 27001 (certificación en preparación).
5 palancas que realmente funcionan
- Registro de solicitudes y respuestas (desactivado por defecto), exportable a sistemas de auditoría, con cuerpos anonimizados en cada superficie de salida
- Detección determinista de secretos y PII en la ruta de la solicitud: registrar, enmascarar (de forma reversible) o bloquear, por ámbito
- Auditoría de inicios de sesión y permisos (SSO mediante OIDC / SAML 2.0)
- Política de retención y eliminación configurable
- Totalmente autoalojado: los datos nunca salen de la red y las claves solo están en memoria