Gobernanza de IA empresarial: las cuatro preguntas de un CIO
Toda revisión ejecutiva del gasto en IA termina en cuatro preguntas. Cada respuesta aquí apunta a un mecanismo ya disponible y verificable, no a una hoja de ruta.
Conceder acceso a modelos es fácil; gobernarlo no lo es. Las cuatro preguntas siguientes deciden si un programa de IA supera su primera auditoría.
¿Quién usa qué modelo y cuánto?
Cada petición lleva una clave, un grupo de claves y un modelo. GateLLM registra tokens de entrada, salida y aciertos de caché por petición con resolución de un minuto, y expone series diarias y mensuales por clave, grupo y modelo. El control de admisión decide qué clientes pueden conectarse, según la cabecera de la petición.
- •El uso y el coste se desglosan por persona, clave, grupo de claves y modelo, sin reconstruir registros.
- •El control de admisión filtra por User-Agent en los ámbitos global, de grupo y de clave.
- •Los registros por petición conservan el identificador necesario para trazar una llamada de extremo a extremo.
¿Cuánto cuesta y quién paga?
El gasto se mide contra una tarifa que tú posees, no contra un precio de lista. Fija tus precios negociados, etiqueta las llamadas para repercutir, exporta informes por ventana y establece cuotas diarias o mensuales que rechazan peticiones cuando se agota un presupuesto. GateLLM no añade margen sobre los tokens.
- •Las instantáneas de tarifa por ventana mantienen reproducible un informe antiguo.
- •La repercusión por etiqueta convierte el gasto de IA en un libro asignable.
- •Las cuotas diarias y mensuales devuelven 429 al llegar al tope: un agente desbocado se detiene en la cifra que elegiste.
¿Salieron los datos de la red y podemos demostrarlo?
Tú operas la pasarela, así que el tráfico de prompts y respuestas nunca pasa por nosotros. Con BYOK, las claves de los proveedores solo viven en la memoria de la pasarela. Las credenciales y la PII se detectan en la ruta de la petición y pueden registrarse, enmascararse o bloquearse por ámbito; los cuerpos almacenados se enmascaran en cada punto de salida.
- •Las peticiones solo van a los endpoints de modelo que configures, incluidos orígenes autoalojados vLLM u Ollama.
- •Los registros de peticiones están desactivados por defecto; ver el contenido bruto es exclusivo de administradores y queda auditado.
- •SSO con OIDC o SAML más aprovisionamiento SCIM; claves y cuotas por inquilino.
Si un proveedor falla o cambiamos de modelo, ¿cuánto código cambia?
Un 5xx o un timeout se reintenta en otro proveedor sin tocar el código de la aplicación. Cuatro familias de protocolos de chat se traducen en ambos sentidos, así que un cliente conserva su SDK. La identidad del modelo se mapea en la pasarela — por clave de acceso, por cabecera o por una regla comodín — y los metadatos de capacidad vienen de un registro.
- •Respaldo entre proveedores ante 5xx o timeout, sin cambios en el cliente.
- •Las listas de admisión de entrada y los mapeos comodín mantienen estable un nombre de modelo mientras cambia el backend.
- •Los metadatos de capacidad se cargan desde un registro: la deriva de modelos no exige una release.