Token FinOps: haga que el gasto en IA sea asignable y detenible
Una tarifa propia convierte los tokens en costo real, las etiquetas imputan el gasto a los centros de costos y las cuotas diarias y mensuales convierten los presupuestos en barreras que bloquean solicitudes.
De qué se queja realmente la comunidad
El precio de lista del proveedor no es su costo negociado real: los precios con descuento y privados no tienen dónde registrarse, así que los informes de costos son ficción; cuando un modelo baja su precio a mitad de ciclo, los meses históricos se contaminan con el historial repercutido.
La refacturación es un ejercicio manual con CSV, y el sobregasto solo se descubre a posteriori.
Cómo lo hace GateLLM
GateLLM le da una tarifa propia: un precio privado introducido a mano (fijado) pasa a ser la referencia y las actualizaciones del sistema nunca lo sobrescriben. Cada precio es una captura que entra en vigor por ventana temporal: rellene el historial o programe una bajada de precio sin reescribir retroactivamente el costo.
Las etiquetas agrupan claves y grupos de claves en centros de costos, y las cuotas diarias y mensuales se heredan de clave → grupo → global, evaluadas de forma independiente por día y mes calendario UTC, bloqueando en el momento en que cualquiera se supere.
5 palancas que realmente funcionan
- Tarifa propia: el precio privado fijado prevalece sobre el automático y las actualizaciones nunca lo sobrescriben
- Las capturas de precios cubren [su tiempo, siguiente tiempo); rellenan el historial o programan el futuro
- Tres modos de facturación: por token, por llamada y por segundo (transcripción, generación de video)
- Etiquete claves y grupos de claves y agregue uso y costo por etiqueta
- Cuotas de costo diarias y mensuales: herencia de tres niveles + toma del máximo, 429 quota_exceeded al superarse