Visibilidad y atribución del uso de tokens: sepa cuánto gasta cada agente
Desglose cada llamada por clave de acceso, grupo de claves y modelo: tokens de entrada, salida y acierto de caché medidos por separado con granularidad de 1 minuto, para que "quién quema el dinero" deje de ser una conjetura.
De qué se queja realmente la comunidad
Un aprieto clásico de la era de los agentes: una sola clave de API compartida por una docena de herramientas, agentes y compañeros, y la factura de fin de mes es un único número. Pregunte "qué agente está quemando dinero" o "qué modelo se comió el 80% del gasto" y se quedará exportando logs crudos y uniéndolos a mano.
Las claves compartidas hacen que el uso y el costo no sean atribuibles, así que las revisiones de presupuesto y la facturación interna nunca ocurren.
Cómo lo hace GateLLM
GateLLM imputa el uso y el costo de cada llamada a dimensiones descomponibles: la página de estadísticas agrupa por modelo, clave de acceso y grupo de claves, mide por separado los tokens de entrada, salida y acierto de caché y persiste con granularidad de 1 minuto.
La página de facturación divide el costo mensual por clave de acceso y se expande al detalle por modelo; la exportación a Excel genera 6 hojas, incluida clave de acceso × modelo.
5 palancas que realmente funcionan
- Agrupar por modelo / access_key / access_key_group, ampliable al detalle
- Tokens de entrada, salida y acierto de caché medidos por separado, con latencia y tasa de éxito
- Persistencia de 1 minuto; rangos de 24 h / 7 d / 30 d / personalizados con series temporales de granularidad automática
- Costo mensual desglosado por clave de acceso, ampliable por modelo y con totales
- Exportación a Excel con 6 hojas: modelo / clave de acceso / grupo de claves / clave × modelo / día / semana