Visibilidade e atribuição do uso de tokens: saiba quanto cada agente gasta
Detalhe cada chamada por chave de acesso, grupo de chaves e modelo — tokens de entrada, saída e acerto de cache medidos separadamente em granularidade de 1 minuto, para que "quem está queimando dinheiro" deixe de ser um palpite.
Do que a comunidade realmente reclama
Um dilema clássico da era dos agentes: uma chave de API compartilhada por uma dúzia de ferramentas, agentes e colegas, e a fatura do fim do mês é um número único. Pergunte "qual agente está queimando dinheiro" ou "qual modelo consumiu 80% do gasto" e você fica preso exportando logs brutos e costurando-os à mão.
Chaves compartilhadas tornam uso e custo não atribuíveis, então revisões de orçamento e cobrança interna nunca acontecem.
Como o GateLLM faz isso
O GateLLM coloca o uso e o custo de cada chamada em dimensões decomponíveis: a página de estatísticas agrupa por modelo, chave de acesso e grupo de chaves, mede tokens de entrada / saída / acerto de cache separadamente e persiste em granularidade de 1 minuto.
A página de cobrança divide o custo mensal por chave de acesso e expande até o detalhe por modelo; a exportação Excel gera 6 planilhas, incluindo chave de acesso × modelo.
5 alavancas que realmente funcionam
- Agrupe por modelo / access_key / access_key_group, expansível até o detalhe
- Tokens de entrada, saída e acerto de cache medidos separadamente, com latência e taxa de sucesso
- Persistência de 1 minuto; intervalos de 24h / 7d / 30d / personalizados com séries temporais de granularidade automática
- Custo mensal dividido por chave de acesso, expansível por modelo, com totais
- Exportação Excel com 6 planilhas: modelo / chave de acesso / grupo de chaves / chave × modelo / dia / semana