Token FinOps : rendre les dépenses IA imputables et interruptibles
Une grille tarifaire propre transforme les tokens en coût réel, les étiquettes imputent les dépenses aux centres de coûts, et les quotas de coût quotidiens / mensuels transforment les budgets en verrous bloquant les requêtes.
Ce dont la communauté se plaint réellement
Le prix catalogue du fournisseur n’est pas votre coût négocié réel — les prix remisés et privés n’ont nulle part où être consignés, donc les rapports de coûts sont une fiction ; lorsqu’un modèle baisse son prix en cours de cycle, les mois historiques sont pollués par l’historique retarifé.
La refacturation est un exercice manuel sur CSV, et le dépassement n’est découvert qu’après coup.
Comment GateLLM procède
GateLLM vous donne une grille tarifaire propre : un prix privé saisi à la main (épinglé) fait autorité et les actualisations du système ne l’écrasent jamais. Chaque prix est un instantané qui prend effet par fenêtre temporelle — remplissez l’historique ou planifiez une baisse de prix, sans réécrire rétroactivement le coût.
Les étiquettes regroupent clés / groupes de clés en centres de coûts, et les quotas de coût quotidiens / mensuels héritent de clé → groupe → global, évalués indépendamment sur le jour et le mois calendaires UTC, bloquant dès que l’un ou l’autre est atteint.
5 leviers qui portent réellement
- Grille tarifaire propre : le prix privé épinglé prime sur l’automatique, les actualisations ne l’écrasent jamais
- Les instantanés de prix couvrent [date propre, date suivante), remplissage de l’historique / planification future
- Trois modes de facturation : au token, par appel et par seconde (transcription, génération vidéo)
- Étiquetez les clés / groupes de clés et agrégez usage et coût par étiquette
- Quotas de coût quotidiens / mensuels : héritage à trois niveaux + repli sur le maximum, 429 quota_exceeded à l’atteinte