Token FinOps: KI-Ausgaben zuordenbar und stoppbar machen
Eine eigene Preisliste macht aus Token echte Kosten, Tags ordnen Ausgaben Kostenstellen zu, und tägliche / monatliche Kostenkontingente machen Budgets zu anfrageblockierenden Sperren.
Worüber die Community tatsächlich klagt
Der Anbieter-Listenpreis ist nicht Ihre tatsächlich ausgehandelten Kosten — rabattierte und private Preise haben keinen Ort, an dem sie erfasst werden, sodass Kostenberichte Fiktion sind; wenn ein Modell mitten im Zyklus seinen Preis senkt, werden historische Monate durch die neu bepreiste Historie verfälscht.
Chargeback ist eine manuelle CSV-Übung, und Überschreitungen werden erst im Nachhinein entdeckt.
Wie GateLLM es macht
GateLLM gibt Ihnen eine eigene Preisliste: Ein manuell eingegebener Privatpreis (gepinnt) wird maßgeblich, und Systemaktualisierungen überschreiben ihn nie. Jeder Preis ist ein Snapshot, der zeitfensterbasiert wirkt — tragen Sie Historie nach oder planen Sie eine Preissenkung im Voraus, ohne Kosten rückwirkend umzuschreiben.
Tags fassen Schlüssel / Key-Gruppen zu Kostenstellen zusammen, und tägliche / monatliche Kostenkontingente erben Schlüssel → Gruppe → global, unabhängig nach UTC-Kalendertag und -monat beurteilt, und blockieren, sobald eines erreicht ist.
5 Hebel, die tatsächlich wirken
- Eigene Preisliste: gepinnter Privatpreis überdeckt den automatischen, Aktualisierungen überschreiben nie
- Preis-Snapshots decken [eigener Zeitpunkt, nächster Zeitpunkt) ab, Historie nachtragen / Zukunft vorplanen
- Drei Abrechnungsmodi: pro Token, pro Aufruf und pro Sekunde (Transkription, Videogenerierung)
- Versehen Sie Schlüssel / Key-Gruppen mit Tags und aggregieren Sie Nutzung und Kosten nach Tag
- Tägliche / monatliche Kostenkontingente: dreistufige Vererbung + Max-Fold, 429 quota_exceeded beim Erreichen