FortgeschrittenPlattform / KI-Engineering

Transparenz und Zuordnung der Token-Nutzung: Wissen, was jeder Agent ausgibt

Schlüsseln Sie jeden Aufruf nach Zugriffsschlüssel, Key-Gruppe und Modell auf — Eingabe-, Ausgabe- und Cache-Treffer-Token getrennt in 1-Minuten-Auflösung gemessen, sodass „wer verbrennt Geld“ keine Vermutung mehr ist.

Worüber die Community tatsächlich klagt

Ein klassisches Agenten-Zeitalter-Problem: ein API-Schlüssel, geteilt über ein Dutzend Tools, Agenten und Teammitglieder, und die Monatsrechnung ist eine einzelne Zahl. Fragen Sie „welcher Agent verbrennt Geld“ oder „welches Modell hat 80 % der Ausgaben gefressen“, und Sie stecken beim Exportieren von Rohprotokollen und manuellen Zusammensetzen fest.

Geteilte Schlüssel machen Nutzung und Kosten nicht zuordenbar, sodass Budgetüberprüfungen und interne Abrechnung nie stattfinden.

Wie GateLLM es macht

GateLLM ordnet Nutzung und Kosten jedes Aufrufs zerlegbaren Dimensionen zu: Die Statistikseite gruppiert nach Modell, Zugriffsschlüssel und Key-Gruppe, misst Eingabe-/Ausgabe-/Cache-Treffer-Token getrennt und persistiert in 1-Minuten-Auflösung.

Die Abrechnungsseite teilt die Monatskosten nach Zugriffsschlüssel auf und erweitert sie bis zur Detailansicht pro Modell; der Excel-Export erzeugt 6 Blätter einschließlich Zugriffsschlüssel × Modell.

5 Hebel, die tatsächlich wirken

  • Gruppierung nach Modell / access_key / access_key_group, bis zur Detailansicht erweiterbar
  • Eingabe-, Ausgabe- und Cache-Treffer-Token getrennt gemessen, mit Latenz und Erfolgsrate
  • 1-Minuten-Persistenz; 24 h / 7 T / 30 T / benutzerdefinierte Bereiche mit automatisch granulierten Zeitreihen
  • Monatskosten nach Zugriffsschlüssel aufgeschlüsselt, bis pro Modell erweiterbar, mit Summen
  • Excel-Export mit 6 Blättern: Modell / Zugriffsschlüssel / Key-Gruppe / Schlüssel × Modell / Tag / Woche
Vollständige Anleitung: Statistiken und Nutzung (Dokumentation)

FAQ