# Enterprise-KI-Governance: die vier Fragen eines CIO - GateLLM

> Wer nutzt welches Modell, was kostet es und wer zahlt, sind Daten aus dem Netz gegangen, und wie viel Code kostet ein Anbieterwechsel? Vier Führungsfragen, beantwortet mit ausgelieferten Mechanismen.

Kanonisch: https://www.gatellm.io/de/enterprise-ai-governance/

## Enterprise-KI-Governance: die vier Fragen eines CIO

Jede Managementprüfung von KI-Ausgaben mündet in vier Fragen. Jede Antwort hier verweist auf einen ausgelieferten, überprüfbaren Mechanismus – nicht auf eine Roadmap.

Modellzugriff zu gewähren ist einfach, ihn zu steuern nicht. Die vier Fragen unten entscheiden, ob ein KI-Programm sein erstes Audit übersteht.

## Wer nutzt welches Modell und wie viel?

Jede Anfrage trägt einen Schlüssel, eine Schlüsselgruppe und ein Modell. GateLLM zeichnet Input-, Output- und Cache-Treffer-Token je Anfrage in Minutenauflösung auf und liefert Tages- und Monatsreihen je Schlüssel, Gruppe und Modell. Welche Clients überhaupt verbinden dürfen, entscheidet die Zulassung anhand des Anfrage-Headers.

- Nutzung und Kosten lassen sich nach Person, Schlüssel, Schlüsselgruppe und Modell aufteilen.
- Client-Zulassung steuert per User-Agent über globale, Gruppen- und Schlüsselbereiche.
- Anfragebezogene Datensätze erlauben die Ende-zu-Ende-Verfolgung eines Aufrufs.

- [Token-Nutzung: Transparenz & Zuordnung](https://www.gatellm.io/de/use-cases/token-ops.md)
- [Zugangskontrolle für verbundene Clients](https://www.gatellm.io/de/use-cases/client-admission-control.md)

## Was kostet es und wer zahlt?

Ausgaben werden gegen eine Rate Card gemessen, die Ihnen gehört, nicht gegen Listenpreise. Fixieren Sie ausgehandelte Preise, taggen Sie Aufrufe für die Umlage, exportieren Sie Berichte je Zeitfenster und setzen Sie Tages- oder Monatsquoten, die Anfragen bei erschöpftem Budget ablehnen. GateLLM erhebt keinen Token-Aufschlag auf Anbieterpreise.

- Zeitfenster-Snapshots der Rate Card halten alte Berichte reproduzierbar.
- Tag-basierte Umlage macht KI-Ausgaben zu einem zuordenbaren Ledger.
- Tages- und Monatsquoten liefern 429 bei Erreichen der Grenze – ein außer Kontrolle geratener Agent stoppt bei Ihrer Zahl.

- [Token-FinOps: KI-Kosten zuordnen & steuern](https://www.gatellm.io/de/use-cases/token-finops.md)
- [Kostenrechner](https://www.gatellm.io/de/calculator.md)
- [Berechnung des Kostenvergleichs](https://www.gatellm.io/de/methodology.md)

## Sind Daten aus dem Netz gegangen, und können wir das belegen?

Sie betreiben das Gateway, daher läuft Prompt- und Antwortverkehr nie über uns. Unter BYOK liegen Anbieterschlüssel nur im Gateway-Speicher. Anmeldedaten und PII werden im Anfragepfad erkannt und können je Bereich protokolliert, maskiert oder blockiert werden; gespeicherte Log-Inhalte sind an jedem Ausgangspunkt maskiert.

- Anfragen gehen nur an die konfigurierten Modellendpunkte – auch selbst gehostete vLLM- oder Ollama-Upstreams.
- Anfrage-Logs sind standardmäßig aus; Rohinhalte sehen nur Admins, auditiert.
- SSO über OIDC oder SAML plus SCIM-Bereitstellung; Schlüssel und Quotas je Mandant.

- [Compliance & Audit](https://www.gatellm.io/de/use-cases/compliance-audit.md)
- [Sicherheit & Compliance](https://www.gatellm.io/de/security.md)
- [Sicherheitsfragebogen (CAIQ/SIG/VSA)](https://www.gatellm.io/trust.md)
- [KI im Office selbst hosten](https://www.gatellm.io/de/use-cases/self-hosted-office-ai.md)

## Wenn ein Anbieter ausfällt oder wir Modelle wechseln – wie viel Code ändert sich?

Bei 5xx oder Timeout wird ohne Änderung am Anwendungscode ein anderer Anbieter versucht. Vier Chat-Protokollfamilien übersetzen in beide Richtungen, sodass ein Client sein SDK behält. Modellidentität wird im Gateway zugeordnet – per Zugriffsschlüssel, per Header oder über eine Catch-all-Regel – und Fähigkeitsmetadaten kommen aus einer Registry.

- Anbieterübergreifender Fallback bei 5xx oder Timeout, ohne Client-Änderung.
- Ingress-Allowlists und Catch-all-Zuordnungen halten einen Modellnamen stabil, während das Backend wechselt.
- Fähigkeitsmetadaten kommen aus einer Registry – Modell-Drift braucht kein Release.

- [Hochverfügbarkeit](https://www.gatellm.io/de/use-cases/high-availability.md)
- [Ein Protokoll, jedes Modell](https://www.gatellm.io/de/use-cases/one-protocol-any-model.md)
- [Modellrichtlinie durchsetzen](https://www.gatellm.io/de/use-cases/enforce-model-policy.md)

## FAQ

### Brauchen wir ein Gateway, um diese vier Fragen zu beantworten?

Nicht zwingend. Ein kleines Team mit einem Anbieter beantwortet zwei davon aus Anbieter-Dashboards. Die anderen zwei – ein anfragebezogener Datenpfad unter Ihrer Kontrolle und codefreier Fallback über Anbieter hinweg – erzwingen meist eine selbst gehostete Komponente.

### Heißt „Daten verlassen das Netz nie“, dass nichts zu einem Anbieter geht?

Nein. Ihre Prompts gehen weiterhin an die von Ihnen gewählten Modellendpunkte. Das Gateway betreibt kein Relay: Der Verkehr geht aus Ihrem Netz zu diesen Endpunkten, unter Ihren Anbieterverträgen.

### Können wir mit einem Team starten und später erweitern?

Ja. Schlüssel, Schlüsselgruppen und Quotas sind additiv, Modellkatalog und Routingregeln bleiben geteilt – ein neues Team braucht kein neues Deployment.

## Verwandtes

- [Was ist ein LLM-Gateway?](https://www.gatellm.io/de/llm-gateway.md)
- [Berechnung des Kostenvergleichs](https://www.gatellm.io/de/methodology.md)
- [Modellkatalog](https://www.gatellm.io/de/models.md)
- [AI-Gateways vergleichen](https://www.gatellm.io/de/compare.md)

## Verwandt
- [Startseite](https://www.gatellm.io/de/index.md)
- [Preise](https://www.gatellm.io/de/pricing.md)
- [Kostenrechner](https://www.gatellm.io/de/calculator.md)
- [Über uns](https://www.gatellm.io/de/about.md)
- [Demo buchen](https://www.gatellm.io/de/demo.md)
- [FAQ](https://www.gatellm.io/de/faq.md)
- [AI-Gateways vergleichen](https://www.gatellm.io/de/compare.md)
- [LiteLLM vergleichen](https://www.gatellm.io/de/compare/litellm.md)
- [OpenRouter vergleichen](https://www.gatellm.io/de/compare/openrouter.md)
- [Alibaba Cloud AI Gateway vergleichen](https://www.gatellm.io/de/compare/alibaba-cloud.md)
- [Azure API Management vergleichen](https://www.gatellm.io/de/compare/azure-apim.md)
- [Apigee vergleichen](https://www.gatellm.io/de/compare/apigee.md)
- [Cloudflare AI Gateway vergleichen](https://www.gatellm.io/de/compare/cloudflare.md)
- [Kong AI Gateway vergleichen](https://www.gatellm.io/de/compare/kong.md)
- [Portkey vergleichen](https://www.gatellm.io/de/compare/portkey.md)
- [Alternative zu Microsoft 365 Copilot](https://www.gatellm.io/de/compare/copilot.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/de/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/de/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/de/compare/litellm-vs-portkey.md)
- [Anwendungsfälle](https://www.gatellm.io/de/use-cases.md)
- [LLM-Kosten senken](https://www.gatellm.io/de/use-cases/reduce-cost.md)
- [Hochverfügbarkeit](https://www.gatellm.io/de/use-cases/high-availability.md)
- [Multi-Tenant-Isolation](https://www.gatellm.io/de/use-cases/multi-tenant.md)
- [Compliance & Audit](https://www.gatellm.io/de/use-cases/compliance-audit.md)
- [Fehlerbehebung nach Symptom](https://www.gatellm.io/de/use-cases/troubleshooting.md)
- [Gemischter Multi-Vendor-Modellstack](https://www.gatellm.io/de/use-cases/mixed-model-stack.md)
- [KI im Office selbst hosten](https://www.gatellm.io/de/use-cases/self-hosted-office-ai.md)
- [Token-Nutzung: Transparenz & Zuordnung](https://www.gatellm.io/de/use-cases/token-ops.md)
- [Token-FinOps: KI-Kosten zuordnen & steuern](https://www.gatellm.io/de/use-cases/token-finops.md)
- [MCP-Tool-Governance](https://www.gatellm.io/de/use-cases/mcp-tool-governance.md)
- [Websuche für jedes Modell](https://www.gatellm.io/de/use-cases/web-search-grounding.md)
- [Multi-Key-Rotation & Standby](https://www.gatellm.io/de/use-cases/multi-key-pooling.md)
- [Zugangskontrolle für verbundene Clients](https://www.gatellm.io/de/use-cases/client-admission-control.md)
- [Modellrichtlinie durchsetzen](https://www.gatellm.io/de/use-cases/enforce-model-policy.md)
- [Keine Modellwahl im Client](https://www.gatellm.io/de/use-cases/automatic-model-tiering.md)
- [Ein Protokoll, jedes Modell](https://www.gatellm.io/de/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 Add-in](https://www.gatellm.io/de/office-addin.md)
- [Glossar](https://www.gatellm.io/de/glossary.md)
- [Was ist ein LLM-Gateway?](https://www.gatellm.io/de/llm-gateway.md)
- [Berechnung des Kostenvergleichs](https://www.gatellm.io/de/methodology.md)
- [Modellkatalog](https://www.gatellm.io/de/models.md)
- [SDK- & Framework-Integrationen](https://www.gatellm.io/de/integrations.md)
- [KI-Coding-Agents & Harnesses](https://www.gatellm.io/de/coding-agents.md)
- [Sicherheit & Compliance](https://www.gatellm.io/de/security.md)