# Gemischter Multi-Anbieter-Modellstack: Opus plant, Qwen / DeepSeek führen aus

> KI-Gateway mischt Multi-Anbieter-Modelle je Agentenrolle: Planung auf Claude Opus, Routineausführung auf Qwen3.8-Max / DeepSeek V4.1 Flash, identitätsbezogene Modellzuordnung + protokollübergreifende Übersetzung, ohne Client-Änderung.

Kanonisch: https://www.gatellm.io/de/use-cases/mixed-model-stack/

Pinnen Sie Topmodelle verschiedener Anbieter je Agentenrolle — Planung behält Anthropic Opus, Ausführung landet auf Qwen3.8-Max / DeepSeek V4.1 Flash, ohne Client-Änderung und mit automatischer protokollübergreifender Übersetzung.

## Worüber die Community tatsächlich klagt
Claude Code durchgängig auf Claude Opus zu betreiben ist zu teuer; ein pauschaler Wechsel zu Sonnet verschlechtert Planung und Architektururteil sichtbar, und Nacharbeit wird teurer. Entwickler möchten Topmodelle anderer Anbieter (Qwen, DeepSeek) mischen, aber der Client spricht nur das Anthropic-Protokoll und claude-*-Modellnamen, und eine Konfigurationsänderung bedeutet, jede Entwicklermaschine anzufassen.
Schlimmer noch: Die Planungsschleife, die Hauptausführungsschleife und Batch-Teilaufgaben haben wirklich unterschiedliche Anforderungen an Leistungsfähigkeit vs. Preis — ein einzelner Modellwechsel beim Client kann das nicht abbilden.

## Wie GateLLM es macht
GateLLM schreibt den Modellnamen identitätsbezogen nach dem Ingress-Gate und vor dem Routing um — ohne Client-Änderung. Planung und Architektururteil behalten claude-opus-5 direkt zu Anthropic; die Hauptausführungsschleife claude-sonnet-* wird auf DashScopes qwen3.8-max abgebildet; Batch-Teilaufgaben (Formatierung, Commit-Nachrichten, Retrieval-Zusammenfassungen) werden über einen OpenAI-kompatiblen Upstream auf deepseek-flash abgebildet. Die protokollübergreifende Übersetzung übernimmt das Gateway, wobei SSE-Streams und tool_call_id auf dem Hin- und Rückweg erhalten bleiben.
Regeln hängen an Zugriffsschlüsseln oder Key-Gruppen und wirken pro Team; das Egress-Gate prüft, ob das Ziel in der Allowlist der Identität liegt — eine Zuordnung zu konfigurieren ist keine Berechtigungserteilung.

## 5 Hebel, die tatsächlich wirken
- Identitätsbezogene Modellzuordnung: von → auf bei Zugriffsschlüsseln / Key-Gruppen, umgeschrieben nach Ingress und vor Routing; unterstützt ein einzelnes * zum Erfassen eines mittleren Segments, hot-reloaded
- Protokollübergreifende Übersetzung: Claude Code auf Anthropic, Codex / OpenAI SDK auf OpenAI, das Gateway übersetzt zu DashScope-/OpenAI-/Gemini-/Bedrock-Upstreams; :keep-alive bei langer Upstream-Inferenz, _gateway_warning bei Stream-Abbruch
- Bedingtes Routing nach Anfrage-Header: dasselbe von routet je nach X-Tenant usw. zu unterschiedlichen Zielen (exakt / Präfix / Regex / vorhanden / abwesend); bedingte Regeln zuerst, unbedingtes Fallback, First-Match-Wins — nutzbar für Canary
- Plan-Modus-Erkennung: Der Plan-Modus von Claude Code injiziert Marker „Plan mode is active“ / „Exited Plan Mode“; ein Skript, das die letzte Position vergleicht, wechselt das Routing — Planung auf Opus, Ausführung auf dem kosteneffizienten Modell
- Berechtigung und Transparenz: Das Egress-Gate prüft, ob das Ziel in der Identitäts-Allowlist liegt (Zuordnung ≠ Berechtigung); die Log-Spalte „Modell“ zeigt ein MM-Tag mit dem ursprünglichen → zugeordneten Namen beim Hovern; Statistiken und Abrechnung ordnen nach dem realen Modellnamen nach der Zuordnung zu, sodass die Kosten des gemischten Stacks auf einen Blick vergleichbar sind

## FAQ
### Muss ich die Client-Konfiguration ändern?
Richten Sie nur ANTHROPIC_BASE_URL auf das Gateway und tauschen Sie ANTHROPIC_API_KEY gegen einen Gateway-Zugriffsschlüssel; das Umschreiben der Modellnamen erfolgt am Gateway, sodass keine Konfigurationsänderungen pro Maschine nötig sind. Beachten Sie, dass /v1/models die Quellnamen der Zuordnung nicht widerspiegelt — Sie sehen sie nicht im Dropdown, aber der Client kann diesen Namen direkt anfragen; das ist erwartet.

### Wie beweise ich, dass der gemischte Stack tatsächlich günstiger ist?
Abrechnung und Statistiken erfassen den Zielmodellnamen nach der Zuordnung und sind nach Modell / Schlüssel / Mandant abrechenbar. Leiten Sie zuerst einen Teil der Anfragen über eine Anfrage-Header-Bedingung um, vergleichen Sie Kosten und Nacharbeitsrate im selben Zeitfenster und erweitern Sie dann den Anteil — das Egress-Gate hält Ziele in der Allowlist, sodass der Canary sicher ist.

- [Vollständige Anleitung: Identitätsbezogene Modellzuordnung konfigurieren (Dokumentation)](https://docs.gatellm.io/en/howto/configure-identity-model-mapping)

## Verwandte Anwendungsfälle
- [Ein Protokoll erreicht auch den Rest des gemischten Modell-Stacks](https://www.gatellm.io/de/use-cases/one-protocol-any-model.md)

## Verwandt
- [Startseite](https://www.gatellm.io/de/index.md)
- [Preise](https://www.gatellm.io/de/pricing.md)
- [Kostenrechner](https://www.gatellm.io/de/calculator.md)
- [Über uns](https://www.gatellm.io/de/about.md)
- [Demo buchen](https://www.gatellm.io/de/demo.md)
- [FAQ](https://www.gatellm.io/de/faq.md)
- [AI-Gateways vergleichen](https://www.gatellm.io/de/compare.md)
- [LiteLLM vergleichen](https://www.gatellm.io/de/compare/litellm.md)
- [OpenRouter vergleichen](https://www.gatellm.io/de/compare/openrouter.md)
- [Alibaba Cloud AI Gateway vergleichen](https://www.gatellm.io/de/compare/alibaba-cloud.md)
- [Azure API Management vergleichen](https://www.gatellm.io/de/compare/azure-apim.md)
- [Apigee vergleichen](https://www.gatellm.io/de/compare/apigee.md)
- [Cloudflare AI Gateway vergleichen](https://www.gatellm.io/de/compare/cloudflare.md)
- [Kong AI Gateway vergleichen](https://www.gatellm.io/de/compare/kong.md)
- [Portkey vergleichen](https://www.gatellm.io/de/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/de/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/de/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/de/compare/litellm-vs-portkey.md)
- [Anwendungsfälle](https://www.gatellm.io/de/use-cases.md)
- [LLM-Kosten senken](https://www.gatellm.io/de/use-cases/reduce-cost.md)
- [Hochverfügbarkeit](https://www.gatellm.io/de/use-cases/high-availability.md)
- [Multi-Tenant-Isolation](https://www.gatellm.io/de/use-cases/multi-tenant.md)
- [Compliance & Audit](https://www.gatellm.io/de/use-cases/compliance-audit.md)
- [Fehlerbehebung nach Symptom](https://www.gatellm.io/de/use-cases/troubleshooting.md)
- [KI im Office selbst hosten](https://www.gatellm.io/de/use-cases/self-hosted-office-ai.md)
- [Token-Nutzung: Transparenz & Zuordnung](https://www.gatellm.io/de/use-cases/token-ops.md)
- [Token-FinOps: KI-Kosten zuordnen & steuern](https://www.gatellm.io/de/use-cases/token-finops.md)
- [MCP-Tool-Governance](https://www.gatellm.io/de/use-cases/mcp-tool-governance.md)
- [Websuche für jedes Modell](https://www.gatellm.io/de/use-cases/web-search-grounding.md)
- [Multi-Key-Rotation & Standby](https://www.gatellm.io/de/use-cases/multi-key-pooling.md)
- [Zugangskontrolle für verbundene Clients](https://www.gatellm.io/de/use-cases/client-admission-control.md)
- [Modellrichtlinie durchsetzen](https://www.gatellm.io/de/use-cases/enforce-model-policy.md)
- [Keine Modellwahl im Client](https://www.gatellm.io/de/use-cases/automatic-model-tiering.md)
- [Ein Protokoll, jedes Modell](https://www.gatellm.io/de/use-cases/one-protocol-any-model.md)
- [Office / Microsoft 365 Add-in](https://www.gatellm.io/de/office-addin.md)
- [Glossar](https://www.gatellm.io/de/glossary.md)
- [Modellkatalog](https://www.gatellm.io/de/models.md)
- [SDK- & Framework-Integrationen](https://www.gatellm.io/de/integrations.md)
- [KI-Coding-Agents & Harnesses](https://www.gatellm.io/de/coding-agents.md)
- [Sicherheit & Compliance](https://www.gatellm.io/de/security.md)
