Fehlerbehebung nach Symptom: z-request-id lokalisiert 401 / 502 / abgebrochene Streams
Verfolgen Sie 401 / 403 / 404 / 502 / 503 / Timeout / abgebrochenen Stream / OOM Ende-zu-Ende per z-request-id — kein Raten mehr.
Worüber die Community tatsächlich klagt
Häufige StackOverflow-Fragen: „Streaming-Antwort wurde nach dem Proxy zu einem Klumpen“, „Tool-Calling-JSON lässt sich nicht zusammensetzen“, „ist dieses 429 ein Ratenlimit oder ein überschrittenes Kontingent“, „ist dieses 502 das Gateway oder der Anbieter“.
Fehlerbehebung bei KI-Aufrufen ist schwierig: Multi-Hop-Pfade, Streaming, inkonsistente Fehlercodes — wenn etwas bricht, wissen Sie nicht, welcher Hop.
Wie GateLLM es macht
GateLLM vergibt jeder Anfrage eine z-request-id, die sich durch das gesamte Log zieht, sodass Sie nach Symptom lokalisieren: 401 / 403 → Auth und Header ACL; 404 → Routing; 502 / 503 → Upstream-Zustand; Timeout → Ratenlimit und Ozean-übergreifend; abgebrochener Stream → Pufferung und SSE; OOM → Konfiguration.
Fehlercodes werden normalisiert (anbieterübergreifende Fehlersemantik vereinheitlicht), Streaming läuft nativ ohne Pufferung durch, und Token-Ops-Logs sind abfragbar und exportierbar.
5 Hebel, die tatsächlich wirken
- z-request-id zieht sich durch das gesamte Log — Lokalisierung per ID in einem Schritt
- Triage nach Symptom: 401 / 403 / 404 / 502 / 503 / Timeout / abgebrochener Stream / OOM
- Normalisierung von Fehlercodes: anbieterübergreifende Fehlersemantik auf ein Vokabular vereinheitlicht
- Nativer Stream-Durchlauf, keine Pufferung, kein Brechen von SSE oder Tool-Aufrufen
- Token-Ops-Logs abfragbar und exportierbar, an Fehlerbehebung und Abstimmung angebunden