Diagnostiquer par symptôme : z-request-id localise les 401 / 502 / flux cassés
Tracez les 401 / 403 / 404 / 502 / 503 / expirations / flux cassés / OOM par z-request-id de bout en bout — fini les suppositions.
Ce dont la communauté se plaint réellement
Questions StackOverflow très fréquentes : « la réponse en diffusion s’est transformée en un seul bloc après le proxy », « le JSON d’appel d’outils ne s’assemble pas », « est-ce un 429 de limitation de débit ou de quota dépassé », « ce 502 vient-il de la passerelle ou du fournisseur ».
Le dépannage des appels IA est difficile : chemins multi-sauts, diffusion, codes d’erreur incohérents — quand quelque chose casse, vous ne savez pas quel saut est en cause.
Comment GateLLM procède
GateLLM attribue à chaque requête un z-request-id qui traverse tout le journal, ce qui permet de localiser par symptôme : 401 / 403 → authentification et Header ACL ; 404 → routage ; 502 / 503 → santé de l’amont ; expiration → limite de débit et transocéanique ; flux cassé → tamponnage et SSE ; OOM → configuration.
Les codes d’erreur sont normalisés (sémantique d’erreur inter-fournisseurs unifiée), la diffusion est transmise nativement sans tamponnage, et les journaux Token Ops sont interrogeables et exportables.
5 leviers qui portent réellement
- z-request-id traverse tout le journal — localisez par identifiant en une étape
- Triage par symptôme : 401 / 403 / 404 / 502 / 503 / expiration / flux cassé / OOM
- Normalisation des codes d’erreur : sémantique d’erreur inter-fournisseurs unifiée en un seul vocabulaire
- Transmission native des flux, sans tamponnage, sans casser SSE ni l’appel d’outils
- Journaux Token Ops interrogeables et exportables, reliés au dépannage et au rapprochement