Diagnosticar por sintoma: z-request-id localiza 401 / 502 / streams quebrados
Rastreie 401 / 403 / 404 / 502 / 503 / timeout / stream quebrado / OOM por z-request-id de ponta a ponta — chega de adivinhar.
Do que a comunidade realmente reclama
Perguntas frequentes no StackOverflow: "a resposta em streaming virou um bloco único depois do proxy", "o JSON de chamada de ferramentas não monta", "este 429 é limite de taxa ou cota excedida", "este 502 é do gateway ou do fornecedor".
Diagnosticar chamadas de IA é difícil: caminhos com vários saltos, streaming, códigos de erro inconsistentes — quando algo quebra, você não sabe qual salto falhou.
Como o GateLLM faz isso
O GateLLM atribui a cada requisição um z-request-id que percorre todo o log, então você localiza por sintoma: 401 / 403 → autenticação e Header ACL; 404 → roteamento; 502 / 503 → saúde do upstream; timeout → limite de taxa e transoceânico; stream quebrado → buffer e SSE; OOM → configuração.
Os códigos de erro são normalizados (semântica de erros entre fornecedores unificada), o streaming passa nativamente sem buffer, e os logs do Token Ops são consultáveis e exportáveis.
5 alavancas que realmente funcionam
- z-request-id percorre todo o log — localize pelo id em um passo
- Triagem por sintoma: 401 / 403 / 404 / 502 / 503 / timeout / stream quebrado / OOM
- Normalização de códigos de erro: semântica de erros entre fornecedores unificada em um vocabulário
- Repasse nativo de stream, sem buffer, sem quebrar SSE ou chamada de ferramentas
- Logs do Token Ops consultáveis e exportáveis, conectados ao diagnóstico e à conciliação