Hable un protocolo. Ejecute cualquier modelo.
Su aplicación conserva un SDK y un formato de transmisión. El gateway traduce entre las cuatro familias de protocolos de chat y normaliza streaming, llamadas a herramientas y errores — añadir un proveedor o cambiar de modelo nunca toca el código de negocio.
De qué se queja realmente la comunidad
«Añadimos un segundo proveedor y ahora mantenemos dos rutas de SDK, dos analizadores de streaming y dos formatos de llamada a herramientas». «Claude Code solo habla Anthropic, así que no pudimos ponerlo en otro modelo». «Todo proxy que se dice compatible con OpenAI falla en algún sitio».
El costo real de un modelo es la llamada a la API más el código escrito a su alrededor. La segunda parte nunca aparece en la factura — aparece en los sprints, y se multiplica con cada proveedor que añada.
Cómo lo hace GateLLM
Cuatro familias de protocolos en ambos lados — OpenAI, Anthropic, Gemini, DashScope — traducen cualquiera a cualquiera. Un cliente solo-Anthropic (Claude Code, claude-code-action) llega a un modelo nativo de Qwen o DeepSeek sin cambiar el cliente; más allá de las cuatro familias, la matriz de interoperabilidad cubre 15 formas de protocolo ascendente adicionales.
Una capa de normalización de capacidades se ocupa de lo que realmente cuesta cambiar de protocolo: formas de los fragmentos de streaming, mapeo de llamadas y resultados de herramientas, partes de imagen y multimodal, y semántica de errores. Claves, política y atribución de costos se aplican igual sea cual sea el par de protocolos.
5 palancas que realmente funcionan
- Un SDK, un analizador de streaming, un formato de llamada a herramientas en el cliente — un nuevo proveedor es un cambio en la consola
- Los agentes solo-Anthropic pueden ejecutar cualquier modelo compatible; sin fork ni adaptador
- Los cambios de modelo se quedan en el gateway: el código de la aplicación y sus pruebas quedan intactos
- Egress nativo: cada proveedor recibe su propio protocolo en vez de un sobre OpenAI retraducido
- La misma superficie de claves, presupuesto y política en cada par de protocolos