Fije el modelo que ejecutan los agentes: planificar con uno, ejecutar con otro
Neutralice la elección de modelo del lado del cliente y luego separe el modo de planificación de la ejecución, para que un modelo potente planifique y uno barato ejecute.
De qué se queja realmente la comunidad
"Nuestros desarrolladores cambian Claude Code a Opus para resumir un changelog", "cada persona tiene un modelo distinto en sus ajustes y no podemos ver quién gastó qué", "probamos una política del lado del cliente, pero cualquiera puede volver a editarla".
La elección de modelo es una decisión de costo, no una preferencia del desarrollador: tiene que aplicarse en el gateway, donde realmente llega la solicitud.
Cómo lo hace GateLLM
Tres capas, ninguna omitible: la lista de modelos permitidos del grupo de claves (compuerta de entrada) rechaza con 403 los nombres de modelo no autorizados; un mapeo de modelo comodín desde "*" reescribe lo que solicite el cliente al modelo autorizado; y un script de ranura before mantiene el modo de planificación en el modelo potente y cambia al modelo de ejecución al salir.
Las solicitudes de omisión, como la generación de títulos de conversación de Claude Code, no llevan marcador de planificación, así que recaen en el modelo de ejecución barato. Ese es exactamente el comportamiento de "no ejecutar Opus para un resumen" que quería.
5 palancas que realmente funcionan
- Compuerta de entrada: la lista de modelos permitidos del grupo de claves rechaza cualquier nombre de modelo no autorizado antes del enrutamiento
- Mapeo comodín: de "*" → al modelo autorizado, normaliza todos los nombres solicitados a un solo modelo
- División planificación/ejecución: un script de ranura before lee los marcadores del modo de planificación y cambia el enrutamiento solo después de salir de la planificación
- Observable: las solicitudes conmutadas reciben una etiqueta SW en los logs, así que el modelo real de destino de cada solicitud es auditable
- Recarga en caliente: los mapeos y las reglas surten efecto de inmediato, sin reinicios ni despliegues por desarrollador