# GateLLM — Gateway de LLM empresarial autoalojado

> Un séptimo del costo, la misma carga de trabajo. Un gateway de LLM (gateway de IA) autoalojado, confiable y conforme, que orquesta modelos cerrados de primer nivel junto con modelos SOTA abiertos: planificación en modelos de frontera, ejecución en SOTA abierto.

Canonical: https://www.gatellm.io/es/

## Planificación de frontera. Ejecución con SOTA abierto. Un séptimo del costo.
Los modelos de primer nivel se encargan de la planificación; los modelos SOTA abiertos se encargan del 90% de las tareas rutinarias. La composición lleva la factura a ~1/7: las cifras se calculan en vivo en la calculadora, no se afirman aquí.
```
from openai import OpenAI

# One line change: point your SDK at your own gateway
client = OpenAI(
    base_url="https://your-gateway.gatellm.io/v1",
    api_key="your-gateway-api-key",
)

# Existing code unchanged — the gateway routes each request
# to the right model tier (planning vs execution) per your console policy
resp = client.chat.completions.create(
    model="claude-opus-5",  # or claude-sonnet-5, gpt-6-astra, deepseek-flash...
    messages=[{"role": "user", "content": "Plan the architecture"}],
)
```
Combine modelos: Claude Opus planifica, DeepSeek / Qwen ejecutan — ~1/7 del costo, hasta 90% más barato

El gateway decide qué modelo se ejecuta realmente: sea cual sea la configuración del cliente, el modelo final es el que fijaron los administradores — lista de permitidos en la entrada + mapeo comodín «*»

Un solo protocolo basta: hable OpenAI o Anthropic y llegue a los modelos de las cuatro familias de protocolos de chat (OpenAI / Anthropic / Gemini / DashScope) — cambiar de modelo nunca toca su código

Los datos se quedan en su infraestructura: totalmente autoalojado, los prompts nunca llegan a nosotros; credenciales y PII detectadas en la ruta de la petición — registrar / enmascarar / bloquear por ámbito

## Tres cosas que hace el gateway y que un solo modelo no puede
Combine modelos para recortar costos, imponga cuál se ejecuta realmente y mantenga el código del cliente en un solo protocolo.
### Combine modelos en vez de ejecutar el más caro en todas partes
Los modelos de frontera (Claude Opus) planifican y razonan; los modelos SOTA abiertos (DeepSeek / Qwen / GLM) hacen la ejecución rutinaria. Con la mezcla predeterminada la factura es ~1/7, conservando ~97% de la capacidad en tareas rutinarias — calculado en vivo en la calculadora, no afirmado aquí.
- Modo de planificación detectado por petición — sin cambios en el cliente
- Niveles asignados por grupo de claves o identidad
- Atribución de costos y topes de presupuesto por modo
### El gateway decide qué modelo se ejecuta realmente
Sea cual sea el modelo que configure un desarrollador, la petición se normaliza al llegar. Los nombres fuera de la lista de permitidos reciben 403; un mapeo comodín «*» reescribe todo lo demás al modelo autorizado. Los mapeos y reglas se recargan en caliente — sin despliegue por desarrollador.
- La lista de permitidos del grupo de claves filtra nombres de modelo en la entrada
- El mapeo comodín fija el modelo final
- Cada petición registra el modelo final real (etiqueta SW para cambios por script, MM para mapeos por identidad)
### Escriba el cliente una vez y cambie el backend libremente
Su aplicación habla un solo protocolo — OpenAI o Anthropic. El gateway traduce entre las cuatro familias de protocolos de chat (OpenAI / Anthropic / Gemini / DashScope) y normaliza streaming, llamadas a herramientas y otras diferencias de capacidad, así que añadir un proveedor o un modelo nunca toca el código de negocio.
- Cualquiera a cualquiera entre las cuatro familias de protocolos de chat
- Los clientes solo-Anthropic (Claude Code, claude-code-action) pueden ejecutar modelos de otros proveedores
- 15 formas de protocolo ascendente más allá de las cuatro familias, documentadas en la matriz de interoperabilidad

Integrado con más de 100 proveedores de LLM · Más de 30 SDK y frameworks

## Compruébelo usted mismo
Publicamos los documentos en lugar de pedirle que confíe en nuestra palabra. Cada afirmación de esta página tiene un respaldo documental que puede leer antes de hablar con nosotros.

### [Seguridad y cumplimiento](https://www.gatellm.io/es/security.md)
Arquitectura, gestión de claves y modelo de aislamiento.

### [Cuestionario de seguridad](https://www.gatellm.io/trust.md)
Respuestas CAIQ / SIG / VSA, ya completadas.

### [Lista de subencargados](https://www.gatellm.io/subprocessors.md)
Todos los terceros que pueden tocar sus datos.

### [Respuesta a incidentes y soporte](https://www.gatellm.io/sla.md)
Objetivos de respuesta y compromisos de soporte.

## Una interfaz, todos los modelos a su medida
Desde el enrutamiento simple de modelos hasta la orquestación multimodelo, GateLLM ofrece capacidades integrales de nivel empresarial.
### Enrutamiento multimodelo
Una interfaz para llamar a todos los modelos. Conmutación por error inteligente, balanceo de carga y reintentos automáticos.
- API unificada para más de 100 proveedores de LLM
- Enrutamiento con conmutación por error inteligente
- Balanceo de carga y limitación de velocidad
- Pool de claves upstream: cada llamador se fija a una clave y pasa a la siguiente si falla
- Ollama / vLLM / llama.cpp como upstreams compatibles con OpenAI, un solo plano de gobernanza
### Composición
Enrutamiento por niveles según el modo de planificación, la identidad o la forma de la solicitud: planificación en modelos de primer nivel, ejecución en SOTA abierto. El gateway reescribe el nombre del modelo y el código del cliente nunca cambia.
- Detección del modo de planificación: planificar en primer nivel, ejecutar en SOTA abierto, sin cambios en el cliente
- Mapeo de modelos por identidad: el mismo nombre de modelo apunta a distintos upstreams según el grupo de claves
- Reglas switch-route: redirigen solicitudes con imágenes o especiales al modelo adecuado
- Degradación dentro del agente: planificación fija / degradación automática fuera de planificación
### Revisión de código multimodelo
Ejecute 2 o 3 modelos en paralelo sobre el mismo PR. El gateway aporta la interoperabilidad de protocolos y la medición con una sola clave; la distribución, la fusión y la puntuación de confianza viven en la acción de orquestación de código abierto.
- Interoperabilidad de protocolos del gateway: modelos que no son de Anthropic se suman a colas de revisión exclusivas de Anthropic
- Una sola clave de acceso mide y gobierna toda la distribución
- La distribución, la puntuación [Consensus N/M] y la fusión viven en gatellm-io/gatellm-code-review (lado de orquestación)
### Gobernanza de herramientas MCP
Agregue servidores externos de herramientas MCP detrás de un único endpoint /mcp: ACL por herramienta, presupuestos de contexto y auditoría de llamadas. Qué herramientas puede usar un agente vive en el mismo plano de permisos que qué modelos puede llamar.
- Varios servidores MCP detrás de un único endpoint /mcp
- Permitir/denegar herramientas por grupo de claves y filtros por etiqueta
- Recuperación BM25 integrada cuando la lista de herramientas crece
- Puente REST: envuelva cualquier API REST como herramienta MCP a partir de una especificación simplificada, sin código
- Llamadas, violaciones y sesiones MCP totalmente auditadas
### Inyección de búsqueda web
Dé búsqueda web a todos los modelos, de forma uniforme: el gateway recupera e inyecta resultados y sintetiza bloques de búsqueda nativos por protocolo de cliente. Los modelos abiertos también obtienen fundamento de búsqueda.
- Bloques de búsqueda nativos por protocolo (Anthropic / OpenAI / Responses)
- Interruptor de tres estados por modelo, con degradación elegante ante fallos
- La búsqueda interceptada se excluye de la facturación de uso
### Control de costos
Gestión de presupuestos, limitación de velocidad, atribución de costos por equipo y política de modelos según el modo. Nunca recargamos tarifas por token: BYOK con sus propias claves.
- Atribución de costos por proyecto o funcionalidad
- Alertas de presupuesto flexibles
- BYOK: pague a los proveedores a tarifas estándar
- Política de modelos según el modo (planificar/ejecutar, aplicable)
### Gobernanza e integraciones
Desde el control de acceso de clientes hasta la integración con CI/CD: lleve las capacidades del gateway a sus flujos de desarrollo y colaboración.
- Control de acceso de clientes (política por User-Agent)
- Revisión de código en GitHub Actions a través de su propio gateway
- Configuración por lotes: preparar → previsualizar el conjunto completo de conflictos → confirmación atómica en una sola transacción
### Complemento para Office / M365
Use su propio gateway de modelos directamente dentro de Excel, Word, PowerPoint y Outlook: complemento autoalojado, los datos nunca salen de la red, sin dependencia de un intermediario.
- Modelado financiero en Excel / revisión de contratos en Word / bandeja de entrada en Outlook
- SSO de Entra + control por etiquetas de Purview
- 33 habilidades de dominio incluidas, complemento de pago
### Scripts de transformación
Un motor JavaScript en sandbox (QuickJS) reescribe el JSON de solicitud y respuesta en el gateway. Se edita en la consola y se aplica en vivo: sin reimplementar, sin código de pegamento.
- Ranuras before / after de solicitud y una ranura de respuesta: vea el formato del cliente antes de la traducción o el formato upstream después
- context.useModel() cambia toda la ruta: base_url, protocolo y credenciales a la vez
- Biblioteca integrada: json_path / str_* / regex_* / array_* / codificación + hash / UUID + tiempo
- En sandbox (sin red ni sistema de archivos) con modos fail-open/fail-closed y un probador de scripts en la consola

## Combinación de modelos: una calidad que ningún modelo por sí solo puede ofrecer
La composición es un patrón nativo del gateway; la revisión de código multimodelo es un patrón del lado de la orquestación que el gateway habilita. Ambos se apoyan en la capa de normalización de capacidades.
### Composición: enrutamiento por niveles entre modelos
Enrute según el modo de planificación, la identidad o la forma de la solicitud: la planificación se queda en los modelos de primer nivel y la ejecución baja al SOTA abierto. El gateway reescribe el nombre del modelo y traduce los protocolos; el código del cliente nunca cambia.
- Detección del modo de planificación: planificar en primer nivel, ejecutar en SOTA abierto, sin cambios en el cliente
- Mapeo de modelos por identidad: el mismo nombre de modelo apunta a distintos upstreams según el grupo de claves o la cabecera
- Reglas switch-route: redirigen solicitudes con imágenes o especiales al modelo adecuado
- Sin código de pegamento: la traducción de protocolos la maneja el gateway
- Política aplicable: los administradores fijan los niveles por modo de planificación/ejecución, y detienen el uso exclusivo de primer nivel
```
// before-slot transform script (JavaScript) — switch execution model by plan mode.
// Mounted on the entry model in the console; runs before routing.
function transform(body, context) {
    if (context.sourceProtocol !== "Anthropic") {
        return body;
    }
    const EXEC_MODEL = "qwen3.8-max"; // a model name configured in the gateway
    const PLAN = /plan mode is active/i;
    const EXIT = /exited plan mode/i;
    // take the last marker-bearing message: later marker wins
    const messages = body.messages || [];
    for (let i = messages.length - 1; i >= 0; i--) {
        const s = JSON.stringify(messages[i].content || "");
        const inPlan = PLAN.test(s);
        const exited = EXIT.test(s);
        if (inPlan || exited) {
            // not in plan mode → switch execution to the cost-efficient model
            if (exited || !inPlan) context.useModel(EXEC_MODEL);
            return body;
        }
    }
    context.useModel(EXEC_MODEL);
    return body;
}
```
### Revisión de código multimodelo (lado de la orquestación)
El gateway habilita el patrón y la capa de orquestación lo ejecuta: claude-code-action solo habla el protocolo de Anthropic, y la interoperabilidad de protocolos del gateway permite que modelos que no son de Anthropic, como qwen3.8-max y kimi-k3, se sumen a la cola de revisión. Una sola clave de acceso al gateway mide de forma uniforme cada modelo de revisión.
- Las anotaciones de confianza [Consensus N/M], la fusión y la deduplicación las produce la acción
- Cada modelo de revisión se factura por separado y el gateway los agrega de forma uniforme
- El límite de líneas por PR y el colapso de comentarios históricos vienen integrados en la acción

## Tres pasos para su primer token.
Pase de un solo modelo a la orquestación multimodelo en tres pasos, sin reescribir el código de negocio. Cualquier SDK (OpenAI / Anthropic / Gemini / DashScope) funciona.
### Despliegue el gateway
Inicio con Docker en un clic, o despliegue con Kubernetes Helm en su entorno privado.
### Configure las claves
Modo BYOK: introduzca las claves de API de sus proveedores existentes; los datos permanecen on-prem y nunca se persisten.
### Reemplace el endpoint
Apunte el base_url del SDK de OpenAI a GateLLM y llame a todos los modelos con una interfaz unificada.
```
# Just one line change: point base_url to GateLLM
from openai import OpenAI

client = OpenAI(
    base_url="https://your-gateway.gatellm.io/v1",
    api_key="your-gatellm-api-key"
)

# Existing code unchanged, call any model
response = client.chat.completions.create(
    model="claude-opus-5",  # or claude-sonnet-5, gpt-6-astra, deepseek-flash...
    messages=[{"role": "user", "content": "Hello"}]
)
```
## O déjeselo a su agente

Instale y configure el gateway GateLLM. Primero descargue con curl el Markdown sin procesar de esta guía de instalación, léalo de principio a fin y luego siga cada paso en orden (los pasos tienen dependencias; por ejemplo, debe existir un grupo de claves antes que una clave de acceso; no se adelante):

curl -fsSL https://docs.gatellm.io/en/quickstart/docker-single-node.md

El agente necesita una sola cosa de usted: la clave de API del proveedor upstream. Genera el resto, lo configura todo a través de la API de la consola (sin navegador) y termina cuando la primera solicitud devuelve una finalización.

## O ejecútelo usted mismo

```bash
docker run -d \
  --name gatellm \
  -p 7890:7890 \
  -e CONSOLE_PASSWORD=change-me-on-first-login \
  -e ENCRYPTION_KEY=REPLACE_WITH_YOUR_ENCRYPTION_KEY \
  -e CONSOLE_SECRET_KEY=REPLACE_WITH_YOUR_CONSOLE_SECRET_KEY \
  -e STORAGE_MODE=sqlite \
  -v gatellm-data:/var/lib/protoflux \
  ghcr.io/gatellm-io/gatellm:latest
```

Reemplace los tres valores de marcador de posición antes de ejecutar; la guía explica qué es cada uno y por qué dejarlo tal cual no es seguro.

## Traiga el SDK que ya tiene. Cambie una línea.
Los mismos cuatro protocolos en ambos lados. Convierta cualquiera en cualquiera sin código de pegamento, en chat, imagen, voz, video, voz en tiempo real, embedding y rerank.
### Todas las modalidades
- chat
- imagen
- voz
- video
- voz en tiempo real
- embedding
- rerank

- Entrada nativa: los SDK de OpenAI / Anthropic / Gemini / DashScope se conectan directamente, sin más cambios que base_url
- Salida nativa: enruta a cualquier proveedor en su protocolo nativo, no mediante un sobre unificado de OpenAI retraducido
- Conversión cualquiera a cualquiera: entrada A → salida B sin interrupciones (por ejemplo, una llamada del SDK de Anthropic → enrutada a un modelo nativo de DashScope, convertida al protocolo DashScope)
- Todas las modalidades + embedding/rerank: chat / imagen / voz / video / voz en tiempo real, además de los protocolos de embedding y rerank unificados
- Más que "compatible con OpenAI": synthorai y otros ofrecen tres protocolos de entrada unificados en una sola superficie de OpenAI; GateLLM ofrece cuatro de entrada y cuatro de salida, cualquiera a cualquiera
- Una superficie de protocolos de salida más amplia: más allá de las cuatro familias principales, 15 formas de protocolo upstream en total (incluidas AWS Bedrock Converse / Invoke, Realtime y passthrough); los modelos empresariales en Bedrock y los modelos autoalojados se conectan a un mismo gateway
- Las sesiones de voz en tiempo real (/v1/realtime, openai_realtime + dashscope_realtime) se miden por turno en la misma canalización de estadísticas, facturación y registros que HTTP

## Funciona con el SDK que ya tiene
Apunte cualquier SDK o framework al gateway con una línea. OpenAI, Anthropic, Gemini y DashScope se conectan de forma nativa; LangChain, LlamaIndex, CrewAI, Vercel AI SDK y más de 30 adicionales mediante el mismo cambio de base_url.
### Apunte base_url al gateway
Por defecto https://your-gateway.gatellm.io; que incluya /v1 depende del SDK (cada ejemplo indica el valor exacto).
### Cambie a una clave de acceso del gateway
No es una clave upstream sk-…; la misma clave de acceso se monta en la cabecera que espere su SDK.
### Use el nombre del modelo del gateway
El que haya configurado en la consola, no el nombre oficial del proveedor.
```
# base_url convention differs by SDK — match the one you're using
from openai import OpenAI
OpenAI(base_url="https://your-gateway.gatellm.io/v1")        # OpenAI SDK: /v1

import anthropic
anthropic.Anthropic(base_url="https://your-gateway.gatellm.io")  # Anthropic SDK: root (appends /v1/messages)

# Vercel AI SDK createAnthropic: baseURL ".../v1" (appends /messages) — the reverse
# LangChain ChatOpenAI: base_url="https://your-gateway.gatellm.io/v1"
```
### `Authorization: Bearer <key>`
- SDK / framework: OpenAI · DashScope · genérico
- El prefijo Bearer no distingue mayúsculas de minúsculas

### `x-api-key: <key>`
- SDK / framework: SDK de Anthropic
- También se acepta Authorization

### `x-goog-api-key: <key>`
- SDK / framework: SDK de Gemini
- También se acepta Authorization

### SDK oficiales de proveedores
Los SDK de OpenAI / Anthropic / Google se conectan de forma nativa; solo cambia base_url

### DashScope nativo
Texto, imagen, video asíncrono, embedding y rerank a través de un único endpoint

### SDK y gateways unificados
Vercel AI SDK, LiteLLM, Portkey, Semantic Kernel, Spring AI

### Frameworks de orquestación
LangChain, LlamaIndex, CrewAI, AutoGen, DSPy, Haystack

### SDK de agentes
OpenAI Agents, Claude Agent, Pydantic AI, ADK, Mastra

### Tiempo real y audio
Voz por WebSocket en tiempo real + ASR / TTS de openai_audio

### Local / autoalojado
Ollama, vLLM, llama.cpp como upstreams: conserve cualquier SDK de cliente

### El nombre del modelo debe coincidir con la configuración del gateway
No es el nombre oficial del proveedor ni el ID del modelo upstream, sino el nombre que le dio en la consola. Un nombre incorrecto produce 404 model_not_found.

### Que base_url incluya /v1 varía según el SDK
El SDK de OpenAI usa /v1; el SDK de Anthropic usa la raíz (añade /v1/messages); createAnthropic del Vercel AI SDK usa /v1 (añade /messages). Equivocarse añade o elimina un segmento de ruta.

### Los campos se traducen y restringen entre protocolos
Un max_tokens puede convertirse en max_output_tokens con un límite inferior (por ejemplo, ≥16) cuando el upstream es un modelo de protocolo Responses; un valor demasiado pequeño produce 400.

### El gateway envuelve los bloques de pensamiento
El contenido y las firmas de pensamiento de Claude / Gemini se pasan o se eliminan; tome el elemento con type == "text" del arreglo content y no asuma que content[0] es texto.

### El SDK de OpenAI Agents usa /v1/responses por defecto
Llama a la API de Responses, no a Chat Completions. Si el upstream es openai (Chat), cambie explícitamente con OpenAIChatCompletionsModel; si es openai_response, un nombre de modelo como cadena funciona tal cual.

### LlamaIndex valida el nombre del modelo contra una lista permitida
La clase OpenAI solo acepta familias que reconoce y rechaza nombres personalizados del gateway; use OpenAILike (Python) o declare la información del modelo explícitamente.

### CrewAI funciona con LiteLLM por debajo
base_url no es un parámetro del framework: es la variable de entorno OPENAI_API_BASE, y el modelo necesita el prefijo openai/.

### AutoGen requiere model_info explícito
Los nombres de modelo desconocidos dan error con la lista predeterminada; declare model_info explícitamente para omitir la comprobación.

### El SDK de Google GenAI apunta a la raíz
base_url se pasa mediante http_options.base_url (sin /v1) y la clave se monta en la cabecera x-goog-api-key.

## Apunte cualquier agente de programación con IA al gateway
```
# Every agent is one base_url + one access key away
export ANTHROPIC_BASE_URL="https://your-gateway.gatellm.io"   # Anthropic agents: root (no /v1)
export ANTHROPIC_API_KEY="<gateway access key>"

export OPENAI_API_BASE="https://your-gateway.gatellm.io/v1"   # OpenAI-compatible agents: /v1
export OPENAI_API_KEY="<gateway access key>"

# Codex CLI (~/.codex/config.toml) speaks the Responses protocol
# [model_providers.gatellm]
# base_url = "https://your-gateway.gatellm.io/v1"
# wire_api = "responses"
```
### Agentes de terminal
Claude Code, Codex CLI, Gemini CLI, OpenClaw, opencode, Crush, Droid, Goose, Aider, Qwen Code, OpenHands, Kimi Code, Plandex, SWE-agent, Grok Build, Mistral Vibe, MiMo Code, ForgeCode, Codebuff

### IDE y extensiones
Cline, Roo Code, Kilo Code, Continue, Zed, Cursor, Windsurf, GitHub Copilot (BYOK)

### Plataformas gestionadas
Warp (solo claves BYOK), Amazon Q Developer CLI, Devin: endpoint fijo o no reemplazable

### El harness fija su propio ID de modelo
Claude Code envía el valor predeterminado que tenga configurado (por ejemplo, claude-opus-5 o claude-sonnet-5), no el nombre de su gateway. O asigne al modelo del gateway exactamente el nombre que solicita el harness, o configure la variable de entorno del modelo del harness (por ejemplo, ANTHROPIC_MODEL) con el nombre de su gateway. Una discrepancia produce 404 model_not_found en el primer mensaje.

### Los harness de protocolo Anthropic usan la raíz, no /v1
La URL base para clientes de estilo Anthropic apunta a la raíz del gateway (sin /v1); el cliente añade /v1/messages por su cuenta. Añadir /v1 aquí duplica el segmento de ruta.

### Los proveedores personalizados de Codex requieren wire_api="responses"
Codex CLI exige wire_api = "responses" para un bloque personalizado [model_providers.*]. El gateway implementa /v1/responses de forma nativa: apunte allí base_url y asigne env_key a una clave de acceso del gateway.

### Los harness basados en LiteLLM quieren el prefijo openai/ en el modelo
Aider, OpenHands y SWE-agent se apoyan en LiteLLM: configure OPENAI_API_BASE con el gateway y dé al modelo un prefijo openai/ (por ejemplo, openai/nombre-del-modelo-del-gateway) para que LiteLLM lo enrute como un endpoint compatible con OpenAI.

### De forma predeterminada usan OAuth de suscripción, no su clave
Codex, Gemini CLI y Qwen Code usan por defecto el inicio de sesión OAuth o de suscripción del proveedor. Para pasar por el gateway debe cambiar a autenticación con clave de API (configurar la clave y la URL base explícitamente); de lo contrario, el agente omite el gateway por completo.

### Los IDE deducen el soporte de herramientas y visión del ID del modelo
Cline / Roo / Kilo y otros deciden la capacidad de llamada a herramientas y de visión a partir del nombre del modelo. Un nombre personalizado del gateway puede desactivar el function calling; si fallan las llamadas a herramientas, revise las reglas de detección de capacidades del cliente o asigne al modelo un nombre que coincida con una familia conocida.

### La inferencia larga añade :keep-alive y _gateway_warning
Durante una inferencia upstream larga, el gateway emite líneas de comentario SSE :keep-alive (inofensivas: omita las líneas que empiezan por :) y, si la transmisión se corta a mitad, inserta un campo _gateway_warning en lugar de devolver un error, para que harness como Claude Code no aborten toda la conversación.

### Modo automático de Claude Code: decida quién responde al veredicto de seguridad
En modo automático, Claude Code espera un veredicto del lado del servidor (un campo safeguards en la solicitud) antes de una acción potencialmente peligrosa. Cuando el upstream es Anthropic oficial, el veredicto se produce dentro de esa misma solicitud y el gateway lo deja pasar sin tocarlo. Cuando el upstream es un tercero que ignora el campo, el gateway responde en su lugar, y el valor predeterminado de fábrica (allow_all) libera todas las acciones, lo cual es más permisivo que no intervenir en la llamada. Devuelva una ruta a su upstream escribiendo "anthropic_server_safeguards": "upstream" en el extra_config de ese upstream; la opción de la consola es solo para administradores.

## Normalización de capacidades: lo que hace posible combinar proveedores
La combinación de modelos entre proveedores se apoya en la capa de normalización de capacidades, que unifica siete puntos de acoplamiento para que cambiar de modelo nunca implique reescribir código de pegamento.
### Normalización de llamadas a herramientas
OpenAI / Anthropic / Gemini / los modelos chinos tienen esquemas de llamada a herramientas distintos. Los unificamos en la base: escriba el código una vez y llame a todos los modelos.
### Compatibilidad de salida estructurada
Cada proveedor usa protocolos distintos (esquema JSON estricto, json_mode, tool_use). Los unificamos en una interfaz coherente.
### Unificación del almacenamiento en caché de prompts
cache_control de Anthropic, el almacenamiento automático de OpenAI y el contexto de Gemini usan mecanismos distintos. Ofrecemos una estrategia de caché unificada.
### Adaptación de tokens de razonamiento
Los formatos de salida de o1 / Claude thinking / DeepSeek R1 difieren. Nos adaptamos al protocolo de tokens de razonamiento de cada proveedor.
### Soporte de formatos multimodales
Los protocolos de visión, audio y carga de archivos difieren entre proveedores. Unificamos los formatos de entrada multimodal.
### Abstracción del modelo de facturación
La estructura de precios de cada proveedor es distinta. La abstraemos en una interfaz unificada de seguimiento de costos.
### Normalización de la semántica de errores
Los códigos y cuerpos de error de cada proveedor difieren. Los normalizamos en un cuerpo de error uniforme, con z-request-id correlacionando cada solicitud de extremo a extremo.
### Flujo de datos: permanece on-prem, nunca se persiste
En modo BYOK, las claves de API se guardan solo en la memoria del gateway y nunca se persisten ni se transmiten. Las solicitudes pasan por el gateway directamente a las API oficiales de los proveedores; los datos nunca salen de su red privada.
Controles alineados con SOC 2

Controles alineados con ISO 27001

RGPD

## ¿Por qué ~1/7 del costo?
Tome una empresa que procesa mil millones de tokens al día: misma carga de trabajo, compare la factura de "primer nivel de extremo a extremo" frente a "primer nivel planifica, modelos abiertos ejecutan".
## Tres fuentes de ahorro:
- BYOK sin recargo por token: usted paga a los proveedores a tarifas estándar y GateLLM no se lleva comisión (los agregadores suelen añadir tarifas de plataforma y de pago sobre el precio de lista);
- Composición: los modelos SOTA abiertos (GLM / Qwen / DeepSeek) asumen la mayor parte de la ejecución (clasificación, extracción, traducción), y los modelos cerrados de primer nivel (como Claude Opus) solo se usan para planificación y razonamiento difícil;
- Caché de prompts: las llamadas frecuentes aciertan en caché y el precio unitario baja entre un 50% y un 90%.
Las cifras son modelos ilustrativos basados en precios públicos; el ahorro real depende de los escenarios de negocio y de las proporciones de mezcla. La licencia Pro de $400/mes (2 GB, instancia única) está incluida en el plan de GateLLM.

## Uso que puede ver, costo que puede liquidar, presupuestos que puede sostener
Token Ops rastrea quién usa qué; Token FinOps convierte los tokens en dinero facturable y con límite. Un solo plano de control hace que el gasto en IA sea tan operable como el gasto en la nube.
### Observabilidad de uso y costo
Desglose cada llamada por modelo, clave de acceso y grupo de claves, con los tokens de entrada, salida y acierto de caché medidos por separado con granularidad de 1 minuto.
- Agrupación por modelo / clave / grupo de claves
- Entrada, salida y acierto de caché medidos por separado
- Series temporales de 24 h / 7 d / 30 d / personalizadas
### Admisión de clientes y pista de auditoría
Solo los clientes que usted ha aprobado llegan al gateway: permita, limite o deniegue por User-Agent. Cada llamada deja un registro auditable para la gobernanza de endpoints y la evidencia de cumplimiento.
- Control de acceso de clientes (política por User-Agent)
- Registros de llamadas con retención de logs (Pro y superiores)
- Integración de auditoría / DLP (Enterprise)
### API de gestión (control programático)
Gestione el gateway mediante API: cree y revoque claves de API, fije cuotas y presupuestos, consulte uso y costo y exporte registros de auditoría; conéctela a sus sistemas internos de operaciones y facturación.
- Creación y revocación programática de claves de API
- Cuotas y presupuestos mediante API
- API de consulta de uso y costo
- Exportación de registros de auditoría
### Su propia tarifa y capturas de precios
Introduzca a mano el precio privado que negoció y pase a ser la referencia: las actualizaciones del sistema nunca lo sobrescriben. Cada precio tiene una ventana de vigencia: programe bajadas con antelación y las ediciones nunca reescriben el costo histórico.
- El precio privado fijado prevalece sobre el automático y nunca se sobrescribe
- Las capturas entran en vigor por ventana temporal
- Rellenar historial / programar bajadas de precio
- Modos de facturación por token, por llamada y por segundo
### Asignación y refacturación por etiquetas
Etiquete claves y grupos de claves y agregue uso y costo por etiqueta para imputar el gasto en tokens al centro de costos correcto. La exportación a Excel divide el libro por modelo × clave para showback o chargeback interno.
- Etiquetas libres en claves y grupos de claves
- Agregación de uso y costo por etiqueta
- Exportación a Excel con 6 hojas (incluida clave × modelo)
- Listo para showback / chargeback interno
### Cuotas y límites de costo
Fije topes de gasto diarios y mensuales por clave, evaluados de forma independiente por día y mes calendario UTC y bloqueados en el momento en que cualquiera se supere. Las cuotas se heredan de clave → grupo → global, tomando la más amplia entre grupos.
- Topes diarios y mensuales evaluados de forma independiente
- Herencia clave → grupo → global
- 429 quota_exceeded con Retry-After en el ciclo diario

## GateLLM vs LiteLLM
Una comparación verificada con las fuentes. GateLLM ofrece por sí solo varios mecanismos que LiteLLM no tiene; ambos comparten una base asentada; algunas cosas difieren en naturaleza. Decida por las dos capas superiores, no por el ruido del marketing.
### Solo GateLLM lo hace
Mecanismos que LiteLLM no tiene: el "cómo funciona" en una línea aparece bajo cada capacidad.
| Capacidad | GateLLM | LiteLLM |
| --- | --- | --- |
| Cambio condicional de modelo | ✓ | ✗ |
| Mezcla de modelos y SDK entre protocolos | ✓ | ✗ |
| Confirmación de configuración en una sola transacción | ✓ | ✗ |
| Barrera dura de cuota de costo | ✓ | ✗ |
| Facturación tolerante a fallos | ✓ | ✗ |
| Pool de claves upstream y fijación persistente | ✓ | ✗ |
| Tres modos de facturación + multidivisa | ✓ | ✗ |
| Inicio de sesión con SSO del upstream | ✓ | ✗ |
| Registro de metadatos de capacidades | ✓ | ✗ |
| Rama de versiones LTS | ✓ | ✗ |

- **Cambio condicional de modelo**: Reglas declarativas switch-route + detección integrada del modo de planificación + scripts context.useModel(): sin cambios en el cliente. LiteLLM necesita callbacks personalizados de Python.
- **Mezcla de modelos y SDK entre protocolos**: Puntos de entrada nativos cualquiera a cualquiera: llame a GPT desde el SDK de Anthropic o a DeepSeek desde el SDK de Gemini. LiteLLM está centrado en OpenAI; los caminos inversos pasan por capas de compatibilidad.
- **Confirmación de configuración en una sola transacción**: Preparar → previsualizar el conjunto completo de conflictos → confirmación atómica; todo el lote se revierte ante cualquier conflicto.
- **Barrera dura de cuota de costo**: Los ciclos diario y mensual devuelven 429 quota_exceeded en el momento en que se supera el gasto. LiteLLM solo envía alertas de presupuesto.
- **Facturación tolerante a fallos**: Predescontar → liquidar → reembolsar con un libro de movimientos en curso: correcto incluso ante caídas del proceso.
- **Pool de claves upstream y fijación persistente**: Un hash FNV-1a ponderado fija cada llamador a una clave y pasa a la siguiente clave no probada; las de peso 0 quedan en espera.
- **Tres modos de facturación + multidivisa**: Por token / por llamada / por duración, USD/CNY/EUR/JPY/GBP, dimensiones personalizadas. LiteLLM solo rastrea por tokens.
- **Inicio de sesión con SSO del upstream**: Da de alta proveedores que no usan claves estáticas (por ejemplo, Kiro). LiteLLM solo acepta claves de API estáticas.
- **Registro de metadatos de capacidades**: Impulsa la inyección y degradación automáticas; la deriva de capacidades de un modelo nuevo no requiere cambios de código.
- **Rama de versiones LTS**: Rama N-1 + LTS (ver /lifecycle). LiteLLM solo mantiene las últimas 4 líneas menores.

### Ambos lo hacen bien
Una base asentada: cualquiera de los dos gateways cubre esta capa. La decisión está en las capas superiores e inferiores.
| Capacidad | GateLLM | LiteLLM |
| --- | --- | --- |
| Enrutamiento de API · conmutación por error · balanceo de carga | ✓ | ✓ |
| BYOK, sin recargo por token | ✓ | ✓ |
| Totalmente autoalojado, los datos permanecen on-prem | ✓ | ✓ |
| Normalización de llamadas a herramientas entre proveedores | ✓ | ✓ |
| Normalización de salida estructurada (JSON Schema) | ✓ | ✓ |
| Adaptación de tokens de razonamiento y pensamiento | ✓ | ✓ |
| Caché de prompts entre modelos | ✓ | ✓ |
| Inyección de búsqueda web | ✓ | ✓ |
| Gateway MCP (agregación de herramientas) | ✓ | ✓ |
| Consola visual para la configuración | ✓ | ✓ |
| Registros de auditoría y medición de uso y costo | ✓ | ✓ |

### Diferentes en naturaleza
Ni mejor ni peor: mecanismos y empaquetado distintos que conviene sopesar directamente.
| Capacidad | GateLLM | LiteLLM |
| --- | --- | --- |
| Tiempo de ejecución | Un solo binario en Rust · sin pausas de GC | Proceso de Python + pila de dependencias |
| Superficie de traducción de protocolos | 15 formas de protocolo; las cuatro familias de protocolo de chat (OpenAI / Anthropic / Gemini / DashScope) traducen cualquiera a cualquiera, el resto según la matriz de interoperabilidad | Sobre centrado en OpenAI + endpoints compatibles |
| Puntos de entrada de protocolo nativos | /v1/messages + count_tokens, Gemini generateContent, CRUD de /v1beta/cachedContents, /v1/realtime, /mcp: un gateway sirve cada SDK de forma nativa | Endpoint compatible con OpenAI (más variantes compatibles) |
| Profundidad de la caché de prompts | Inyecta automáticamente puntos de interrupción de caché en llamadas con protocolo OpenAI + mapeo entre protocolos + deduplicación de cachedContent de Google | Reenvía cache_control y normaliza el uso |
| Privacidad de los logs por defecto | Registros de solicitudes desactivados por defecto · los cuerpos almacenados se anonimizan en cada superficie de salida, la revelación sin procesar es solo para administradores y queda auditada · retención predeterminada de 7 días | Registro de solicitudes y respuestas activado; anonimización mediante guardrails |
| Modo de configuración | Todo en la consola: sin YAML, los cambios se aplican en vivo | Centrado en config.yaml |
| Paquete de SSO empresarial y SCIM | OIDC + SAML 2.0 + SCIM incluidos en la licencia plana por instancia, sin tarifas por asiento | El OSS limita el SSO a 5 usuarios; SCIM requiere el nivel Enterprise con precio por uso |
| Licenciamiento | Precio plano por instancia / memoria, sin asientos ni recargo por token | OSS gratuito; Enterprise con precio por uso |
| SLA de soporte | Soporte prioritario incluido en la licencia plana | El nivel estándar no tiene compromiso de tiempo de respuesta; el SLA 24/7 es un complemento de pago (Sev0 1 h / Sev1 6 h) |
| Superficie de endpoints | Endpoints principales de chat / realtime / MCP | Añade /batches, /files, /fine_tuning, /vector_stores, /videos, /containers |
| Ecosistema de terceros | Logs / Prometheus / OTel integrados: salida con protocolos estándar, sin dependencia de un único proveedor; detección de secretos y PII integrada en el gateway, sin motor de terceros | Gestores de secretos AWS KMS / Vault / CyberArk; guardrails de PII Presidio; observabilidad Langfuse / Langsmith / Arize |

Verificado con la documentación oficial de cada producto a fecha de 2026-09-04 (docs.litellm.ai / docs.gatellm.io). Algunas capacidades de LiteLLM requieren una licencia Enterprise; los detalles pueden cambiar: consulte las fuentes antes de comprar.

## Los secretos y la PII se detectan a la entrada: usted decide qué ocurre después.
Un motor de reglas deterministas inspecciona cada solicitud al modelo en busca de formatos de credenciales y PII, y registra lo que encontró sin registrar el secreto en sí. Las reglas integradas vienen desactivadas y en modo de observación; usted las activa y elige registrar, enmascarar o bloquear por ámbito. Ningún modelo participa en la detección.
### Detección determinista, sin modelos en la ruta
Determinista por construcción: primero sondas literales, luego reglas de expresiones regulares que exigen palabras de contexto y después validadores de suma de comprobación: Luhn para números de tarjeta, mod-97 para IBAN, la suma de comprobación del identificador nacional, bloques de claves privadas PEM y OpenSSH, e IPv4.
- Formatos de credenciales: claves de API de proveedores de modelos, claves de acceso a la nube, tokens de GitHub y GitLab, JWT, claves privadas PEM y OpenSSH, tokens de Slack
- Clases de PII: números móviles de China continental, identificadores nacionales de residencia, números de tarjetas bancarias, IBAN, direcciones de correo electrónico y direcciones IPv4
- Las conversaciones multiturno solo analizan lo nuevo: una cadena de hashes de cursor evita que una sesión larga vuelva a analizar texto que ya se había limpiado
### Enmascaramiento que su cliente puede deshacer; bloqueo que no filtra nada
Con el modo enmascarar, el modelo upstream recibe marcadores numerados y su cliente recupera los valores reales, incluida la restauración por cada fotograma SSE durante el streaming. Con el modo bloquear, la negativa incluye la categoría de la regla y un id de solicitud, nunca el texto coincidente.
- El upstream ve marcadores; la parte que es dueña de los datos ve volver sus propios valores
- Los pegados largos no quedan exentos: las cadenas sobredimensionadas se vuelcan a disco y se analizan de nuevo en ventanas de tamaño fijo, de modo que la memoria permanece estable sea cual sea el tamaño de la carga
- La lista de permitidos coincide por valor, nunca por ruta: aprobar una clave de prueba no exime silenciosamente a todo un campo
### Cuerpos de log: almacenados tal como se reciben, anonimizados en cada salida
La persistencia de registros de solicitudes está desactivada en la imagen de fábrica. Si la activa, los cuerpos se almacenan tal como se reciben y luego se anonimizan en cada superficie de salida: la API de la consola anonimiza por defecto, la salida SSE y de terminal siempre se anonimiza, y un fallo de anonimización cierra la respuesta en lugar de filtrarla.
- Revelar el contenido sin procesar es un acto explícito: rol de administrador más un indicador de revelación explícito, auditado y contabilizado
- La anonimización cubre claves sensibles del cuerpo, parámetros sensibles de consulta y URL, cabeceras de esquemas de autenticación estáticos y personalizados, y valores de token bearer con revelación parcial
- Un hallazgo conserva un fragmento enmascarado con contexto circundante limitado, nunca el texto coincidente; los hallazgos comparten la ventana de retención de logs, 7 días por defecto
Desactivado por defecto, a propósito
El paquete de reglas integrado viene desactivado y la acción de cada regla integrada es registrar. Es un despliegue seguro, no una carencia: observe qué habría ocurrido con su tráfico real, ajuste la lista de permitidos con sus propios falsos positivos y luego active enmascarar o bloquear donde importe. La política se aplica a nivel global, por grupo de claves de acceso o por clave de acceso, y las reglas se recargan en caliente.
#### registrar
Observar. Los hallazgos aparecen en la consola con fragmentos enmascarados; la solicitud no se modifica.
#### enmascarar
Aplicar de forma reversible. El upstream ve marcadores; su cliente sigue recibiendo el valor real.
#### bloquear
Rechazar. La solicitud se rechaza con la categoría de la regla y un id de solicitud, nunca con el texto coincidente.
### Qué es y qué no es
#### Qué es
- Se ejecuta dentro del proceso de su propio gateway, en la ruta de la solicitud al modelo, con ámbito global / por grupo de claves de acceso / por clave de acceso
- Una página dedicada en la consola: vista de hallazgos para roles de administrador y monitor, vista de reglas para administradores, interruptor de activación con comprobación previa del presupuesto de memoria, recarga en caliente y entradas de auditoría
- Un endpoint de vista previa en seco, para probar una regla contra una muestra antes de activarla
- Cada hallazgo se rastrea hasta un nombre de regla, categoría, severidad, acción aplicada, número de coincidencias, modelo y nombre de la clave de acceso

#### Qué no es
- Sin detección en el contenido de las respuestas: el tramo de respuesta solo restaura marcadores
- Sin ML, sin detección de jailbreak o inyección de prompts y sin API de moderación: las reglas son deterministas
- Sin reauditoría sin conexión: el contenido que no se analizó en el momento de la solicitud no se analiza después
- No es una suite DLP: sin cobertura de endpoints, correo electrónico ni otros canales de salida
- Sin detectores de pasaporte, SSN, nombres o direcciones, y las carencias residuales conocidas están documentadas: las salidas de medios codificados en base64 se omiten y un marcador dividido entre dos fotogramas de flujo pasa sin modificar

## Lo que realmente obtiene.
Las tres cosas que le importan a compras, resueltas antes del precio: un DPA que su equipo legal puede firmar, una factura que no se descontrola y prompts que nunca llegan a nosotros.
### Un DPA que su equipo legal puede firmar
Listo para RGPD y CCPA, con un DPA que su equipo legal puede firmar de verdad. Autoalojado (los datos nunca salen de su perímetro), con SSO empresarial (OIDC / SAML 2.0) y aprovisionamiento SCIM 2.0 incluidos.
- RGPD
- CCPA
- DPA
- SSO
- SCIM
- Pista de auditoría
### Una factura que no se descontrola
BYOK: pague a los proveedores a tarifas estándar, sin recargo por token ni tarifas por asiento. Los topes de cuota por clave y por proyecto impiden que un script desbocado se salga de su presupuesto.
- Sin recargo por token
- 0 tarifas por asiento
- Caché de prompts
- Topes duros de cuota
- Reembolso de 30 días
### Sus prompts nunca llegan a nosotros
Totalmente autoalojado: sus prompts y finalizaciones nunca entran en nuestros sistemas. Las claves BYOK viven solo en la memoria del gateway; las solicitudes van directas a las API de los proveedores y nunca salen de su red.
- Los datos permanecen on-prem
- Claves nunca persistidas
- TLS 1.3
- Admisión de clientes
- Modelos elegidos por usted

## Totalmente autoalojado · Instancia única de 2 GB · Nunca recargamos tarifas por token
BYOK (traiga sus propias claves): usted paga a los proveedores a tarifas estándar. Licenciamos una instancia única de 2 GB, nunca por asientos ni con recargo por token. Más memoria o varias instancias se gestionan con Enterprise.
El núcleo está construido en Rust. A nivel de reenvío del gateway, cada GB de memoria sostiene aproximadamente 100 M de tokens por minuto (TPM) y ~500 solicitudes por minuto (RPM), suficiente para atender cómodamente a ~100 usuarios típicos. Son cifras de referencia: el rendimiento real está limitado por los límites de velocidad de sus propios proveedores y por la complejidad de las solicitudes, y no constituye un compromiso de SLA.
Incluido en todos los planes: BYOK sin recargo por token · enrutamiento a más de 100 proveedores · control de acceso de clientes · caché de prompts · cuotas de costo
### Free
$0
Totalmente autoalojado · Licencia única
Instancia única de 512 MB, sin retención de logs: adecuado para evaluación y pruebas de concepto, no para tráfico de producción.
- Enrutamiento a más de 100 LLM · Conmutación por error · Balanceo de carga
- Mezcla de modelos entre proveedores · degradación dentro del agente (planificación fija / degradación automática fuera de planificación)
- Control de acceso de clientes (política por User-Agent)
- Caché de prompts
- BYOK (traiga sus propias claves, sin recargo)
- Límite de memoria de 512 MB · SQLite · instancia única
- Revisión de código en GitHub Actions a través de su propio gateway
- Sin retención de logs
### Pro
$400
Tope fijo de 2 GB, sin complementos. Para varios nodos, cumplimiento (Audit/DLP) o la API de gestión, pase a Enterprise.
- Todas las funciones de Free
- Memoria de 2 GB · instancia única (tope fijo, sin complementos)
- Retención de logs
- SSO empresarial (OIDC: Azure AD / Okta / genérico, más SAML 2.0 + SCIM)
- PostgreSQL · 2 GB de memoria
- Soporte por correo electrónico o ticket
Reembolso del 100% dentro de los 30 días si no queda satisfecho
### Enterprise
desde $400/GB
Por capacidad de memoria · Facturación anual · Reembolso de 30 días
- Todas las funciones de Pro
- Facturación por capacidad (nodos × memoria, $400/GB/mes fijo)
- Despliegue multinodo / en clúster
- Revisión de código en GitHub Actions a través de su propio gateway
- Complemento para Microsoft 365 (Excel/Word/PPT/Outlook, complemento de pago)
- Retención de logs ampliada
- Respuesta de soporte prioritaria
- Cumplimiento (Audit / DLP)
- API de gestión (clave de API programática · cuotas · consulta de uso · exportación de auditoría)
¿Necesita más capacidad o una configuración personalizada?
## Comparación de funciones

| Capacidad | Free | Pro | Enterprise |
| --- | --- | --- | --- |
| Enrutamiento multimodelo · Conmutación por error · Balanceo de carga | ✓ | ✓ | ✓ |
| Mezcla de modelos entre proveedores (planificación/ejecución por proveedor) | ✓ | ✓ | ✓ |
| Degradación de modelo dentro del agente (planificación fija / degradación automática fuera de planificación) | ✓ | ✓ | ✓ |
| Caché de prompts | ✓ | ✓ | ✓ |
| BYOK (traiga sus propias claves, sin recargo) | ✓ | ✓ | ✓ |
| Nivel de memoria | 512 MB | 2 GB (fijo) | Personalizado |
| Almacenamiento / base de datos | SQLite (instancia única) | PostgreSQL · 2 GB | PostgreSQL + clúster de Redis |
| Escala de despliegue | 1 instancia | 1 instancia · 2 GB | Multinodo / clúster |
| Rendimiento por GB (referencia) | — | 2 GB ≈ 200 M TPM / 1000 RPM | ≈ 100 M TPM / 500 RPM por GB |
| Retención de logs | Ninguna | Retenidos | Retención ampliada |
| SSO (OIDC / SAML 2.0) | — | ✓ | ✓ |
| Aprovisionamiento automático SCIM 2.0 | — | ✓ | ✓ |
| Cumplimiento (Audit / DLP) | — | — | ✓ |
| API de gestión (clave programática · cuotas · uso · auditoría) | — | — | ✓ |
| Tarifa propia / capturas de precios (incluidos precios privados) | ✓ | ✓ | ✓ |
| Cuotas de costo (diarias / mensuales, herencia de tres niveles) | ✓ | ✓ | ✓ |
| Respuesta de soporte | Comunidad | Correo electrónico / ticket | Respuesta prioritaria |
| Política de modelos según el modo (planificar/ejecutar, aplicable) | ✓ | ✓ | ✓ |
| Control de acceso de clientes (política por User-Agent) | ✓ | ✓ | ✓ |
| Revisión de código en GitHub Actions (a través de su gateway) | ✓ | ✓ | ✓ |
| Complemento para Microsoft 365 (Excel/Word/PPT/Outlook, autoalojado) | — | Complemento | Complemento |
| Control por etiqueta de confidencialidad de Purview (addin.access / file.upload) | — | — | ✓ |

## Preguntas frecuentes
### ¿Cuánta latencia añade un gateway de IA?

Un gateway SaaS añade un salto adicional fuera de su red. GateLLM está autoalojado dentro de su VPC; el salto adicional hasta la API del proveedor es comunicación local entre procesos: una sobrecarga inferior a un milisegundo, con un impacto insignificante en el tiempo hasta el primer token en streaming.
### ¿Qué ocurre si un proveedor falla o alcanza su límite de velocidad?

Llamar directamente a un solo proveedor es un punto único de fallo. GateLLM admite conmutación por error entre proveedores: cuando el primario devuelve 5xx o se agota el tiempo, el tráfico pasa a un proveedor de respaldo sin cambios de código. También agrupa varias claves por upstream: un hash determinista fija de forma persistente cada llamador a una clave, y cuando una clave falla el gateway reintenta con la siguiente clave no probada.
### ¿Realmente necesito un gateway?

Criterio honesto: un solo proveedor, un solo equipo, sin restricciones de cumplimiento y un gasto mensual manejable: llame a las API directamente, no necesita un gateway. Un gateway empieza a amortizarse cuando necesita conmutación por error entre varios proveedores, atribución de costos por equipo, cumplimiento o residencia de datos, o visibilidad en tiempo real del gasto desbocado.
### ¿Cómo gana dinero GateLLM en modo BYOK?

Licenciamos una instancia única con 2 GB de memoria (Pro $400/mes, 20% de descuento anual a $3840/año), sin recargo por token ni tarifas por asiento. Usted paga a los proveedores a tarifas estándar y GateLLM no se lleva comisión.
### ¿Mis claves de API y mis datos saldrán de mi red?

No. En modo BYOK, las claves de API se guardan solo en la memoria del gateway y nunca se persisten ni se transmiten. Las solicitudes pasan por el gateway directamente a las API oficiales de los proveedores: los datos nunca salen de su red privada.
### ¿Cómo sé que el gateway sirve el modelo real y no un sustituto más barato?

Con un agregador SaaS solo puede confiar en su palabra. GateLLM es BYOK y autoalojado: usted usa sus propias claves y las solicitudes van de su gateway directamente al endpoint de la API del proveedor; la identidad del modelo la garantiza la propia API del proveedor, sin ningún salto reemplazable en medio.

## Empiece a construir sus aplicaciones de IA multimodelo
Totalmente autoalojado · Instancia única de 2 GB · Nunca recargamos tarifas por token.

## Relacionado
- [Precios](https://www.gatellm.io/es/pricing.md)
- [Calculadora de costos](https://www.gatellm.io/es/calculator.md)
- [Acerca de](https://www.gatellm.io/es/about.md)
- [Reservar una demo](https://www.gatellm.io/es/demo.md)
- [FAQ](https://www.gatellm.io/es/faq.md)
- [Comparar gateways de IA](https://www.gatellm.io/es/compare.md)
- [Comparar LiteLLM](https://www.gatellm.io/es/compare/litellm.md)
- [Comparar OpenRouter](https://www.gatellm.io/es/compare/openrouter.md)
- [Comparar Alibaba Cloud AI Gateway](https://www.gatellm.io/es/compare/alibaba-cloud.md)
- [Comparar Azure API Management](https://www.gatellm.io/es/compare/azure-apim.md)
- [Comparar Apigee](https://www.gatellm.io/es/compare/apigee.md)
- [Comparar Cloudflare AI Gateway](https://www.gatellm.io/es/compare/cloudflare.md)
- [Comparar Kong AI Gateway](https://www.gatellm.io/es/compare/kong.md)
- [Comparar Portkey](https://www.gatellm.io/es/compare/portkey.md)
- [LiteLLM vs Kong AI Gateway](https://www.gatellm.io/es/compare/litellm-vs-kong.md)
- [LiteLLM vs OpenRouter](https://www.gatellm.io/es/compare/litellm-vs-openrouter.md)
- [LiteLLM vs Portkey](https://www.gatellm.io/es/compare/litellm-vs-portkey.md)
- [Casos de uso](https://www.gatellm.io/es/use-cases.md)
- [Reducir el costo de LLM](https://www.gatellm.io/es/use-cases/reduce-cost.md)
- [Alta disponibilidad](https://www.gatellm.io/es/use-cases/high-availability.md)
- [Aislamiento multiusuario](https://www.gatellm.io/es/use-cases/multi-tenant.md)
- [Cumplimiento y auditoría](https://www.gatellm.io/es/use-cases/compliance-audit.md)
- [Solución de problemas por síntoma](https://www.gatellm.io/es/use-cases/troubleshooting.md)
- [Stack de modelos multivendor](https://www.gatellm.io/es/use-cases/mixed-model-stack.md)
- [IA autoalojada dentro de Office](https://www.gatellm.io/es/use-cases/self-hosted-office-ai.md)
- [Visibilidad y atribución del uso de tokens](https://www.gatellm.io/es/use-cases/token-ops.md)
- [Token FinOps: asignación y control del costo de IA](https://www.gatellm.io/es/use-cases/token-finops.md)
- [Gobernanza de herramientas MCP](https://www.gatellm.io/es/use-cases/mcp-tool-governance.md)
- [Búsqueda web para todos los modelos](https://www.gatellm.io/es/use-cases/web-search-grounding.md)
- [Rotación y respaldo multi-clave](https://www.gatellm.io/es/use-cases/multi-key-pooling.md)
- [Control de admisión de clientes](https://www.gatellm.io/es/use-cases/client-admission-control.md)
- [Aplicar la política de uso de modelos](https://www.gatellm.io/es/use-cases/enforce-model-policy.md)
- [Sin elección de modelo en el cliente](https://www.gatellm.io/es/use-cases/automatic-model-tiering.md)
- [Un protocolo, cualquier modelo](https://www.gatellm.io/es/use-cases/one-protocol-any-model.md)
- [Complemento para Office / Microsoft 365](https://www.gatellm.io/es/office-addin.md)
- [Glosario](https://www.gatellm.io/es/glossary.md)
- [Catálogo de modelos](https://www.gatellm.io/es/models.md)
- [Integraciones de SDK y frameworks](https://www.gatellm.io/es/integrations.md)
- [Agentes de código IA y harnesses](https://www.gatellm.io/es/coding-agents.md)
- [Seguridad y cumplimiento](https://www.gatellm.io/es/security.md)