Donnez la recherche web à chaque modèle — sans monter un RAG
Injection de recherche au niveau de la passerelle : blocs de recherche natifs synthétisés selon le protocole du client, pour que les modèles ouverts bénéficient aussi de l’ancrage par recherche. Dégradation gracieuse, et la recherche détournée n’est pas facturée.
Ce dont la communauté se plaint réellement
Les modèles ouverts / auto-hébergés n’ont pas de recherche, donc tout sujet d’actualité les expose ; monter une pile RAG rien que pour ça est trop lourd. Les API de recherche des fournisseurs ont chacune leur format et leur tarification à l’appel, donc chaque changement de modèle implique une réintégration.
« La passerelle peut-elle simplement ajouter la recherche pour tous les modèles » est une demande récurrente des intégrateurs.
Comment GateLLM procède
GateLLM détourne la recherche au niveau de la passerelle : configurez un moteur de recherche (serper, testable directement), puis une bascule à trois positions par modèle (suivre la déclaration de capacité / forcer / désactiver) décide quels modèles reçoivent la recherche. En cas de succès, la passerelle récupère d’abord les résultats, les injecte dans le message utilisateur comme matériel de référence, puis seulement appelle le modèle amont — le texte du fournisseur n’est jamais renvoyé directement.
Le contenu injecté est synthétisé en blocs de recherche natifs selon le protocole du client (Anthropic server_tool_use / OpenAI url_citation / Responses web_search_call), de sorte que les clients affichent les citations au format natif de chaque SDK.
Les échecs de recherche se dégradent gracieusement sans bloquer la requête, et la recherche détournée est exclue de la facturation à l’usage.
5 leviers qui portent réellement
- Gestion des moteurs : clé API serper + test intégré + priorité multi-moteurs
- Bascule à trois positions par modèle : suivre la capacité / forcer / désactiver, priorité modèle > amont > déclaration de capacité
- Blocs de recherche natifs par protocole : Anthropic / OpenAI / Responses affichent chacun leur propre format de citation
- Dégradation sûre : un échec de recherche ne bloque jamais la requête ; les raisons de dégradation atterrissent dans la zone de notification de détail des journaux
- Facturation transparente : la recherche détournée est exclue de la facturation à l’usage ; l’usage mémoire a une formule de plafond documentée