Une passerelle IA d’entreprise est un service unique par lequel chaque produit accède aux modèles de fondation. Bien conçue, elle impose la résidence des données et le filtrage des PII en un seul endroit, route les requêtes vers les modèles pour que les produits ne dépendent d’aucun modèle en particulier, et donne à l’organisation un point unique pour observer, gouverner et faire évoluer l’usage de l’IA. Ce guide décrit ce qu’une telle passerelle doit imposer sur Amazon Bedrock, comment le routage isole les produits du cycle de vie des modèles et ce que la centralisation coûte.
Pourquoi une passerelle
Sans passerelle, chaque équipe produit s’intègre directement aux fournisseurs de modèles. Chaque intégration doit alors résoudre seule les mêmes problèmes : quelles régions et quels modèles sont autorisés, comment filtrer les données personnelles, comment conserver les identifiants, comment tracer l’usage et comment remplacer un modèle quand un meilleur ou un moins cher arrive. Les réponses divergent d’une équipe à l’autre, et l’organisation n’a aucun endroit unique pour les changer.
Une passerelle transforme ces décisions produit par produit en décisions de plateforme. Les produits appellent la passerelle avec un contrat stable, et la passerelle décide comment, où et avec quel modèle la requête est servie.
Ce que la passerelle impose
Trois éléments relèvent de la passerelle, parce qu’ils sont de la politique et non de la logique produit.
La résidence des données. Pour les organisations soumises aux règles européennes, l’exigence est souvent que l’inférence reste dans l’UE. Amazon Bedrock permet d’invoquer les modèles via des profils d’inférence, et choisir des profils limités à l’UE garde les requêtes dans les régions européennes. La passerelle peut exiger ces profils pour chaque appel. Pour que la règle tienne même si une équipe contourne la passerelle, ajoutez un contrôle préventif au niveau du compte : une service control policy (SCP) qui refuse l’invocation de modèles hors du périmètre autorisé. La passerelle est le chemin pratique, et la SCP est la garantie.
Le filtrage des PII. Amazon Bedrock Guardrails sait détecter et filtrer les informations personnelles identifiables dans les prompts et les réponses. Appliquer un garde-fou à la passerelle garantit qu’aucun produit ne peut l’oublier, et qu’un changement de politique est un changement en un seul endroit.
Le routage des modèles. La passerelle associe une capacité exposée aux produits à un modèle concret, ce que détaille la section suivante.
Routage : isoler les produits du cycle de vie des modèles
Les modèles sont retirés, remplacés et retarifés selon un calendrier que l’équipe produit ne maîtrise pas. Si les produits nomment un modèle précis, chaque changement de modèle devient un changement dans chaque produit. Si les produits demandent à la passerelle une capacité comme « résumer » ou « extraire », et que la passerelle la route vers un modèle, un changement de modèle devient un changement de configuration en un seul endroit, testé sur le jeu d’évaluation de la plateforme avant d’être déployé.
Le routage permet aussi d’envoyer des charges différentes vers des modèles différents : un petit modèle rapide pour la classification et un plus grand pour le raisonnement.
Concevoir le contrat
Gardez le contrat orienté produit : noms de capacités, schémas d’entrée et de sortie, identifiant de requête, et un modèle d’erreurs explicite qui distingue un refus de politique (par exemple, un garde-fou a bloqué la requête) d’une panne du fournisseur. Les équipes produit peuvent alors traiter les deux cas sans savoir quel modèle a répondu.
Comme chaque appel passe par un service unique, la passerelle est aussi l’endroit naturel pour enregistrer qui a appelé quel modèle, avec quelle version de prompt et pour quel coût, et pour appliquer des quotas par produit. Ses traces alimentent la même boucle d’évaluation et d’observabilité que le reste de la plateforme.
En pratique
Sur la plateforme d’ENSO, j’ai conçu une passerelle IA centrale comme chemin d’accès unique à Amazon Bedrock, avec des profils d’inférence limités à l’UE imposés à toute l’organisation via une SCP, le filtrage des PII par Guardrails et un routage des modèles qui isole les produits de leur cycle de vie. La passerelle est un élément d’une plateforme partagée et multi-tenant qui alimente quatre capacités produit ; l’architecture complète est décrite dans l’étude de cas ENSO.
Compromis et limites
La centralisation a un coût. La passerelle est un composant de plus à exploiter, et comme chaque appel de modèle y passe, elle doit être hautement disponible et assez rapide pour ne pas ajouter de latence perceptible. Elle peut aussi devenir un frein au changement si l’équipe qui la porte ne suit pas les besoins des produits, d’où l’intérêt de garder un contrat réduit et stable.
Enfin, une passerelle n’impose la politique qu’au trafic qui la traverse. Le contrôle au niveau du compte couvre le trafic qui ne la traverse pas, et c’est pourquoi les deux fonctionnent ensemble.