Comment protéger les charges de travail d'IA avec les garde-fous de Unity AI Gateway

Aucune entreprise ne souhaite faire la une des journaux suite à une faille de sécurité causée par l'IA. La gouvernance et la sécurisation de l'utilisation de l'IA sont des tâches complexes ; par exemple, la dernière version du Databricks AI Security Framework répertorie 97 risques de sécurité liés à l'IA validés par l'industrie et 73 contrôles disponibles pour ces risques sur la plateforme Databricks. Lors du déploiement d'agents d'IA, les organisations doivent mettre en œuvre tous les contrôles nécessaires pour garantir une utilisation sûre, sécurisée et conforme. Les garde-fous LLM sont l'un des contrôles de gouvernance et de sécurité essentiels qui s'appliquent à la majorité des cas d'utilisation.

Au-delà de la sécurité, les garde-fous servent également à protéger contre la divulgation de données sensibles d'une entreprise – de l'utilisateur au modèle ou vice versa. Ils peuvent protéger contre les utilisations nuisibles ou offensantes de l'IA, garantir que le contenu généré s'aligne sur les stratégies de marque du produit et maintenir les conversations de chat pertinentes.

Aujourd'hui, nous annonçons les garde-fous LLM dans Unity AI Gateway, désormais en version bêta! Cette version s'appuie sur une version antérieure des garde-fous dans la Gateway ; en particulier, elle utilise des garde-fous basés sur les LLM pour étendre et améliorer les performances des garde-fous pré-intégrés et offre une option de garde-fou personnalisé hautement configurable. Dans cet article de blog, nous vous montrerons comment utiliser ces garde-fous pour atténuer de multiples risques de sécurité et de conformité liés à l'IA.

Scénario : Acme Co. définit des garde-fous pour l'IA générative

L'équipe marketing d'Acme Co. lance un assistant IA pour aider à élaborer des campagnes. Le DSI d'Acme a établi des politiques générales d'entreprise pour l'utilisation des LLM, notamment :

• Aucune PII client ne doit fuir dans les prompts du modèle
• Tous les prompts du modèle doivent être filtrés pour détecter les tentatives de jailbreak et d'injection de prompt
• L'IA ne peut pas être utilisée pour générer du contenu nuisible ou dangereux

De plus, l'équipe marketing est très soucieuse de protéger son image de marque et d'adopter une approche éthique face à la concurrence. Pour cette campagne, elle a décidé d'éviter de dénigrer les concurrents ou même de les nommer.

L'équipe marketing a obtenu un budget pour utiliser l'IA pour ce projet et a travaillé avec l'équipe de la plateforme IA pour obtenir l'accès à un LLM afin d'alimenter son assistant. Voyons comment l'équipe de la plateforme peut configurer un point de terminaison Unity AI Gateway pour ce projet.

Construire un point de terminaison IA gouverné avec Unity AI Gateway

Les équipes ont convenu qu'un modèle polyvalent et performant comme GPT-5.4 conviendrait parfaitement à leur cas d'utilisation et à leur budget. Elles commencent par configurer un point de terminaison pour utiliser ce modèle.

Elles ont également mis en place des tables d'inférence pour surveiller les garde-fous et s'assurer qu'ils fonctionnent correctement.

Quant aux garde-fous, elles alignent leurs exigences métier sur les différents types de garde-fous.

La configuration des garde-fous qui nécessitent les modèles intégrés est simple :

1. Depuis la page AI Gateway du point de terminaison, accédez à l'onglet Guardrails.
2. Cliquez sur le bouton + Ajouter un garde-fou
3. Dans la fenêtre modale Créer un garde-fou, choisissez le type de garde-fou. Dans notre exemple, nous en créerons un pour la rédaction de PII, un pour le Jailbreak et un pour le Contenu dangereux. Consultez la documentation Databricks pour plus de détails sur chacun des types.
4. Configurez le garde-fou pour répondre aux exigences métier. Pour le garde-fou PII, nous voulons le configurer pour qu'il masque les PII en entrée. Chaque garde-fou intégré a une action (c'est-à-dire bloquer ou assainir) et un prompt prédéterminés. Les configurations facultatives pour les garde-fous intégrés incluent :
   1. Un point de terminaison d'évaluateur par défaut (par exemple, databricks-gpt-5-nano) qui peut être modifié si nécessaire pour améliorer les performances ou gérer les coûts.
   2. En mode avancé, l'option d'exécuter le garde-fou en mode journalisation plutôt qu'en mode application par défaut. Cette option est utile lors de l'ajout de nouveaux garde-fous à un point de terminaison qui reçoit du trafic en direct, minimisant les perturbations pour les utilisateurs pendant le test du garde-fou.
5. Une fois satisfait de la configuration du garde-fou, nous cliquons sur Créer un garde-fou pour le déployer.

Nous répétons le même processus pour les garde-fous Jailbreak et Contenu dangereux. Pour le dernier garde-fou – éviter les références à la concurrence – nous utiliserons un garde-fou personnalisé. Nous lui donnons un nom, choisissons de bloquer les sorties qui violent le garde-fou et remplissons le modèle de prompt par défaut pour répondre aux exigences métier.

Ils passent maintenant au test des garde-fous avec des prompts représentatifs.

Tester les garde-fous contre les jailbreaks, les PII et les sorties dangereuses

L'équipe Acme commence à envoyer des exemples de prompts au point de terminaison activé par les garde-fous via un notebook, observant le comportement des garde-fous à la fois dans le notebook et dans la table d'inférence du point de terminaison.

Toutes les barrières de sécurité ont fonctionné comme prévu, à l'exception de la barrière de sécurité personnalisée. L'équipe Acme examine les conseils pour les barrières de sécurité personnalisées dans la documentation Databricks et réalise qu'elle a peut-être sous-spécifié la barrière de sécurité. Par exemple,

• Ils n'ont pas spécifié l'activité d'Acme Co (fournisseur de café de spécialité)
• Ils n'ont pas listé de concurrents spécifiques (par exemple, Highline)
• Ils n'ont pas fourni d'exemples "few-shot"

Ils itèrent sur l'invite de barrière de sécurité personnalisée originale pour combler ces lacunes et élaborent une invite beaucoup plus spécifique et approfondie :

Ils essaient cette invite avec gpt-5-nano et gpt-5-mini comme point de terminaison d'évaluation, mais n'obtiennent toujours pas de performances fiables de la barrière de sécurité. Lorsqu'ils passent à gpt-5-4-mini, ils constatent que la barrière de sécurité personnalisée se déclenche comme prévu, sans dégrader aucun des autres tests de barrière de sécurité, ils sélectionnent donc 5.4-mini comme point de terminaison d'évaluation initial.

En tant que bonne pratique, ils prévoient également de capturer plus de trafic en direct via des tables d'inférence, de gérer les faux positifs et les faux négatifs pour la barrière de sécurité personnalisée et d'apporter d'autres ajustements à l'invite et/ou au modèle afin d'atteindre le bon équilibre entre précision, rappel, coût et latence.

Audit de l'activité des barrières de sécurité avec les tables d'inférence

L'équipe Acme observe les effets des barrières de sécurité dans les tables d'inférence du point de terminaison de l'équipe marketing et des points de terminaison d'évaluation.

• Sur le point de terminaison d'inférence, le suivi d'utilisation enregistre une ligne par requête, y compris celles bloquées. Les requêtes passantes et assainies enregistrent l'utilisation réelle des jetons avec le statut 200. Les requêtes bloquées en entrée enregistrent le statut 400 avec 0 jeton d'entrée et de sortie. Les requêtes bloquées en sortie enregistrent le statut 400 avec le nombre réel de jetons du modèle de destination.
• Sur le point de terminaison d'évaluation, la table d'inférence enregistre une ligne par appel de barrière de sécurité, avec le corps de la requête décrivant ce que l'évaluateur reçoit, la réponse JSON brute de l'évaluateur, la latence, le code de statut et l'horodatage.
• La table d'inférence du point de terminaison d'inférence et la table d'inférence du point de terminaison d'évaluation partagent le même request_id. Ils peuvent joindre ce champ pour retracer une décision de barrière de sécurité jusqu'à l'appel client d'origine.

Ils peuvent créer des rapports et des tableaux de bord sur ces tables d'inférence pour suivre et comprendre l'utilisation des barrières de sécurité en conjonction avec la campagne marketing. Si les utilisateurs se plaignent de barrières de sécurité trop sensibles, l'équipe de la plateforme IA peut valider les sessions des utilisateurs individuels en analysant les actions entreprises au sein de chaque session.

Essayez les barrières de sécurité LLM dans Unity AI Gateway dès aujourd'hui !

Les barrières de sécurité LLM dans Unity AI Gateway sont disponibles en version bêta dès aujourd'hui. Consultez notre documentation pour savoir comment les activer. Commencez par activer les barrières de sécurité pour les points de terminaison gérant les invites sensibles, les outils externes ou les sorties destinées aux clients, puis utilisez les tables d'inférence pour surveiller et affiner le comportement des barrières de sécurité au fil du temps.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original