Revenir au contenu principal
Stratégie de données

Quatre modèles d'architecture d'IA pour les secteurs réglementés

Comment intégrer le déterminisme, le raisonnement des agents, l'autorité humaine et l'autonomie limitée dans les systèmes d'entreprise

par Molly Nagamuthu

  • Quatre modèles d'architecture de production pour combiner des agents avec des contrôles déterministes et la responsabilité humaine.
  • Un cadre de décision pour déterminer où les agents peuvent raisonner, générer, recommander ou agir.
  • Pourquoi des données gouvernées, la lignée, l'application, l'évaluation et des preuves d'audit — et non le modèle seul — rendent les agents d'entreprise déployables.

L'IA d'entreprise ne peut pas remplacer tous les contrôles déterministes. Ces quatre modèles aident les architectes à décider où les agents peuvent raisonner, agir et rester soumis à des contrôles ou à une autorité humaine.

La question architecturale derrière l'IA d'entreprise

Les entreprises intègrent des agents dans des systèmes basés sur des règles fixes et des processus répétitifs. Les agents peuvent analyser des problèmes complexes, mais les systèmes d'entreprise, en particulier dans les secteurs réglementés, doivent rester contrôlés et auditable. La question n'est pas de savoir lequel choisir. Il s'agit de les faire fonctionner ensemble.

Nous rédigeons cette série parce que les clients nous posent les mêmes questions : Comment les entreprises du monde entier gèrent-elles des contraintes similaires aux nôtres ? Quelle est la réalité de l'adoption de l'IA d'entreprise ? Comment d'autres organisations abordent-elles ces nuances ? Comment Databricks aide-t-il à les résoudre lorsque les exigences sont ambigües, complexes et si spécifiques à l'institution ?

En tant qu'ingénieurs de déploiement avancé, nous travaillons à cette limite. Nous transformons des problèmes métiers ambigus en systèmes prêts pour la production. Bien que les implémentations varient selon les institutions et que nous ne puissions pas divulguer de détails spécifiques, nous pouvons discuter de modèles et de pratiques généralisés. À mesure que les agents intègrent les grands systèmes d'entreprise, deux questions reviennent sans cesse :

  • Où le déterminisme doit-il être maintenu (par exemple, lorsque les actions sont irréversibles ou que les erreurs présentent un risque asymétrique) ?
  • Où peut-on accorder de l'autonomie à un agent, en particulier si les actions sont réversibles ou peu coûteuses à corriger ?

La réponse n'est pas la même pour tous les cas d'utilisation. Parmi les systèmes que nous construisons et modernisons sur le terrain, quatre modèles émergent. Ce premier article présente le cadre. Les quatre articles suivants montrent comment chaque modèle fonctionne en pratique.

image2.png
Figure 1. Un cadre de décision pour placer des agents dans les systèmes d'entreprise réglementés.

Modèle 1 : Contrôle déterministe et raisonnement des agents

Utilisez ce modèle lorsque les résultats doivent être strictement déterministes et reproductibles, ou lorsque les erreurs sont irréversibles et entraînent des coûts de correction élevés. Ici, déterministe signifie que le résultat peut être reproduit selon un contrat explicite et versionné qui enregistre ensemble les données, la règle, la tolérance, la configuration et le contexte d'exécution.

Les institutions financières disposent de nombreux contrôles. Les rapprochements en sont un bon exemple. Le contrôle doit calculer les soldes, appliquer une règle approuvée et produire un résultat de type SUCCÈS ou ÉCHEC reproductible. Un agent ne peut pas réinterpréter la tolérance ni transformer sa propre explication en un contrôle validé. En cas d'échec d'un rapprochement, un agent peut rassembler des preuves, inspecter la traçabilité et le statut des lots, comparer l'écart avec des incidents antérieurs, tester un ensemble limité de causes et recommander la suite à donner. Le contrôle déterministe décide toujours si le rapprochement a réussi. L'agent aide à expliquer pourquoi il a échoué.

L'agent peut enquêter sur le contrôle. Il ne peut pas devenir le contrôle.

Ce modèle s'applique également aux calculs réglementaires, à l'application des politiques, aux barrières de qualité des données et aux contrôles d'intégrité du système, partout où le résultat doit être précis, reproductible et auditable.

Modèle 2 : Exécution par agent et juge déterministe

Utilisez ce modèle lorsque plusieurs réponses peuvent être valides, mais que le résultat peut être testé objectivement.

La migration ou la modernisation de systèmes existants en est un bon exemple. Un agent peut analyser une charge de travail existante et générer une implémentation cible. Il peut ne pas produire exactement la même implémentation à chaque fois. Ce n'est pas nécessairement un problème. Ce qui compte, c'est de savoir si le résultat est correct.

Un juge déterministe peut tester si le code compile, si les schémas sont conformes, si les données se rapprochent, si les totaux de contrôle correspondent, si les exigences de gouvernance sont satisfaites et si les performances atteignent l'objectif. Si le résultat échoue, l'agent reçoit les preuves, diagnostique le problème, corrige son travail et relance la validation.

Le passage de ce test prouve que le candidat satisfait au contrat d'acceptation approuvé. Cela ne prouve pas que le contrat couvre tous les comportements en production. La couverture des tests, les cas limites de production et les révisions périodiques restent importants.

Ne rendez pas l'agent déterministe lorsque vous pouvez évaluer sa sortie de manière déterministe.

Le validateur n'est pas seulement un contrôle. C'est la boucle de rétroaction qui permet à l'agent d'améliorer son résultat. Ce modèle fonctionne bien pour la migration, la génération de code, la transformation, les tests et la correction.

Modèle 3 : Raisonnement des agents et autorité humaine

Utilisez ce modèle lorsque la réponse requiert du jugement et ne peut pas être prouvée correcte par un test déterministe.

Les enquêtes sur la criminalité financière en sont un exemple. Un agent peut corréler des transactions, des documents, des politiques, des relations et des schémas historiques. Il peut rassembler des preuves, identifier des explications probables, soulever des questions non résolues et recommander une décision. Cela est également souvent exigé par la réglementation lorsqu'une décision affecte significativement une personne, ou lorsque vous devez justifier le résultat auprès d'un régulateur, d'un auditeur, d'un tribunal ou de la personne concernée.

Mais une recommandation n'est pas une décision. Lorsque le résultat a des conséquences et qu'il n'existe aucun moyen déterministe d'établir l'exactitude, l'autorité doit rester entre les mains d'une personne responsable.

La révision humaine doit se situer à la limite de la décision, et non à chaque étape.

Le raisonnement de l'agent doit également souvent pouvoir être expliqué. Chaque recommandation doit remonter aux preuves, aux sources et aux outils qui la sous-tendent. Cela permet à l'enquêteur de contester la logique et aux auditeurs ou régulateurs de reconstituer la manière dont l'agent est parvenu à sa recommandation. Lorsque la réglementation donne à une personne concernée le droit à une explication, celle-ci doit être spécifique à la décision. Elle couvre les principaux facteurs, le rôle de l'agent et celui de l'humain. "Le modèle l'a signalé" ne suffit pas. L'enquêteur enregistre la justification de la décision finale, y compris toute dérogation de l'agent.

L'agent réduit l'effort d'enquête et améliore la cohérence des preuves présentées. L'enquêteur conserve la responsabilité de la décision finale, qui peut être subjective, nuancée et non déterministe.

Modèle 4 : Exécution par agent avec autonomie limitée

Utilisez ce modèle lorsque l'agent doit agir, mais uniquement dans le cadre d'une enveloppe opérationnelle explicite.

Considérez un module d'intelligence de gouvernance qui gère l'accès aux données d'entreprise régies. Un utilisateur décrit de quelles données il a besoin, pourquoi il en a besoin et pour combien de temps. L'agent interprète la demande, identifie le produit de données approprié, détermine l'accès minimum requis et rassemble le contexte pertinent concernant l'identité, la politique, la propriété, la classification, la traçabilité et l'utilisation.

Exiger une approbation manuelle pour chaque demande standard crée des retards sans nécessairement réduire le risque. Donner à l'agent une autorité illimitée pour accorder l'accès crée un fossé de contrôle inacceptable. La réponse est l'autonomie limitée.

L'enveloppe opérationnelle définit :

  • quels produits de données et niveaux d'accès sont éligibles au traitement automatisé ;
  • quelles règles d'identité, de finalité, de géographie, d'entité juridique, de résidence et de séparation des tâches doivent être validées ;
  • la durée maximale et le niveau d'accès minimal pouvant être accordés ;
  • quelles actions Unity Catalog approuvées l'agent peut initier ;
  • quelles demandes sensibles, ambiguës ou exceptionnelles nécessitent une approbation humaine ; et
  • la manière dont l'accès est surveillé, expiré, révoqué et enregistré pour l'audit.

Dans cette enveloppe, l'agent peut interpréter la demande, rassembler les preuves, sélectionner le flux de travail approuvé et initier un droit limité dans le temps. Des services de politiques déterministes valident chaque condition requise avant que Unity Catalog n'applique l'octroi.

N'essayez pas de contraindre chaque décision. Contraignez l'enveloppe opérationnelle. La mise en place de cadres de jugement multi-agents à travers les cycles de validation dans cette enveloppe peut également compléter la supervision humaine par des contrôles de sécurité automatisés et multi-perspectives.

Si la demande se situe en dehors de l'enveloppe - par exemple, parce qu'elle implique des données sensibles, des attributs manquants, des politiques contradictoires, des privilèges excessifs ou une exception de séparation des tâches -, le système bloque l'exécution directe et la route vers le propriétaire des données, le gestionnaire ou le réviseur des risques approprié.

Comment les systèmes existants alimentent l'architecture des agents

Capacités de la plateforme Databricks

Databricks offre une base gouvernée à travers les quatre modèles. Omnigent permet de composer des agents et des structures d'agents sans imposer un agent unique comme architecture. Unity Gateway gouverne l'accès aux modèles, aux outils, aux serveurs MCP et aux API externes. Unity Catalog gouverne les données d'entreprise et applique les accès approuvés, y compris les règles de résidence et de transfert transfrontalier. La connectivité sécurisée atteint les systèmes sur site, cloud et SaaS sans contourner ces points de contrôle. MLflow préserve les traces et les preuves d'évaluation qui servent également de pistes d'audit pour les régulateurs. Consultez le diagramme ci-joint pour voir une architecture de référence montrant comment les appels d'agents transitent par des points de contrôle gouvernés vers les systèmes clients dans des environnements sur site, cloud et réglementés.

image1.png

La modernisation traditionnelle modifie l'endroit et la manière dont la technologie s'exécute. La transformation par l'IA modifie le modèle d'exécution lui-même. Les systèmes qui suivaient principalement des instructions prédéfinies peuvent désormais interpréter, raisonner, générer et agir.

Cela ne signifie pas qu'il faille jeter aux oubliettes les systèmes déterministes que les entreprises ont mis des décennies à bâtir. Bien souvent, ces systèmes deviennent la fondation de l'architecture d'agents :

  • Les moteurs de règles deviennent des plans de contrôle.
  • Les frameworks de validation deviennent des juges déterministes.
  • Les critères d'acceptation deviennent des évaluations d'agents.
  • Les limites opérationnelles deviennent des frontières d'autonomie.
  • Les données gouvernées, le lignage et les pistes d'audit fournissent le contexte et les preuves dont les agents ont besoin.

L'opportunité ne se résume pas à remplacer de vieux systèmes par des agents. Pour les quatre modèles, ce qui rend un agent déployable, c'est le terrain sur lequel il repose : des données d'entreprise gouvernées, un lignage vérifiable, des accès appliqués, une qualité mesurable et une piste d'audit reproductible.

C'est particulièrement important dans les secteurs réglementés, où une limite architecturale fragile peut entraîner des défaillances de contrôle, des pénalités ou des retards dans les engagements réglementaires. Une limite bien conçue peut réduire les efforts d'investigation, raccourcir les cycles de modernisation et permettre une automatisation à forte valeur ajoutée sans transférer une autorité inappropriée au modèle.

L'architecture native pour l'IA consiste à décider où doivent résider le déterminisme, l'intelligence et l'autorité.

Choisissez le modèle avant de choisir l'agent

Avant de concevoir une solution d'agents, posez trois questions :

  • Sur quoi l'agent est-il autorisé à raisonner ?
  • Que l'agent est-il autorisé à faire ?
  • Qu'est-ce qui doit rester en dehors de l'autorité de l'agent ?

Ces réponses déterminent si la solution a besoin d'un contrôle déterministe, d'un juge déterministe, d'une frontière de décision humaine ou d'une enveloppe opérationnelle explicite. Le modèle vient après cette décision architecturale, et non avant.

Les modèles ne s'excluent pas mutuellement. Un système de production peut utiliser un contrôle déterministe pour une décision, l'autorité humaine pour une exception, et une autonomie encadrée pour une correction approuvée. L'essentiel est de rendre chaque limite explicite.

À mesure que les systèmes mûrissent en production, ces limites peuvent s'adapter : les juges déterministes affinent leurs règles d'évaluation grâce aux données d'utilisation accumulées, tandis que les limites de l'autorité humaine peuvent évoluer à mesure que les retours renforcent la confiance dans le raisonnement des agents.

Continuer la série

Les quatre prochains articles abordent chaque modèle, de l'architecture à l'implémentation :

Partie 2 : Contrôle déterministe et raisonnement d'agent
Comment les agents peuvent enquêter sur des exceptions concernant des contrôles financiers déterministes sans affaiblir l'application ou l'auditabilité.

Partie 3 : Exécution par agent et juge déterministe
Comment les agents peuvent générer et corriger des implémentations tandis qu'une validation déterministe décide si le résultat est acceptable.

Partie 4 : Raisonnement par agent et autorité humaine
Comment Lakewatch peut combiner des signaux de surveillance, des données bancaires et l'intelligence d'un réseau spécialisé en un package de preuves vérifiable, tandis qu'un enquêteur responsable conserve la décision finale.

Partie 5 : Exécution par agent avec autonomie encadrée
Un modèle de conception pour permettre aux agents de coordonner l'accès aux données gouvernées dans une enveloppe opérationnelle définie par les règles, avec une autorisation déterministe, l'application de Unity Catalog et la résolution humaine des exceptions majeures.

Classez votre cas d'usage à l'aide du cadre à quatre modèles, puis passez à l'article d'implémentation qui correspond à la limite requise par votre système. Pour les cas d'usage réglementés qui traversent plusieurs modèles, contactez votre équipe de compte Databricks ou votre responsable de mission FDE pour cartographier les limites de contrôle, de raisonnement et d'autorité avant de sélectionner l'architecture de l'agent.

À propos de l'auteur

Molly Nagamuthu est ingénieure principale de déploiement avancé chez Databricks. Elle travaille avec les entreprises sur des initiatives complexes de transformation des données et de l'IA, en particulier avec les banques mondiales où la modernisation doit coexister avec la gouvernance, les contrôles et la rigueur opérationnelle.

Dans cette série, Molly et d'autres ingénieurs de déploiement avancé partagent des modèles d'implémentation issus du terrain, à mesure que les entreprises passent d'architectures déterministes à des systèmes natifs pour l'IA.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original

Recevez les derniers articles dans votre boîte mail

Abonnez-vous à notre blog et recevez les derniers articles directement dans votre boîte mail.