Réussir la gouvernance de l'IA sans tout ralentir

Alors que les entreprises passent de l'expérimentation de l'IA à sa montée en charge, la gouvernance est devenue une préoccupation au niveau de la direction. Le défi pour les dirigeants n'est plus de savoir si la gouvernance est importante, mais comment la concevoir de manière à favoriser à la fois la vitesse, l'innovation et la confiance.

Pour explorer comment cet équilibre se manifeste en pratique, je me suis entretenu avec David Meyer, vice-président senior des produits chez Databricks. Travaillant en étroite collaboration avec des clients de divers secteurs d'activité et de toutes les régions, David a une vision claire des domaines où les organisations font de réels progrès, de ceux où elles sont bloquées, et de la manière dont les décisions de gouvernance d'aujourd'hui façonnent ce qui sera possible demain.

Ce qui a retenu mon attention dans notre conversation, c'est son pragmatisme. Plutôt que de considérer la gouvernance de l'IA comme quelque chose de nouveau ou d'abstrait, David revenait constamment aux principes de base : la discipline d'ingénierie, la visibilité et la responsabilité.

La gouvernance de l'IA pour aller plus vite

Catherine Brown : Vous passez beaucoup de temps avec des clients de divers Secteurs d'activité. Qu'est-ce qui change dans la façon dont les dirigeants envisagent la gouvernance pour les un ou deux ans à venir ?

David Meyer : L'une des tendances les plus claires que j'observe est que les défis de la gouvernance sont à la fois organisationnels et techniques, et que les deux sont étroitement liés. Sur le plan organisationnel, les dirigeants essaient de déterminer comment permettre aux équipes d'avancer rapidement sans créer de chaos.

Les organisations qui éprouvent des difficultés ont tendance à être excessivement averses au risque. Elles centralisent chaque décision, ajoutent de lourds processus d'approbation et ralentissent tout involontairement. Ironiquement, cela conduit souvent à de pires résultats, et non à des résultats plus sûrs.

Ce qui est intéressant, c'est qu'une gouvernance technique solide peut en fait permettre une plus grande flexibilité organisationnelle. Lorsque les dirigeants ont une réelle visibilité sur les données, les modèles et les agents utilisés, ils n'ont pas besoin de contrôler chaque décision manuellement. Ils peuvent donner plus de liberté aux équipes car ils comprennent ce qui se passe dans l'ensemble du système. En pratique, cela signifie que les équipes n'ont pas besoin de demander la permission pour chaque modèle ou cas d'usage : l'accès, l'audit et les mises à jour sont gérés de manière centralisée, et la gouvernance s'effectue par conception plutôt que par exception.

Catherine Brown : De nombreuses organisations semblent coincées entre une progression trop rapide et un blocage total. Quelles sont les entreprises qui, selon vous, y parviennent ?

David Meyer : Je vois généralement deux extrêmes.

D'un côté, il y a des entreprises qui décident d'adopter une approche « IA d'abord » et encouragent tout le monde à créer librement. Cela fonctionne pendant un certain temps. Les gens avancent vite, il y a beaucoup d'enthousiasme. Puis, en un clin d'œil, vous vous retrouvez avec des milliers d'agents, pas de véritable inventaire, aucune idée de ce qu'ils coûtent et aucune vision claire de ce qui est réellement exécuté en production.

À l'autre extrême, il y a des organisations qui essaient de tout contrôler en amont. Elles mettent en place un point de passage obligé unique pour les approbations, et le résultat est que presque rien de significatif n'est jamais déployé. Ces équipes ressentent généralement la pression constante d'être à la traîne.

Les entreprises qui réussissent bien dans ce domaine se situent généralement quelque part au milieu. Au sein de chaque fonction métier, elles identifient des personnes qui connaissent bien l'IA et peuvent guider l'expérimentation au niveau local. Ces personnes comparent leurs notes à travers l'organisation, partagent ce qui fonctionne et réduisent l'ensemble des outils recommandés. Passer de dizaines d'outils à seulement deux ou trois fait une différence beaucoup plus grande que ce que les gens imaginent.

Les agents ne sont pas aussi nouveaux qu'on pourrait le croire

Catherine : Une chose que vous avez dite plus tôt a vraiment retenu mon attention. Vous avez suggéré que les agents ne sont pas aussi fondamentalement différents que ce que beaucoup de gens pensent.

David : C'est exact. Les agents peuvent sembler nouveaux, mais bon nombre de leurs caractéristiques nous sont en fait très familières.

Elles coûtent de l'argent en permanence. Elles élargissent votre surface d'attaque de sécurité. Elles se connectent à d'autres systèmes. Ce sont toutes des choses auxquelles nous avons déjà eu affaire.

Nous savons déjà comment gouverner les actifs de données et les APIs, et les mêmes principes s'appliquent ici. Si vous ne savez pas où se trouve un agent, vous ne pouvez pas le désactiver. Si un agent traite des données sensibles, quelqu'un doit en être responsable. De nombreuses organisations supposent que les systèmes d'agents nécessitent un tout nouveau corpus de règles. En réalité, si vous empruntez des pratiques éprouvées de cycle de vie et de gouvernance à la gestion de données, vous avez déjà fait la plus grande partie du chemin.

Catherine : Si un dirigeant vous demandait un point de départ simple, que lui diriez-vous ?

David : Je commencerais par l'observabilité.

Une IA pertinente repose presque toujours sur des données propriétaires. Vous devez savoir quelles données sont utilisées, quels modèles sont impliqués et comment ces éléments s'assemblent pour former des agents.

De nombreuses entreprises utilisent plusieurs fournisseurs de modèles sur différents clouds. Lorsque ces modèles sont gérés isolément, il devient très difficile de comprendre les coûts, la qualité ou les performances. Lorsque les données et les modèles sont gouvernés ensemble, les équipes peuvent tester, comparer et améliorer beaucoup plus efficacement.

Cette observabilité est d'autant plus importante que l'écosystème évolue très rapidement. Les dirigeants doivent être capables d'évaluer de nouveaux modèles et de nouvelles approches sans avoir à reconstruire tout leur stack à chaque changement.

Catherine : Dans quels domaines les organisations progressent-elles rapidement, et où ont-elles tendance à être bloquées ?

David : Les agents basés sur la connaissance sont généralement les plus rapides à mettre en place. Il suffit de les pointer vers un ensemble de documents et soudain, les gens peuvent poser des questions et obtenir des réponses. C'est puissant. Le problème, c'est que beaucoup de ces systèmes se dégradent avec le temps. Le contenu change. Les index ne sont plus à jour. La qualité baisse. La plupart des équipes ne prévoient pas cela.

Pérenniser la valeur signifie penser au-delà du déploiement initial. Vous avez besoin de systèmes qui rafraîchissent les données en continu, évaluent les résultats et améliorent la précision au fil du temps. Sans cela, de nombreuses organisations constatent une excellente activité les premiers mois, suivie d'une baisse de l'utilisation et de l'impact.

Traiter l'IA agentique comme une discipline d'ingénierie

Catherine : En pratique, comment les dirigeants équilibrent-ils la vitesse avec la confiance et le contrôle ?

David : Les organisations qui réussissent bien dans ce domaine traitent l'IA agentique comme un problème d'ingénierie. Elles appliquent la même discipline que pour les logiciels : tests, monitoring et déploiement continus. Les défaillances sont prévisibles. L'objectif n'est pas d'éviter chaque problème, mais de limiter la portée de l'impact et de résoudre les problèmes rapidement. Lorsque les équipes y parviennent, elles progressent plus rapidement et avec plus d'assurance. Si rien ne va jamais de travers, c'est que vous êtes probablement trop prudent.

Catherine : Comment les attentes en matière de confiance et de transparence évoluent-elles ?

David : La confiance ne vient pas du fait de supposer que les systèmes seront parfaits. Elle vient du fait de savoir ce qui s'est passé après un incident. Vous avez besoin de traçabilité : quelles données ont été utilisées, quel modèle était impliqué, qui a interagi avec le système. Lorsque vous disposez d'un tel niveau d'auditabilité, vous pouvez vous permettre de faire plus d'expérimentation.

C'est ainsi que les grands systèmes distribués ont toujours été gérés. Vous optimisez en vue de la reprise, et non de l'absence de défaillance. Cet état d'esprit devient encore plus important à mesure que les systèmes d'IA gagnent en autonomie.

Élaborer une stratégie de gouvernance de l'IA

Plutôt que de considérer l'IA agentique comme une rupture nette avec le passé, il s'agit d'une extension des disciplines que les entreprises savent déjà gérer. Pour les dirigeants qui réfléchissent à ce qui compte vraiment pour l'avenir, trois thèmes se dégagent :

• Utilisez la gouvernance pour favoriser la rapidité, pas pour la freiner. Les organisations les plus solides mettent en place des contrôles fondamentaux afin que les équipes puissent avancer plus rapidement sans perdre en visibilité ou en responsabilité.
• Appliquez aux agents des pratiques d'ingénierie et de données familières. L'inventaire, la gestion du cycle de vie et la traçabilité sont tout aussi importants pour les agents que pour les données et les APIs.
• Traitez l'IA comme un système de production, et non comme un lancement unique. La valeur durable dépend d'une évaluation continue, de données récentes et de la capacité à détecter et corriger rapidement les problèmes.

Ensemble, ces idées mènent à une conclusion claire : la valeur durable de l'IA ne consiste pas à courir après les derniers outils ou à tout verrouiller, mais à bâtir des fondations qui permettent aux organisations d'apprendre, de s'adapter et de monter en charge en toute confiance.

Pour en savoir plus sur la création d'un modèle opérationnel efficace, téléchargez le modèle de maturité Databricks AI.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original