Présentation du cadre de gouvernance de l'IA Databricks

Aujourd'hui, nous présentons le cadre de gouvernance de l'IA Databricks (DAGF v1.0), une approche structurée et pratique pour gouverner l'adoption de l'IA dans toute l'entreprise.

Alors que les organisations adoptent l'IA à grande échelle, le besoin d'une gouvernance formelle croît. Les entreprises doivent aligner le développement de l'IA sur les objectifs commerciaux, respecter les obligations légales et tenir compte des risques éthiques. Ce cadre est conçu pour soutenir le développement, le déploiement et l'amélioration continue des programmes.

Le DAGF complète le cadre de sécurité de l'IA Databricks, offrant une vue complète de la gouvernance qui couvre à la fois la sécurité et l'intégrité opérationnelle.

Pourquoi la gouvernance de l'IA ne peut pas attendre

Selon une enquête mondiale menée en 2024 auprès de 1 100 dirigeants technologiques et ingénieurs par Economist Impact, 40 % des répondants estimaient que le programme de gouvernance de l'IA de leur organisation était insuffisant pour garantir la sécurité et la conformité de leurs actifs et cas d'utilisation d'IA. De plus, les violations de la confidentialité et de la sécurité des données étaient la principale préoccupation pour 53 % des architectes d'entreprise, tandis que la sécurité et la gouvernance sont les aspects les plus difficiles de l'ingénierie des données pour les ingénieurs.

En outre, selon Gartner, la gestion de la confiance, des risques et de la sécurité de l'IA est la tendance stratégique n° 1 en 2024 qui influencera les décisions commerciales et technologiques, et d'ici 2026, les modèles d'IA des organisations qui opérationnalisent la transparence, la confiance et la sécurité de l'IA atteindront une augmentation de 50 % en termes d'adoption, d'objectifs commerciaux et d'acceptation par les utilisateurs.

Bien qu'il soit évident que le manque de programmes de gouvernance de l'IA au niveau de l'entreprise devienne rapidement un obstacle majeur à la réalisation du retour sur valeur des investissements en IA et à l'adoption globale de l'IA, nous avons réalisé qu'il n'existe pas de cadre de guidance unique et complet que les entreprises puissent exploiter pour construire des programmes de gouvernance de l'IA efficaces.

Les cinq piliers fondamentaux

Dans ce cadre, nous présentons 43 considérations clés qui sont essentielles pour que chaque entreprise comprenne (et mette en œuvre si nécessaire) afin de gouverner efficacement ses parcours d'IA.

Ces considérations clés ont ensuite été regroupées logiquement en 5 piliers fondamentaux, conçus et séquencés pour refléter les structures organisationnelles et les personas typiques des entreprises.

Pilier I : Organisation de l'IA

Le pilier Organisation de l'IA intègre la gouvernance de l'IA dans la stratégie de gouvernance plus large de l'organisation. Il souligne les bases d'un programme d'IA efficace grâce à des meilleures pratiques telles que des objectifs commerciaux clairement définis et l'intégration des pratiques de gouvernance appropriées qui supervisent les personnes, les processus, la technologie et les données de l'organisation. Il explique comment les organisations peuvent établir la supervision nécessaire pour atteindre leurs objectifs stratégiques tout en réduisant les risques.

Pilier II : Conformité légale et réglementaire

Le pilier Conformité légale et réglementaire aide les organisations à aligner les initiatives d'IA sur les lois et réglementations applicables. Il guide la gestion des risques juridiques, l'interprétation des exigences sectorielles et l'adaptation des stratégies de conformité en réponse à l'évolution des paysages réglementaires. Le résultat est que les programmes d'IA sont développés et déployés dans un cadre juridique et réglementaire solide.

Pilier III : Éthique, transparence et interprétabilité

Le pilier Éthique, transparence et interprétabilité aide les organisations à construire des systèmes d'IA fiables et responsables. Il met l'accent sur le respect des principes éthiques tels que l'équité, la responsabilité et la supervision humaine, tout en promouvant l'explicabilité et l'engagement des parties prenantes. Ce pilier fournit des méthodes pour établir la responsabilité et la structure au sein des équipes organisationnelles, aidant à garantir que les décisions d'IA sont interprétables, alignées sur les normes éthiques évolutives, et favorisant la confiance à long terme et l'acceptation sociétale.

Pilier IV : Données, IA Ops et infrastructure

Le pilier Données, opérations d'IA (AIOps) et infrastructure définit la base qui aide les organisations à déployer et à maintenir pleinement l'IA. Il fournit des directives pour créer une infrastructure d'IA évolutive et fiable, gérer le cycle de vie de l'apprentissage automatique et garantir la qualité, la sécurité et la conformité des données. Ce pilier met également l'accent sur les meilleures pratiques pour les opérations d'IA, y compris l'entraînement, l'évaluation, le déploiement et la surveillance des modèles, afin que les systèmes d'IA soient fiables, efficaces et alignés sur les objectifs commerciaux.

Pilier V : Sécurité de l'IA

Le pilier Sécurité de l'IA présente le cadre de sécurité de l'IA Databricks (DASF), un cadre complet pour comprendre et atténuer les risques de sécurité tout au long du cycle de vie de l'IA. Il couvre des domaines critiques tels que la protection des données, la gestion des modèles, la mise à disposition sécurisée des modèles et la mise en œuvre de mesures de cybersécurité robustes pour protéger les actifs d'IA.

Pour un aperçu supplémentaire du DAGF et un exemple de la manière dont une organisation peut exploiter ce cadre pour créer une propriété claire et un alignement tout au long du cycle de vie du programme d'IA, veuillez regarder cette présentation des auteurs lors du Data + AI Summit 2025.

Pourquoi Databricks mène cet effort

En tant que leader de l'industrie dans le domaine des données et de l'IA, avec plus de 15 000 clients dans diverses régions géographiques et segments de marché, Databricks continue de tenir son engagement envers les principes de développement responsable et d'innovation open source. Nous avons respecté ces engagements par notre :

• Engagement auprès des acteurs de l'industrie et du gouvernement pour promouvoir l'innovation et plaider en faveur de l'utilisation d'une IA sûre et digne de confiance
• Ateliers interactifs pour sensibiliser les organisations à la manière de mener à bien leur parcours d'IA de manière soucieuse des risques
• Open-sourcing d'innovations clés en matière de gouvernance telles que MLFlow et Unity Catalog, la seule solution unifiée de l'industrie pour la gouvernance des données et de l'IA sur tous les clouds, formats de données et plateformes de données.

Ces programmes nous ont offert une visibilité unique sur les problèmes pratiques auxquels les entreprises et les régulateurs sont confrontés aujourd'hui en matière de gouvernance de l'IA. En poursuivant notre engagement à aider chaque entreprise à réussir et à accélérer son parcours de données et d'IA, nous avons décidé de tirer parti de cette visibilité pour construire (et rendre librement disponible) un cadre de gouvernance de l'IA complet, structuré et actionnable.

Téléchargez le cadre de gouvernance de l'IA Databricks dès aujourd'hui !

Le livre blanc sur le cadre de gouvernance de l'IA Databricks est maintenant disponible en téléchargement. Veuillez nous contacter par e-mail à [email protected] pour toute question ou commentaire. Si vous souhaitez contribuer aux futures mises à jour de ce cadre (et d'autres artefacts à venir) en rejoignant notre communauté de réviseurs, nous serions ravis d'avoir de vos nouvelles !

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original