Annonce du cadre de sécurité IA Databricks 2.0
Conseils éprouvés pour atténuer le risque des modèles d'IA à grande échelle
Publié: 12 février 2025
par Kelly Albano, Omar Khawaja et Arun Pamulapati
Summary
- La deuxième édition du Cadre de sécurité IA de Databricks est conçue pour permettre des déploiements d'IA sécurisés et percutants.
- Dans le DASF 2.0, nous avons identifié 62 risques techniques de sécurité et les avons mis en correspondance avec des contrôles recommandés.
- En réponse aux commentaires des utilisateurs, nous avons publié le document compendium DASF, conçu pour aider les utilisateurs à opérationnaliser le DASF.
« L'IA révolutionne la prestation des soins de santé grâce à des innovations comme le pipeline CLEVER GenAI, qui traite plus de 1,5 million de notes cliniques par jour pour classifier les déterminants sociaux clés et avoir un impact sur les soins aux vétérans. Ce pipeline est construit sur une base de sécurité solide, intégrant les contrôles NIST 800-53 et tirant parti du Databricks AI Security Framework pour garantir la conformité et atténuer les risques. À l'avenir, nous explorons des moyens d'étendre ces capacités grâce à l'Infrastructure as Code et à des stratégies de conteneurisation sécurisées, permettant aux agents d'être déployés et mis à l'échelle dynamiquement à partir de référentiels tout en maintenant des normes de sécurité rigoureuses. » - Joseph Raetano, Responsable de l'Intelligence Artificielle, Summit Data Analytics & AI Platform, U.S. Department of Veteran Affairs
« DASF est l'outil essentiel pour transformer la quantification des risques liés à l'IA en une réalité opérationnelle. Avec l'approche FAIR-AI Risk qui en est à sa deuxième année, DASF 2.0 permet aux CISO de combler le fossé entre la cybersécurité et la stratégie commerciale, en parlant un langage commun fondé sur un impact financier mesurable. » - Jacqueline Lebo, Fondatrice AI Workgroup, The FAIR Institute et Risk Advisory Manager, Safe Security
« Alors que l'IA continue de transformer les industries, la sécurisation de ces systèmes contre les cyberattaques sophistiquées et uniques est plus critique que jamais. Le Databricks AI Security Framework est un atout majeur pour les entreprises qui souhaitent être à la pointe de l'innovation et de la sécurité. Avec le DASF, les entreprises sont mieux équipées pour comprendre les risques liés à l'IA et trouver les outils et les ressources pour atténuer ces risques tout en continuant à innover. » - Ian Swanson, PDG, Protect AI
Gartner® : Databricks, leader des bases de données cloud
« Avec le Databricks AI Security Framework, nous sommes en mesure d'atténuer les risques liés à l'IA de manière réfléchie et transparente, ce qui est inestimable pour établir la confiance du conseil d'administration et des employés. C'est un facteur décisif qui nous permet d'intégrer l'IA dans l'entreprise et de faire partie des 15 % d'organisations qui mettent des charges de travail d'IA en production en toute sécurité et avec confiance. » — Coastal Community Bank
« Dans le contexte des données et de l'IA, les conversations sur la sécurité sont rares. Le Databricks AI Security Framework aborde le côté souvent négligé du travail sur l'IA et le ML, servant de guide de premier ordre non seulement pour comprendre les risques de sécurité de l'IA, mais aussi comment les atténuer. » - Josue A. Bogran, Architecte chez Kythera Labs & Conseiller auprès de SunnyData.ai
« Nous avons utilisé le Databricks AI Security Framework pour aider à renforcer la posture de sécurité de notre organisation dans la gestion des risques de sécurité liés au ML et à l'IA. Avec le Databricks AI Security Framework, nous sommes maintenant plus confiants dans l'exploration des possibilités offertes par l'IA et l'analyse des données tout en veillant à ce que nous ayons en place les mesures appropriées de gouvernance des données et de sécurité. » - Muhammad Shami, Vice-président, Jackson National Life Insurance Company
Téléchargez dès aujourd'hui le Databricks AI Security Framework 2.0 !
Le Databricks AI Security Framework 2.0 et son compendium (feuille Google, Excel) sont maintenant disponibles en téléchargement. Pour en savoir plus sur les prochains ateliers sur les risques liés à l'IA ou pour demander un atelier dédié en personne ou virtuel pour votre organisation, contactez-nous à [email protected] ou votre équipe de compte. Nous avons également du contenu de leadership éclairé supplémentaire à venir pour fournir des informations supplémentaires sur la gestion de la gouvernance de l'IA. Pour plus d'informations sur la façon de gérer les risques de sécurité de l'IA, visitez le Centre de sécurité et de confiance Databricks.
(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original