Ir para o conteĆŗdo principal

Anunciando o Databricks AI Security Framework 2.0

Orientação comprovada para mitigar o risco do modelo de IA em escala

Announcing the Databricks AI Security Framework 2.0

Published: February 12, 2025

SeguranƧa e confianƧa9 min de leitura

Summary

  • A segunda edição do Databricks AI Security Framework foi projetada para permitir implantaƧƵes de IA seguras e impactantes.
  • No DASF 2.0, identificamos 62 riscos de seguranƧa tĆ©cnica e os mapeamos para controles recomendados.
  • Em resposta ao feedback do usuĆ”rio, lanƧamos o documento compĆŖndio DASF, projetado para ajudar os usuĆ”rios a operacionalizar o DASF.

Estamos animados em anunciar a segunda edição do Databricks AI Security Framework (DASF 2.0—baixe agora)! OrganizaƧƵes que buscam aproveitar o potencial da IA precisam tanto do 'gĆ”s' da inovação quanto dos 'freios' da governanƧa e gestĆ£o de riscos. O DASF preenche essa lacuna, permitindo implantaƧƵes seguras e impactantes de IA para sua organização, servindo como um guia abrangente sobre gestĆ£o de riscos de IA.

Este blog fornecerÔ uma visão geral do DASF, explorarÔ as principais percepções obtidas desde que a versão original foi lançada, introduzirÔ novos recursos para aprofundar seu entendimento sobre a segurança da IA e fornecerÔ atualizações sobre nossos colaboradores da indústria.

O que é o Databricks AI Security Framework e o que hÔ de novo na versão 2.0? 

O DASF é um framework e um whitepaper para gerenciar riscos de segurança e governança de IA. Ele enumera os 12 componentes canÓnicos do sistema de IA, seus respectivos riscos e controles acionÔveis para mitigar cada risco. Criado pelas equipes de Segurança e ML da Databricks em parceria com especialistas do setor, ele preenche a lacuna entre as equipes de negócios, dados, governança e segurança com ferramentas prÔticas e estratégias acionÔveis para desmistificar a IA, promover a colaboração e garantir a implementação eficaz.

Ao contrÔrio de outros frameworks, o DASF 2.0 se baseia em padrões existentes para fornecer um perfil de risco de ponta a ponta para implantações de IA. Ele oferece controles de defesa em profundidade para simplificar a gestão de riscos de IA para sua organização operacionalizar e pode ser aplicado à sua plataforma de dados e IA escolhida. 

No DASF 2.0, identificamos 62 riscos de segurança técnica e os mapeamos para 64 controles recomendados para gerenciar o risco de modelos de IA. Também expandimos os mapeamentos para os principais frameworks e padrões de risco de IA do setor, incluindo MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, Algoritmos de Segurança ML da ENISA, ISO 42001, ISO 27001:2022, e o Ata de IA da UE. 

Operacionalizando o DASF - confira o novo compĆŖndio e o vĆ­deo instrucional complementar!

Recebemos feedback valioso ao compartilhar o DASF em eventos do setor, workshops e reuniões com clientes. Muitos de vocês pediram mais recursos para facilitar a navegação no DASF, operacionalizÔ-lo e mapear seus controles de forma eficaz. 

Em resposta, estamos animados em anunciar o lançamento do documento compêndio DASF (Planilha Google, Excel). Este recurso foi projetado para ajudar a operacionalizar o DASF, organizando e aplicando seus riscos, ameaças, controles e mapeamentos para padrões reconhecidos pela indústria de organizações como MITRE, OWASP, NIST, ISO, HITRUST e mais. Também criamos um vídeo instrucional complementar que fornece um guia passo a passo do DASF e seu compêndio. 

Nosso objetivo com essas atualizações é tornar o DASF mais fÔcil de adotar, capacitando as organizações a implementar sistemas de IA de forma segura e confiante. Se você estÔ ansioso para mergulhar, nossa equipe recomenda a seguinte abordagem:

  1. Entenda seus stakeholders, modelos de implantação e casos de uso de IA: Comece com um caso de uso de negócios, utilizando o whitepaper DASF para identificar o melhor modelo de implantação de IA. Escolha entre mais de 80 aceleradores de solução da Databricks para orientar sua jornada. Os modelos de implantação incluem Modelos ML Preditivos, APIs de Modelo de Fundação, LLMs Ajustados e Pré-treinados, RAG, Agentes de IA com LLMs e Modelos Externos. Garanta clareza sobre o desenvolvimento de IA dentro de sua organização, incluindo casos de uso, conjuntos de dados, necessidades de conformidade, processos, aplicações e stakeholders responsÔveis.
  2. Revise os 12 componentes do sistema de IA e 62 riscos: Entenda os 12 componentes dos sistemas de IA, os riscos de segurança cibernética tradicionais e os novos riscos de segurança de IA associados a cada componente, e os stakeholders responsÔveis (por exemplo, engenheiros de dados, cientistas, oficiais de governança e equipes de segurança). Use o DASF para promover a colaboração entre esses grupos ao longo do ciclo de vida da IA.
  3. Revise os 64 controles de mitigação disponíveis: Cada risco é mapeado para controles de mitigação priorizados, começando com a segurança do perímetro e dos dados. Esses riscos e controles são ainda alinhados com 10 padrões da indústria, fornecendo detalhes e clareza adicionais. 
  4. Use o compêndio DASF para localizar riscos, aplicabilidade de controle e impactos de risco: Comece usando a aba "Aplicabilidade de Risco DASF" para identificar riscos relevantes para o seu caso de uso, selecionando um ou mais modelos de implantação de IA. Em seguida, revise os impactos de risco associados, requisitos de conformidade e controles de mitigação. Finalmente, documente detalhes chave para o seu caso de uso, incluindo a descrição do caso de uso de IA, conjuntos de dados, partes interessadas, considerações de conformidade e aplicações.
  5. Implemente os controles priorizados:  Use a aba "Aplicabilidade de Controle DASF" do compêndio para revisar os controles DASF aplicÔveis e implementar os controles de mitigação em sua plataforma de dados em 12 componentes de IA. Se você estiver usando Databricks, incluímos links com instruções detalhadas sobre como implantar cada controle em nossa plataforma.

Implemente o DASF em sua organização com novos recursos de aprimoramento de habilidades em IA da Databricks

De acordo com um recente estudo do Economist Impact, líderes de dados e IA pesquisados identificaram o aprimoramento de habilidades e a promoção de uma mentalidade de crescimento como prioridades-chave para impulsionar a adoção de IA em 2025. Como parte do lançamento do DASF 2.0, temos recursos para ajudÔ-lo a entender conceitos de IA e ML e aplicar as melhores prÔticas de segurança de IA em sua organização. 

  1. Treinamento da Databricks Academy: Recomendamos fazer o novo curso de Fundamentos de Segurança em IA, que agora estÔ disponível na Databricks Academy. Antes de mergulhar no whitepaper, este curso de 1 hora é uma ótima introdução aos tópicos de segurança em IA destacados no DASF. Você também receberÔ uma acreditação para o seu perfil do LinkedIn ao concluir. Se você é novo nos conceitos de IA e ML, comece com o nosso curso de Fundamentos de IA Generativa.  
  2. Vídeos explicativos: Gravamos vídeos de visão geral e explicativos do DASF para consumo rÔpido. Você pode encontrar esses vídeos em nosso canal do YouTube de Melhores PrÔticas de Segurança. 
  3. Workshop presencial ou virtual: Nossa equipe oferece um Workshop de Risco em IA como um guia ao vivo dos conceitos descritos no DASF, focando em superar obstÔculos para operacionalizar a gestão de riscos de IA. Este evento de meio dia é direcionado a líderes de nível Diretor+ em governança, dados, privacidade, jurídico, TI e funções de segurança. 
  4. Suporte à implantação: O Ferramenta de AnÔlise de Segurança (SAT) monitora a aderência às melhores prÔticas de segurança nos espaços de trabalho do Databricks de forma contínua. Recentemente, atualizamos o SAT para simplificar a configuração e aprimorar as verificações, alinhando-as com o DASF para melhor cobertura dos riscos de segurança da IA.
  5. Assistente de IA do DASF:  Os clientes da Databricks podem configurar o Assistente de IA do Framework de Segurança de IA da Databricks (DASF) diretamente em seu próprio espaço de trabalho sem habilidades prévias da Databricks, interagir com o conteúdo do DASF em linguagem humana simples e obter respostas. 

Construindo uma comunidade com grupos da indĆŗstria de IA, clientes e parceirosĀ 

Garantir que o DASF evolua em sintonia com o ambiente regulatório atual de IA e a paisagem emergente de ameaƧas Ć© uma prioridade mĆ”xima. Desde o lanƧamento da versĆ£o 1.0, formamos um grupo de trabalho de IA com colegas do setor, clientes e parceiros para nos mantermos alinhados com esses desenvolvimentos. Queremos agradecer aos nossos colegas do grupo de trabalho e aos nossos revisores prĆ©vios como Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University e Rakesh Patil da JPMC. VocĆŖ pode encontrar a lista completa de contribuidores na seção de agradecimentos do DASF. Se vocĆŖ quiser participar do Grupo de Trabalho de IA do DASF, entre em contato com nossa equipe em [email protected].Ā 

Veja o que alguns de nossos principais defensores tĆŖm a dizer:

"A IA estÔ revolucionando a prestação de cuidados de saúde através de inovações como o pipeline GenAI CLEVER, que processa mais de 1,5 milhão de notas clínicas diariamente para classificar determinantes sociais chave e impactar o cuidado dos veteranos. Este pipeline é construído com uma forte base de segurança, incorporando controles NIST 800-53 e aproveitando o Databricks AI Security Framework para garantir a conformidade e mitigar riscos. Olhando para o futuro, estamos explorando maneiras de expandir essas capacidades por meio de estratégias de Infraestrutura como Código e contêineres seguros, permitindo que agentes sejam implantados e escalados dinamicamente a partir de repositórios, mantendo rigorosos padrões de segurança." - Joseph Raetano, Líder de Inteligência Artificial, Summit Data Analytics & AI Platform, Departamento de Assuntos de Veteranos dos EUA

ā€œO DASF Ć© a ferramenta essencial para transformar a quantificação de risco de IA em uma realidade operacional. Com a abordagem de Risco FAIR-AI agora em seu segundo ano, o DASF 2.0 permite que os CISOs preencham a lacuna entre a seguranƧa cibernĆ©tica e a estratĆ©gia de negócios - falando uma linguagem comum baseada em impacto financeiro mensurĆ”vel.ā€ - Jacqueline Lebo, Fundadora do AI Workgroup, The FAIR Institute e Gerente de Consultoria de Risco, Safe SecurityĀ 

Fair Institute

ā€œĆ€ medida que a IA continua a transformar indĆŗstrias, proteger esses sistemas contra ataques cibernĆ©ticos sofisticados e Ćŗnicos Ć© mais crĆ­tico do que nunca. O Databricks AI Security Framework Ć© um grande ativo para as empresas liderarem tanto em inovação quanto em seguranƧa. Com o DASF, as empresas estĆ£o equipadas para entender melhor os riscos de IA e encontrar as ferramentas e recursos para mitigar esses riscos Ć  medida que continuam a inovar.ā€ - Ian Swanson, CEO, Protect AI

Proteja a IA

ā€œCom o Databricks AI Security Framework, somos capazes de mitigar os riscos de IA de forma ponderada e transparente, o que Ć© inestimĆ”vel para construir confianƧa no conselho e nos funcionĆ”rios. Ɖ um divisor de Ć”guas que nos permite trazer a IA para o negócio e estar entre os 15% das organizaƧƵes que levam as cargas de trabalho de IA para produção de forma segura e com confianƧa.ā€ — Coastal Community Bank

Coastal

"No contexto de dados e IA, as conversas sobre segurança são poucas. O Databricks AI Security Framework aborda o lado muitas vezes negligenciado do trabalho de IA e ML, servindo tanto como um guia de primeira classe para não apenas entender os riscos de segurança de IA, mas também como mitigÔ-los." - Josue A. Bogran, Arquiteto na Kythera Labs & Conselheiro da SunnyData.ai

ā€œUsamos o Databricks AI Security Framework para ajudar a melhorar a postura de seguranƧa de nossa organização na gestĆ£o de riscos de seguranƧa de ML e IA. Com o Databricks AI Security Framework, estamos agora mais confiantes em explorar possibilidades com IA e anĆ”lise de dados, garantindo que temos as medidas adequadas de governanƧa de dados e seguranƧa em vigor." - Muhammad Shami, Vice-Presidente, Jackson National Life Insurance Company

Baixe o Framework de SeguranƧa em IA da Databricks 2.0 hoje!

O Framework de SeguranƧa de IA da Databricks 2.0 e seu compĆŖndio (Planilha do Google, Excel) estĆ£o agora disponĆ­veis para download. Para saber sobre os próximos workshops de Risco de IA ou para solicitar um workshop presencial ou virtual dedicado para sua organização, entre em contato conosco em [email protected] ou com sua equipe de conta. Em breve, teremos mais conteĆŗdo de lideranƧa de pensamento para fornecer mais insights sobre a gestĆ£o da governanƧa de IA. Para mais insights sobre como gerenciar riscos de seguranƧa de IA, visite o Centro de SeguranƧa e ConfianƧa da Databricks.

Ā 

(This blog post has been translated using AI-powered tools) Original Post

Nunca perca uma postagem da Databricks

Inscreva-se nas categorias de seu interesse e receba as Ćŗltimas postagens na sua caixa de entrada