Apresentando o Databricks AI Security Framework 2.0

Temos o prazer de anunciar a segunda edição do Databricks AI Security Framework (DASF 2.0 —baixe agora)! As organizações que correm para aproveitar o potencial da IA precisam tanto do "acelerador" da inovação quanto dos "freios" da governança e do gerenciamento de riscos. O DASF preenche essa lacuna, permitindo implementações de IA seguras e impactantes para sua organização, servindo como um guia abrangente sobre o gerenciamento de riscos de IA.

Este blog fornecerá uma visão geral do DASF, explorará os principais insights obtidos desde o lançamento da versão original, apresentará novos recursos para aprofundar sua compreensão sobre segurança de IA e fornecerá atualizações sobre nossos colaboradores do setor.

O que é o Databricks AI Security Framework e o que há de novo na versão 2.0? 

O DASF é uma estrutura e um white paper para gerenciar os riscos de segurança e governança da IA. Ele enumera os 12 componentes canônicos do sistema de IA, seus respectivos riscos e controles acionáveis para mitigar cada risco. Criado pelas equipes de Segurança e ML da Databricks em parceria com especialistas do setor, ele preenche a lacuna entre as equipes de negócios, dados, governança e segurança com ferramentas práticas e estratégias acionáveis para desmistificar a IA, promover a colaboração e garantir uma implementação eficaz.

Ao contrário de outras estruturas, o DASF 2.0 se baseia em padrões existentes para fornecer um perfil de risco completo para implementações de IA. Ele oferece controles de defesa em profundidade para simplificar o gerenciamento de riscos de IA para que sua organização operacionalize e possa ser aplicado à sua plataforma de dados e IA escolhida. 

No DASF 2.0, identificamos 62 riscos técnicos de segurança e os mapeamos para 64 controles recomendados para gerenciar o risco de modelos de IA. Também expandimos os mapeamentos para as principais estruturas e padrões de risco de IA do setor, incluindo MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, Securing ML Algorithms da ENISA, ISO 42001, ISO 27001:2022 e o EU AI Act. 

Operacionalizando o DASF: confira o novo compêndio e o vídeo instrutivo complementar!

Recebemos feedback valioso ao compartilhar o DASF em eventos do setor, workshops e reuniões com clientes. Muitos de vocês solicitaram mais recursos para facilitar a navegação no DASF, operacionalizá-lo e mapear seus controles de forma eficaz. 

Em resposta, temos o prazer de anunciar o lançamento do documento do compêndio do DASF (Planilha Google, Excel). Este recurso foi projetado para ajudar a operacionalizar o DASF, organizando e aplicando seus riscos, ameaças, controles e mapeamentos aos padrões reconhecidos do setor de organizações como MITRE, OWASP, NIST, ISO, HITRUST e muito mais. Também criamos um vídeo instrutivo complementar que fornece um passo a passo guiado do DASF e seu compêndio. 

Nosso objetivo com essas atualizações é tornar o DASF mais fácil de adotar, capacitando as organizações a implementar sistemas de IA com segurança e confiança. Se você está ansioso para começar, nossa equipe recomenda a seguinte abordagem:

1. Entenda seus stakeholders, modelos de implantação e casos de uso de IA: Comece com um caso de uso de negócios, aproveitando o white paper do DASF para identificar o modelo de implantação de IA mais adequado. Escolha entre mais de 80 Databricks Solution Accelerators para orientar sua jornada. Os modelos de implantação incluem modelos de ML preditivos, APIs de modelo de base, LLMs ajustados e pré-treinados, RAG, agentes de IA com LLMs e modelos externos. Garanta clareza no desenvolvimento de IA dentro de sua organização, incluindo casos de uso, conjuntos de dados, necessidades de conformidade, processos, aplicativos e stakeholders responsáveis.
2. Analise os 12 componentes do sistema de IA e 62 riscos: Entenda os 12 componentes dos sistemas de IA, os riscos tradicionais de segurança cibernética e os novos riscos de segurança de IA associados a cada componente e os stakeholders responsáveis (por exemplo, engenheiros de dados, cientistas, responsáveis pela governança e equipes de segurança). Use o DASF para promover a colaboração entre esses grupos durante todo o ciclo de vida da IA.
3. Analise os 64 controles de mitigação disponíveis: Cada risco é mapeado para controles de mitigação priorizados, começando com a segurança de perímetro e dados. Esses riscos e controles são ainda mais alinhados com 10 padrões do setor, fornecendo detalhes e clareza adicionais.
4. Use o compêndio do DASF para localizar riscos, aplicabilidade do controle e impactos do risco: Comece usando a guia “Aplicabilidade de risco do DASF” para identificar os riscos relevantes para seu caso de uso, selecionando um ou mais modelos de implantação de IA. Em seguida, analise os impactos de risco associados, os requisitos de conformidade e os controles de mitigação. Por fim, documente os principais detalhes para seu caso de uso, incluindo a descrição do caso de uso de IA, conjuntos de dados, stakeholders, considerações de conformidade e aplicativos.
5. Implemente os controles priorizados:  Use a guia “Aplicabilidade de controle do DASF” do compêndio para analisar os controles do DASF aplicáveis e implementar os controles de mitigação em sua plataforma de dados em 12 componentes de IA. Se você estiver usando o Databricks, incluímos links com instruções detalhadas sobre como implementar cada controle em nossa plataforma.

Implemente o DASF em sua organização com novos recursos de requalificação em IA da Databricks

De acordo com um recente estudo da Economist Impact, os líderes de dados e IA pesquisados identificaram a requalificação e o incentivo a uma mentalidade de crescimento como prioridades importantes para impulsionar a adoção de IA em 2025. Como parte do lançamento do DASF 2.0, temos recursos para ajudá-lo a entender os conceitos de IA e ML e aplicar as práticas recomendadas de segurança de IA à sua organização. 

1. Treinamento da Databricks Academy: Recomendamos fazer o novo curso de Fundamentos de Segurança de IA, que agora está disponível na Databricks Academy. Antes de mergulhar no white paper, este curso de 1 hora é uma ótima introdução aos tópicos de segurança de IA destacados no DASF. Você também receberá um credenciamento para seu perfil do LinkedIn após a conclusão. Se você é novo nos conceitos de IA e ML, comece com nosso curso de Fundamentos de IA Generativa. 
2. Vídeos explicativos: Gravamos vídeos explicativos e de visão geral do DASF para consumo rápido. Você pode encontrar esses vídeos em nosso canal do YouTube de Práticas recomendadas de segurança.
3. Workshop virtual ou presencial: Nossa equipe oferece um Workshop de risco de IA como um passo a passo ao vivo dos conceitos descritos no DASF, com foco na superação de obstáculos para operacionalizar o gerenciamento de risco de IA. Este evento de meio dia tem como alvo líderes de nível Diretor+ nas funções de governança, dados, privacidade, jurídica, TI e segurança.
4. Suporte à implantação: A Ferramenta de análise de segurança (SAT) monitora a adesão às práticas recomendadas de segurança nos workspaces do Databricks de forma contínua. Recentemente, atualizamos o SAT para otimizar a configuração e aprimorar as verificações, alinhando-as ao DASF para melhorar a cobertura dos riscos de segurança de IA.
5. Assistente de IA do DASF:  Os clientes da Databricks podem configurar o assistente de IA do Databricks AI Security Framework (DASF) diretamente em seu próprio workspace, sem habilidades prévias do Databricks, interagir com o conteúdo do DASF em linguagem humana simples e obter respostas. 

Construindo uma comunidade com grupos, clientes e parceiros do setor de IA 

Garantir que o DASF evolua em sintonia com o ambiente regulatório de IA atual e o cenário de ameaças emergentes é uma prioridade máxima. Desde o lançamento da versão 1.0, formamos um grupo de trabalho de IA de colegas do setor, clientes e parceiros para permanecer intimamente alinhados com esses desenvolvimentos. Queremos agradecer aos nossos colegas do grupo de trabalho e aos nossos pré-revisores, como Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University e Rakesh Patil da JPMC. Você pode encontrar a lista completa de colaboradores na seção de agradecimentos do DASF. Se você deseja participar do Grupo de Trabalho de IA do DASF, entre em contato com nossa equipe em [email protected]. 

Aqui está o que alguns de nossos principais defensores têm a dizer:

"A IA está revolucionando a prestação de cuidados de saúde por meio de inovações como o pipeline CLEVER GenAI, que processa mais de 1,5 milhão de notas clínicas diariamente para classificar os principais determinantes sociais e impactar o atendimento a veteranos. Este pipeline é construído com uma forte base de segurança, incorporando controles NIST 800-53 e aproveitando o Databricks AI Security Framework para garantir a conformidade e mitigar riscos. Olhando para o futuro, estamos explorando maneiras de expandir esses recursos por meio de Infraestrutura como Código e estratégias de conteinerização segura, permitindo que os agentes sejam implantados e dimensionados dinamicamente a partir de repositórios, mantendo padrões de segurança rigorosos." - Joseph Raetano, Líder de Inteligência Artificial, Summit Data Analytics & AI Platform, Departamento de Assuntos de Veteranos dos EUA

“O DASF é a ferramenta essencial para transformar a quantificação de risco de IA em uma realidade operacional. Com a abordagem FAIR-AI Risk agora em seu segundo ano, o DASF 2.0 permite que os CISOs preencham a lacuna entre a segurança cibernética e a estratégia de negócios — falando uma linguagem comum baseada no impacto financeiro mensurável.” - Jacqueline Lebo, fundadora do AI Workgroup, The FAIR Institute e gerente de consultoria de risco, Safe Security 

“À medida que a IA continua a transformar os setores, proteger esses sistemas contra ataques cibernéticos sofisticados e exclusivos é mais crítico do que nunca. O Databricks AI Security Framework é um grande trunfo para as empresas liderarem na vanguarda tanto da inovação quanto da segurança. Com o DASF, as empresas estão equipadas para entender melhor os riscos de IA e encontrar as ferramentas e os recursos para mitigar esses riscos à medida que continuam a inovar.” - Ian Swanson, CEO, Protect AI

“Com o Databricks AI Security Framework, podemos mitigar os riscos de IA de forma ponderada e transparente, o que é inestimável para construir a confiança do conselho e dos funcionários. É uma virada de jogo que nos permite trazer a IA para os negócios e estar entre os 15% das organizações que levam as cargas de trabalho de IA para a produção com segurança e confiança.” — Coastal Community Bank

"Dentro do contexto de dados e IA, as conversas sobre segurança são poucas. O Databricks AI Security Framework aborda o lado frequentemente negligenciado do trabalho de IA e ML, servindo como um guia de primeira classe não apenas para entender os riscos de segurança de IA, mas também como mitigá-los." - Josue A. Bogran, arquiteto da Kythera Labs e consultor da SunnyData.ai

“Usamos o Databricks AI Security Framework para ajudar a aprimorar a postura de segurança de nossa organização para gerenciar os riscos de segurança de ML e IA. Com o Databricks AI Security Framework, agora estamos mais confiantes em explorar as possibilidades com IA e análise de dados, garantindo que tenhamos as medidas adequadas de governança e segurança de dados em vigor." - Muhammad Shami, vice-presidente, Jackson National Life Insurance Company

Baixe o Databricks AI Security Framework 2.0 hoje mesmo!

O Databricks AI Security Framework 2.0 e seu compêndio (Planilha Google, Excel) já estão disponíveis para download. Para saber mais sobre os próximos workshops de risco de IA ou para solicitar um workshop virtual ou presencial dedicado para sua organização, entre em contato conosco em [email protected] ou com sua equipe de conta. Também teremos conteúdo adicional de liderança inovadora em breve para fornecer mais insights sobre o gerenciamento da governança de IA. Para obter mais informações sobre como gerenciar os riscos de segurança de IA, visite o Databricks Security and Trust Center.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original