Estamos animados em anunciar a segunda edição do Databricks AI Security Framework (DASF 2.0ābaixe agora)! OrganizaƧƵes que buscam aproveitar o potencial da IA precisam tanto do 'gĆ”s' da inovação quanto dos 'freios' da governanƧa e gestĆ£o de riscos. O DASF preenche essa lacuna, permitindo implantaƧƵes seguras e impactantes de IA para sua organização, servindo como um guia abrangente sobre gestĆ£o de riscos de IA.
Este blog fornecerÔ uma visão geral do DASF, explorarÔ as principais percepções obtidas desde que a versão original foi lançada, introduzirÔ novos recursos para aprofundar seu entendimento sobre a segurança da IA e fornecerÔ atualizações sobre nossos colaboradores da indústria.
O DASF é um framework e um whitepaper para gerenciar riscos de segurança e governança de IA. Ele enumera os 12 componentes canÓnicos do sistema de IA, seus respectivos riscos e controles acionÔveis para mitigar cada risco. Criado pelas equipes de Segurança e ML da Databricks em parceria com especialistas do setor, ele preenche a lacuna entre as equipes de negócios, dados, governança e segurança com ferramentas prÔticas e estratégias acionÔveis para desmistificar a IA, promover a colaboração e garantir a implementação eficaz.
Ao contrĆ”rio de outros frameworks, o DASF 2.0 se baseia em padrƵes existentes para fornecer um perfil de risco de ponta a ponta para implantaƧƵes de IA. Ele oferece controles de defesa em profundidade para simplificar a gestĆ£o de riscos de IA para sua organização operacionalizar e pode ser aplicado Ć sua plataforma de dados e IA escolhida.Ā
No DASF 2.0, identificamos 62 riscos de seguranƧa tĆ©cnica e os mapeamos para 64 controles recomendados para gerenciar o risco de modelos de IA. TambĆ©m expandimos os mapeamentos para os principais frameworks e padrƵes de risco de IA do setor, incluindo MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, Algoritmos de SeguranƧa ML da ENISA, ISO 42001, ISO 27001:2022, e o Ata de IA da UE.Ā
Recebemos feedback valioso ao compartilhar o DASF em eventos do setor, workshops e reuniƵes com clientes. Muitos de vocĆŖs pediram mais recursos para facilitar a navegação no DASF, operacionalizĆ”-lo e mapear seus controles de forma eficaz.Ā
Em resposta, estamos animados em anunciar o lanƧamento do documento compĆŖndio DASF (Planilha Google, Excel). Este recurso foi projetado para ajudar a operacionalizar o DASF, organizando e aplicando seus riscos, ameaƧas, controles e mapeamentos para padrƵes reconhecidos pela indĆŗstria de organizaƧƵes como MITRE, OWASP, NIST, ISO, HITRUST e mais. TambĆ©m criamos um vĆdeo instrucional complementar que fornece um guia passo a passo do DASF e seu compĆŖndio.Ā
Nosso objetivo com essas atualizações é tornar o DASF mais fÔcil de adotar, capacitando as organizações a implementar sistemas de IA de forma segura e confiante. Se você estÔ ansioso para mergulhar, nossa equipe recomenda a seguinte abordagem:
De acordo com um recente estudo do Economist Impact, lĆderes de dados e IA pesquisados identificaram o aprimoramento de habilidades e a promoção de uma mentalidade de crescimento como prioridades-chave para impulsionar a adoção de IA em 2025. Como parte do lanƧamento do DASF 2.0, temos recursos para ajudĆ”-lo a entender conceitos de IA e ML e aplicar as melhores prĆ”ticas de seguranƧa de IA em sua organização.Ā
Garantir que o DASF evolua em sintonia com o ambiente regulatório atual de IA e a paisagem emergente de ameaƧas Ć© uma prioridade mĆ”xima. Desde o lanƧamento da versĆ£o 1.0, formamos um grupo de trabalho de IA com colegas do setor, clientes e parceiros para nos mantermos alinhados com esses desenvolvimentos. Queremos agradecer aos nossos colegas do grupo de trabalho e aos nossos revisores prĆ©vios como Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University e Rakesh Patil da JPMC. VocĆŖ pode encontrar a lista completa de contribuidores na seção de agradecimentos do DASF. Se vocĆŖ quiser participar do Grupo de Trabalho de IA do DASF, entre em contato com nossa equipe em [email protected].Ā
Veja o que alguns de nossos principais defensores tĆŖm a dizer:
"A IA estĆ” revolucionando a prestação de cuidados de saĆŗde atravĆ©s de inovaƧƵes como o pipeline GenAI CLEVER, que processa mais de 1,5 milhĆ£o de notas clĆnicas diariamente para classificar determinantes sociais chave e impactar o cuidado dos veteranos. Este pipeline Ć© construĆdo com uma forte base de seguranƧa, incorporando controles NIST 800-53 e aproveitando o Databricks AI Security Framework para garantir a conformidade e mitigar riscos. Olhando para o futuro, estamos explorando maneiras de expandir essas capacidades por meio de estratĆ©gias de Infraestrutura como Código e contĆŖineres seguros, permitindo que agentes sejam implantados e escalados dinamicamente a partir de repositórios, mantendo rigorosos padrƵes de seguranƧa." - Joseph Raetano, LĆder de InteligĆŖncia Artificial, Summit Data Analytics & AI Platform, Departamento de Assuntos de Veteranos dos EUA
āO DASF Ć© a ferramenta essencial para transformar a quantificação de risco de IA em uma realidade operacional. Com a abordagem de Risco FAIR-AI agora em seu segundo ano, o DASF 2.0 permite que os CISOs preencham a lacuna entre a seguranƧa cibernĆ©tica e a estratĆ©gia de negócios - falando uma linguagem comum baseada em impacto financeiro mensurĆ”vel.ā - Jacqueline Lebo, Fundadora do AI Workgroup, The FAIR Institute e Gerente de Consultoria de Risco, Safe SecurityĀ
āĆ medida que a IA continua a transformar indĆŗstrias, proteger esses sistemas contra ataques cibernĆ©ticos sofisticados e Ćŗnicos Ć© mais crĆtico do que nunca. O Databricks AI Security Framework Ć© um grande ativo para as empresas liderarem tanto em inovação quanto em seguranƧa. Com o DASF, as empresas estĆ£o equipadas para entender melhor os riscos de IA e encontrar as ferramentas e recursos para mitigar esses riscos Ć medida que continuam a inovar.ā - Ian Swanson, CEO, Protect AI
āCom o Databricks AI Security Framework, somos capazes de mitigar os riscos de IA de forma ponderada e transparente, o que Ć© inestimĆ”vel para construir confianƧa no conselho e nos funcionĆ”rios. Ć um divisor de Ć”guas que nos permite trazer a IA para o negócio e estar entre os 15% das organizaƧƵes que levam as cargas de trabalho de IA para produção de forma segura e com confianƧa.ā ā Coastal Community Bank
"No contexto de dados e IA, as conversas sobre segurança são poucas. O Databricks AI Security Framework aborda o lado muitas vezes negligenciado do trabalho de IA e ML, servindo tanto como um guia de primeira classe para não apenas entender os riscos de segurança de IA, mas também como mitigÔ-los." - Josue A. Bogran, Arquiteto na Kythera Labs & Conselheiro da SunnyData.ai
āUsamos o Databricks AI Security Framework para ajudar a melhorar a postura de seguranƧa de nossa organização na gestĆ£o de riscos de seguranƧa de ML e IA. Com o Databricks AI Security Framework, estamos agora mais confiantes em explorar possibilidades com IA e anĆ”lise de dados, garantindo que temos as medidas adequadas de governanƧa de dados e seguranƧa em vigor." - Muhammad Shami, Vice-Presidente, Jackson National Life Insurance Company
O Framework de SeguranƧa de IA da Databricks 2.0 e seu compĆŖndio (Planilha do Google, Excel) estĆ£o agora disponĆveis para download. Para saber sobre os próximos workshops de Risco de IA ou para solicitar um workshop presencial ou virtual dedicado para sua organização, entre em contato conosco em [email protected] ou com sua equipe de conta. Em breve, teremos mais conteĆŗdo de lideranƧa de pensamento para fornecer mais insights sobre a gestĆ£o da governanƧa de IA. Para mais insights sobre como gerenciar riscos de seguranƧa de IA, visite o Centro de SeguranƧa e ConfianƧa da Databricks.
Ā
(This blog post has been translated using AI-powered tools) Original Post