Garantindo o Ciclo de Vida da IA: Databricks Ventures Investe na Noma Security

Hoje, estamos anunciando uma importante adição ao portfólio da Databricks Ventures: Noma Security, uma líder emergente em segurança e governança de IA. Este investimento é acompanhado de uma nova parceria: a Noma Security se integra à Plataforma de Inteligência de Dados da Databricks para fornecer segurança aprimorada, governança, gerenciamento de riscos e aplicação automatizada de políticas de segurança para IA corporativa e agentes de IA. Essa colaboração reforça o compromisso da Databricks em ajudar nossos clientes corporativos conjuntos a construir soluções de IA seguras e confiáveis.

Por que a Noma Security

À medida que as empresas correm para aproveitar o poder transformador da IA, preocupações com segurança e governança muitas vezes retardam seu progresso. Databricks e Noma Security estão se unindo para enfrentar esses desafios diretamente, permitindo que as organizações entreguem IA segura desde o design inicial até a implantação em produção, e em todo o ciclo de vida da IA, desde o desenvolvimento do modelo até o uso em produção de IA agente.

A plataforma Noma Security é rápida para ser implantada e projetada para ajudar as empresas a se prepararem proativamente para as emergentes regulamentações de IA, como o Ato de IA da UE, e a obter certificações críticas como a ISO 42001, garantindo a conformidade em uma paisagem em rápida evolução.

A Noma Security suporta estruturas de segurança de IA abrangentes, incluindo:

• Estrutura de segurança de IA da Databricks (DASF)
• OWASP Top 10 para Riscos de Segurança de LLM & IA Generativa
• MITRE ATLAS

Melhor Juntos: Databricks e Noma Security

A Noma Security integra-se perfeitamente com a Databricks, permitindo uma abordagem abrangente para a segurança do ciclo de vida da IA. Nossos clientes conjuntos se beneficiam de várias maneiras:

Descoberta e Governança de IA: A Noma Security aprimora a governança de IA no ambiente Databricks, fornecendo visibilidade detalhada de todos os ativos de IA. Isso inclui manter um inventário abrangente de modelos de IA, gerar uma detalhada Lista de Materiais de IA (AIBOM) e fornecer supervisão aprimorada para sistemas de IA. Por meio de um melhor entendimento dos componentes de IA, as organizações podem gerenciar riscos, garantir conformidade e construir confiança em suas implantações de IA.

IA Segura por Design: Integrar a Noma Security com a Plataforma de Inteligência de Dados Databricks permite a detecção de riscos de IA antes do tempo de execução, fornecendo aos clientes uma gestão proativa de riscos de IA ao identificar potenciais vulnerabilidades no início do processo de desenvolvimento. Essa integração simplifica os fluxos de trabalho de AISecOps, a varredura de modelos, a equipe vermelha de IA e a detecção de configuração incorreta para automatizar verificações de segurança e aplicação de políticas. Com a Noma Security e a Databricks, a segurança é uma parte integral do pipeline de desenvolvimento e implantação de IA.

Proteção em Tempo Real de IA: A Noma Security oferece cobertura de risco de segurança de IA para a Databricks AI para fornecer aos clientes conjuntos um escudo abrangente para qualquer iniciativa de IA. Os modelos de IA são protegidos contra ameaças em tempo real, monitorados continuamente para comportamento suspeito e governados de acordo com regulamentos e mandatos de conformidade. Esta abordagem de ponta a ponta ajuda a acelerar a adoção responsável de IA em escala.

Segurança Agentic AI: À medida que a IA evolui para arquiteturas agentic mais complexas, a necessidade de uma segurança robusta para IA se torna ainda mais importante. A Noma Security cobre todo o ciclo de vida da IA, desde a varredura de servidores MCP até o monitoramento de segurança em tempo real do raciocínio do agente e ações em tempo real. Nossa parceria facilita a efetivação de equipes vermelhas para agentes de IA, ajudando nossos clientes conjuntos a identificar e abordar proativamente possíveis fraquezas nos sistemas agentic de IA.

Acelerando a Confiança na IA

Estamos animados para anunciar este investimento e parceria com a Noma Security.  Juntos, capacitamos as organizações a adotar a IA mais rapidamente e com mais confiança, mitigando os riscos de segurança e governança que muitas vezes causam atrito.

Se você estiver se juntando à Databricks na Data + AI Summit na próxima semana em San Francisco, solicite uma reunião pessoal com a equipe da Noma Security para saber mais sobre segurança e governança de IA. 

Não pode participar do Data + AI Summit? Solicite uma demonstração da Noma Security, ou registre-se para este webinar no dia 26 de junho para aprender como a Databricks e a Noma Security fornecem segurança para o ciclo de vida da IA empresarial.

(This blog post has been translated using AI-powered tools) Original Post