Databricks AI 보안 프레임워크 2.0 발표

Databricks AI Security Framework(DASF 2.0) 두 번째 에디션을 발표하게 되어 기쁩니다 —지금 다운로드! AI의 잠재력을 활용하려는 조직은 혁신의 '가속 페달'과 거버넌스 및 위험 관리의 '브레이크'를 모두 필요로 합니다. DASF는 이러한 격차를 해소하여 AI 위험 관리에 대한 포괄적인 가이드 역할을 함으로써 조직을 위한 안전하고 영향력 있는 AI 배포를 가능하게 합니다.

이 블로그에서는 DASF 개요를 제공하고, 초기 버전 출시 이후 얻은 주요 인사이트를 살펴보고, AI 보안에 대한 이해를 심화할 수 있는 새로운 리소스를 소개하며, 업계 기여자들에 대한 업데이트를 제공할 것입니다.

Databricks AI Security Framework란 무엇이며, 버전 2.0의 새로운 기능은 무엇인가요? 

DASF는 AI 보안 및 거버넌스 위험을 관리하기 위한 프레임워크 및 백서입니다. 이는 12가지 표준 AI 시스템 구성 요소, 각 구성 요소의 관련 위험 및 각 위험을 완화하기 위한 실행 가능한 제어를 열거합니다. Databricks 보안 및 ML 팀이 업계 전문가와 협력하여 만든 이 프레임워크는 비즈니스, 데이터, 거버넌스 및 보안 팀 간의 격차를 해소하고 AI를 명확하게 이해하고 협업을 촉진하며 효과적인 구현을 보장하기 위한 실용적인 도구와 실행 가능한 전략을 제공합니다.

다른 프레임워크와 달리 DASF 2.0은 기존 표준을 기반으로 AI 배포에 대한 엔드투엔드 위험 프로필을 제공합니다. 조직이 운영할 수 있도록 AI 위험 관리를 단순화하는 심층 방어 제어를 제공하며 선택한 데이터 및 AI 플랫폼에 적용할 수 있습니다. 

DASF 2.0에서는 62가지 기술 보안 위험을 식별하고 이를 AI 모델 위험 관리를 위한 64가지 권장 제어에 매핑했습니다. 또한 MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, ENISA의 Securing ML Algorithms, ISO 42001, ISO 27001:2022, 및 EU AI Act와 같은 주요 산업 AI 위험 프레임워크 및 표준에 대한 매핑을 확장했습니다. 

DASF 운영 - 새로운 컴필레이션 및 동반 교육 비디오를 확인하세요!

업계 행사, 워크숍 및 고객 회의에서 DASF를 공유하면서 귀중한 피드백을 받았습니다. 많은 분들이 DASF 탐색, 운영 및 제어 매핑을 더 쉽게 할 수 있는 리소스를 요청하셨습니다. 

이에 대응하여 DASF 컴필레이션 문서(Google 시트, Excel)를 발표하게 되어 기쁩니다. 이 리소스는 MITRE, OWASP, NIST, ISO, HITRUST 등과 같은 조직의 업계 인정 표준에 대한 위험, 위협, 제어 및 매핑을 구성하고 적용하여 DASF를 운영하는 데 도움이 되도록 설계되었습니다. 또한 DASF 및 컴필레이션에 대한 단계별 안내를 제공하는 동반 교육 비디오를 제작했습니다. 

이러한 업데이트를 통해 DASF를 더 쉽게 채택할 수 있도록 하여 조직이 AI 시스템을 안전하고 자신 있게 구현할 수 있도록 하는 것이 목표입니다. 바로 시작하고 싶으시다면, 저희 팀은 다음 접근 방식을 권장합니다.

1. 이해관계자, 배포 모델 및 AI 사용 사례 파악: 비즈니스 사용 사례로 시작하여 DASF 백서를 활용하여 최적의 AI 배포 모델을 식별하세요. 80개 이상의 Databricks 솔루션 가속기를 통해 여정을 안내받으세요. 배포 모델에는 예측 ML 모델, 기반 모델 API, 미세 조정 및 사전 훈련된 LLM, RAG, LLM을 사용한 AI 에이전트 및 외부 모델이 포함됩니다. 사용 사례, 데이터 세트, 규정 준수 요구 사항, 프로세스, 애플리케이션 및 책임 있는 이해관계자를 포함하여 조직 내 AI 개발에 대한 명확성을 확보하세요.
2. 12가지 AI 시스템 구성 요소 및 62가지 위험 검토: 12가지 AI 시스템 구성 요소, 각 구성 요소와 관련된 전통적인 사이버 보안 및 새로운 AI 보안 위험, 그리고 책임 있는 이해관계자(예: 데이터 엔지니어, 과학자, 거버넌스 담당자, 보안 팀)를 이해하세요. DASF를 사용하여 AI 수명 주기 전반에 걸쳐 이러한 그룹 간의 협업을 촉진하세요.
3. 64가지 사용 가능한 완화 제어 검토: 각 위험은 경계 및 데이터 보안으로 시작하는 우선 순위가 지정된 완화 제어에 매핑됩니다. 이러한 위험 및 제어는 10가지 산업 표준과 추가로 정렬되어 추가 세부 정보와 명확성을 제공합니다.
4. DASF 컴펜디엄을 사용하여 위험, 제어 적용 가능성 및 위험 영향 현지화: 먼저 “DASF 위험 적용 가능성” 탭을 사용하여 하나 이상의 AI 배포 모델을 선택하여 사용 사례와 관련된 위험을 식별하세요. 다음으로 관련 위험 영향, 규정 준수 요구 사항 및 완화 제어를 검토하세요. 마지막으로 AI 사용 사례 설명, 데이터 세트, 이해관계자, 규정 준수 고려 사항 및 애플리케이션을 포함하여 사용 사례에 대한 주요 세부 정보를 문서화하세요.
5. 우선 순위가 지정된 제어 구현:  컴펜디엄의 “DASF 제어 적용 가능성” 탭을 사용하여 적용 가능한 DASF 제어를 검토하고 12가지 AI 구성 요소에 걸쳐 데이터 플랫폼에 완화 제어를 구현하세요. Databricks를 사용하는 경우 당사 플랫폼에서 각 제어를 배포하는 방법에 대한 자세한 지침이 포함된 링크를 제공했습니다.

Databricks의 새로운 AI 역량 강화 리소스를 사용하여 조직에 DASF 구현

최근 Economist Impact 연구에 따르면, 설문 조사에 참여한 데이터 및 AI 리더들은 2025년에 AI 채택을 주도하기 위한 핵심 우선 순위로 역량 강화와 성장 마인드셋 육성을 꼽았습니다. DASF 2.0 출시의 일환으로 AI 및 ML 개념을 이해하고 조직에 AI 보안 모범 사례를 적용하는 데 도움이 되는 리소스를 제공합니다. 

1. Databricks Academy 교육: Databricks Academy에서 현재 제공되는 새로운 AI 보안 기초 과정을 수강하는 것을 권장합니다. 백서를 자세히 살펴보기 전에 이 1시간 과정은 DASF에서 강조된 AI 보안 주제에 대한 훌륭한 입문 자료가 될 것입니다. 완료 시 LinkedIn 프로필에 대한 인증도 받게 됩니다. AI 및 ML 개념이 처음이라면 생성형 AI 기초 과정부터 시작하세요.
2. 방법 동영상: DASF 개요 및 방법 동영상을 신속하게 시청할 수 있도록 녹화했습니다. 이 동영상은 보안 모범 사례 YouTube 채널에서 찾을 수 있습니다.
3. 대면 또는 가상 워크숍: 저희 팀은 DASF에 설명된 개념을 라이브로 walkthrough하며 AI 위험 관리 운영의 장애물 극복에 중점을 둔 AI 위험 워크숍을 제공합니다. 이 반나절 이벤트는 거버넌스, 데이터, 개인 정보 보호, 법률, IT 및 보안 기능의 디렉터급 이상 리더를 대상으로 합니다.
4. 배포 지원: 보안 분석 도구 (SAT)는 Databricks 워크스페이스에서 보안 모범 사례 준수를 지속적으로 모니터링합니다. 최근 SAT를 업그레이드하여 설정을 간소화하고 검사를 강화하여 DASF와 일치시켜 AI 보안 위험에 대한 적용 범위를 개선했습니다.
5. DASF AI 도우미:  Databricks 고객은 사전 Databricks 기술 없이도 자체 워크스페이스에서 Databricks AI 보안 프레임워크(DASF) AI 도우미를 구성하고, 간단한 인간 언어로 DASF 콘텐츠와 상호 작용하고, 답변을 얻을 수 있습니다. 

AI 산업 그룹, 고객 및 파트너와 함께 커뮤니티 구축 

DASF가 현재 AI 규제 환경 및 신흥 위협 환경과 보조를 맞추어 발전하도록 보장하는 것이 최우선 과제입니다. 1.0 출시 이후 업계 동료, 고객 및 파트너로 구성된 AI 워킹 그룹을 구성하여 이러한 개발과 긴밀하게 협력하고 있습니다. 워킹 그룹의 동료들과 Complyleft, The FAIR Institute, Ethriva Inc, Arhasi AI, Carnegie Mellon University, JPMC의 Rakesh Patil과 같은 사전 검토자들에게 감사드립니다. 기여자 전체 목록은 DASF의 감사의 글 섹션에서 찾을 수 있습니다. DASF AI 워킹 그룹에 참여하고 싶으시면 저희 팀에 [email protected]으로 문의해 주세요. 

주요 지지자들의 의견은 다음과 같습니다:

"AI는 매일 150만 건 이상의 임상 노트를 처리하여 주요 사회적 결정 요인을 분류하고 재향 군인 치료에 영향을 미치는 CLEVER GenAI 파이프라인과 같은 혁신을 통해 의료 제공에 혁명을 일으키고 있습니다. 이 파이프라인은 NIST 800-53 제어를 통합하고 Databricks AI Security Framework를 활용하여 규정 준수를 보장하고 위험을 완화하는 강력한 보안 기반으로 구축되었습니다. 앞으로 저희는 코드형 인프라 및 보안 컨테이너화 전략을 통해 이러한 기능을 확장할 방법을 모색하고 있으며, 엄격한 보안 표준을 유지하면서 리포지토리에서 에이전트를 동적으로 배포하고 확장할 수 있도록 지원할 것입니다." - Joseph Raetano, Artificial Intelligence Lead, Summit Data Analytics & AI Platform, U.S. Department of Veteran Affairs

“DASF는 AI 위험 정량화를 운영 현실로 전환하는 데 필수적인 도구입니다. FAIR-AI Risk 접근 방식이 2년차에 접어들면서 DASF 2.0은 CISO가 사이버 보안과 비즈니스 전략 간의 격차를 해소할 수 있도록 지원하며, 측정 가능한 재정적 영향에 기반한 공통 언어를 사용합니다.” - Jacqueline Lebo, Founder AI Workgroup, The FAIR Institute and Risk Advisory Manager, Safe Security 

“AI가 산업을 계속해서 변화시키면서, 정교하고 고유한 사이버 보안 공격으로부터 이러한 시스템을 보호하는 것이 그 어느 때보다 중요해지고 있습니다. Databricks AI Security Framework는 기업이 혁신과 보안 모두에서 선두를 달릴 수 있도록 돕는 훌륭한 자산입니다. DASF를 통해 기업은 AI 위험을 더 잘 이해하고, 혁신을 계속하면서 이러한 위험을 완화할 도구와 리소스를 찾을 수 있습니다.” - Ian Swanson, CEO, Protect AI

“Databricks AI Security Framework를 통해 AI 위험을 사려 깊고 투명하게 완화할 수 있으며, 이는 이사회와 직원의 신뢰를 구축하는 데 매우 중요합니다. 이는 우리가 AI를 비즈니스에 도입하고 15%의 조직 중 하나로서 AI 워크로드를 안전하고 자신 있게 프로덕션 환경으로 가져갈 수 있도록 하는 게임 체인저입니다.” — Coastal Community Bank

"데이터와 AI의 맥락에서 보안에 대한 대화는 드뭅니다. Databricks AI Security Framework는 AI 및 ML 작업의 종종 간과되는 측면을 다루며, AI 보안 위험을 이해하는 것뿐만 아니라 이를 완화하는 방법에 대한 최고 수준의 가이드 역할을 합니다." - Josue A. Bogran, Architect at Kythera Labs & Advisor to SunnyData.ai

“저희는 Databricks AI Security Framework를 사용하여 ML 및 AI 보안 위험을 관리하기 위한 조직의 보안 태세를 강화하는 데 도움을 받았습니다. Databricks AI Security Framework를 통해 이제 적절한 데이터 거버넌스 및 보안 조치를 갖추면서 AI 및 데이터 분석을 통한 가능성을 탐색하는 데 더 자신감을 갖게 되었습니다." - Muhammad Shami, Vice President, Jackson National Life Insurance Company

지금 Databricks AI Security Framework 2.0을 다운로드하세요!

Databricks AI Security Framework 2.0 및 관련 컴필레이션(Google 시트, Excel)을 지금 다운로드할 수 있습니다. 예정된 AI Risk 워크숍에 대해 알아보거나 조직을 위한 전담 대면 또는 가상 워크숍을 요청하려면 [email protected]으로 이메일을 보내거나 계정 팀에 문의하세요. 또한 AI 거버넌스 관리에 대한 추가 인사이트를 제공하기 위해 곧 추가적인 사고 리더십 콘텐츠가 제공될 예정입니다. AI 보안 위험 관리 방법에 대한 자세한 내용은 Databricks 보안 및 신뢰 센터를 방문하세요.

(이 글은 AI의 도움을 받아 번역되었습니다. 원문이 궁금하시다면 여기를 클릭해 주세요)