Databricks AI Security Framework 2.0 の発表

Databricks AI Security Framework（DASF 2.0）の第2版を発表できることを嬉しく思います。今すぐダウンロード！AIの可能性を最大限に引き出そうと躍起になっている組織は、イノベーションの「アクセル」と、ガバナンスおよびリスク管理の「ブレーキ」の両方が必要です。詳細はこちら。DASFはこのギャップを埋め、AIリスク管理に関する包括的なガイドとして機能することで、組織における安全でインパクトのあるAIのデプロイを可能にします。

このブログでは、DASFの概要、オリジナル版のリリース以降に得られた重要な洞察、AIセキュリティへの理解を深めるための新しいリソースを紹介し、業界の貢献者に関する最新情報を提供します。

Databricks AI Security Frameworkとは？バージョン2.0の新機能

DASFは、AIセキュリティとガバナンスのリスクを管理するためのフレームワークとホワイトペーパーです。12の標準的なAIシステムコンポーネント、それぞれのリスク、および各リスクを軽減するための実行可能なコントロールを列挙しています。DatabricksのセキュリティおよびMLチームが業界のエキスパートと協力して作成したもので、ビジネス、データ、ガバナンス、セキュリティの各チーム間のギャップを、AIをわかりやすくし、コラボレーションを促進し、効果的な実装を保証するための実用的なツールと実行可能な戦略で埋めます。

他のフレームワークとは異なり、DASF 2.0は既存の標準に基づいて、AIデプロイメントのエンドツーエンドのリスクプロファイルを提供します。組織がAIリスク管理を運用化するために、多層防御コントロールを提供し、選択したデータおよびAIプラットフォームに適用できます。

DASF 2.0では、62の技術的なセキュリティリスクを特定し、AIモデルのリスクを管理するために64の推奨されるコントロールにマッピングしました。また、MITRE ATLAS、OWASP LLM & ML Top 10、NIST 800-53、NIST CSF、HITRUST、ENISAのSecuring ML Algorithms、ISO 42001、ISO 27001:2022、およびEU AI Actなど、主要な業界AIリスクフレームワークおよび標準へのマッピングを拡張しました。

DASFの運用化 - 新しい概要とインストラクションビデオをご覧ください！

業界イベント、ワークショップ、および顧客とのミーティングでDASFを共有する際に、貴重なフィードバックをいただきました。DASFのナビゲートを容易にし、運用化し、コントロールを効果的にマッピングするためのリソースを求める声が多く寄せられました。

それに応えて、DASFの概要ドキュメント（Googleシート、Excel）のリリースを発表できることを嬉しく思います。このリソースは、MITRE、OWASP、NIST、ISO、HITRUSTなどの組織からの業界で認められた標準へのリスク、脅威、コントロール、およびマッピングを整理および適用することにより、DASFの運用化を支援するように設計されています。また、DASFとその概要のガイド付きチュートリアルを提供するインストラクションビデオも作成しました。

これらのアップデートの目標は、DASFを採用しやすくし、組織がAIシステムを安全かつ自信を持って実装できるようにすることです。すぐに始めたい場合は、次のアプローチをお勧めします。

1. ステークホルダー、デプロイメントモデル、およびAIユースケースを理解する：ビジネスユースケースから始め、DASFホワイトペーパーを活用して、最適なAIデプロイメントモデルを特定します。80以上のDatabricks Solution Acceleratorsから選択して、旅をガイドします。デプロイメントモデルには、予測MLモデル、基盤モデルAPI、ファインチューニングされた事前トレーニング済みLLM、RAG、LLMを備えたAIエージェント、および外部モデルが含まれます。ユースケース、データセット、コンプライアンスのニーズ、プロセス、アプリケーション、および責任を負うステークホルダーを含め、組織内でのAI開発を明確にしてください。
2. 12のAIシステムコンポーネントと62のリスクを確認する：12のAIシステムコンポーネント、各コンポーネントに関連する従来のサイバーセキュリティリスクと新しいAIセキュリティリスク、および責任を負うステークホルダー（データエンジニア、サイエンティスト、ガバナンスオフィサー、セキュリティチームなど）を理解します。DASFを使用して、AIライフサイクル全体でこれらのグループ間のコラボレーションを促進します。
3. 64の利用可能な軽減コントロールを確認する：各リスクは、境界およびデータセキュリティから始まる、優先順位付けされた軽減コントロールにマッピングされます。これらのリスクとコントロールは、10の業界標準にさらに整合され、追加の詳細と明確さを提供します。
4. DASF概要を使用して、リスク、コントロールの適用性、およびリスクの影響をローカライズする：まず、「DASFリスクの適用性」タブを使用して、1つ以上のAIデプロイメントモデルを選択して、ユースケースに関連するリスクを特定します。次に、関連するリスクの影響、コンプライアンス要件、および軽減コントロールを確認します。最後に、AIユースケースの説明、データセット、ステークホルダー、コンプライアンスの考慮事項、およびアプリケーションなど、ユースケースの主要な詳細を文書化します。
5. 優先順位付けされたコントロールを実装する：概要の「DASFコントロールの適用性」タブを使用して、適用可能なDASFコントロールを確認し、12のAIコンポーネント全体でデータプラットフォームに軽減コントロールを実装します。Databricksを使用している場合は、当社のプラットフォームに各コントロールをデプロイする方法に関する詳細な手順へのリンクが含まれています。

Databricksの新しいAIスキルアップリソースを使用して、組織にDASFを実装する

最近のEconomist Impactの調査によると、調査対象のデータおよびAIリーダーは、2025年にAIの導入を促進するための主要な優先事項として、スキルアップと成長の考え方を育成することを特定しました。DASF 2.0のローンチの一環として、AIとMLの概念を理解し、AIセキュリティのベストプラクティスを組織に適用するのに役立つリソースがあります。

1. Databricks Academyトレーニング：Databricks Academyで利用できるようになった新しいAI Security Fundamentalsコースを受講することをお勧めします。ホワイトペーパーに取り組む前に、この1時間のコースは、DASFで強調されているAIセキュリティトピックの優れた入門書です。完了すると、LinkedInプロファイルの認定も受けられます。AIとMLの概念に慣れていない場合は、Generative AI Fundamentalsコースから始めてください。
2. ハウツービデオ：すぐに視聴できるように、DASFの概要とハウツービデオを録画しました。これらのビデオは、Security Best Practices YouTubeチャンネルでご覧いただけます。
3. 対面式またはバーチャルワークショップ：私たちのチームは、DASFで概説されている概念のライブチュートリアルとして、AIリスクワークショップを提供し、AIリスク管理の運用化に対する障害の克服に焦点を当てています。この半日のイベントは、ガバナンス、データ、プライバシー、法務、IT、およびセキュリティ機能のディレクター以上のリーダーを対象としています。
4. デプロイメントサポート：Security Analysis Tool（SAT）は、Databricksワークスペースでのセキュリティのベストプラクティスの遵守を継続的に監視します。最近、SATをアップグレードして、セットアップを合理化し、チェックを強化し、AIセキュリティリスクの範囲を改善するためにDASFに合わせて調整しました。
5. DASF AIアシスタント：Databricksのお客様は、以前のDatabricksのスキルなしで、独自のワークスペースでDatabricks AI Security Framework（DASF）AIアシスタントを構成し、簡単な人間の言葉でDASFコンテンツを操作し、回答を得ることができます。

AI業界団体、顧客、およびパートナーとのコミュニティの構築

DASFが現在のAI規制環境と新たな脅威の状況に合わせて進化することを保証することが最優先事項です。1.0のローンチ以来、これらの開発に密接に連携するために、業界の同僚、顧客、およびパートナーのAIワーキンググループを結成しました。ワーキンググループの同僚、およびComplyleft、The FAIR Institute、Ethriva Inc、Arhasi AI、Carnegie Mellon University、およびJPMCのRakesh Patilなどの事前レビュー担当者に感謝します。貢献者の完全なリストは、DASFの謝辞セクションにあります。DASF AIワーキンググループに参加したい場合は、[email protected]までご連絡ください。

私たちのトップアドバイザーの意見をご紹介します。

「AIは、主要な社会的決定要因を分類し、退役軍人のケアに影響を与えるために、毎日150万件以上の臨床記録を処理するCLEVER GenAIパイプラインなどのイノベーションを通じて、ヘルスケアの提供に革命をもたらしています。このパイプラインは、NIST 800-53コントロールを組み込み、Databricks AI Security Frameworkを活用してコンプライアンスを確保し、リスクを軽減することにより、強力なセキュリティ基盤の上に構築されています。今後、Infrastructure as Codeと安全なコンテナ化戦略を通じてこれらの機能を拡張する方法を検討し、厳格なセキュリティ標準を維持しながら、エージェントをリポジトリから動的にデプロイおよびスケーリングできるようにします。」- Joseph Raetano、人工知能リード、Summit Data Analytics & AI Platform、米国退役軍人省

「DASFは、AIリスクの定量化を運用上の現実に変えるための不可欠なツールです。今年で2年目を迎えるFAIR-AI Riskアプローチにより、DASF 2.0は、サイバーセキュリティとビジネス戦略の間のギャップを埋め、測定可能な財務的影響に基づいた共通言語を話すことをCISOに可能にします。」- Jacqueline Lebo、AI Workgroup創設者、The FAIR InstituteおよびRisk Advisory Manager、Safe Security 

「AIが業界を変革し続けるにつれて、これらのシステムを高度でユニークなサイバーセキュリティ攻撃から保護することがこれまで以上に重要になっています。Databricks AI Security Frameworkは、企業がイノベーションとセキュリティの両方で最前線に立つための優れた資産です。DASFを使用すると、企業はAIリスクをよりよく理解し、イノベーションを継続しながらそれらのリスクを軽減するためのツールとリソースを見つけることができます。」- Ian Swanson、CEO、Protect AI

「Databricks AI Security Frameworkを使用すると、AIリスクを慎重かつ透過的に軽減できます。これは、取締役会と従業員の信頼を構築する上で非常に貴重です。これは、AIをビジネスに取り込み、AIワークロードを安全かつ自信を持って本番環境に移行する組織の15％に加わることを可能にするゲームチェンジャーです。」— Coastal Community Bank

「データとAIのコンテキストでは、セキュリティに関する会話はほとんどありません。Databricks AI Security Frameworkは、AIとMLの作業のしばしば無視される側面に対処し、AIセキュリティリスクを理解するだけでなく、それらを軽減する方法に関するクラス最高のガイドとして機能します。」- Josue A. Bogran、Kythera LabsのアーキテクトおよびSunnyData.aiのアドバイザー

「Databricks AI Security Frameworkを使用して、MLおよびAIセキュリティリスクを管理するための組織のセキュリティ体制を強化しました。Databricks AI Security Frameworkを使用すると、適切なデータガバナンスとセキュリティ対策を講じながら、AIとデータ分析の可能性をより自信を持って探求できるようになりました。」- Muhammad Shami、バイスプレジデント、Jackson National Life Insurance Company

今すぐDatabricks AI Security Framework 2.0をダウンロードしてください！

Databricks AI Security Framework 2.0とその概要（Googleシート、Excel）がダウンロードできるようになりました。今後のAIリスクワークショップの詳細、または組織向けの専用の対面式またはバーチャルワークショップをリクエストするには、[email protected]またはアカウントチームにお問い合わせください。また、AIガバナンスの管理に関する詳細な洞察を提供するために、追加のソートリーダーシップコンテンツも近日公開予定です。AIセキュリティリスクの管理方法の詳細については、Databricks Security and Trust Centerをご覧ください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事