Databricks AIセキュリティフレームワーク2.0の発表

私たちは、Databricks AIセキュリティフレームワーク（DASF 2.0— 今すぐダウンロード ）の第2版を発表することを大変嬉しく思います！ AIの潜在能力を引き出そうとする組織は、イノベーションの'ガス'とガバナンスとリスク管理の'ブレーキ'の両方が必要です。 DASFはこのギャップを埋め、AIリスク管理に関する包括的なガイドとして機能し、組織の安全で影響力のあるAIデプロイメントを可能にします。

このブログでは、DASFの概要を提供し、オリジナルバージョンがリリースされて以来得られた主要な洞察を探求し、AIセキュリティの理解を深めるための新たなリソースを紹介し、業界の貢献者に対する最新情報を提供します。

Databricks AIセキュリティフレームワークとは何でしょうか、そしてバージョン2.0では何が新しいのでしょうか？

こちらのDASFは、AIのセキュリティとガバナンスリスクを管理するためのフレームワークおよびホワイトペーパーです。12の基本的なAIシステムコンポーネントとそれぞれのリスク、そしてそれぞれのリスクを軽減するための具体的なコントロールを列挙しています。DatabricksのセキュリティとMLチームが業界の専門家と協力して作成し、ビジネス、データ、ガバナンス、セキュリティチーム間のギャップを埋めるための実用的なツールと具体的な戦略を提供しています。これにより、AIを理解しやすくし、協力を促進し、効果的な実装を確保します。

他のフレームワークとは異なり、DASF 2.0は既存の標準に基づいてAIデプロイメントのエンドツーエンドのリスクプロファイルを提供します。これは、あなたの組織が運用化し、選択したデータとAIプラットフォームに適用できるように、AIリスク管理を簡素化するための防御深度コントロールを提供します。

DASF 2.0では、62の技術的セキュリティリスクを特定し、それらを64の推奨コントロールにマッピングして、AIモデルのリスクを管理します。また、MITRE ATLAS、OWASP LLM & ML Top 10, NIST 800-53、NIST CSF、HITRUST、ENISAのSecuring ML Algorithms、ISO 42001、ISO 27001:2022、そしてEU AI Actへのマッピングを拡大しました。 

DASFの運用化 - 新しいコンペンディウムと関連する指導ビデオをご覧ください！

産業イベント、ワークショップ、顧客とのミーティングでDASFを共有する中で、貴重なフィードバックを得ています。皆さんからは、DASFのナビゲーションを容易にし、それを運用化し、効果的にコントロールをマッピングするためのリソースをもっと求める声が多く寄せられています。

そのため、私たちはDASFの総合文書のリリースを発表することを嬉しく思います。(Googleシート、Excel)です。このリソースは、DASFのリスク、脅威、コントロール、マッピングを整理し、MITRE、OWASP、NIST、ISO、HITRUSTなどの業界認定の標準に適用することで、DASFを運用するのに役立ちます。また、DASFとその総合文書のガイド付きウォークスルーを提供する教育ビデオも作成しました。

これらのアップデートにより、DASFを採用しやすくし、組織がAIシステムを安全かつ自信を持って実装できるようにすることが目標です。早速取り組みたい方は、私たちのチームが以下のアプローチを推奨します：

1. ステークホルダー、デプロイメントモデル、AIのユースケースを理解する：ビジネスユースケースから始め、DASFホワイトペーパーを活用して最適なAIデプロイメントモデルを特定します。80以上のDatabricksソリューションアクセラレータを選択して旅をガイドします。デプロイメントモデルには、予測的なMLモデル、基礎モデルAPI、微調整された事前学習済みLLM、RAG、LLMを持つAIエージェント、外部モデルが含まれます。組織内でのAI開発について明確に理解し、ユースケース、データセット、コンプライアンスの必要性、プロセス、アプリケーション、責任を持つステークホルダーを確認します。
2. 12のAIシステムコンポーネントと62のリスクを確認する：12のAIシステムコンポーネント、各コンポーネントに関連する伝統的なサイバーセキュリティリスクと新たなAIセキュリティリスク、そして責任を持つステークホルダー（例えば、データエンジニア、科学者、ガバナンスオフィサー、セキュリティチーム）を理解します。DASFを使用して、これらのグループ間でAIライフサイクル全体を通じて協力を促進します。
3. 64の利用可能な緩和制御を確認してください：各リスクは、優先的に緩和制御にマッピングされ、パリメータとデータセキュリティから始まります。これらのリスクと制御はさらに10の業界標準と整合性を持たせ、追加の詳細と明確さを提供します。
4. DASFコンペンディウムを使用してリスクを特定し、コントロールの適用性とリスクの影響を評価します：まず、「DASFリスク適用性」タブを使用して、AIデプロイメントモデルの一つ以上を選択することで、使用ケースに関連するリスクを特定します。次に、関連するリスクの影響、コンプライアンス要件、軽減コントロールを確認します。最後に、AIの使用ケースの説明、データセット、関係者、コンプライアンスの考慮事項、アプリケーションなど、使用ケースの主要な詳細を文書化します。
5. 優先コントロールの実装： コンペンディウムの「DASF Control Applicability」タブを使用して、適用可能なDASFコントロールをレビューし、12のAIコンポーネント全体のデータプラットフォームに対する緩和コントロールを実装します。Databricksを使用している場合、各コントロールをプラットフォームにデプロイする方法についての詳細な指示を含むリンクが含まれています。

Databricksからの新しいAIスキルアップリソースを使用して、組織内でDASFを実装します

最近のエコノミストインパクト調査によると、調査対象のデータとAIのリーダーたちは、2025年のAI導入を推進するための主要な優先事項として、スキルアップと成長マインドセットの育成を特定しています。DASF 2.0のローンチの一環として、AIとMLの概念を理解し、あなたの組織にAIセキュリティのベストプラクティスを適用するためのリソースを提供しています。

1. Databricksアカデミートレーニング：新しいAIセキュリティ基礎コースを受講することをお勧めします。これは現在Databricksアカデミーで利用可能です。ホワイトペーパーに深入りする前に、この1時間のコースはDASFで強調されるAIセキュリティトピックの素晴らしい導入となります。また、完了時にはLinkedInプロフィール用の認定を受けることができます。AIとMLの概念に新しい方は、まず私たちの生成AI基礎コースから始めてください。
2. ハウツービデオ： DASFの概要とハウツービデオを録画しました。これらのビデオは私たちのセキュリティベストプラクティスYouTubeチャンネルで見つけることができます。
3. 対面またはバーチャルワークショップ： 私たちのチームは、AIリスクワークショップをDASFで概説された概念のライブウォークスルーとして提供し、AIリスク管理の運用化に向けた障害を克服することに焦点を当てています。この半日のイベントは、ガバナンス、データ、プライバシー、法務、IT、セキュリティ機能のディレクター以上のリーダーを対象としています。 
4. デプロイメントサポート： セキュリティ分析ツール(SAT)は、Databricksのワークスペースでのセキュリティベストプラクティスの遵守を継続的に監視します。最近、SATをアップグレードしてセットアップを簡素化し、チェックを強化し、DASFとの整合性を改善してAIセキュリティリスクのカバレッジを向上させました。
5. DASF AIアシスタント： Databricksの顧客は、Databricks AIセキュリティフレームワーク(DASF) AIアシスタントを自分のワークスペースで設定し、DatabricksのスキルがなくてもDASFのコンテンツと簡単な人間の言語で対話し、回答を得ることができます。 

AI業界のグループ、顧客、パートナーとのコミュニティを構築します

DASFが現在のAI規制環境と新たな脅威の風景と一致して進化することを確保することは最優先事項です。1.0のローンチ以来、業界の同僚、顧客、パートナーからなるAIワーキンググループを結成し、これらの開発と密接に連携しています。ワーキンググループの同僚やComplyleft、The FAIR Institute、Ethriva Inc、Arhasi AI、カーネギーメロン大学、JPMCのRakesh Patilなどの事前レビュアーに感謝します。貢献者の完全なリストはDASFの謝辞セクションにあります。DASF AIワーキンググループに参加したい方は、私たちのチームに[email protected]までご連絡ください。

ここにいくつかの主要な支持者の意見を紹介します：

"AIは、CLEVER GenAIパイプラインのような革新を通じて医療提供を革命化しています。このパイプラインは、1日に150万件以上の臨床ノートを処理し、主要な社会的決定要因を分類し、退役軍人のケアに影響を与えています。このパイプラインは、強固なセキュリティ基盤を持って構築され、NIST 800-53コントロールを組み込み、Databricks AIセキュリティフレームワークを活用してコンプライアンスを確保し、リスクを軽減しています。今後、Infrastructure as Codeやセキュアなコンテナ化戦略を通じてこれらの能力を拡大する方法を探求しています。これにより、エージェントをリポジトリから動的にデプロイし、厳格なセキュリティ基準を維持しながらスケールすることが可能になります。"- ジョセフ・ラエタノ、人工知能リード、Summit Data Analytics & AI Platform、米国退役軍人省

「DASFは、AIリスクの定量化を操作可能な現実に変えるための必須ツールです。FAIR-AIリスクアプローチが2年目に入り、DASF 2.0はCISOがサイバーセキュリティとビジネス戦略の間のギャップを埋めることを可能にします。これは、測定可能な金融影響に基づく共通言語を話すことです。」- ジャクリーン・レボ、FAIRインスティテュートAIワークグループ創設者、Safe Securityリスクアドバイザリーマネージャー 

“AIが業界を変革し続ける中、これらのシステムを洗練されたユニークなサイバーセキュリティ攻撃から保護することは、今まで以上に重要になっています。Databricks AIセキュリティフレームワークは、イノベーションとセキュリティの両面で先頭を走る企業にとって大きな資産です。DASFを使用することで、企業はAIリスクをよりよく理解し、それらのリスクを軽減するためのツールとリソースを見つけることができ、イノベーションを続けることができます。”- Ian Swanson, CEO, Protect AI

「Databricks AIセキュリティフレームワークを使用することで、AIのリスクを思慮深く、透明性を持って軽減することができます。これは、役員と従業員の信頼を築くために非常に価値があります。これはゲームチェンジャーであり、私たちがビジネスにAIを導入し、安全かつ自信を持ってAIのワークロードを本番環境に移行する組織の15％の中に入ることを可能にします。”— コースタルコミュニティバンク」

"データとAIの文脈では、セキュリティに関する会話は少ないです。Databricks AIセキュリティフレームワークは、AIとMLの作業のしばしば見落とされがちな側面に対応し、AIセキュリティリスクを理解するだけでなく、それらを軽減する方法についても最高クラスのガイドとして機能します。- Josue A. Bogran、Kythera Labsのアーキテクト＆SunnyData.aiのアドバイザー

“私たちはDatabricks AIセキュリティフレームワークを使用して、MLとAIのセキュリティリスクを管理するための組織のセキュリティ姿勢を強化するのに役立てています。Databricks AIセキュリティフレームワークを使用することで、適切なデータガバナンスとセキュリティ対策を確保しながら、AIとデータ分析の可能性を探求することにより自信を持つことができるようになりました。"- ムハンマド・シャミ、副社長、ジャクソン・ナショナル・ライフ・インシュランス・カンパニー

いますぐDatabricks AIセキュリティフレームワーク2.0をダウンロードしてください！

こちらのDatabricks AIセキュリティフレームワーク2.0とその総合文書（Googleシート、Excel）がダウンロード可能になりました。今後開催予定のAIリスクワークショップについて学ぶか、組織向けの専用の対面またはバーチャルワークショップをリクエストするには、[email protected]またはアカウントチームにお問い合わせください。また、AIガバナンスの管理に関するさらなる洞察を提供するための追加の思考リーダーシップコンテンツが近日公開予定です。AIセキュリティリスクの管理方法についての詳細は、Databricksセキュリティと信頼センターをご覧ください。