によって Databricks Staff による投稿
組織はAIの利用を加速するという相反するプレッシャーを感じていますが、急速に進化するテクノロジーは、データセキュリティの実践に新たなレベルの懸念と責任をもたらします。データはあらゆる組織にとって最も価値のある資産の1つであり、AIシステムのセキュリティを確保するために保護する必要があります。組織は、AI資産を保護し、その利用に伴う潜在的なリスクを軽減するために、堅牢なセキュリティプロトコル、暗号化方式、アクセス制御、モニタリングメカニズムを導入する必要があります。しかし、AIのセキュリティとリスクの管理はさらに奥が深いものです。
AIセキュリティとは、人工知能システム、モデル、データを不正アクセス、改ざん、悪意のある活動から保護するために実施される実践、対策、戦略を指します。バイアス、ハルシネーション、透明性、信頼に関する懸念は、絶えず変化する規制の状況と相まって、AIシステムを効果的にテストおよび監視することを困難にしています。
それは困難に思えるかもしれませんが、AIは保護を自動化し、脆弱性を修正する能力によって、セキュリティへの取り組みを支援することもできます。AIは、以下を含むサイバーセキュリティのあらゆるフェーズに対応するために使用されています。
従来のITセキュリティとは異なり、AIはデータ、モデル、インフラストラクチャ、ガバナンスにまたがる新たな脆弱性をもたらします。AIシステムの各コンポーネントに対するリスクを理解することが重要です。
考えられるすべての脅威シナリオを分析するのではなく、特定のAIユースケースに関連する脆弱性を理解し、特定することも重要です。デプロイモデルが異なれば、必要となるコントロールも異なります。さまざまなAIデプロイモデルの説明、およびAIシステムのコンポーネントをデプロイされたモデルや潜在的なリスクに整合させる方法については、Databricks AIセキュリティフレームワーク (DASF) をダウンロードしてください。
AIシステムは複雑であり、人間の監視がほとんどない状態で動作する可能性があります。AIセキュリティの問題は、近年のデータセキュリティ攻撃の成功をはるかに超える形で、高くつく可能性があります。安全でないデータ処理は依然として個人データを漏洩させ、プライバシーリスクをもたらす可能性がありますが、監視、テスト、モニタリングの欠如は、下流へのエラー伝播や社会的・経済的不平等をめぐる倫理的ジレンマといった意図しない結果につながる可能性があります。モデルトレーニング中に生じたバイアスは、差別や不公平な慣行につながる可能性があります。
AIシステムがどのように構築され、監視されているかについての透明性の欠如は、不信感と導入への抵抗につながる可能性があります。AIは、偽情報を拡散し、競争上および経済上の利益のために操作する目的で悪用される可能性があります。
また、規制の非コンプライアンスの責任により、組織はテクノロジーの進歩に伴って新しい規制に歩調を合わせることを余儀なくされています。これまでで最も包括的なAI規制が、欧州連合（EU）議会でかなりの票差で可決された一方、米国連邦政府および州機関は最近、AIの使用に規制を設けるためのいくつかの注目すべきステップを講じています。
「AIの安全、セキュアで信頼できる開発と利用に関する大統領令」は、差別、消費者の安全、独占禁止からの保護を広範に規定しています。この大統領令の下での主要な取り組みの1つは、米国国立標準技術研究所がその人工知能リスク管理フレームワークを生成AIに適用するために拡張することです。最近NIST内に設立された米国AIセーフティインスティテュートは、Databricksを含む参加メンバーからの研究と専門知識によって、この取り組みをサポートします。
安全なAIフレームワークは、テクノロジーや規制とともに 進化することが期待されるため、今後のAIシステムのセキュリティ確保に非常に役立つでしょう。Databricks AIセキュリティフレームワーク（DASF）は、以下を理解するのに役立つことで、NISTフレームワークをさらにいくつかのステップ進めています。
DASFは、AIリスクを管理するために次の7つのステップを推奨しています。
全体的なSecOpsにAI技術を導入することで、増え続けるデータ量と複雑化するAIソリューションに対応できるよう、セキュリティおよびリスク管理オペレーションを拡張できます。また、定型的な手作業タスク、監査、コンプライアンス関連のコストが削減されることで、費用やリソースの活用といった面でもメリットが得られます。
AIベースの行動分析と異常検知によって運用効率が向上し、脅威の検出と緩和の対応時間と精度が改善されます。
AIを使用してセキュリティ管理プロセスを自動化することで、攻撃対象領域への可視性を迅速に得ることができます。AIモデルは、継続的なモニタリング、IPアドレスの追跡と調査、影響に基づいて脆弱性を特定し優先順位を付けて事前対応的に軽減するためにトレーニングできます。
AIは、コンプライアンス管理のためのインベントリ分析、タグ付け、追跡を実行し、パッチ適用とアップグレードを自動化できます。これにより、人的エラーが削減され、リスク評価とコンプライアンス報告が効率化されます。
自動化と AI は、変化し続ける脅威の状況を継続的に学習しながら、サイバー攻撃にリアルタイムで対応し、誤検知を減らすこともできます。
AI セキュリティの新たなトレンドは、事後対応的な対策から、事前対応的な強化への移行を約束しています。これらの変更には、次のものが含まれます。
また、セキュリティ管理に生成AIを活用するイノベーションもいくつかあります。例えば、AI主導の攻撃に対抗するための「敵対的AI」の作成や、誤検知を減らすためのGenAIモデルなどです。量子コンピューターの迫り来る脅威に対抗するため、ポスト量子暗号の研究も進められています。
将来のセキュリティの課題に備えるには、AIによるセキュリティプラットフォームの継続的な進化が必要であり、セキュリティオペレーションセンター（SOC）の専門家は新しい技術を学び、AIでスキルアップする必要があります。AI駆動のリスク評価技術と組み合わせることで、ブロックチェーンは不変のリスク記録を保証し、透明で検証可能な監査証跡を提供するのに役立ちます。
AI活用の機運が急速に高まる中、組織はそのテクノロジーの民主化と、アプリケーションに対する信頼構築の必要性を認識しつつあります。これを達成するには、効果的なガードレール、ステークホルダーのアカウンタビリティ、そして新たなレベルのセキュリティが必要になります。その道を拓くため、重要な共同の取り組みが進行中です。サイバーセキュリティ・社会基盤安全保障庁（CISA）は、Databricksをはじめとする連邦、国際、および民間セクターのパートナーと共同で、共同サイバー防衛コラボレーティブ（JCDC）人工知能（AI）サイバーセキュリティ連携プレイブックを策定しました。
AIシステムのセキュリティを向上させるには、トレーニングとツールへの投資が必要になります。Databricks AIセキュリティフレームワーク (DASF) は、AIデプロイのエンドツーエンドのリスクプロファイルの作成、組織全体のチームに対するテクノロジーの分かりやすい説明、あらゆるデータおよびAIプラットフォームに適用されるコントロールに関する実用的な推奨事項の提供に役立ちます。
責任を持ってAIを使用するには、文化的および行動的な教育と、オーナーシップと継続的な学習を重視するリーダーシップが必要です。進化するAIセキュリティの役割に関するイベント、ウェビナー、ブログ、ポッドキャストなどは、Databricks Security Eventsでご覧いただけます。また、インストラクター主導およびセルフペースのトレーニングコースについては、Databricks Learningをご確認ください。
(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事
ブログを購読して、最新の投稿を受信トレイにお届けします。