AIセキュリティの理解

組織はAIの利用を加速するという相反するプレッシャーを感じていますが、急速に進化するテクノロジーは、データセキュリティの実践に新たなレベルの懸念と責任をもたらします。データはあらゆる組織にとって最も価値のある資産の1つであり、AIシステムのセキュリティを確保するために保護する必要があります。組織は、AI資産を保護し、その利用に伴う潜在的なリスクを軽減するために、堅牢なセキュリティプロトコル、暗号化方式、アクセス制御、モニタリングメカニズムを導入する必要があります。しかし、AIのセキュリティとリスクの管理はさらに奥が深いものです。  

AIセキュリティとは、人工知能システム、モデル、データを不正アクセス、改ざん、悪意のある活動から保護するために実施される実践、対策、戦略を指します。バイアス、ハルシネーション、透明性、信頼に関する懸念は、絶えず変化する規制の状況と相まって、AIシステムを効果的にテストおよび監視することを困難にしています。

それは困難に思えるかもしれませんが、AIは保護を自動化し、脆弱性を修正する能力によって、セキュリティへの取り組みを支援することもできます。AIは、以下を含むサイバーセキュリティのあらゆるフェーズに対応するために使用されています。

• 不正検出やその他の悪意のあるアクティビティのためのリアルタイムデータ分析
• 有害な入力が与えられた際のモデルの振る舞いを学習し、緩和策を導き出すための敵対的テスト
• 大量のデータを分析して潜在的なリスクを特定する能力を備えたリスクの特定/評価
• 適応学習とリアルタイムデータ処理でリスクを評価・優先順位付けし、スコアリングと分類を行います。
• さまざまな人口統計グループ間の結果の格差を検出するためのバイアステスト
• 本人確認と脅威検出のためのパターン認識
• 手作業と人的エラーを削減し、コンプライアンスとリスク管理を支援する自動追跡
• 予測モデリングを使用して人間が見逃す可能性のあるパターンと異常を分析するリスク予測
• 行動分析を使用して脅威を検出し、影響を受けたデバイスの隔離や悪意のあるアクティビティのブロックによって対応します。

一般的な AI のセキュリティ リスク

従来のITセキュリティとは異なり、AIはデータ、モデル、インフラストラクチャ、ガバナンスにまたがる新たな脆弱性をもたらします。AIシステムの各コンポーネントに対するリスクを理解することが重要です。

• データオペレーションのリスクは、データの取り扱いの誤り、不十分なアクセス制御、データマネジメントの欠如、低いデータ品質、データアクセスログの欠如、データポイズニングといった、不適切なデータ管理プラクティスに起因します。
• 追跡不可能で再現性のないエクスペリメント、モデルのdrift、ハイパーパラメータの盗難、悪意のあるライブラリ、評価データのポイズニングなど、モデル運用に関するリスク。
• モデルのデプロイとサービングのリスク（プロンプトインジェクション、モデル反転、サービス拒否、大規模言語モデルのハルシネーション、ブラックボックス攻撃など）。
• 運用とプラットフォームのリスク（脆弱性管理、侵入テスト、バグバウンティの欠如、不正な特権アクセス、不十分なソフトウェア開発ライフサイクル、コンプライアンスなど）。

AIアプリケーションに特有の脆弱性の理解   

考えられるすべての脅威シナリオを分析するのではなく、特定のAIユースケースに関連する脆弱性を理解し、特定することも重要です。デプロイモデルが異なれば、必要となるコントロールも異なります。さまざまなAIデプロイモデルの説明、およびAIシステムのコンポーネントをデプロイされたモデルや潜在的なリスクに整合させる方法については、Databricks AIセキュリティフレームワーク (DASF) をダウンロードしてください。

セキュリティ リスクが組織に与える影響

AIシステムは複雑であり、人間の監視がほとんどない状態で動作する可能性があります。AIセキュリティの問題は、近年のデータセキュリティ攻撃の成功をはるかに超える形で、高くつく可能性があります。安全でないデータ処理は依然として個人データを漏洩させ、プライバシーリスクをもたらす可能性がありますが、監視、テスト、モニタリングの欠如は、下流へのエラー伝播や社会的・経済的不平等をめぐる倫理的ジレンマといった意図しない結果につながる可能性があります。モデルトレーニング中に生じたバイアスは、差別や不公平な慣行につながる可能性があります。

AIシステムがどのように構築され、監視されているかについての透明性の欠如は、不信感と導入への抵抗につながる可能性があります。AIは、偽情報を拡散し、競争上および経済上の利益のために操作する目的で悪用される可能性があります。

また、規制の非コンプライアンスの責任により、組織はテクノロジーの進歩に伴って新しい規制に歩調を合わせることを余儀なくされています。これまでで最も包括的なAI規制が、欧州連合（EU）議会でかなりの票差で可決された一方、米国連邦政府および州機関は最近、AIの使用に規制を設けるためのいくつかの注目すべきステップを講じています。

「AIの安全、セキュアで信頼できる開発と利用に関する大統領令」は、差別、消費者の安全、独占禁止からの保護を広範に規定しています。この大統領令の下での主要な取り組みの1つは、米国国立標準技術研究所がその人工知能リスク管理フレームワークを生成AIに適用するために拡張することです。最近NIST内に設立された米国AIセーフティインスティテュートは、Databricksを含む参加メンバーからの研究と専門知識によって、この取り組みをサポートします。

AI のベスト プラクティス

安全なAIフレームワークは、テクノロジーや規制とともに進化することが期待されるため、今後のAIシステムのセキュリティ確保に非常に役立つでしょう。Databricks AIセキュリティフレームワーク（DASF）は、以下を理解するのに役立つことで、NISTフレームワークをさらにいくつかのステップ進めています。

• AIシステムのライフサイクル全体におけるステークホルダーの責任
• さまざまなデプロイメント モデルと AI のユースケースがセキュリティに与える影響
• 12の主要なAIシステムコンポーネントと関連するリスク軽減策
• ユースケースとモデルに関連するリスク、およびその影響
• モデルの種類とユースケースによって優先順位付けされた制御を実装する方法

DASFは、AIリスクを管理するために次の7つのステップを推奨しています。

• AIシステムと、連携が必要なコンポーネントについてのメンタルモデルを持つ。
• AIシステムの構築と管理に関与する人とプロセスを理解し、その役割を定義します。
• 責任あるAIが何を意味するのか、そして考えられるすべてのAIのリスクを理解し、AIコンポーネント全体でそれらのリスクをカタログ化します。
• さまざまなAIデプロイメントモデルと、それぞれのリスクへの影響を理解する。
• 自社のAIユースケースに固有の脅威を理解し、自社のリスクをそれらのAIの脅威にマッピングします。
• AIユースケースに適用される固有のリスクを理解し、ユースケースに基づいてそれらのリスクをフィルタリングします。
• ユースケースとデプロイメントモデルごとに適用が必要な管理策を特定して実装し、各リスクをAIコンポーネントと管理策にマッピングする。

サイバーセキュリティにおけるAI活用のメリット   

全体的なSecOpsにAI技術を導入することで、増え続けるデータ量と複雑化するAIソリューションに対応できるよう、セキュリティおよびリスク管理オペレーションを拡張できます。また、定型的な手作業タスク、監査、コンプライアンス関連のコストが削減されることで、費用やリソースの活用といった面でもメリットが得られます。

AIベースの行動分析と異常検知によって運用効率が向上し、脅威の検出と緩和の対応時間と精度が改善されます。

AIを使用してセキュリティ管理プロセスを自動化することで、攻撃対象領域への可視性を迅速に得ることができます。AIモデルは、継続的なモニタリング、IPアドレスの追跡と調査、影響に基づいて脆弱性を特定し優先順位を付けて事前対応的に軽減するためにトレーニングできます。

AIは、コンプライアンス管理のためのインベントリ分析、タグ付け、追跡を実行し、パッチ適用とアップグレードを自動化できます。これにより、人的エラーが削減され、リスク評価とコンプライアンス報告が効率化されます。

自動化と AI は、変化し続ける脅威の状況を継続的に学習しながら、サイバー攻撃にリアルタイムで対応し、誤検知を減らすこともできます。

AI セキュリティの未来

AI セキュリティの新たなトレンドは、事後対応的な対策から、事前対応的な強化への移行を約束しています。これらの変更には、次のものが含まれます。

• 機械学習アルゴリズムは、過去のデータに基づいてパターンと将来の脅威や脆弱性の可能性を特定する予測分析に使用されます。
• 行動アナリティクスを使用して不審な異常や攻撃パターンを特定する AI 主導の脅威検出。
• AIで自動化されたセキュリティオーケストレーションとレスポンス (SOAR) を利用し、大量のデータを迅速に分析してインシデントチケットを生成、対応チームを割り当て、緩和策を実装する。
• AIを活用したペネトレーションテスト（「倫理的ハッキング」）で、潜在的な脅威の分析を高速化します。
• 継続的な認証と認可のための、ゼロトラストフレームワークへのAIの統合。
• AI駆動のロジックを使用して最適なソリューションを見つける自己修復システムのための意思決定。

また、セキュリティ管理に生成AIを活用するイノベーションもいくつかあります。例えば、AI主導の攻撃に対抗するための「敵対的AI」の作成や、誤検知を減らすためのGenAIモデルなどです。量子コンピューターの迫り来る脅威に対抗するため、ポスト量子暗号の研究も進められています。

将来のセキュリティの課題に備えるには、AIによるセキュリティプラットフォームの継続的な進化が必要であり、セキュリティオペレーションセンター（SOC）の専門家は新しい技術を学び、AIでスキルアップする必要があります。AI駆動のリスク評価技術と組み合わせることで、ブロックチェーンは不変のリスク記録を保証し、透明で検証可能な監査証跡を提供するのに役立ちます。

結論：安全で倫理的なAI実装を確保する

AI活用の機運が急速に高まる中、組織はそのテクノロジーの民主化と、アプリケーションに対する信頼構築の必要性を認識しつつあります。これを達成するには、効果的なガードレール、ステークホルダーのアカウンタビリティ、そして新たなレベルのセキュリティが必要になります。その道を拓くため、重要な共同の取り組みが進行中です。サイバーセキュリティ・社会基盤安全保障庁（CISA）は、Databricksをはじめとする連邦、国際、および民間セクターのパートナーと共同で、共同サイバー防衛コラボレーティブ（JCDC）人工知能（AI）サイバーセキュリティ連携プレイブックを策定しました。

AIシステムのセキュリティを向上させるには、トレーニングとツールへの投資が必要になります。Databricks AIセキュリティフレームワーク (DASF) は、AIデプロイのエンドツーエンドのリスクプロファイルの作成、組織全体のチームに対するテクノロジーの分かりやすい説明、あらゆるデータおよびAIプラットフォームに適用されるコントロールに関する実用的な推奨事項の提供に役立ちます。

責任を持ってAIを使用するには、文化的および行動的な教育と、オーナーシップと継続的な学習を重視するリーダーシップが必要です。進化するAIセキュリティの役割に関するイベント、ウェビナー、ブログ、ポッドキャストなどは、Databricks Security Eventsでご覧いただけます。また、インストラクター主導およびセルフペースのトレーニングコースについては、Databricks Learningをご確認ください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事