オープンモデルからオープンなエージェントハーネスまで：Databricksは、オープンコード、コミュニティフレームワーク、そして具体的なアーキテクチャをAIセキュリティにもたらします
によって ケイティ・カミスキー, Maria Pere-Perez, Arun Pamulapati 、 Nishith Sinha による投稿
Databricksは、今週開催されるBlack Hat USA 2026のスポンサーです。ブース#5106 / #2167にお越しください。また、当社のPantherの買収がどのようにSecurity Lakehouse時代を加速させるかをご覧ください。
AIシステムの機能が向上し、自律性が高まるにつれて、2つの課題が浮き彫りになっています。それは、新しいクラスの攻撃からAIシステム自体を保護することと、AIを活用してサイバー防御を強化することです。少数のクローズドなシステム内に重要なセキュリティインテリジェンスが閉じ込められたままでは、エコシステム全体が危険にさらされるため、どちらの課題にもオープンさが必要です。Databricksは、AIシステムを保護するためのオープンフレームワークと、大規模なエージェント型脅威検出・対応を支えるOpen Security LakehouseであるLakewatchを通じたオープンデータの両面から、このミッションをサポートしています。
そのため、DatabricksはNVIDIAやその他の業界リーダーとともに、Open Secure AI Allianceの創設メンバーになれたことを誇りに思います。このアライアンスは、「AIの安全性とセキュリティに関する研究はオープンに共有されるべきであり、そこから生み出されるツールはオープンなシステム上に構築されるべきである」という、シンプルながらも強力な前提に基づいています。その取り組みは、AIの安全性、AIセキュリティ、AIを活用したサイバー防御に及び、世界中の企業、ソフトウェア、重要なシステムを強化しています。メンバーは、新しいサイバーセキュリティツールや技術の開発を加速させるために、オープンモデル、モデルの重み、オープンハーネス、オープンツール、そしてそれらの背景にある知見などをオープンに提供しています。
AIエージェントは単なるモデルではありません。モデル、ハーネス、そしてエージェントに許可される行動を管理するガードレールから構築された複雑なシステムです。企業境界内でオープンウェイトモデルを保護することに多くの注目が集まっていますが、モデルの重みは1つのレイヤーにすぎません。エージェント時代におけるセキュリティには、基盤となるランタイムやガードレールから、エージェントとそのツールをオーケストレーションするハーネス、リスクとコントロールを定義するフレームワーク、そして企業のセキュリティ、監査可能性、説明責任を保証するガバナンスレイヤーに至るまで、オープンな実行スタックが必要です。
オープンなシステムにより、最も幅広いディフェンダー（防御側）のコミュニティが、このスタックのすべてのコンポーネントを研究、テスト、強化できるようになります。その結果、保証、可視性、証拠、参加、そして選択肢に基づ く信頼が築かれます。
このアライアンスには、チップ、モデル、セキュリティ、インフラストラクチャにわたる75以上の組織が参加しています。NVIDIAはアクセラレーテッドコンピューティングとオープンなAIインフラストラクチャを提供します。Databricksは、ガバナンスが効いたデータ、モデルとエージェントの機能、そしてセキュリティ、ガバナンス、レッドチーム演習、サイバー防御のためのオープンなツールとフレームワークを提供します。
アライアンス全体からの貢献と相まって、この取り組みはエージェントスタック全体の強化に役立ちます。
Open Secure AI Allianceは、ディフェンダーがAIスタック全体でエージェントの動作を検査、監査、管理できるように、オープンなモデル、ハーネス、ガードレールを提唱しています。Omnigent（Apache 2.0）は、この呼びかけに対するDatabricksの答えであり、オープンソースのメタハーネスです。Omnigentは、開発者にハーネスとモデルの選択肢を提供し、構成と安全な共有を可能にすると同時に、オープンとクローズドの両方を含む13以上のハーネスにわたってポリシー、支出上限、サンドボックスの分離を強制します。
Omnigentのコンテキストポリシーは、セッション状態を追跡し、スローバーン攻撃をブロックし、意図に基づく認可を強制することで、エージェントの動作ガバナンスを可能にします。これらはまさに、アライアンスが想定しているオープンで検査可能なコントロールの一種です。
Omnigentは、ガバナンスバックエンドとしてNVIDIA OpenShellをサポートするように設計されており、ポリシー制御とカーネルレベルの分離を組み合わせることで、エージェントの認可からホストの実行に至るまで、階層化された監査可能な保護を提供します。
DASF 3.0は、13のコンポーネントにわたる97の技術的なセキュリティリスクをカタログ化し、それらを73の緩和コントロールに対応付けています。これらはすべてMITRE ATLAS、OWASP、NIST、AIUC-1、HITRUST、ISO、CSAと相互参照されています。CC BY-SA 4.0ライセンスの下でリリースされたバージョン3.0では、エージェント型AIの脅威（メモリ汚染、目標操作、安全でないMCP接続など）に特化したカバレッジが導入され、ディフェンダーにリスクの特定から緩和へと移行するためのオープンでベンダーに依存しないブループリントを提供します。
DASFはリスクの分類法を、強制可能でベンダーに依存しないコントロールに関連付けるため、ディフェンダーに「特定されたリスク」から「導入された緩和策」への具体的な道筋を示します。これにより、コミュニティ内のあらゆる組織が利用できる、エージェント型の脅威と緩和策に関する共通の分類法が提供されます。
DAGFは、誰が責任を負い、企業がそれをどのように管理するかを定義します。このフレームワークは、責任あるレジリエントなAIプログラムを構築するための5つの柱を概説し、意思決定と実行のための実用的なインサイトを提供します。AIガバナンス、倫理的コンプライアンス、リスク管理、運用の監視などのコア領域に対応しています。これにより、人、プロセス、テクノロジーにわたるコラボレーションを促進しながら、AIプログラムを透明、安全、かつ効果的に管理できます。アライアンスの文脈において 、DAGFは企業がNVIDIAのアクセラレーテッドコンピューティングとAIインフラストラクチャをどのように選択、導入、管理するかを統制するのに役立ち、オープンなテクノロジーが大規模かつ責任を持って採用されるようにします。Creative Commons Attribution-ShareAlike 4.0 Internationalライセンスの下でリリースされたDAGFは、ベンダーに依存せず、コミュニティが使用する標準にすでに準拠しています。
BlackIceは、Databricksのオープンソースでコンテナ化されたレッドチーム演習ツールキットです。広く使用されている14のAIセキュリティツールを、MITRE ATLASおよびDASFに対応付けられた単一の再現可能な環境にバンドルしているため、セキュリティチームは各ツールを手作業で連携させることなく、プロンプトインジェクション、データ漏洩、サプライチェーン攻撃に対してシステムをテストできます。
これにより、AIレッドチーム演習のハードルが下がります。14のツールを個別に立ち上げるには時間と深い専門知識が必要であり、ほとんどのチームにとって本格的な敵対的テストは手の届かないものでした。現在までに6,000回以上ダウンロードされており、これらのツールを独自に組み立てることができなかったチームの手にもすでに渡っています。
アライアンスのミッ ションである「AIを活用したサイバー防御」の側面において、オープンさに対する当社の取り組みはフレームワークにとどまりません。Databricksは、セキュリティ、IT、ビジネスデータを統合し、ディフェンダーがペタバイト規模で検出、調査、対応を実行できるようにする、オープンでガバナンスの効いたアーキテクチャであるSecurity Lakehouseを先駆けて開発しました。
DatabricksのOpen Security LakehouseであるLakewatchを使用すると、セキュリティチームは、ベンダーロックインを防ぐオープンデータフォーマットの上で、アラートを能動的にトリアージし、脅威ハンティングを行い、検出ロジックを洗練させるAIエージェントをデプロイできます。これは、Open Secure AI Allianceを推進する「ディフェンダーは自らのデータ、ツール、インテリジェンスを所有すべきである」という哲学と同じです。
そのアーキテクチャのガバナンス基盤となるのが、DatabricksがApache 2.0の下でオープンソース化し、Linux Foundationに寄贈したUnity Catalogです。このカタログは、どのエージェントがどのデータ、モデル、またはツールにアクセスできるかを決定し、それを強制するレイヤーです。その上のすべてがオープンであるにもかかわらず、このレイヤーをプロプライエタリなままにしておくと、最もセキュリティ上重要なコントロールポイントが検査できなくなってしまいます。オープンなカタログ、つまりオープンなAPI、オープンなテーブルフォーマット、オープンな実装により、ディフェンダーは強制ポイント自体を監査および拡張でき、セキュリティデータは1つのベンダーのコントロールプレーンにロックされることなく、エンジン間でポータブルな状態を維持できます。
オープンセキュリティに対する当社の取り組みは、創業期にまで遡る深いオープンソースの伝統に基づいています。 Apache Spark、Delta Lake、およびMLflowはすべて、基盤となるテクノロジーはオープンで、検証可能であり、コミュニティ主導であるべきだという原則に基づいて構築されました。そして、Unity Catalogをオープンソース化した際、その原則をガバナンスレイヤーにも拡張しました。Apache Spark単体だけでも、現在20億ダウンロードを突破しています。Open Secure AI Allianceは、これと同じ哲学をAIの安全性とセキュリティに拡張するものです。
Open Secure AI Allianceは、関連するAIの安全性とセキュリティに関する研究を透明性をもって開発・共有するためのムーブメントです。今後、このアライアンスは、組織が検証、導入、拡張できる実用的でオープンな機能を継続的に提供していきます。
私たちは、NVIDIAやより広範なアライアンスのメンバーとともにこのミッションに取り組み、エージェント時代の安全を共に確保しながら、オープンなコード、オープンなフレームワーク、オープンな研究をコミュニティに提供し続けられることを嬉しく思います。
オープンセキュリティレイクハウス「Lakewatch」の詳細、およびDatabricksがエージェント時代に向けてセキュリティ運用をどのように再定義しているかをご覧ください。
ご自身の環境でオープンエージェントのメタハーネス、コンテキストポリシー、サンドボックス分離を実行するには、Omnigentを始めるをご覧ください。
AIシステムを保護するためのリスクとコントロールを理解するには、Databricks AI Security Framework (DASF) 3.0の詳細をご覧ください。
AIプログラム全体における説明責任と監視について学ぶには、Databricks AI Governance Framework (DAGF) をダウンロードしてください。
統合ツールの詳細、Databricksでホストされたモデルでの実行例、およびすべてのDockerビルドアーティファクトへのアクセスについては、BlackIceのGitHubリポジトリをチェックしてください。
(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事
ブログを購読して、最新の投稿を受信トレイにお届けします。