AIエージェントを安心してスケール可能に！新ガバナンス機能が登場

今週初めのブログでもお伝えしたように、AIエージェントが本番環境レベルの品質を達成するには、企業データとの統合と出力ガバナンスが不可欠です。
本日、Mosaic AI Gateway、Unity Catalogのツール、AI/BI Genie のアップデートを発表し、強力なガバナンスとデータ統合機能を備えた、本番環境対応のAIエージェント構築を支援します。

なぜこれが重要なのか？

例えば、開発者が「優先度の高い顧客クレームを要約し、Slackで各部署に通知するAIエージェント」を構築するとします。もしパフォーマンスが十分でなければ、不要な通知が大量に送られ、本当に緊急な問題を見逃すリスクがあります。さらに悪いケースでは、開発者がSlackのAPI認証情報に直接アクセスできる設計になっていると、悪意のある攻撃者に認証情報が乗っ取られ、フィッシングリンクが社内全体に拡散される可能性もあります。

AIエージェントを支えるのは モデル、ツール、データ の3つの要素です。本日のアップデートがどのように 高品質かつ適切にガバナンスされたAIエージェント の構築を支援するのか、詳しく見ていきましょう。

モデル – Mosaic AI Gateway（パブリックプレビュー）

Foundation Modelのアクセス管理、品質監視、プロバイダーごとの利用状況を一元管理。さらに、新機能として自動トラフィックフェイルオーバー によりモデルの信頼性を向上させ、カスタムプロバイダーのLLMを 外部モデル として統合できるようになりました。

ツール – 安全なAPI統合でリスクを排除

Unity CatalogのConnectionsとFunctions により、エンタープライズAPIや外部APIを セキュアなツールとしてAIエージェントに統合 できます。もう、不安定な認証情報管理に悩まされる必要はありません。

データ – AIエージェントのデータ活用をより安全に

AI/BI Genie Conversation APIs（パブリックプレビュー） と  Vector Search retrieval tool をAgent Framework に直接統合し、Unity Catalogのデータに安全にアクセスしながら、有益なインサイトを提供 できるようになりました。

Databricks は、AIエージェント全体を統合的に管理できる エンドツーエンドのガバナンスフレームワーク を提供し、分断されたソリューションを不要にするとともに、品質とセキュリティの向上を実現します。

それでは、各ガバナンスの重要な要素に関する最新のアップデートを見ていきましょう。

最先端のファウンデーションモデルで AIエージェントを安全に強化

Databricks では、オープンソースか独自モデルかを問わず、適切なファウンデーションモデルを選択することが、高品質なAIエージェントの構築に不可欠 だと考えています。

Mosaic AI Gateway は、企業向けAIの 中央制御ハブ として機能し、すべてのファウンデーションモデルとAIエージェントの ガバナンスと品質管理を徹底 します。AI Gatewayを活用することで、以下のことが可能になります。

• 主要なファウンデーションモデル（OpenAI GPT、Claude、Llama、Gemini）に対するセキュアな制御を適用
  中央管理の権限設定、ガードレール、レート制限を通じて、安全な利用を実現。
• 本番環境のAIエージェントの品質を監視し、コンプライアンス監査を強化
  自動ペイロードログを活用し、監査プロセスを効率化。
• すべてのプロバイダーの利用状況を統一的に管理
  コスト配分を最適化し、利用監査を簡素化。

Mosaic AI Gateway は、ガバナンスと柔軟性を兼ね備えた環境で、AIのイノベーションを加速し、高品質なAIエージェントの構築を支援 します。開発者は、統合された管理フレームワークのもとで、最適なモデルに安全にアクセスできるようになります。

すでに多くのお客様がこの機能の価値を実感しており、さらに 信頼性の高いAIエージェント構築を支援する2つの新機能 をAI Gatewayに追加しました！

1. Mosaic AI Gateway におけるカスタムプロバイダー対応を発表（パブリックプレビュー）

多くの企業は 自社のニーズに特化したカスタムプロキシ を開発していますが、AIエージェントの開発からデプロイまでを Databricks 上で一元的に実行したい と考えています。また、自己ホスト型モデルやサードパーティ製のモデルを AI Gateway に統合し、最適なモデルを活用したい というニーズも高まっています。

本日より、AI Gateway は、OpenAI のスキーマに対応するあらゆるファウンデーションモデルを「外部モデル」としてサポート します。これにより、カスタムプロキシを介したモデル や 別のプロバイダーから提供されるモデル も統合可能になります。

この機能を活用することで、モデルのアクセス管理を一元化し、安全性を確保 しながら、品質を監視するためのデータ収集 も可能になります。ホスティング場所に関係なく、ファウンデーションモデルの適切な管理が実現できます。

今すぐカスタムプロバイダーの LLM を登録し、Mosaic AI Gateway を活用してアクセス管理と品質監視を強化しましょう！

2. AIモデルのフォールバック機能で信頼性の高いAIエージェントを実現（パブリックプレビュー）

本番環境向けの 高トラフィック対応AIエージェント を運用するチームは、しばしば サードパーティのAIモデルプロバイダーの可用性問題 に直面します。外部サービスが予期せずダウンしたり、使用量の急増によって クォータ制限 に達してしまうことで、ファウンデーションモデル（そしてそれに依存するAIエージェント）が利用できなくなるリスクがあります。

Mosaic AI Gateway の新しい「トラフィックフォールバック」機能 は、複数のプロバイダー、リージョン、リソース間でシームレスなフェイルオーバーを実現 し、クライアントへの影響を防ぎます。自動フォールバック機能により、企業は システムの継続運用を確保 し、トラフィックの急増やサービス障害が発生した場合でも AIエージェントをスムーズに稼働 させることができます。

「Erste Group にとって、信頼性の高いAI駆動オペレーションの確保は極めて重要です。Mosaic AI Gateway のフォールバック機能により、主要なモデルに問題が発生した際もトラフィックが自動的に切り替わるため、システムの回復力が大幅に強化されました。」

— Jürgen Neulinger, シニアソリューションマネージャー, Erste Group

セキュアなAPIアクセスとツール統合でAIエージェントの能力を強化

AIエージェントは、外部サービス（Teams、Slackなど）や企業のバックエンド（内部APIなど）と統合することで、意思決定やアクションの実行能力が向上 します。しかし、大規模に展開する際に 機密性の高いAPI認証情報を開発者に配布することは、重大なセキュリティリスク となります。

Unity Catalog（UC）Connections と Functions（パブリックプレビュー） を活用すれば、開発者は 完全にガバナンスされたAPI統合 を AIエージェントに組み込むことができ、従来のセキュリティリスクを回避できます。

特にITチームは、UC Connections を使用してすべてのAPI認証情報を一元的かつ安全に管理 できます。アクセス権限に基づき、開発者は 事前承認された接続をAIエージェントのツールとして統合 できるほか、必要に応じて UC Functions を作成・共有してAPIを呼び出す ことも可能です。これにより、開発者やそのコードがAPIトークンに直接アクセスすることなく、安全なAPI利用が実現 されます。また、UC Connections を通じたすべてのAPIアクセスは完全に監査 されます。

以下は、開発者が UC Connection を利用して Slack REST API に認証し、「Slackメッセージ送信」ツールをPythonで定義する例 です。

UC Connections は、安全で再利用可能、かつ発見しやすい設計になっています。
これにより、開発者は リアルタイムのデータとアクションを活用できる俊敏なAIエージェントを構築 しながら、強固なAPIガバナンスを維持 することができます。

エンタープライズデータをAIエージェントシステムに安全に統合

AIエージェントは、独自のデータを活用することで、差別化された品質とパフォーマンスを発揮 します。そのため、高品質なインサイトとアクションを生み出す企業データと、安全かつ効率的に連携する仕組み が不可欠です。

より安全で高性能なAIエージェントを実現するため、構造化データ・非構造化データの両方をAIエージェントにシームレスに統合できる2つの新機能を発表します。

AI/BI Genie Conversation APIs

開発者から、ビジネスチームが自然言語でデータと対話できる強力なAI/BIツール「Genie」 をAIエージェントに統合したいという要望が寄せられていました。そこで今回、Genie Conversation APIs により、ついにこの機能が実現しました！

Unity Catalog のガバナンスのもと、各部門のビジネスユーザーは「自部門のコストは？」といった質問を投げかけるだけで、権限に応じた適切なデータを取得 できます。Genie Conversation APIs を Agent Framework に統合することで、より安全なマルチエージェントシステムの構築が可能 になり、AIエージェントが Unity Catalog のデータとスムーズに連携できるようになります。

「Teams に Genie を統合したことで、データの民主化が大きく前進しました。技術的なバックグラウンドを持たない人でも、簡単にデータインサイトへアクセスできるようになりました。」

— Cezar Steinz, データオペレーションマネージャー, Grupo Casas Bahia

まずは、Genie Conversation APIs の詳細を紹介するブログ をご覧ください。

Vector Search Retrieval Tool

多くのAIエージェントは、Databricks Vector Search を活用して非構造化データと安全に対話 しています。そこで、Unity Catalog のデータガバナンス機能を維持しながら、AIエージェントシステムに簡単に統合できるようにするため、「Vector Search Retrieval Tool APIs」 を導入しました。

このAPIを利用することで、ベクトル検索リトリーバーをAIエージェントのツールとしてスムーズに統合 でき、機密情報を保護しながら、高品質なインサイトを安心して提供できるようになります。

エンタープライズデータを活用した安全なAIエージェントの構築が、わずか数行のコードで実現可能になりました！

今すぐAIエージェントの構築とガバナンスを始めよう

トップ企業は、ガバナンスを活用して、安全で高品質なAIエージェントを本番環境に展開 しています。Databricks を利用すれば、あらゆるモデル・ツール・データセットを統合的に管理しながら、信頼性の高いAIエージェントをスケール できます。

今すぐ、エンドツーエンドのガバナンスを実現し、AIエージェントシステムの構築を始めましょう！

• Mosaic AI Gatewayを設定し、AIエージェントが必要とするFoundation Modelsを用意します。
• Unity Catalog Connectionsを使用して、AIエージェントツールを外部サービスに安全に接続します。
• Genie Conversation APIsをあなたのMosaic AI Agent Frameworkに統合します。
• Vector Search Retrieval Toolを使用して、エージェントシステムから非構造化データに安全にアクセスします。
• デモ動画を見る

そして、AIエージェントのコンパクトガイドをチェックして、GenAIへの投資から最大のリターンを得る方法を学んでください。