AIの乱立を招くことなく、エージェント型アプリケーションをスケールさせる方法

エージェントの構築はますます容易になっています。より高性能なモデルやコーディングエージェントの登場により、迅速な構築とイテレーションが可能になりました。しかし、企業全体で多数のエージェントを運用することは、まったく別の問題です。

エージェントの役割が「質問への回答」から「アクションの実行」へと移行するにつれ、モデル、企業データ、ビジネスセマンティクス、ツール、アプリケーションが複雑に絡み合ったネットワークへの依存度が高まっています。単一のワークフローにおいて、ガバナンスが効いたデータの取得、モデルの選択、複数のツールの呼び出し、別のエージェントへのタスクの引き継ぎ、基幹システムの更新などを、適切な権限のもとで実行し、何が起きたかを把握するための十分なトレースを残しながら行う必要があります。

各チームがこれらの要素を個別に連携させると、新たな「AIの無秩序な拡散（スプロール化）」が生じるおそれがあります。インテグレーションの重複、一貫性のないポリシー、AIコストの増加、コンテキストの断片化、そしてエージェントの増加に伴って変更が困難になるアプリケーションなどがその例です。

課題は、個々のアプリケーションごとにインフラを増やすことなく、これらのアプリケーションをスケールさせることです。

Databricksは最近、OpenAIおよびStellantisと共同で、本番環境でエージェントアプリケーションをスケールさせるために必要な要素について検証しました。中心的なテーマは、エージェントの能力と自律性が高まるにつれて、それらを取り巻くインフラの重要性が増すという点でした。

エンタープライズ規模において、そのインフラは3つの要素を提供する必要があります。チームが進化に合わせて適切なモデル、ツール、フレームワークを使用できるようにする選択肢（choice）、エージェントがガバナンスの効いた企業データやビジネス上の意味を理解して動作できるようにするコンテキスト（context）、およびアプリケーションの成長に伴っても権限、ポリシー、評価、オブザーバビリティ、コスト管理の一貫性を維持するコントロール（control）です。

Databricks上では、この基盤はAgent Bricks、Omnigent、およびUnity Gatewayを統合します。Agent Bricksは、エージェント群の構築、ガバナンス、最適化を行うための統合プラットフォームを提供します。Omnigentは、チームがさまざまなエージェントハーネスを横断して作業するための共通レイヤーを提供し、Unity Gatewayは、アプリケーションが使用するモデル、エージェント、ツール全体のアクセス、コスト管理、オブザーバビリティを集中管理します。

これらの機能がアプリケーション間で共有されることで、チームは個別のインテグレーションやガバナンスのプロジェクトを立ち上げることなく、新しいエージェントやワークフローを追加できるようになります。

コンテキストは再構築するのではなく、共有すべきである

エンタープライズ向けのエージェントに必要なのは、モデルへのアクセスだけではありません。目の前のタスクを理解するために必要なデータ、ビジネス定義、ドキュメント、アプリケーション、ツールが必要です。

このようなコンテキストは、すでに組織内に存在していることが少なくありません。課題は、ガバナンスが効いた再利用可能な形で、それをエージェントが利用できるようにすることです。

異なるチームを支援する2つのエージェントを考えてみましょう。営業エージェントとカスタマーサポートエージェントは、どちらも「誰がアクティブな顧客に該当するか」「その顧客がどの製品を所有しているか」「アカウントの階層構造がどのように定義されているか」を理解する必要があります。各アプリケーションがこれらの定義を個別に再作成すると、同じビジネス概念であってもワークフローによって異なる意味を持つようになってしまいます。

また、このような断片化は、チームが顧客データ、製品定義、メトリクス、社内ドキュメントにエージェントを個別に接続するため、メンテナンスが必要なインフラを増やす原因にもなります。

Agent Bricksは、ガバナンスが効いた企業データとビジネスセマンティクスを中心に構築された、共有コンテキストレイヤーを活用します。Unity CatalogがデータとAI資産へのアクセスを管理し、Genie Ontologyがエージェントにビジネス概念と関係性の共通の理解を提供します。Document Intelligence、AI Search、およびAgent Memoryなどの機能により、ドキュメントの理解、検索、履歴を用いてそのコンテキストを拡張し、より複雑なワークフローに対応できます。

これにより、チームはアプリケーションごとにビジネスコンテキストを再作成する代わりに、ガバナンスの効いた同じコンテキストを再利用できるようになります。

選択肢が断片化を生んではならない

タスクに最適なモデル、ツール、またはエージェントハーネスが、常に固定されているとは限りません。

エージェントアプリケーションの各ステップでは、推論の品質、レイテンシ、コストの間で異なるトレードオフが求められる場合があります。新しいモデルやハーネスは登場し続けており、複雑なワークフローではそれらの複数を同時に組み合わせることもあります。

すべてのハーネスが独自のインターフェース、セッション、ポリシー、実行方法を持っている場合、そのような柔軟性を管理することは困難になります。

Omnigentは、エージェントハーネスの上位に共通レイヤーを追加するため、チームは異なるハーネスで構築されたエージェントを構成し、少ない手戻りでそれらを切り替えることができます。Unity Gatewayは、モデルとハーネスのレイヤーにおける選択を処理し、プロプライエタリモデルやオープンモデルへの一貫したアクセスを提供するとともに、Smart Routing、キャパシティ、コスト管理機能を提供します。

これらのレイヤーを組み合わせることで、チームは周囲 of インフラの一貫性を保ちながら、アプリケーションの背後にあるモデルやエージェント技術を変更できるようになります。

コントロールはすべてのアクションに伴う必要がある

エージェントが「回答の生成」から「アクションの実行」へと移行するにつれて、コントロール（統制）の必要性が高まります。

エージェントは、社内データの読み取り、基幹システムの呼び出し、コードの実行、ワークフローの更新、あるいは別のエージェントの呼び出しを行う可能性があります。機能が追加されるたびに、アプリケーションができることが広がり、ガバナンスが必要なインタラクションが増加します。

顧客への返金を処理するエージェントを考えてみましょう。リクエストを開始する従業員は、顧客アカウントへの広範なアクセス権を持っているかもしれません。一方で、エージェントに必要なのは、注文の詳細、関連する返金ポリシー、および特定のトランザクションを実行する権限のみです。エージェントの権限は、完了を求められているタスクに見合ったものであるべきです。

そのためには、AIとのインタラクション全体に及ぶコントロールが必要になります。

Unity Gatewayは、モデル、エージェント、MCPサーバー、ツール、スキルにわたる一元化されたコントロールプレーンを提供します。チームは、アクセスポリシーやガードレールの適用、予算やレート制限の管理、利用可能なAI資産の制御、インタラクション全体のトレースの保持を行うことができます。Unity Catalogと組み合わせることで、これらのコントロールに、リクエストの背景にあるアイデンティティ、データ権限、コンテキストを反映させることができます。

コードやツールを実行するワークロード向けに、Databricks Sandboxは、エージェントが必要とするデータやシステムへのアクセス権限を最小限に抑えた、隔離された実行環境を提供します。

その結果、アプリケーションが成長しても、エージェントがアクセスできる対象、実行できるアクション、およびそれらの決定がどのように強制されるかについて、より明確な境界線が確立されます。

コントロールには、何が起きたかを示す可視性も必要である

アプリケーションがコンテキストを取得し、モデルを選択し、ツールを呼び出し、複数のステップを調整できるようになると、最終的な応答はストーリーの一部を語っているに過ぎなくなります。

一見正しそうな回答の裏に、検索の失敗、誤ったツールの呼び出し、あるいは予期しない実行パスが隠されていることがあります。問題が発生した場合、チームはアプリケーションがどのようにしてその結果に至ったかを再構築する必要があります。つまり、どのような情報が使用されたか、どのツールが呼び出されたか、どのモデルがタスクを処理したか、どのようなポリシーが適用されたか、そしてどこで挙動が期待から逸脱したか、ということです。

Unity Gatewayは、トレース、使用状況、コスト、ツールのアクティビティなど、AIインタラクション全体のテレメトリを集中管理します。MLflowは、チームがアプリケーションの挙動を検査し、代表的なインタラクションをデータセットにキャプチャし、プロンプト、モデル、ツール、またはオーケストレーションへの変更を評価できるようにするトレースおよび評価ワークフローによって、その運用面での可視性を補完します。

このフィードバックは、アプリケーションの次のイテレーションに役立てることができます。チームは、広く展開する前に変更を比較し、デグレード（性能低下）を特定し、本番環境での挙動を利用して、品質、信頼性、コストを継続的に改善できます。

共有インフラストラクチャにより、組み合わせが容易に

より広範なビジネスワークフローでは、複数のエージェント、モデル、またはツールが関与することがよくあります。あるコンポーネントがユーザーのリクエストを理解し、別のコンポーネントがデータを分析し、確定的なシステムが計算を実行したりビジネスプロセスを更新したりする、といった具合です。

それらの要素を組み合わせる機能は、周囲のインフラストラクチャがすでに共有されている場合に、より価値が高まります。Omnigentは、異なるハーネスで構築されたエージェントに共通のインターフェースを提供し、Agent Bricksは、結果として得られるエージェントフリートを構築および運用するためのより広範なプラットフォームを提供します。同一のガバナンスが適用されたコンテキストと制御を、ワークフロー全体に引き継ぐことができます。

チームがより多くのアプリケーションを構築するにつれて、エージェント、ツール、スキル、ビジネスコンテキストは、再利用可能なビルディングブロックになります。新しいワークフローは、別の孤立したスタックを新たに作成するのではなく、既存の、適切にガバナンスが効いた、オブザーバビリティ（観測可能性）のあるインフラストラクチャを活用できます。

選択肢、コンテキスト、制御を考慮した構築

選択肢（Choice）により、エコシステムの変化に合わせて、チームは新しいモデル、ハーネス、ツールを柔軟に採用できます。 

コンテキスト（Context）は、ガバナンスが適用された企業のデータとビジネスセマンティクスにこれらのアプリケーションをグラウンディング（根付かせ）します。 

制御（Control）は、権限やポリシーから、予算、トレース、評価、コストに至るまで、構築されたエージェントフリート全体に一貫したガバナンスと運用を提供します。

Agent Bricksは、エージェントフリートを大規模に構築、管理、最適化するための統合プラットフォームとしてこれらの機能をまとめ、Omnigentがハーネス間の組み合わせをサポートし、Unity GatewayがAIインタラクション全体に共通のコントロールプレーンを提供します。

モデルやハーネスは変化し続けます。企業が規模を拡大して成功するために、そのうちの1つに標準化する必要はありません。必要なのは、それらを取り巻くインフラストラクチャを標準化することです。これにより、新しいエージェントは、AIの無秩序な拡散（スプロール）を新たに引き起こすことなく、同じコンテキスト、制御、運用モデルを継承できます。

詳細はこちら

オンデマンドウェビナー「 Agents at Work: Shipping Agentic Apps at Scale」をご視聴いただき、企業におけるエージェント型アプリケーションの背景にあるインフラストラクチャ、運用モデル、本番環境のパターンについて詳しくご確認ください。

今すぐ始める

Agent Bricks CLIを使用すれば、簡単に始めることができます。わずか数行のコードで、モデルキャパシティのためのUnity Gateway、Databricksインフラストラクチャ上でホストされるRuntime、MLflowを活用したエージェントトレースなど、Agent Bricksのすべての機能と統合されたエージェントを開発できます。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事