Agent BricksとDatabricks Appsで、高品質なエンタープライズAIエージェントをビジネスユーザーに提供

AIエージェントのプロトタイピングは簡単です。ビジネスユーザーが信頼し、セキュリティチームがブロックしないものを出荷することが、ほとんどのエンタープライズプロジェクトが遅延する原因です。

このブログでは、Databricks Platformを使用した、本番環境への迅速かつ管理されたパスを説明します。

1. 組み込みの評価と継続的な改善を備えた、本番グレードのドメイン固有エージェントを構築します
2. 組み込みのSSOと管理されたデータアクセスを備えた、Databricks Appsでカスタマイズ可能なチャットUIをデプロイします
3. AIとデータインサイトを消費するための、合理化された直感的なエクスペリエンスを通じて、エージェントをビジネスユーザーに配布します

ここでは、Redwood Commerceという架空の会社向けのAgent Bricks Knowledge Assistantを共有の例として使用します。これは、内部PDFに基づいて社内ポリシーに関する質問に回答し、ソースドキュメントへの引用を提供します。

エージェントの本番化が依然として難しい理由

エンタープライズAIエージェントを開発するチームは、しばしば一連の問題に直面します。

• 評価が困難: 多くのエンタープライズAIタスクは、人間と自動化されたLLMジャッジの両方にとって評価が困難です。学術的なベンチマークは、実際のユースケースには適用されません。ニュアンスのある評価を構築するには、しばしば高価な手動ラベリングが必要です。その結果、有望なプロジェクトは無限のチューニングサイクルで停滞し、関係者は進捗が不明確なために自信を失います。
• 過剰な設定項目: エージェントは複雑なAIシステムであり、多くのコンポーネントがあり、それぞれに独自の調整が必要です。プロンプトのチューニングからインデックスのチャンキング戦略、モデルの選択、ファインチューニングパラメータまで、各調整はシステム全体に未知の影響を与えます。迅速な反復改善であるべきものが、高価で退屈な手動の試行錯誤になり、本番環境への時間を遅らせます。
• コストと品質: チームが上記の問題を解決し、高品質のエージェントを構築した後でも、エージェントのコストが高すぎて本番環境にスケールできないことに驚くことがよくあります。チームは、長いコスト最適化プロセスで停滞するか、コストと品質のトレードオフを強制されます。

さらに、ビジネスユーザー向けの直感的なUIと、ガバナンスモデルを考慮した安全なアクセスが必要になります。

目標は、この摩擦を軽減し、概念実証からビジネス対応まで、数ヶ月ではなく数日または数時間で移行できるようにすることです。

迅速かつ管理されたパス: Agent Bricks、Databricks Apps、Databricks One

AIエージェントを本番環境に投入するために、Databricksはシームレスに統合された3つのコンポーネントを提供します。

• Agent Bricksは、エンタープライズデータ上で本番グレードのAIエージェントの構築、評価、最適化を合理化します。タスクを定義し、データを接続するだけで、Agent Bricksは組み込みの評価と統合されたUnity Catalogガバナンスを含む、重労働を処理します。
• Databricks Appsを使用すると、それらのエージェントとカスタマイズ可能なチャットインターフェイスをDatabricks内で直接安全にデプロイできます。クラウドインフラストラクチャを管理する必要なく、サーバーレスコンピューティング、組み込みSSO、およびきめ細かな権限を取得できます。
• Databricks Oneは、ビジネスユーザー向けのシンプルでキュレーションされた「フロントドア」を提供します。内部Wikiページを検索したり、ダッシュボードのブックマークを維持したりする代わりに、Apps、Dashboards、その他のデータおよびAIアセットと対話するための直感的なハブを取得します。

これらの3つのコンポーネントが実際にどのように連携するかを見てみましょう。

例: 社内ポリシーアシスタントの構築

Redwood Commerceという架空のエンタープライズには、承認済みのPDFとして保存された社内ポリシー文書（旅行、経費、病気休暇、ITセキュリティ）があります。

従業員は、「ホテルのクリーニング代は経費で落とせますか？」のような質問を繰り返し行います。

ビジネスユーザーは、次のようなシンプルなチャットエクスペリエンスを求めています。

1. 承認済みの社内ポリシー文書に基づいて回答する
2. 信頼性と検証のために引用を提供する
3. 権限とガバナンスを尊重する
4. 組織全体の従業員に広く、しかし安全に共有できる

ステップ1: Agent Bricksでナレッジアシスタントを作成する

Agent Bricksは、ナレッジアシスタントを含む複数のユースケースをサポートしており、ドキュメントを高品質のチャットボットに変換して質問に回答し、ソースを引用します。

ポリシー文書を接続する

ナレッジアシスタントは、次を使用できます。

• Unity Catalogボリューム内のファイル（txt、pdf、md、ppt/pptx、doc/docx）。
• embeddingモデルとしてdatabricks-gte-large-enを使用する既存のベクトル検索インデックス。

Redwood Commerceの場合、最も簡単な方法を使用します。社内ポリシーPDFをUnity Catalogボリュームに保存します。

エージェントを構築する

DatabricksワークスペースUIで:

1. Agentsに移動します
2. Knowledge Assistantの下で、Buildを選択します
3. 名前を付け（例: Redwood Policy Assistant）、説明を追加します
4. ナレッジソースとしてUnity Catalogファイル場所を選択します
5. エージェントを作成します

Knowledge Assistantは、アプリケーションで下流で使用できるエージェントエンドポイントを作成します。

ステップ2: 品質を迅速に検証し（SMEと協力して改善する）

一般的な失敗モードは、正しく聞こえるが信頼できないエージェントを出荷することです。Agent Bricks Knowledge Assistantは、引用付きで高品質の応答を返すように明示的に設計されており、これは関係者の信頼にとって重要です。

Knowledge Assistant UIまたはAI Playgroundでエージェントを直接テストし、現実的な質問をすることができます。

• 「ホテルのクリーニング代は経費で落とせますか？」
• 「病気休暇をどのように報告しますか？」
• 「旅行費用の払い戻しプロセスは何ですか？」

エージェントの回答は、関連するポリシーセクションへの引用とともに、ドキュメントに基づいています。

Agent Bricksは、ラベル付けされた質問とガイドラインを提供することにより、主題専門家（SME）からの自然言語フィードバックに基づいてエージェントの動作を改善することをサポートします。

ガイドラインは、トーン、構造、および動作に関する明確な期待を設定することにより、エージェントの応答を改善するために使用されます。これらは、エージェントが明確に通信し、ブランドに準拠し、さまざまなシナリオを正しく処理することを保証するのに役立ちます。これらの同じガイドラインは、各応答の品質スコアを生成するための評価基準としても使用されます。

Knowledge AssistantエージェントのExamplesタブの下に質問を追加します。SMEにラベル付けされた質問とガイドラインを提供するように招待するには、3点ケバブメニューを選択してPermissionsを選択することにより、Knowledge Assistantを共有します。

ステップ3: Databricks AppsでチャットUIをデプロイする

エージェントの品質に満足したら、エージェントエンドポイントを従業員が実際に使用できるもの、つまりRedwood Commerce専用のチャットエクスペリエンスに変換します。

Databricks Appsを使用すると、完全にカスタムなアプリをデプロイしたり、事前構築済みのチャットテンプレートから始めて、ブランドに合わせてカスタマイズしたりできます。

DatabricksワークスペースUIで:

1. Computeに移動し、Appsタブを選択します
2. Create appを選択します
3. Agentsタブを選択し、Chat UIテンプレートを選択します
4. Knowledge Assistantエンドポイントを指定します
5. アプリをデプロイします

アプリをデプロイした後、提供されているアプリURLを介して、アプリテンプレートでナレッジアシスタントチャットボットを直接使用できます。

よりブランドに合ったエクスペリエンスを作成するには、テンプレートをローカルマシンにクローンしてカスタマイズできます。いくつかの簡単な調整で、Redwood Commerce向けのカスタムチャットUIを作成できます。

Databricks Appsにはセキュリティとガバナンスが組み込まれており、カスタム認証または承認コードを開発および維持する必要はありません。

アプリは、SSOを使用してサインインする認証済みユーザーのみがアクセスできます。匿名または公開アクセスはありません。ユーザー認証のおかげで、アプリはアプリユーザーのIDで動作することにより、きめ細かな権限を適用できます。

ステップ4: Databricks One を通じてビジネスユーザーに公開

アプリURLを単に送信することでアプリを配布することもできましたが、ビジネスユーザーが利用できるデータやAIアセットが増えるにつれて、チームは従業員が適切なツールを確実に発見できる、単一のキュレーションされた場所を必要とします。

Databricks One は、Databricks Apps を含む、ビジネスユーザーが Databricks で共有データや AI アセットにアクセスできるシンプルな UI として、そのフロントドアとして設計されています。

Databricks One を有効にし、適切なワークスペース権限を構成した後、ID プロバイダーから同期された従業員グループと Databricks App を共有できます。

これで、従業員は Databricks One を開き、ポリシーアシスタントをクリックして次のように質問できます。

「ホテルのレイトチェックアウト料金を経費として計上できますか？」

引用付きで回答が得られ、ガバナンスはエンドツーエンドで一貫しています。

ビジネスユーザーへのエージェント出荷を開始する

Agent Bricks ナレッジアシスタントは、エンタープライズドキュメントからドメイン固有のエージェントへの迅速で自動化されたパスを提供し、品質を測定可能に保ち、組み込みの評価と最適化を通じて時間の経過とともに改善します。

Databricks Apps と Databricks One を使用すると、そのエージェントをビジネス向けのチャットエクスペリエンスにパッケージ化し、セキュリティと Unity Catalog ガバナンスがエンドツーエンドで強制されるキュレーションされたエントリーポイントを通じて配布できます。

さらに詳しく知りたい場合は、以下から始めてください。

• Agent Bricks ドキュメントとデモ：ナレッジアシスタントとスーパーバイザーエージェント
• Databricks Apps デモ、開始ガイド、およびドキュメント
• Databricks One ドキュメントおよびコンシューマーアクセス権限

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事