強化された エージェント評価機能 が登場！

今週初め、Databricks における新たなエージェント開発機能を発表しました。私たちはこれまで数百社の顧客と話をする中で、パイロット段階を超えて活用を進める上で、共通する2つの課題があることに気づきました。

1つ目は、モデルの本番環境での性能に対する信頼が持てないこと。
2つ目は、改善のための明確なプロセスが確立されていないこと。

この2つの課題が原因で、プロジェクトが停滞したり、チームが専門家を探して手作業でモデルの出力を評価するなど、非効率な運用に陥るケースが多く見られます。

そこで本日、これらの課題を解決するために、Databricks MLflow の機能を拡張し、新たな Public Preview を提供します。今回の強化により、カスタマイズ可能な自動評価と、ビジネス関係者とのスムーズなフィードバックのやり取りを通じて、GenAI アプリケーションの理解と改善をより効果的に進めることが可能になります。

✅ カスタマイズ可能な自動評価

• Guideline AI judges を活用し、シンプルな英語ルールで GenAI アプリを評価
• カスタム Python アセスメント を使い、ビジネス上重要な評価指標を定義

🤝 ドメイン専門家とのコラボレーション

• Review App と新しい評価データセット SDK を活用し、専門家のフィードバックを収集
• GenAI アプリのトレースをラベル付けし、評価データセットを洗練
• Delta テーブルと Unity Catalog ガバナンス により、一元的なデータ管理を実現

これらの機能がどのように機能するか、サンプルノートブック でぜひご確認ください！

ビジネスニーズに合わせて GenAI の評価をカスタマイズ

GenAI アプリケーションやエージェントシステムは、ベクターデータベースやツールを活用したアーキテクチャ、リアルタイム処理やバッチ処理といった導入方法など、さまざまな形態で展開されます。Databricks では、多くの企業と協力する中で、ドメイン特化型のタスクを成功させるには、エージェントが企業データを効果的に活用することが不可欠であると学びました。そのため、柔軟な評価アプローチが求められます。

そこで本日、Databricks MLflow のアップデートを発表します。これにより、あらゆる GenAI アプリケーションやエージェントシステムに対応し、特定のドメインに適したパフォーマンス評価が可能になります。柔軟なカスタマイズで、チームがより正確に評価を行えるよう支援します。

Guidelines AI Judge: 自然言語で GenAI アプリのガイドライン遵守をチェック

Databricks では、高精度な組み込み型 LLM ジャッジのラインナップを拡充し、Guidelines AI Judge（Public Preview） を新たに導入しました。これにより、開発者はシンプルな言葉で書かれたチェックリストや評価基準（ルーブリック）を使って、GenAI アプリの評価が可能になります。

ガイドライン（評価基準）は、学校の先生が「エッセイは5つの段落で構成すること」「各段落にはトピックセンテンスを含めること」「最後の段落は、全体の要点をまとめること」などのルールを設定するのと同じようなものです。

🔍 どのように機能するのか？

Agent Evaluation を設定する際にガイドラインを指定すると、リクエストごとに自動評価が実行されます。

📌 ガイドラインの例

• 回答はプロフェッショナルなトーンで書かれていること
• ユーザーが2つの製品を比較するよう求めた場合、表形式で表示すること

💡 なぜ重要なのか？

Guidelines AI Judge を活用することで、評価基準が明確になり、ビジネス関係者とも透明性のある評価が可能になります。一貫性のある評価スコアを提供できるため、アプリの信頼性向上にもつながります。

ガイドラインを活用した評価の詳細はドキュメントをご覧ください

🔢 カスタムメトリクス: Python でビジネスに最適な評価指標を定義

カスタムメトリクスを使えば、組み込みの評価指標や LLM ジャッジにとどまらず、AI アプリケーションに適した独自の評価基準を定義できます。これにより、入力データ、出力結果、トレース情報をプログラムで自在に評価し、ビジネス要件に応じた柔軟な評価が可能になります。

例えば、次のようなカスタムメトリクスを作成できます。

• SQL を生成するエージェントのクエリが、テストデータベースで正しく実行できるかをチェック
• 組み込みの "groundness judge" をカスタマイズし、回答と提供されたドキュメントの整合性を測定

🛠 どのように機能するのか？

1. Python で関数を作成
2. @metricデコレーターを付与
3. mlflow.evaluate(extra_metrics=[..]) に渡して評価を実行

この関数では、リクエスト、レスポンス、MLflow Trace 全体、使用ツールや呼び出されたツールの情報など、各レコードに関する豊富なデータを活用できます。

💡 なぜ重要なのか？

この柔軟性により、ビジネス特有のルールや高度なチェックを「正式な評価指標」として組み込むことが可能になります。これにより、自動評価の精度と適用範囲を大幅に向上させることができます。

カスタムメトリクスの定義方法については、当社のドキュメンテーションをご覧ください。

柔軟な入出力スキーマに対応

実際の GenAI ワークフローは、チャットアプリケーションに限定されません。例えば、以下のようなユースケースが考えられます。

• 文書を入力し、重要情報を JSON 形式で出力するバッチ処理エージェント
• LLM を活用してテンプレートを自動入力するアプリケーション

これらの多様なシナリオに対応するため、Agent Evaluation で任意の入出力スキーマの評価が可能になりました。

🛠 どのように機能するのか？

mlflow.evaluate() の入力として、任意のシリアライズ可能な辞書（例：dict[str, Any]）を渡すだけで評価を実行できます。

💡 なぜ重要なのか？

これにより、あらゆる GenAI アプリケーションの評価が可能になり、より幅広いユースケースに対応できるようになりました。

任意のスキーマについては、当社のドキュメンテーションをご覧ください。

ドメイン専門家と連携してラベルデータを収集

自動評価だけでは、高品質な GenAI アプリを開発するには不十分なことがあります。特に、GenAI 開発者は必ずしもそのアプリの業務領域の専門家ではないため、ビジネス関係者と連携して改善を進める仕組みが必要です。

📌 Review App: カスタマイズ可能なラベリング UI

Agent Evaluation Review App をアップグレードし、ドメイン専門家からのフィードバックを簡単に収集できるようにしました。
このアプリは Databricks MLflow GenAI エコシステムと統合されており、開発者と専門家のコラボレーションをシンプルかつ柔軟にサポートします。

🔍 Review App の新機能

フィードバックや期待されるラベルの収集

• GenAI アプリの出力に対し、「良い」「悪い」の評価を収集します。
• 期待される正解ラベルを収集し、評価用データセットを作成します。

任意のトレースをラベリング

• 開発、テスト、本番環境のトレース を専門家に送信し、ラベリングを依頼します。

ラベリングのカスタマイズ

• 専門家に提示する質問をカスタマイズし、ラベリングセッションで収集するラベルと説明を定義して、データが特定のドメインユースケースに合致するようにします。

📝 活用例

例えば、本番環境の GenAI アプリで問題がある可能性のあるトレースを開発者が特定し、そのトレースをドメイン専門家に送信します。
そうすることで専門家は、リンクを開いて マルチターンの対話を確認し、アシスタントの回答が適切でない箇所にラベル付けしたり、期待される正解を提供したりすることで、評価データセットを作成できます。

💡 なぜ重要なのか？

ドメイン専門家とのコラボレーションにより、GenAI アプリの品質向上が可能になり、ビジネス関係者も、実際の業務で価値を提供できるアプリになっているかを確信できるようになります。

「ブリヂストンでは、データを活用して GenAI のユースケースを推進しており、Databricks MLflow は、GenAI の取り組みの正確性と安全性を確保する上で重要な役割を果たしています。 Review App や評価データセットのツールを活用することで、より迅速に改善を重ね、品質を向上させ、ビジネスの信頼を得ることができました。」—Coy McNew, Lead AI Architect, Bridgestone

アップデートされた Review App の使い方については、ドキュメンテーションをご覧ください。

📌 評価データセット：GenAI のためのテストスイート

評価データセットは、GenAI における「単体テスト」や「統合テスト」と同じ役割を果たし、本番環境にリリースする前にアプリケーションの品質とパフォーマンスを検証するのに役立ちます。

Agent Evaluation の評価データセットは、Unity Catalog の管理された Delta テーブルとして提供されるため、データのライフサイクル管理や、関係者との共有、アクセス制御が容易に行えます。 また、Review App で収集したラベルを評価ワークフローに簡単に同期できるのも特長です。

🛠 どのように機能するのか？

1. SDK を使って評価データセットを作成
2. 本番環境のログからトレースを追加
3. レビューアプリ で収集した専門家のラベルを追加
4. 合成評価データを加えて評価データセットを強化

💡 なぜ重要なのか？

評価データセットを活用すれば、本番環境で発生した問題を段階的に修正し、新しいバージョンをリリースする際の品質保証が可能になります。 これにより、アプリが重要なテストケースを確実にクリアしていることを保証し、ビジネス関係者の信頼を高めることができます。

「Databricks MLflow の Review App により、評価データセットの作成と管理が大幅に簡単になり、データ処理に時間を取られることなく、エージェントの品質向上に集中できるようになりました。また、組み込みの合成データ生成機能を活用することで、手作業のラベリングを待つことなく迅速にテストと改善を繰り返すことができ、本番リリースまでの時間を 50% 短縮することができました。この機能のおかげでワークフローが効率化され、特にカスタマーケアセンター向けの AI エージェントにおいて、AI システムの精度が向上しました。」—Chris Nishnick, Director of Artificial Intelligence, Lippert

GenAIアプリの評価と改善に役立つエンドツーエンドの手順解説（サンプルノートブック付き）

ここでは、リリース済みのGenAIアプリをベータテスターや本番環境のユーザー向けに改善するために、これらの機能がどのように役立つのかを開発者向けに解説します。

ご自身でこの手順を試したい場合は、本記事をノートブックとしてドキュメンテーションからインポートできます。

例として使用するGenAIエージェントについて

以下の例では、Databricksに関する質問に回答するためにデプロイされたシンプルなツールコール型エージェントを使用します。このエージェントはいくつかの基本的なツールとデータソースを持っています。本記事ではエージェントの構築方法には触れませんが、ゼロからの構築手順について詳しく知りたい方は、[AWS | Azure]向けの「Generative AIアプリ開発ワークフロー」をご覧ください。

エージェントにMLflowを組み込む

まず、MLflow Tracing を追加し、Databricksにトレースを記録できるように設定します。
もし Agent Framework を使用してアプリをデプロイしている場合は、この設定は自動で行われるため不要ですが、Databricks外でアプリをデプロイしている場合は手動で設定が必要です。
今回の例では LangGraph を使用するため、MLflowの自動ロギング機能を活用できます。

MLflowは、LangChain、LangGraph、OpenAI などの主要なGenAIライブラリに対応しており、自動ロギング（autologging）をサポートしています。
もし、あなたのGenAIアプリがこれらの対応ライブラリを使用していない場合は、手動トレース（マニュアルトレーシング） を利用できます。

本番ログを確認する

次に、エージェントの本番環境のログを確認してみましょう。
Agent Framework を使用してエージェントをデプロイしている場合、payload_request_logs 推論テーブルをクエリし、databricks_request_id を指定して特定のリクエストをフィルタリングできます。

各プロダクションログの MLflow Traceを確認することができます:

これらのログをもとに評価用データセットを作成する

エージェントの評価指標を定義し、ビジネス要件と比較する

ここでは、Agent Evaluation の組み込みジャッジ（新しい Guidelines judge を含む）とカスタム指標を組み合わせて評価を実施します。

Guidelines（ガイドライン）を使用した評価

• エージェントは価格に関する質問を正しく拒否できているか？
• エージェントの回答はユーザーの質問に対して適切か？

カスタム指標(Custom Metrics)を使用した評価

• ユーザーのリクエストに対して、エージェントが選択したツールは論理的か？
• エージェントの回答はツールの出力に基づいており、幻覚（ハルシネーション）を含んでいないか？
• エージェントのコストや応答速度（レイテンシー）は適切か？

本記事では、簡潔にするため評価の一部のみを紹介します。

評価の実行

次に、Agent Evaluation のMLflow統合機能を活用し、評価データセットに対してこれらの指標を計算します。

結果の分析と問題点の確認

評価結果を確認すると、以下のような問題が見つかりました。

• クエリでは加算が求められていたにもかかわらず、エージェントが 乗算ツール を使用してしまった。
• Sparkに関する質問 がデータセットに含まれておらず、それが原因で 不適切な回答 になってしまった。
• 価格に関する質問 に対してLLMが回答してしまい、ガイドラインに違反 している。

品質問題の修正

これらの問題を修正するために、以下の対応を行います。

• システムプロンプトを更新 し、LLMが価格に関する質問に回答しないよう促す。
• 加算用の新しいツール を追加する。
• 最新のSparkバージョンに関するドキュメント を追加する。

その後、再度評価を実行し、問題が解決されたかを確認します。

本番環境への再デプロイ前にステークホルダーと検証

問題を修正したら、Review App を活用して修正した質問をステークホルダーに公開し、品質が十分であるかを確認します。

また、Review App をカスタマイズし、フィードバックの収集 や、ドメインエキスパートがレビュー中に特定した追加のガイドライン も取り込めるようにします。

Review App は、Databricks ワークスペースへのアクセス権がない社内のメンバー でも、SSO（シングルサインオン） を通じて共有し、利用できるようにできます。

最後に、収集したラベルを評価データセットに反映し、ドメインエキスパートが提供した追加のガイドラインやフィードバック を基に再評価を実施します。

すべての修正が検証できたら、アプリを本番環境に再デプロイします！

今後の予定

現在、次世代の新機能に向けた開発を進めています。

1. GenAI向けLakehouse Monitoringの導入

Agent Evaluation との統合により、Lakehouse Monitoring for GenAI が本番環境でのGenAIアプリのパフォーマンス監視（レイテンシー、リクエスト数、エラー）や、品質指標（精度、正確性、コンプライアンス）をサポートします。

Lakehouse Monitoring for GenAI を活用すると、以下が可能になります。

• 品質と運用パフォーマンスをトラッキング（レイテンシー、リクエスト数、エラーなど）
• 本番環境のトラフィックを対象に LLMベースの評価を実施し、ドリフトや品質低下を検出
• 個々のリクエストを詳細に分析し、エージェントの応答をデバッグ・改善
• 実際のログを評価データセットに変換し、継続的な改善を推進

2. MLflow Tracing の拡張

MLflow Tracing [オープンソース | Databricks] は、オープンテレメトリー（Open Telemetry）業界標準 を基盤とし、Databricks外でデプロイされたGenAIアプリでも観測（トレース）データを収集できるようになります。
簡単なコードのコピー＆ペースト で、どんなGenAIアプリやエージェントにもインストルメンテーションを追加し、Lakehouseにトレースデータを蓄積できます。

これらの新機能を試したい方は、アカウントチームまでお問い合わせください！

始めてみよう！

本番環境でのAIエージェントの監視、評価のカスタマイズ、ビジネスステークホルダーとの連携強化など、これらのツールを活用することで、より信頼性が高く高品質なGenAIアプリを構築できます。

まずは以下のドキュメントをチェック！

• 上記の デモノートブック を試す
• Databricks MLflow レビューアプリ
• MLflow Tracing
• Databricks MLflow のカスタムメトリクス
• Databricks MLflow の Guidelines judge
• デモ動画を見る

さらに、「AIエージェントのコンパクトガイド」 を読んで、GenAIのROIを最大化する方法を学びましょう！