「何が起きたか」から「何が起きるか」へ

ビジネスインテリジェンスは常に質問に答えることでした。ほとんどの組織にとって、これらの質問は記述的（前四半期に何が起こったか？）または診断的（なぜ南東部でチャーンが急増したのか？）でした。Databricks Genieは、これらの質問を劇的にアクセスしやすくし、ビジネスユーザーがSQLを書いたりアナリストを待ったりすることなく、自然言語で回答を得られるようにしました。

しかし、最も重要な意思決定を推進する質問は予測的なものです。来四半期にどの顧客が解約する可能性が高いか？価格を調整した場合、需要はどのように変化するか？このローン申請者がデフォルトする可能性はどのくらいか？これらの質問に答えるには、これまで全く異なるツール、スキル、チームが必要でした。データサイエンティストがデータを探索し、予測への適合性を検証し、特徴量をエンジニアリングし、モデルをトレーニングし、状況の変化に応じてそのモデルを維持するといった作業です。その結果、ビジネスユーザーが自信を持って操作するBIの世界と、専門チームのみが踏み込める予測分析の世界との間に、明確な境界線ができていました。

以前のブログ記事では、Prior Labsの表形式データ向け基盤モデルであるTabPFNが、単一のフォワードパスで本番レベルの予測を提供することで、その予測ワークフローの多くをいかに簡素化するかを示しました。しかし、重要なボトルネックが残っていました。TabPFNが予測を行う前に、ビジネス上の質問を適切に整形されたデータセットに変換する必要があったのです。モデルは瞬時に動作するかもしれませんが、それに供給する作業はそうではありません。

Genieを特徴量エンジニアとして、TabPFNをユニバーサルモデルとして

ここでGenieの役割は、質問に答えることから予測を可能にすることへと変化します。Genieは、組織のデータ、つまりそのスキーマ、関係、ビジネスセマンティクスをすでに理解しています。マルチエージェントオーケストレーター内でGenieとTabPFNを組み合わせることで、クローズドループが作成されます。Genieは自然言語の質問をTabPFNが必要とする正確な入力データに動的に変換し、TabPFNはそのデータを単一のフォワードパスで予測に変換します。会話中に尋ねられたすべての予測的な質問に対して、その場でカスタマイズされた応答が提供されました。答えられる質問の範囲は本質的に無限になります。「結果を伴う過去のデータが与えられた場合、新しいシナリオの結果を予測する」として構成できる質問は、数秒で答えられます。

その結果、ビジネスユーザーが記述的分析に使用するのと同じ会話型インターフェースで予測的な質問を行うことができる、Unity Catalogによる完全なリネージとアクセス制御を備えたLakehouseデータに基づいた、単一の統制されたエクスペリエンスが実現します。

この記事では、これを可能にするアプリケーションアーキテクチャを詳しく説明し、各技術コンポーネントを紹介し、それらがどのように連携して会話型BI内で予測インテリジェンスを直接提供するかを示します。

動画1. Databricks Appsインターフェースを介してGenieとTabPFNを使用するマルチエージェントスーパーバイザーとの対話

アーキテクチャ：マルチエージェントスーパーバイザー

このシステムは、Databricks Appとしてデプロイされたマルチエージェントオーケストレーターとして構築されており、Databricks上でエンタープライズエージェントを構築およびデプロイするためのプラットフォームであるAgent Bricksを使用して主要コンポーネントを接続します。Genieは、統制されたLakehouseデータに対する構造化SQL分析のサブエージェントとして機能します。TabPFNは、外部MCPサーバーとしてUnity Catalogに接続されています。このシステムは、追加のサブエージェントとサービングエンドポイントもサポートしており、必要に応じて他のDatabricksアプリケーションや追加のMCPサーバーを追加できます。

予測的な質問が到着すると、オーケストレーターはエージェントワークフローを実行します。ユーザーのビジネス意図を解釈します。質問への回答に予測分析が必要な場合、Genieにクエリを実行して、Lakehouseから適切なラベル付きデータを抽出します。必要なすべてのデータを収集した後、TabPFNを呼び出し、このデータを適切な形式でモデルに渡します。最後に、スーパーバイザーは予測を解釈し、実行可能な推奨事項をユーザーに提供します（図1）。

">

コアとなる洞察の実践

これを具体的にするために、営業リーダーが次のように尋ねた場合を考えてみましょう。「Horton-Crossの取引を最も成立させる可能性が高いプロモーションタイプはどれですか？」

従来のワークフローでは、この質問に答えるには、データサイエンティストが質問を理解し、どのテーブルと列が重要かを特定し、プロモーションタイプと勝敗結果を含む過去の取引から適切なトレーニングセットを抽出し、アルゴリズムを選択し、ハイパーパラメータを調整し、パフォーマンスを検証し、Horton-Cross取引に特化した推論データを準備し、モデルを実行し、出力をビジネス推奨事項に変換する必要があります。これらの各ステップには、時間、専門知識、および反復が必要です。そして、次の質問である「勝率を最大化するためにフォローアップする最適な日付はいつですか？」には、ゼロから構築された全く異なるモデルが必要です。

では、同じマルチエージェントスーパーバイザーの下でGenieとTabPFNを使用した場合に何が起こるかを考えてみましょう。スーパーバイザーは自然言語の質問とその意味的意図を解釈し、その意図をGenieがデータセットを生成するための特定の要求に変換します。Genieは、この質問に答えるには、プロモーションとアカウントに結合された過去の機会を、勝敗をラベルとして使用して必要とすることを認識し、このデータを瞬時に抽出するための正確なSQLを生成します。

TabPFNはそのデータセットを受け取り、単一のフォワードパスで予測を生成します。特徴量前処理、モデル選択、ハイパーパラメータチューニングは不要です。最後に、スーパーバイザーは明確でデータに基づいた推奨事項を返します。質問から予測までのパイプライン全体が、単一の会話ターンで自然言語から自己構築されます。

品質と限界の評価

このパターンには限界があります。TabPFNはGenieが生成するデータの品質に依存します。スキーマが適切なシグナルを捉えていない、必要な結合が存在しない、または結果がデータに表現されていないために、Genieが特定の質問に対して明確なラベル列を持つ意味のあるデータセットを構築できない場合、TabPFNの能力に関わらず、予測は信頼できません。効果的なGenieスペースを構築するためのベストプラクティスはこちらをご覧ください。これに加えて、マルチターン会話中にエージェントが幻覚を起こしたり、重要な情報を省略したりする広範なリスクもあります。

だからこそ、体系的な評価が不可欠なのです。デプロイ前に一度検証する必要がある静的なMLパイプラインとは異なり、このシステムは各質問に対して個別のML問題を動的に構築します。どの質問クラスが信頼できる予測を生成し、どれがGenieが適切に形成されたトレーニングセットとして表現できる範囲を超えるのか、その境界線を理解するための評価フレームワークが必要です。

ソリューションアクセラレーターには、MLflowのGenAI評価フレームワークに基づいて構築された包括的な評価ハーネスが付属しています。これはライブエージェントに対して実行され、結果をMLflow Experiment Trackingにログ記録することで、チームが時間の経過とともに品質を評価および監視するための単一のビューを提供します。詳細についてはこちらをご覧ください。

動画2. Databricks Experimentsインターフェースを介してGenieとTabPFNを使用するマルチエージェントスーパーバイザーの評価。

この評価ループがなければ、システムは信頼できる予測と信頼できない予測を区別する方法がないまま、自信を持って予測を返す可能性があります。この厳密なアプローチは、あらゆるレベルでのカバレッジを保証します。会話的および行動的な回帰を捕捉するとともに、予測パイプラインのエンドツーエンドの正確性を検証します。これらのチェックを組み合わせることで、チームは、どの質問クラスが信頼できる予測を生成し、システムの境界がどこにあるかを明確に理解した上で、このパターンを本番環境にデプロイする自信を得ることができます。

はじめに

Genie、TabPFN、およびAgent Bricksの組み合わせは、記述的分析と予測分析の関係を再構築します。Genieは特徴量エンジニアリング層となります。TabPFNはトレーニングとメンテナンスのオーバーヘッドを排除します。Agent Bricksはオーケストレーションとガバナンスの基盤を提供し、MLflowは応答の品質を評価および監視します。その結果、ビジネスユーザーは記述的分析に既に利用しているのと同じ会話型インターフェースで予測に関する質問をできるようになります。

完全なソリューションアクセラレーターはこちらで入手可能です。このリポジトリには、サンプルデータ生成、Genie Spaceの設定、および上記で説明したエンドツーエンドの評価ハーネスが含まれています。このパターンはドメインに依存しません。アクセラレーターはエンタープライズセールス分析を実証していますが、医療リスクスコアリング、製造品質予測、金融詐欺検出、顧客離反分析など、結果を伴う構造化データが存在するあらゆるドメインに同じアーキテクチャが適用可能です。

今すぐ始めて、チームが既に行っている会話に予測インテリジェンスをもたらしましょう。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事