ai_decideのご紹介：ガバナンスされたデータで迅速な意思決定を実現

本日、ガバナンスされたデータに対して迅速な意思決定を行う、新しいDatabricks AI Function ai_decide をリリースします。

多くのチームが、複雑な推論やテキスト生成を必要としないタスクにLLMを使用しているのを目にします。 このサポートチケットはどのカテゴリに属しているか？ このドキュメントは人の目による確認が必要か？ このプロンプトはどのモデルで処理すべきか？

これらの問いは、数百万ものドキュメントの処理からリアルタイムのアプリロジックの制御に至るまで、お客様の多くの大規模なエンタープライズワークフローを支えています。しかし、こうした小規模で構造化された意思決定にLLMを使用すると、余分なレイテンシとコストが発生し、エンタープライズ規模ではそれが累積していきます。TypeSafe AIの Jev のような意思決定モデルはこのギャップを埋めます。テキストを生成する代わりに、非構造化入力と一連の質問を受け取り、意思決定とその確率を直接返します。

ai_decide は、意思決定モデルを搭載した新しいDatabricks AI Functionです。テキストに対して1つ以上の質問をほんの一瞬で評価し、各質問に対して確率、指定された基準からの選択肢、または順序尺度上のスコアのいずれかを返します。 ai_decide は迅速な意思決定に最適化されているため、同様のタスクにおいてLLMよりも低いレイテンシとコストを実現します。

今すぐ ai_decide をお試しください

ai_decide は、Databricksでベータ版としてご利用いただけるようになりました。 SQL から呼び出してデータに対して大規模に構造化された意思決定を行うことも、リアルタイムアプリケーションやエージェント向けに REST API を介して呼び出すことも可能です。すでにTypeSafe AI APIを使用して構築しているチームの場合、 ai_decide 関数は直接互換性があります。

何から始めればよいかわからない場合は、非構造化データがあり、それを分類、スコア付け、または次のアクションを決定する必要がある場合に、 ai_decide が最適です。今すぐ試せるいくつかのユースケースをご紹介します：

カスタマーレビューを分析して、繰り返し発生する製品の問題を特定する

毎月数千件の製品レビューが寄せられます。顧客は、わかりにくいセットアップ手順から誤った請求料金に至るまで、あらゆることを説明します。

 ai_decide を使用すると、1つのSQLクエリで、各レビューに主な問題と、顧客が製品の返品を希望しているかどうかのタグを付けることができます。これらのタグを製品および月ごとに集計して、繰り返し発生する苦情を追跡し、報告された返品と同時にどの問題が最も頻繁に発生しているかを確認できます。

ユーザープロンプトを適切なモデルにルーティングする

あなたがAIアシスタントを構築しているソフトウェア企業だとします。ユーザーは、文章の書き換えからデータベース設計に至るまで、あらゆることをアシスタントに要求します。コストや機能が異なる複数のモデルが利用可能であり、リクエストごとに適切なモデルを選択したいと考えています。

 ai_decide を使用して、プロンプトの推論レベルと難易度を判断します。その後、リクエストを対応するモデルにルーティングします。

 response.answers の結果の例：

AIが生成した回答を評価者（judge）で評価する

あなたがAIサポートアシスタントを備えたオンライン小売店を運営しているとします。新バージョンをリリースする前に、その回答が返金ポリシーに準拠しているかどうかを評価したいと考えています。手元には、一連の顧客の質問、生成された回答、および参照ポリシーがあります。

 ai_decide を評価者（judge）として使用し、回答がポリシーに従っているかどうかを確認し、顧客のリクエストにどの程度完全に対応しているかをスコア付けします。

以下は、 response.answers を示す結果行の例です：

リアルタイムアプリケーションで次のアクションを決定する

 ai_decide はほんの一瞬で意思決定を返すため、直前の状態に各決定が依存するようなリアルタイムのアプリケーションを駆動するのに十分な速さです。

これを示すために、Databricks Appsでホストされるスネークゲーム（Snake）のライブデモを構築しました。 ai_decide がゲームをプレイします。毎回の更新（ティック）ごとに、アプリは現在の盤面を ai_decide に送信し、「スネークは次にどの方向に移動すべきか？」を問いかけます。

意思決定ループ全体がほんの一瞬で完了するため、エージェントやアプリケーションが行う必要のあるあらゆるリアルタイムの意思決定（呼び出すツール、進むべき分岐、次に行うアクションなど）の背後に ai_decide を配置できます。

使ってみる 

ai_decide は現在ベータ版としてご利用いただけます。SQLで使用して、ガバナンスされたデータ全体で大規模に分類、スコア付け、意思決定を行うか、REST APIを呼び出して、リアルタイムアプリケーションやエージェントに迅速な意思決定を追加できます。マネージド関数にとどまらず、オープンウェイトの意思決定モデルの広範で成長を続けるエコシステムが存在し、Databricks上のSQLでそれらを直接サービングして実行できます。最近のopen-Jevのウォークスルーは こちらをご覧ください。

詳細については、ai_decide SQLドキュメントを参照するか、REST APIの利用を開始してください。

(このブログ記事はAI翻訳ツールを使用して翻訳されています) 原文記事