エージェントシステム: Databricks AI で RAG アプリをデプロイして評価

Databricks は、基盤となる LLMs、Retrieval Augmented Generation (RAG)、ベクトル検索、PDF 抽出、Mosaic AI Agent Evaluation を使って、強力な AI エージェントを作成できます。RAG を使うと、プロンプトにドメイン固有の知識を加え、独自モデルをファインチューニングせずに、より賢く正確な回答を返せます。

このデモでは、次の内容を学びます:

• ツールを作成し、Unity Catalog の関数として保存する

• LangChain で最初のエージェントを作成してデプロイする

• エージェントを評価し、新しいバージョンが自分のデータセットでより良く動作するよう評価ループを作る

• ドキュメントを準備し、ベクトル検索でナレッジベースを構築する

• RAG を使ったリアルタイムの Q&A チャットボットをデプロイする

• Mosaic AI Agent Evaluation と MLflow 3.0 で性能を評価する

• Databricks の組み込み ai_parse_document 関数でスキャンして情報を抽出する

• 稼働中のエージェントを監視し、本番での挙動を確認する

• Lakehouse Application でチャットボットのフロントエンドをデプロイする

デモを実行するには、無料の Databricks ワークスペース を取得し、Python ノートブックで次の2つのコマンドを実行します: