Sistemi basati su agenti: distribuisci e valuta applicazioni RAG con Databricks AI

Databricks ti consente di creare potenti Agenti AI usando LLM di base, Retrieval Augmented Generation (RAG), ricerca vettoriale, estrazione da PDF e Mosaic AI Agent Evaluation. Con RAG, puoi arricchire i prompt con conoscenze specifiche del dominio per offrire risposte più intelligenti e accurate, senza dover eseguire il fine-tuning dei tuoi modelli.

In questa demo imparerai a:

• Crea strumenti e salvali come funzioni di Unity Catalog

• Crea e distribuisci il tuo primo agente con LangChain

• Valuta il tuo agente e crea un ciclo di valutazione per garantire che le nuove versioni ottengano risultati migliori sul tuo dataset

• Prepara i documenti e crea una base di conoscenza con la ricerca vettoriale

• Distribuisci un chatbot di Q&A in tempo reale con RAG

• Valuta le prestazioni con Mosaic AI Agent Evaluation e MLflow 3.0

• Scansiona ed estrai informazioni con la funzione integrata di Databricks ai_parse_document

• Monitora gli agenti in tempo reale e rivedi il comportamento in produzione

• Distribuisci un front-end chatbot con Lakehouse Application

Per eseguire la demo, ottieni un workspace Databricks gratuito ed esegui i due comandi seguenti in un notebook Python: