Systèmes agents : déployer et évaluer des applications RAG avec Databricks AI

Databricks vous permet de créer des agents IA puissants avec des LLMs de base, la Retrieval Augmented Generation (RAG), la recherche vectorielle, l’extraction PDF et Mosaic AI Agent Evaluation. Avec RAG, vous pouvez enrichir les prompts avec des connaissances spécifiques au domaine pour fournir des réponses plus pertinentes et plus précises sans réentraîner vos propres modèles.

Dans cette démo, vous apprendrez à :

• Créez des outils et enregistrez-les en tant que fonctions Unity Catalog

• Créez et déployez votre premier agent avec LangChain

• Évaluez votre agent et mettez en place une boucle d’évaluation pour garantir que les nouvelles versions donnent de meilleurs résultats sur votre jeu de données

• Préparez des documents et créez une base de connaissances avec Vector Search

• Déployez un chatbot Q&A en temps réel avec RAG

• Évaluez les performances avec Mosaic AI Agent Evaluation et MLflow 3.0

• Analyser et extraire des informations à l'aide de la fonction intégrée de Databricks ai_parse_document

• Surveillez les agents en temps réel et analysez leur comportement en production

• Déployez une interface de chatbot avec Lakehouse Application

Pour exécuter la démo, obtenez un espace de travail Databricks gratuit et exécutez les deux commandes suivantes dans un notebook Python :