Agentensysteme: RAG-Apps mit Databricks AI bereitstellen und bewerten

Databricks ermöglicht dir, leistungsstarke AI-Agenten mit Foundation-LLMs, Retrieval Augmented Generation (RAG), Vektorsuche, PDF-Extraktion und Mosaic AI Agent Evaluation zu erstellen. Mit RAG können Sie Prompts mit fachspezifischem Wissen anreichern, um intelligentere und genauere Antworten zu liefern – ohne Ihre eigenen Modelle feinabzustimmen.

In dieser Demo lernst du:

• Tools erstellen und als Unity Catalog-Funktionen speichern

• Erstelle und stelle deinen ersten Agenten mit LangChain bereit

• Bewerte deinen Agenten und baue eine Bewertungsschleife, damit neue Versionen auf deinem Datensatz besser abschneiden

• Dokumente vorbereiten und mit Vector Search eine Wissensdatenbank aufbauen

• Stelle einen Echtzeit-Q&A-Chatbot mit RAG bereit

• Bewerten Sie die Leistung mit Mosaic AI Agent Evaluation und MLflow 3.0

• Scanne und extrahiere Informationen mit der integrierten Databricks-Funktion ai_parse_document

• Überwachen Sie Live-Agenten und prüfen Sie das Verhalten in der Produktion

• Stelle ein Chatbot-Frontend mit der Lakehouse Application bereit

Um die Demo auszuführen, holen Sie sich einen kostenlosen Databricks-Workspace und führen Sie die folgenden zwei Befehle in einem Python-Notebook aus: