Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle

Type de démo

Tutoriel de produit

Durée

à son propre rythme

Social

Qu'allez-vous apprendre ?

Les LLMs révolutionnent la façon dont nous interagissons avec l'information, des bases de connaissances internes à la documentation externe orientée client ou au support.

Apprenez à créer et à déployer un chatbot de questions-réponses en temps réel en utilisant la génération augmentée par récupération (RAG) de Databricks et les capacités sans serveur, en exploitant le modèle de base DBRX Instruct pour des réponses intelligentes.

RAG est une technique puissante où nous enrichissons l'invite LLM avec un contexte supplémentaire spécifique à votre domaine afin que le modèle puisse fournir de meilleures réponses.

Cette technique fournit d'excellents résultats en utilisant des modèles publics sans avoir à déployer et à affiner vos propres LLMs.

Vous apprendrez comment :

  • Préparez des documents propres pour construire votre base de connaissances interne et spécialiser votre chatbot
  • Utilisez la recherche vectorielle Databricks avec notre point de terminaison du modèle de base pour créer et stocker des incorporations de documents
  • Recherchez des documents similaires dans notre base de connaissances avec Databricks Vector Search
  • Déployez un modèle en temps réel en utilisant RAG et en fournissant un contexte augmenté dans l'invite
  • Exploitez le modèle DBRX instruct via le point de terminaison du modèle de base Databricks (entièrement géré)
  • Déployez votre application d'évaluation d'agent Mosaic AI pour examiner les réponses et évaluer l'ensemble de données
  • Déployez une interface utilisateur de chatbot en utilisant l'Application Lakehouse

 

Pour exécuter la démo, obtenez un espace de travail Databricks gratuit et exécutez les deux commandes suivantes dans un carnet de notes Python :

%pip installez dbdemos
import dbdemos
dbdemos.install('llm-rag-chatbot', catalogue='main', schéma='rag_chatbot')

Recommandations

<p>Surveillance Lakehouse et Recherche Vectorielle</p>

Vidéo à la demande

Surveillance Lakehouse et Recherche Vectorielle

<p><span><span><span><span><span><span>Magasin de caractéristiques et Inférence en ligne</span></span></span></span></span></span></p>

Didacticiel

Magasin de caractéristiques et Inférence en ligne

<p>Fonctions d'IA&nbsp;: interroger les LLM avec SQL</p>

Didacticiel

Fonctions d'IA : interroger les LLM avec SQL

Avertissement : Ce tutoriel utilise des fonctionnalités qui sont actuellement en prévisualisation privée. Les conditions de l'aperçu privé de Databricks s'appliquent.
Pour plus de détails, ouvrez le cahier d'introduction.