Formation de modèles IA Mosaic : Affinez votre LLM sur Databricks pour des tâches et des connaissances spécialisées

Type de démo

Tutoriel de produit

Durée

à votre rythme

Social

Qu'allez-vous apprendre ?

Les LLM de base excellent dans la connaissance globale et les tâches génériques. Cependant, de nombreux cas d'utilisation nécessitent des connaissances ou un comportement spécifiques. 

Avec Databricks, vous pouvez facilement affiner et déployer des versions spécialisées de LLM OSS qui surpasseraient les modèles de base :

  • Déployez et possédez des LLM plus petits, surpassant les plus grands tout en réduisant les coûts et en renforçant la confidentialité/sécurité
  • Formez LLM par vous-même, sur votre propre connaissance d'entreprise personnalisée
  • Modifiez le comportement du LLM pour mieux effectuer des tâches spécifiques telles que la reconnaissance d'entités nommées (NER).

Dans ce tutoriel, vous apprendrez à :

  • Préparez un ensemble de données d'entraînement et d'évaluation propre
  • Utilisez la formation de modèles IA Mosaic Databricks pour personnaliser un LLM OSS existant (Mistral, Llama, DBRX...)
  • Déployez ce modèle sur un point de terminaison de service de modèle, fournissant des inférences en direct
  • Évaluez et comparez le modèle Fine Tuned à sa base de référence, en utilisant MLflow Evaluate

Pour exécuter la démo, obtenez un espace de travail Databricks gratuit et exécutez les deux commandes suivantes dans un carnet Python :

%pip installez dbdemos
import dbdemos
dbdemos.install('llm-fine-tuning', catalog='main', schema='dbdemos_llm_fine_tuning')

Recommandations

<p>Surveillance Lakehouse et Recherche Vectorielle</p>

Vidéo à la demande

Surveillance Lakehouse et Recherche Vectorielle

<p><span><span><span><span><span><span>Magasin de caractéristiques et Inférence en ligne</span></span></span></span></span></span></p>

Didacticiel

Magasin de caractéristiques et Inférence en ligne

<p>Fonctions d'IA&nbsp;: interroger les LLM avec SQL</p>

Didacticiel

Fonctions d'IA : interroger les LLM avec SQL

<p>Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle</p>

Didacticiel

Construisez des applications RAG de haute qualité avec le cadre d'agent Mosaic AI et l'évaluation d'agent, le service de modèle et la recherche vectorielle

Avertissement : Ce tutoriel utilise des fonctionnalités qui sont actuellement en prévisualisation privée. Les conditions de l'aperçu privé de Databricks s'appliquent.
Pour plus de détails, ouvrez le cahier d'introduction.