Formazione del Modello AI Mosaic: Perfeziona il tuo LLM su Databricks per Compiti e Conoscenze Specializzate

Tipo di Demo

Tutorial sul Prodotto

Durata

auto-didattico

Social

Che cosa imparerai

I Foundation LLMs eccellono nella conoscenza globale e nei compiti generici. Tuttavia, molti casi d'uso richiedono conoscenze o comportamenti specifici. 

Con Databricks, puoi facilmente perfezionare e implementare versioni specializzate di OSS LLM che supererebbero i modelli di base:

  • Distribuisci e gestisci LLM più piccoli, superando quelli più grandi riducendo i costi e garantendo privacy/sicurezza
  • Allena LLM sulle tue proprie conoscenze aziendali personalizzate
  • Modifica il comportamento dell'LLM per eseguire meglio compiti specifici come il riconoscimento di entità nominate (NER).

In questo tutorial, imparerai come:

  • Prepara un dataset pulito per l'allenamento e la valutazione
  • Sfrutta l'addestramento del modello AI di Databricks Mosaic per personalizzare un esistente LLM OSS (Mistral, Llama, DBRX...)
  • Distribuisci questo modello su un punto di terminazione di Model Serving, fornendo inferenze in tempo reale
  • Valuta e confronta il modello Fine Tuned con il suo punto di riferimento, sfruttando MLflow Evaluate

Per eseguire la demo, ottieni un spazio di lavoro Databricks gratuito ed esegui i seguenti due comandi in un notebook Python:

%pip installa dbdemos
importa dbdemos
dbdemos.installa('llm-fine-tuning', catalogo='main', schema='dbdemos_llm_fine_tuning')

Consigli

<p>Monitoraggio Lakehouse e Ricerca Vettoriale</p>

Video on-demand

Monitoraggio Lakehouse e Ricerca Vettoriale

<p><span><span><span><span><span><span>Negozio di Funzionalità e Inferenza Online</span></span></span></span></span></span></p>

Tutorial

Negozio di Funzionalità e Inferenza Online

<p>Funzioni di AI: interroga gli LLM con SQL</p>

Tutorial

Funzioni di AI: interroga gli LLM con SQL

<p>Costruisci app RAG di alta qualità con il framework dell'agente Mosaic AI e la valutazione dell'agente, il servizio del modello e la ricerca vettoriale</p>

Tutorial

Costruisci app RAG di alta qualità con il framework dell'agente Mosaic AI e la valutazione dell'agente, il servizio del modello e la ricerca vettoriale

Avvertimento: Questo tutorial sfrutta funzionalità attualmente in anteprima privata. Si applicano i termini dell'Anteprima Privata di Databricks.
Per ulteriori dettagli, apri il quaderno introduttivo.