Treinamento de Modelo de IA Mosaic: Ajuste Fino do seu LLM no Databricks para Tarefas e Conhecimentos Especializados

Tipo de Demonstração

Tutorial do Produto

Duração

auto-didático

Social

O que você vai aprender

Os LLMs de base se destacam em conhecimento global e tarefas genéricas. No entanto, muitos casos de uso requerem conhecimento ou comportamento específico. 

Com o Databricks, você pode facilmente ajustar e implantar versões especializadas do LLM OSS que superariam os modelos de base:

  • Implante e gerencie LLMs menores, superando os maiores enquanto reduz custos e reforça a privacidade/segurança
  • Treine o LLM com o seu próprio conhecimento de negócios personalizado
  • Altere o comportamento do LLM para executar melhor tarefas específicas, como reconhecimento de entidades nomeadas (NER).

Neste tutorial, você aprenderá como:

  • Prepare um conjunto de dados de treinamento e avaliação limpo
  • Aproveite o Treinamento de Modelo de IA Mosaic Databricks para personalizar um LLM OSS existente (Mistral, Llama, DBRX...)
  • Implante este modelo em um ponto de extremidade de Serviço de Modelo, fornecendo inferências ao vivo
  • Avalie e compare o modelo Fine Tuned com sua base, utilizando o MLflow Evaluate

Para executar a demonstração, obtenha uma área de trabalho Databricks gratuita e execute os dois comandos seguintes em um notebook Python:

%pip instale dbdemos
importe dbdemos
dbdemos.install('llm-fine-tuning', catálogo='main', esquema='dbdemos_llm_fine_tuning')

Recomendado

<p>Monitoramento Lakehouse e Pesquisa de Vetor</p>

Vídeo sob demanda

Monitoramento Lakehouse e Pesquisa de Vetor

<p><span><span><span><span><span><span>Loja de Recursos e Inferência Online</span></span></span></span></span></span></p>

Tutorial

Loja de Recursos e Inferência Online

<p>AI Functions: consultar LLMs com SQL</p>

Tutorial

AI Functions: consultar LLMs com SQL

<p>Construir Aplicativos RAG de Alta Qualidade com o Framework de Agentes Mosaic AI e Avaliação de Agentes, Serviço de Modelos e Pesquisa de Vetores</p>

Tutorial

Construir Aplicativos RAG de Alta Qualidade com o Framework de Agentes Mosaic AI e Avaliação de Agentes, Serviço de Modelos e Pesquisa de Vetores

Aviso: Este tutorial utiliza recursos que estão atualmente em pré-visualização privada. Aplicam-se os termos de Visualização Privada do Databricks.
Para mais detalhes, abra o caderno de introdução.