Construa Aplicativos RAG de Alta Qualidade com o Framework de Agentes Mosaic AI e Avaliação de Agentes, Serviço de Modelos e Pesquisa Vetorial

LLMs estão revolucionando a maneira como interagimos com as informações, desde bases de conhecimento internas até documentação ou suporte voltados para o cliente.

Aprenda a criar e implantar um chatbot de perguntas e respostas em tempo real usando a geração aumentada de recuperação (RAG) do Databricks e capacidades sem servidor, aproveitando o Modelo de Fundação DBRX Instruct para respostas inteligentes.

RAG é uma técnica poderosa onde enriquecemos o prompt do LLM com contexto adicional específico ao seu domínio para que o modelo possa fornecer respostas melhores.

Esta técnica fornece excelentes resultados usando modelos públicos sem a necessidade de implantar e ajustar seus próprios LLMs.

Você aprenderá como:

• Prepare documentos limpos para construir sua base de conhecimento interna e especializar seu chatbot
• Aproveite a Pesquisa Vetorial do Databricks com nosso ponto de extremidade do Modelo de Fundação para criar e armazenar incorporações de documentos
• Pesquisar documentos semelhantes em nossa base de conhecimento com a Pesquisa de Vetores do Databricks
• Implementar um modelo em tempo real usando RAG e fornecendo contexto aumentado no prompt
• Aproveite o modelo de instrução DBRX através do endpoint do Modelo de Fundação Databricks (totalmente gerenciado)
• Implante sua aplicação de Avaliação de Agente AI Mosaic para revisar as respostas e avaliar o conjunto de dados
• Implemente um Front-end de chatbot usando o Aplicativo Lakehouse

Para executar a demonstração, obtenha uma área de trabalho Databricks gratuita e execute os dois comandos seguintes em um notebook Python:

%pip instale dbdemos

import dbdemos
dbdemos.install('llm-rag-chatbot', catálogo='main', esquema='rag_chatbot')