Envie agentes de IA corporativos de alta qualidade para usuários de negócios com Agent Bricks e Databricks Apps

Prototipar um agente de IA é fácil. Lançar um em que os usuários de negócios confiam e que as equipes de segurança não bloqueiam é onde a maioria dos projetos corporativos desacelera.

Neste blog, apresentaremos um caminho rápido e governado para a produção usando a Plataforma Databricks:

1. Construa um agente de nível de produção, específico do domínio, com avaliação integrada e melhoria contínua
2. Implante uma interface de chat personalizável com Databricks Apps, que possui SSO integrado e acesso a dados governado
3. Distribua seu agente para usuários de negócios por meio de uma experiência simplificada e intuitiva para consumir insights de IA e dados

Usaremos um exemplo compartilhado em todo o texto: um Assistente de Conhecimento do Agent Bricks para uma empresa fictícia chamada Redwood Commerce, que responde a perguntas sobre políticas corporativas com base em PDFs internos, com citações para os documentos de origem.

Por que a produção de agentes ainda é difícil

Equipes que desenvolvem agentes de IA corporativos frequentemente encontram um conjunto familiar de problemas:

• Avaliação é difícil: Muitas tarefas de IA corporativas são difíceis de avaliar, tanto para humanos quanto para juízes de LLM automatizados. Benchmarks acadêmicos não se traduzem em casos de uso do mundo real. Construir avaliações complexas geralmente requer rotulagem manual cara. Como resultado, projetos promissores param em ciclos de ajuste intermináveis, com stakeholders perdendo a confiança devido ao progresso incerto.
• Muitos controles: Agentes são sistemas de IA complexos com muitos componentes, cada um com seus próprios controles. Desde o ajuste de prompts até estratégias de fragmentação de índice, escolhas de modelo e parâmetros de ajuste fino, cada ajuste cria efeitos desconhecidos em todo o sistema. O que deveria ser uma melhoria iterativa rápida se torna um teste e erro manual caro e tedioso, atrasando o tempo de produção.
• Custo e qualidade: Mesmo depois que as equipes resolvem os problemas acima e constroem um agente de alta qualidade, elas geralmente se surpreendem ao descobrir que o agente é muito caro para escalar para produção. As equipes param em um longo processo de otimização de custos ou são forçadas a fazer concessões entre custo e qualidade.

Além disso, você ainda precisa de uma interface de usuário intuitiva para usuários de negócios e acesso seguro que leve em consideração seu modelo de governança.

O objetivo é reduzir esse atrito para que você possa passar do prova de conceito para pronto para negócios em dias ou até horas, em vez de meses.

O caminho rápido e governado: Agent Bricks, Databricks Apps e Databricks One

Para colocar seus agentes de IA em produção, o Databricks oferece três componentes perfeitamente integrados:

• Agent Bricks simplifica a construção, avaliação e otimização de agentes de IA de nível de produção em seus dados corporativos. Basta definir sua tarefa e conectar seus dados, e o Agent Bricks cuida do trabalho pesado, incluindo avaliação integrada e governança unificada do Unity Catalog.
• Databricks Apps permite implantar esses agentes e interfaces de chat personalizáveis diretamente no Databricks. Você obtém computação sem servidor, SSO integrado e permissões granulares sem precisar gerenciar a infraestrutura de nuvem.
• Databricks One fornece uma "porta de entrada" simplificada e curada para seus usuários de negócios. Em vez de pesquisar páginas internas de wiki ou manter favoritos em dashboards, eles obtêm um hub intuitivo para interagir com Apps, Dashboards e outros ativos de dados e IA.

Vamos ver como esses três componentes funcionam juntos na prática.

Exemplo: Construindo um assistente de políticas corporativas

A Redwood Commerce, uma empresa fictícia, possui documentos de políticas corporativas (viagens, despesas, licença médica, segurança de TI) armazenados como PDFs aprovados.

Os funcionários fazem perguntas repetidamente, como: “Posso lançar lavanderia de hotel como despesa?”

Os usuários de negócios desejam uma experiência de chat simples que:

1. Responda com base nos documentos de políticas corporativas aprovados
2. Forneça citações para confiança e verificação
3. Respeite permissões e governança
4. Possa ser compartilhado amplamente, mas de forma segura, com funcionários em toda a organização

Etapa 1: Criar um Assistente de Conhecimento no Agent Bricks

O Agent Bricks suporta vários casos de uso, incluindo o Assistente de Conhecimento, que transforma seus documentos em um chatbot de alta qualidade que responde a perguntas e cita suas fontes.

Conectar os documentos de políticas

O Assistente de Conhecimento pode usar:

• Arquivos em um volume do Unity Catalog (txt, pdf, md, ppt/pptx e doc/docx).
• Um índice de busca vetorial existente usando databricks-gte-large-en como seu modelo de incorporação.

Para a Redwood Commerce, usaremos o caminho mais simples: armazenar os PDFs das políticas corporativas em um volume do Unity Catalog.

Construir o agente

Na interface do usuário do workspace Databricks:

1. Navegue até Agentes
2. Em Assistente de Conhecimento, escolha Construir
3. Nomeie-o (por exemplo, Assistente de Políticas Redwood) e adicione uma descrição
4. Selecione o local do arquivo do Unity Catalog como a fonte de conhecimento
5. Crie o agente

O Assistente de Conhecimento cria um endpoint de agente que você pode usar posteriormente em aplicativos.

Etapa 2: Validar a qualidade rapidamente (e melhorá-la com SMEs)

Um modo comum de falha é lançar um agente que soa certo, mas não pode ser confiável. O Agent Bricks Knowledge Assistant é projetado explicitamente para retornar respostas de alta qualidade com citações, o que é fundamental para a confiança dos stakeholders.

Podemos testar o agente diretamente na interface do usuário do Assistente de Conhecimento ou no AI Playground e fazer perguntas realistas:

• “Posso lançar lavanderia de hotel como despesa?”
• “Como denuncio uma licença médica?”
• “Qual é o processo para reembolso de viagens?”

As respostas do agente são baseadas nos documentos com citações para as seções de políticas relevantes.

O Agent Bricks suporta a melhoria do comportamento do agente com base em feedback em linguagem natural de especialistas no assunto (SMEs), fornecendo perguntas rotuladas e diretrizes.

As diretrizes são usadas para melhorar as respostas do seu agente, definindo expectativas claras para tom, estrutura e comportamento. Elas ajudam a garantir que o agente se comunique claramente, permaneça dentro da marca e lide com diferentes cenários da maneira correta. Essas mesmas diretrizes também são usadas como critérios de avaliação para gerar pontuações de qualidade para cada resposta.

Adicione perguntas na guia Exemplos do seu agente Assistente de Conhecimento. Para convidar SMEs a fornecer perguntas rotuladas e diretrizes, compartilhe o Assistente de Conhecimento usando o menu de três pontos (kebab) e escolhendo Permissões.

Etapa 3: Implantar uma interface de chat com Databricks Apps

Assim que estivermos satisfeitos com a qualidade do agente, transformamos o endpoint do agente em algo que os funcionários possam realmente usar: uma experiência de chat projetada especificamente para a Redwood Commerce.

O Databricks Apps permite que você implante um aplicativo totalmente personalizado ou comece com um modelo de chat pré-construído e o personalize para corresponder à sua marca.

Na interface do usuário do workspace Databricks:

1. Navegue até Compute e selecione a guia Apps
2. Escolha Criar app
3. Selecione a guia Agentes e escolha o modelo Chat UI
4. Aponte-o para o endpoint do Assistente de Conhecimento
5. Implante seu aplicativo

Após implantar seu aplicativo, você pode usar diretamente seu chatbot Assistente de Conhecimento no modelo de aplicativo através da URL do aplicativo fornecida.

Para criar uma experiência mais personalizada, você pode customizar o modelo clonando-o para sua máquina local. Com alguns ajustes simples, podemos criar uma interface de chat exclusiva para a Redwood Commerce:

Os Databricks Apps possuem segurança e governança integradas, e não há necessidade de desenvolver e manter código de autenticação ou autorização personalizado.

Os aplicativos são acessíveis apenas para usuários autenticados que fazem login usando SSO. Não há acesso anônimo ou público. Graças à autorização do usuário, seu aplicativo pode aplicar permissões granulares agindo com a identidade do usuário do aplicativo.

Etapa 4: Publicar para usuários de negócios através do Databricks One

Poderíamos distribuir o aplicativo simplesmente enviando a URL do aplicativo para as pessoas. Mas à medida que você disponibiliza mais ativos de dados e IA para usuários de negócios, as equipes precisam de um local único e curado onde os funcionários possam encontrar de forma confiável as ferramentas certas.

O Databricks One foi projetado como essa porta de entrada: uma interface de usuário simplificada onde os usuários de negócios podem acessar dados compartilhados e ativos de IA no Databricks, incluindo Databricks Apps.

Após habilitar o Databricks One e configurar os direitos de acesso corretos ao workspace, podemos compartilhar o Databricks App com grupos de funcionários sincronizados do nosso provedor de identidade.

Agora os funcionários abrem o Databricks One, clicam no assistente de políticas e perguntam:

“Posso lançar na minha conta o custo de um checkout tardio no hotel?”

Eles recebem uma resposta com citações, e a governança é consistente de ponta a ponta.

Comece a implantar agentes para usuários de negócios

O Agent Bricks Knowledge Assistant oferece um caminho rápido e automatizado de seus documentos corporativos para um agente específico do domínio, mantendo a qualidade mensurável e melhorando ao longo do tempo através de avaliação e otimização integradas.

Com Databricks Apps e Databricks One, você pode então empacotar esse agente em uma experiência de chat amigável para negócios e distribuí-lo através de um ponto de entrada curado, com segurança e governança do Unity Catalog aplicadas de ponta a ponta.

Para se aprofundar, comece com:

• Documentação e demonstrações do Agent Bricks documentation e demos: assistente de conhecimento e agente supervisor
• Demonstração do Databricks Apps demo, guia de introdução e documentação
• Documentação do Databricks One documentation e direito de acesso do consumidor

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original