Dos dados ao diálogo: um guia de práticas recomendadas para criar Genie Spaces de alto desempenho

Na maioria das organizações, há uma expectativa crescente de que qualquer pessoa possa fazer perguntas sobre seus dados em linguagem natural e receber respostas precisas instantaneamente. Grandes modelos de linguagem não são projetados apenas para esse fim; eles não entendem acrônimos internos, métricas personalizadas ou como as entidades de negócios se relacionam umas com as outras. Sem esse contexto, até mesmo perguntas simples podem gerar resultados enganosos.

A implementação de melhores práticas de analítica de autoatendimento transforma a forma como as organizações fazem query de dados. O Databricks AI/BI Genie preenche essa lacuna combinando modelos de linguagem com dados governados e configuração explícita na Plataforma Databricks. Um Genie Space é onde você codifica a lógica, o vocabulário e as regras da sua organização para que as perguntas em linguagem natural se resolvam em queries corretas.

Construir um Genie Space confiável exige mais do que apontar a IA para um banco de dados. Isso exige preparação deliberada em modelagem de dados, metadados и validação contínua. Este guia fornece uma abordagem prática e passo a passo para realizar esse trabalho de maneira escalável.

Passo 1: Crie uma base de dados sólida

A qualidade de um Genie Space depende muito da qualidade dos dados subjacentes. Quando os dados já têm curadoria e são consistentes, o trabalho do Genie se torna mais simples, rápido e preciso. O objetivo é disponibilizar dados com curadoria em que um analista humano confiaria sem limpeza adicional.

• Desnormalizar e pré-join: comece desnormalizando seus modelos de dados onde fizer sentido. A pré-junção de tabelas remove a complexidade das queries geradas e reduz o risco de joins ou agregações incorretas.
• Pré-calcule os campos comuns: você deve pré-calcular campos usados com frequência, como períodos fiscais ou sinalizadores de status padronizados, para que não haja ambiguidade na forma como esses valores são derivados.
• Filtrar dados irrelevantes: se certas linhas ou colunas nunca devam ser consultadas, remova-as durante o processo de engenharia de dados. Não confie em instruções ou prompts para compensar más escolhas de modelagem. Quando uma regra se aplica universalmente, aplique-a nos próprios dados.

As views de métricas desempenham um papel key na aplicação de definições consistentes entre as equipes. Elas permitem que você codifique a lógica de negócios compartilhada, como cálculos de receita ou de usuários ativos, em um só lugar. O Genie herda essas definições automaticamente, o que garante que cada consulta se baseie na mesma lógica aprovada. Isso elimina a ambiguidade e garante uma única fonte de verdade.

O passo 2: Defina as expectativas com benchmarks

Antes de configurar metadados ou exemplos de SQL, você precisa definir o que é sucesso. Um Genie Space não deve apenas responder a perguntas, mas respondê-las de forma correta, consistente e no formato esperado. Os benchmarks tornam isso mensurável.

• Faça um inventário das suas principais perguntas: colabore com especialistas no assunto para reunir uma amostra representativa de perguntas. Elas devem incluir tanto queries simples quanto queries analíticas mais complexas. Para cada pergunta, defina a resposta de "fonte da verdade" para servir como seu critério de sucesso. Isso permite que você verifique se o Genie não apenas calcula os números corretamente, mas também respeita implicitamente seus padrões de formatação. Por exemplo, ao verificar a receita total aprovada por comerciante, a referência deve garantir que o resultado seja agrupado corretamente, não apenas que a soma total esteja correta.
• Especifique a saída desejada: para cada pergunta, defina a saída esperada. A resposta precisa estar em um formato específico? Os valores devem ser agregados de uma maneira específica? Especificar o formato desejado garante que a query seja avaliada de forma justa e que o Genie aprenda os padrões de apresentação da sua organização.
• Estabeleça sua pontuação inicial: execute benchmarks com antecedência e espere falhas. As falhas iniciais são úteis porque destacam exatamente onde o Genie não tem contexto. À medida que você refina os metadados e a lógica, você deve executar novamente esses benchmarks para acompanhar as melhorias e identificar regressões quando ocorrerem alterações nos dados ou na configuração.

Ao utilizar a ferramenta de benchmarking, você pode reexecutar seu conjunto de consultas comuns por meio de um processo automatizado. Isso fornece um sistema consistente e repetível para avaliar o estado do seu Genie Space em todas as etapas, permitindo que você meça o progresso e identifique regressões rapidamente.

Etapa 3: ensine ao Genie a lógica da sua organização

Com uma base de dados sólida, agora você deve ensinar ao Genie o contexto e as regras específicas da sua organização. Isso envolve três camadas distintas de configuração: enriquecer metadados, definir relacionamentos e codificar padrões de SQL.

1. Enriqueça metadados e vocabulário O Genie extrai informações básicas de esquema do Unity Catalog, mas você precisa adicionar o contexto "humano".
   • Descrições de tabela: trate-as como "declarações de missão". Explique brevemente quais dados a tabela contém e a quais perguntas de negócio específicas ela responde.
   • Descrições de colunas: esclareça campos ambíguos. Se um nome de coluna como created_at ou status for vago, adicione uma descrição para especificar exatamente o que ele representa (por exemplo, "O carimbo de data/hora de quando o pedido foi feito, em UTC").
   • Sinônimos: Faça a ponte entre o jargão de negócios e os nomes técnicos das colunas. Use sinônimos para mapear acrônimos (por exemplo, "ARR") ou termos internos diretamente para as colunas relevantes.
     
     
   • Value Dictionaries: Dê ao Genie uma prévia dos seus dados reais. Ative Example Values ou Value Dictionaries para colunas categóricas para que o Genie possa realizar correspondências exatas (por exemplo, mapeando "Australia" para "AUS") sem precisar adivinhar as convenções de nomenclatura.
     
     
2. Defina os relacionamentos. O Genie respeita as chaves primárias e estrangeiras definidas no Unity Catalog, mas você deve configurar manualmente quaisquer links ausentes na guia Joins.
   • Definir cardinalidade: Declarar explicitamente se um relacionamento é de um para um, um para muitos ou muitos para muitos é fundamental. Isso impede que o Genie gere consultas que aumentem drasticamente a contagem de linhas ou contem métricas em dobro acidentalmente.
     
     
3. Codifique a lógica com SQL Enquanto os metadados ensinam ao Genie o que são seus dados, o SQL fornecido ensina a ele como consultar.
   • queries de exemplo: adicione queries "padrão ouro" para suas perguntas mais comuns ou complexas. É aqui que você demonstra como lidar com lógicas complexas (cálculos complicados, filtros específicos ou agregações de várias etapas reutilizadas) que os metadados por si só não conseguem explicar. Você também deve incorporar parâmetros para ensinar o Genie a lidar com entradas de variáveis dinamicamente. As diretrizes de uso permitem que você diga explicitamente ao Genie quando aplicar uma query específica. Isso desambigua métricas semelhantes e garante que o Genie escolha o padrão certo para o cenário certo. Além da lógica, o Genie trata as queries de exemplo como padrões de estilo, aprendendo suas convenções de formatação e codificação preferidas.
   • Expressões SQL: defina snippets reutilizáveis especificamente para filtros, dimensões ou medidas. Eles funcionam como blocos de construção modulares para suas queries. É crucial que você forneça instruções sobre quando usá-los (por exemplo, "Aplique este filtro sempre que o usuário pedir por 'Contas ativas'"), garantindo que o Genie use a ferramenta corretamente em vez de apenas adivinhar.
     
     
   • Funções Confiáveis (UDFs): Use Funções Definidas pelo Usuário para lógicas que devem ser reutilizadas exatamente como estão, sem variação na fórmula subjacente (por exemplo, um cálculo de imposto padronizado). Estas são funções estritas nas quais o Genie simplesmente passa os parâmetros necessários. Como a lógica é bloqueada, quando o Genie executa essas funções, ele exibe um selo "Confiável" no resultado, indicando ao usuário que ele pode ter confiança na resposta.
     
     

Passo 4: Aplicar instruções gerais

As instruções gerais fornecem um contexto de alto nível, mas devem ser usadas com moderação. Elas são menos precisas do que metadados ou exemplos de SQL e nunca devem ser usadas para compensar a falta de configuração em outro lugar.

Antes de adicionar uma instrução geral, verifique se o problema pode ser resolvido por meio de descrições de tabelas, metadados de campos, joins, valores de exemplo ou queries de exemplo. Use instruções gerais somente quando nenhuma das ferramentas específicas se aplicar.

Instruções eficazes descrevem a narrativa de negócios em linguagem simples. Elas explicam as entidades principais, os ciclos de vida e os relacionamentos sem ditar o comportamento específico do SQL. Evite instruções que forcem a seleção de tabelas, usem filtros fixos ou especifiquem a formatação da saída.

Use a matriz de decisão abaixo para diagnosticar problemas comuns. Antes de adicionar uma instrução geral, verifique se você abordou a lacuna usando as ferramentas de configuração principais:

Esta seção é sua oportunidade de falar com o Genie em termos amplos e conceituais.

Boas Instruções Gerais fornecem uma narrativa

As instruções gerais mais eficazes fornecem uma narrativa de alto nível e legível por humanos de todo o contexto organizacional. Pense nisso como escrever um resumo executivo ou um resumo da missão para o Genie Space. É aqui que você explica o propósito dos dados, define as entidades principais e descreve como elas se relacionam em linguagem simples.

Este contexto deve guiar o Genie em direção aos padrões comportamentais corretos, sem ditar comandos SQL específicos. Ele preenche as lacunas conceituais que permanecem depois que todas as ferramentas mais específicas foram usadas.

Aqui está um exemplo comparativo de uma instrução de alto nível que prepara o cenário para um dataset de cashback e transações:

Instruções Gerais Ruins

Instruções ineficazes tentam fazer o trabalho de uma ferramenta mais específica. Geralmente, elas são muito rígidas, dizendo ao Genie exatamente como escrever uma consulta, o que pode confundi-lo ou entrar em conflito com o contexto que ele aprendeu em outras áreas de configuração. Evite instruções que:

• Ditar quais tabelas ou colunas usar. Essa é a função das descrições de tabela/campo e dos sinônimos.
  • Em vez de: "Quando um usuário perguntar sobre ventas, use a tabela de transações e a coluna de receita."
  • Faça o seguinte: garanta que a descrição da tabela de transações diga que ela é usada para análise de vendas e que a coluna de receita tenha sinônimos relevantes.
• Especifique a formatação, os aliases ou os campos a serem retornados. Essa é o job dos Exemplos de Queries SQL.
  • Em vez de: "Ao exibir a receita, renomeie a coluna para 'Receita total' e formate-a como moeda."
  • Faça o seguinte: forneça uma consulta de exemplo que calcule e formate corretamente uma saída de receita.
• Fixe valores específicos. Essa lógica pertence à camada de dados ou a uma Example Queryespecífica.
  • Em vez de: "Sempre filtre as transações em que o país é 'AUS'."
  • Faça o seguinte: lide com isso no lugar certo. Se esta for uma regra universal, filtre-a nos dados da Camada Ouro. Se for uma solicitação comum, adicione uma query de exemplo mostrando como filtrar transações australianas.

Passo 5: Manter a qualidade por meio de feedback contínuo

Lançar um Genie Space não é o fim do projeto, é o começo de uma ferramenta de analítica viva e em evolução. Os Genie Spaces mais bem-sucedidos são aqueles que são ativamente monitorados, mantidos e aprimorados em parceria com os usuários que atendem. Este passo final transforma seu Genie Space de uma configuração estática em um ativo dinâmico que se adapta às necessidades em constante mudança da sua organização.

Envolva seus especialistas no assunto como parceiros

Sua melhor fonte de informações para melhorar seu Genie Space são seus usuários especialistas. Capacite um pequeno grupo de SMEs para atuarem como defensores e forneça a eles acesso direto. Incentive-os a usar as ferramentas de feedback integradas, marcando as respostas como "Boas" ou "Ruins".

Isso cria um poderoso ciclo de feedback contínuo. Quando um SME trabalha com o Genie para refinar uma pergunta e chegar a uma resposta correta, essa interação é uma valiosa oportunidade de aprendizado. Capture a query final "Boa" deles e a pergunta original, e adicione-as às suas Example Queries. Este processo de refinamento iterativo, impulsionado pelo uso no mundo real, é a maneira mais eficaz de melhorar a precisão e a relevância do seu Espaço ao longo do tempo.

Use a Tab Monitoramento para entender o comportamento do usuário

A Tab de monitoramento é sua linha de visão direta sobre como os usuários estão interagindo com seus dados. Analisar este painel regularmente fornece percepções valiosas sobre o comportamento do usuário e ajuda você a identificar áreas para melhoria. Procure por:

• Perguntas comuns: quais são as queries mais frequentes? Isso ajuda você a entender o que seus usuários mais valorizam.
• Pontos de dificuldade: há tópicos em que o Genie produz consistentemente consultas incorretas ou inconsistentes?
• Uso Inesperado: As pessoas estão fazendo perguntas que você não previu?

Esses dados fornecem um guia claro e baseado em evidências de onde concentrar seus esforços — seja para adicionar novos metadados, refinar joins, criar example queries mais direcionadas ou ajustar as instruções gerais para atender melhor às necessidades dos seus usuários.

Valide as alterações com seu conjunto de benchmarks

À medida que você faz melhorias e seus dados evoluem, seu conjunto de benchmarks se torna sua principal ferramenta para garantia de qualidade e testes de regressão. Qualquer alteração significativa no Genie Space — como adicionar uma nova fonte de dados — deve ser imediatamente seguida por uma execução de benchmark.

Esta é a maneira mais rápida e confiável de verificar se uma mudança teve um impacto positivo ou negativo. Se você notar uma queda no desempenho, os resultados de referência indicarão exatamente quais queries regrediram, permitindo que você identifique a origem da nova ambiguidade e a resolva rapidamente. Essa abordagem disciplinada garante que, à medida que seu Espaço Genie cresce, sua qualidade e confiabilidade permaneçam consistentemente altas.

Da Configuração à Colaboração

Construir um Genie Space de alto desempenho é um produto de refinamento contínuo, não uma configuração única. Não tente mapear todo o seu patrimônio de dados de uma só vez. Em vez disso, selecione um único caso de uso de alto valor, como um painel de vendas específico ou um relatório operacional, e aplique esta metodologia.

Comece com a engenharia de uma fatia limpa de dados e, em seguida, estabeleça imediatamente suas perguntas de benchmark "ouro". Use as falhas nesse benchmark inicial para guiar a configuração de metadados e da lógica SQL. Ao focar neste ciclo iterativo (testar, configurar, verificar), você construirá um sistema em que os usuários confiam. Essa abordagem disciplinada oferece recursos de autoatendimento imediatos.

Para começar a usar o Genie no workspace deles
https://docs.databricks.com/aws/en/genie/set-up
https://learn.microsoft.com/en-gb/azure/databricks/genie/set-up
https://docs.databricks.com/gcp/en/genie/set-up

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original