O que é analytics de IA? Por que só funciona com dados governados

O AI analytics é a prática de aplicar inteligência artificial e machine learning à análise de dados, permitindo que os sistemas identifiquem padrões, gerem insights e respondam a perguntas em linguagem natural sem a necessidade de criar consultas manualmente. Ele muda o foco do analytics de dashboards retrospectivos para fluxos de trabalho automatizados, conversacionais e preditivos, nos quais um grupo mais amplo de usuários de negócios pode agir diretamente.

Hoje, qualquer fornecedor de BI consegue fazer uma demonstração de consulta em linguagem natural. Você faz uma pergunta, obtém um gráfico e impressiona a todos na sala. A questão mais difícil, aquela que separa uma plataforma que define a categoria de uma simples demonstração bonita, é o que acontece quando esse mesmo sistema se depara com uma empresa real: definições de métricas conflitantes, cinco tabelas que poderiam responder à pergunta e um usuário que, tecnicamente, não deveria ver metade dos dados subjacentes.

Richard Tomlinson lidera o marketing de produto para os produtos de business intelligence e analytics da Databricks. Nesta conversa, discutimos o que muda quando o BI se torna nativo de AI, por que a governança passa a ser ainda mais importante com a AI, e o que um líder de dados deveria perguntar aos fornecedores em vez de qual modelo de fundação eles usam.

Como o AI analytics se diferencia do BI tradicional?

O BI sempre foi capaz de dizer o que aconteceu. O que realmente muda com o AI analytics e por que ele é mais do que apenas um BI com um chatbot acoplado?

Richard Tomlinson: Um bom BI sempre ajudou as pessoas a entenderem mais do que simplesmente o que aconteceu. A verdadeira limitação é que o BI tradicional geralmente exige que um ser humano navegue pelo caminho analítico. Alguém precisa decidir qual dashboard abrir, quais filtros aplicar, em quais dimensões fazer detalhamento (drill down), qual consulta complementar executar e, muitas vezes, quando envolver um analista.

O AI analytics muda quem realiza esse trabalho. Em vez de apresentar uma visualização predefinida dos dados, um sistema alimentado por AI pode entender a intenção por trás de uma pergunta de negócios, determinar quais dados e contextos de negócios são relevantes, gerar e executar as consultas necessárias e, cada vez mais, conduzir uma investigação em várias etapas em nome do usuário.

Essa última parte é onde o analytics agêntico se torna importante. Se eu perguntar: "Por que a margem caiu no Nordeste no último trimestre?", um sistema agêntico não precisa traduzir isso em uma única consulta SQL e retornar um gráfico. Ele pode formular hipóteses, investigar o mix de produtos, descontos, segmentos de clientes ou custos, aprender com cada resultado e sintetizar as evidências em uma explicação.

Portanto, a evolução é basicamente a seguinte:

• Dashboards: mostram o que já decidimos medir.
• Analytics conversacional: permite fazer uma nova pergunta.
• Analytics agêntico: investiga a pergunta por mim.

Essa é uma mudança muito mais profunda do que simplesmente colocar uma caixa de chat em um dashboard.

Então, se os dashboards mostram o que aconteceu, o que essa investigação revela? O que o analytics alimentado por AI pode dizer a um tomador de decisão que um dashboard nunca conseguiria?

Richard Tomlinson: A maior mudança é passar da observação para a investigação. Um dashboard pode dizer a um varejista que a margem bruta caiu três pontos. Isso é útil, mas ainda deixa o tomador de decisão se perguntando o porquê.

Um sistema alimentado por AI pode investigar se a queda está concentrada em lojas, produtos ou segmentos de clientes específicos, testar se a política de descontos mudou, determinar se o mix de produtos foi alterado, comparar o cronograma com promoções ou mudanças de fornecedores e sintetizar essas descobertas em uma explicação. O resultado valioso não é outro gráfico. Pode ser algo mais próximo de: a margem caiu principalmente porque uma proporção maior de vendas migrou para duas categorias de produtos com grandes descontos no Nordeste, enquanto o volume unitário e a aquisição permaneceram estáveis. Isso está muito mais próximo da informação que uma decisão realmente exige.

Eu descreveria a progressão como: o que aconteceu, o que mudou, por que mudou, o que devo investigar ou decidir a seguir. E eu não chegaria ao ponto de sugerir que todo sistema de AI analytics pode tomar ou executar a decisão de forma autônoma. O avanço significativo de curto prazo é reduzir drasticamente o trabalho analítico necessário para ir de um sinal a uma decisão bem fundamentada.

O que significa para a AI interpretar dados semanticamente?

Você falou sobre o AI analytics interpretar dados semanticamente. O que isso significa na prática?

Richard Tomlinson: O AI analytics com certeza ainda faz consultas aos dados. A diferença é que ele precisa entender o que os dados significam antes de decidir como consultá-los.

Um banco de dados pode dizer a um sistema de AI que existe uma coluna chamada net_rev, outra chamada bookings e uma relação entre duas tabelas. Mas ele não pode dizer o que a empresa entende por "receita", se os executivos usam receita reservada (booked) ou reconhecida (recognized), qual calendário fiscal se aplica, qual hierarquia de clientes é a oficial ou se os pedidos cancelados devem ser incluídos. Essas são questões semânticas. Elas representam o significado de negócios que fica entre a linguagem do usuário e os dados físicos.

Na prática, um sistema robusto de AI analytics precisa de definições governadas de métricas e KPIs, dimensões e relacionamentos entre entidades de negócios, a terminologia e os sinônimos que a empresa utiliza, regras de negócios e lógica de cálculo, fontes oficiais, permissões e governança e, muitas vezes, o conhecimento institucional capturado a partir de como as pessoas historicamente usaram os dados. Esse contexto é o que permite ao sistema traduzir "Como está o desempenho das renovações corporativas?" na interpretação correta de corporativo, renovação e desempenho antes mesmo de construir uma consulta.

É por isso que a semântica se torna mais importante com a AI, e não menos.

Como tornar o analytics gerado por AI confiável?

Se um líder de dados lhe perguntasse diretamente: "como faço para tornar o analytics gerado por AI confiável?", qual seria sua resposta sincera?

Richard Tomlinson: Não comece pelo modelo. Comece pela base sobre a qual o modelo tem permissão para raciocinar. Acredito que o AI analytics confiável se resume a quatro coisas.

Primeiro, dados confiáveis: a AI precisa de acesso governado aos mesmos dados corporativos em que você confiaria para um relatório executivo, e não a cópias exportadas para um ambiente de AI separado. Segundo, contexto de negócios confiável: definições compartilhadas para as métricas, entidades e terminologia que importam para a empresa. Fornecer um esquema de banco de dados para um LLM não é o mesmo que ensinar a ele como a empresa funciona. Terceiro, execução confiável: a governança e as permissões precisam ser mantidas desde o usuário até os dados. Um sistema de AI não deve burlar os controles de acesso existentes só porque alguém fez uma pergunta em linguagem natural. Quarto, verificabilidade: os usuários e as equipes de dados precisam de evidências que possam inspecionar, os dados de origem, os cálculos ou consultas por trás da resposta, citações quando apropriado e uma maneira de avaliar as respostas sistematicamente em relação a perguntas com respostas sabidamente corretas.

Esse último ponto importa ainda mais à medida que o analytics se torna agêntico. Uma única consulta ruim produz uma resposta errada. Um agente pode tomar várias decisões analíticas durante uma investigação, por isso você precisa de mecanismos para fundamentar e validar todo esse processo, e não apenas o resultado final.

A ideia principal é que a confiança é uma propriedade do sistema, não do modelo. Um LLM mais capaz, por si só, não torna o analytics corporativo confiável.

Por que tudo desmorona quando não está fundamentado em dados governados? O que dá errado, concretamente?

Richard Tomlinson: Eu faria uma distinção aqui: a governança é necessária, mas não é suficiente por si só. Você pode ter dados perfeitamente governados e ainda assim obter uma resposta incorreta dita com total confiança se a AI não entender o que esses dados significam.

Sem uma base governada, várias coisas podem dar errado ao mesmo tempo. O sistema pode selecionar uma tabela desatualizada em vez da certificada. Dois usuários podem obter respostas calculadas a partir de versões diferentes do mesmo KPI. Informações confidenciais podem ser expostas a alguém que não deveria vê-las. E quando uma resposta parece errada, a equipe de dados pode não ter uma maneira confiável de rastrear quais dados ou cálculos a geraram.

A AI amplifica esses problemas porque expande drasticamente quem pode consultar os dados e quantas perguntas podem ser feitas. Antes, uma ambiguidade poderia fazer com que um analista pedisse esclarecimentos. Em vez disso, um sistema de AI pode fazer uma suposição plausível e continuar com total confiança.

É por isso que a base precisa de governança e semântica: controle sobre quais dados podem ser usados e quem pode acessá-los, além de uma compreensão compartilhada do que esses dados significam. O objetivo não é apenas evitar alucinações. É garantir que o analytics gerado por AI opere sob as mesmas definições, permissões e padrões de evidência que a organização já espera do analytics gerado por humanos.

O que acontece quando as equipes definem a mesma métrica de forma diferente?

Muitas organizações têm definições de negócios diferentes em ferramentas de BI distintas. Qual é o risco quando a AI entra em cena e como um líder de dados deve pensar sobre a padronização dessas definições?

Richard Tomlinson: A AI transforma um problema antigo de BI em algo muito maior. As organizações sempre enfrentaram dificuldades com definições concorrentes de termos como receita, cliente ativo, churn ou conversão. Com os dashboards, essas inconsistências são, pelo menos, relativamente limitadas. O departamento financeiro tem seu dashboard, a equipe de vendas tem outro e as pessoas acabam aprendendo qual deles usar.

A AI remove essas barreiras. O usuário simplesmente pergunta: "Qual foi a receita no último trimestre?" Agora, a AI precisa decidir qual definição, conjunto de dados e cálculo representam o significado pretendido pela organização. Se essas definições estiverem fragmentadas em ferramentas de BI individuais, modelos semânticos e dashboards, a AI estará, na prática, sendo solicitada a resolver um desacordo organizacional por conta própria. Isso é perigoso, pois a resposta ainda pode parecer totalmente plausível.

A resposta não é necessariamente um único modelo semântico gigantesco que tenta descrever toda a empresa. Trata-se de mover o significado de negócios crítico para definições semânticas compartilhadas e governadas que residem próximas aos dados subjacentes e são reutilizáveis em experiências analíticas e de AI. Isso se torna ainda mais importante à medida que as empresas implantam mais agentes de AI. Você não quer que cada dashboard, copilot e agente aprenda de forma independente o que significa "receita líquida". Você quer que todos eles se baseiem no mesmo contexto de negócios compartilhado.

Esta é uma das maiores mudanças arquitetônicas que a AI traz para o analytics: a semântica não pode mais residir exclusivamente na camada de apresentação.

Por que os usuários precisam ver como uma AI chegou à sua resposta?

Além da precisão, por que importa que um usuário de negócios possa ver como a AI chegou a uma resposta, e não apenas a resposta em si?

Richard Tomlinson: Porque o analytics não se trata apenas de obter uma resposta, mas de ter evidências suficientes para tomar uma decisão a partir dela. Se uma AI diz a um líder de vendas que o churn corporativo aumentou 14%, as próximas perguntas naturais são: em comparação com qual período, quais clientes estão incluídos, como o churn é definido, quais dados apoiam essa conclusão e posso detalhar esses dados? Um sistema confiável deve permitir que essas perguntas sejam respondidas.

Eu seria preciso sobre o que significa "mostrar como a AI chegou lá". Não significa expor o raciocínio privado ou a cadeia de pensamento do modelo. O que os usuários precisam é de proveniência e evidências: as fontes de dados utilizadas, os cálculos ou consultas executados, citações relevantes, tabelas e visualizações de apoio e as premissas que afetam materialmente o resultado.

Isso importa ainda mais com o analytics agêntico. Se um agente realiza uma investigação de dez etapas, o usuário não deve ter que confiar cegamente no parágrafo final. Ele deve ser capaz de inspecionar as evidências por trás das conclusões importantes. A transparência também muda o comportamento do usuário. Ela transforma a AI de um oráculo em um parceiro analítico. As pessoas podem contestar uma resposta, investigar mais a fundo e decidir por si mesmas se a evidência é forte o suficiente para agir.

Como um sistema de AI analytics decide em qual fonte de dados confiar?

Quando há múltiplas respostas ou fontes plausíveis, como sua AI sabe em que confiar?

Richard Tomlinson: Quase todo fornecedor consegue mostrar uma demonstração impressionante de linguagem natural. A parte difícil é o que acontece quando o ambiente corporativo real é complexo e desorganizado. E se o Financeiro e as Vendas calcularem a receita de forma diferente? E se houver cinco tabelas que poderiam responder à pergunta? E se uma fonte for certificada e outra tiver sido criada ontem? E se a pessoa que está perguntando só tiver permissão para ver parte dos dados subjacentes?

O fornecedor deve ser capaz de explicar como seu sistema entende as definições de negócios, determina a autoridade da fonte, aplica permissões de usuário, lida com ambiguidades e mostra evidências para a resposta resultante. Se a resposta for essencialmente "o LLM resolve isso", eu seria muito cauteloso. Para sistemas agênticos, isso se torna um problema ainda maior, porque o sistema não está tomando apenas uma decisão de recuperação de dados, mas pode estar tomando dezenas de decisões sobre quais dados examinar e qual hipótese seguir.

Essa pergunta se aproxima muito mais de saber se uma plataforma de AI analytics sobreviverá ao contato com uma empresa real do que perguntar em qual modelo de fundação ela é executada.

Modelos de AI melhores eliminam a necessidade de contexto de negócios?

O que a maioria dos líderes de dados acredita atualmente sobre AI analytics que você acha que está errado ou exagerado?

Richard Tomlinson: O maior equívoco é que modelos de AI melhores eliminarão a necessidade de modelar e curar o contexto de negócios. O oposto está acontecendo. Os LLMs são incrivelmente bons em entender a linguagem e raciocinar sobre as informações, mas não conseguem inferir as definições de negócios privadas de uma organização com certeza. Eles não sabem inerentemente qual dos seus cinco cálculos de receita o CFO considera autoritativo, o que "cliente ativo" significa na sua empresa ou em qual conjunto de dados se deve confiar para uma reunião de diretoria. À medida que a AI se torna mais capaz e autônoma, esse contexto se torna mais importante, porque a AI está tomando mais decisões em nome do usuário.

Um segundo equívoco é que a AI torna os dashboards obsoletos. Eu não acho que torne. Os dashboards continuam extremamente eficazes quando você sabe o que deseja monitorar: receita, pipeline, utilização, churn, estoque, níveis de serviço. A AI se torna mais poderosa quando a pergunta ainda não está codificada no dashboard, especialmente quando alguém pergunta o porquê, deseja explorar uma mudança inesperada ou precisa de uma investigação que abranja múltiplas dimensões.

O futuro do BI não é o chat em vez de dashboards. É um continuum no qual os dashboards lidam com perguntas conhecidas, o analytics conversacional lida com perguntas ad hoc e os agentes lidam cada vez mais com investigações complexas. Essa é uma definição mais crível da próxima geração de BI do que simplesmente substituir cada dashboard por um chatbot.

O AI analytics não elimina o trabalho árduo do BI, ele o realoca

O fio condutor de tudo isso é que o AI analytics não elimina o trabalho árduo do BI, ele o realoca. O trabalho de definir métricas, governar o acesso e entrar em acordo sobre o que "receita" significa não desaparece quando você adiciona uma interface de linguagem natural. Ele se torna mais importante, porque o sistema agora está tomando decisões de julgamento que um analista humano costumava tomar, em uma escala que nenhuma equipe de analistas conseguiria igualar.

Para líderes de dados que avaliam plataformas focadas em AI, a questão não é se a demonstração parece boa. É se o sistema subjacente, os dados governados, a semântica compartilhada, a execução que respeita as permissões e as evidências verificáveis foram construídos para sobreviver ao contato com uma empresa real e complexa. Essa é a base que transforma o AI analytics de um mecanismo de consulta impressionante em algo em que se pode confiar para fundamentar uma decisão.

Veja como dashboards baseados em AI e o analytics conversacional funcionam diretamente em dados governados. Explore o Databricks AI/BI

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original