Agentes estão prontos, mas sua arquitetura provavelmente não está

A pergunta que surge nas salas de reunião e sessões de estratégia de dados agora é: por que tantas iniciativas de IA geram atividade sem gerar valor? Parece simples até você tentar respondê-la.

Arsalan Tavakoli-Shiraji observou esse padrão se repetir em centenas de conversas com empresas. Como cofundador e Vice-Presidente Sênior de Engenharia de Campo na Databricks, ele está na interseção da arquitetura técnica e da estratégia de negócios de IA.

Nesta conversa, Arsalan e eu discutimos o que CDOs e CTOs precisam entender sobre colocar sistemas agentivos em produção, como são as falhas de governança quando a IA passa de produzir resultados para tomar ações — enviar mensagens, atualizar registros, executar decisões — e como encontrar uma vitória significativa sem criar o tipo de proliferação de IA que assombra as organizações por anos.

A Distância Entre a Atividade de IA e o Valor da IA

Catherine Brown: Você trabalha com empresas em todos os estágios de adoção de IA. Onde a maioria delas realmente se encontra, sendo honesto?

Arsalan Tavakoli-Shiraji: Algumas categorias diferentes. Alguns ainda estão experimentando — colocando as mãos em modelos, executando pilotos, vendo o que é possível. Outros avançaram e estão automatizando tarefas específicas: gerando textos, transcrevendo notas, permitindo que as pessoas façam perguntas aos seus dados. E há o grupo muito menor que descobriu como projetar do zero com as capacidades de IA em mente. A maioria das organizações ainda está nas duas primeiras categorias. Há muita proliferação de IA, muita atividade de IA. Há muito menos valor de IA.

A grande diferença é por onde você começa. Aqueles que estão chegando a um valor significativo começam com o resultado que desejam alcançar — maior produtividade, uma nova capacidade de negócios, redução de riscos — e trabalham de trás para frente. Eles não começam com a tecnologia.

Catherine: Qual é o erro arquitetônico mais comum que impede que os sistemas agentivos cheguem à produção?

Arsalan: O erro que mais vejo é pensar que selecionar um modelo é a parte difícil. Neste momento, obter um modelo de base de alta qualidade é a parte mais fácil do problema. A parte mais difícil é tudo o que está por baixo.

Na empresa, você precisa pensar em algumas coisas. Onde estão seus dados e como você se conecta a eles? A maioria das organizações tem dados espalhados por dezenas de lugares diferentes, bloqueados em formatos proprietários que não se comunicam entre si. E uma vez que você começa a vincular agentes a esses dados, você precisa de governança séria. Não apenas governança sobre os próprios dados, mas governança que entenda os agentes: o que eles estão fazendo, quais permissões eles têm, para onde estão indo e como múltiplos agentes de múltiplos sistemas se conectam. E, finalmente, os agentes precisam de uma compreensão semântica profunda da sua organização. Eles são, na verdade, trabalhadores virtuais executando em seu nome. Eles precisam saber o que é um bom resultado, quais são as definições e métricas chave, e qual é o contexto real do negócio.

O antipadrão é simples: dados bloqueados em silos, governança ignorada ou tratada como um problema secundário, e então uma corrida para descobrir por que os agentes não funcionam em produção. As organizações falham nessas três coisas quase sempre.

Por que Dashboards e Pipelines em Lote São a Base Errada

Catherine: Estruturalmente, por que dashboards e pipelines em lote são inadequados para onde as empresas precisam ir?

Arsalan: Eles são paliativos. Dashboards fornecem um ponto de referência visual que ainda é importante para as empresas ao tomar decisões. Mas a maioria é construída para responder a uma pergunta que alguém fez uma única vez. Eles são construídos, são visualizados algumas vezes e depois se juntam ao que eu chamaria de cemitério de dashboards.

Dashboards também são difíceis de interrogar. Você vê algo nos dados e quer saber por que aconteceu. Você quer vinculá-lo a um evento, investigar a fundo e fazer um acompanhamento. Historicamente, isso significa que alguém vai, puxa os dados subjacentes, executa uma análise e volta para você. Essa latência é brutal em um mundo onde as coisas se movem rapidamente.

Pipelines em lote têm um problema semelhante. O processamento em lote fazia sentido quando as decisões aconteciam lentamente o suficiente para que dados diários ou semanais fossem aceitáveis. Mas em um mundo agentivo, a janela entre o momento em que você vê algo e o momento em que pode agir sobre isso está diminuindo rapidamente. Quando você tem sistemas desconectados rodando em ciclos de lote, você simplesmente não consegue responder na velocidade que os agentes exigem.

O Que o Lakebase Realmente Resolve

Catherine: À medida que as empresas passam da experimentação de IA para a execução agentiva, onde o Lakebase se encaixa?

Arsalan: A infraestrutura que a maioria das organizações construiu em torno de suas camadas de análise e seus data warehouses foi projetada para um tipo específico de trabalho: consultas em larga escala, insights agregados e analistas humanos executando relatórios. Essa é uma carga de trabalho fundamentalmente diferente do que as aplicações agentivas exigem.

Quando você começa a construir para agentes, você está construindo para um consumidor muito diferente. Pense em uma empresa de telecomunicações que deseja colocar um aplicativo inteligente nas mãos de cada técnico de campo. Ou uma empresa de gestão de patrimônio implantando um assistente de IA para cada um de seus consultores. Ou um varejista exibindo recomendações em tempo real no ponto de venda. Essas aplicações precisam atender a um número enorme de usuários simultaneamente com latência muito baixa. E tudo isso precisa acontecer a um custo que faça sentido em escala.

É aí que o Lakebase entra. Agentes precisam de um banco de dados transacional, não de um banco de dados analítico. E eles precisam de um construído especificamente para as demandas do mundo agentivo. Lakebase é essa base. É o que permite às organizações passar da experimentação com IA para realmente executá-la em escala em produção e sem que a infraestrutura colapse sob a carga. E, ele funciona ao lado da camada analítica que as organizações já possuem. Não é um substituto. É a peça que faltava.

Falhas de governança quando agentes tomam ações

Catherine: Que falhas de governança tendem a surgir quando os sistemas param de gerar apenas resultados e começam a realmente tomar ações?

Arsalan:

É comum supor que, quaisquer que sejam as permissões que uma pessoa tenha, seu agente também deve ter essas permissões. E embora essa lógica faça sentido, a realidade é que quase nenhuma organização tem permissões perfeitas configuradas corretamente para cada pessoa e em cada sistema. Os humanos navegam nessa realidade imperfeitamente, mas como temos instintos, podemos contornar os desafios. Temos consciência do contexto que nos diz: “sim, tecnicamente posso fazer isso. Mas provavelmente não deveria sem verificar primeiro.” Agentes não têm essa consciência situacional. Eles têm um objetivo e um conjunto de restrições. E eles encontram um caminho para o objetivo dentro dessas restrições.

Quando os agentes estão apenas gerando resultados, o pior cenário é que eles estejam gerando conteúdo de baixa qualidade. Quando eles começam a agir, enviando mensagens, fazendo pedidos, excluindo registros, comunicando em seu nome, as apostas são completamente diferentes. A governança é uma das peças centrais que determina se você pode realmente desbloquear valor dos agentes. As empresas que farão isso certo são aquelas que tratam a governança como um pré-requisito, não como uma reflexão tardia.

O Caminho Mais Rápido para o Sucesso

Catherine: Qual é o caminho mais rápido que você viu para uma implantação bem-sucedida de agentes de IA sem criar mais proliferação tecnológica?

Arsalan: Duas coisas se destacam. Primeiro, clareza sobre o que o sucesso significa antes de começar. Parece óbvio, mas a maioria das equipes o ignora. Se você não consegue definir o resultado específico que está buscando (como o ganho de produtividade, nova capacidade de receita, redução de custos, prevenção de riscos), então você não pode trabalhar de trás para frente para a abordagem correta. Tecnologia não é o objetivo.

O segundo é o isolamento. É realmente difícil transformar uma equipe grande e crítica de dentro para fora enquanto eles ainda estão fazendo seus trabalhos diários. O que vejo funcionar é formar uma pequena equipe piloto focada com um caso de uso claramente definido, dando-lhes a liberdade de iterar rapidamente e mantendo-os longe de dívidas técnicas legadas e restrições de políticas existentes. Eles não estão sobrecarregados, então se movem rapidamente. Você aprende como o bom realmente se parece em um contexto do mundo real. E então você pega esses aprendizados e descobre como escalar e capacitar a organização mais ampla. Você quer ser capaz de descobrir o que funciona rapidamente e, em seguida, escalar rapidamente uma vez que o faça.

A Verdade Inconveniente Sobre a Era Agentiva

Catherine: Qual é a verdade inconveniente que os líderes precisam aceitar sobre o redesenho para este momento?

Arsalan: Do ponto de vista da infraestrutura, a era agentiva exige um conjunto de componentes centrais que precisam trabalhar juntos: uma camada analítica governada, um banco de dados transacional que possa lidar com a velocidade e escala que os agentes exigem, uma plataforma para construir e monitorar esses agentes, e uma camada de aplicação que as pessoas possam realmente usar.

Na Databricks, o Lakebase ancora o lado transacional. O AgentBricks oferece a camada de desenvolvimento e monitoramento para construir e gerenciar agentes em escala. O Databricks Apps fornece a camada de aplicação para entregar essas experiências aos usuários finais. E o Genie é como as pessoas realmente conversam com seus dados — a interface conversacional que permite aos usuários de negócios fazer perguntas e obter respostas sem a necessidade de um analista de dados. Se você atingir escala, executando não dezenas, mas potencialmente milhares de agentes, você precisa de um sistema onde todas essas peças foram construídas para funcionar juntas desde o início.

Mas a verdade mais difícil é esta: as empresas que mais se beneficiarão deste momento são aquelas dispostas a repensar o processo subjacente, não apenas adicionar AI sobre o existente. Há um exemplo bem conhecido da segunda revolução industrial. Fábricas que substituíram motores a vapor por elétricos, mas mantiveram o mesmo layout de chão de fábrica, obtiveram quase nenhum ganho de eficiência. A tecnologia mudou. O sistema não. É exatamente onde muitas organizações estão agora.

As equipes que estão começando a perguntar "se construíssemos isso do zero com capacidades de AI em mente, como seria?" Essas são as que verão resultados transformacionais. Isso requer gestão de mudanças, capacitação e uma definição clara do que é um bom resultado. Nada disso é fácil. Mas as organizações bem-sucedidas estão abordando tudo isso juntas, não uma parte de cada vez.

O Sistema É a Estratégia

A questão que CDOs e CTOs devem estar considerando agora não é se devem investir em AI agêntica. Essa decisão já foi amplamente tomada pelo mercado. A questão é se o sistema subjacente, a arquitetura de dados, a camada de governança, a infraestrutura transacional, a plataforma de desenvolvimento, está realmente construído para o que eles estão tentando fazer.

Para saber mais sobre como desenvolver um roteiro para incorporar AI em toda a sua empresa, baixe o State of AI Agents.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original