Como as empresas estão se preparando para a IA agêntica

À medida que as empresas passam da experimentação inicial com IA generativa para a construção de sistemas agênticos e orientados a objetivos, as perguntas que os executivos estão fazendo mudaram. A conversa é menos sobre o que a IA pode fazer e muito mais sobre como ela pode ser confiável, governada e integrada à forma como a empresa realmente opera.

Para explorar como as organizações líderes estão se preparando para esta próxima fase, conversei com Craig Wiley, Diretor Sênior de produto da Databricks, como parte de nossa série Executive Lens. Esta série foi projetada para revelar as mudanças estratégicas que moldam os dados e a IA nas empresas, através de conversas diretas com executivos que estão navegando por essas mudanças em tempo real.

Craig e eu conversamos abertamente sobre o que significa estar realmente pronto, como a arquitetura e a governança precisam evoluir e quais marcos as equipes de liderança e os conselhos devem planejar ao começarem a escalar sistemas agênticos.

Craig Wiley é Diretor Sênior de Produto de Inteligência Artificial na Databricks. Anteriormente, ele foi o Gerente Geral fundador do AWS SageMaker e um líder de produtos de IA no Google Cloud. Ele traz uma vasta experiência na criação de plataformas escaláveis de machine learning e IA que ajudam as empresas a unir dados e sistemas inteligentes de maneiras práticas e duradouras.

De experimentos com GenAI a sistemas em que os líderes podem confiar

Catherine: Você tem conversado com muitos CIOs, CDOs e CTOs ultimamente. O que você está vendo mudar à medida que as empresas passam da experimentação com GenAI para sistemas mais agênticos e orientados a objetivos?

Craig: No início, acho que muita gente estava confusa sobre como aproveitar a GenAI de uma forma útil. Ainda ouvimos falar sobre uma porcentagem enorme de casos de uso que são muito determinísticos. As pessoas dizem: “Quero criar um sistema que faça isso”, seja para a cadeia de suprimentos, gerenciamento de serviço ao cliente ou o que for.

O problema era que, com a GenAI inicial, construir ou implantar qualquer coisa determinística era muito difícil. Com agentes, agora podemos usar a GenAI para construir sistemas quase determinísticos e também podemos aprimorar muito a precisão.

Se você pensar no que é preciso para um CXO dizer sim a implantar uma solução agêntica, tudo se resume a controle e precisão. Eu consigo controlar e isso realmente funciona? Essa mudança em direção a agentes tornou possível atingir níveis de precisão que simplesmente não conseguíamos alcançar quando tudo era baseado em prompt e resposta.

A resposta menos empolgante ainda é a correta

Catherine: O que indica que uma organização está realmente pronta para a IA agentiva?

Craig: A resposta chata é a correta: seus dados estão em ordem?

Você pode estar muito empolgado com a IA agentiva, mas para as empresas tudo se resume ao contexto. E quando dizemos contexto, queremos dizer dados e informações. Você consegue entregar a informação certa para o agente no momento certo em seu raciocínio?

Vemos isso o tempo todo. Modelos menores, mais baratos e menos sofisticados podem ter um desempenho tão bom quanto os mais avançados se receberem o contexto certo na hora certa. Não há atalho para isso. Você precisa de um data lake bem organizado com metadados fortes. Se você não tiver isso, é muito semelhante ao machine learning clássico. Você diz: “Vamos construir este modelo”, e dois meses e meio são gastos organizando os dados, e as últimas semanas são, de fato, para a construção do sistema. Sem o trabalho com os dados, não há sucesso.

Dois caminhos a seguir quando seus dados não estão prontos

Catherine: Muitas organizações não têm a maturidade de dados que gostariam. Se um executivo olha para o ambiente dele e pensa: “Isto é uma bagunça, por onde eu começo?” o que você viu que funciona?

Craig: Na verdade, existem dois caminhos.

Um é bottom-up. Você olha para todos os seus dados e diz: “Como eu organizo tudo isso?” A boa notícia é que as ferramentas melhoraram drasticamente. Mover dados de sistemas legados está mais fácil, e a GenAI pode até ajudar a escrever parte do código para fazer isso.

O outro caminho é orientado por casos de uso. Se um CEO ou CIO disser: “Temos uma grande ambição agêntica e queremos fazer X”, e os dados estiverem uma bagunça, você pode começar perguntando: de quais dados eu realmente preciso para este caso de uso? Então, você encontra essas peças, as moderniza e as utiliza a serviço desse objetivo.

Nenhuma das abordagens é universalmente melhor. A abordagem bottom-up oferece mais flexibilidade mais tarde. A abordagem de caso de uso primeiro pode ser mais rápida quando o problema é existencial. O único erro real é não dar aos dados o tempo e a atenção que eles precisam.

Por que as primeiras vitórias estão indo além do bate-papo

Catherine: Onde os early adopters estão focando neste momento? Que tipos de casos de uso estão ganhando força?

Craig: Um ano atrás, muitos dos primeiros a adotar estavam se inclinando para o marketing e outros casos de uso em que a natureza generativa dos modelos não era um problema. Agora, por causa de coisas como chamada de ferramentas e maior precisão, os clientes podem buscar muito mais. As pessoas ainda são muito centradas no bate-papo. “Quero que meus funcionários conversem com alguma coisa.” “Quero que os clientes conversem com alguma coisa.”

Mas a verdadeira empolgação que estou vendo gira em torno da automação e da otimização do fluxo de trabalho. Conversei recentemente com um grande banco que está tentando agentificar todo o processo de originação de empréstimos. Isso costumava levar horas de trabalho humano analisando documentos. Agora, eles esperam que o processo seja totalmente executado por agentes, com uma supervisão humana rigorosa. Esse é um resultado muito mais convincente do que apenas mais um chatbot.

A governança fica mais difícil quando os agentes se tornam usuários

Catherine: Como os líderes estão repensando a arquitetura e a governança à medida que os sistemas se tornam mais autônomos?

Craig: Por décadas, nós nos concentramos em gerenciar dados estruturados e em garantir que as pessoas certas tenham acesso e as erradas não. Agora temos que pensar sobre isso também para dados não estruturados, e temos que pensar nos agentes como novas entidades. Como garanto que esses agentes tenham acesso aos dados certos na hora certa?

Você também precisa pensar no usuário do outro lado do agente. Um exemplo clássico é criar um chatbot sobre o Jira. Muitas vezes, o Jira ou outros sistemas semelhantes podem conter informações confidenciais. Se não for governado, qualquer pessoa poderia expor essa informação. Portanto, não se trata apenas do que o agente pode acessar. Trata-se também do que o agente pode retornar com base em quem está perguntando. Os componentes básicos existem, mas a governança precisa ser tratada como um problema de primeira classe, não como uma reflexão tardia.

Uma maneira simples de pensar sobre identidade, acesso e agentes

Catherine: Isso parece muito com gerenciamento de identidade e acesso. Como os líderes devem pensar sobre isso enquanto se preparam?

Craig: Fundamentalmente, é gerenciamento de identidade e acesso, mas com uma nova classe de identidade: agentes.

Se você não tiver políticas de identidade e acesso robustas, o cenário está prestes a ficar muito mais difícil. Se você tiver, isso se encaixa de forma mais natural.

Uma maneira simples de pensar sobre isso é:

• Quem é? Sistemas de identidade robustos que funcionam para atores humanos e não humanos.
• O que eles têm permissão para fazer? Governança em APIs e dados.
• Como eles fazem isso? Documentação e metadados. O que há nesta tabela? O que esta API faz?

Se os sistemas de identidade e a documentação forem bons, fica muito mais fácil direcionar um agente para eles e avançar rapidamente.

Os próximos 12 a 24 meses: crie musculatura antes de buscar o ROI

Catherine: Nos próximos um ou dois anos, o que as equipes de liderança deveriam planejar à medida que os sistemas agênticos ganham escala?

Craig: Muitas empresas estão presas na questão de construir versus comprar. Se eu fosse um CEO, eu gostaria de ter clareza sobre isso. Minha opinião é que você deve ser capaz de construir. Não consigo imaginar gerenciar uma grande empresa e terceirizar todo o meu desenvolvimento de software.

Se você tem desenvolvedores, deve planejar o desenvolvimento dessa capacidade. A curto prazo, me preocupo muito menos com o ROI e muito mais se minha equipe consegue criar e entregar esses sistemas. A prática vem antes da competição. Acerte no talento nos primeiros seis meses. Em seis a doze meses, crie coisas das quais você se orgulhe. Depois disso, comece a gerar resultados de negócios reais.

Há momentos para comprar. Se a funcionalidade não for central para a sua diferenciação, considere comprá-la. Mas se você já cria software para diferenciar sua empresa, suas equipes devem criar agentes para diferenciar sua empresa.

O equívoco que paralisa o progresso

Catherine: Qual é o maior equívoco que você vê quando as empresas experimentam a IA agentiva pela primeira vez?

Craig: Rejeição após a falha.

Eles criam algo, o sistema dá uma resposta errada uma vez e eles dizem: “Viu? Eu disse que estaria errado. Cansei.” Não é assim que o crescimento funciona. Se estava errado, pergunte o porquê. Corrija a causa raiz e siga em frente.

A GenAI parecia fácil no começo, então as pessoas esperam que seja sempre fácil. Mas construir ótimos sistemas de IA é difícil. Haverá falhas. O sucesso consiste na melhoria contínua, e não em acertar na primeira vez.

Eu dei uma palestra alguns anos atrás em que uma empresa global de serviços financeiros falou sobre um agente que eles construíram para ajudar os funcionários do call center a se integrarem mais rápido. Eu perguntei como eles mediam o sucesso. A resposta foi: “Não era esse o ponto. O ponto era fazer com que minha equipe ganhasse experiência em desenvolvimento.”

Essa mentalidade ficou comigo. As empresas com essa atitude são as que vão vencer.

Catherine: A mentalidade de crescimento.

Craig: Exatamente.

Consideração final

O que mais me chamou a atenção nessa conversa é que a IA agêntica não recompensa atalhos. As organizações que avançam mais rápido não estão pulando as partes difíceis. Elas estão fazendo o trabalho sem glamour relacionado a dados, identidade, governança e documentação, e estão investindo cedo na construção de capacidade interna.

Sistemas agentivos não mudam apenas o que a tecnologia pode fazer. Eles elevam o padrão de quão preparada uma organização precisa estar para usá-la bem.

Para saber mais sobre a construção de um modelo operacional eficaz, baixe o Modelo de Maturidade de IA da Databricks. 

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original