Como aplicar determinismo, raciocínio agêntico, autoridade humana e autonomia limitada em sistemas corporativos
por Molly Nagamuthu
A IA corporativa não pode substituir todos os controles determinísticos. Estes quatro padrões ajudam os arquitetos a decidir onde os agentes podem raciocinar, agir e continuar sujeitos a controles ou à autoridade humana.
As empresas estão adicionando agentes a sistemas construídos com regras fixas e processos repetíveis. Os agentes conseguem raciocinar sobre problemas complexos, mas os sistemas corporativos — especialmente em setores regulamentados — precisam continuar controlados e passíveis de auditoria. A questão não é qual escolher, mas sim como fazê-los trabalhar juntos.
Estamos escrevendo esta série porque os clientes nos fazem as mesmas perguntas: Como empresas do mundo todo estão lidando com restrições semelhantes às nossas? Qual é a realidade da adoção de IA corporativa? Como outras organizações estão lidando com essas nuances? Como a Databricks está ajudando a resolvê-las quando os requisitos são ambíguos, complexos e específicos para a instituição?
Nós, como Forward Deployed Engineers, trabalhamos nessa fronteira. Pegamos problemas de negócios ambíguos e os transformamos em sistemas prontos para produção. Embora as implementações variem por instituição e não possamos divulgar detalhes específicos de implementação, podemos discutir padrões e práticas generalizados. Conforme os agentes se tornam parte de grandes sistemas corporativos, duas perguntas continuam surgindo:
A resposta não é a mesma para todos os casos de uso. Nos sistemas que estamos construindo e modernizando em campo, quatro padrões estão surgindo. Este primeiro artigo apresenta o framework. Os quatro artigos seguintes mostram como cada padrão funciona na prática.
Use este padrão quando os resultados precisarem ser estritamente determinísticos e reproduzíveis, ou quando os erros forem irreversíveis e acarretarem altos custos de remediação. Aqui, determinístico significa que o resultado pode ser reproduzido sob um contrato explícito e versionado que registra juntos os dados, a regra, a tolerância, a configuração e o contexto de execução.
As instituições financeiras têm muitos controles. As reconciliações são um bom exemplo. O controle deve calcular os saldos, aplicar uma regra aprovada e produzir um resultado PASS ou FAIL reproduzível. Um agente não pode reinterpretar a tolerância ou transformar sua própria explicação em um controle aprovado. Quando uma reconciliação falha, um agente pode coletar evidências, inspecionar a linhagem e o status do lote, comparar a divergência com incidentes anteriores, testar um conjunto delimitado de causas e recomendar o próximo passo. O controle determinístico ainda decide se a reconciliação passou. O agente ajuda a explicar o motivo da falha.
O agente pode investigar o controle. Ele não pode se tornar o controle.
Este padrão também se aplica a cálculos regulatórios, aplicação de políticas, portões de qualidade de dados e verificações de integridade de sistemas — em qualquer lugar onde o resultado precise ser preciso, reproduzível e passível de auditoria.
Use este padrão quando mais de uma resposta puder ser válida, mas o resultado puder ser testado de forma objetiva.
A migração ou modernização de legados é um bom exemplo. Um agente pode analisar uma carga de trabalho existente e gerar uma implementação de destino. Ele pode não produzir exatamente a mesma implementação todas as vezes. Isso não é necessariamente um problema. O que importa é se o resultado está correto.
Um juiz determinístico pode testar se o código compila, se os esquemas estão em conformidade, se os dados se reconciliam, se os totais de controle correspondem, se os requisitos de governança são atendidos e se o desempenho atinge a meta. Se o resultado falhar, o agente recebe a evidência, diagnostica o problema, corrige seu trabalho e executa a validação novamente.
Passar por esse juiz prova que o candidato satisfez o contrato de aceitação aprovado. Isso não prova que o contrato abrange todos os comportamentos de produção. A cobertura de testes, os casos extremos moldados para produção e a revisão periódica ainda importam.
Não torne o agente determinístico quando você puder avaliar a saída dele de forma determinística.
O validador não é apenas um controle. É o loop de feedback que permite ao agente melhorar seu resultado. Este padrão funciona bem para migração, geração de código, transformação, testes e remediação.
Use este padrão quando a resposta exigir julgamento e não puder ser comprovada como correta por um teste determinístico.
As investigações de crimes financeiros são um exemplo. Um agente pode correlacionar transações, documentos, políticas, relacionamentos e padrões históricos. Ele pode reunir evidências, identificar explicações prováveis, levantar perguntas não resolvidas e recomendar uma destinação. Isso também costuma ser exigido por regulamentações quando uma decisão afeta significativamente uma pessoa ou quando você precisa justificar o resultado para um regulador, auditor, tribunal ou para a pessoa afetada.
Mas uma recomendação não é uma decisão. Quando o resultado é consequente e não há uma maneira determinística de estabelecer a correção, a autoridade deve permanecer com uma pessoa responsável.
A revisão humana deve ficar na fronteira da decisão, e não dentro de cada etapa.
O raciocínio do agente também precisa ser explicável na maioria das vezes. Cada recomendação deve rastrear de volta às evidências, fontes e ferramentas por trás dela. Isso permite que o investigador conteste a lógica e permite que auditores ou reguladores reconstruam como o agente chegou à sua recomendação. Onde a regulamentação dá à pessoa afetada o direito a uma explicação, a explicação deve ser específica para a decisão. Ela abrange os principais fatores, o papel do agente e o papel humano. "O modelo sinalizou isso" não é suficiente. O investigador registra a lógica para a chamada final, incluindo qualquer substituição pelo agente.
O agente reduz o esforço investigativo e melhora a consistência das evidências apresentadas. O investigador mantém a responsabilidade pela decisão final, que pode ser subjetiva, matizada e não determinística.
Use este padrão quando o agente precisar agir, mas apenas dentro de um envelope operacional explícito.
Considere um módulo de Governança e Inteligência que gerencia o acesso a dados corporativos governados. Um usuário descreve quais dados precisa, por que precisa e por quanto tempo. O agente interpreta a solicitação, identifica o produto de dados apropriado, determina o acesso mínimo necessário e reúne o contexto relevante de identidade, política, propriedade, classificaç ão, linhagem e uso.
Exigir aprovação manual para cada solicitação padrão gera atraso sem necessariamente reduzir o risco. Dar ao agente autoridade irrestrita para conceder acesso cria uma lacuna de controle inaceitável. A resposta é a autonomia limitada.
O envelope operacional define:
Dentro desse envelope, o agente pode interpretar a solicitação, montar a evidência, selecionar o fluxo de trabalho aprovado e iniciar um direito com limite de tempo. Os serviços de políticas determinísticas validam todas as condições necessárias antes que o Unity Catalog aplique a concessão.
Não tente restringir todas as decisões. Restrinja o envelope operacional. Implementar frameworks de juízes multiagentes em ciclos de validação dentro deste envelope também pode complementar a supervisão humana com verificações de segurança automatizadas e de múltiplas perspectivas.
Se a solicitação estiver fora do envelope — por exemplo, porque envolve dados confidenciais, atributos ausentes, políticas conflitantes, privilégios excessivos ou uma exceção de segregação de funções —, o sistema bloqueia a execução direta e a encaminha para o proprietário dos dados, steward ou revisor de riscos apropriado.
O Databricks fornece a base governada em todos os quatro padrões. O Omnigent pode compor agentes e conjuntos de agentes sem tornar nenhum agente específico a arquitetura. O Unity Gateway governa o acesso a modelos, ferramentas, servidores MCP e APIs externas. O Unity Catalog governa os dados corporativos e aplica o acesso aprovado, incluindo regras de residência e transferência transfronteiriça. A conectividade segura alcança sistemas locais, de nuvem e SaaS sem ignorar esses pontos de controle. O MLflow preserva rastros e evidências de avaliação que também servem como registros de auditoria para os reguladores. Consulte o diagrama anexo para ver uma arquitetura de referência que mostra como as chamadas de agentes fluem por pontos de controle governados para sistemas de clientes em ambientes locais, de nuvem e jurisdições regulamentadas.

A modernização tradicional altera onde e como a tecnologia é executada. A transformação por IA altera o próprio modelo de execução. Os sistemas que antes seguiam principalmente instruções predefinidas agora podem interpretar, raciocinar, gerar e agir.
Isso não significa descartar os sistemas determinísticos que as empresas levaram décadas para construir. Em muitos casos, esses sistemas se tornam a base da arquitetura agêntica:
A oportunidade não é simplesmente substituir sistemas legados por agentes. Em todos os quatro padrões, o que torna um agente implantável é o solo em que ele se apoia: dados corporativos governados, linhagem verificável, acesso aplicado, qualidade mensurável e uma trilha de auditoria reproduzível.
Isso é especialmente importante em setores regulamentados, onde uma fronteira arquitetônica fraca pode levar a falhas de controle, penalidades ou atrasos em compromissos regulatórios. Uma fronteira bem projetada pode reduzir o esforço investigativo, encurtar os ciclos de modernização e permitir automação de alto valor sem transferir autoridade inadequada para o modelo.
A arquitetura nativa de IA trata de decidir onde o determinismo, a inteligência e a autoridade devem residir.
Antes de projetar uma solução agêntica, faça três perguntas:
Essas respostas determinam se a solução precisa de um controle determinístico, um juiz determinístico, um limite de decisão humana ou um envelope operacional explícito. O modelo vem depois dessa decisão arquitetônica, e não antes dela.
Os padrões não são mutuamente exclusivos. Um sistema de produção pode usar um controle determinístico para uma decisão, autoridade humana para uma exceção e autonomia limitada para uma correção aprovada. O ponto importante é tornar cada limite explícito.
À medida que os sistemas amadurecem em produção, esses limites podem se adaptar: os juízes determinísticos refinam suas regras de avaliação usando dados de uso acumulados, enquanto os limites de autoridade humana podem mudar à medida que o feedback estabelece confiança no raciocínio do agente.
Os próximos quatro artigos levam cada padrão da arquitetura para a implementação:
Parte 2: Controle determinístico e raciocínio agêntico
Como os agentes podem investigar exceções em torno de controles financeiros determinísticos sem enfraquecer a imposição ou a auditabilidade.
Parte 3: Execução agêntica e um juiz determinístico
Como os agentes podem gerar e corrigir implementações enquanto a validação determinística decide se o resultado é aceitável.
Parte 4: Raciocínio agêntico e autoridade humana
Como o Lakewatch pode combinar sinais de monitoramento, dados bancários e inteligência de rede especializada em um pacote de evidências revisável, enquanto um investigador responsável mantém a decisão consequencial.
Parte 5: Execução agêntica com autonomia limitada
Um blueprint de design para os agentes coordenarem o acesso a dados governados dentro de um envelope operacional definido por políticas, com autorização determinística, imposição do Unity Catalog e resolução humana de exceções materiais.
Classifique seu caso de uso usando a estrutura de quatro padrões e, em seguida, prossiga para o artigo de implementação que corresponde ao limite exigido pelo seu sistema. Para casos de uso regulamentados que abrangem vários padrões, entre em contato com sua equipe de contas do Databricks ou gerente de engajamento FDE para mapear os limites de controle, raciocínio e autoridade antes de selecionar a arquitetura do agente.
Molly Nagamuthu é Engenheira Principal de Implantação Direta (Forward Deployed Engineer) no Databricks. Ela trabalha com empresas em iniciativas complexas de transformação de dados e IA, particularmente com bancos globais, onde a modernização deve coexistir com governança, controles e rigor operacional.
Nesta série, Molly e outros Engenheiros de Implantação Direta compartilham padrões de implementação emergentes do trabalho de campo, à medida que as empresas migram de arquiteturas determinísticas para sistemas nativos de IA.
(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original
Assine nosso blog e receba os posts mais recentes diretamente na sua caixa de entrada.