Ir para o conteúdo principal
Estratégia de Dados

Quatro padrões de arquitetura de IA para setores regulamentados

Como aplicar determinismo, raciocínio agêntico, autoridade humana e autonomia limitada em sistemas corporativos

por Molly Nagamuthu

  • Quatro padrões de arquitetura de produção para combinar agentes com controles determinísticos e responsabilidade humana.
  • Uma estrutura de decisão para determinar onde os agentes podem raciocinar, gerar, recomendar ou agir.
  • Por que dados governados, linhagem, aplicação, avaliação e evidências de auditoria — e não apenas o modelo — tornam os agentes corporativos prontos para implantação.

A IA corporativa não pode substituir todos os controles determinísticos. Estes quatro padrões ajudam os arquitetos a decidir onde os agentes podem raciocinar, agir e continuar sujeitos a controles ou à autoridade humana.

A questão arquitetural por trás da IA corporativa

As empresas estão adicionando agentes a sistemas construídos com regras fixas e processos repetíveis. Os agentes conseguem raciocinar sobre problemas complexos, mas os sistemas corporativos — especialmente em setores regulamentados — precisam continuar controlados e passíveis de auditoria. A questão não é qual escolher, mas sim como fazê-los trabalhar juntos.

Estamos escrevendo esta série porque os clientes nos fazem as mesmas perguntas: Como empresas do mundo todo estão lidando com restrições semelhantes às nossas? Qual é a realidade da adoção de IA corporativa? Como outras organizações estão lidando com essas nuances? Como a Databricks está ajudando a resolvê-las quando os requisitos são ambíguos, complexos e específicos para a instituição?

Nós, como Forward Deployed Engineers, trabalhamos nessa fronteira. Pegamos problemas de negócios ambíguos e os transformamos em sistemas prontos para produção. Embora as implementações variem por instituição e não possamos divulgar detalhes específicos de implementação, podemos discutir padrões e práticas generalizados. Conforme os agentes se tornam parte de grandes sistemas corporativos, duas perguntas continuam surgindo:

  • Onde o determinismo deve ser mantido (por exemplo, quando as ações são irreversíveis ou os erros apresentam risco assimétrico)?
  • Onde um agente pode receber autoridade, especialmente se as ações forem reversíveis ou de baixo custo para remediação?

A resposta não é a mesma para todos os casos de uso. Nos sistemas que estamos construindo e modernizando em campo, quatro padrões estão surgindo. Este primeiro artigo apresenta o framework. Os quatro artigos seguintes mostram como cada padrão funciona na prática.

image2.png
Figura 1. Um framework de decisão para posicionar agentes em sistemas corporativos regulamentados.

Padrão 1: Controle determinístico e raciocínio agêntico

Use este padrão quando os resultados precisarem ser estritamente determinísticos e reproduzíveis, ou quando os erros forem irreversíveis e acarretarem altos custos de remediação. Aqui, determinístico significa que o resultado pode ser reproduzido sob um contrato explícito e versionado que registra juntos os dados, a regra, a tolerância, a configuração e o contexto de execução.

As instituições financeiras têm muitos controles. As reconciliações são um bom exemplo. O controle deve calcular os saldos, aplicar uma regra aprovada e produzir um resultado PASS ou FAIL reproduzível. Um agente não pode reinterpretar a tolerância ou transformar sua própria explicação em um controle aprovado. Quando uma reconciliação falha, um agente pode coletar evidências, inspecionar a linhagem e o status do lote, comparar a divergência com incidentes anteriores, testar um conjunto delimitado de causas e recomendar o próximo passo. O controle determinístico ainda decide se a reconciliação passou. O agente ajuda a explicar o motivo da falha.

O agente pode investigar o controle. Ele não pode se tornar o controle.

Este padrão também se aplica a cálculos regulatórios, aplicação de políticas, portões de qualidade de dados e verificações de integridade de sistemas — em qualquer lugar onde o resultado precise ser preciso, reproduzível e passível de auditoria.

Padrão 2: Execução agêntica e um juiz determinístico

Use este padrão quando mais de uma resposta puder ser válida, mas o resultado puder ser testado de forma objetiva.

A migração ou modernização de legados é um bom exemplo. Um agente pode analisar uma carga de trabalho existente e gerar uma implementação de destino. Ele pode não produzir exatamente a mesma implementação todas as vezes. Isso não é necessariamente um problema. O que importa é se o resultado está correto.

Um juiz determinístico pode testar se o código compila, se os esquemas estão em conformidade, se os dados se reconciliam, se os totais de controle correspondem, se os requisitos de governança são atendidos e se o desempenho atinge a meta. Se o resultado falhar, o agente recebe a evidência, diagnostica o problema, corrige seu trabalho e executa a validação novamente.

Passar por esse juiz prova que o candidato satisfez o contrato de aceitação aprovado. Isso não prova que o contrato abrange todos os comportamentos de produção. A cobertura de testes, os casos extremos moldados para produção e a revisão periódica ainda importam.

Não torne o agente determinístico quando você puder avaliar a saída dele de forma determinística.

O validador não é apenas um controle. É o loop de feedback que permite ao agente melhorar seu resultado. Este padrão funciona bem para migração, geração de código, transformação, testes e remediação.

Padrão 3: Raciocínio agêntico e autoridade humana

Use este padrão quando a resposta exigir julgamento e não puder ser comprovada como correta por um teste determinístico.

As investigações de crimes financeiros são um exemplo. Um agente pode correlacionar transações, documentos, políticas, relacionamentos e padrões históricos. Ele pode reunir evidências, identificar explicações prováveis, levantar perguntas não resolvidas e recomendar uma destinação. Isso também costuma ser exigido por regulamentações quando uma decisão afeta significativamente uma pessoa ou quando você precisa justificar o resultado para um regulador, auditor, tribunal ou para a pessoa afetada.

Mas uma recomendação não é uma decisão. Quando o resultado é consequente e não há uma maneira determinística de estabelecer a correção, a autoridade deve permanecer com uma pessoa responsável.

A revisão humana deve ficar na fronteira da decisão, e não dentro de cada etapa.

O raciocínio do agente também precisa ser explicável na maioria das vezes. Cada recomendação deve rastrear de volta às evidências, fontes e ferramentas por trás dela. Isso permite que o investigador conteste a lógica e permite que auditores ou reguladores reconstruam como o agente chegou à sua recomendação. Onde a regulamentação dá à pessoa afetada o direito a uma explicação, a explicação deve ser específica para a decisão. Ela abrange os principais fatores, o papel do agente e o papel humano. "O modelo sinalizou isso" não é suficiente. O investigador registra a lógica para a chamada final, incluindo qualquer substituição pelo agente.

O agente reduz o esforço investigativo e melhora a consistência das evidências apresentadas. O investigador mantém a responsabilidade pela decisão final, que pode ser subjetiva, matizada e não determinística.

Padrão 4: Execução agêntica com autonomia limitada

Use este padrão quando o agente precisar agir, mas apenas dentro de um envelope operacional explícito.

Considere um módulo de Governança e Inteligência que gerencia o acesso a dados corporativos governados. Um usuário descreve quais dados precisa, por que precisa e por quanto tempo. O agente interpreta a solicitação, identifica o produto de dados apropriado, determina o acesso mínimo necessário e reúne o contexto relevante de identidade, política, propriedade, classificação, linhagem e uso.

Exigir aprovação manual para cada solicitação padrão gera atraso sem necessariamente reduzir o risco. Dar ao agente autoridade irrestrita para conceder acesso cria uma lacuna de controle inaceitável. A resposta é a autonomia limitada.

O envelope operacional define:

  • quais produtos de dados e níveis de acesso se qualificam para processamento direto;
  • quais regras de identidade, propósito, geografia, entidade legal, residência e segregação de funções devem passar;
  • a duração máxima e o nível mínimo de acesso que podem ser concedidos;
  • quais ações aprovadas do Unity Catalog o agente pode iniciar;
  • quais solicitações sensíveis, ambíguas ou excepcionais exigem aprovação humana; e
  • como o acesso é monitorado, expirado, revogado e registrado para auditoria.

Dentro desse envelope, o agente pode interpretar a solicitação, montar a evidência, selecionar o fluxo de trabalho aprovado e iniciar um direito com limite de tempo. Os serviços de políticas determinísticas validam todas as condições necessárias antes que o Unity Catalog aplique a concessão.

Não tente restringir todas as decisões. Restrinja o envelope operacional. Implementar frameworks de juízes multiagentes em ciclos de validação dentro deste envelope também pode complementar a supervisão humana com verificações de segurança automatizadas e de múltiplas perspectivas.

Se a solicitação estiver fora do envelope — por exemplo, porque envolve dados confidenciais, atributos ausentes, políticas conflitantes, privilégios excessivos ou uma exceção de segregação de funções —, o sistema bloqueia a execução direta e a encaminha para o proprietário dos dados, steward ou revisor de riscos apropriado.

Como os sistemas existentes potencializam a arquitetura agêntica

Recursos da plataforma Databricks

O Databricks fornece a base governada em todos os quatro padrões. O Omnigent pode compor agentes e conjuntos de agentes sem tornar nenhum agente específico a arquitetura. O Unity Gateway governa o acesso a modelos, ferramentas, servidores MCP e APIs externas. O Unity Catalog governa os dados corporativos e aplica o acesso aprovado, incluindo regras de residência e transferência transfronteiriça. A conectividade segura alcança sistemas locais, de nuvem e SaaS sem ignorar esses pontos de controle. O MLflow preserva rastros e evidências de avaliação que também servem como registros de auditoria para os reguladores. Consulte o diagrama anexo para ver uma arquitetura de referência que mostra como as chamadas de agentes fluem por pontos de controle governados para sistemas de clientes em ambientes locais, de nuvem e jurisdições regulamentadas.

image1.png

A modernização tradicional altera onde e como a tecnologia é executada. A transformação por IA altera o próprio modelo de execução. Os sistemas que antes seguiam principalmente instruções predefinidas agora podem interpretar, raciocinar, gerar e agir.

Isso não significa descartar os sistemas determinísticos que as empresas levaram décadas para construir. Em muitos casos, esses sistemas se tornam a base da arquitetura agêntica:

  • Os mecanismos de políticas tornam-se planos de controle.
  • As estruturas de validação tornam-se juízes determinísticos.
  • Os critérios de aceitação tornam-se avaliações de agentes.
  • Os limites operacionais tornam-se limites de autonomia.
  • Dados governados, linhagem e trilhas de auditoria fornecem o contexto e as evidências de que os agentes precisam.

A oportunidade não é simplesmente substituir sistemas legados por agentes. Em todos os quatro padrões, o que torna um agente implantável é o solo em que ele se apoia: dados corporativos governados, linhagem verificável, acesso aplicado, qualidade mensurável e uma trilha de auditoria reproduzível.

Isso é especialmente importante em setores regulamentados, onde uma fronteira arquitetônica fraca pode levar a falhas de controle, penalidades ou atrasos em compromissos regulatórios. Uma fronteira bem projetada pode reduzir o esforço investigativo, encurtar os ciclos de modernização e permitir automação de alto valor sem transferir autoridade inadequada para o modelo.

A arquitetura nativa de IA trata de decidir onde o determinismo, a inteligência e a autoridade devem residir.

Escolha o padrão antes de escolher o agente

Antes de projetar uma solução agêntica, faça três perguntas:

  • Sobre o que o agente pode raciocinar?
  • O que o agente tem permissão para fazer?
  • O que deve permanecer fora da autoridade do agente?

Essas respostas determinam se a solução precisa de um controle determinístico, um juiz determinístico, um limite de decisão humana ou um envelope operacional explícito. O modelo vem depois dessa decisão arquitetônica, e não antes dela.

Os padrões não são mutuamente exclusivos. Um sistema de produção pode usar um controle determinístico para uma decisão, autoridade humana para uma exceção e autonomia limitada para uma correção aprovada. O ponto importante é tornar cada limite explícito.

À medida que os sistemas amadurecem em produção, esses limites podem se adaptar: os juízes determinísticos refinam suas regras de avaliação usando dados de uso acumulados, enquanto os limites de autoridade humana podem mudar à medida que o feedback estabelece confiança no raciocínio do agente.

Continue a série

Os próximos quatro artigos levam cada padrão da arquitetura para a implementação:

Parte 2: Controle determinístico e raciocínio agêntico
Como os agentes podem investigar exceções em torno de controles financeiros determinísticos sem enfraquecer a imposição ou a auditabilidade.

Parte 3: Execução agêntica e um juiz determinístico
Como os agentes podem gerar e corrigir implementações enquanto a validação determinística decide se o resultado é aceitável.

Parte 4: Raciocínio agêntico e autoridade humana
Como o Lakewatch pode combinar sinais de monitoramento, dados bancários e inteligência de rede especializada em um pacote de evidências revisável, enquanto um investigador responsável mantém a decisão consequencial.

Parte 5: Execução agêntica com autonomia limitada
Um blueprint de design para os agentes coordenarem o acesso a dados governados dentro de um envelope operacional definido por políticas, com autorização determinística, imposição do Unity Catalog e resolução humana de exceções materiais.

Classifique seu caso de uso usando a estrutura de quatro padrões e, em seguida, prossiga para o artigo de implementação que corresponde ao limite exigido pelo seu sistema. Para casos de uso regulamentados que abrangem vários padrões, entre em contato com sua equipe de contas do Databricks ou gerente de engajamento FDE para mapear os limites de controle, raciocínio e autoridade antes de selecionar a arquitetura do agente.

Sobre o autor

Molly Nagamuthu é Engenheira Principal de Implantação Direta (Forward Deployed Engineer) no Databricks. Ela trabalha com empresas em iniciativas complexas de transformação de dados e IA, particularmente com bancos globais, onde a modernização deve coexistir com governança, controles e rigor operacional.

Nesta série, Molly e outros Engenheiros de Implantação Direta compartilham padrões de implementação emergentes do trabalho de campo, à medida que as empresas migram de arquiteturas determinísticas para sistemas nativos de IA.

(Esta publicação no blog foi traduzida utilizando ferramentas baseadas em inteligência artificial) Publicação original

Receba os posts mais recentes na sua caixa de entrada

Assine nosso blog e receba os posts mais recentes diretamente na sua caixa de entrada.