Cómo integrar el determinismo, el razonamiento de agentes, la autoridad humana y la autonomía limitada en los sistemas empresariales
por Molly Nagamuthu
La IA empresarial no puede reemplazar todos los controles deterministas. Estos cuatro patrones ayudan a los arquitectos a decidir dónde los agentes pueden razonar, actuar y mantenerse sujetos a controles o a la autoridad humana.
Las empresas están añadiendo agentes a sistemas basados en reglas fijas y procesos repetibles. Los agentes pueden razonar sobre problemas complejos, pero los sistemas empresariales —especialmente en industrias reguladas— deben seguir siendo controlados y auditables. La pregunta no es cuál elegir, sino cómo hacer que funcionen juntos.
Escribimos esta serie porque los clientes nos hacen las mismas preguntas: ¿Cómo están navegando las empresas de todo el mundo ante restricciones similares a las nuestras? ¿Cuál es la realidad de la adopción de la IA empresarial? ¿Cómo están abordando otras organizaciones estos matices? ¿Cómo ayuda Databricks a resolverlos cuando los requisitos son ambiguos, complejos y muy específicos de la institución?
Nosotros, como ingenieros de despliegue avanzado (Forward Deployed Engineers), trabajamos en esta frontera. Convertimos problemas de negocio ambiguos en sistemas listos para producción. Aunque las implementaciones varían según la institución y no podemos revelar detalles específicos de implementación, podemos analizar patrones y prácticas generalizadas. A medida que los agentes se integran en grandes sistemas empresariales, surgen dos preguntas recurrentes:
La respuesta no es la misma para cada caso de uso. A lo largo de los sistemas que estamos construyendo y modernizando en el campo, están emergiendo cuatro patrones. Este primer artículo presenta el marco de trabajo. Los siguientes cuatro artículos muestran cómo funciona cada patrón en la práctica.
Utilice este patrón cuando los resultados deban ser estrictamente deterministas y reproducibles, o cuando los errores sean irreversibles y conlleven altos costos de remediación. Aquí, determinista significa que el resultado se puede reproducir bajo un contrato explícito y versionado que registra juntos los datos, la regla, la tolerancia, la configuración y el contexto de ejecución.
Las instituciones financieras tienen muchos controles. Las conciliaciones son un buen ejemplo. El control debe calcular los saldos, aplicar una regla aprobada y producir un resultado reproducible de APROBADO o RECHAZADO (PASS o FAIL). Un agente no puede reinterpretar la tolerancia ni convertir su propia explicación en un control aprobado. Cuando una conciliación falla, un agente puede recopilar evidencia, inspeccionar el linaje y el estado del lote, comparar la discrepancia con incidentes anteriores, probar un conjunto acotado de causas y recomendar qué debe suceder a continuación. El control determinista sigue decidiendo si la conciliación pasó. El agente ayuda a explicar por qué falló.
El agente puede investigar el control. No puede convertirse en el control.
Este patrón también se aplica a cálculos regulatorios, cumplimiento de políticas, compuertas de calidad de datos y verificaciones de integridad del sistema, es decir, cualquier ámbito donde el resultado deba ser preciso, reproducible y auditable.
Utilice este patrón cuando más de una respuesta pueda ser válida, pero el resultado pueda evaluarse de forma objetiva.
La migración de sistemas heredados o la modernización es un buen ejemplo. Un agente puede analizar una carga de trabajo existente y generar una implementación de destino. Es posible que no produzca exactamente la misma implementación cada vez, lo cual no es necesariamente un problema. Lo que importa es si el resultado es correcto.
Un juez determinista puede comprobar si el código compila, los esquemas se ajustan, los datos se concilian, los totales de control coinciden, los requisitos de gobernanza se satisfacen y el rendimiento cumple con el objetivo. Si el resultado falla, el agente recibe la evidencia, diagnostica el problema, corrige su trabajo y vuelve a ejecutar la validación.
Aprobar esa prueba demuestra que el candidato cumplió con el contrato de aceptación aprobado. No demuestra que el contrato cubra todos los comportamientos en producción. La cobertura de pruebas, los casos límite propios de producción y la revisión periódica siguen siendo importantes.
No haga que el agente sea determinista cuando pueda evaluar su salida de forma determinista.
El validador no es solo un control; es el ciclo de retroalimentación que permite al agente mejorar su resultado. Este patrón funciona bien para la migración, la generación de código, la transformación, las pruebas y la remediación.
Utilice este patrón cuando la respuesta requiera criterio y no pueda demostrarse que es correcta mediante una prueba determinista.
Las investigaciones de delitos financieros son un ejemplo. Un agente puede correlacionar transacciones, documentos, políticas, relaciones y patrones históricos. Puede recopilar evidencia, identificar explicaciones probables, plantear preguntas sin resolver y recomendar una resolución. Esto también suele ser exigido por la regulación cuando una decisión afecta significativamente a una persona, o cuando se debe justificar el resultado ante un regulador, auditor, tribunal o la persona afectada.
Pero una recomendación no es una decisión. Cuando el resultado tiene consecuencias y no existe una forma determinista de establecer la corrección, la autoridad debe recaer en una persona responsable.
La revisión humana debe situarse en el límite de la decisión, no en cada paso.
El razonamiento del agente también debe ser explicable en muchos casos. Cada recomendación debe rastrearse hasta la evidencia, las fuentes y las herramientas que la respaldan. Esto permite al investigador cuestionar la lógica y a los auditores o reguladores reconstruir cómo llegó el agente a su recomendación. Cuando la regulación otorga a la persona afectada el derecho a una explicación, esta debe ser específica para la decisión. Debe cubrir los factores principales, el papel del agente y el papel de la persona. "El modelo lo marcó" no es suficiente. El investigador registra la justificación de la decisión final, incluyendo cualquier anulación por parte del agente.
El agente reduce el esfuerzo de investigación y mejora la consistencia de la evidencia presentada. El investigador conserva la responsabilidad de la decisión final, la cual puede ser subjetiva, matizada y no determinista.
Utilice este patrón cuando el agente necesite actuar, pero únicamente dentro de un marco operativo explícito.
Considere un módulo de Inteligencia de Gobernanza que gestione el acceso a los datos empresariales gobernados. Un usuario describe qué datos necesita, para qué los necesita y durante cuánto tiempo. El agente interpreta la solicitud, identifica el producto de datos adecuado, determina el acceso mínimo requerido y recopila el contexto relevante de identidad, política, propiedad, clasificación, linaje y uso.
Requerir la aprobación manual para cada solicitud estándar genera retrasos sin reducir necesariamente el riesgo. Otorgar al agente autoridad ilimitada para conceder acceso crea una brecha de control inaceptable. La respuesta es la autonomía acotada.
El marco operativo define:
Dentro de ese marco, el agente puede interpretar la solicitud, recopilar la evidencia, seleccionar el flujo de trabajo aprobado e iniciar un derecho con límite de tiempo. Los servicios de políticas deterministas validan cada condición requerida antes de que Unity Catalog aplique la concesión.
No intente restringir cada decisión. Restrinja el marco operativo. Implementar marcos de jueces multiagente a través de ciclos de validación dentro de este marco también puede complementar la supervisión humana con verificaciones de seguridad automatizadas y desde múltiples perspectivas.
Si la solicitud queda fuera del marco (por ejemplo, porque involucra datos sensibles, atributos faltantes, políticas en conflicto, privilegios excesivos o una excepción de segregación de funciones), el sistema bloquea la ejecución directa y la redirige al propietario de los datos, administrador o revisor de riesgos correspondiente.
Databricks proporciona la base controlada en los cuatro patrones. Omnigent puede componer agentes y entornos de agentes sin convertir a ningún agente en la arquitectura. Unity Gateway rige el acceso a modelos, herramientas, servidores MCP y API externas. Unity Catalog rige los datos empresariales y aplica el acceso aprobado, incluidas las normas de residencia y transferencia transfronteriza. La conectividad segura llega a sistemas locales, en la nube y SaaS sin omitir estos puntos de control. MLflow conserva los rastros y las pruebas de evaluación que también sirven como registros de auditoría para los reguladores. Consulta el diagrama adjunto para ver una arquitectura de referencia que muestra cómo fluyen las llamadas de agentes a través de puntos de control gobernados hacia los sistemas de los clientes en entornos locales, en la nube y jurisdicciones reguladas.

La modernización tradicional cambia dónde y cómo se ejecuta la tecnología. La transformación de la IA cambia el modelo de ejecución en sí. Los sistemas que antes seguían principalmente instrucciones predefinidas ahora pueden interpretar, razonar, generar y actuar.
Eso no significa descartar los sistemas deterministas que las empresas han tardado décadas en construir. En muchos casos, esos sistemas se convierten en la base de la arquitectura de agentes:
La oportunidad no es simplemente reemplazar los sistemas heredados con agentes. En los cuatro patrones, lo que hace que un agente sea desplegable es el terreno sobre el que se asienta: datos empresariales gobernados, linaje verificable, acceso aplicado, calidad medible y un rastro de auditoría reproducible.
Esto es especialmente importante en industrias reguladas, donde un límite arquitectónico débil puede provocar fallas de control, sanciones o retrasos en los compromisos regulatorios. Un límite bien diseñado puede reducir el esfuerzo de investigación, acortar los ciclos de modernización y permitir una automatización de alto valor sin transferir una autoridad inapropiada al modelo.
La arquitectura nativa de IA trata de decidir dónde deben residir el determinismo, la inteligencia y la autoridad.
Antes de diseñar una solución de agentes, hazte tres preguntas:
Esas respuestas determinan si la solución necesita un control determinista, un juez determinista, un límite de decisión humano o un marco operativo explícito. El modelo viene después de esa decisión arquitectónica, no antes.
Los patrones no son mutuamente excluyentes. Un sistema de producción puede usar un control determinista para una decisión, autoridad humana para una excepción y autonomía acotada para una corrección aprobada. El punto importante es hacer que cada límite sea explícito.
A medida que los sistemas maduran en producción, estos límites pueden adaptarse: los jueces deterministas refinan sus reglas de evaluación utilizando datos de uso acumulados, mientras que los límites de autoridad humana pueden cambiar a medida que los comentarios establecen confianza en el razonamiento de los agentes.
Los próximos cuatro artículos llevan cada patrón de la arquitectura a la implementación:
Parte 2: Control determinista y razonamiento de agentes
Cómo los agentes pueden investigar excepciones en torno a controles financieros deterministas sin debilitar la aplicación ni la auditabilidad.
Parte 3: Ejecución de agentes y un juez determinista
Cómo los agentes pueden generar y corregir implementaciones mientras la validación determinista decide si el resultado es aceptable.
Parte 4: Razonamiento de agentes y autoridad humana
Cómo Lakewatch puede combinar señales de monitoreo, datos bancarios e inteligencia de red especializada en un paquete de evidencia revisable mientras un investigador responsable conserva la decisión consecuente.
Parte 5: Ejecución de agentes con autonomía acotada
Un plano de diseño para que los agentes coordenen el acceso a datos gobernados dentro de un marco operativo definido por políticas, con autorización determinista, aplicación de Unity Catalog y resolución humana de excepciones materiales.
Clasifica tu caso de uso utilizando el marco de cuatro patrones, luego continúa con el artículo de implementación que coincida con el límite que requiere tu sistema. Para casos de uso regulados que cruzan múltiples patrones, comunícate con tu equipo de cuentas de Databricks o tu administrador de participación de FDE para mapear los límites de control, razonamiento y autoridad antes de seleccionar la arquitectura del agente.
Molly Nagamuthu es ingeniera principal de implementación avanzada (Principal Forward Deployed Engineer) en Databricks. Trabaja con empresas en iniciativas complejas de transformación de datos e IA, particularmente con bancos globales donde la modernización debe coexistir con la gobernanza, los controles y el rigor operativo.
En esta serie, Molly y otros ingenieros de implementación avanzada comparten patrones de implementación que surgen del trabajo en el campo a medida que las empresas pasan de arquitecturas deterministas a sistemas nativos de IA.
(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original
Suscríbete a nuestro blog y recibe las últimas publicaciones directamente en tu bandeja de entrada.