Cómo escalar aplicaciones agénticas sin generar una proliferación descontrolada de IA

Crear un agente es cada vez más fácil. Los modelos más capaces y los agentes de codificación permiten desarrollar e iterar más rápido. Sin embargo, gestionar muchos agentes en una empresa es un problema diferente.

A medida que los agentes pasan de responder preguntas a realizar acciones, dependen cada vez más de una red de modelos, datos empresariales, semántica de negocio, herramientas y aplicaciones. Un único flujo de trabajo puede recuperar datos gobernados, seleccionar un modelo, llamar a varias herramientas, transferir el trabajo a otro agente y actualizar un sistema empresarial, todo ello mientras opera con los permisos adecuados y deja un rastro suficiente para comprender qué ha sucedido.

A medida que cada equipo conecta esas piezas de forma independiente, puede surgir un nuevo tipo de dispersión de la IA: integraciones duplicadas, políticas inconsistentes, un mayor gasto en IA, un contexto fragmentado y aplicaciones que se vuelven más difíciles de modificar a medida que crece el número de agentes.

El desafío consiste en escalar esas aplicaciones sin multiplicar la infraestructura que rodea a cada una de ellas.

Hace poco reunimos a Databricks, OpenAI y Stellantis para analizar qué se necesita para escalar aplicaciones agénticas en producción. Un tema central fue que, a medida que los agentes se vuelven más capaces y autónomos, la infraestructura que los rodea cobra mayor importancia.

A escala empresarial, esa infraestructura debe proporcionar tres cosas: elección, para que los equipos puedan usar los modelos, herramientas y marcos de trabajo adecuados a medida que evolucionan; contexto, para que los agentes puedan trabajar con datos empresariales gobernados y con un significado de negocio; y control, para que los permisos, las políticas, la evaluación, la observabilidad y la gestión de costes sigan siendo consistentes a medida que crecen las aplicaciones.

En Databricks, esa base reúne a Agent Bricks, Omnigent, y Unity Gateway. Agent Bricks ofrece la plataforma unificada para crear, gobernar y optimizar flotas de agentes. Omnigent proporciona a los equipos una capa común para trabajar con diferentes arneses de agentes, mientras que Unity Gateway centraliza el acceso, los controles de costes y la observabilidad en todos los modelos, agentes y herramientas que utilizan esas aplicaciones.

Al compartir estas capacidades entre las aplicaciones, los equipos pueden añadir nuevos agentes y flujos de trabajo sin tener que convertir cada uno de ellos en un proyecto independiente de integración y gobernanza.

El contexto debe compartirse, no reconstruirse

Un agente empresarial necesita algo más que el acceso a un modelo. Necesita los datos, las definiciones de negocio, los documentos, las aplicaciones y las herramientas necesarias para comprender la tarea en cuestión.

A menudo, ese contexto ya existe en toda la organización. El desafío consiste en ponerlo a disposición de los agentes de forma gobernada y reutilizable.

Pensemos en dos agentes que prestan servicio a equipos diferentes. Es posible que tanto un agente de ventas como uno de atención al cliente necesiten saber quién se considera un cliente activo, qué productos posee ese cliente y cómo se definen las jerarquías de las cuentas. Si cada aplicación recrea de forma independiente esas definiciones, el mismo concepto de negocio puede significar cosas distintas en los diferentes flujos de trabajo.

Esa fragmentación también genera más infraestructura que mantener, ya que los equipos conectan los agentes por separado a los datos de los clientes, las definiciones de productos, las métricas y los documentos internos.

Agent Bricks se basa en una capa de contexto compartido creada en torno a datos empresariales gobernados y semántica de negocio. Unity Catalog gobierna el acceso a los datos y a los activos de IA, mientras que la Genie Ontology ofrece a los agentes una comprensión común de los conceptos y las relaciones de negocio. Capacidades como Document Intelligence, AI Search, y Agent Memory pueden ampliar ese contexto con comprensión de documentos, recuperación e historial para flujos de trabajo más complejos.

De este modo, los equipos pueden reutilizar el mismo contexto de negocio gobernado en todas las aplicaciones en lugar de tener que recrearlo cada vez.

La capacidad de elección no debe generar fragmentación

Es poco probable que el mejor modelo, herramienta o arnés de agentes para una tarea permanezca inalterado.

Los diferentes pasos de una aplicación agéntica pueden requerir distintos equilibrios entre calidad de razonamiento, latencia y coste. Siguen apareciendo nuevos modelos y arneses, y los flujos de trabajo complejos pueden combinar varios de ellos a la vez.

Esa flexibilidad se vuelve difícil de gestionar cuando cada arnés tiene su propia interfaz, sesiones, políticas y forma de ejecución.

Omnigent añade una capa común por encima de los arneses de agentes, de modo que los equipos pueden componer agentes creados con diferentes arneses y alternar entre ellos con menos esfuerzo de reescritura. Unity Gateway gestiona la elección en la capa de modelos y arneses, proporcionando un acceso consistente a modelos propietarios y abiertos, junto con controles de Smart Routing, capacidad y costes.

Juntas, estas capas permiten a los equipos cambiar los modelos y las tecnologías de agentes que respaldan una aplicación, manteniendo al mismo tiempo la consistencia de la infraestructura circundante.

El control debe acompañar a cada acción

La necesidad de control aumenta a medida que los agentes pasan de generar respuestas a realizar acciones.

Un agente puede leer datos de la empresa, llamar a un sistema de negocio, ejecutar código, actualizar un flujo de trabajo o invocar a otro agente. Cada capacidad adicional amplía lo que la aplicación puede hacer y genera más interacciones que deben gobernarse.

Pensemos en un agente que gestiona el reembolso de un cliente. El empleado que inicia la solicitud puede tener un acceso amplio a la cuenta del cliente. Al mismo tiempo, el agente solo necesita los detalles del pedido, la política de reembolso correspondiente y el permiso para realizar una transacción específica. Su autoridad debe coincidir con la tarea que se le ha pedido completar.

Esto requiere controles que abarquen toda la interacción de la IA.

Unity Gateway proporciona un plano de control centralizado para modelos, agentes, servidores MCP, herramientas y habilidades. Los equipos pueden aplicar políticas de acceso y directrices de seguridad (guardrails), gestionar presupuestos y límites de velocidad, controlar qué activos de IA están disponibles y conservar trazas de esas interacciones. Junto con Unity Catalog, estos controles pueden reflejar la identidad, los permisos de datos y el contexto que hay detrás de una solicitud.

Para las cargas de trabajo que ejecutan código o herramientas, Databricks Sandbox añade un entorno de ejecución aislado con un acceso limitado a los datos y sistemas que el agente necesita.

El resultado es un límite más claro sobre a qué puede acceder un agente, qué acciones puede realizar y cómo se aplican esas decisiones a medida que crecen las aplicaciones.

El control también requiere visibilidad sobre lo que ha sucedido

Una vez que una aplicación puede recuperar el contexto, elegir modelos, llamar a herramientas y coordinar varios pasos, su respuesta final solo cuenta una parte de la historia.

Una respuesta que parece correcta puede ocultar una recuperación fallida, la llamada a una herramienta incorrecta o una ruta de ejecución inesperada. Cuando algo sale mal, los equipos necesitan reconstruir cómo llegó la aplicación a su resultado: qué información utilizó, a qué herramientas llamó, qué modelo gestionó la tarea, qué políticas se aplicaron y en qué punto el comportamiento se desvió de lo esperado.

Unity Gateway centraliza la telemetría de las interacciones de IA, incluidas las trazas, el uso, el coste y la actividad de las herramientas. MLflow complementa esa visibilidad operativa con flujos de trabajo de seguimiento y evaluación que permiten a los equipos inspeccionar el comportamiento de la aplicación, capturar interacciones representativas en conjuntos de datos y evaluar los cambios en las instrucciones (prompts), los modelos, las herramientas o la orquestación.

Esa información puede servir para la siguiente iteración de la aplicación. Los equipos pueden comparar los cambios antes de un despliegue más amplio, identificar regresiones y utilizar el comportamiento en producción para mejorar la calidad, la fiabilidad y el coste a lo largo del tiempo.

La infraestructura compartida facilita la composición

Los flujos de trabajo empresariales más amplios a menudo involucran más de un agente, modelo o herramienta. Un componente puede comprender la solicitud de un usuario, otro puede analizar datos y un sistema determinista puede realizar un cálculo o actualizar un proceso de negocio.

La capacidad de componer esas piezas se vuelve más valiosa cuando la infraestructura que las rodea ya está compartida. Omnigent proporciona una interfaz común para agentes creados con diferentes harnesses, mientras que Agent Bricks ofrece la plataforma más amplia para crear y operar la flota de agentes resultante. El mismo contexto y controles gobernados pueden aplicarse a todo el flujo de trabajo.

A medida que los equipos crean más aplicaciones, los agentes, las herramientas, las habilidades y el contexto empresarial pueden convertirse en bloques de construcción reutilizables. Los nuevos flujos de trabajo pueden aprovechar la infraestructura existente, bien gobernada y observable, en lugar de crear otra pila tecnológica aislada.

Diseñe para ofrecer elección, contexto y control

A medida que los agentes se vuelven más capaces, la arquitectura que los rodea asume una mayor parte de la responsabilidad de hacerlos confiables a escala empresarial.

La elección ofrece a los equipos el espacio necesario para adoptar nuevos modelos, harnesses y herramientas a medida que cambia el ecosistema. 

El contexto fundamenta esas aplicaciones en datos empresariales gobernados y semántica de negocio. 

El control proporciona una gobernanza y operaciones consistentes en toda la flota de agentes resultante, desde permisos y políticas hasta presupuestos, trazas, evaluación y costos.

Agent Bricks reúne estas capacidades en una plataforma unificada para crear, gobernar y optimizar flotas de agentes a escala, con Omnigent admitiendo la composición entre diferentes harnesses y Unity Gateway proporcionando un plano de control común para las interacciones de AI.

Los modelos y los harnesses seguirán cambiando. Las empresas no necesitan estandarizarse en uno de ellos para escalar con éxito. Necesitan estandarizar la infraestructura que los rodea, de modo que los nuevos agentes puedan heredar el mismo contexto, controles y modelo operativo sin crear otra capa de dispersión de AI.

Más información

Vea Agents at Work: Shipping Agentic Apps at Scale bajo demanda para un análisis más profundo de la infraestructura, el modelo operativo y los patrones de producción detrás de las aplicaciones agénticas en la empresa.

Primeros pasos

Con la CLI de Agent Bricks, comenzar es fácil. Con solo unas pocas líneas de código, puede desarrollar un agente integrado con todas las capacidades de Agent Bricks, incluyendo Unity Gateway para la capacidad del modelo, Runtime alojado en la infraestructura de Databricks y el rastreo de agentes impulsado por MLflow.

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original