Detén la IA descontrolada: Cómo Unity Catalog protege las acciones de tu agente

Los riesgos de la IA de agentes ya no son teóricos. Los agentes conectados a herramientas externas están realizando acciones destructivas e irreversibles en producción: borrando bases de datos enteras en segundos, eliminando millones de filas de datos críticos, y eliminando bases de datos de producción a mitad de tarea. En cada incidente, el agente actuaba dentro del alcance de su autoridad delegada. Lo que le faltaba era cualquier restricción sobre qué herramientas podía invocar y cualquier registro de las acciones que tomó.

Hoy, lanzamos la capacidad de gobernar todas las herramientas MCP de la misma manera que gobiernas los datos, con control de acceso granular, aplicación de políticas y un registro de auditoría completo. Unity Catalog te permite ahora establecer quién puede llamar a qué servidores MCP, y los administradores pueden aplicar políticas de servicio para restringir el acceso a herramientas específicas (por ejemplo, delete_database) o definir condiciones sobre cuándo se puede llamar a una herramienta (por ejemplo, solo los administradores pueden llamar a delete_database). Unity AI Gateway aplica estas políticas en tiempo real en cada llamada, con registro completo de la carga útil de cada solicitud.

El problema: el acceso es total o nada, y las llamadas a herramientas no dejan rastro

Un servidor MCP expone un conjunto de herramientas a cualquier agente conectado: un MCP de GitHub podría exponer `push_files`, `delete_file` y `merge_pull_request`; un MCP de base de datos podría exponer `execute_query` y `drop_table`. Por defecto, si un agente está autorizado a conectarse, todas esas herramientas están disponibles en cualquier momento. No hay forma de decir "este agente puede leer pero no escribir", o "solo los ingenieros senior pueden realizar esta acción", o "nadie debería llamar a herramientas de administración en producción".

Y cuando algo sale mal, no hay nada que investigar. Las llamadas a herramientas no aparecen en los registros del modelo ni en los registros de la aplicación. La acción exacta que realizó el agente, con qué argumentos, en nombre de quién, simplemente no existe como registro en ningún lugar.

Eso significa que un agente mal configurado, una acción inesperada, y no tienes forma de prevenirlo antes de que suceda y no tienes forma de explicarlo después.

La solución: gobernanza MCP en Unity Catalog

Unity Catalog ahora gobierna todo el patrimonio de GenAI, incluidos los LLM y los MCP. Una vez que los MCP están registrados, obtienes exactamente lo que faltaba: control sobre lo que los agentes tienen permitido hacer y un registro completo de lo que realmente hicieron. Ambos se aplican en tiempo real en cada llamada MCP por Unity AI Gateway.

Políticas de servicio te permiten escribir reglas que evalúan cada llamada a herramienta antes y después de que llegue al servidor MCP de origen. Tú decides qué llamadas se permiten, se deniegan o requieren consentimiento del usuario. Las políticas de servicio se definen en SQL y permiten a los administradores verificar los argumentos, incluidas las propiedades del llamador y otras propiedades de contexto. Si una llamada no pasa la política, se bloquea

Registro de carga útil captura cada llamada a herramienta como una entrada en una tabla de rastreo administrada en Unity Catalog. Nombre de la herramienta, argumentos, resultado, identidad del usuario y si la llamada fue permitida o denegada. Consúltala con SQL como cualquier otra tabla.

Cómo funciona

Define tu función de política en Unity Catalog

Unity Catalog te permite registrar y gobernar cualquier MCP externo (consulta nuestro blog sobre cómo funciona esto!). Una política de servicio es una función SQL de Unity Catalog. Recibe dos argumentos, actor (quién llama) y contexto (a qué llama), y devuelve permitir o denegar con una razón.

Aquí tienes una política simple en un MCP de GitHub. Bloquea la eliminación de archivos por completo y bloquea la fusión de PRs a menos que el llamador sea un ingeniero aprobado:

Adjuntar y aplicar

Una vez escrita, adjunta la política a cualquier servicio MCP en Unity AI Gateway. A partir de ese momento, cada llamada a herramienta enrutada a través de ese servicio se evalúa antes de que se ejecute. No se necesitan cambios de código en el agente ni en el servidor MCP.

Registrar y verificar

Cada llamada a herramienta se captura automáticamente en una tabla Delta en Unity Catalog. Envía un prompt que debería ser bloqueado y otro que debería pasar. Los resultados aparecen en tus registros inmediatamente, consultables con SQL como cualquier otra tabla.

Comienza

Las políticas de servicio y el registro de carga útil para MCP están disponibles como una Beta restringida, extendiendo los mismos conceptos de gobernanza que ya utilizas para los datos a cada llamada MCP. Para obtener acceso anticipado, comunícate con tu equipo de cuentas de Databricks.

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original