Presentamos el Marco de Gobernanza de IA de Databricks

Hoy, presentamos el Marco de Gobernanza de IA de Databricks (DAGF v1.0), un enfoque estructurado y práctico para gobernar la adopción de IA en toda la empresa.

A medida que las organizaciones adoptan la IA a escala, crece la necesidad de una gobernanza formal. Las empresas deben alinear el desarrollo de IA con los objetivos comerciales, cumplir con las obligaciones legales y tener en cuenta los riesgos éticos. Este marco está diseñado para respaldar el desarrollo, la implementación y la mejora continua de programas.

El DAGF complementa el Marco de Seguridad de IA de Databricks, ofreciendo una visión completa de la gobernanza que abarca tanto la seguridad como la integridad operativa.

Por qué la gobernanza de IA no puede esperar

Según una encuesta global de 2024 a 1100 ejecutivos de tecnología e ingenieros realizada por Economist Impact, el 40% de los encuestados creía que el programa de Gobernanza de IA de su organización era insuficiente para garantizar la seguridad y el cumplimiento de sus activos y casos de uso de IA. Además, la privacidad de los datos y las brechas de seguridad fueron la principal preocupación para el 53% de los arquitectos empresariales, mientras que la seguridad y la gobernanza son los aspectos más desafiantes de la ingeniería de datos para los ingenieros.

Además, según Gartner, la gestión de la confianza, el riesgo y la seguridad de la IA es la tendencia estratégica número 1 en 2024 que influirá en las decisiones comerciales y tecnológicas, y para 2026, los modelos de IA de las organizaciones que operacionalicen la transparencia, la confianza y la seguridad de la IA lograrán un aumento del 50% en términos de adopción, objetivos comerciales y aceptación por parte del usuario.

Si bien es evidente que la falta de programas de gobernanza de IA a nivel empresarial se está convirtiendo rápidamente en un obstáculo clave para obtener el retorno de la inversión de las iniciativas de IA y la adopción de IA en general, nos dimos cuenta de que no existe un marco de orientación único y completo que las empresas puedan aprovechar para crear programas de gobernanza de IA efectivos.

Los cinco pilares fundamentales

En este marco, presentamos 43 consideraciones clave que son esenciales para que cada empresa comprenda (e implemente según corresponda) para gobernar eficazmente sus trayectorias de IA.

Estas consideraciones clave se agruparon lógicamente en 5 pilares fundamentales, diseñados y secuenciados para reflejar las estructuras organizativas y los perfiles de las empresas típicas.

Pilar I: Organización de IA

El pilar de Organización de IA integra la gobernanza de IA en la estrategia de gobernanza más amplia de la organización. Subraya la base para un programa de IA eficaz a través de las mejores prácticas, como objetivos comerciales claramente definidos e integrando las prácticas de gobernanza apropiadas que supervisan a las personas, los procesos, la tecnología y los datos de la organización. Explica cómo las organizaciones pueden establecer la supervisión necesaria para lograr sus objetivos estratégicos y, al mismo tiempo, reducir el riesgo.

Pilar II: Cumplimiento Legal y Regulatorio

El pilar de Cumplimiento Legal y Regulatorio ayuda a las organizaciones a alinear las iniciativas de IA con las leyes y regulaciones aplicables. Guía la gestión de riesgos legales, la interpretación de requisitos específicos del sector y la adaptación de estrategias de cumplimiento en respuesta a los paisajes regulatorios en evolución. El resultado es que los programas de IA se desarrollan e implementan dentro de un marco legal y regulatorio sólido.

Pilar III: Ética, Transparencia e Interpretabilidad

El pilar de Ética, Transparencia e Interpretabilidad apoya a las organizaciones en la creación de sistemas de IA confiables y responsables. Enfatiza la adhesión a principios éticos como la equidad, la rendición de cuentas y la supervisión humana, al tiempo que promueve la explicabilidad y la participación de las partes interesadas. Este pilar proporciona métodos para establecer la rendición de cuentas y la estructura dentro de los equipos organizacionales, ayudando a garantizar que las decisiones de IA sean interpretables, estén alineadas con los estándares éticos en evolución y fomenten la confianza a largo plazo y la aceptación social.

Pilar IV: Datos, Operaciones de IA e Infraestructura

El pilar de Datos, Operaciones de IA (AIOps) e Infraestructura define la base que apoya a las organizaciones en la implementación y el mantenimiento completos de la IA. Proporciona pautas para crear una infraestructura de IA escalable y confiable, gestionar el ciclo de vida del aprendizaje automático y garantizar la calidad, seguridad y cumplimiento de los datos. Este pilar también enfatiza las mejores prácticas para las operaciones de IA, incluido el entrenamiento, la evaluación, la implementación y el monitoreo de modelos, para que los sistemas de IA sean confiables, eficientes y estén alineados con los objetivos comerciales.

Pilar V: Seguridad de IA

El pilar de Seguridad de IA presenta el Marco de Seguridad de IA de Databricks (DASF), un marco integral para comprender y mitigar los riesgos de seguridad en todo el ciclo de vida de la IA. Cubre áreas críticas como la protección de datos, la gestión de modelos, la entrega segura de modelos y la implementación de medidas sólidas de ciberseguridad para proteger los activos de IA.

Para obtener una descripción general adicional del DAGF y un ejemplo de cómo una organización puede aprovechar el marco para crear una propiedad clara y alineación en todo el ciclo de vida del programa de IA, mire esta presentación de los autores realizada durante la Data + AI Summit 2025.

Por qué Databricks lidera este esfuerzo

Como líder de la industria en el espacio de datos e IA, con más de 15.000 clientes en diversas geografías y segmentos de mercado, Databricks ha seguido cumpliendo su compromiso con los principios de desarrollo responsable e innovación de código abierto. Hemos mantenido estos compromisos a través de nuestro:

• Compromiso con los esfuerzos de la industria y el gobierno para promover la innovación y abogar por el uso de IA segura y confiable
• Talleres interactivos para educar a las organizaciones sobre cómo guiar con éxito su trayectoria de IA de manera consciente del riesgo
• Código abierto de innovaciones clave de gobernanza como MLFlow y Unity Catalog, la única solución unificada de la industria para la gobernanza de datos e IA en todas las nubes, formatos de datos y plataformas de datos.

Estos programas nos han brindado una visibilidad única de los problemas prácticos que enfrentan hoy las empresas y los reguladores en la gobernanza de IA. Al continuar nuestro compromiso de ayudar a todas las empresas a tener éxito y acelerar su trayectoria de Datos e IA, decidimos aprovechar esta visibilidad para construir (y poner a disposición gratuita) un Marco de Gobernanza de IA integral, estructurado y accionable.

¡Descargue hoy mismo el Marco de Gobernanza de IA de Databricks!

El documento técnico del Marco de Gobernanza de IA de Databricks ya está disponible para su descarga. Póngase en contacto con nosotros por correo electrónico a [email protected] si tiene alguna pregunta o comentario. Si está interesado en contribuir a futuras actualizaciones de este marco (y otros artefactos próximos) uniéndose a nuestra comunidad de revisores, ¡nos encantaría saber de usted también!

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original