El caso empresarial de los modelos de pesos abiertos en Databricks

Como ingenieros de campo en Databricks, pasamos nuestros días dentro de implementaciones de IA empresarial, donde hemos observado un cambio claro en la estrategia. Tras dos años de estandarización en proveedores de modelos de frontera únicos, las empresas están reevaluando su enfoque debido a siete presiones clave:

Siete observaciones que dan forma a la estrategia de IA

1. El gasto no está generando suficientes retornos. Los presupuestos de IA han superado a los ingresos y ahorros de costos, lo que impulsa la necesidad de una mejor economía unitaria [1].

2. Las clasificaciones de modelos han cambiado repetidamente desde 2023. El mejor modelo para programación, razonamiento y extracción cambia mes a mes, y la clasificación superior de inteligencia ha cambiado de manos más de 20 veces desde mayo de 2023 [2]. Las arquitecturas vinculadas a un único proveedor dificultan la adopción de un modelo mejor a medida que cambian las clasificaciones.

3. Las barreras de seguridad de los modelos de frontera pueden bloquear trabajo legítimo. Las barreras impuestas por los laboratorios de IA pueden rechazar tareas legítimas, como analizar malware en vivo o reproducir un exploit para parchearlo, una limitación descubierta en el reciente incidente de Hugging Face [6][7]. Cuando los equipos de respuesta de Hugging Face alimentaron registros de ataques reales y payloads de exploits a modelos de frontera alojados para su análisis, las barreras se negaron, y el equipo ejecutó el análisis en un modelo de pesos abiertos (GLM 5.2) en su lugar.

4. Las políticas de retención de datos han evolucionado y pueden seguir haciéndolo. Algunos proveedores de modelos de frontera se han desviado de las políticas de retención de datos cero (ZDR), como la retención mínima de 30 días introducida con el nivel de frontera de Anthropic [8]. Para las empresas cuya política de cumplimiento se diseñó en torno al principio de que "nunca se almacena ningún prompt ni completado", un cambio de política en la infraestructura upstream podría introducir problemas y requerir potencialmente un cambio en el sistema.

5. Las empresas quieren visibilidad y control sobre la gobernanza de modelos. La demanda de visibilidad y gobernanza de extremo a extremo en los modelos de IA está creciendo. Los clientes quieren registros consultables de entradas, salidas, errores y acciones de agentes de los modelos para permitir que los equipos evalúen la precisión y mejoren el rendimiento, así como controles centralizados para proteger los datos sensibles y la propiedad intelectual.

6. El entorno importa tanto como el modelo. La investigación de Databricks muestra que el andamiaje alrededor de un modelo —su entorno de prompts, herramientas y flujo de control— cambia el rendimiento medido. En el propio benchmark de Databricks, el mismo modelo obtuvo un 61,7% en un entorno, un 48,1% en otro y un 38,4% sin adornos [9]. Dado que la elección del entorno cambia los resultados del benchmark, las evaluaciones deben probar el modelo y el entorno juntos.

7. Los modelos de pesos abiertos se han puesto al día con los modelos de frontera. Los mejores modelos de pesos abiertos ahora rinden en pruebas de rendimiento a un nivel comparable al de los principales modelos de frontera a un costo menor [3][4][5]. Esto no era así hace dieciocho meses. Los modelos de pesos abiertos que alcanzan un rendimiento de nivel de frontera cambian las compensaciones de costo, control y despliegue descritas en los otros seis puntos.

A través de estas observaciones, las empresas intentan: 1) optimizar costos sin sacrificar las ganancias de productividad, 2) preservar la libertad operativa y 3) garantizar que las implementaciones de IA puedan incorporar rápidamente innovaciones. Para lograrlo, necesitan una arquitectura en la que los modelos y entornos puedan cambiar sin debilitar la gobernanza.

El atractivo de los modelos de pesos abiertos

Los modelos de pesos abiertos mejoran la eficiencia de costos, el control y la flexibilidad en comparación con los modelos de frontera:

• Inteligencia mercantilizada: A medida que la inteligencia de los modelos se convierte en un producto básico, las opciones de pesos abiertos ahora ofrecen paridad de inteligencia con los principales modelos de frontera a una fracción del costo, lo que permite un mejor ROI en las implementaciones de IA.
• Soberanía de datos: Alojar modelos en infraestructura controlable otorga a los equipos autoridad sobre las políticas de cumplimiento, seguridad y retención de datos, y reduce el riesgo de cambios no conformes en el futuro.
• Autonomía operativa completa: Los modelos de pesos abiertos permiten a los equipos ejecutar cargas de trabajo que las barreras de frontera podrían inhibir (por ejemplo, respuesta de ciberseguridad)

Fuente: [5] Tabla de clasificación DeepSWE por costo. Algunos de los mejores modelos de pesos abiertos comparados con sus equivalentes propietarios, filtrados a discreción de los autores.

Los beneficios de usar modelos de pesos abiertos en Unity Gateway

Aprovecha los modelos de pesos abiertos junto con los modelos de frontera

Unity Gateway ofrece modelos de pesos abiertos y de frontera a través de una API unificada con controles de gobernanza centralizados, lo que permite a los equipos cambiar entre modelos mediante configuración o enrutamiento inteligente [10][11] en lugar de cambios de código u otras abstracciones [12][13].

La capacidad de múltiples modelos de Unity Gateway se está volviendo fundamental para las estrategias de IA de los clientes. Desde enero, el número promedio de modelos únicos utilizados por cliente ha aumentado de 4,2 a 7,1, un indicador de las opciones disponibles en Unity Catalog y de la búsqueda de modelos con mayor ROI. De esos modelos, aproximadamente el ~40% eran de pesos abiertos.

Fuente: Datos internos de Databricks desde la semana que finaliza el 5 de enero de 2026 hasta la semana que finaliza el 27 de julio de 2026. Creado con Genie One.

Usa grandes modelos de pesos abiertos a velocidades líderes en la industria

Servir grandes modelos de pesos abiertos con tiempos de respuesta competitivos requiere optimización para mantener la eficiencia de costos a escala. Databricks aborda las restricciones de latencia aprovechando motores de inferencia personalizados y kernels optimizados desplegados en GPU de frontera. Evaluaciones independientes de Artificial Analysis destacan estas características de rendimiento: por ejemplo, GLM 5.3 (máximo) logra un tiempo de respuesta de extremo a extremo (incluyendo procesamiento de entradas, razonamiento y generación) de 9,1 segundos en Databricks [15], con un rendimiento favorable junto a endpoints gestionados de primer nivel [16].

Fuente: [15] Proveedores del modelo GLM 5.3: Artificial Analysis

Gobierna los costos y el uso de todos los modelos desde un único lugar

Aquí tienes algunas características clave para ayudar a gobernar estos modelos y controlar los costos en Unity Gateway:

• El enrutamiento inteligente envía sesiones al modelo rentable para la tarea, por lo que las tareas rutinarias se alejan de los modelos de frontera [10][11].
• Las cadenas de respaldo reenvían automáticamente el tráfico en respuesta a límites de velocidad del modelo o interrupciones del proveedor [14].
• Los presupuestos con límites de gasto por usuario, equipo o caso de uso evitan gastos descontrolados [19][30]. Estos límites se pueden configurar con varios niveles de gravedad, desde advertencias suaves hasta políticas estrictas que redirigen las sesiones a modelos más baratos.
• Gobernanza centralizada para herramientas y habilidades. Junto con servidores MCP integrados, Unity Catalog permite registrar servidores MCP externos que se ejecutan a través de proxies administrados y se auditan de forma centralizada. Por lo tanto, los agentes obtienen sus herramientas con la misma gobernanza que sus modelos [20]. Las habilidades [21] también se pueden registrar y gobernar, lo que mejora el determinismo y la eficiencia de los tokens para flujos de trabajo repetibles.
• Gobernanza unificada en modelos de pesos abiertos, externos y de frontera. Conecta proveedores de modelos externos (por ejemplo, Amazon Bedrock, Azure AI Foundry) a través de servicios de proveedores de modelos [17] y enruta las solicitudes a través de la misma capa de gobernanza central utilizada para los modelos de pesos abiertos y de frontera alojados en Databricks [18]. Administra el acceso, los controles de gasto y las pistas de auditoría en toda tu cartera de modelos desde una sola plataforma.

Las empresas están trasladando cargas de trabajo a modelos de pesos abiertos

GLM 5.2 coincidió con un fuerte aumento en el uso de pesos abiertos en Unity Gateway. Después de que GLM 5.2 estuviera disponible a mediados de julio, su uso aumentó. Al mismo tiempo, el crecimiento entre los clientes de Unity Gateway se mantuvo relativamente constante, lo que sugiere que los clientes existentes desviaron más tráfico de IA hacia modelos de pesos abiertos. Apenas un mes después de ofrecerse por primera vez, GLM 5.2 ya representa aproximadamente el 40% de los tokens de pesos abiertos utilizados en Unity Gateway, y la mayor parte de ese crecimiento es incremental. Tanto el rendimiento de referencia de GLM 5.3 como el de Kimi K3 ofrecen a los clientes otra opción de pesos abiertos para evaluar junto con GLM 5.2 [5].

Fuente: Datos internos de Databricks desde la semana que finalizó el 5 de enero de 2026 hasta la semana que finalizó el 27 de julio de 2026. Creado con Genie One

Para respaldar esta demanda, Databricks anunció una ronda de financiación de 3 mil millones de dólares en julio, y el director ejecutivo Ali Ghodsi declaró a CNBC que la recaudación se debe en parte a la obtención de capacidad de GPU para alojar modelos abiertos. "Nos estamos quedando sin GPUs en todas partes... Japón, Corea, EE. UU. e India, así que necesitábamos conseguir muchas de estas, y eso requiere mucha financiación. Así que eso es lo que provocó esta recaudación de fondos para nosotros" [22].

Accede a modelos de pesos abiertos en entornos de proveedores con Unity Gateway

El entorno en el que tus desarrolladores ya trabajan aún puede ejecutar modelos de pesos abiertos alojados en Databricks. A finales de julio, los modelos servidos en Unity Gateway, incluido GLM 5.3, pueden ejecutarse dentro de entornos de codificación de proveedores como Codex y OpenCode [12][26], con soporte para entornos adicionales en camino. La pasarela expone extremos compatibles con OpenAI por entorno, por lo que la configuración es solo un cambio de configuración. Apunta el entorno a la URL de la pasarela de tu espacio de trabajo o utiliza el asistente ucode con una sola línea:

ucode codex --model system.ai.glm-5-3

Reflexiones finales

Las empresas deben planificar una cartera de modelos porque ningún modelo o proveedor individual liderará en calidad, costo y cumplimiento de políticas para cada carga de trabajo. De las opciones disponibles, los modelos de pesos abiertos ofrecen ahora inteligencia competitiva a un menor costo y con un mayor control sobre el manejo de datos y las políticas de gobernanza. En contraste, los modelos de frontera siguen siendo útiles cuando ofrecen mejores resultados. Unity Gateway administra estas opciones mediante controles de acceso comunes, políticas de enrutamiento, presupuestos y auditorías. Omnigent extiende esa flexibilidad al entorno, para que los equipos puedan cambiar de modelo o entorno de agente sin reconstruir los flujos de trabajo.

Los datos de uso en este artículo muestran que los clientes ya se están moviendo en esta dirección. Están sirviendo más modelos, dirigiendo más tráfico a los pesos abiertos y utilizando entornos portátiles para ampliar sus opciones. La ventaja duradera es la capacidad de realizar esos cambios rápidamente a medida que evolucionan las opciones de modelos, la calidad, los precios y los requisitos de las políticas.

Fuentes

[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025, julio). The GenAI divide: State of AI in business 2025 (Hallazgos preliminares de la investigación sobre implementación de IA). Project NANDA, Massachusetts Institute of Technology. 
[2] Historial de la tabla de clasificación de LLM: seguimiento de clasificaciones de IA 2023-2026, BenchLM 
[3] Kimi K3 - Análisis de inteligencia, rendimiento y precio, Artificial Analysis 
[4] GLM-5.3 (máx.) - Análisis de inteligencia, rendimiento y precio | Artificial Analysis 
[5] Tabla de clasificación DeepSWE por costo 
[6] Divulgación de incidente de seguridad, julio de 2026, Hugging Face Blog 
[7] La brecha de seguridad de Hugging Face en OpenAI muestra que las barreras de protección de la IA de frontera están fallando, Forbes, 23 de julio de 2026 
[8] Declaración sobre la directiva del gobierno de EE. UU. para suspender el acceso a Fable 5 y Mythos 5 
[9] ¿Qué es un arnés para agentes de IA?, Databricks Blog 
[10] Enrutamiento inteligente para agentes de código 
[11] Enrutamiento inteligente en Unity AI Gateway: iguala la calidad de frontera con un costo por tarea un 30 % menor 
[12] Modelos base alojados en Databricks, documentación de Databricks 
[13] Agent Bricks: Data + AI Summit 2026, Databricks Blog 
[14] Configurar enrutamiento y respaldos para servicios de modelos 
[15] Análisis y evaluación comparativa de proveedores de API de GLM-5.3 (máx.) 
[16] https://artificialanalysis.ai/models#end-to-end-response-time 
[17] Gobernar proveedores de modelos externos (servicios de proveedores de modelos) 
[18] Documentación de Databricks Unity AI Gateway 
[19] Administrar presupuestos para Unity Gateway 
[20] Unity AI Gateway: cómo conectar agentes a MCPs externos de forma segura, Databricks Blog 
[21] Soporte de habilidades en Unity Gateway 
[22] Director ejecutivo de Databricks: estamos alojando modelos de código abierto como Kimi y nos estamos quedando sin GPUs, CNBC, 17 de julio de 2026 
[23] Modelos y credenciales, documentación de Omnigent 
[24] Evaluación comparativa de agentes de código en la base de código multimillonaria de Databricks 
[25] Gobernanza de MCPs a escala con Unity AI Gateway 
[26] Usar modelos de código abierto con agentes de código 
[27] Unity AI Gateway: gobernanza de múltiples IAs y control de costos, Databricks 
[28] Presentación de Omnigent: un meta-arnés para combinar, controlar y compartir tus agentes, Databricks Blog 
[29] Proveedores de GLM-5.2: comparación de velocidad de salida, Artificial Analysis 
[30] Presentación de los controles de gasto en IA con Unity Gateway 
[31] Presentación de Omnigent: un meta-arnés para combinar, controlar y compartir tus agentes

Explorar Unity AI Gateway

Aprende a gobernar, enrutar y supervisar modelos de pesos abiertos, de frontera y externos a través de una plataforma unificada.

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original