Presentando controles de gasto de IA con Unity AI Gateway

Hoy, anunciamos Controles de Gasto en IA en Unity AI Gateway. Esta versión amplía la visibilidad de costos existente de Unity AI Gateway con alertas de presupuesto proactivas para darle control total sobre el gasto en IA de su organización, desde los agentes de codificación que sus desarrolladores usan a diario, hasta los agentes de producción que atienden a sus clientes, y los trabajos por lotes que se ejecutan durante la noche:

Las cargas de trabajo de IA ofrecen un valor desproporcionado, pero su perfil de costos es fundamentalmente más difícil de gestionar que su gasto tradicional en la nube:

• Su trabajo por lotes nocturno que traduce transcripciones de llamadas puede ejecutarse perfectamente durante un mes, luego empezar a fallar a mitad de camino y activar una lógica de reintento que multiplica su costo por 10 de la noche a la mañana.
• Los agentes de codificación de su organización de ingeniería ahorran miles de horas de desarrollador a la semana, pero los mismos agentes facilitan que un ingeniero inicie un experimento accidental con múltiples agentes el viernes por la noche que agota el presupuesto mensual del equipo para el domingo.

Los empleados de ingeniería, soporte, ventas y operaciones están adoptando la IA más rápido que cualquier tecnología en la última década, desbloqueando nuevos casos de uso semana tras semana. Pero esa adopción trae un desafío de gestión: el uso de modelos fundacionales ahora abarca docenas de equipos, cientos de usuarios y miles de agentes con una mezcla cambiante de proveedores y niveles de modelos. Los controles de gasto deben aplicarse uniformemente en todas las cargas de trabajo de IA, para que su organización pueda adoptar la IA con confianza sin preocuparse por sorpresas en la factura.

Configure Alertas de Presupuesto en Cada Nivel de Granularidad

Si bien los controles de gasto deben aplicarse uniformemente, diferentes partes de su organización necesitan diferentes controles de costos. Un equipo de plataforma se preocupa por los totales de todo el espacio de trabajo. Un líder de FinOps se preocupa por el consumo mensual a nivel de organización. Un gerente de ingeniería se preocupa por los presupuestos de experimentación por desarrollador. Los Controles de Gasto en IA le permiten configurarlos todos desde un solo lugar y están profundamente integrados con los presupuestos existentes de Databricks:

• Por usuario: Establezca presupuestos para la experimentación individual — por ejemplo, $2000 por usuario al mes para la organización de ingeniería. Detecte al desarrollador cuyo agente está atascado en un bucle antes de que aparezca en la P&L.
• Por caso de uso: Reciba una alerta si el gasto de su organización en agentes de codificación como codex o claude code supera los $1000 por usuario al mes
• Por espacio de trabajo: Mantenga cada unidad con su propio presupuesto. Producción recibe $50,000/mes; sandbox recibe $5,000.
• Por cuenta: Establezca un límite superior — por ejemplo, $200,000/mes en cada modelo, cada proveedor, cada espacio de trabajo — y reciba una alerta mucho antes de que se acerque a él.

Comience hoy mismo con los presupuestos de Unity AI Gateway

Para realizar un seguimiento del gasto en IA de su organización, siga estos pasos:

Cree su presupuesto de Unity AI Gateway

• Abra la configuración de su cuenta, navegue a Uso en la barra lateral y abra la pestaña Presupuestos
• Cree un presupuesto y seleccione “Unity AI Gateway” como tipo de recurso
• Opcionalmente, aplique el presupuesto solo a un subconjunto de espacios de trabajo
• Opcionalmente, aplique “etiquetas de recursos” para configurar presupuestos para un subconjunto de sus LLM de AI Gateway. Solo los LLM de AI Gateway cuyas etiquetas coincidan con las etiquetas de su presupuesto se contabilizarán en el presupuesto. Esto es útil para configurar presupuestos específicos por caso de uso.
• Configure un “Umbral compartido” que establece el límite de gasto mensual globalmente en todos los recursos de su(s) espacio(s) de trabajo seleccionado(s) que coincidan con las etiquetas de recursos
• Configure un “Umbral por usuario” que establece un límite de gasto mensual por usuario en su cuenta
• Configure las direcciones de correo electrónico que reciben alertas cuando se superan los umbrales

Una vez creado, esté atento a las alertas de presupuesto

Cuando se supere uno de sus presupuestos, recibirá un correo electrónico de notificación:

Analice sus presupuestos activos

La sección Costo de la consola de su cuenta le permite responder a los correos electrónicos de alerta de presupuesto o monitorear proactivamente el estado de sus presupuestos activos. En la página Presupuestos , verá de un vistazo cómo evolucionan sus presupuestos:

Abra cualquier presupuesto para ver cómo evoluciona su gasto en IA:

Si configuró umbrales de presupuesto a nivel de usuario, la página de detalles del presupuesto le mostrará cómo evoluciona el gasto individual en IA de los usuarios de su organización. Cuando los usuarios superan su umbral individual, su estado y gasto se muestran claramente para que pueda actuar rápidamente:

Para aumentar el umbral de un presupuesto, simplemente puede editar el Presupuesto y modificar sus límites de gasto.

Analice en detalle el gasto en IA de su organización

Los presupuestos de Unity AI Gateway le ofrecen una visión general de alto nivel del gasto por usuario y por presupuesto. Para analizar más a fondo qué usuarios, modelos o casos de uso están impulsando su gasto, puede utilizar las capacidades de seguimiento de costos existentes de Unity AI Gateway. Cada solicitud se registra en las tablas del sistema de Unity Catalog con costos de DBU y no solo recuentos de tokens. El rendimiento aprovisionado, el tiempo de actividad, el uso de pago por token e incluso los costos de tokens de los proveedores de modelos externos se calculan automáticamente. Puede segmentar los datos de la forma en que su organización realice el seguimiento del gasto:

• Identidad: Agregue por usuario o principal de servicio — asigne el gasto a las personas y sistemas que lo impulsan.
• Espacio de trabajo, punto final y etiquetas: Agrupe por equipo, entorno o centro de costos.
• Modelo y proveedor: Vea qué modelos (Opus vs. Sonnet) y proveedores (Anthropic vs. OpenAI vs. código abierto) están generando costos.
• Etiquetas de solicitud: Atribución dinámica para plataformas SaaS que actúan como proxy para clientes finales.

Acceda al panel de Análisis de Costos navegando a la página de Unity AI Gateway en su espacio de trabajo de Databricks y haga clic en “Ver panel”:

Esto abre un panel de análisis de uso y costos que puede personalizar completamente:

Una plataforma para gobernar datos e IA

Los Controles de Gasto en IA son una extensión natural de las capacidades de gobernanza que ya utiliza en Databricks:

• Unity AI Gateway es la puerta de enlace de IA central de su organización para gestionar y acceder a LLM y MCP.
• Unity Catalog es su catálogo central para registrar y descubrir los activos de datos e IA de su organización. Los permisos de acceso, los registros de auditoría y los datos de uso residen todos en Unity Catalog.
• Los presupuestos de Databricks proporcionan la base para el monitoreo y las alertas de costos. Con esta versión, los presupuestos de Databricks ahora le permiten configurar presupuestos adaptados a la AI para las cargas de trabajo de AI de su organización.

Databricks le proporciona un sistema único y consistente para gobernar lo que sus agentes pueden hacer, para quién pueden hacerlo y cuánto pueden gastar al hacerlo. ¡Comience hoy mismo!

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original