Democratizar el acceso a LLM de forma segura y responsab
Gestiona y gobierna todos los modelos y agentes de IA en toda la empresa.
Gobernanza y observabilidad en cualquier modelo y agente de IA
Mosaic AI Gateway centraliza el control de tus sistemas de IA, estandarizando el acceso, protegiendo el uso y brindando una observabilidad completa en todos los modelos y agentes de tu organización.
Acceso unificado
Accede a los modelos más recientes de cualquier proveedor, básicos, de código abierto o personalizados, a través de una única interfaz de consulta estandarizada. AI Gateway elimina la fricción de integración, al permitir que los equipos construyan más rápido con los mejores modelos para su caso de uso, sin gestionar múltiples puntos de conexión ni reescribir código.
Observabilidad completa
Haz un seguimiento del uso, la calidad y el costo en tiempo real con registros detallados de solicitudes y respuestas almacenados en el lakehouse. El soporte integrado para paneles, alertas y consultas SQL te permite monitorear el rendimiento, solucionar problemas y administrar el gasto en todos tus modelos y agentes.
Salvaguardias integradas
Refuerza la seguridad, la privacidad y el cumplimiento normativo a gran escala con límites flexibles. Filtra la información personal identificable (PII), bloquea contenido no seguro y aplica controles basados en políticas en cada solicitud. Los permisos basados en roles, el seguimiento del uso y los controles de tráfico garantizan un acceso seguro para todos los usuarios y equipos, sin necesidad de código personalizado.
Seguridad y gobernanza de calidad de producción
AI Gateway agiliza y protege el uso de la IA con funciones de gobernanza, observabilidad y listas para producción a fin de optimizar el tráfico de IA.Controla quién puede acceder a tus modelos de IA y cuánto acceso tienen con permisos personalizables y límites de peticiones, lo que garantiza un uso de la IA seguro y conforme a las normativas en toda tu organización.
Más características
Una solución segura para gestionar el tráfico de LLM
Prueba, ajusta e itera sin grandes esfuerzos
Aprovecha nuestras herramientas AI Playground y AI Query para estandarizar y acelerar la experimentación con cualquier modelo de IA. Compara el rendimiento y perfecciona tus modelos de manera eficaz.
Mantén el control financiero de tus implementaciones de IA
Consolide y realice un seguimiento de los costos de uso de IA de varios proveedores con una observabilidad de costos unificada. Simplifique los contracargos y la presupuestación con información integral de costos, haciendo que la gestión financiera de los recursos de IA sea más transparente y eficiente.
Optimizar el rendimiento de la IA en todos los modelos
Haz pruebas A/B de división aleatoria para evaluar el rendimiento del modelo y mejorar tus aplicaciones. Prueba fácilmente diferentes modelos con tráfico de producción para asegurarte de elegir las soluciones de IA con mejor rendimiento para tus necesidades.
Transforma los datos sin procesar en valiosos recursos de entrenamiento
El registro de carga útil de AI Gateway te permite recopilar y estructurar datos de entrada y salida sin procesar, lo que crea conjuntos de datos completos de ajuste fino. Esta capacidad te permite mejorar tus modelos con datos relevantes del mundo real para mejorar la precisión y el rendimiento.
Garantiza la transparencia y cumple con los requisitos regulatorios
Con el registro detallado de la carga útil, AI Gateway es compatible con auditorías regulatorias rigurosas, ya que proporciona un registro completo de las interacciones de datos y las salidas del modelo. Esta función ayuda a las organizaciones a mantener el cumplimiento y facilitar auditorías exhaustivas con facilidad.
Explora las demostraciones de AI Gateway
Los precios basados en el uso mantienen el gasto bajo control
Paga solo por los productos que usas, con granularidad por segundo.Explora nuestras soluciones integradas de IA
Explora cómo nuestro conjunto de productos se integra a la perfección para mejorar tus capacidades de IA.
Model Serving
Implementa y gestiona sin esfuerzo todo tipo de modelos con una interfaz unificada. Haz la integración con AI Gateway para lograr una gobernanza y escalabilidad avanzadas.
Agent Bricks
Crea agentes de IA listos para producción optimizados con tus datos.
Entrenamiento de modelos
Ajusta un modelo de código abierto como Llama 3.1 de forma eficiente con nuestra robusta infraestructura.
Búsqueda vectorial
Vector Search es una base de datos vectorial sin servidor perfectamente integrada en la plataforma de inteligencia de datos.
Marco de agentes
Crea, prueba e implementa agentes inteligentes con facilidad. Aprovecha AI Gateway para una integración y gestión seguras en múltiples puntos de conexión.
Managed MLflow
Managed MLflow mejora MLflow, una plataforma de código abierto desarrollada por Databricks para crear mejores modelos y aplicaciones de IA generativa, centrándose en la confiabilidad empresarial, la seguridad y la escalabilidad.
Unity Catalog
AI Gateway registra el uso de los puntos de conexión y los datos de carga útil en Unity Catalog. Esto incluye registros detallados de solicitudes y resultados de inferencia, proporcionando sólidas capacidades de gestión y análisis de datos.
Descubre tus próximos pasos
Explorar la documentación de AI Gateway
Sumérgete en la documentación completa para desbloquear todas las características y capacidades de AI Gateway.
Descubre el Libro de recetas de IA generativa
El libro de recetas de IA generativa de Databricks es una guía definitiva para construir aplicaciones de IA generativa de alta calidad.
Preguntas frecuentes sobre AI Gateway
¿Estás listo para convertirte en una empresa de datos e IA?
Da los primeros pasos en tu transformación