Mosaic AI Gateway : un accès sécurisé et responsable aux LLM

ESSAYER GRATUITEMENT DATABRICKS

Commencez par un essai gratuit dans l’environnement cloud de votre choix

Avantages

Gouvernance et observabilité pour tous les types de modèles et d’agents d’IA

Mosaic AI Gateway centralise le contrôle des systèmes d’IA : la passerelle standardise les accès, protège les utilisations et garantit une observabilité complète sur tous les modèles et agents de votre organisation.

Accès unifié

Grâce à une seule interface de requête standardisée, accédez aux derniers modèles de n’importe quel fournisseur : modèles de fondation, open source ou personnalisés. AI Gateway élimine les frictions liées à l’intégration pour permettre aux équipes d’accélérer le développement en s’appuyant sur les meilleurs modèles pour le cas d’utilisation à traiter, sans avoir à gérer plusieurs points d’extrémité ni à réécrire du code.

Observabilité complète

Assurez le suivi en temps réel de l’utilisation, de la qualité et du coût grâce aux journaux détaillés de requêtes et de réponses stockés dans le lakehouse. Grâce à la prise en charge native des tableaux de bord, des alertes et des requêtes SQL, vous allez surveiller les performances, dépanner les problèmes et gérer les dépenses de l’ensemble de vos modèles et agents.

Garde-fous intégrés

Appliquez des règles de sécurité, de confidentialité et de conformité à grande échelle avec des garde-fous flexibles. Filtrez les IPI, bloquez le contenu dangereux et encadrez chaque requête par des contrôles basés sur des politiques. Les permissions basées sur le rôle, le suivi de l’utilisation et les contrôles de trafic assurent un accès sécurisé à tous les utilisateurs et toutes les équipes, sans développer de code personnalisé.

Fonctionnalités

Sécurité et gouvernance de niveau production

AI Gateway simplifie et sécurise l’utilisation de l’IA en proposant des outils de gouvernance, d’observabilité et d’optimisation du trafic de l’IA prêts pour la production.

Contrôlez finement les accès à vos modèles d’IA à l’aide de permissions et de limites de taux personnalisables, pour assurer la sécurité et la conformité de l’utilisation de l’IA dans toute votre organisation.

Surveillez et auditez les demandes d’IA pour améliorer les performances et la sécurité des modèles.

Suivez les coûts de la consommation de tous vos LLM à l’échelle de l’entreprise en un seul endroit.

Assurez la conformité de l’utilisation des LLM en appliquant des garde-fous axés sur la sécurité et les IPI.

En savoir plus sur les garde-fous de l’IA

Améliorez la fiabilité des LLM dans tous les cas d’utilisation avec des dispositifs de repli, d’équilibrage de charge et plus encore.

Autres fonctionnalités

Accès unifié aux modèles

Intégrez facilement différents modèles d’IA et passez de l’un à l’autre à l’aide d’une interface unique qui permet de rationaliser le développement et de réduire les coûts d’intégration.

Fallbacks

Minimisez les interruptions de production pendant et après le déploiement.

Filtres d’IPI

Détectez et bloquez les demandes contenant du contenu sensible tel que des informations personnellement identifiables (PII).

En savoir plus sur les filtres d’IPI

Filtrage de sécurité

Filtrez les contenus nuisibles tels que le discours de haine, les insultes, les contenus sexuels ou violents, et les conduites inappropriées.

En savoir plus sur les filtres de sécurité

Journalisation d’audit

Conservez un journal d’audit complet dans Unity Catalog pour surveiller l’accès aux données, assurer la conformité et simplifier la gouvernance sur l’ensemble des charges de travail d’IA.

Intégration du service de modèles

S’intègre parfaitement avec des FMAPI comme Anthropic et Gemini via des points de terminaison de service de modèles, pour mettre en place des mesures sophistiquées de gouvernance et d’observabilité avec un minimum de configuration.

Cas d’utilisation

Une solution sécurisée pour gérer le trafic LLM

Sécurisez et simplifiez l’accès à n’importe quel modèle d’IA

AI Gateway se distingue par la prise en charge d’une large gamme d’assets IA : modèles ML classiques, modèles d’IA générative, chaînes et agents. Un seul système unifié vous permet de gérer facilement toutes vos ressources.

Essai gratuit

Transformez les données brutes en assets d’entraînement

La journalisation des charges utiles d’AI Gateway vous permet de collecter et de structurer les données brutes d’entrée et de sortie afin de créer des datasets d’affinement complets. Cette fonctionnalité permet d’améliorer vos modèles à l’aide de données pertinentes et réelles afin de gagner en précision et en performances.

Essai gratuit

Tarifs

Les tarifs basés sur l'utilisation permettent de maîtriser les dépenses

Ne payez que les produits que vous utilisez, à la seconde près.

Découvrir les tarifs

Produits connexes

Découvrez nos solutions d’IA intégrées

Découvrez comment l’intégration transparente de notre suite de produits amplifie vos capacités d’IA.

Mise à disposition de modèles

Déployez et gérez facilement tous types de modèles avec une interface unifiée. Intégrez AI Gateway pour bénéficier d’outils avancés de gouvernance et d’évolutivité.

Agent Bricks

Développez des agents IA optimisés sur vos données et prêts pour la production.

Model Training

Affinez efficacement un modèle open source comme Llama 3.1 avec notre infrastructure robuste.

Vector Search

Vector Search est une base de données vectorielle serverless étroitement intégrée à Data Intelligence Platform.

Framework d'agents

Développez, testez et déployez des agents intelligents en toute simplicité. Utilisez AI Gateway pour sécuriser l’intégration et la gestion sur différents points de terminaison.

Mlflow administré

Managed MLflow apporte un niveau entreprise de fiabilité, de sécurité et d’évolutivité à MLflow, la plateforme open source de Databricks conçue pour développer de meilleurs modèles et applications d’IA générative.

Unity Catalog

AI Gateway consigne l’utilisation des points de terminaison et les données des charges utiles dans Unity Catalog. Ces enregistrements détaillés des requêtes et des résultats d’inférence servent de base à de solides capacités de gestion et d’analyse des données.