Passerelle Mosaic AI

Démocratisez l’accès aux LLM de manière sécurisée et res

Gérez et encadrez l’ensemble des modèles et agents IA dans toute l’entreprise.

Formation gratuite sur l'IA générative Visite guidée

Avantages

Gouvernance et observabilité pour tous les types de modèles et d’agents d’IA

Mosaic AI Gateway centralise le contrôle des systèmes d’IA : la passerelle standardise les accès, protège les utilisations et garantit une observabilité complète sur tous les modèles et agents de votre organisation.

Accès unifié

Grâce à une seule interface de requête standardisée, accédez aux derniers modèles de n’importe quel fournisseur : modèles de fondation, open source ou personnalisés. AI Gateway élimine les frictions liées à l’intégration pour permettre aux équipes d’accélérer le développement en s’appuyant sur les meilleurs modèles pour le cas d’utilisation à traiter, sans avoir à gérer plusieurs points d’extrémité ni à réécrire du code.

Observabilité complète

Assurez le suivi en temps réel de l’utilisation, de la qualité et du coût grâce aux journaux détaillés de requêtes et de réponses stockés dans le lakehouse. Grâce à la prise en charge native des tableaux de bord, des alertes et des requêtes SQL, vous allez surveiller les performances, dépanner les problèmes et gérer les dépenses de l’ensemble de vos modèles et agents.

Garde-fous intégrés

Appliquez des règles de sécurité, de confidentialité et de conformité à grande échelle avec des garde-fous flexibles. Filtrez les IPI, bloquez le contenu dangereux et encadrez chaque requête par des contrôles basés sur des politiques. Les permissions basées sur le rôle, le suivi de l’utilisation et les contrôles de trafic assurent un accès sécurisé à tous les utilisateurs et toutes les équipes, sans développer de code personnalisé.

ESSAYER GRATUITEMENT DATABRICKS

Commencez par un essai gratuit dans l’environnement cloud de votre choix

Démarrez votre essai gratuit

Fonctionnalités

Sécurité et gouvernance de niveau production

AI Gateway simplifie et sécurise l’utilisation de l’IA en proposant des outils de gouvernance, d’observabilité et d’optimisation du trafic de l’IA prêts pour la production.

Contrôlez finement les accès à vos modèles d’IA à l’aide de permissions et de limites de taux personnalisables, pour assurer la sécurité et la conformité de l’utilisation de l’IA dans toute votre organisation.

Surveillez et auditez les demandes d’IA pour améliorer les performances et la sécurité des modèles.

Suivez les coûts de la consommation de tous vos LLM à l’échelle de l’entreprise en un seul endroit.

Assurez la conformité de l’utilisation des LLM en appliquant des garde-fous axés sur la sécurité et les IPI.

En savoir plus sur les garde-fous de l’IA

Améliorez la fiabilité des LLM dans tous les cas d’utilisation avec des dispositifs de repli, d’équilibrage de charge et plus encore.

Autres fonctionnalités

Accès unifié aux modèles

Intégrez facilement différents modèles d’IA et passez de l’un à l’autre à l’aide d’une interface unique qui permet de rationaliser le développement et de réduire les coûts d’intégration.

Fallbacks

Minimisez les interruptions de production pendant et après le déploiement.

Filtres d’IPI

Détectez et bloquez les demandes contenant du contenu sensible tel que des informations personnellement identifiables (PII).

En savoir plus sur les filtres d’IPI

Filtrage de sécurité

Filtrez les contenus nuisibles tels que le discours de haine, les insultes, les contenus sexuels ou violents, et les conduites inappropriées.

En savoir plus sur les filtres de sécurité

Journalisation d’audit

Conservez un journal d’audit complet dans Unity Catalog pour surveiller l’accès aux données, assurer la conformité et simplifier la gouvernance sur l’ensemble des charges de travail d’IA.

Intégration du service de modèles

S’intègre parfaitement avec des FMAPI comme Anthropic et Gemini via des points de terminaison de service de modèles, pour mettre en place des mesures sophistiquées de gouvernance et d’observabilité avec un minimum de configuration.

Cas d’utilisation

Une solution sécurisée pour gérer le trafic LLM

Réalisez vos tests, vos ajustements et vos itérations sans effort

Misez sur nos outils AI Playground et AI Query pour standardiser et accélérer l’expérimentation avec n’importe quel modèle d’IA. Comparez les performances et affinez vos modèles pour un maximum d’efficacité.

Essai gratuit

Maîtrisez les aspects financiers de vos déploiements d’IA

Avec l’observabilité unifiée des coûts, suivez vos dépenses liées à l’utilisation de l’IA sur vos différents fournisseurs. Simplifiez la refacturation et la budgétisation en vous appuyant sur des informations de coût complètes, pour une gestion financière plus transparente et efficace des ressources IA.

Essai gratuit

Optimisez les performances de l’IA sur tous les modèles

Réalisez des tests A/B à répartition aléatoire pour évaluer les performances des modèles et améliorer vos applications. Testez facilement différents modèles avec du trafic de production pour choisir les solutions d’IA les plus performantes pour vos besoins.

Essai gratuit

Transformez les données brutes en assets d’entraînement

La journalisation des charges utiles d’AI Gateway vous permet de collecter et de structurer les données brutes d’entrée et de sortie afin de créer des datasets d’affinement complets. Cette fonctionnalité permet d’améliorer vos modèles à l’aide de données pertinentes et réelles afin de gagner en précision et en performances.

Essai gratuit

Transparence et respect des exigences réglementaires

Grâce à la journalisation détaillée des charges utiles, AI Gateway permet de réaliser des audits réglementaires rigoureux en fournissant un enregistrement complet des interactions avec les données et des résultats de modèles. Essentielle pour maintenir la conformité, cette fonctionnalité simplifie les audits approfondis.

Essai gratuit

Explorez les démos d’AI Gateway

Vidéo

AI Gateway : sécurisez et régulez vos projets d’IA

Visite guidée

Rationalisez la gestion de l’IA générative

Tarifs

Les tarifs basés sur l'utilisation permettent de maîtriser les dépenses

Ne payez que les produits que vous utilisez, à la seconde près.

Découvrir les tarifs

Produits connexes

Découvrez nos solutions d’IA intégrées

Découvrez comment l’intégration transparente de notre suite de produits amplifie vos capacités d’IA.

Mise à disposition de modèles

Déployez et gérez facilement tous types de modèles avec une interface unifiée. Intégrez AI Gateway pour bénéficier d’outils avancés de gouvernance et d’évolutivité.

Agent Bricks

Développez des agents IA optimisés sur vos données et prêts pour la production.

Model Training

Affinez efficacement un modèle open source comme Llama 3.1 avec notre infrastructure robuste.

Vector Search

Vector Search est une base de données vectorielle serverless étroitement intégrée à Data Intelligence Platform.

Framework d'agents

Développez, testez et déployez des agents intelligents en toute simplicité. Utilisez AI Gateway pour sécuriser l’intégration et la gestion sur différents points de terminaison.

Mlflow administré

Managed MLflow apporte un niveau entreprise de fiabilité, de sécurité et d’évolutivité à MLflow, la plateforme open source de Databricks conçue pour développer de meilleurs modèles et applications d’IA générative.

Unity Catalog

AI Gateway consigne l’utilisation des points de terminaison et les données des charges utiles dans Unity Catalog. Ces enregistrements détaillés des requêtes et des résultats d’inférence servent de base à de solides capacités de gestion et d’analyse des données.