Unity AI Gateway est désormais généralement disponible

Les six derniers mois ont été marqués par une hausse rapide de la productivité propulsée par l'AI et une prolifération d'agents au sein des entreprises. Bien que ces agents puissent transformer le travail intellectuel, ils introduisent également des défis majeurs à la croisée des coûts, du contrôle et du choix :

1. Coût : des dépenses insoutenables. À mesure que l'adoption se généralise, les coûts liés à l'AI augmentent de manière exponentielle en raison de modèles de tarification basés sur la consommation qui comptabilisent les tokens plutôt que les utilisateurs. Pour compliquer encore la gestion des coûts, les outils d'AI manquent de contrôles de coûts natifs et robustes, et il n'existe pas de vue unique pour l'ensemble de votre facturation.
2. Contrôle : risques liés à la sécurité et à l'IP. Pour être efficaces, les agents doivent avoir accès à vos données les plus sensibles. Pourtant, les modèles s'échappent des sandboxes sécurisées, les attaques de la chaîne d'approvisionnement et les injections de prompts exfiltrent des données, et les systèmes de rétention de données et de mémoire créent des copies de données non gouvernées.
3. Choix : dépendance vis-à-vis des fournisseurs. Les entreprises sont sous pression pour donner aux développeurs la liberté d'adopter les derniers modèles et outils. Le rythme rapide de l'innovation en AI (un nouveau modèle ou framework d'agent chaque mois !) rend difficile le maintien de l'agilité sans être lié à des fournisseurs spécifiques.

Ces défis sont encore exacerbés par la prolifération incontrôlée des agents, les entreprises tentant de gérer de multiples outils d'AI et des milliers d'agents personnalisés sur des plateformes décousues.

Les systèmes d'entreprise ne sont pas encore adaptés à ces défis. C'est pourquoi nous sommes ravis d'annoncer la disponibilité générale de Unity AI Gateway. Unity AI Gateway offre aux entreprises les leviers de coût, contrôle et choix dont elles ont besoin pour gérer les dépenses d'AI et appliquer la sécurité sur l'ensemble des agents et actifs d'AI, qu'il s'agisse d'un agent de codage, d'un MCP, d'un agent externe, d'une compétence ou d'un modèle. Des milliers de clients, comme Rivian, Asana et Edmunds, utilisent déjà Unity AI Gateway pour déployer l'AI de manière responsable au sein de leur organisation, et plus d'un quadrillion de tokens ont transité par notre passerelle au cours de l'année écoulée. Chez Databricks, nous utilisons Unity AI Gateway en interne pour gérer les dépenses de milliers d'employés qui ont chacun accès à plusieurs outils d'AI de premier plan.

Coût : observabilité complète de l'AI et contrôle des coûts

Les entreprises ont besoin d'une visibilité complète sur la destination de chaque dollar dépensé dans l'AI, de la capacité d'arrêter les dérives de coûts en temps réel, et d'un moyen d'optimiser en continu l'utilisation de leur budget d'AI, sans ralentir ni surcharger les développeurs.

Unity AI Gateway sert de hub central pour tout actif d'AI, y compris les agents externes, les MCP, les compétences et les assistants de codage, et offre une observabilité de bout en bout ainsi qu'une attribution granulaire des coûts entre les modèles, les fournisseurs, les équipes et les applications. En centralisant ces données dans Unity Catalog, nous fournissons des tableaux de bord prêts à l'emploi et des analyses optimisées par Genie, vous offrant des informations approfondies et immédiates sur votre investissement dans l'AI. De plus, les équipes peuvent établir des budgets proactifs et imposer des limites strictes de dépenses pour garantir que l'innovation en AI reste prévisible et alignée sur les objectifs commerciaux.

Une technique pour aider à contrôler les dépenses d'AI consiste à router les requêtes vers différents modèles de pointe, qu'ils soient propriétaires ou open source. Le Smart Routing, désormais en Beta, aide les entreprises à maximiser la valeur de leurs dépenses d'AI sans limiter la productivité des développeurs. Unity AI Gateway route dynamiquement chaque requête vers le bon modèle en fonction de facteurs tels que la qualité, le coût, les performances, la disponibilité et le budget, réservant les modèles les plus performants et les plus coûteux aux tâches qui le nécessitent, tout en orientant les autres travaux vers des options plus efficaces. Le résultat est une meilleure valeur pour chaque dollar dépensé dans l'AI, sans obliger les développeurs à faire des compromis sur les outils qu'ils utilisent ou la qualité dont ils ont besoin. Si vous souhaitez participer à la Beta, veuillez contacter votre équipe de compte.

« Unity AI Gateway a géré notre échelle de production de plus de 100 milliards de tokens par mois sans aucun problème de disponibilité, tout en nous offrant une visibilité sur les dépenses d'AI et des contrôles au niveau de l'utilisateur. L'accès rapide aux derniers modèles de pointe et open source, combiné à des tables d'utilisation facilement requêtables, nous a permis d'évaluer rapidement de nouveaux modèles et de créer des analyses personnalisées autour de l'utilisation de l'AI. » —Sriram Ravichandran, Technical Lead - Software Engineering, Zepto

« Unity AI Gateway nous permet de gouverner de manière centralisée les LLMs à grande échelle sur l'ensemble de nos produits de données et agents de codage. En fournissant une couche d'accès gouvernée unique pour tous les fournisseurs de modèles, ainsi qu'une observabilité complète et des contrôles budgétaires, il est beaucoup plus facile de déployer l'AI en toute sécurité à l'échelle de notre organisation. » —Max Lautner, Staff Engineer, Technical Lead, STRABAG SE

Contrôle : gouverner les données et l'AI via un plan de contrôle unifié

Nous pensons que les données et l'AI doivent être gouvernées ensemble. Après tout, les agents interagissent avec vos données d'entreprise les plus sensibles et appellent des serveurs et outils MCP pour entreprendre des actions au nom des utilisateurs, ce qui crée des données et des systèmes d'enregistrement. De plus, les traces d'exécution générées par les agents regorgent d'informations confidentielles, de données PII ou d'autres secrets qui peuvent être divulgués par inadvertance. Les entreprises ont besoin d'un moyen unifié de contrôler ce à quoi les agents peuvent accéder et ce qu'ils peuvent faire, tout en conservant l'identité, la piste d'audit et les politiques nécessaires pour gouverner chaque action.

Avec Unity Catalog et Unity AI Gateway, les entreprises peuvent gouverner les données et l'AI en un seul endroit. Unity Catalog fournit l'identité, les autorisations, le lignage et l'audit qui régissent l'accès aux données et aux actifs d'AI, tandis que Unity AI Gateway applique des garde-fous d'exécution et des politiques contextuelles lors des interactions d'AI. Ensemble, ils offrent aux équipes une visibilité et un contrôle centralisés pour protéger les données sensibles, appliquer des politiques et analyser l'activité de l'AI sans avoir à assembler des systèmes de gouvernance et de sécurité distincts.

« Avec Unity AI Gateway, nous disposons enfin d'une source unique de vérité sur la façon dont les outils de codage et les agents d'AI sont utilisés dans toute l'entreprise. Chaque requête passe par un plan de contrôle unique, avec des limites de débit, des garde-fous pour les PII et une attribution des coûts par utilisateur, le tout sur une infrastructure que nous possédions déjà. Ensuite, nous travaillons avec Databricks pour étendre cette même visibilité et ce même contrôle au reste de notre stack d'AI. Les agents vont continuer à devenir de plus en plus autonomes. Disposer d'un plan de contrôle gouverné unique signifie que nous surveillons une seule porte, pas une douzaine. » —Saravanan Lakshmanan, Tech Lead, Analytics Platforms, Rivian and Volkswagen Group Technologies (RV Tech)

« Chez OnePay, être tourné vers l'AI signifie donner à nos équipes un large accès à l'AI tout en honorant notre responsabilité en tant que gardiens des données financières de nos clients. Unity Catalog de Databricks est le socle de gouvernance sur lequel nous nous appuyons, et Unity AI Gateway étend cette même couche de confiance à nos outils d'AI, nos agents et nos frameworks de développement. Nos équipes peuvent désormais avancer plus vite, avec des garde-fous cohérents pour ne pas faire de compromis sur la qualité, l'efficacité ou l'observabilité. » —Nameet Pai, Head of Platform & Data Engineering, OnePay

Choix : un accès ouvert et multi-AI sans dépendance

Les développeurs veulent avoir la liberté de choisir les modèles, les fournisseurs, les agents de codage et les outils d'AI qui conviennent le mieux à leurs équipes, sans être enfermés dans un seul écosystème d'AI. Unity AI Gateway offre une approche ouverte et multi-AI de la gouvernance, étendant l'identité, les autorisations, les politiques et l'observabilité de Unity Catalog partout où les équipes développent.

Avec Unity Catalog, les entreprises peuvent enregistrer et découvrir des modèles hébergés par Databricks et externes, des agents de codage, des serveurs MCP et des compétences au sein d'une source unique de vérité. Unity AI Gateway applique ensuite la gouvernance lors des interactions avec ces actifs d'AI, étendant des autorisations, des politiques et des contrôles cohérents partout où ils sont utilisés. Les fournisseurs d'identité et outils de sécurité existants peuvent s'intégrer à ces workflows d'AI, offrant aux équipes la flexibilité d'adopter de nouvelles technologies d'AI sans reconstruire la gouvernance ni remplacer les contrôles d'entreprise de confiance.

Unity AI Gateway fournit également un accès natif aux modèles de pointe, notamment Anthropic, OpenAI, Gemini, Kimi, GLM, et plus encore, via une API à requête unique. Cela permet de changer de modèle très facilement et de rester à jour avec les dernières nouveautés.

“Unity AI Gateway étend la gouvernance de notre Unity Catalog aux points de terminaison de modèles externes, nous permettant de rester agnostiques vis-à-vis des agents de codage tout en donnant aux ingénieurs la liberté d'utiliser les outils qui leur conviennent le mieux. Dans le même temps, il offre une surveillance centralisée et un contrôle des coûts, avec la possibilité de suivre les dépenses AI, du niveau de l'ingénieur individuel jusqu'à des départements entiers.” —Bart Consedine, Responsable de l'ingénierie AI, Magnite

"Unity AI Gateway nous offre la flexibilité de choisir le bon modèle pour chaque tâche de codage sans sacrifier la gouvernance. Nous pouvons progresser rapidement à mesure que le paysage de l'AI évolue tout en maintenant des autorisations cohérentes, une observabilité centralisée et une totale confiance dans la manière dont l'AI est utilisée au sein de nos équipes d'ingénierie." —Naveen Rao, CEO, Unconventional AI

"Unity AI Gateway nous offre un espace unique pour gérer et gouverner le trafic AI au sein de notre organisation. Grâce à une observabilité intégrée et à des agents de codage standardisés capables de partager en toute sécurité des compétences gouvernées, il nous apporte les bases nécessaires pour faire évoluer l'adoption de l'AI en toute confiance."—Greg Rokita, VP of Technology, Edmunds

Démarrez avec Unity AI Gateway

Unity AI Gateway est désormais disponible pour tous, offrant aux organisations une approche unifiée de la gouvernance de l'AI qui concilie coût, contrôle et choix à mesure que l'adoption de l'AI se développe.

Pour en savoir plus :

• Explorez notre documentation sur AWS, Azure et GCP
• Visitez notre site Web
• Inscrivez-vous à notre webinaire sur la gouvernance de l'AI le 13 août, animé par Matei Zaharia, cofondateur et CTO de Databricks, et Kasey Uhlenhuth, directrice produit pour l'AI chez Databricks

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original