Une réflexion sur la manière dont Unity AI Gateway et Omnigent associent réduction des coûts, souveraineté des données, autonomie opérationnelle et flexibilité des modèles pour répondre aux exigences changeantes de la stratégie d'IA des entreprises.
par Jay Palaniappan, Elise Gonzales, Tanner Waggoner, Toby Messinger et Will Middlebrook
En tant qu'ingénieurs de terrain chez Databricks, nous passons nos journées au cœur des déploiements d'IA d'entreprise, où nous avons observé un changement net de stratégie. Après deux années de standardisation autour des fournisseurs de modèles de pointe, les entreprises réévaluent leur approche en raison de sept pressions clés :
1. Les dépenses ne génèrent pas un retour sur investissement suffisant. Les budgets d'IA ont dépassé la croissance des revenus et des économies de coûts, ce qui rend nécessaire une meilleure rentabilité unitaire [1].
2. Le classement des modèles n'a cessé d'évoluer depuis 2023. Le meilleur modèle pour le code, le raisonnement et l'extraction change d'un mois à l'autre, et le premier rang en matière d'intelligence a changé de mains plus de 20 fois depuis mai 2023 [2]. Les architectures liées à un seul fournisseur rendent plus difficile l'adoption d'un modèle supérieur à mesure que les classements évoluent.
3. Les barrières de sécurité des modèles de pointe peuvent bloquer des tâches légitimes. Les mesures de protection imposées par les laboratoires d'IA peuvent refuser des tâches légitimes, telles que l'analyse de logiciels malveillants en direct ou la reproduction d'une faille pour la corriger, une limite découverte lors du récent incident chez Hugging Face [6][7]. Lorsque les équipes de réponse de Hugging Face ont soumis de vrais journaux d'attaque et charges utiles d'exploitation à des modèles de pointe hébergés pour analyse, les barrières de sécurité ont refusé, et l'équipe a finalement exécuté l'analyse sur un modèle à poids ouverts (GLM 5.2).
4. Les politiques de conservation des données ont évolué et pourraient continuer à le faire. Certains fournisseurs de pointe se sont écartés des politiques de non-conservation des données (ZDR), à l'instar de la conservation minimale de 30 jours introduite avec le niveau de pointe d'Anthropic [8]. Pour les entreprises dont la politique de conformité repose sur le principe selon lequel « aucun prompt ni aucune complétion n'est jamais stocké », une modification de la politique en amont peut entraîner des problèmes et potentiellement nécessiter une mise à jour du système.
5. Les entreprises souhaitent de la visibilité et un contrôle sur la gouvernance des modèles. La demande pour une visibilité de bout en bout et une gouvernance sur l'ensemble des modèles d'IA est en plein essor. Les clients veulent des registres consultables des entrées, sorties, erreurs et actions des agents de modèles pour permettre aux équipes d'évaluer la précision et d'améliorer les performances, ainsi que des contrôles centralisés pour protéger les données sensibles et la propriété intellectuelle.
6. Le cadre d'exécution compte autant que le modèle. Les recherches de Databricks montrent que l'infrastructure autour d'un modèle, son ensemble de prompts, d'outils et de flux de contrôle, influence les performances mesurées. Dans le propre benchmark de Databricks, le même modèle a obtenu un score de 61,7 % dans un cadre, de 48,1 % dans un autre et de 38,4 % sans cadre [9]. Le choix du cadre modifiant les résultats des benchmarks, les évaluations doivent tester le modèle et son cadre conjointement.
7. Les modèles à poids ouverts ont rattrapé les modèles de pointe. Les meilleurs modèles à poids ouverts affichent désormais des performances de benchmark comparables à celles des meilleurs modèles de pointe, pour un coût inférieur [3][4][5]. Ce n'était pas le cas il y a dix-huit mois. Les modèles à poids ouverts atteignant des performances de niveau pointe modifient les compromis en matière de coût, de contrôle et de déploiement décrits dans les six autres points.
À travers ces observations, les entreprises cherchent à : 1) optimiser les coûts sans sacrifier les gains de productivité, 2) préserver leur liberté opérationnelle, et 3) veiller à ce que les implémentations d'IA puissent intégrer rapidement les innovations. Pour ce faire, elles ont besoin d'une architecture dans laquelle les modèles et les cadres peuvent changer sans affaiblir la gouvernance.
Les modèles à poids ouverts améliorent la rentabilité, le contrôle et la flexibilité par rapport aux modèles de pointe :

Source : [5] Classement DeepSWE par coût. Certains des meilleurs modèles à poids ouverts comparés à leurs équivalents propriétaires, filtrés à la discrétion des auteurs.
Unity Gateway prend en charge les modèles à poids ouverts et de pointe via une API unifiée dotée de contrôles de gouvernance centralisés, permettant aux équipes de basculer entre les modèles par le biais de la configuration ou du routage intelligent [10][11] plutôt que par des modifications de code ou d'autres abstractions [12][13].
La capacité multi-modèle d'Unity Gateway devient essentielle aux stratégies d'IA des clients. Depuis janvier, le nombre moyen de modèles uniques utilisés par client est passé de 4,2 à 7,1, ce qui témoigne des options disponibles sur Unity Catalog et de la recherche de modèles à plus fort retour sur investissement. Parmi ces modèles, environ 40 % étaient des modèles à poids ouverts.

Source : Données internes de Databricks de la semaine se terminant le 5 janvier 2026 à la semaine se terminant le 27 juillet 2026. Créé avec Genie One.
L'exploitation de grands modèles à poids ouverts avec des temps de réponse compétitifs nécessite une optimisation pour maintenir la rentabilité à grande échelle. Databricks relève les défis liés à la latence en s'appuyant sur des moteurs d'inférence adaptés et des noyaux optimisés déployés sur des GPU de pointe. Des évaluations indépendantes d'Artificial Analysis soulignent ces caractéristiques de performance : par exemple, GLM 5.3 (max) atteint un temps de réponse de bout en bout (incluant le traitement des entrées, le raisonnement et la génération) de 9,1 secondes sur Databricks [15], se positionnant favorablement aux côtés des points de terminaison gérés de premier plan [16].

Source : [15] Fournisseurs de modèles GLM 5.3 : Artificial Analysis
Voici quelques fonctionnalités clés pour vous aider à gouverner ces modèles et à maîtriser les coûts sur Unity Gateway :
Le lancement de GLM 5.2 a coïncidé avec une forte augmentation de l'utilisation des poids ouverts sur Unity Gateway. Après la mise à disposition de GLM 5.2 à la mi-juillet, son utilisation a augmenté. Dans le même temps, la croissance parmi les clients de Unity Gateway est restée relativement constante, ce qui suggère que les clients existants ont redirigé une plus grande partie du trafic d'IA vers des modèles à poids ouverts. Un mois seulement après son lancement, GLM 5.2 représente déjà environ 40 % des jetons de poids ouverts utilisés sur Unity Gateway, la majeure partie de cette croissance étant incrémentielle. Les performances de référence de GLM 5.3 et de Kimi K3 offrent aux clients une autre option de modèle à poids ouvert à évaluer aux côtés de GLM 5.2 [5].

Source : Données internes de Databricks de la semaine se terminant le 5 janvier 2026 à la semaine se terminant le 27 juillet 2026. Créé à l'aide de Genie One
Pour répondre à cette demande, Databricks a annoncé un tour de table de 3 milliards de dollars en juillet, et le PDG Ali Ghodsi a déclaré à CNBC que cette levée de fonds visait en partie à sécuriser la capacité GPU pour héberger des modèles ouverts. « Nous manquons de GPU partout... au Japon, en Corée, aux États-Unis et en Inde, nous avions donc simplement besoin d'en obtenir un grand nombre, ce qui nécessite beaucoup de financement. C'est donc ce qui a déclenché cette levée de fonds pour nous » [22].
L'environnement que vos développeurs utilisent déjà peut toujours exécuter des modèles à poids ouverts hébergés sur Databricks. Fin juillet, les modèles servis sur Unity Gateway, y compris GLM 5.3, peuvent s'exécuter dans des environnements de codage de fournisseurs tels que Codex et OpenCode [12][26], avec un support pour des environnements supplémentaires en cours de déploiement. La passerelle expose des points de terminaison compatibles avec OpenAI par environnement, de sorte que la configuration se résume à une modification de configuration. Pointez l'environnement vers l'URL de la passerelle de votre espace de travail, ou utilisez l'assistant ucode helper avec une seule ligne :
ucode codex --model system.ai.glm-5-3
Les entreprises devraient planifier un portefeuille de modèles, car aucun modèle ni fournisseur unique ne dominera en matière de qualité, de coût et de conformité aux politiques pour chaque charge de travail. Parmi les choix disponibles, les modèles à poids ouverts offrent désormais une intelligence concurrentielle à moindre coût et un meilleur contrôle de la gestion des données et des politiques de gouvernance. En revanche, les modèles de pointe restent utiles lorsqu'ils offrent de meilleurs résultats. Unity Gateway gère ces options par le biais de contrôles d'accès communs, de politiques de routage, de budgets et d'audits. Omnigent étend cette flexibilité à l'environnement, permettant ainsi aux équipes de changer de modèle ou d'environnement d'agent sans avoir à reconstruire les workflows.
Les données d'utilisation de cet article montrent que les clients s'orientent déjà dans cette direction. Ils déploient un plus grand nombre de modèles, dirigent davantage de trafic vers les poids ouverts et utilisent des environnements portables pour élargir leurs options. L'avantage durable réside dans la capacité à effectuer ces changements rapidement à mesure que les options de modèles, la qualité, la tarification et les exigences politiques évoluent.
[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025, juillet). The GenAI divide: State of AI in business 2025 (Résultats préliminaires de la recherche sur l'implémentation de l'IA). Project NANDA, Massachusetts Institute of Technology.
[2] LLM Leaderboard History: AI Rankings 2023-2026 Tracked, BenchLM
[3] Kimi K3 - Analyse de l'intelligence, des performances et des prix, Artificial Analysis
[4] GLM-5.3 (max) - Analyse de l'intelligence, des performances et des prix | Artificial Analysis
[5] Classement DeepSWE par coût
[6] Divulgation d'incident de sécurité, juillet 2026, Hugging Face Blog
[7] La faille de Hugging Face chez OpenAI montre que les garde-fous de l'IA de pointe échouent, Forbes, 23 juillet 2026
[8] Déclaration concernant la directive du gouvernement américain visant à suspendre l'accès à Fable 5 et Mythos 5
[9] Qu'est-ce qu'un framework d'agent IA ?, Databricks Blog
[10] Routage intelligent pour les agents de codage
[11] Routage intelligent dans Unity AI Gateway : obtenez la qualité des modèles de pointe avec un coût par tâche inférieur de 30 %+
[12] Modèles de fondation hébergés par Databricks, documentation Databricks
[13] Agent Bricks : Data + AI Summit 2026, Databricks Blog
[14] Configurer le routage et les solutions de repli pour les services de modèles
[15] Analyse et tests comparatifs des fournisseurs d'API GLM-5.3 (max)
[16] https://artificialanalysis.ai/models#end-to-end-response-time
[17] Gérer les fournisseurs de modèles externes (services de fournisseurs de modèles)
[18] Documentation de Databricks Unity AI Gateway
[19] Gérer les budgets pour Unity Gateway
[20] Unity AI Gateway : Comment connecter des agents à des MCP externes en toute sécurité, Databricks Blog
[21] Prise en charge des compétences dans Unity Gateway
[22] PDG de Databricks : Nous hébergeons des modèles open source comme Kimi et nous manquons de GPU, CNBC, 17 juillet 2026
[23] Modèles et informations d'identification, documentation Omnigent
[24] Évaluation comparative des agents de codage sur la base de code de plusieurs millions de lignes de Databricks
[25] Gouvernance des MCP à grande échelle avec Unity AI Gateway
[26] Utiliser des modèles Open Source avec des agents de codage
[27] Unity AI Gateway : Gouvernance multi-IA et contrôle des coûts, Databricks
[28] Présentation d'Omnigent : un méta-framework pour combiner, contrôler et partager vos agents, Databricks Blog
[29] Fournisseurs GLM-5.2 : Comparaison de la vitesse de génération, Artificial Analysis
[30] Présentation des contrôles des dépenses en IA avec Unity Gateway
[31] Présentation d'Omnigent : un méta-framework pour combiner, contrôler et partager vos agents
Découvrez comment gouverner, acheminer et surveiller les modèles à poids ouverts, de pointe et externes via une plateforme unifiée.
(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original
Abonnez-vous à notre blog et recevez les derniers articles directement dans votre boîte mail.