Revenir au contenu principal
Plateforme

Pourquoi les entreprises adoptent les modèles à poids ouverts sur Databricks

Une réflexion sur la manière dont Unity AI Gateway et Omnigent associent réduction des coûts, souveraineté des données, autonomie opérationnelle et flexibilité des modèles pour répondre aux exigences changeantes de la stratégie d'IA des entreprises.

par Jay Palaniappan, Elise Gonzales, Tanner Waggoner, Toby Messinger et Will Middlebrook

  • Les modèles à poids ouverts approchent désormais l'intelligence des modèles de pointe à moindre coût tout en offrant aux entreprises la souveraineté des données et une autonomie opérationnelle.
  • Unity AI Gateway dessert des modèles à poids ouverts, de pointe et externes via une seule API gouvernée offrant une inférence rapide, un routage intelligent, des solutions de secours et des contrôles budgétaires.

En tant qu'ingénieurs de terrain chez Databricks, nous passons nos journées au cœur des déploiements d'IA d'entreprise, où nous avons observé un changement net de stratégie. Après deux années de standardisation autour des fournisseurs de modèles de pointe, les entreprises réévaluent leur approche en raison de sept pressions clés :

Sept observations qui façonnent la stratégie d'IA

1. Les dépenses ne génèrent pas un retour sur investissement suffisant. Les budgets d'IA ont dépassé la croissance des revenus et des économies de coûts, ce qui rend nécessaire une meilleure rentabilité unitaire [1].

2. Le classement des modèles n'a cessé d'évoluer depuis 2023. Le meilleur modèle pour le code, le raisonnement et l'extraction change d'un mois à l'autre, et le premier rang en matière d'intelligence a changé de mains plus de 20 fois depuis mai 2023 [2]. Les architectures liées à un seul fournisseur rendent plus difficile l'adoption d'un modèle supérieur à mesure que les classements évoluent.

3. Les barrières de sécurité des modèles de pointe peuvent bloquer des tâches légitimes. Les mesures de protection imposées par les laboratoires d'IA peuvent refuser des tâches légitimes, telles que l'analyse de logiciels malveillants en direct ou la reproduction d'une faille pour la corriger, une limite découverte lors du récent incident chez Hugging Face [6][7]. Lorsque les équipes de réponse de Hugging Face ont soumis de vrais journaux d'attaque et charges utiles d'exploitation à des modèles de pointe hébergés pour analyse, les barrières de sécurité ont refusé, et l'équipe a finalement exécuté l'analyse sur un modèle à poids ouverts (GLM 5.2).

4. Les politiques de conservation des données ont évolué et pourraient continuer à le faire. Certains fournisseurs de pointe se sont écartés des politiques de non-conservation des données (ZDR), à l'instar de la conservation minimale de 30 jours introduite avec le niveau de pointe d'Anthropic [8]. Pour les entreprises dont la politique de conformité repose sur le principe selon lequel « aucun prompt ni aucune complétion n'est jamais stocké », une modification de la politique en amont peut entraîner des problèmes et potentiellement nécessiter une mise à jour du système.

5. Les entreprises souhaitent de la visibilité et un contrôle sur la gouvernance des modèles. La demande pour une visibilité de bout en bout et une gouvernance sur l'ensemble des modèles d'IA est en plein essor. Les clients veulent des registres consultables des entrées, sorties, erreurs et actions des agents de modèles pour permettre aux équipes d'évaluer la précision et d'améliorer les performances, ainsi que des contrôles centralisés pour protéger les données sensibles et la propriété intellectuelle.

6. Le cadre d'exécution compte autant que le modèle. Les recherches de Databricks montrent que l'infrastructure autour d'un modèle, son ensemble de prompts, d'outils et de flux de contrôle, influence les performances mesurées. Dans le propre benchmark de Databricks, le même modèle a obtenu un score de 61,7 % dans un cadre, de 48,1 % dans un autre et de 38,4 % sans cadre [9]. Le choix du cadre modifiant les résultats des benchmarks, les évaluations doivent tester le modèle et son cadre conjointement.

7. Les modèles à poids ouverts ont rattrapé les modèles de pointe. Les meilleurs modèles à poids ouverts affichent désormais des performances de benchmark comparables à celles des meilleurs modèles de pointe, pour un coût inférieur [3][4][5]. Ce n'était pas le cas il y a dix-huit mois. Les modèles à poids ouverts atteignant des performances de niveau pointe modifient les compromis en matière de coût, de contrôle et de déploiement décrits dans les six autres points.

À travers ces observations, les entreprises cherchent à : 1) optimiser les coûts sans sacrifier les gains de productivité, 2) préserver leur liberté opérationnelle, et 3) veiller à ce que les implémentations d'IA puissent intégrer rapidement les innovations. Pour ce faire, elles ont besoin d'une architecture dans laquelle les modèles et les cadres peuvent changer sans affaiblir la gouvernance.

L'attrait des modèles à poids ouverts

Les modèles à poids ouverts améliorent la rentabilité, le contrôle et la flexibilité par rapport aux modèles de pointe :

  • Intelligence banalisée : À mesure que l'intelligence des modèles devient une commodité, les options à poids ouverts offrent désormais une parité d'intelligence avec les meilleurs modèles de pointe à une fraction du coût, permettant un meilleur retour sur investissement sur les déploiements d'IA.
  • Souveraineté des données : L'hébergement de modèles sur une infrastructure contrôlable donne aux équipes le pouvoir de gérer la conformité, la sécurité et les politiques de conservation des données, tout en réduisant le risque de changements non conformes à l'avenir.
  • Autonomie opérationnelle complète : Les modèles à poids ouverts permettent aux équipes d'exécuter des charges de travail que les barrières de sécurité des modèles de pointe peuvent bloquer (par exemple, la réponse aux incidents de cybersécurité).

image4.png

Source : [5] Classement DeepSWE par coût. Certains des meilleurs modèles à poids ouverts comparés à leurs équivalents propriétaires, filtrés à la discrétion des auteurs.

Les avantages de l'utilisation de modèles à poids ouverts sur Unity Gateway

Exploitez des modèles à poids ouverts aux côtés de modèles de pointe

Unity Gateway prend en charge les modèles à poids ouverts et de pointe via une API unifiée dotée de contrôles de gouvernance centralisés, permettant aux équipes de basculer entre les modèles par le biais de la configuration ou du routage intelligent [10][11] plutôt que par des modifications de code ou d'autres abstractions [12][13].

La capacité multi-modèle d'Unity Gateway devient essentielle aux stratégies d'IA des clients. Depuis janvier, le nombre moyen de modèles uniques utilisés par client est passé de 4,2 à 7,1, ce qui témoigne des options disponibles sur Unity Catalog et de la recherche de modèles à plus fort retour sur investissement. Parmi ces modèles, environ 40 % étaient des modèles à poids ouverts.

image2.png

Source : Données internes de Databricks de la semaine se terminant le 5 janvier 2026 à la semaine se terminant le 27 juillet 2026. Créé avec Genie One.

Utilisez de grands modèles à poids ouverts à des vitesses de pointe

L'exploitation de grands modèles à poids ouverts avec des temps de réponse compétitifs nécessite une optimisation pour maintenir la rentabilité à grande échelle. Databricks relève les défis liés à la latence en s'appuyant sur des moteurs d'inférence adaptés et des noyaux optimisés déployés sur des GPU de pointe. Des évaluations indépendantes d'Artificial Analysis soulignent ces caractéristiques de performance : par exemple, GLM 5.3 (max) atteint un temps de réponse de bout en bout (incluant le traitement des entrées, le raisonnement et la génération) de 9,1 secondes sur Databricks [15], se positionnant favorablement aux côtés des points de terminaison gérés de premier plan [16].

image1.png

Source : [15] Fournisseurs de modèles GLM 5.3 : Artificial Analysis

Gouvernez les coûts et l'utilisation de tous les modèles à partir d'un emplacement unique

Voici quelques fonctionnalités clés pour vous aider à gouverner ces modèles et à maîtriser les coûts sur Unity Gateway :

  • Le routage intelligent envoie les sessions vers le modèle le plus rentable pour la tâche, ce qui permet de détourner les tâches de routine des modèles de pointe [10][11].
  • Les chaînes de secours réorientent automatiquement le trafic en cas de dépassement des limites de débit des modèles ou de pannes des fournisseurs [14].
  • Les budgets avec plafonds de dépenses par utilisateur, équipe ou cas d'usage préviennent les dépenses excessives [19][30]. Ces limites peuvent être configurées avec différents niveaux de sévérité, allant d'avertissements souples à des politiques strictes qui réorientent les sessions vers des modèles moins coûteux.
  • Gouvernance centralisée pour les outils et les compétences. En plus des serveurs MCP intégrés, Unity Catalog prend en charge l'enregistrement de serveurs MCP externes qui s'exécutent via des proxys gérés et font l'objet d'un audit centralisé. Par conséquent, les agents obtiennent leurs outils avec la même gouvernance que leurs modèles [20]. Les compétences [21] peuvent également être enregistrées et régies, ce qui améliore le déterminisme et l'efficacité des jetons pour les workflows répétitifs.
  • Gouvernance unifiée entre les modèles à poids ouverts, externes et de pointe. Connectez des fournisseurs de modèles externes (par exemple, Amazon Bedrock, Azure AI Foundry) par le biais de services de fournisseurs de modèles [17] et acheminez les requêtes via la même couche de gouvernance centrale utilisée pour les modèles à poids ouverts et de pointe hébergés sur Databricks [18]. Gérez l'accès, les contrôles des dépenses et les pistes d'audit pour l'ensemble de votre portefeuille de modèles à partir d'une seule plateforme.

Les entreprises transfèrent leurs charges de travail vers des modèles à poids ouverts

Le lancement de GLM 5.2 a coïncidé avec une forte augmentation de l'utilisation des poids ouverts sur Unity Gateway. Après la mise à disposition de GLM 5.2 à la mi-juillet, son utilisation a augmenté. Dans le même temps, la croissance parmi les clients de Unity Gateway est restée relativement constante, ce qui suggère que les clients existants ont redirigé une plus grande partie du trafic d'IA vers des modèles à poids ouverts. Un mois seulement après son lancement, GLM 5.2 représente déjà environ 40 % des jetons de poids ouverts utilisés sur Unity Gateway, la majeure partie de cette croissance étant incrémentielle. Les performances de référence de GLM 5.3 et de Kimi K3 offrent aux clients une autre option de modèle à poids ouvert à évaluer aux côtés de GLM 5.2 [5].

image3.png

Source : Données internes de Databricks de la semaine se terminant le 5 janvier 2026 à la semaine se terminant le 27 juillet 2026. Créé à l'aide de Genie One

Pour répondre à cette demande, Databricks a annoncé un tour de table de 3 milliards de dollars en juillet, et le PDG Ali Ghodsi a déclaré à CNBC que cette levée de fonds visait en partie à sécuriser la capacité GPU pour héberger des modèles ouverts. « Nous manquons de GPU partout... au Japon, en Corée, aux États-Unis et en Inde, nous avions donc simplement besoin d'en obtenir un grand nombre, ce qui nécessite beaucoup de financement. C'est donc ce qui a déclenché cette levée de fonds pour nous » [22].

Accédez aux modèles à poids ouverts dans les environnements de fournisseurs avec Unity Gateway

L'environnement que vos développeurs utilisent déjà peut toujours exécuter des modèles à poids ouverts hébergés sur Databricks. Fin juillet, les modèles servis sur Unity Gateway, y compris GLM 5.3, peuvent s'exécuter dans des environnements de codage de fournisseurs tels que Codex et OpenCode [12][26], avec un support pour des environnements supplémentaires en cours de déploiement. La passerelle expose des points de terminaison compatibles avec OpenAI par environnement, de sorte que la configuration se résume à une modification de configuration. Pointez l'environnement vers l'URL de la passerelle de votre espace de travail, ou utilisez l'assistant ucode helper avec une seule ligne :

ucode codex --model system.ai.glm-5-3

Réflexions finales

Les entreprises devraient planifier un portefeuille de modèles, car aucun modèle ni fournisseur unique ne dominera en matière de qualité, de coût et de conformité aux politiques pour chaque charge de travail. Parmi les choix disponibles, les modèles à poids ouverts offrent désormais une intelligence concurrentielle à moindre coût et un meilleur contrôle de la gestion des données et des politiques de gouvernance. En revanche, les modèles de pointe restent utiles lorsqu'ils offrent de meilleurs résultats. Unity Gateway gère ces options par le biais de contrôles d'accès communs, de politiques de routage, de budgets et d'audits. Omnigent étend cette flexibilité à l'environnement, permettant ainsi aux équipes de changer de modèle ou d'environnement d'agent sans avoir à reconstruire les workflows.

Les données d'utilisation de cet article montrent que les clients s'orientent déjà dans cette direction. Ils déploient un plus grand nombre de modèles, dirigent davantage de trafic vers les poids ouverts et utilisent des environnements portables pour élargir leurs options. L'avantage durable réside dans la capacité à effectuer ces changements rapidement à mesure que les options de modèles, la qualité, la tarification et les exigences politiques évoluent.

Sources

[1] Nanda, M., Challapally, A., Pease, C., Raskar, R., & Chari, P. (2025, juillet). The GenAI divide: State of AI in business 2025 (Résultats préliminaires de la recherche sur l'implémentation de l'IA). Project NANDA, Massachusetts Institute of Technology. 
[2] LLM Leaderboard History: AI Rankings 2023-2026 Tracked, BenchLM 
[3] Kimi K3 - Analyse de l'intelligence, des performances et des prix, Artificial Analysis 
[4] GLM-5.3 (max) - Analyse de l'intelligence, des performances et des prix | Artificial Analysis 
[5] Classement DeepSWE par coût 
[6] Divulgation d'incident de sécurité, juillet 2026, Hugging Face Blog 
[7] La faille de Hugging Face chez OpenAI montre que les garde-fous de l'IA de pointe échouent, Forbes, 23 juillet 2026 
[8] Déclaration concernant la directive du gouvernement américain visant à suspendre l'accès à Fable 5 et Mythos 5 
[9] Qu'est-ce qu'un framework d'agent IA ?, Databricks Blog 
[10] Routage intelligent pour les agents de codage 
[11] Routage intelligent dans Unity AI Gateway : obtenez la qualité des modèles de pointe avec un coût par tâche inférieur de 30 %+ 
[12] Modèles de fondation hébergés par Databricks, documentation Databricks 
[13] Agent Bricks : Data + AI Summit 2026, Databricks Blog 
[14] Configurer le routage et les solutions de repli pour les services de modèles 
[15] Analyse et tests comparatifs des fournisseurs d'API GLM-5.3 (max) 
[16] https://artificialanalysis.ai/models#end-to-end-response-time 
[17] Gérer les fournisseurs de modèles externes (services de fournisseurs de modèles) 
[18] Documentation de Databricks Unity AI Gateway 
[19] Gérer les budgets pour Unity Gateway 
[20] Unity AI Gateway : Comment connecter des agents à des MCP externes en toute sécurité, Databricks Blog 
[21] Prise en charge des compétences dans Unity Gateway 
[22] PDG de Databricks : Nous hébergeons des modèles open source comme Kimi et nous manquons de GPU, CNBC, 17 juillet 2026 
[23] Modèles et informations d'identification, documentation Omnigent 
[24] Évaluation comparative des agents de codage sur la base de code de plusieurs millions de lignes de Databricks 
[25] Gouvernance des MCP à grande échelle avec Unity AI Gateway 
[26] Utiliser des modèles Open Source avec des agents de codage 
[27] Unity AI Gateway : Gouvernance multi-IA et contrôle des coûts, Databricks 
[28] Présentation d'Omnigent : un méta-framework pour combiner, contrôler et partager vos agents, Databricks Blog 
[29] Fournisseurs GLM-5.2 : Comparaison de la vitesse de génération, Artificial Analysis 
[30] Présentation des contrôles des dépenses en IA avec Unity Gateway 
[31] Présentation d'Omnigent : un méta-framework pour combiner, contrôler et partager vos agents

Explorer Unity AI Gateway

Découvrez comment gouverner, acheminer et surveiller les modèles à poids ouverts, de pointe et externes via une plateforme unifiée.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original

Tags associés:

Recherche en IA

Recevez les derniers articles dans votre boîte mail

Abonnez-vous à notre blog et recevez les derniers articles directement dans votre boîte mail.