Ken Wong, Senior Director of Product Management chez Databricks, explique pourquoi chaque initiative d'IA d'entreprise finit par se heurter au même mur — et ce n'est pas le modèle.
Ken Wong, Sr. Director of Product Management chez Databricks, passe la majeure partie de son temps à réfléchir à une question devenue incontournable pour les dirigeants d'entreprise : si les modèles d'IA actuels sont déjà suffisamment performants, pourquoi l'IA d'entreprise n'a-t-elle pas apporté la transformation à laquelle tout le monde s'attendait ? Sa réponse est constante et, selon lui, largement mécomprise. Le problème n'a jamais été le niveau d'intelligence du modèle. C'est de savoir si le modèle comprend réellement le fonctionnement de votre entreprise.
Dans cette conversation, adaptée d'un récent webinar Databricks, Ken explique ce que signifie réellement le « contexte » dans un cadre d'entreprise, pourquoi les techniques qui fonctionnent pour un seul agent IA échouent à l'échelle de l'entreprise, et ce qu'il faut pour donner à chaque agent d'une organisation une compréhension partagée et digne de confiance de l'entreprise.
Si les derniers modèles sont capables de résoudre des mathématiques de niveau universitaire et d'écrire du code de production, pourquoi les entreprises peinent-elles encore à tirer de la valeur de l'IA ?
Ken Wong : Je pense qu'il est juste de dire que l'intelligence du modèle n'est plus le facteur bloquant. Qu'il s'agisse des derniers modèles d'OpenAI, d'Anthropic ou de Google, ces systèmes peuvent résoudre des problèmes avancés de mathématiques et de physique et rédiger du code dépassant les capacités de la plupart des ingénieurs logiciels. L'intelligence est concrètement un problème résolu pour la majorité des tâches d'entreprise. Et pourtant, nous n'avons pas vu les entreprises se transformer à la hauteur de ce que tous ces progrès laissaient espérer.
L'écart réside dans le contexte, tant sous forme de données que de connaissances spécifiques à votre entreprise. Il s'agit des connaissances uniques et différenciantes sur la manière dont votre organisation gère ses processus, sert son marché et comprend ses propres clients et produits. Comme l'a souligné la Harvard Business Review, lorsque les mêmes modèles de pointe sont à votre disposition et à celle de tous vos concurrents, le contexte est le seul élément qui différencie réellement vos agents. C'est la seule véritable source d'avantage concurrentiel qu'il reste.
Les gens considèrent souvent le « contexte » de l'IA comme un assistant qui se souvient de leurs préférences. Est-ce le même problème que vous décrivez ?
Ken Wong : C'est lié, mais ce n'est pas le problème des entreprises. Même un chatbot générique peut comprendre après quelques interactions que je travaille pour Databricks et adapter ses réponses en conséquence. C'est une forme réelle de contexte, permise par des éléments comme la mémoire ou les prompts système, mais il s'agit de personnalisation, et non du défi auquel les entreprises sont confrontées.
Le problème du contexte en entreprise réside dans l'ancrage (grounding). C'est la différence entre une IA capable d'accéder à des informations et une IA capable de puiser dans les sources de connaissances de votre organisation pour produire une réponse digne de confiance. De la même manière qu'un modèle peut ancrer une réponse en utilisant des ressources issues d'Internet, un agent d'entreprise doit ancrer ses réponses dans les connaissances propres à votre organisation. Sans cette capacité, l'IA doit soit admettre qu'elle ne sait pas, soit halluciner.
Que se passe-t-il lorsque vous posez une question métier à un agent sans lui fournir cet ancrage ?
Ken Wong : Si vous avez déjà utilisé un agent de codage, vous en avez déjà une petite idée. Les agents reposent sur ce que nous appelons une boucle agentique (agentic loop). Si vous demandez à un agent de répondre à une question sur la performance d'un produit sans informations supplémentaires, il va effectuer des itérations successives, explorant le paysage des données pour déterminer où elles se trouvent, comment elles sont structurées et s'il peut seulement répondre à votre question.
Prenons une question aussi simple que « quel était notre chiffre d'affaires au dernier trimestre ». Cela nécessite de comprendre des concepts qui ne figurent généralement pas directement dans les données. Sans contexte fourni de l'extérieur, la meilleure option de l'agent est principalement la force brute : deviner, tenter une analyse, analyser le résultat et réessayer si ce n'est pas suffisant. Ce processus peut prendre beaucoup de temps, consommer énormément de tokens généralement non mis en cache parce que vous gérez un contexte nouveau à chaque itération, et le coût le plus élevé réside dans la qualité de la réponse, car il n'y a pas de stratégie de référence permettant à l'agent de récupérer ce dont il a réellement besoin. Sans le bon contexte, demander à l'IA de résoudre un problème revient à demander de l'aide à un inconnu dans la rue. Même un inconnu très intelligent n'ira pas bien loin sans aide supplémentaire.
Vous avez mentionné des entreprises comme General Motors qui exécutent plus d'un millier d'agents Genie en production. Si cela est possible, que reste-t-il à résoudre ?
Ken Wong : C'est exactement la bonne question. GM a déployé des agents Genie pour les équipes commerciales, les ingénieurs automobiles, les spécialistes de la supply chain, les opérations RH et bien d'autres, tous ancrés dans le contexte spécifique de chaque secteur d'activité. Et ils ont bâtis cela sans embaucher une équipe massive d'ingénieurs en IA ou de data scientists. Ils se sont appuyés sur leurs experts métiers existants, car des produits comme les agents Genie ont rendu le traitement et la gestion du contexte pour un domaine spécifique beaucoup plus accessibles.
Il est donc réellement plus facile aujourd'hui de créer un agent bien ancré pour une tâche ou un domaine précis. Mais il n'existe pas de recette établie pour s'assurer que tous ces agents individuels partagent un contexte commun à l'échelle de toute l'entreprise. Sans cette compréhension partagée, il est impossible de faire interagir efficacement les agents entre eux ou d'optimiser le travail entre différents domaines. C'est là le véritable fossé du contexte en entreprise : les techniques qui fonctionnent bien pour fournir un bon contexte à un seul agent ne fonctionnent pas à l'échelle pour fournir à chaque agent de votre entreprise tout le contexte dont il a besoin.
Pourquoi le contexte se retrouve-t-il si fragmenté au départ ?
Ken Wong : Les agents sont déjà partout dans la plupart des organisations. Les équipes de développeurs utilisent des agents de codage. Les employés utilisent des agents pour effectuer des recherches et résumer des réunions. De plus en plus d'agents intégrés dans les outils d'analyse aident les utilisateurs à réaliser leurs propres analyses. C'est une excellente chose, cela génère un réel gain d'efficacité. Mais cela signifie également que le contexte capturé pour ces agents est dispersé dans tous ces outils.
Vous disposez peut-être d'un agent de données intégré à votre outil de BI, avec une logique métier capturée dans la couche sémantique de cet outil. Une équipe de recherche ou d'ingénierie peut maintenir des graphes de connaissances formels pour son propre cas d'usage. Chaque approche peut être optimale localement. Mais dès que vous avez un cas d'usage qui doit exploiter des informations dans l'ensemble de ces domaines, vous vous heurtez à des problèmes de gouvernance et d'autorité. Comment savoir quelle définition est correcte lorsque le même concept est défini à plusieurs endroits ? Unifier la gouvernance et maintenir une source d'autorité claire entre les domaines est essentiel pour étendre le contexte à l'ensemble de l'entreprise.
Au-delà de la fragmentation, quels autres défis apparaissent lorsqu'on essaie de formaliser le contexte d'entreprise ?
Ken Wong : Le contexte évolue en permanence, ce qui pose un réel probl ème pour les approches traditionnelles. Modéliser formellement le contexte dans des graphes, des taxonomies ou des couches sémantiques de BI fonctionne bien pour les parties mûres et stables de votre entreprise. Mais une grande partie de l'activité évolue trop vite pour espérer que tout soit modélisé au préalable avant que l'IA ne puisse l'utiliser.
Nous le constatons sans cesse chez Databricks. Nous lançons de nouveaux produits, nous réorientons les produits existants, et il nous arrive d'en renommer ou d'en rendre certains obsolètes. Si nous devions documenter formellement chacun de ces changements avant que notre propre IA puisse l'utiliser, ce ne serait pas tenable au vu de notre rythme. Tout système destiné à donner accès à l'ensemble de votre contexte à votre IA doit pouvoir capturer ces informations dynamiques et évolutives sans nécessiter de modélisation préalable pour chacune d'entre elles.
Comment votre approche gère-t-elle les situations où différentes équipes définissent la même chose de manière différente ?
Ken Wong : Le contexte est nuancé, et cette nuance est souvent un atout plutôt qu'un défaut à éliminer. Prenons l'exemple des réservations (bookings). Les réservations dans le domaine financier et les réservations dans le domaine commercial sont conceptuellement la même idée, mais les définitions spécifiques utilisées par ces deux équipes sont délibérément différentes. La définition de la finance doit suivre l'activité commerciale réelle, car elle nécessite un audit et un examen avant d'être officiellement comptabilisée. Si vous forcez un responsable commercial à utiliser la définition de la finance, vous allez paralyser sa capacité à gérer son équipe. Si vous forcez la finance à utiliser la définition commerciale, vous créerez un problème différent et bien plus grave.
L'équipe d'analyse interne d'Anthropic a publié un article sur ce sujet précis. Elle a d'abord tenté d'utiliser l'IA pour établir une définition unique et canonique pour les métriques couramment utilisées, et s'est rendu compte que cela éliminait la nuance dont ces différentes équipes avaient réellement besoin. Elle a constaté qu'il valait mieux disposer d'un ensemble restreint de définitions formelles et laisser l'agent gérer l'ambiguïté restante par le raisonnement. C'est une excellente lecture, qui rejoint parfaitement ce que nous avons conçu : un système capable de gérer simultanément plusieurs définitions parfois contradictoires, et de raisonner pour déterminer laquelle s'applique en fonction de l'interlocuteur et du contexte.
Alors, comment Genie Ontology répond-il à tout cela ?
Ken Wong : Genie Ontology est une couche de contexte unifiée qui fournit à Genie une cartographie complète et adaptée aux enjeux métier de votre entreprise. Elle rassemble deux catégories de connaissances : le contexte soigneusement préparé et certifié par les utilisateurs, et les connaissances acquises automatiquement en observant le fonctionnement de vos systèmes et de vos équipes. Combiner ces deux aspects au sein d'une couche de connaissances unique et gouvernée permet à chaque agent connecté à Databricks, ou connecté via le Genie MCP, de travailler à partir d'une même vision cohérente de l'entreprise.
C'est ce qui rend possible une expérience comme Genie One : des réponses précises à l'ensemble des questions et tâches des utilisateurs, sans que chaque agent doive redécouvrir l'entreprise à partir de zéro. Le véritable changement que nous proposons ne consiste pas à optimiser le contexte pour un cas d'usage ou un agent particulier. Il s'agit de trouver une stratégie évolutive pour que l'ensemble du contexte métier soit accessible à tous vos agents simultanément.
Découvrez comment Genie Ontology offre à chaque agent de votre entreprise une compréhension partagée et gouvernée de votre activité. Découvrir Genie Ontology.
(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original
Abonnez-vous à notre blog et recevez les derniers articles directement dans votre boîte mail.