Les agents sont prêts, mais votre architecture ne l'est probablement pas

La question qui se pose actuellement dans les conseils d'administration et les sessions de stratégie de données est la suivante : pourquoi tant d'initiatives d'IA génèrent-elles de l'activité sans générer de valeur ? Cela semble simple jusqu'à ce que vous essayiez d'y répondre.

Arsalan Tavakoli-Shiraji a observé ce schéma se reproduire dans des centaines de conversations d'entreprise. En tant que cofondateur et vice-président senior de l'ingénierie sur le terrain chez Databricks, il se trouve à l'intersection de l'architecture technique et de la stratégie commerciale de l'IA.

Au cours de cette conversation, Arsalan et moi avons discuté de ce que les CDO et les CTO doivent comprendre pour mettre en production des systèmes agentiques, des types de défaillances de gouvernance qui apparaissent une fois que l'IA passe de la production de résultats à la prise d'actions — envoi de messages, mise à jour d'enregistrements, exécution de décisions — et comment obtenir un succès significatif sans créer le genre de prolifération de l'IA qui hante les organisations pendant des années.

La distance entre l'activité de l'IA et la valeur de l'IA

Catherine Brown : Vous travaillez avec des entreprises à tous les stades de l'adoption de l'IA. Où se situent la plupart d'entre elles, honnêtement ?

Arsalan Tavakoli-Shiraji : Quelques catégories différentes. Certaines sont encore en phase d'expérimentation — elles se familiarisent avec les modèles, mènent des projets pilotes, voient ce qui est possible. D'autres ont progressé et automatisent des tâches spécifiques : générer du texte, transcrire des notes, permettre aux gens de poser des questions sur leurs données. Et puis il y a le groupe beaucoup plus restreint qui a compris comment concevoir dès le départ en tenant compte des capacités de l'IA. La plupart des organisations se situent encore dans les deux premières catégories. Il y a beaucoup de prolifération de l'IA, beaucoup d'activité liée à l'IA. Il y a beaucoup moins de valeur de l'IA.

La grande différence est le point de départ. Ceux qui parviennent à une valeur significative commencent par le résultat qu'ils veulent obtenir — une productivité accrue, une nouvelle capacité commerciale, une réduction des risques — et travaillent à rebours. Ils ne commencent pas par la technologie.

Catherine : Quelle est l'erreur architecturale la plus courante qui empêche les systèmes agentiques d'atteindre la production ?

Arsalan : L'erreur que je vois le plus souvent est de penser que la sélection d'un modèle est la partie difficile. Actuellement, obtenir un modèle de fondation de haute qualité est la partie la plus facile du problème. La partie la plus difficile est tout ce qui se trouve en dessous.

Dans l'entreprise, il faut réfléchir à plusieurs choses. Où se trouvent vos données et comment vous y connectez-vous ? La plupart des organisations ont des données réparties dans une douzaine d'endroits différents, enfermées dans des formats propriétaires qui ne communiquent pas entre eux. Et une fois que vous commencez à lier des agents à ces données, vous avez besoin d'une gouvernance sérieuse. Pas seulement une gouvernance sur les données elles-mêmes, mais une gouvernance qui comprend les agents : ce qu'ils font, les permissions qu'ils ont, où ils vont, et comment plusieurs agents de plusieurs systèmes se connectent. Et enfin, les agents ont besoin d'une compréhension sémantique approfondie de votre organisation. Ce sont, en effet, des travailleurs virtuels exécutant des tâches en votre nom. Ils doivent savoir ce qui est bien, quelles sont les définitions et les métriques clés, et quel est le contexte réel de l'entreprise.

L'anti-modèle est simple : des données enfermées dans des silos, une gouvernance ignorée ou traitée comme un problème secondaire, puis une course pour comprendre pourquoi les agents ne fonctionnent pas en production. Les organisations échouent sur ces trois points presque à chaque fois.

Pourquoi les tableaux de bord et les pipelines de traitement par lots sont une mauvaise base

Catherine : Structurellement, pourquoi les tableaux de bord et les pipelines de traitement par lots sont-ils inadaptés aux besoins futurs des entreprises ?

Arsalan : Ce sont des pansements. Les tableaux de bord fournissent un point de référence visuel qui reste important pour les entreprises lorsqu'elles prennent des décisions. Mais la plupart sont construits pour répondre à une question que quelqu'un a posée une seule fois. Ils sont créés, consultés quelques fois, puis rejoignent ce que j'appellerais le cimetière des tableaux de bord.

Les tableaux de bord sont également difficiles à interroger. Vous voyez quelque chose dans les données et vous voulez savoir pourquoi cela s'est produit. Vous voulez le lier à un événement, creuser en dessous et poser une question de suivi. Historiquement, cela signifie que quelqu'un part, extrait les données sous-jacentes, effectue une analyse et revient vers vous. Cette latence est brutale dans un monde où les choses évoluent rapidement.

Les pipelines de traitement par lots ont un problème similaire. Le traitement par lots avait du sens lorsque les décisions se prenaient suffisamment lentement pour que des données quotidiennes ou hebdomadaires soient suffisantes. Mais dans un monde agentique, la fenêtre entre le moment où vous voyez quelque chose et le moment où vous pouvez agir se réduit rapidement. Lorsque vous avez des systèmes déconnectés fonctionnant sur des cycles de traitement par lots, vous ne pouvez tout simplement pas réagir à la vitesse requise par les agents.

Ce que Lakebase résout réellement

Catherine : Alors que les entreprises passent de l'expérimentation de l'IA à l'exécution agentique, où se situe Lakebase ?

Arsalan : L'infrastructure que la plupart des organisations ont construite autour de leurs couches d'analyse et de leurs entrepôts de données a été conçue pour un type de travail spécifique : les requêtes à grande échelle, les informations agrégées et les analystes humains exécutant des rapports. C'est une charge de travail fondamentalement différente de ce que les applications agentiques exigent.

Lorsque vous commencez à construire pour des agents, vous construisez pour un consommateur très différent. Pensez à une entreprise de télécommunications qui souhaite mettre une application intelligente entre les mains de chaque technicien de terrain. Ou à une société de gestion de patrimoine déployant un assistant IA pour chacun de ses conseillers. Ou à un détaillant affichant des recommandations en temps réel au point de vente. Ces applications doivent servir un nombre énorme d'utilisateurs simultanément avec une très faible latence. Et tout cela doit se faire à un coût qui a du sens à l'échelle.

C'est là qu'intervient Lakebase. Les agents ont besoin d'une base de données transactionnelle, et non d'une base de données analytique. Et ils en ont besoin d'une construite spécifiquement pour les exigences du monde agentique. Lakebase est cette fondation. C'est ce qui permet aux organisations de passer de l'expérimentation de l'IA à son exécution à grande échelle en production et sans que l'infrastructure ne s'effondre sous la charge. Et, elle fonctionne aux côtés de la couche analytique que les organisations possèdent déjà. Ce n'est pas un remplacement. C'est la pièce manquante.

Défaillances de gouvernance lorsque les agents agissent

Catherine : Quelles défaillances de gouvernance ont tendance à émerger une fois que les systèmes cessent de générer uniquement des résultats et commencent réellement à agir ?

Arsalan :

Il est courant de supposer que quelles que soient les permissions d'une personne, son agent devrait également avoir ces permissions. Et bien que cette logique ait du sens, la réalité est que presque aucune organisation n'a des permissions parfaitement configurées pour chaque personne et dans chaque système. Les humains naviguent imparfaitement dans cette réalité, mais parce que nous avons des intuitions, nous pouvons contourner les défis. Nous avons une conscience du contexte qui nous dit : « oui, techniquement je peux faire cela. Mais je ne devrais probablement pas le faire sans vérifier d'abord. » Les agents n'ont pas cette conscience situationnelle. Ils ont un objectif et un ensemble de contraintes. Et ils trouvent un chemin vers l'objectif dans ces contraintes.

Lorsque les agents ne génèrent que des résultats, le pire scénario est qu'ils génèrent du contenu de faible qualité. Lorsqu'ils commencent à agir, à envoyer des messages, à passer des commandes, à supprimer des enregistrements, à communiquer en votre nom, les enjeux sont complètement différents. La gouvernance est l'une des pièces maîtresses qui détermine si vous pouvez réellement tirer de la valeur des agents. Les entreprises qui réussiront sont celles qui traitent la gouvernance comme un prérequis, et non comme une réflexion après coup.

Le chemin le plus rapide vers le succès

Catherine : Quel est le chemin le plus rapide que vous ayez vu pour un déploiement réussi d'agents IA sans créer davantage de prolifération technologique ?

Arsalan : Deux choses se distinguent. Premièrement, la clarté sur ce à quoi ressemble le succès avant de commencer. Cela semble évident, mais la plupart des équipes l'ignorent. Si vous ne pouvez pas définir le résultat spécifique que vous visez (tel que le gain de productivité, une nouvelle capacité de revenus, la réduction des coûts, l'évitement des risques), alors vous ne pouvez pas travailler à rebours pour trouver la bonne approche. La technologie n'est pas l'objectif.

La seconde est l'isolement. Il est vraiment difficile de transformer une grande équipe critique de l'intérieur vers l'extérieur pendant qu'elle continue ses tâches quotidiennes. Ce que je vois fonctionner, c'est la mise en place d'une petite équipe pilote ciblée avec un cas d'utilisation clairement défini, en leur donnant la liberté d'itérer rapidement et en les éloignant de la dette technique héritée et des contraintes politiques existantes. Ils ne sont pas entravés, donc ils avancent vite. Vous apprenez ce à quoi ressemble réellement le succès dans un contexte réel. Et ensuite, vous prenez ces apprentissages et vous déterminez comment les adapter et les étendre à l'ensemble de l'organisation. Vous voulez pouvoir découvrir ce qui fonctionne rapidement, puis passer à l'échelle rapidement une fois que vous l'avez fait.

La vérité inconfortable sur l'ère agentique

Catherine : Quelle est la vérité inconfortable que les dirigeants doivent accepter concernant la refonte pour ce moment ?

Arsalan : Du point de vue de l'infrastructure, l'ère agentique exige un ensemble de composants essentiels qui doivent fonctionner ensemble : une couche analytique gouvernée, une base de données transactionnelle capable de gérer la vitesse et l'échelle exigées par les agents, une plateforme pour construire et surveiller ces agents, et une couche d'application que les gens peuvent réellement utiliser.

Chez Databricks, Lakebase ancre le côté transactionnel. AgentBricks fournit la couche de développement et de surveillance pour la création et la gestion d'agents à l'échelle. Databricks Apps vous offre la couche d'application pour offrir ces expériences aux utilisateurs finaux. Et Genie est la façon dont les gens interagissent réellement avec leurs données — l'interface conversationnelle qui permet aux utilisateurs métier de poser des questions et d'obtenir des réponses sans l'intervention d'un analyste de données. Si vous atteignez l'échelle, en exécutant non pas des dizaines mais potentiellement des milliers d'agents, vous avez besoin d'un système où toutes ces pièces ont été conçues pour fonctionner ensemble dès le départ.

Mais la vérité plus difficile est la suivante : les entreprises qui tireront le meilleur parti de ce moment sont celles qui sont prêtes à repenser le processus sous-jacent, et non pas seulement à ajouter de l'IA par-dessus l'existant. Il existe un exemple bien connu de la deuxième révolution industrielle. Les usines qui ont remplacé les machines à vapeur par des machines électriques mais ont conservé la même disposition de l'usine n'ont obtenu presque aucun gain d'efficacité. La technologie a changé. Le système non. C'est exactement là où se trouvent de nombreuses organisations actuellement.

Les équipes qui commencent à se demander "si nous construisions cela à partir de zéro en gardant à l'esprit les capacités d'IA, à quoi cela ressemblerait-il ?" Ce sont celles qui verront des résultats transformationnels. Cela nécessite une gestion du changement, une activation et une définition claire de ce qui constitue un bon résultat. Rien de tout cela n'est facile. Mais les organisations qui réussissent s'attaquent à tout cela ensemble, et non pas pièce par pièce.

Le système est la stratégie

La question que les CDO et les CTO devraient se poser actuellement n'est pas de savoir s'il faut investir dans l'IA agentique. Cette décision a été largement prise par le marché. La question est de savoir si le système sous-jacent, l'architecture de données, la couche de gouvernance, l'infrastructure transactionnelle, la plateforme de développement, est réellement conçu pour ce qu'ils essaient de faire.

Pour en savoir plus sur l'élaboration d'une feuille de route pour intégrer l'IA dans votre entreprise, téléchargez le State of AI Agents.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original