Des projets d'IA à une capacité opérationnelle

Alors que les entreprises dépassent les pilotes et les preuves de concept, une nouvelle question émerge dans les conversations des dirigeants : quand l'IA cessera-t-elle d'être une série de projets pour devenir partie intégrante du fonctionnement de l'entreprise ?

Naveen Zutshi, CIO chez Databricks, collabore étroitement avec les CIO et les dirigeants d'entreprise qui gèrent la transition de l'expérimentation à l'IA à l'échelle de l'entreprise. Dans cette session de Q&R, Naveen s'appuie sur ses précédentes fonctions de direction dans des entreprises comme Palo Alto Networks, Gap Inc. et Walmart, où il a mené des efforts de modernisation complexes qui ont transformé des environnements hérités en architectures évolutives et cloud-first.

Ce qui est ressorti de notre conversation est clair : le point d'inflexion ne concerne pas les modèles. Il s'agit de modernisation, de gouvernance et de discipline opérationnelle.

L'IA passe des expérimentations au P&L

Catherine : Quel est, selon vous, le signe le plus clair que l'expérimentation en matière d'IA cède la place à l'IA en tant que capacité opérationnelle ?

Naveen : Je pense que le secteur d'activité a encore du travail à faire pour générer une réelle valeur à partir de l'IA. Mais au cours des six à douze derniers mois, j'ai constaté un changement remarquable. Je passe du temps avec des DSI et des chefs d'entreprise de tous les secteurs d'activité, et trois tendances se dégagent.

Premièrement, j'entends de plus en plus d'exemples concrets d'utilisation de l'IA dans le travail quotidien. Il est intéressant de noter que les Secteurs d'activité réglementés qui étaient considérés comme étant à la traîne dans le cloud, comme la santé et les services financiers par exemple, sont désormais des précurseurs. L'IA est utilisée pour l'automatisation du back-office, la détection des fraudes, la génération d'alpha dans les rendements d'investissement, la prise de notes par les cliniciens, la découverte de médicaments, et même le soutien et la prévention des centres de crise. Deuxièmement, les chefs d'entreprise participent de plus en plus à la conversation. Historiquement, les discussions sur l'IA étaient dominées par les data engineers et les data scientists. Aujourd'hui, les groupes de travail viennent à la table des négociations pour discuter de la manière dont les données et l'IA peuvent transformer leurs fonctions. Plus important encore, ils partagent des exemples sur la façon dont ils l'ont déjà fait. L'IA est vraiment là lorsqu'elle apparaît dans les KPI de l'entreprise.

Troisièmement, le financement a évolué. L'IA provenait auparavant des budgets d'innovation ou de fonds discrétionnaires. Aujourd'hui, il s'agit d'un poste important du compte de résultat, financé soit directement par les unités commerciales, soit de manière centralisée par l'organisation du DSI ou du directeur de la technologie. Ce changement à lui seul témoigne d'un engagement opérationnel. Il ne faudra peut-être pas longtemps avant que les dépenses en outils d'IA ne deviennent un poste de dépense majeur après les effectifs et les dépenses liées au cloud. Chez Databricks, nous distinguons les dépenses liées à l'IA des dépenses globales de SaaS.

Le véritable goulot d'étranglement : les systèmes hérités, pas le talent

Catherine : Dans vos conversations avec vos homologues du secteur, quels thèmes communs apparaissent comme des points de friction pour la mise en production des projets d'IA ?

Naveen : J'étais avec 20 DSI cette semaine, et le talent figurait une fois de plus en tête des résultats de l'enquête en tant que contrainte majeure. Mais d'après mon expérience, la cause profonde est souvent l'héritage.

Les organisations sont aux prises avec des systèmes hérités, une prolifération de SaaS, une prolifération sur site et une complexité architecturale. Au fil du temps, que ce soit par inaction ou en raison de priorités concurrentes, ils n'ont pas pris de mesures décisives pour l'éliminer. Mais la conservation des systèmes hérités est insidieuse. Non seulement la modernisation augmente la vitesse, mais les systèmes hérités drainent également les talents. Il devient plus difficile d'attirer et de retenir les meilleurs ingénieurs lorsque leur job principal consiste à maintenir les systèmes en état de marche plutôt qu'à construire des systèmes modernes.

Chaque fois que j'ai choisi de moderniser, que ce soit les couches de compute, de stockage, d'architecture de données ou d'application, j'ai regretté de ne pas l'avoir fait plus tôt. La modernisation libère la productivité, redonne un sens à la mission et simplifie l'environnement. Ça a toujours été une décision sans regret.

Une architecture moderne et ouverte qui vous permet d'intégrer les meilleurs modèles d'IA sans avoir à démanteler et remplacer votre pile technologique offre les avantages suivants :

• Une couche de gouvernance unifiée qui réduit la complexité du mouvement des données.
• Simplicité et rapidité en réduisant la prolifération des outils.
• La capacité à concentrer les meilleurs talents sur un travail à forte valeur ajoutée au lieu de la maintenance.

C'est souvent la véritable solution.

Les décisions de plateforme qui déterminent la scalabilité de l'IA

Catherine : Quelles sont les décisions clés en matière de plateforme qui déterminent le plus fortement si l'IA peut être montée en charge ?

Naveen : tout d'abord, la couche de données. Aussi bien les données structurées que non structurées (qui représentent près de 80 % des données d'entreprise). Vous devez combiner les deux sous une couche de gouvernance commune. Plus important encore, amenez les modèles aux données, et non les données aux modèles. Le transfert de données entre les environnements crée des problèmes de complexité et de contrôle. Une architecture unifiée simplifie la gestion et améliore la sécurité.

Il est également essentiel d'éviter de vous lier à un seul fournisseur de modèles. Les modèles de pointe évoluent rapidement. Une passerelle d'IA ou une couche d'abstraction vous permet d'utiliser plusieurs modèles et de choisir le meilleur pour la tâche à accomplir.

Enfin, considérez l'IA comme une capacité fondamentale en investissant massivement dans l'observabilité, la qualité, la validation et les tests. Le développement s'accélère. Les tests sont l'étape où la discipline est essentielle. Vous pourriez passer 80 % de votre temps à valider et à affiner et seulement 20 % à construire. Et j'ajouterais une chose : le contexte et l'état sont de plus en plus importants. Les systèmes d'IA ont besoin de mémoire et de continuité pour pouvoir s'améliorer au fil du temps.

Quand les données et l'IA ne sont plus des conversations distinctes

Catherine : Quelles sont les conséquences si l'on tient les dirigeants d'entreprise à l'écart des initiatives en matière de données et d'IA ?

Naveen : Dans de nombreuses entreprises, la stratégie d'IA est menée par les équipes data. Mais c'est aussi un impératif métier. Sans données d'entreprise propres et de haute qualité, l'IA ne sera pas utile dans un contexte d'entreprise. Les frontier labs entraînent des modèles sur le web. Les entreprises doivent post-entraîner les modèles sur leurs propres données. En même temps, l'innovation peut se produire en périphérie. Si vous disposez d'une stack de données et d'IA cohérente avec une authentification et des contrôles d'accès appropriés, les équipes peuvent créer des agents et des applications en toute sécurité sans fragmenter l'architecture. La clé, c'est la cohérence et la gouvernance qui sous-tendent l'innovation distribuée.

Où l'IA agentique est prête et où elle ne l'est pas

Catherine : Quels flux de travail sont les plus propices à une prise en charge par des agents ?

Naveen : Au-delà des workflows de développement solution qui sont matures dans l'utilisation de l'IA, nous constatons un grand succès dans les workflows de go-to-market. Les équipes marketing et avant-vente utilisent des agents pour améliorer la portée et le ciblage sortants, dépassant souvent les processus manuels.

Les agents excellent également dans le traitement de grands volumes d'informations pour faciliter la prise de décisions. Au lieu d'attendre des semaines les rapports ad hoc des analystes, les dirigeants peuvent interroger directement les données et recevoir rapidement des insights, qu'il s'agisse de données structurées ou non.

Là où les agents ne sont pas encore prêts, c'est dans les workflows déterministes qui exigent une cohérence et une précision de 100 %. L'IA peut aider, mais elle ne doit pas remplacer le jugement humain. Il existe également un risque de ce que l'on appelle l'« AI slop » — des résultats qui semblent plausibles mais qui manquent de profondeur. Les dirigeants doivent associer l'adoption à la surveillance.

Définir le succès au-delà du battage médiatique

Catherine : Comment définissez-vous la réussite lors de la mise à l'échelle des données et de l'IA ?

Naveen : Je me base sur quatre dimensions :

1. Efficacité
2. Efficacité et impact sur les revenus
3. Qualité des résultats
4. Réduction des risques

Pour les systèmes d'IA, je me concentre également sur les entrées contrôlables. Par exemple, dans un système d'IA de vente, quel pourcentage de la saisie de données est désormais automatisé par un agent ? Cette métrique d'entrée devrait être corrélée à des gains de productivité. Ou, quel pourcentage des recommandations de l'agent sont adoptées, et quelle est leur efficacité par rapport aux approches manuelles ? Vous pouvez les comparer par des tests A/B. La réduction du temps de cycle et les économies de coûts sont importantes, mais uniquement dans le contexte de résultats commerciaux plus larges.

Un « Start, Stop, Continue » sur 12 mois

Catherine : Si vous deviez donner à vos pairs un plan sur 12 mois du type « commencer, arrêter, continuer », quel serait-il ?

Naveen : je dirais qu'il faut arrêter d'alimenter la bête de l'existant. Arrêtez de considérer la gouvernance et la sécurité de l'IA comme une question secondaire. Et évitez de remplacer la prolifération des SaaS par une prolifération d'agents. Si les agents ne sont pas adoptés ou ne créent pas de valeur, élaguez-les.

Ensuite, je dirais d'adopter une approche basée sur les compétences ou de type « jobs-to-be-done ». Plutôt que de remplacer des applications entières, identifiez des tâches spécifiques que les agents peuvent mieux accomplir. Renforcez votre crédibilité grâce à des victoires ciblées. Planifiez votre parcours par étapes progressives. Et enfin, je dirais de continuer à investir dans les données et la gouvernance, en particulier pour les données non structurées. Et plus important encore, restez centré sur l'entreprise. Commencez par l'utilisateur, le client et le résultat. La technologie seule ne crée pas de valeur.

Le point d'inflexion pour les dirigeants

Le point d'inflexion pour les dirigeants concerne la préparation opérationnelle, l'architecture moderne, la gouvernance unifiée, les tests rigoureux, les résultats mesurables et l'alignement sur les objectifs de l'entreprise.

L'IA devient une capacité opérationnelle lorsqu'elle passe de l'expérimentation à la responsabilisation, c'est-à-dire quand elle apparaît dans les KPI, les lignes budgétaires et les décisions architecturales. Les organisations qui reconnaissent ce changement tôt ne se contenteront pas de déployer plus d'IA. Elles construiront des entreprises qui y sont structurellement prêtes.

Pour en savoir plus sur la création d'un modèle opérationnel efficace, téléchargez le modèle de maturité de l'IA de Databricks.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original