Expédiez des agents d'IA d'entreprise de qualité aux utilisateurs professionnels avec Agent Bricks et Databricks Apps

Prototyper un agent IA est facile. En expédier un auquel les utilisateurs métier font confiance et que les équipes de sécurité n'entravent pas, c'est là que la plupart des projets d'entreprise ralentissent.

Dans ce blog, nous allons vous guider à travers un chemin rapide et gouverné vers la production en utilisant la Databricks Platform :

1. Créez un agent de qualité production, spécifique au domaine, avec évaluation intégrée et amélioration continue
2. Déployez une interface de chat personnalisable avec Databricks Apps, dotée d'une authentification unique (SSO) intégrée et d'un accès aux données gouverné
3. Distribuez votre agent aux utilisateurs métier via une expérience rationalisée et intuitive pour consommer l'IA et les informations issues des données

Nous utiliserons un exemple commun tout au long de cet article : un Assistant de Connaissances Agent Bricks pour une entreprise fictive nommée Redwood Commerce, qui répond aux questions sur les politiques de l'entreprise en se basant sur des PDF internes, avec des citations vers les documents sources.

Pourquoi la mise en production des agents reste difficile

Les équipes développant des agents IA d'entreprise rencontrent souvent un ensemble de problèmes familiers :

• L'évaluation est difficile : De nombreuses tâches IA d'entreprise sont difficiles à évaluer, tant pour les humains que pour les juges LLM automatisés. Les benchmarks académiques ne se traduisent pas en cas d'utilisation réels. La construction d'évaluations nuancées nécessite souvent un étiquetage manuel coûteux. Par conséquent, les projets prometteurs stagnent dans des cycles de réglage sans fin, les parties prenantes perdant confiance en raison d'un manque de progrès clairs.
• Trop de paramètres : Les agents sont des systèmes IA complexes avec de nombreux composants, chacun ayant ses propres paramètres. Du réglage des invites aux stratégies de découpage d'index, en passant par les choix de modèles et les paramètres de réglage fin, chaque ajustement crée des effets inconnus sur l'ensemble du système. Ce qui devrait être une amélioration itérative rapide devient un essai-erreur manuel coûteux et fastidieux, ralentissant le délai de mise en production.
• Coût et qualité : Même après que les équipes aient résolu les problèmes ci-dessus et créé un agent de haute qualité, elles sont souvent surprises de constater que l'agent est trop coûteux à déployer en production. Les équipes sont bloquées soit dans un long processus d'optimisation des coûts, soit contraintes de faire des compromis entre le coût et la qualité.

En plus de cela, vous avez toujours besoin d'une interface utilisateur intuitive pour les utilisateurs métier et d'un accès sécurisé qui prend en compte votre modèle de gouvernance.

L'objectif est de réduire cette friction afin que vous puissiez passer de la preuve de concept à la préparation commerciale en quelques jours, voire quelques heures, au lieu de plusieurs mois.

Le chemin rapide et gouverné : Agent Bricks, Databricks Apps et Databricks One

Pour mettre vos agents IA en production, Databricks fournit trois composants intégrés de manière transparente :

• Agent Bricks simplifie la création, l'évaluation et l'optimisation d'agents IA de qualité production sur vos données d'entreprise. Définissez simplement votre tâche et connectez vos données, et Agent Bricks s'occupe du travail le plus lourd, y compris l'évaluation intégrée et la gouvernance unifiée de Unity Catalog.
• Databricks Apps vous permet de déployer en toute sécurité ces agents et des interfaces de chat personnalisables directement dans Databricks. Vous bénéficiez d'une puissance de calcul serverless, d'une authentification unique (SSO) intégrée et d'autorisations granulaires sans avoir à gérer l'infrastructure cloud.
• Databricks One fournit une « porte d'entrée » simplifiée et organisée pour vos utilisateurs métier. Au lieu de rechercher dans les pages wiki internes ou de conserver des favoris de tableaux de bord, ils obtiennent un hub intuitif pour interagir avec les Apps, les Tableaux de bord et d'autres actifs de données et d'IA.

Examinons comment ces trois composants fonctionnent ensemble en pratique.

Exemple : Création d'un assistant de politique d'entreprise

Redwood Commerce, une entreprise fictive, a des documents de politique d'entreprise (voyages, dépenses, congés maladie, sécurité informatique) stockés sous forme de PDF approuvés.

Les employés posent des questions répétées comme : « Puis-je déduire le nettoyage à sec de l'hôtel ? »

Les utilisateurs métier souhaitent une expérience de chat simple qui :

1. Réponde en se basant sur les documents de politique d'entreprise approuvés
2. Fournisse des citations pour la confiance et la vérification
3. Respecte les autorisations et la gouvernance
4. Puissse être partagée largement mais en toute sécurité avec les employés de toute l'organisation

Étape 1 : Créer un Assistant de Connaissances dans Agent Bricks

Agent Bricks prend en charge plusieurs cas d'utilisation, y compris l'Assistant de Connaissances, qui transforme vos documents en un chatbot de haute qualité répondant aux questions et citant ses sources.

Connecter les documents de politique

L'Assistant de Connaissances peut utiliser :

• Des fichiers dans un volume Unity Catalog (txt, pdf, md, ppt/pptx, et doc/docx).
• Un index de recherche vectorielle existant utilisant le modèle d'intégration databricks-gte-large-en.

Pour Redwood Commerce, nous utiliserons le chemin le plus simple : stocker les PDF des politiques de l'entreprise dans un volume Unity Catalog.

Construire l'agent

Dans l'interface utilisateur de l'espace de travail Databricks :

1. Accédez à Agents
2. Sous Assistant de Connaissances, choisissez Construire
3. Nommez-le (par exemple, Assistant Politique Redwood) et ajoutez une description
4. Sélectionnez l'emplacement du fichier Unity Catalog comme source de connaissances
5. Créez l'agent

L'Assistant de Connaissances crée un point de terminaison d'agent que vous pouvez utiliser en aval dans les applications.

Étape 2 : Valider rapidement la qualité (et l'améliorer avec des experts métier)

Un mode d'échec courant est de déployer un agent qui semble correct mais auquel on ne peut pas faire confiance. L'Assistant de Connaissances d'Agent Bricks est explicitement conçu pour fournir des réponses de haute qualité avec des citations, ce qui est essentiel pour la confiance des parties prenantes.

Nous pouvons tester l'agent directement dans l'interface utilisateur de l'Assistant de Connaissances ou dans le AI Playground et poser des questions réalistes :

• « Puis-je déduire le nettoyage à sec de l'hôtel ? »
• « Comment signaler un congé maladie ? »
• « Quel est le processus de remboursement des voyages ? »

Les réponses de l'agent sont basées sur les documents avec des citations aux sections de politique pertinentes.

Agent Bricks prend en charge l'amélioration du comportement de l'agent en fonction des commentaires en langage naturel des experts métier (SME) en fournissant des questions étiquetées et des directives.

Les directives sont utilisées pour améliorer les réponses de votre agent en définissant des attentes claires en matière de ton, de structure et de comportement. Elles aident à garantir que l'agent communique clairement, reste fidèle à la marque et gère correctement différents scénarios. Ces mêmes directives sont également utilisées comme critères d'évaluation pour générer des scores de qualité pour chaque réponse.

Ajoutez des questions sous l'onglet Exemples de votre agent Assistant de Connaissances. Pour inviter les experts métier à fournir des questions étiquetées et des directives, partagez l'Assistant de Connaissances en utilisant le menu à trois points (kebab) et en choisissant Autorisations.

Étape 3 : Déployer une interface de chat avec Databricks Apps

Une fois que nous sommes satisfaits de la qualité de l'agent, nous transformons le point de terminaison de l'agent en quelque chose que les employés peuvent réellement utiliser : une expérience de chat spécialement conçue pour Redwood Commerce.

Databricks Apps vous permet de déployer une application entièrement personnalisée, ou de commencer avec un modèle de chat pré-construit et de le personnaliser pour qu'il corresponde à votre image de marque.

Dans l'interface utilisateur de l'espace de travail Databricks :

1. Accédez à Calcul et sélectionnez l'onglet Apps
2. Choisissez Créer une app
3. Sélectionnez l'onglet Agents et choisissez le modèle Chat UI
4. Pointez-le vers le point de terminaison de l'Assistant de Connaissances
5. Déployez votre application

Après avoir déployé votre application, vous pouvez utiliser directement votre chatbot Knowledge Assistant dans le modèle d'application via l'URL de l'application fournie.

Pour créer une expérience plus personnalisée, vous pouvez cloner le modèle sur votre machine locale. Avec quelques ajustements simples, nous pouvons créer une interface utilisateur de chat sur mesure pour Redwood Commerce :

Les applications Databricks intègrent la sécurité et la gouvernance, il n'est donc pas nécessaire de développer et de maintenir du code d'authentification ou d'autorisation personnalisé.

Les applications ne sont accessibles qu'aux utilisateurs authentifiés qui se connectent via SSO. Il n'y a pas d'accès anonyme ou public. Grâce à l'autorisation utilisateur, votre application peut appliquer des autorisations granulaires en agissant avec l'identité de l'utilisateur de l'application.

Étape 4 : Publiez auprès des utilisateurs professionnels via Databricks One

Nous pourrions distribuer l'application en envoyant simplement l'URL de l'application aux personnes. Mais à mesure que vous mettez davantage d'actifs de données et d'IA à la disposition des utilisateurs professionnels, les équipes ont besoin d'un endroit unique et organisé où les employés peuvent trouver de manière fiable les bons outils.

Databricks One est conçu comme ce point d'entrée : une interface utilisateur simplifiée où les utilisateurs professionnels peuvent accéder aux données partagées et aux actifs d'IA dans Databricks, y compris les applications Databricks.

Après avoir activé Databricks One et configuré les bonnes autorisations d'espace de travail, nous pouvons partager l'application Databricks avec des groupes d'employés synchronisés depuis notre fournisseur d'identité.

Maintenant, les employés ouvrent Databricks One, cliquent sur l'assistant de politique et demandent :

« Puis-je déclarer les frais de départ tardif de mon hôtel ? »

Ils obtiennent une réponse avec des citations, et la gouvernance est cohérente de bout en bout.

Commencez à déployer des agents auprès des utilisateurs professionnels

Agent Bricks Knowledge Assistant vous offre un chemin rapide et automatisé de vos documents d'entreprise à un agent spécifique au domaine, tout en maintenant la qualité mesurable et en l'améliorant au fil du temps grâce à l'évaluation et à l'optimisation intégrées.

Avec Databricks Apps et Databricks One, vous pouvez ensuite intégrer cet agent dans une expérience de chat conviviale et le distribuer via un point d'entrée organisé, avec la sécurité et la gouvernance de Unity Catalog appliquées de bout en bout.

Pour approfondir, commencez par :

• La documentation et les démos d'Agent Bricks : assistant de connaissances et agent superviseur
• La démonstration des applications Databricks, le guide de démarrage et la documentation
• La documentation de Databricks One et l'autorisation d'accès consommateur

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original