Découvrez comment Databricks associe un contexte gouverné, l'ontologie de votre entreprise et des décisions d'IA rapides pour personnaliser chaque conversation client en temps réel.
Pensez à trois situations qui se produisent chaque jour dans les entreprises B2C :
Dans chacune de ces situations, la voix est le moyen le plus rapide ou le seul pour le client de joindre l'entreprise. Alors, si la voix répond finalement le plus efficacement aux besoins du client et de l'entreprise, pourquoi est-elle si souvent absente ou, plus récemment, mal exécutée ?
Pendant des années, la réponse était que la voix était trop complexe à maîtriser. Ce n'est plus le cas. Les voix de synthèse sonnent désormais de manière naturelle, une conversation peut être convertie en texte et traitée pendant que l'appelant est toujours en ligne, et les agents vocaux d'aujourd'hui peuvent suivre le rythme d'environ 200 millisecondes qu'il faut généralement aux gens pour se répondre lors d'une conversation.
Ce qui n'a pas évolué, c'est la façon dont la plupart des entreprises l'envisagent. L'investissement dans l'IA d'entreprise s'est largement tourné vers l'intérieur, vers des assistants pour les employés, alors que la plus grande opportunité réside dans les conversations que les entreprises ont chaque jour avec leurs clients et partenaires. L'une des plus grandes marques de restauration rapide aux États-Unis construit déjà exactement cela, avec un agent vocal qui permet aux clients d'ajouter des articles à leur panier, de modifier leur commande et de payer simplement en parlant.

Exemples de cas d'usage où les agents vocaux peuvent créer de la valeur.
Chacun de ces appels, du chauffeur modifiant un rendez-vous à quai au voyageur réservant une chambre après une tempête, repose sur bien plus que la simple compréhension de la parole. Pour être utile, l'agent a besoin du même contexte que votre meilleur employé : qui appelle, ce qui est déjà en cours pour lui, et ce qu'il est autorisé à faire à ce sujet.
La plupart des projets pilotes d'agents vocaux prouvent qu'un agent peut tenir une conversation. Beaucoup moins prouvent qu'on peut lui confier un vrai client. Le contexte comble cet écart. Grâce à lui, l'agent peut s'adapter à chaque appelant, respecter vos règles concernant ce qu'il peut voir et dire, et s'améliorer à chaque appel. Sans lui, même la voix la plus naturelle ne peut fournir que des réponses génériques.
Prenons un seul appel. Un client fidèle appelle au sujet d'une commande en retard. L'agent sait déjà qui il est, ce qu'il a commandé et où se trouve le colis. Il s'excuse, offre un crédit de fidélité qu'il est autorisé à accorder et organise un remplacement. Si le client est toujours frustré, l'agent le détecte immédiatement et décide, en une fraction de seconde, de transférer l'appel à la prochaine personne disponible. Cette personne prend le relais avec le contexte complet, de sorte que le client n'attend pas dans une file d'attente et ne se répète pas. Le même schéma s'applique lorsqu'un patient déplace un rendez-vous ou qu'un abonnée ne peut pas se connecter après un débit qu'il ne reconnaît pas. Dans chaque cas, l'agent prend le relais lorsque le client quitte l'application ou le site web et a besoin d'une réponse immédiate, puis le renvoie vers ce même parcours une fois l'appel terminé.
Rassembler ce contexte lors d'un appel en direct est le véritable défi. Il est réparti sur de nombreux systèmes, l'agent en a besoin en une fraction de seconde, et il doit rester gouverné tout au long du processus. C'est là qu'intervient Databricks.

Un agent vocal se compose de deux parties. La première est la couche de conversation, qui gère l'appel lui-même : transport de l'audio, conversion de la parole en texte et prononciation de la réponse. Des partenaires spécialisés font cela très bien. Dans notre prototype, LiveKit gère l'appel, Deepgram s'occupe de la transcription vocale et de la voix par défaut, et ElevenLabs ajoute des voix expressives. Des opérateurs téléphoniques tels que Twilio peuvent intégrer des lignes téléphoniques classiques.
La seconde partie est le cerveau, fourni par Databricks. À chaque tour de conversation, il recherche le contexte de l'appelant, applique vos règles métiers et choisit la prochaine étape, qu'il s'agisse de répondre à une question, de faire une offre ou de transférer l'appel à une personne. Il enregistre également chaque décision afin que vos équipes puissent l'examiner ultérieurement. La couche de conversation façonne la voix de l'agent. Le cerveau détermine s'il donne la bonne réponse.
Le cerveau repose sur trois piliers qui coexistent déjà sur Databricks.
Pour les clients Databricks, il n'y a aucune nouvelle plateforme à déployer. L'agent s'exécute là où vos données résident déjà et se connecte aux systèmes que vous utilisez déjà, tels que la gestion des commandes, la fidélité et le CRM, par le biais de recherches approuvées en lecture seule.
Lors d'une interaction avec un client, l'agent utilise votre contexte et votre ontologie pour consulter les commandes de cette personne, vos politiques et vos informations sur les produits, afin que chaque réponse reflète votre entreprise plutôt que des connaissances générales provenant d'Internet. L'agent ne voit que les dossiers qui appartiennent à l'appelant, et il confirme son identité en vérifiant vos systèmes plutôt que de le croire sur parole. Votre entreprise décide quelles offres l'agent peut faire, quel montant de crédit il peut accorder et à quel moment une personne humaine prend le relais.
Si l'agent ne trouve pas la réponse dans vos données, il en informe l'appelant et le transfère à une personne au lieu de deviner. Chaque réponse fournie peut être retracée jusqu'à l'enregistrement d'origine. Les sujets sensibles, tels que les questions médicales, financières ou de sécurité, sont systématiquement acheminés vers un humain, et l'agent est conçu pour ne jamais donner de conseils médicaux. Seule la conversation transite par les partenaires vocaux, et les données clients restent sur votre plateforme gouvernée.
Un agent vocal a besoin de deux types de réflexion. Certaines décisions doivent être prises en une fraction de seconde, comme déterminer si un chauffeur ayant un problème de quai ou un client mécontent doit être mis en relation avec une personne immédiatement. D'autres nécessitent un raisonnement approfondi, comme trouver la bonne solution pour une commande retardée. Les chercheurs appellent cela la pensée rapide et la pensée lente, ou Système 1 et Système 2, et l'IA est désormais conçue de la même manière. Les grands modèles de langage (Système 2) effectuent le raisonnement approfondi, tandis qu'une nouvelle catégorie de modèles de décision rapide (Système 1), tels que Jev de TypeSafe AI, gère les appels rapides. Databricks intègre la prise de décision du Système 1 à vos données gouvernées avec ai_decide, permettant à l'agent de prendre une décision rapide tout en indiquant son niveau de confiance.
Dans un agent vocal, les deux fonctionnent côte à côte à chaque tour de conversation.
Cela vous permet d'utiliser vos modèles les plus performants là où ils font vraiment la différence pour le client, et des modèles plus rapides et moins coûteux pour tout le reste.
Chacune de ces décisions est enregistrée. Le consentement de l'appelant et la divulgation des enregistrements étant gérés au niveau de la téléphonie, chaque appel peut être capturé dans un endroit unique et gouverné : ce qui a été dit, ce qui a été consulté, quel modèle a répondu et pourquoi chaque décision a été prise. Vos équipes contrôlent qui peut accéder à ces enregistrements et combien de temps ils sont conservés, en utilisant les mêmes politiques qui régissent déjà le reste de vos données. L'agent hérite des programmes de sécurité et de conformité de la plateforme Databricks, notamment les options HIPAA et SOC 2 Type II, décrites dans le Databricks Trust Center. Les partenaires de synthèse vocale disposent de leurs propres certifications qui doivent être examinées dans le cadre de votre déploiement.
C'est cet historique qui permet à l'agent de s'améliorer. Chaque appel peut être évalué automatiquement sur sa qualité, et les responsables de centres de contact et d'expérience client peuvent poser des questions sur leurs appels en langage naturel, par exemple pourquoi les demandes de remboursement ont augmenté mardi dernier. Ces insights peuvent ensuite être réinjectés pour améliorer les prompts et les modèles, renforçant ainsi l'efficacité de l'agent vocal.
Pour commencer, nul besoin d'un vaste programme. Les blocs de construction sont disponibles dès aujourd'hui, et le blueprint Databricks Intelligent Voice Agents (DIVA), qui est en open source sur GitHub, offre à vos équipes un point de départ opérationnel. La voix devient alors un nouveau canal qui s'ajoute aux systèmes que vous possédez déjà.
L'agent vocal est là pour prendre en charge les appels de routine qui encombrent la file d'attente, tels que le suivi de commandes, les renouvellements et les modifications de réservation, afin que votre personnel puisse se concentrer sur les conversations qui nécessitent un humain : un client mécontent, une demande complexe ou un interlocuteur qui préfère tout simplement parler à une personne. Lorsqu'un membre du personnel prend l'appel, l'historique complet s'affiche déjà sur son écran, et en cas de problème, l'appel est transféré à un humain avec la transcription complète.
C'est vers cela que le service client évolue. Gartner prévoit qu'd'ici 2029, l'IA agentique résoudra de manière autonome 80 % des problèmes courants du service client sans intervention humaine, entraînant une réduction de 30 % des coûts opérationnels.
Les ingénieurs sectoriels de Databricks recommandent de commencer par un projet pilote de 90 jours couvrant un canal, une équipe et votre appel de routine le plus fréquent, tel que le statut d'une commande, l'enregistrement d'un chauffeur ou la confirmation d'un fournisseur. Avant le début du projet pilote, enregistrez le coût actuel par appel, la durée moyenne de traitement et la satisfaction client, et suivez le retour des clients pour effectuer de nouveaux achats, afin de pouvoir comparer les résultats à la fin. Une fois que les résultats sont probants, vous pouvez étendre cette même configuration gouvernée à d'autres emplacements et à d'autres types d'appels.
Trois questions pour votre prochaine réunion de direction
Pour le voir en action, regardez la démo complète et partagez le blueprint DIVA sur GitHub avec votre équipe technique. Il comprend des instructions prêtes à l'emploi que les agents de codage peuvent suivre. Contactez ensuite votre équipe de compte Databricks pour discuter et faire du brainstorming sur votre premier cas d'usage.
Vos clients vont bientôt parler à un agent IA en votre nom. Ce qui compte, c'est la façon dont cet agent les connaît.
(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original
Abonnez-vous à notre blog et recevez les derniers articles directement dans votre boîte mail.