Services de conseil optimisés par l'IA pour l'enseignement supérieur

Le problème

Les centres d'appels sont un outil clé d'assistance aux étudiants dans l'enseignement supérieur. Les conseillers pour l'aide financière, les admissions et les inscriptions sont souvent le premier point de contact des étudiants, mais le suivi et le maintien de la qualité des conversations à grande échelle sont coûteux et complexes.

La plupart des établissements gèrent leurs propres centres d'appels et utilisent des outils d'orchestration du service client comme Genesys ou Five9. Le point de friction ne concerne pas les appels eux-mêmes, mais ce qui se passe après.

Exemple 1 : Améliorer la qualité des conseillers sans faire grimper les coûts. Une approche QA classique consiste à extraire les transcriptions du logiciel d'orchestration et à analyser manuellement un échantillon aléatoire. En raison du volume d'appels, les équipes QA n'évaluent souvent qu'environ 5 % des appels par an. Doubler cette couverture implique de doubler la taille de l'équipe. À 50 000 $ par personne pour une équipe de 10 personnes, cela représente 500 000 $ supplémentaires par an pour des gains marginaux. En plus du coût, les transcriptions natives identifient souvent mal le nom des étudiants, ce qui perturbe les tableaux de bord en aval qui doivent associer l'historique des appels aux profils des étudiants.

Exemple 2 : Comprendre les difficultés des étudiants. Certains établissements n'ont pas d'approche systématique. D'autres gèrent des pipelines NLP complexes pour segmenter les transcriptions, extraire les sujets et évaluer le sentiment. Ces pipelines sont fragiles à grande échelle, nécessitent une mise à jour manuelle des listes d'expressions entre les exécutions hebdomadaires par lots, et génèrent rarement des insights assez rapidement pour que les administrateurs puissent agir sur les problèmes émergents avant la fin du semestre.

Pourquoi la transcription basée sur les LLM est essentielle

Les modèles ASR traditionnels, entraînés sur des ensembles de données propres et restreints, ont du mal avec les accents, les dialectes, l'audio téléphonique compressé et les environnements bruyants, qui sont pourtant courants dans les appels d'assistance aux étudiants, en particulier dans les établissements accueillant un grand nombre d'étudiants internationaux. Les modèles de fondation comme OpenAI Whisper, entraînés sur plus de 680 000 heures d'enregistrements audio multilingues et variés, se généralisent bien mieux dans ces conditions. Les technologies ASR plus anciennes ne sont pas obsolètes, mais pour ce cas d'usage, elles ne sont pas adaptées.

L'approche IA sur Databricks

Nous avons vu plusieurs établissements d'enseignement supérieur résoudre ces deux problèmes en s'associant à Databricks. L'Université Baylor en est un exemple : le workflow présenté ici est une version optimisée de celui utilisé par Baylor pour relever ces mêmes défis. Le modèle de base commence par le déploiement d'OpenAI Whisper sur Databricks Model Serving pour obtenir des transcriptions de plus haute fidélité, puis par l'ajout d'AI Functions pour l'enrichissement et l'évaluation.

Pour l'exemple 1 (Qualité des conseillers) :

• Héberger WhisperAI en tant que point de terminaison de service managé ; appliquer les transcriptions à grande échelle via ai_query() dans des lots quotidiens ou hebdomadaires.
• Utiliser un LLM-as-a-judge pour évaluer chaque transcription par rapport à la grille d'évaluation QA de l'établissement. Le modèle évalue chaque critère de la grille, renvoyant un score global pondéré de 1 à 5, des scores par critère et une évaluation rédigée. Les critères de la grille sont extraits d'une table de référence et codifiés dans le prompt, garantissant ainsi l'application uniforme de la même norme à chaque appel.
• Orienter les appels signalés comme nécessitant des améliorations vers l'équipe QA, remplaçant ainsi l'échantillonnage aléatoire par un examen ciblé.

Pour l'exemple 2 (Insights sur les étudiants) :

• Même pipeline de transcription Whisper, appliqué chaque trimestre à des heures d'enregistrement audio.
• Enrichir chaque appel avec ai_analyze_sentiment() et ai_extract() pour analyser le sentiment, les sujets et l'intention.
• Exposer les résultats à travers deux interfaces complémentaires : un Agent Bricks Knowledge Assistant pour le raisonnement non structuré sur les transcriptions brutes (« Quelles sont les difficultés courantes des étudiants concernant l'aide financière ? ») avec des citations sourcées, et un Genie Space pour les requêtes structurées sur les tendances (« Quel est le sentiment moyen par catégorie ce trimestre ? »).

Ce qui fait la force de cette solution sur Databricks, c'est que chaque étape (ingestion, transcription, analyse par l'IA et découverte) s'exécute sur une plateforme gouvernée unique. Unity Catalog sécurise les données sensibles des étudiants grâce à des contrôles d'accès précis. Les AI Functions comme ai_query() appellent les modèles de fondation directement depuis SQL, sans infrastructure d'inférence distincte. Pas besoin d'assembler différents outils, aucune donnée ne sort de la limite de gouvernance, et aucun niveau d'orchestration distinct n'est requis.

Architecture

Cette solution convertit l'audio non structuré provenant d'un stockage d'objets cloud en données structurées de haute fidélité via un pipeline gouverné :

L'audio brut arrive dans les Volumes Databricks sous Unity Catalog. Whisper effectue une reconnaissance vocale distribuée, capturant des nuances telles que le nom des étudiants et la terminologie de l'enseignement supérieur que les transcriptions natives manquent. Les AI Functions enrichissent ensuite chaque enregistrement avec le sentiment, les sujets et les scores de la grille d'évaluation. Ceux-ci sont synthétisés avec les dossiers de l'établissement (comme les données des étudiants de Salesforce), offrant une vue à 360 degrés de chaque interaction.

Prise en main

Pour exécuter la solution, mettez à jour les valeurs du widget catalogue/schéma et assurez-vous qu'un SQL warehouse est disponible (les AI Functions utilisent ai_query(), qui s'exécute sur un calcul SQL serverless). Associez des ressources de calcul à un cluster mono-utilisateur (DBR 15.4 LTS+) ou à un environnement serverless.

Pour Whisper, la méthode la plus simple est le Databricks Marketplace : installez un modèle Whisper (par exemple, whisper-large-v3) depuis le marketplace dans votre catalogue et déployez-le en tant que point de terminaison de service avec un niveau de GPU adapté à vos besoins de débit.

Les points de terminaison LLM de l'agent (Claude, Llama) sont des points de terminaison de l'API Foundation Model disponibles par défaut ; tous les noms de points de terminaison sont configurables via les paramètres du widget.

L'étape de configuration crée le schéma, les tables Delta, la grille d'évaluation des conseillers et enregistre les 12 fonctions SQL. Le déploiement ingère les métadonnées audio via l'Auto Loader, package l'agent LangGraph avec MLflow et le déploie en tant que point de terminaison de service de modèle (~15 minutes). Une suite de plus de 40 tests de bout en bout valide tout, des schémas de table à l'appel d'outils sur les points de terminaison actifs.

Une fois déployé, interagissez avec l'agent dans l'AI Playground : sélectionnez le point de terminaison et posez des questions en langage naturel. Le Playground prend également en charge une approche orientée prototype : associez des fonctions SQL UC en tant qu'outils à n'importe quel Foundation Model, effectuez des itérations sur le prompt système et exportez la configuration fonctionnelle sous forme de notebook Python/MLflow.

Deux interfaces en langage naturel se superposent : un Genie Space pour les questions structurées (« Quel est le score moyen de la grille par catégorie d'appel ? ») et un Agent Bricks Knowledge Assistant pour le raisonnement sur les transcriptions non structurées (« Quelles sont les difficultés courantes des étudiants concernant l'aide financière ? ») avec des citations sourcées. Ensemble, ils permettent aux conseillers non techniques, aux mentors et aux responsables QA de se renseigner sur leurs étudiants sans avoir à faire appel à un SME des données. Pour en savoir plus : Genie Spaces (AWS | Azure | GCP) et Agent Bricks Knowledge Assistant (AWS | Azure | GCP).

Prêt à explorer cela dans votre propre environnement ? Téléchargez la solution depuis GitHub pour découvrir comment les enregistrements d'appels de conseillers peuvent être ingérés, transcrits, analysés et explorés de bout en bout. Pour aller plus loin, découvrez-en plus sur Databricks AI pour les workflows d'AI générative, Unity Catalog pour une gouvernance sécurisée, et Genie pour l'analyse conversationnelle. Pour obtenir des conseils supplémentaires, explorez les Solution Accelerators, la documentation du produit ou contactez Databricks pour discuter de la manière dont ces fonctionnalités peuvent soutenir les services aux étudiants au sein de votre établissement.

Pour rester informé de la manière dont Databricks soutient l'éducation, le secteur public et les organisations à but non lucratif, suivez Databricks for Public Sector sur LinkedIn.

(Cet article de blog a été traduit à l'aide d'outils basés sur l'intelligence artificielle) Article original