Servizi di consulenza basati sull'AI per l'istruzione superiore

Il problema

I call center sono uno strumento fondamentale per il supporto agli studenti nell'istruzione superiore. I consulenti per gli aiuti finanziari, le ammissioni e le iscrizioni sono spesso il primo punto di contatto per uno studente, ma monitorare e mantenere la qualità delle conversazioni su larga scala è costoso e difficile.

La maggior parte degli istituti gestisce i propri call center internamente e utilizza strumenti di orchestrazione del servizio clienti come Genesys o Five9. Il vero problema non sono le chiamate in sé, ma ciò che accade dopo.

Esempio 1: Migliorare la qualità dei consulenti senza aumentare i costi. Un tipico approccio di QA estrae le trascrizioni dal software di orchestrazione e analizza manualmente un campione casuale. A causa del volume delle chiamate, i team di QA spesso valutano solo il ~5% delle telefonate all'anno. Raddoppiare questa copertura significa raddoppiare il team. Con un costo di 50.000 $ a persona per un team di 10 persone, si tratta di altri 500.000 $ all'anno per ottenere miglioramenti marginali. Oltre al costo, le trascrizioni native spesso non identificano correttamente i nomi degli studenti, compromettendo le dashboard a valle che devono associare la cronologia delle chiamate ai profili degli studenti.

Esempio 2: Capire quali sono le difficoltà degli studenti. Alcuni istituti non hanno un approccio sistematico. Altri gestiscono pipeline di NLP complesse per suddividere le trascrizioni, estrarre gli argomenti e valutare il sentiment. Queste pipeline sono fragili su larga scala, richiedono la cura manuale degli elenchi di frasi tra un'esecuzione batch settimanale e l'altra e raramente producono insight abbastanza rapidamente da consentire agli amministratori di intervenire sui problemi emergenti prima della fine del semestre.

Perché la trascrizione basata su LLM è importante

I modelli tradizionali di ASR addestrati su dataset puliti e limitati hanno difficoltà con accenti, dialetti, audio telefonico compresso e ambienti rumorosi, tutti elementi comuni nelle chiamate di supporto agli studenti, specialmente negli istituti con una forte presenza di studenti internazionali. I modelli di base come OpenAI Whisper, addestrati su oltre 680.000 ore di audio multilingue diversificato, mostrano una capacità di generalizzazione decisamente superiore in queste condizioni. I vecchi sistemi di ASR non sono obsoleti, ma per questo caso d'uso sono lo strumento sbagliato.

L'approccio basato sull'AI su Databricks

Abbiamo visto diversi istituti di istruzione superiore risolvere entrambi i problemi collaborando con Databricks. L'Università di Baylor ne è un esempio: il flusso di lavoro qui presentato è una versione perfezionata di quello utilizzato da Baylor per affrontare queste stesse sfide. Il pattern principale inizia con il deployment di OpenAI Whisper su Databricks Model Serving per ottenere trascrizioni ad alta fedeltà, per poi aggiungere AI Functions per l'arricchimento e la valutazione.

Per l'Esempio 1 (Qualità dei consulenti):

• Ospitare WhisperAI come endpoint di serving gestito; applicare le trascrizioni su larga scala tramite ai_query() in batch giornalieri o settimanali.
• Utilizzare LLM-as-a-judge per valutare ogni trascrizione in base alla rubrica di QA dell'istituto. Il modello valuta ogni criterio della rubrica, restituendo un punteggio complessivo ponderato da 1 a 5, punteggi per singolo criterio e una valutazione descrittiva. I criteri della rubrica vengono estratti da una tabella di riferimento e codificati nel prompt, garantendo l'applicazione coerente dello stesso standard a ogni chiamata.
• Inviare le chiamate segnalate per un miglioramento al team di QA, sostituendo il campionamento casuale con una revisione mirata.

Per l'Esempio 2 (Insight sugli studenti):

• Stessa pipeline di trascrizione Whisper, applicata trimestralmente a ore di audio.
• Arricchire ogni chiamata con ai_analyze_sentiment() e ai_extract() per sentiment, argomenti e intento.
• Mostrare i risultati attraverso due interfacce complementari: un Agent Bricks Knowledge Assistant per il ragionamento non strutturato sulle trascrizioni grezze ("Quali sono le difficoltà più comuni degli studenti con gli aiuti finanziari?") con citazioni fondate, e un Genie Space per query strutturate sui trend ("Sentiment medio per categoria in questo trimestre?").

Ciò che rende potente questa soluzione su Databricks is che ogni fase (ingestion, trascrizione, analisi AI e discovery) viene eseguita su un'unica piattaforma governata. Unity Catalog protegge i dati sensibili degli studenti con controlli di accesso granulari. Le AI Functions come ai_query() chiamano i modelli di base direttamente da SQL senza un'infrastruttura di inferenza separata. Nessuna necessità di unire strumenti diversi, nessun dato che esce dal perimetro di governance e nessun livello di orchestrazione separato.

Architettura

Questa soluzione converte l'audio non strutturato dallo storage di oggetti cloud in dati strutturati ad alta fedeltà attraverso una pipeline governata:

L'audio grezzo viene caricato in Databricks Volumes sotto Unity Catalog. Whisper esegue la conversione speech-to-text distribuita, catturando sfumature come i nomi degli studenti e la terminologia dell'istruzione superiore che le trascrizioni native non rilevano. Le AI Functions arricchiscono quindi ogni record con sentiment, argomenti e punteggi della rubrica. Questi dati vengono sintetizzati con i record dell'istituto (come i dati degli studenti provenienti da Salesforce), offrendo una vista a 360 gradi di ogni interazione.

Guida introduttiva

Per eseguire la soluzione, aggiorna i valori del widget catalogo/schema e assicurati che sia disponibile un SQL warehouse (le AI Functions utilizzano ai_query(), che viene eseguito su risorse di calcolo SQL serverless). Associa le risorse di calcolo a un cluster a utente singolo (DBR 15.4 LTS+) o a un ambiente serverless.

Per Whisper, la via più semplice è il Databricks Marketplace: installa un modello Whisper (ad es. whisper-large-v3) dal marketplace nel tuo catalogo e distribuiscilo come endpoint di serving con un livello GPU adeguato alle tue esigenze di throughput. Gli endpoint LLM dell'agente (Claude, Llama) sono endpoint delle API di Foundation Model disponibili per impostazione predefinita; tutti i nomi degli endpoint sono configurabili tramite i parametri del widget.

La fase di configurazione crea lo schema, le tabelle Delta, la rubrica del consulente e registra tutte le 12 funzioni SQL. Il deployment acquisisce i metadati audio tramite l'Auto Loader, pacchettizza l'agente LangGraph con MLflow e lo distribuisce come endpoint di model-serving (~15 minuti). Una suite di test con oltre 40 test end-to-end convalida tutto, dagli schemi delle tabelle all'invocazione degli strumenti dell'endpoint live.

Una volta distribuito, interagisci con l'agente in AI Playground: seleziona l'endpoint e poni domande in linguaggio naturale. Playground supporta anche un percorso orientato ai prototipi: associa le funzioni SQL di UC come strumenti a qualsiasi Foundation Model, esegui iterazioni sul prompt di sistema ed esporta la configurazione funzionante come notebook Python/MLflow.

Sulla parte superiore si trovano due interfacce in linguaggio naturale: un Genie Space per domande strutturate ("Qual è il punteggio medio della rubrica per categoria di chiamata?") e un Agent Bricks Knowledge Assistant per il ragionamento su trascrizioni non strutturate ("Quali sono le difficoltà più comuni degli studenti con gli aiuti finanziari?") con citazioni fondate. Insieme, consentono a consulenti non tecnici, mentori e QA manager di effettuare ricerche sui propri studenti senza doversi rivolgere a un esperto di dati (SME). Per saperne di più: Genie Spaces (AWS | Azure | GCP) e Agent Bricks Knowledge Assistant (AWS | Azure | GCP).

Pronto a esplorare questa soluzione nel tuo ambiente? Scarica la soluzione da GitHub per scoprire come le registrazioni delle chiamate dei consulenti possono essere acquisite, trascritte, analizzate ed esplorate end-to-end. Per approfondire, scopri di più su Databricks AI per i workflow di AI generativa, Unity Catalog per una governance sicura e Genie per l'analisi conversazionale. Per ulteriore supporto, esplora i Solution Accelerators, la documentazione del prodotto o contatta Databricks per scoprire come queste funzionalità possono supportare i servizi agli studenti del tuo istituto.

Per rimanere aggiornato su come Databricks supporta l'istruzione, il settore pubblico e le organizzazioni non profit, segui Databricks for Public Sector su LinkedIn.

(Questo post sul blog è stato tradotto utilizzando strumenti basati sull'intelligenza artificiale) Post originale