AI-gestützte Beratungsleistungen für Hochschulen

Das Problem

Callcenter sind ein wichtiges Instrument zur Unterstützung von Studierenden im Hochschulbereich. Berater für finanzielle Unterstützung, Zulassung und Einschreibung sind oft die erste Anlaufstelle für Studierende, aber die Überwachung und Aufrechterhaltung der Gesprächsqualität in großem Maßstab ist teuer und schwierig.

Die meisten Einrichtungen betreiben eigene Callcenter und nutzen Tools zur Orchestrierung des Kundenservice wie Genesys oder Five9. Der Knackpunkt liegt nicht bei den Anrufen selbst. Sondern bei dem, was danach passiert.

Beispiel 1: Verbesserung der Beraterqualität ohne steigende Kosten. Ein typischer QA-Ansatz extrahiert Transkriptionen aus der Orchestrierungssoftware und prüft manuell eine Stichprobe. Aufgrund des Anrufvolumens bewerten QA-Teams oft nur ca. 5 % der Anrufe pro Jahr. Eine Verdoppelung dieser Abdeckung bedeutet eine Verdoppelung des Teams. Bei 50.000 $ pro Person für ein 10-köpfiges Team sind das zusätzliche 500.000 $/Jahr für minimale Verbesserungen. Neben den Kosten werden bei nativen Transkriptionen häufig die Namen von Studierenden falsch erkannt, was nachgelagerte Dashboards beeinträchtigt, die den Anrufverlauf mit den Profilen der Studierenden verknüpfen müssen.

Beispiel 2: Verstehen, womit Studierende zu kämpfen haben. Einige Einrichtungen haben keinen systematischen Ansatz. Andere unterhalten komplexe NLP-Pipelines, um Transkripte aufzuteilen, Themen zu extrahieren und das Sentiment zu bewerten. Diese Pipelines sind bei großen Datenmengen fehleranfällig, erfordern eine manuelle Pflege von Phrasenlisten zwischen den wöchentlichen Batch-Läufen und liefern selten schnell genug Erkenntnisse, damit Administratoren auf neu auftretende Probleme reagieren können, bevor das Semester vorbei ist.

Warum LLM-basierte Transkription wichtig ist

Herkömmliche ASR-Modelle, die auf sauberen, eng gefassten Datensätzen trainiert wurden, haben Schwierigkeiten mit Akzenten, Dialekten, komprimiertem Telefon-Audio und lauten Umgebungen – allesamt Standard bei Anrufen zur Unterstützung von Studierenden, insbesondere an Einrichtungen mit vielen internationalen Studierenden. Foundation-Modelle wie OpenAI Whisper, die mit mehr als 680.000 Stunden vielfältigem, mehrsprachigem Audiomaterial trainiert wurden, lassen sich unter diesen Bedingungen weitaus besser verallgemeinern. Ältere ASR-Systeme sind nicht veraltet, aber für diesen Anwendungsfall sind sie das falsche Werkzeug.

Der KI-Ansatz auf Databricks

Wir haben gesehen, wie mehrere Hochschuleinrichtungen beide Probleme durch eine Partnerschaft mit Databricks gelöst haben. Die Baylor University ist ein Beispiel dafür: Der hier vorgestellte Workflow ist eine verfeinerte Version des Workflows, mit dem Baylor dieselben Herausforderungen bewältigt hat. Das Kernmuster beginnt mit der Bereitstellung von OpenAI Whisper auf Databricks Model Serving für präzisere Transkriptionen, gefolgt von einer Ebene von AI Functions zur Anreicherung und Bewertung.

Für Beispiel 1 (Beraterqualität):

• Hosten Sie WhisperAI als verwalteten Serving-Endpunkt; wenden Sie Transkriptionen in großem Maßstab über ai_query() in täglichen oder wöchentlichen Batches an.
• Verwenden Sie LLM-as-a-Judge, um jedes Transkript anhand der QA-Rubrik der Einrichtung zu bewerten. Das Modell bewertet jedes Kriterium der Rubrik und liefert eine gewichtete Gesamtbewertung von 1 bis 5, Bewertungen pro Kriterium und eine schriftliche Beurteilung. Die Rubrikkriterien werden aus einer Referenztabelle gezogen und im Prompt kodifiziert, um sicherzustellen, dass bei jedem Anruf derselbe Standard einheitlich angewendet wird.
• Leiten Sie Anrufe, die als verbesserungswürdig markiert wurden, an das QA-Team weiter, um die Zufallsstichprobe durch eine gezielte Überprüfung zu ersetzen.

Für Beispiel 2 (Erkenntnisse über Studierende):

• Dieselbe Whisper-Transkriptions-Pipeline, vierteljährlich auf stundenlanges Audiomaterial angewendet.
• Reichern Sie jeden Anruf mit ai_analyze_sentiment() und ai_extract() für Sentiment, Themen und Absicht (Intent) an.
• Stellen Sie die Ergebnisse über zwei komplementäre Oberflächen bereit: einen Agent Bricks Knowledge Assistant für unstrukturierte logische Schlussfolgerungen über Roh-Transkripte („Womit haben Studierende bei der finanziellen Unterstützung am häufigsten zu kämpfen?“) mit fundierten Zitaten und einen Genie Space für strukturierte Trendabfragen („Durchschnittliches Sentiment nach Kategorie in diesem Quartal?“).

Das Besondere an Databricks ist, dass jeder Schritt (Ingestion, Transkription, KI-Analyse und Discovery) auf einer einzigen, kontrollierten Plattform ausgeführt wird. Unity Catalog schützt sensible Daten von Studierenden durch feingranulare Zugriffskontrollen. AI Functions wie ai_query() rufen Foundation-Modelle direkt aus SQL auf, ohne dass eine separate Inferenz-Infrastruktur erforderlich ist. Kein Zusammenflicken von Tools, kein Abfluss von Daten aus der Governance-Grenze, keine separate Orchestrierungsebene.

Architektur

Diese Lösung wandelt unstrukturierte Audiodaten aus dem Cloud-Objektspeicher über eine kontrollierte Pipeline in hochpräzise strukturierte Daten um:

Rohe Audiodaten landen in Databricks Volumes unter Unity Catalog. Whisper führt ein verteiltes Speech-to-Text aus und erfasst Nuancen wie Namen von Studierenden und Begriffe aus dem Hochschulbereich, die bei nativen Transkriptionen verloren gehen. AI Functions reichern dann jeden Datensatz mit Sentiment, Themen und Rubrikbewertungen an. Diese werden mit den Daten der Einrichtung (z. B. Studierendendaten aus Salesforce) zusammengeführt und bieten eine 360-Grad-Sicht auf jede Interaktion.

Erste Schritte

Um die Lösung auszuführen, aktualisieren Sie die Werte des Catalog-/Schema-Widgets und stellen Sie sicher, dass ein SQL-Warehouse verfügbar ist (AI Functions verwenden ai_query(), was auf Serverless SQL-Compute ausgeführt wird). Weisen Sie einer Single-User-Cluster- (DBR 15.4 LTS+) oder Serverless-Umgebung Compute-Ressourcen zu.

Für Whisper ist der einfachste Weg der Databricks Marketplace: Installieren Sie ein Whisper-Modell (z. B. whisper-large-v3) aus dem Marketplace in Ihrem Katalog und stellen Sie es als Serving-Endpunkt mit einer GPU-Stufe bereit, die an Ihre Durchsatzanforderungen angepasst ist. Die LLM-Endpunkte des Agenten (Claude, Llama) sind standardmäßig verfügbare Foundation Model API-Endpunkte; alle Endpunktnamen sind über Widget-Parameter konfigurierbar.

In der Setup-Phase werden das Schema, die Delta-Tabellen und die Beraterrubrik erstellt sowie alle 12 SQL-Funktionen registriert. Bei der Bereitstellung werden Audio-Metadaten über den Auto Loader geladen, der LangGraph-Agent mit MLflow verpackt und als Model-Serving-Endpunkt bereitgestellt (~15 Minuten). Eine Testsuite mit über 40 End-to-End-Tests validiert alles von Tabellenschemata bis hin zum Aufruf von Tools über Live-Endpunkte.

Nach der Bereitstellung können Sie im AI Playground mit dem Agenten interagieren: Wählen Sie den Endpunkt aus und stellen Sie Fragen in natürlicher Sprache. Der Playground unterstützt auch einen Prototyp-First-Pfad: Fügen Sie UC SQL-Funktionen als Tools an ein beliebiges Foundation-Modell an, iterieren Sie über den System-Prompt und exportieren Sie die funktionierende Konfiguration als Python/MLflow-Notebook.

Darüber liegen zwei Oberflächen für natürliche Sprache: ein Genie Space für strukturierte Fragen („Wie hoch ist die durchschnittliche Rubrikbewertung nach Anrufkategorie?“) und ein Agent Bricks Knowledge Assistant für logische Schlussfolgerungen über unstrukturierte Transkripte („Womit haben Studierende bei der finanziellen Unterstützung am häufigsten zu kämpfen?“) mit fundierten Zitaten. Zusammen ermöglichen sie es nicht-technischen Beratern, Mentoren und QA-Managern, sich über ihre Studierenden zu informieren, ohne sich an einen Daten-SME wenden zu müssen. Weitere Informationen: Genie Spaces (AWS | Azure | GCP) and Agent Bricks Knowledge Assistant (AWS | Azure | GCP).

Bereit, dies in Ihrer eigenen Umgebung zu erkunden? Laden Sie die Lösung von GitHub herunter, um zu sehen, wie Aufzeichnungen von Beratungsgesprächen durchgängig erfasst, transkribiert, analysiert und untersucht werden können. Um noch einen Schritt weiterzugehen, erfahren Sie mehr über Databricks AI für generative KI-Workflows, Unity Catalog für sichere Governance und Genie für Conversational Analytics. Weitere Unterstützung finden Sie in den Solution Accelerators, der Produktdokumentation oder kontaktieren Sie Databricks, um zu besprechen, wie diese Funktionen die Services für Studierende an Ihrer Einrichtung unterstützen können.

Um auf dem Laufenden zu bleiben, wie Databricks das Bildungswesen, den öffentlichen Sektor und gemeinnützige Organisationen unterstützt, folgen Sie Databricks for Public Sector auf LinkedIn.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag