Servicios de asesoría impulsados por IA para la educación superior

El problema

Los centros de atención telefónica son una herramienta clave de apoyo para los estudiantes en la educación superior. Los asesores de ayuda financiera, admisiones y matriculación suelen ser el primer punto de contacto de un estudiante, pero supervisar y mantener la calidad de las conversaciones a escala es costoso y difícil.

La mayoría de las instituciones cuentan con su propio personal para los centros de atención telefónica y utilizan herramientas de orquestación de servicio al cliente como Genesys o Five9. El problema no son las llamadas en sí, sino lo que ocurre después.

Ejemplo 1: Mejorar la calidad de los asesores sin escalar los costos. Un enfoque típico de QA consiste en extraer las transcripciones del software de orquestación y revisar manualmente una muestra aleatoria. Debido al volumen de llamadas, los equipos de QA a menudo evalúan solo alrededor del 5% de las llamadas al año. Duplicar esa cobertura significa duplicar el equipo. Con un costo de 50 000 USD por persona para un equipo de 10 personas, eso representa 500 000 USD adicionales al año para obtener mejoras marginales. Además del costo, las transcripciones nativas a menudo identifican erróneamente los nombres de los estudiantes, lo que rompe los paneles de control posteriores que necesitan asociar el historial de llamadas con los perfiles de los estudiantes.

Ejemplo 2: Comprender con qué tienen dificultades los estudiantes. Algunas instituciones no tienen un enfoque sistemático. Otras mantienen pipelines complejos de NLP para fragmentar transcripciones, extraer temas y calificar el sentimiento. Estos pipelines son frágiles a escala, requieren la selección manual de listas de frases entre las ejecuciones por lotes semanales y rara vez generan información con la rapidez suficiente para que los administradores actúen ante los problemas emergentes antes de que avance el semestre.

Por qué es importante la transcripción basada en LLM

Los modelos tradicionales de ASR entrenados con conjuntos de datos limpios y acotados tienen dificultades con los acentos, los dialectos, el audio telefónico comprimido y los entornos ruidosos, elementos comunes en las llamadas de apoyo a los estudiantes, especialmente en instituciones con grandes poblaciones internacionales. Los modelos fundacionales como OpenAI Whisper, entrenados con más de 680 000 horas de audio multilingüe diverso, generalizan mucho mejor en estas condiciones. El ASR más antiguo no está obsoleto, pero para este caso de uso, es la herramienta incorrecta.

El enfoque de IA en Databricks

Hemos visto a varias instituciones de educación superior resolver ambos problemas al asociarse con Databricks. Baylor University es un ejemplo: el flujo de trabajo que se presenta aquí es una versión perfeccionada del que utilizó Baylor para abordar estos mismos desafíos. El patrón principal comienza con la implementación de OpenAI Whisper en Databricks Model Serving para obtener transcripciones de mayor fidelidad, y luego agregar AI Functions para el enriquecimiento y la calificación.

Para el Ejemplo 1 (Calidad de los asesores):

• Aloje WhisperAI como un endpoint de servicio administrado; aplique transcripciones a escala a través de ai_query() en lotes diarios o semanales.
• Utilice LLM-as-a-judge para calificar cada transcripción según la rúbrica de QA de la institución. El modelo evalúa cada criterio de la rúbrica y devuelve una puntuación general ponderada del 1 al 5, puntuaciones por criterio y una evaluación narrativa. Los criterios de la rúbrica se extraen de una tabla de referencia y se codifican en el prompt, lo que garantiza que se aplique el mismo estándar de manera uniforme en cada llamada.
• Derive las llamadas marcadas para mejorar al equipo de QA, reemplazando el muestreo aleatorio con una revisión dirigida.

Para el Ejemplo 2 (Información sobre los estudiantes):

• El mismo pipeline de transcripción de Whisper, aplicado trimestralmente a horas de audio.
• Enriquezca cada llamada con ai_analyze_sentiment() y ai_extract() para obtener el sentimiento, los temas y la intención.
• Exponga los resultados a través de dos superficies complementarias: un Agent Bricks Knowledge Assistant para el razonamiento no estructurado sobre transcripciones sin procesar ("¿Con qué suelen tener dificultades los estudiantes en la ayuda financiera?") con citas fundamentadas, y un Genie Space para consultas de tendencias estructuradas ("¿Sentimiento promedio por categoría este trimestre?").

Lo que hace que esto sea potente en Databricks es que cada paso (ingesta, transcripción, análisis de IA y descubrimiento) se ejecuta en una única plataforma gobernada. Unity Catalog mantiene seguros los datos confidenciales de los estudiantes con controles de acceso detallados. Las AI Functions como ai_query() llaman a los modelos fundacionales directamente desde SQL sin una infraestructura de inferencia independiente. Sin necesidad de conectar herramientas entre sí, sin que los datos salgan del límite de gobernanza y sin una capa de orquestación independiente.

Arquitectura

Esta solución convierte el audio no estructurado del almacenamiento de objetos en la nube en datos estructurados de alta fidelidad a través de un pipeline gobernado:

El audio sin procesar llega a los Volumes de Databricks bajo Unity Catalog. Whisper realiza conversión de voz a texto distribuida, capturando matices como los nombres de los estudiantes y la terminología de educación superior que las transcripciones nativas pasan por alto. Luego, las AI Functions enriquecen cada registro con el sentimiento, los temas y las puntuaciones de la rúbrica. Estos se sintetizan con los registros institucionales (como los datos de los estudiantes de Salesforce), lo que proporciona una vista de 360 grados de cada interacción.

Primeros pasos

Para ejecutar la solución, actualice los valores del widget de catálogo/esquema y asegúrese de que haya un SQL warehouse disponible (las AI Functions utilizan ai_query(), que se ejecuta en computación SQL serverless). Conecte la computación a un clúster de usuario único (DBR 15.4 LTS+) o a un entorno serverless.

Para Whisper, el camino más sencillo es Databricks Marketplace: instale un modelo de Whisper (por ejemplo, whisper-large-v3) desde el marketplace en su catálogo e impleméntelo como un endpoint de servicio con un nivel de GPU adaptado a sus necesidades de rendimiento. Los endpoints de LLM del agente (Claude, Llama) son endpoints de la Foundation Model API disponibles de forma predeterminada; todos los nombres de los endpoints se pueden configurar a través de los parámetros del widget.

La etapa de configuración crea el esquema, las tablas Delta, la rúbrica del asesor y registra las 12 funciones SQL. La implementación ingiere los metadatos de audio a través de Auto Loader, empaqueta el agente de LangGraph con MLflow y lo implementa como un endpoint de servicio de modelo (~15 minutos). Un conjunto de pruebas de más de 40 pruebas de extremo a extremo valida todo, desde los esquemas de las tablas hasta la invocación de herramientas de endpoints en vivo.

Una vez implementado, interactúe con el agente en el AI Playground: seleccione el endpoint y haga preguntas en lenguaje natural. El Playground también admite un camino centrado en prototipos: conecte funciones SQL de UC como herramientas a cualquier Foundation Model, itere en el prompt del sistema y exporte la configuración de trabajo como un cuaderno de Python/MLflow.

Dos superficies de lenguaje natural se sitúan en la parte superior: un Genie Space para preguntas estructuradas ("¿Cuál es la puntuación promedio de la rúbrica por categoría de llamada?") y un Agent Bricks Knowledge Assistant para el razonamiento sobre transcripciones no estructuradas ("¿Con qué suelen tener dificultades los estudiantes en la ayuda financiera?") con citas fundamentadas. Juntos, permiten que los asesores no técnicos, los mentores y los gerentes de QA realicen consultas sobre sus estudiantes sin tener que recurrir a un SME de datos. Para obtener más información: Genie Spaces (AWS | Azure | GCP) y Agent Bricks Knowledge Assistant (AWS | Azure | GCP).

¿Listo para explorar esto en su propio entorno? Descargue la solución desde GitHub para ver cómo las grabaciones de llamadas de los asesores se pueden ingestar, transcribir, analizar y explorar de extremo a extremo. Para ir más allá, obtenga más información sobre Databricks AI para flujos de trabajo de IA generativa, Unity Catalog para una gobernanza segura y Genie para analítica conversacional. Para obtener orientación adicional, explore los Solution Accelerators, la documentación del producto o póngase en contacto con Databricks para analizar cómo estas capacidades pueden respaldar las operaciones de servicios estudiantiles en su institución.

Para mantenerse al día sobre cómo Databricks apoya a la educación, el gobierno y las organizaciones sin fines de lucro, siga a Databricks for Public Sector en LinkedIn.

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original