Envía agentes de IA empresariales de calidad a los usuarios de negocio con Agent Bricks y Databricks Apps

Prototipar un agente de IA es fácil. Lanzar uno en el que los usuarios empresariales confíen y que los equipos de seguridad no bloqueen es donde la mayoría de los proyectos empresariales se ralentizan.

En este blog, recorreremos un camino rápido y gobernado hacia la producción utilizando la Plataforma Databricks:

1. Crea un agente de dominio específico y de calidad de producción con evaluación integrada y mejora continua
2. Implementa una interfaz de chat personalizable con Databricks Apps que tenga SSO integrado y acceso a datos gobernado
3. Distribuye tu agente a los usuarios empresariales a través de una experiencia optimizada e intuitiva para consumir información de IA y datos

Utilizaremos un ejemplo compartido en todo momento: un Asistente de Conocimiento de Agent Bricks para una empresa de ejemplo llamada Redwood Commerce que responde preguntas sobre políticas corporativas basándose en PDFs internos, con citas a los documentos fuente.

Por qué la producción de agentes sigue siendo difícil

Los equipos que desarrollan agentes de IA empresariales a menudo se encuentran con un conjunto familiar de problemas:

• La evaluación es difícil: Muchas tareas de IA empresariales son difíciles de evaluar, tanto para humanos como para jueces de LLM automatizados. Los puntos de referencia académicos no se traducen a casos de uso del mundo real. La construcción de evaluaciones matizadas a menudo requiere etiquetado manual costoso. Como resultado, los proyectos prometedores se estancan en ciclos de ajuste interminables, y los interesados pierden la confianza debido a la falta de progreso claro.
• Demasiados parámetros: Los agentes son sistemas de IA complejos con muchos componentes, cada uno con sus propios parámetros. Desde el ajuste de prompts hasta las estrategias de fragmentación de índices, las opciones de modelos y los parámetros de ajuste fino, cada ajuste crea efectos desconocidos en todo el sistema. Lo que debería ser una mejora iterativa rápida se convierte en un ensayo y error manual costoso y tedioso, lo que ralentiza el tiempo de producción.
• Costo y calidad: Incluso después de que los equipos resuelven los problemas anteriores y construyen un agente de alta calidad, a menudo se sorprenden al descubrir que el agente es demasiado caro para escalar a producción. Los equipos se estancan en un largo proceso de optimización de costos, o se ven obligados a hacer concesiones entre costo y calidad.

Además de eso, todavía necesitas una interfaz de usuario intuitiva para los usuarios empresariales y un acceso seguro que tenga en cuenta tu modelo de gobernanza.

El objetivo es reducir esta fricción para que puedas pasar de prueba de concepto a listo para el negocio en días o incluso horas en lugar de meses.

El camino rápido y gobernado: Agent Bricks, Databricks Apps y Databricks One

Para poner tus agentes de IA en producción, Databricks proporciona tres componentes perfectamente integrados:

• Agent Bricks simplifica la creación, evaluación y optimización de agentes de IA de calidad de producción en tus datos empresariales. Simplemente define tu tarea y conecta tus datos, y Agent Bricks se encarga del trabajo pesado, incluida la evaluación integrada y la gobernanza unificada de Unity Catalog.
• Databricks Apps te permite implementar de forma segura esos agentes e interfaces de chat personalizables directamente dentro de Databricks. Obtienes computación sin servidor, SSO integrado y permisos granulares sin necesidad de gestionar infraestructura en la nube.
• Databricks One proporciona una "puerta de entrada" simplificada y curada para tus usuarios empresariales. En lugar de buscar en páginas internas de wiki o mantener marcadores de paneles, obtienen un centro intuitivo para interactuar con Apps, Dashboards y otros activos de datos e IA.

Veamos cómo estos tres componentes funcionan juntos en la práctica.

Ejemplo: Creación de un asistente de políticas corporativas

Redwood Commerce, una empresa ficticia, tiene documentos de políticas corporativas (viajes, gastos, bajas por enfermedad, seguridad de TI) almacenados como PDFs aprobados.

Los empleados hacen preguntas repetidamente como: “¿Puedo deducir los gastos de tintorería del hotel?”

Los usuarios empresariales quieren una experiencia de chat simple que:

1. Responda basándose en los documentos de políticas corporativas aprobados
2. Proporcione citas para la confianza y la verificación
3. Respete los permisos y la gobernanza
4. Se pueda compartir ampliamente pero de forma segura con empleados de toda la organización

Paso 1: Crear un Asistente de Conocimiento en Agent Bricks

Agent Bricks admite múltiples casos de uso, incluido el Asistente de Conocimiento, que convierte tus documentos en un chatbot de alta calidad que responde preguntas y cita sus fuentes.

Conectar los documentos de políticas

El Asistente de Conocimiento puede usar:

• Archivos en un volumen de Unity Catalog (txt, pdf, md, ppt/pptx y doc/docx).
• Un índice de búsqueda vectorial existente utilizando databricks-gte-large-en como su modelo de incrustación.

Para Redwood Commerce, utilizaremos la ruta más sencilla: almacenar los PDFs de políticas corporativas en un volumen de Unity Catalog.

Construir el agente

En la interfaz de usuario del espacio de trabajo de Databricks:

1. Navega a Agentes
2. En Asistente de Conocimiento, elige Construir
3. Asígnale un nombre (por ejemplo, Asistente de Políticas de Redwood) y añade una descripción
4. Selecciona la ubicación del archivo de Unity Catalog como fuente de conocimiento
5. Crea el agente

El Asistente de Conocimiento crea un punto final de agente que puedes usar posteriormente en aplicaciones.

Paso 2: Validar la calidad rápidamente (y mejorarla con SMEs)

Un modo de fallo común es lanzar un agente que suena bien pero en el que no se puede confiar. El Asistente de Conocimiento de Agent Bricks está diseñado explícitamente para devolver respuestas de alta calidad con citas, lo cual es clave para la confianza de los interesados.

Podemos probar el agente directamente en la interfaz de usuario del Asistente de Conocimiento o en el AI Playground y hacer preguntas realistas:

• “¿Puedo deducir los gastos de tintorería del hotel?”
• “¿Cómo informo de una baja por enfermedad?”
• “¿Cuál es el proceso para el reembolso de viajes?”

Las respuestas del agente se basan en los documentos con citas a las secciones de políticas relevantes.

Agent Bricks admite la mejora del comportamiento del agente basándose en comentarios en lenguaje natural de expertos en la materia (SMEs) al proporcionar preguntas etiquetadas y directrices.

Las directrices se utilizan para mejorar las respuestas de tu agente estableciendo expectativas claras de tono, estructura y comportamiento. Ayudan a garantizar que el agente se comunique con claridad, se mantenga fiel a la marca y maneje diferentes escenarios de la manera correcta. Estas mismas directrices también se utilizan como criterios de evaluación para generar puntuaciones de calidad para cada respuesta.

Añade preguntas en la pestaña Ejemplos de tu agente Asistente de Conocimiento. Para invitar a SMEs a proporcionar preguntas etiquetadas y directrices, comparte el Asistente de Conocimiento usando el menú de tres puntos y eligiendo Permisos.

Paso 3: Implementar una interfaz de chat con Databricks Apps

Una vez que estemos satisfechos con la calidad del agente, convertimos el punto final del agente en algo que los empleados puedan usar realmente: una experiencia de chat diseñada específicamente para Redwood Commerce.

Databricks Apps te permite implementar una aplicación totalmente personalizada, o empezar con una plantilla de chat preconstruida y personalizarla para que coincida con tu marca.

En la interfaz de usuario del espacio de trabajo de Databricks:

1. Navega a Compute y selecciona la pestaña Apps
2. Elige Crear app
3. Selecciona la pestaña Agents y elige la plantilla Chat UI
4. Apúntala al punto final del Asistente de Conocimiento
5. Implementa tu aplicación

Después de implementar tu aplicación, puedes usar directamente tu chatbot Knowledge Assistant en la plantilla de la aplicación a través de la URL de la aplicación proporcionada.

Para crear una experiencia más personalizada, puedes personalizar la plantilla clonándola en tu máquina local. Con algunos ajustes sencillos, podemos crear una interfaz de chat a medida para Redwood Commerce:

Las Databricks Apps tienen seguridad y gobernanza integradas, y no es necesario desarrollar ni mantener código personalizado de autenticación o autorización.

Las aplicaciones solo son accesibles para usuarios autenticados que inician sesión usando SSO. No hay acceso anónimo ni público. Gracias a la autorización de usuario, tu aplicación puede aplicar permisos detallados actuando con la identidad del usuario de la aplicación.

Paso 4: Publica para usuarios de negocio a través de Databricks One

Podríamos distribuir la aplicación simplemente enviando la URL de la aplicación a las personas. Pero a medida que pones más activos de datos e IA a disposición de los usuarios de negocio, los equipos necesitan un lugar único y curado donde los empleados puedan encontrar de manera confiable las herramientas adecuadas.

Databricks One está diseñado como esa puerta de entrada: una interfaz de usuario simplificada donde los usuarios de negocio pueden acceder a datos compartidos y activos de IA en Databricks, incluidas las Databricks Apps.

Después de habilitar Databricks One y configurar los permisos adecuados del espacio de trabajo, podemos compartir la Databricks App con grupos de empleados sincronizados desde nuestro proveedor de identidad.

Ahora los empleados abren Databricks One, hacen clic en el asistente de políticas y preguntan:

“¿Puedo reclamar el cargo por late checkout de mi hotel?”

Obtienen una respuesta con citas, y la gobernanza es coherente de principio a fin.

Empieza a implementar agentes para usuarios de negocio

Agent Bricks Knowledge Assistant te ofrece un camino rápido y automatizado desde tus documentos empresariales hasta un agente específico del dominio, manteniendo la calidad medible y mejorando con el tiempo a través de la evaluación y optimización integradas.

Con Databricks Apps y Databricks One, puedes empaquetar ese agente en una experiencia de chat amigable para los negocios y distribuirlo a través de un punto de entrada curado, con seguridad y gobernanza de Unity Catalog aplicadas de principio a fin.

Para profundizar, empieza con:

• Documentación y demos de Agent Bricks: documentación y demos: asistente de conocimiento y agente supervisor
• Demo de Databricks Apps, guía de inicio rápido y documentación
• Documentación de Databricks One y permiso de acceso de consumidor

(Esta entrada del blog ha sido traducida utilizando herramientas basadas en inteligencia artificial) Publicación original