Qualitativ hochwertige Enterprise AI-Agenten mit Agent Bricks und Databricks Apps an Geschäftsbenutzer ausliefern

Das Prototyping eines KI-Agenten ist einfach. Ihn aber so zu versenden, dass Geschäftsbenutzer ihm vertrauen und Sicherheitsteams ihn nicht blockieren, ist der Punkt, an dem die meisten Unternehmensprojekte ins Stocken geraten.

In diesem Blogbeitrag führen wir Sie durch einen schnellen, gesteuerten Weg zur Produktion mit der Databricks Platform:

1. Erstellen Sie einen produktionsreifen, domänenspezifischen Agenten mit integrierter Evaluierung und kontinuierlicher Verbesserung
2. Stellen Sie eine anpassbare Chat-Benutzeroberfläche mit Databricks Apps bereit, die über integriertes SSO und gesteuerten Datenzugriff verfügt
3. Verteilen Sie Ihren Agenten an Geschäftsbenutzer über eine optimierte, intuitive Erfahrung zum Konsumieren von KI- und Dateneinblicken

Wir verwenden durchgängig ein gemeinsames Beispiel: einen Agent Bricks Knowledge Assistant für ein Beispielunternehmen namens Redwood Commerce, das Fragen zur Unternehmensrichtlinie basierend auf internen PDFs beantwortet und Zitate zu den Quelldokumenten liefert.

Warum die Produktionsreifmachung von Agenten immer noch schwierig ist

Teams, die Unternehmens-KI-Agenten entwickeln, stoßen oft auf eine bekannte Reihe von Problemen:

• Die Evaluierung ist schwierig: Viele Unternehmens-KI-Aufgaben sind schwer zu bewerten, sowohl für Menschen als auch für automatisierte LLM-Richter. Akademische Benchmarks lassen sich nicht auf reale Anwendungsfälle übertragen. Die Erstellung nuancierter Evaluierungen erfordert oft teure manuelle Kennzeichnungen. Infolgedessen geraten vielversprechende Projekte in endlose Tuning-Zyklen, und die Stakeholder verlieren aufgrund unklarer Fortschritte das Vertrauen.
• Zu viele Stellschrauben: Agenten sind komplexe KI-Systeme mit vielen Komponenten, die jeweils ihre eigenen Stellschrauben haben. Vom Tuning von Prompts über Index-Chunking-Strategien bis hin zu Modellwahlen und Fine-Tuning-Parametern – jede Anpassung hat unbekannte Auswirkungen auf das gesamte System. Was schnelle iterative Verbesserung sein sollte, wird zu teurem und mühsamem manuellem Ausprobieren, was die Zeit bis zur Produktion verlangsamt.
• Kosten und Qualität: Selbst nachdem Teams die oben genannten Probleme gelöst und einen qualitativ hochwertigen Agenten entwickelt haben, sind sie oft überrascht festzustellen, dass der Agent zu teuer ist, um ihn in die Produktion zu skalieren. Teams geraten entweder in einen langen Kostenoptimierungsprozess oder sind gezwungen, Kompromisse zwischen Kosten und Qualität einzugehen.

Darüber hinaus benötigen Sie immer noch eine intuitive Benutzeroberfläche für Geschäftsbenutzer und einen sicheren Zugriff, der Ihr Governance-Modell berücksichtigt.

Ziel ist es, diese Reibungsverluste zu reduzieren, damit Sie in Tagen oder sogar Stunden statt in Monaten vom Proof of Concept zum geschäftsfertigen Produkt gelangen können.

Der schnelle, gesteuerte Weg: Agent Bricks, Databricks Apps und Databricks One

Um Ihre KI-Agenten in die Produktion zu bringen, bietet Databricks drei nahtlos integrierte Komponenten:

• Agent Bricks optimiert die Erstellung, Evaluierung und Optimierung von produktionsreifen KI-Agenten auf Ihren Unternehmensdaten. Definieren Sie einfach Ihre Aufgabe und verbinden Sie Ihre Daten, und Agent Bricks erledigt die schwere Arbeit, einschließlich integrierter Evaluierung und einheitlicher Unity Catalog-Governance.
• Databricks Apps ermöglicht es Ihnen, diese Agenten und anpassbaren Chat-Oberflächen direkt in Databricks sicher bereitzustellen. Sie erhalten serverloses Computing, integriertes SSO und feingranulare Berechtigungen, ohne Cloud-Infrastruktur verwalten zu müssen.
• Databricks One bietet eine vereinfachte, kuratierte „Eingangstür“ für Ihre Geschäftsbenutzer. Anstatt interne Wiki-Seiten zu durchsuchen oder Lesezeichen für Dashboards zu verwalten, erhalten sie einen intuitiven Hub, um mit Apps, Dashboards und anderen Daten- und KI-Assets zu interagieren.

Schauen wir uns an, wie diese drei Komponenten in der Praxis zusammenarbeiten.

Beispiel: Erstellen eines Assistenten für Unternehmensrichtlinien

Redwood Commerce, ein fiktives Unternehmen, hat Dokumente zu Unternehmensrichtlinien (Reisekosten, Spesen, Krankheitsurlaub, IT-Sicherheit) als genehmigte PDFs gespeichert.

Mitarbeiter stellen wiederholt Fragen wie: „Kann ich Hotel-Reinigung als Spesen abrechnen?“

Geschäftsbenutzer wünschen sich eine einfache Chat-Erfahrung, die:

1. Antworten basierend auf den genehmigten Dokumenten der Unternehmensrichtlinien liefert
2. Zitate zur Vertrauensbildung und Verifizierung bereitstellt
3. Berechtigungen und Governance respektiert
4. Breit, aber sicher an Mitarbeiter im gesamten Unternehmen verteilt werden kann

Schritt 1: Erstellen eines Wissensassistenten in Agent Bricks

Agent Bricks unterstützt mehrere Anwendungsfälle, einschließlich Knowledge Assistant, der Ihre Dokumente in einen qualitativ hochwertigen Chatbot verwandelt, der Fragen beantwortet und seine Quellen zitiert.

Verbinden der Richtliniendokumente

Knowledge Assistant kann verwenden:

• Dateien in einem Unity Catalog-Volume (txt, pdf, md, ppt/pptx und doc/docx).
• Einen vorhandenen Vektorsuchindex mit databricks-gte-large-en als Embedding-Modell.

Für Redwood Commerce verwenden wir den einfachsten Weg: Speichern der PDFs der Unternehmensrichtlinien in einem Unity Catalog-Volume.

Erstellen des Agenten

In der Databricks-Workspace-Benutzeroberfläche:

1. Navigieren Sie zu Agents
2. Wählen Sie unter Knowledge Assistant Build
3. Benennen Sie ihn (z. B. Redwood Policy Assistant) und fügen Sie eine Beschreibung hinzu
4. Wählen Sie den Unity Catalog-Dateispeicherort als Wissensquelle aus
5. Erstellen Sie den Agenten

Knowledge Assistant erstellt einen Agenten-Endpunkt, den Sie nachgelagert in Anwendungen verwenden können.

Schritt 2: Qualität schnell validieren (und mit Fachexperten verbessern)

Ein häufiger Fehler ist das Versenden eines Agenten, der richtig klingt, aber nicht vertrauenswürdig ist. Agent Bricks Knowledge Assistant ist explizit darauf ausgelegt, qualitativ hochwertige Antworten mit Zitaten zu liefern, was für das Vertrauen der Stakeholder entscheidend ist.

Wir können den Agenten direkt in der Knowledge Assistant-Benutzeroberfläche oder im AI Playground testen und realistische Fragen stellen:

• „Kann ich Hotel-Reinigung als Spesen abrechnen?“
• „Wie melde ich mich krank?“
• „Wie ist der Prozess für die Reisekostenerstattung?“

Die Antworten des Agenten basieren auf den Dokumenten mit Zitaten zu den relevanten Richtlinienabschnitten.

Agent Bricks unterstützt die Verbesserung des Agentenverhaltens basierend auf natürlicher Sprachrückmeldung von Fachexperten (SMEs) durch die Bereitstellung von gekennzeichneten Fragen und Richtlinien.

Richtlinien werden verwendet, um die Antworten Ihres Agenten zu verbessern, indem klare Erwartungen an Ton, Struktur und Verhalten gestellt werden. Sie helfen sicherzustellen, dass der Agent klar kommuniziert, markenkonform bleibt und verschiedene Szenarien richtig handhabt. Dieselben Richtlinien werden auch als Bewertungskriterien verwendet, um Qualitätsbewertungen für jede Antwort zu generieren.

Fügen Sie Fragen unter dem Tab „Beispiele“ Ihres Knowledge Assistant-Agenten hinzu. Um Fachexperten zur Bereitstellung von gekennzeichneten Fragen und Richtlinien einzuladen, teilen Sie den Knowledge Assistant über das Drei-Punkte-Menü und die Auswahl von „Berechtigungen“.

Schritt 3: Bereitstellen einer Chat-Benutzeroberfläche mit Databricks Apps

Sobald wir mit der Qualität des Agenten zufrieden sind, verwandeln wir den Agenten-Endpunkt in etwas, das Mitarbeiter tatsächlich nutzen können: eine speziell entwickelte Chat-Erfahrung für Redwood Commerce.

Databricks Apps ermöglicht es Ihnen, eine vollständig benutzerdefinierte App bereitzustellen oder mit einer vorgefertigten Chat-Vorlage zu beginnen und sie an Ihre Marke anzupassen.

In der Databricks-Workspace-Benutzeroberfläche:

1. Navigieren Sie zu Compute und wählen Sie den Tab Apps aus
2. Wählen Sie Create app
3. Wählen Sie den Tab Agents und wählen Sie die Chat UI-Vorlage aus
4. Richten Sie ihn auf den Knowledge Assistant-Endpunkt
5. Stellen Sie Ihre App bereit

Nachdem Sie Ihre App bereitgestellt haben, können Sie Ihren Knowledge Assistant Chatbot direkt in der App-Vorlage über die bereitgestellte App-URL nutzen.

Um ein stärker markenbezogenes Erlebnis zu schaffen, können Sie die Vorlage anpassen, indem Sie sie auf Ihren lokalen Rechner klonen. Mit ein paar einfachen Anpassungen können wir eine maßgeschneiderte Chat-Benutzeroberfläche für Redwood Commerce erstellen:

Databricks Apps verfügen über integrierte Sicherheits- und Governance-Funktionen, sodass Sie keinen benutzerdefinierten Authentifizierungs- oder Autorisierungscode entwickeln und pflegen müssen.

Apps sind nur für authentifizierte Benutzer zugänglich, die sich über SSO anmelden. Es gibt keinen anonymen oder öffentlichen Zugriff. Dank der Benutzerautorisierung kann Ihre App feingranulare Berechtigungen anwenden, indem sie mit der Identität des App-Benutzers agiert.

Schritt 4: Veröffentlichung für Geschäftsbenutzer über Databricks One

Wir könnten die App einfach verteilen, indem wir den Leuten die App-URL senden. Aber wenn Sie mehr Daten und KI-Assets für Geschäftsbenutzer verfügbar machen, benötigen Teams einen einzigen, kuratierten Ort, an dem Mitarbeiter die richtigen Tools zuverlässig finden können.

Databricks One ist als diese zentrale Anlaufstelle konzipiert: eine vereinfachte Benutzeroberfläche, über die Geschäftsbenutzer freigegebene Daten und KI-Assets in Databricks, einschließlich Databricks Apps, abrufen können.

Nachdem Databricks One aktiviert und die richtigen Workspace-Berechtigungen konfiguriert wurden, können wir die Databricks App mit Mitarbeitergruppen teilen, die aus unserem Identitätsanbieter synchronisiert werden.

Jetzt öffnen Mitarbeiter Databricks One, klicken auf den Richtlinienassistenten und fragen:

„Kann ich die Gebühr für meinen späten Hotel-Check-out abrechnen?“

Sie erhalten eine Antwort mit Zitaten, und die Governance ist durchgängig konsistent.

Erste Schritte zur Bereitstellung von Agenten für Geschäftsbenutzer

Agent Bricks Knowledge Assistant bietet Ihnen einen schnellen, automatisierten Weg von Ihren Unternehmensdokumenten zu einem domänenspezifischen Agenten, während die Qualität messbar bleibt und sich durch integrierte Evaluierung und Optimierung im Laufe der Zeit verbessert.

Mit Databricks Apps und Databricks One können Sie diesen Agenten dann in ein geschäftsfreundliches Chat-Erlebnis verpacken und über einen kuratierten Einstiegspunkt verteilen, wobei Sicherheit und Unity Catalog Governance durchgängig durchgesetzt werden.

Um tiefer einzusteigen, beginnen Sie mit:

• Agent Bricks Dokumentation und Demos: Knowledge Assistant und Supervisor Agent
• Databricks Apps Demo, Anleitungen für den Einstieg und Dokumentation
• Databricks One Dokumentation und Berechtigung für den Zugriff durch Verbraucher

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag