Summary
- AI/BI Genie ermöglicht es Ihnen, mit Ihren Daten zu sprechen, um jede Frage in natürlicher Sprache zu erkunden
- Integrieren Sie AI/BI Genie in Databricks Apps, Slack, Teams, Sharepoint, benutzerdefinierte Anwendungen und mehr
- Setzen Sie Genie Conversation APIs mit einem Schritt-für-Schritt-Beispiel in die Praxis um
Im Rahmen unserer Initiative „Week of AI agents“ führen wir neue Funktionen ein, die Unternehmen beim Aufbau und der Verwaltung hochwertiger KI-Agenten unterstützen. Zu diesem Zweck freuen wir uns, die Public Preview der Genie Conversation APIs anzukündigen, die auf AWS, Azure und GCP verfügbar sind. Mit dieser API-Suite können Ihre Benutzer jetzt AI/BI Genie nutzen, um Daten-Einblicke mithilfe natürlicher Sprache von jeder Oberfläche aus selbstständig abzurufen, einschließlich Databricks Apps, Slack, Teams, Sharepoint, benutzerdefinierten Anwendungen und mehr. Darüber hinaus ermöglichen Ihnen die Conversation APIs, AI/BI Genie in jeden KI-Agenten einzubetten, mit oder ohne Agent Framework.
Mithilfe der Genie Conversation API-Suite können Sie natürlichsprachliche Prompts programmgesteuert übermitteln und Daten-Einblicke erhalten, genau wie in der Genie-Benutzeroberfläche. Die API ist zustandsbehaftet, sodass Genie den Kontext beibehalten kann, während Sie Folgefragen innerhalb eines Konversations-Threads stellen.
In diesem Blogbeitrag überprüfen wir die wichtigsten Endpunkte, die in der Public Preview verfügbar sind, untersuchen die Integration von Genie mit dem Mosaic AI Agent Framework und stellen ein Beispiel für die Einbettung von Genie in einen Microsoft Teams-Kanal vor.
Genie Conversation APIs in der Praxis
Lassen Sie uns ein praktisches Beispiel durchgehen, um zu verstehen, wie die Genie Conversation APIs funktionieren. Zunächst ist zu beachten, dass die Conversation APIs mit einem bereits erstellten Genie-Bereich interagieren müssen. Wir empfehlen, mit unserer Produktdokumentation zu beginnen, um Ihren Genie-Bereich einzurichten und dann diese Best Practices zu befolgen, um ihn optimal zu konfigurieren.
Stellen Sie sich vor, Sie haben bereits einen Genie-Bereich erstellt, konfiguriert und freigegeben, der dazu dient, Fragen zu Ihren Marketingdaten zu beantworten. Nun möchten Sie, dass Ihr Marketingteam diesen Bereich nutzt, um Fragen zu stellen und Einblicke zu gewinnen – aber anstatt über die Genie-Benutzeroberfläche darauf zuzugreifen, möchten Sie, dass es dies aus einer externen Anwendung heraus tut.
Beginnen wir damit, dass Ihr Marketingteam eine einfache Frage stellen möchte: „Welche Kunden haben wir gestern per E-Mail kontaktiert?“. Um diese Frage mithilfe der Genie Conversation APIs zu stellen, müssen wir eine POST-Anfrage an den folgenden Endpunkt senden:
/api/2.0/genie/spaces/{space_id}/start-conversation
Dieser Endpunkt startet einen neuen Konversations-Thread und verwendet Ihre Frage als anfänglichen Prompt, genau wie in der Genie Space UI. Beachten Sie, dass die Anfrage Ihre Host-Komponente, die Genie Space ID und ein Zugriffstoken zur Authentifizierung enthalten muss. Sie finden die space_id in der Genie Space URL, wie unten gezeigt:
https://example.databricks.com/genie/rooms/12ab345cd6789000ef6a2fb844ba2d31
Das Folgende ist ein Beispiel für die erforderliche korrekte POST-Anfrage:
| POST /api/2.0/genie/spaces/{space_id}/start-conversation HOST= <WORKSPACE_INSTANCE_NAME> Authorization: <your_authentication_token> { "content": "Which customers did we reach out to via email yesterday?", } |
Wenn die Anweisung korrekt übermittelt wird, gibt die API die erstellte Konversation und Nachricht als Antwort auf die POST-Anfrage zurück, wie im folgenden Beispiel gezeigt:
{ “conversation_id": "6a64adad2e664ee58de08488f986af3e", "conversation": { "created_timestamp": 1719769718, "conversation_id": "6a64adad2e664ee58de08488f986af3e", "last_updated_timestamp": 1719769718, "space_id": "3c409c00b54a44c79f79da06b82460e2", "title": "Which customers did we reach out to via email yesterday?", "user_id": 12345 }, “message_id": "e1ef34712a29169db030324fd0e1df5f", "message": { "attachments": null, "content": "Which customers did we reach out to via email yesterday?", "conversation_id": "6a64adad2e664ee58de08488f986af3e", "created_timestamp": 1719769718, "error": null, "message_id": "e1ef34712a29169db030324fd0e1df5f", "last_updated_timestamp": 1719769718, "query_result": null, "space_id": "3c409c00b54a44c79f79da06b82460e2", "status": "IN_PROGRESS", "user_id": 12345 } } |
Mithilfe der conversation_id und message_id können Sie nun abfragen, um den Status der Nachrichtengenerierung zu überprüfen und die generierte zugehörige SQL-Anweisung und die Abfragebeschreibung wie folgt abzurufen:
GET /api/2.0/genie/spaces/{space_id}/conversations/{conversation_id}/messages/{message_id} HOST= <WORKSPACE_INSTANCE_NAME> Authorization: Bearer <your_authentication_token> |
Das Folgende ist ein Beispiel für die Antwort:
{ |
Sobald das Nachrichtenstatusfeld „COMPLETED“ anzeigt, bedeutet dies, dass die generierte SQL-Anweisung die Ausführung abgeschlossen hat und die Abfrageergebnisse abgerufen werden können. Sie können die Antwort nun wie folgt abrufen:
GET /api/2.0/genie/spaces/{space_id}/conversations/{conversation_id}/messages/{message_id}/attachments/{attachment_id}/query-result HOST= <WORKSPACE_INSTANCE_NAME> Authorization: Bearer <your_authentication_token> |
Natürlich können Sie auch Folge-Prompts für Ihre Konversations-Threads ausgeben. Sagen wir zum Beispiel, das Marketingteam möchte als Nächstes die folgende Frage stellen: „Welche dieser Kunden haben die E-Mail geöffnet und weitergeleitet?“
Um dies zu verwalten, senden Sie eine weitere POST-Anfrage mit dem neuen Prompt an den bestehenden Konversations-Thread, wie folgt:
POST /api/2.0/genie/spaces/{space_id}/conversations/{conversation_id}/messages HOST= <WORKSPACE_INSTANCE_NAME> Authorization: <your_authentication_token> { "content": "Which of these customers opened and forwarded the email?", } |
Wenn Sie Daten aus früheren Prompts aktualisieren möchten, ermöglicht die API auch das erneute Ausführen von SQL-Abfragen, die zuvor generiert wurden. Weitere Details zu den API-Endpunkten finden Sie in der Produktdokumentation.
Best Practices für Conversation APIs
Um die beste Leistung zu gewährleisten, empfehlen wir die folgenden API-Best Practices:
- Rufen Sie die API alle 5-10 Sekunden ab, bis ein schlüssiger Nachrichtenstatus empfangen wird, aber begrenzen Sie das Abrufen auf maximal 10 Minuten für die meisten typischen Abfragen
- Wenn innerhalb von 2 Minuten keine Antwort empfangen wird, implementieren Sie exponentielles Backoff, um die Zuverlässigkeit zu verbessern
- Stellen Sie sicher, dass Sie für jede Benutzersitzung neue Konversations-Threads erstellen; die Wiederverwendung desselben Konversations-Threads für mehrere Sitzungen kann die Genauigkeit von Genie negativ beeinflussen.
Integration von Genie in das Mosaic AI Agent Framework
Die Conversation APIs lassen sich nahtlos in Ihr Mosaic AI Agent Framework mit dem databricks_langchain.genie Wrapper integrieren.
Nehmen wir an, meine Marketingmanager mussten Fragen zu drei Themen beantworten:
- Engagement bei Werbeveranstaltungen (strukturierte Daten, gespeichert in einer Unity Catalog-Ansicht)
- E-Mail-Werbung (strukturierte Daten, gespeichert in einer Unity Catalog-Tabelle)
- Textrezensionen von Benutzern (unstrukturierte PDFs, gespeichert in Unity Catalog-Volumes)
Sie können ein Multi-Agenten-Framework erstellen, um Fragen zu strukturierten und unstrukturierten Daten zu beantworten. Sie können beispielsweise das folgende Langgraph-Agenten-Framework definieren:
Der Agenten-Framework-Graph würde wie folgt aussehen:
Ihr Agenten-Framework kann nun Fragen an die entsprechenden Agenten weiterleiten. Wenn ein Marketingmanager beispielsweise fragt „Zeigen Sie mir Teilnehmer von meiner Veranstaltung am 1. Februar“, wird der GenieEvents-Agent ausgelöst. MLFlow-Spuren zeigen die Schritte des Frameworks:
Das Agenten-Framework ermöglicht es Agenten auch, Antworten als Kontext für andere zu teilen. Dies ermöglicht es Benutzern, Datenantworten zu erhalten, die nahtlos aus mehreren Quellen stammen. Wenn der Marketingmanager beispielsweise nachfragen möchte: „Welche dieser Teilnehmer haben sich für E-Mail-Benachrichtigungen angemeldet?“, verwendet das Framework die vorherige Antwort von GenieEvents als Kontext für den GenieEmails-Agenten:
Mit diesem Ansatz können Ihre Geschäftsbenutzer jetzt Datenfragen beantworten, die sich über mehrere Themen/Datentypen erstrecken und aufeinander aufbauen. Um mehr über die Verwendung von Genie in Multi-Agenten-Systemen zu erfahren, lesen Sie bitte die Produktdokumentation.
Ihr kompakter Leitfaden für moderne Analytics
Beispiel: Integration von Genie mit Microsoft Teams
Während der Private Preview-Phase der Conversation APIs war Microsoft Teams eines der beliebtesten Produktivitätstools, das Kunden in Genie integriert haben. Diese Integration ermöglicht es Benutzern, Fragen zu stellen und sofort Einblicke zu erhalten, ohne die Teams-Oberfläche verlassen zu müssen.
Dazu müssen Sie die folgenden Schritte ausführen:
- Erstellen Sie einen neuen Azure Bot – einschließlich Ressourcengruppen und App Service Plänen.
- Fügen Sie die erforderlichen Umgebungsvariablen und Abhängigkeiten zu Ihrem Bot hinzu.
- Implementieren Sie die Konversationslogik mithilfe der Conversation APIs (Konversation starten, Ergebnisse abrufen, Folgefragen stellen usw.).
- Importieren Sie den Genie Azure Bot in einen Teams-Kanal.
Detaillierte Beispiele, wie die Conversation APIs für Microsoft Teams konfiguriert werden, finden Sie in den folgenden Artikeln:
- Microsoft Teams trifft Databricks Genie API: Ein vollständiger Einrichtungsleitfaden
- Microsoft Teams <-> Databricks Genie API - End-to-End-Integration
Das folgende Beispiel hebt eine reale Anwendung eines unserer Kunden hervor, der die Conversation APIs während der Private Preview-Phase nutzte. Casas Bahia, ein führender Einzelhändler in Brasilien, bedient Millionen von Kunden sowohl online als auch über sein umfangreiches Netzwerk von physischen Geschäften. Durch die Integration der Genie Conversation APIs ermöglichte Casas Bahia Benutzern im gesamten Unternehmen – einschließlich C-Level-Führungskräften –, direkt in ihrer Microsoft Teams-Umgebung mit Genie zu interagieren. Um mehr über ihren Anwendungsfall zu erfahren, lesen Sie die Casas Bahia-Kundenstory.
„Genie in Teams zu integrieren war ein großer Schritt nach vorn für die Daten-Demokratisierung. Es macht Dateneinblicke für jeden zugänglich, unabhängig von seinem technischen Hintergrund.“— Cezar Steinz, Data Operations Manager, Grupo Casas Bahia
Erste Schritte mit Conversation APIs
Mit den Genie Conversation APIs, die jetzt in der Public Preview verfügbar sind, können Sie Geschäftsbenutzer befähigen, mit ihren Daten von jeder Oberfläche aus zu sprechen. Für den Einstieg lesen Sie bitte die Produktdokumentation.
Wir sind gespannt, wie Sie die Genie Conversation APIs nutzen werden, und ermutigen Sie, sofort mit der Erstellung von Genie-Bereichen zu beginnen. Es gibt eine Fülle von Inhalten, die Ihnen den Einstieg erleichtern – besuchen Sie die Webseiten AI/BI und Genie, schauen Sie sich unsere umfangreiche Bibliothek mit Produkt-Demos an und lesen Sie unbedingt die vollständige AI/BI Genie-Dokumentation.
Das Databricks-Team ist stets bestrebt, die AI/BI Genie-Erfahrung zu verbessern, und freut sich über Ihr Feedback!
(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag