Wie sich Unternehmen auf agentenbasierte KI vorbereiten

Während Unternehmen von frühen Experimenten mit generativer KI zum Aufbau von agentenbasierten, zielgerichteten Systemen übergehen, haben sich die Fragen, die sich Führungskräfte stellen, verschoben. In der Konversation geht es weniger darum, was KI leisten kann, und viel mehr darum, wie man ihr vertrauen, sie steuern und in die tatsächlichen Betriebsabläufe des Unternehmens integrieren kann.

Um zu untersuchen, wie sich führende Unternehmen auf diese nächste Phase vorbereiten, habe ich mich im Rahmen unserer Serie „Executive Lens“ mit Craig Wiley, Senior Director of Produkt bei Databricks, zusammengesetzt. Diese Serie soll die strategischen Veränderungen, die Unternehmensdaten und KI prägen, durch direkte Gespräche mit Führungskräften beleuchten, die diese Veränderungen in Echtzeit bewältigen.

Craig und ich sprachen offen darüber, wie Bereitschaft wirklich aussieht, wie sich Architektur und Governance weiterentwickeln müssen und welche Meilensteine Führungsteams und Vorstände bei der Scale von agentischen Systemen einplanen sollten.

Craig Wiley ist Senior Director of Produkt für den Bereich Künstliche Intelligenz bei Databricks. Zuvor war er der Gründungs-General-Manager von AWS SageMaker und eine Führungskraft für KI-Produkte bei Google Cloud. Er verfügt über umfassende Erfahrung im Aufbau skalierbarer Plattformen für Machine Learning und KI, die Unternehmen dabei helfen, Daten und intelligente Systeme auf praktische und nachhaltige Weise zusammenzuführen.

Von GenAI-Experimenten zu Systemen, denen Führungskräfte vertrauen können

Catherine: Du hast in letzter Zeit mit vielen CIOs, CDOs und CTOs gesprochen. Welche Veränderungen siehst du, wenn Unternehmen von Experimenten mit GenAI zu agentischeren, zielorientierten Systemen übergehen?

Craig: Am Anfang waren, glaube ich, viele Leute einfach verwirrt darüber, wie sie GenAI sinnvoll nutzen können. Wir hören immer noch von einem riesigen Anteil an Anwendungsfällen, die sehr deterministisch sind. Die Leute sagen: „Ich möchte ein System entwickeln, das dies tut“, sei es in der Lieferkette, im Kundendienst-Management oder wo auch immer.

Das Problem war, dass es mit früher GenAI sehr schwierig war, etwas Deterministisches zu entwickeln oder bereitzustellen. Mit Agenten können wir jetzt GenAI verwenden, um nahezu deterministische Systeme zu erstellen, und wir können auch deutlich smarter mit der Genauigkeit umgehen.

Wenn man darüber nachdenkt, was es für einen CXO braucht, um der Anwendung einer agentenbasierten Lösung zuzustimmen, kommt es auf Kontrolle und Genauigkeit an. Kann ich es steuern und funktioniert es wirklich? Dieser Wandel hin zu Agenten hat es ermöglicht, ein Genauigkeitsniveau zu erreichen, das wir bei reinen Prompt-Antwort-Systemen einfach nicht erzielen konnten.

Die am wenigsten aufregende Antwort ist immer noch die richtige.

Catherine: Woran erkennen Sie, dass ein Unternehmen tatsächlich bereit für agentische KI ist?

Craig: Die langweilige Antwort ist die richtige: Sind Ihre Daten in Ordnung?

Man kann von agentenbasierter KI sehr begeistert sein, aber für Unternehmen kommt es letztendlich auf den Kontext an. Und wenn wir Kontext sagen, meinen wir Daten und Informationen. Kann man dem Agenten im richtigen Moment seines Denkprozesses die richtigen Informationen liefern?

Das sehen wir ständig. Kleinere, günstigere und weniger komplexe Modelle können genauso gut abschneiden wie die fortschrittlichsten, wenn sie zur richtigen Zeit den richtigen Kontext erhalten. Dafür gibt es keine Abkürzung. Man braucht einen gut kuratierten Data Lake mit starken Metadaten. Wenn man das nicht hat, ist es dem klassischen Machine Learning sehr ähnlich. Man sagt: „Lass uns dieses Modell erstellen“, und dann verbringt man zweieinhalb Monate damit, die Daten aufzubereiten, und in den letzten paar Wochen wird dann tatsächlich das System erstellt. Ohne die Arbeit an den Daten gibt es keinen Erfolg.

Zwei Vorgehensweisen, wenn Ihre Daten nicht bereit sind

Catherine: Viele Organisationen sind in Bezug auf ihre Daten nicht so weit entwickelt, wie sie es gerne wären. Wenn eine Führungskraft sich ihre Umgebung ansieht und denkt: „Das ist ein Chaos, wo fange ich überhaupt an?“ Was hat sich Ihrer Erfahrung nach bewährt?

Craig: Es gibt im Grunde zwei Wege.

Der eine Ansatz ist Bottom-up. Man schaut sich all seine Daten an und fragt sich: „Wie bekomme ich sie in einen guten Zustand?“ Die gute Nachricht ist, dass sich die Tools dramatisch verbessert haben. Die Migration von Daten aus Altsystemen ist einfacher geworden, und GenAI kann sogar dabei helfen, einen Teil des dafür nötigen Codes zu schreiben.

Der andere Weg ist anwendungsfallgesteuert. Wenn ein CEO oder CIO sagt: „Wir haben ein großes agentenbasiertes Ziel und wollen X erreichen“, und die Daten ein Chaos sind, kann man damit starten zu fragen: Welche Daten benötige ich für diesen Anwendungsfall tatsächlich? Dann sucht man diese Teile, modernisiert sie und führt sie im Dienst dieses Ziels zusammen.

Keiner der beiden Ansätze ist universell besser. Der Bottom-up-Ansatz bietet später mehr Flexibilität. Ein anwendungsfallorientierter Ansatz kann schneller sein, wenn das Problem existenziell ist. Der einzig wirkliche Fehler ist, den Daten nicht die Zeit und Aufmerksamkeit zu schenken, die sie benötigen.

Warum erste Erfolge über den Chat hinausgehen

Catherine: Worauf konzentrieren sich Early Adopters im Moment? Welche Arten von Anwendungsfällen setzen sich Ihrer Meinung nach durch?

Craig: Vor einem Jahr haben sich viele Early Adopters auf Marketing und andere Anwendungsfälle konzentriert, bei denen die generative Natur der Modelle kein Nachteil war. Jetzt, dank Dingen wie Tool-Calling und besserer Genauigkeit, können Kunden viel mehr erreichen. Die Leute sind immer noch sehr chat-zentriert. „Ich möchte, dass meine Mitarbeiter mit etwas sprechen können.“ „Ich möchte, dass Kunden mit etwas sprechen können.“

Aber die eigentliche Begeisterung sehe ich im Bereich der Automatisierung und Workflow-Optimierung. Ich habe kürzlich mit einer großen Bank gesprochen, die versucht, ihren gesamten Prozess der Kreditvergabe agentenbasiert zu gestalten. Früher haben Menschen stundenlang Dokumente durchgesehen. Jetzt hoffen sie, ihn vollständig agentengesteuert zur Ausführung zu bringen, mit strenger menschlicher Aufsicht. Das ist ein viel überzeugenderes Ergebnis als nur ein weiterer Chatbot.

Governance wird schwieriger, wenn Agenten zu Nutzern werden

Catherine: Wie überdenken Führungskräfte Architektur und Governance, wenn Systeme autonomer werden?

Craig: Seit Jahrzehnten konzentrieren wir uns auf die Verwaltung strukturierter Daten und darauf, sicherzustellen, dass die richtigen Leute Zugriff haben und die falschen nicht. Jetzt müssen wir das auch für unstrukturierte Daten berücksichtigen, und wir müssen Agenten als neue Entitäten betrachten. Wie stelle ich sicher, dass diese Agenten zur richtigen Zeit auf die richtigen Daten zugreifen können?

Man muss auch an den Benutzer am anderen Ende des Agenten denken. Ein klassisches Beispiel ist die Erstellung eines Chatbots auf Basis von Jira. Oft können Jira oder andere ähnliche Systeme vertrauliche Informationen enthalten. Wenn es keine Governance gibt, könnte jeder diese Informationen abrufen. Es geht also nicht nur darum, worauf der Agent zugreifen kann. Es geht auch darum, was der Agent zurückgeben kann, je nachdem, wer fragt. Die Bausteine sind vorhanden, aber Governance muss als erstrangiges Problem und nicht als Nebensache behandelt werden.

Eine einfache Betrachtungsweise von Identität, Zugriff und Agenten

Catherine: Das klingt sehr nach Identitäts- und Zugriffsmanagement. Was sollten Führungskräfte bei der Vorbereitung beachten?

Craig: Im Grunde genommen ist es Identitäts- und Zugriffsmanagement, aber mit einer neuen Klasse von Identität: Agenten.

Wenn Sie keine soliden Richtlinien für Identität und Zugriff haben, wird die Welt um einiges schwieriger werden. Wenn Sie diese haben, fügt sich dies natürlicher ein.

Man kann es sich einfach so vorstellen:

• Wer ist es? Starke Identitätssysteme, die für menschliche und nicht-menschliche Akteure funktionieren.
• Was dürfen sie tun? Governance über APIs und Daten hinweg.
• Wie machen sie das? Dokumentation und Metadaten. Was ist in dieser Tabelle? Was macht diese API?

Wenn die Identitätssysteme und die Dokumentation gut sind, wird es viel einfacher, einen Agenten darauf anzusetzen und schnell voranzukommen.

Die nächsten 12–24 Monate: erst Muskeln aufbauen, bevor man dem ROI nachjagt

Catherine: Was sollten Führungsteams in den nächsten ein bis zwei Jahren planen, wenn agentenbasierte Systeme skalieren?

Craig: Viele Unternehmen stecken bei der „Build versus Buy“-Frage fest. Wenn ich ein CEO wäre, würde ich mir darüber Klarheit wünschen. Meiner Ansicht nach sollte man in der Lage sein, selbst zu entwickeln. Ich kann mir nicht vorstellen, ein großes Unternehmen zu leiten und meine gesamte Softwareentwicklung auszulagern.

Wenn Sie Entwickler haben, sollten Sie planen, diese Fähigkeit aufzubauen. Kurzfristig ist mir der ROI viel weniger wichtig als die Frage, ob meine Leute diese Systeme entwickeln und bereitstellen können. Erst die Übung, dann der Wettkampf. Sorgen Sie in den ersten sechs Monaten für die richtigen Talente. Bauen Sie in sechs bis zwölf Monaten Dinge, auf die Sie stolz sind. Danach starten Sie, echte Geschäftsergebnisse zu erzielen.

Es gibt Zeiten, in denen man kaufen sollte. Wenn die Funktionalität für Ihre Differenzierung nicht von zentraler Bedeutung ist, ziehen Sie einen Kauf in Betracht. Aber wenn Sie bereits Software entwickeln, um Ihr Unternehmen zu differenzieren, sollten Ihre Teams Agenten entwickeln, um Ihr Unternehmen zu differenzieren.

Das Missverständnis, das den Fortschritt jäh stoppt

Catherine: Was ist der größte Irrglaube, den Sie beobachten, wenn Unternehmen zum ersten Mal agentische KI ausprobieren?

Craig: Entlassung nach Versagen.

Sie entwickeln etwas, es gibt einmal eine falsche Antwort und sie sagen: „Siehst du? Ich habe dir doch gesagt, dass es falsch sein würde. Ich bin raus.“ So funktioniert Wachstum nicht. Wenn es falsch war, frag nach dem Grund. Behebe die Grundursache und mach weiter.

GenAI fühlte sich am Anfang einfach an, also erwarten die Leute, dass es immer einfach sein wird. Aber großartige KI-Systeme zu entwickeln ist schwierig. Es wird zu Fehlschlägen kommen. Erfolg bedeutet kontinuierliche Verbesserung, nicht, es beim ersten Mal richtig zu machen.

Ich habe vor ein paar Jahren einen Vortrag gehalten, in dem ein globales Finanzdienstleistungsunternehmen von einem Agenten erzählte, den sie entwickelt hatten, um Callcenter-Mitarbeitern zu helfen, sich schneller einzuarbeiten. Ich fragte, wie sie den Erfolg gemessen haben. Die Antwort war: „Darum ging es nicht. Es ging darum, dass mein Team Erfahrungen beim Entwickeln sammelt.“

Diese Denkweise ist mir im Gedächtnis geblieben. Unternehmen, die mit dieser Einstellung an die Sache herangehen, sind diejenigen, die gewinnen werden.

Catherine: Die Wachstumsmentalität.

Craig: Genau.

Schlussgedanke

Was mir bei diesem Gespräch am meisten aufgefallen ist, ist, dass agentische KI keine Abkürzungen belohnt. Die Organisationen, die am schnellsten vorankommen, überspringen die schwierigen Teile nicht. Sie erledigen die unglamouröse Arbeit rund um Daten, Identität, Governance und Dokumentation und investieren frühzeitig in den Aufbau interner Fähigkeiten.

Agentische Systeme verändern nicht nur, was Technologie leisten kann. Sie legen die Messlatte dafür höher, wie gut eine Organisation vorbereitet sein muss, um sie gut zu nutzen.

Um mehr über die Entwicklung eines effektiven Betriebsmodells zu erfahren, downloaden Sie das Databricks AI Maturity Model. 

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag