Direkt zum Hauptinhalt
Datenstrategie

Vier KI-Architekturmuster für regulierte Branchen

Wie man Determinismus, agentenbasiertes Reasoning, menschliche Autorität und begrenzte Autonomie in Unternehmenssystemen einsetzt

von Molly Nagamuthu

  • Vier Produktionsarchitekturmuster zur Kombination von Agents mit deterministischen Steuerelementen und menschlicher Verantwortung.
  • Ein Entscheidungsrahmen zur Bestimmung, wo Agents schlussfolgern, generieren, empfehlen oder handeln dürfen.
  • Warum abgesicherte Daten, Herkunft, Durchsetzung, Evaluierung und Audit-Nachweise – und nicht das Modell allein – Unternehmens-Agents einsatzbereit machen.

Enterprise-KI kann nicht jede deterministische Steuerung ersetzen. Diese vier Muster helfen Architekten dabei zu entscheiden, an welchen Stellen Agents logische Schlüsse ziehen, handeln und der Kontrolle oder menschlichen Autorität unterstellt bleiben können.

Die architektonische Frage hinter Enterprise-KI

Unternehmen fügen Systemen, die auf festen Regeln und wiederholbaren Prozessen basieren, Agents hinzu. Agents können komplexe Probleme durchdenken, aber Unternehmenssysteme – insbesondere in regulierten Branchen – müssen kontrollierbar und auditierbar bleiben. Die Frage ist nicht, für welche Option man sich entscheiden soll. Sondern wie sie zusammenarbeiten können.

Wir schreiben diese Serie, weil Kunden uns immer dieselbe Frage stellen: Wie gehen Unternehmen weltweit mit Einschränkungen um, die unseren ähneln? Wie sieht die Realität der Einführung von Enterprise-KI aus? Wie gehen andere Organisationen mit diesen Nuancen um? Wie hilft Databricks dabei, diese Probleme zu lösen, wenn die Anforderungen mehrdeutig, komplex und so spezifisch für das jeweilige Unternehmen sind?

Wir als Forward Deployed Engineers arbeiten genau an dieser Schnittstelle. Wir nehmen unklare geschäftliche Probleme und machen daraus produktionsbereite Systeme. Zwar variieren Implementierungen je nach Institution und wir können keine spezifischen Implementierungsdetails offenlegen, aber wir können allgemeine Muster und Praktiken besprechen. Da Agents zu einem Teil großer Unternehmenssysteme werden, kehren zwei Fragen immer wieder:

  • Wo muss Determinismus erhalten bleiben (z. B. wenn Aktionen irreversibel sind oder Fehler ein asymmetrisches Risiko bergen)?
  • Wo kann einem Agent Autorität übertragen werden, insbesondere wenn Aktionen reversibel sind oder sich kostengünstig beheben lassen?

Die Antwort ist nicht für jeden Anwendungsfall dieselbe. In den Systemen, die wir in der Praxis aufbauen und modernisieren, zeichnen sich vier Muster ab. Dieser erste Artikel stellt das Framework vor. Die nächsten vier Artikel zeigen, wie jedes Muster in der Praxis funktioniert.

image2.png
Abbildung 1. Ein Entscheidungsrahmen für die Platzierung von Agents in regulierten Unternehmenssystemen.

Muster 1: Deterministische Steuerung und agentenbasierte Logik

Verwenden Sie dieses Muster, wenn Ergebnisse streng deterministisch und reproduzierbar sein müssen oder wenn Fehler irreversibel sind und hohe Behebungskosten verursachen. Hier bedeutet deterministisch, dass das Ergebnis unter einem expliziten, versionierten Vertrag reproduziert werden kann, der Daten, Regel, Toleranz, Konfiguration und Ausführungskontext gemeinsam aufzeichnet.

Finanzinstitute haben zahlreiche Kontrollen. Abgleiche sind ein gutes Beispiel. Die Kontrolle muss die Salden berechnen, eine genehmigte Regel anwenden und ein reproduzierbares BESTANDEN oder FEHLGESCHLAGEN ausgeben. Ein Agent kann die Toleranz nicht uminterpretieren oder seine eigene Erklärung in eine bestandene Kontrolle umwandeln. Wenn ein Abgleich fehlschlägt, kann ein Agent Beweise sammeln, Herkunft und Batch-Status überprüfen, die Abweichung mit früheren Vorfällen vergleichen, eine begrenzte Menge von Ursachen testen und empfehlen, was als Nächstes geschehen sollte. Die deterministische Steuerung entscheidet weiterhin, ob der Abgleich bestanden wurde. Der Agent hilft zu erklären, warum er fehlgeschlagen ist.

Der Agent kann die Kontrolle untersuchen. Er kann nicht selbst zur Kontrolle werden.

Dieses Muster gilt auch für regulatorische Berechnungen, Richtliniendurchsetzung, Datenqualitätsprüfungen und Systemintegritätsprüfungen – überall dort, wo das Ergebnis präzise, reproduzierbar und auditierbar sein muss.

Muster 2: Agentenbasierte Ausführung und ein deterministischer Judge

Verwenden Sie dieses Muster, wenn mehrere Antworten gültig sein können, das Ergebnis jedoch objektiv überprüft werden kann.

Die Legacy-Migration oder -Modernisierung ist ein gutes Beispiel. Ein Agent kann eine bestehende Workload analysieren und eine Zielimplementierung generieren. Er erzeugt dabei möglicherweise nicht jedes Mal genau dieselbe Implementierung. Das ist nicht unbedingt ein Problem. Wichtig ist, ob das Ergebnis korrekt ist.

Ein deterministischer Judge kann testen, ob der Code kompiliert, Schemas konform sind, Daten abgeglichen werden, Kontrollsummen übereinstimmen, Governance-Anforderungen erfüllt sind und die Leistung das Ziel erreicht. Wenn das Ergebnis fehlschlägt, erhält der Agent die Beweise, diagnostiziert das Problem, korrigiert seine Arbeit und durchläuft die Validierung erneut.

Das Bestehen dieses Judges beweist, dass der Kandidat den genehmigten Akzeptanzvertrag erfüllt hat. Es beweist nicht, dass der Vertrag jedes Produktionsverhalten abdeckt. Testabdeckung, praxisnahe Edge-Cases und regelmäßige Überprüfungen sind nach wie vor wichtig.

Machen Sie den Agenten nicht deterministisch, wenn Sie seine Ausgabe deterministisch auswerten können.

Der Validator ist nicht nur eine Kontrolle. Er ist die Feedbackschleife, die es dem Agenten ermöglicht, sein Ergebnis zu verbessern. Dieses Muster eignet sich gut für Migration, Code-Generierung, Transformation, Tests und Behebung.

Muster 3: Agentenbasierte Logik und menschliche Autorität

Verwenden Sie dieses Muster, wenn die Antwort Urteilsvermögen erfordert und nicht durch einen deterministischen Test als korrekt bewiesen werden kann.

Untersuchungen im Bereich der Finanzkriminalität sind ein Beispiel. Ein Agent kann Transaktionen, Dokumente, Richtlinien, Beziehungen und historische Muster korrelieren. Er kann Beweise zusammenstellen, wahrscheinliche Erklärungen ermitteln, offene Fragen aufwerfen und eine Maßnahme empfehlen. Dies ist häufig auch regulatorisch vorgeschrieben, wenn eine Entscheidung eine Person erheblich betrifft oder wenn Sie das Ergebnis gegenüber einer Regulierungsbehörde, einem Prüfer, einem Gericht oder der betroffenen Person rechtfertigen müssen.

Aber eine Empfehlung ist keine Entscheidung. Wenn das Ergebnis folgenschwer ist und es keinen deterministischen Weg gibt, die Richtigkeit festzustellen, muss die Autorität bei einer rechenschaftspflichtigen Person verbleiben.

Die menschliche Überprüfung sollte an der Entscheidungsschnittstelle ansetzen, nicht bei jedem einzelnen Schritt.

Die Argumentation des Agenten muss zudem oft erklärbar sein. Jede Empfehlung sollte auf die zugrundeliegenden Beweise, Quellen und Tools zurückverfolgt werden können. Dies ermöglicht es dem Prüfer, die Logik zu hinterfragen, und Auditoren oder Regulierungsbehörden, zu rekonstruieren, wie der Agent zu seiner Empfehlung gelangt ist. Wenn Vorschriften einer betroffenen Person das Recht auf eine Erklärung einbeziehen, muss diese Erklärung für die Entscheidung spezifisch sein. Sie deckt die Hauptfaktoren sowie die Rolle des Agenten und des Menschen ab. „Das Modell hat es markiert“ reicht nicht aus. Der Prüfer protokolliert die Begründung für die endgültige Entscheidung, einschließlich etwaiger Überschreibungen durch den Agenten.

Der Agent reduziert den Untersuchungsaufwand und verbessert die Konsistenz der vorgelegten Beweise. Der Prüfer behält die Verantwortung für die endgültige Entscheidung, die subjektiv, nuanciert und nicht deterministisch sein kann.

Muster 4: Agentenbasierte Ausführung mit begrenzter Autonomie

Verwenden Sie dieses Muster, wenn der Agent handeln muss, jedoch nur innerhalb eines expliziten Betriebsrahmens.

Betrachten Sie ein Governance-Intelligence-Modul, das den Zugriff auf geschützte Unternehmensdaten verwaltet. Ein Benutzer beschreibt, welche Daten er benötigt, warum er sie benötigt und für wie lange. Der Agent interpretiert die Anfrage, identifiziert das entsprechende Datenprodukt, ermittelt den minimal erforderlichen Zugriff und erfasst den relevanten Identitäts-, Richtlinien-, Eigentums-, Klassifizierungs-, Herkunfts- und Nutzungskontext.

Die Forderung nach manueller Genehmigung für jede Standardanfrage führt zu Verzögerungen, ohne dass das Risiko unbedingt sinkt. Dem Agenten uneingeschränkte Autorität zur Gewährung von Zugriff zu erwecken, schafft eine inakzeptable Kontrolllücke. Die Antwort lautet: begrenzte Autonomie.

Der Betriebsrahmen definiert:

  • welche Datenprodukte und Zugriffsebenen für die vollautomatische Verarbeitung infrage kommen;
  • welche Regeln bezüglich Identität, Zweck, Geografie, juristischer Person, Wohnsitz und Aufgabentrennung erfüllt sein müssen;
  • die maximale Dauer und das minimale Zugriffsrecht, das gewährt werden darf;
  • welche genehmigten Unity Catalog-Aktionen der Agent einleiten darf;
  • welche sensiblen, mehrdeutigen oder außergewöhnlichen Anfragen die Genehmigung durch einen Menschen erfordern; und
  • wie der Zugriff für Audits überwacht, abgelaufen, widerrufen und aufgezeichnet wird.

Innerhalb dieses Rahmens kann der Agent die Anfrage interpretieren, die Beweise zusammenstellen, den genehmigten Workflow auswählen und eine zeitlich begrenzte Berechtigung einleiten. Deterministische Richtliniendienste validieren jede erforderliche Bedingung, bevor Unity Catalog die Berechtigung durchsetzt.

Versuchen Sie nicht, jede Entscheidung einzuschränken. Beschränken Sie stattdessen den Betriebsrahmen. Die Implementierung von Multi-Agent-Judge-Frameworks über Validierungszyklen hinweg innerhalb dieses Rahmens kann die menschliche Aufsicht zudem durch automatisierte, mehrperspektivische Sicherheitsprüfungen ergänzen.

Fällt die Anfrage außerhalb dieses Rahmens – zum Beispiel, weil sie sensible Daten, fehlende Attribute, widersprüchliche Richtlinien, übermäßige Berechtigungen oder eine Ausnahme bei der Aufgabentrennung betrifft –, blockiert das System die automatisierte Ausführung und leitet sie an den zuständigen Dateneigentümer, Data Steward oder Risikoprüfer weiter.

Wie bestehende Systeme agentenbasierte Architekturen antreiben

Databricks-Plattformfunktionen

Databricks bietet ein sicheres Fundament für alle vier Muster. Omnigent ermöglicht das Erstellen von Agents und Agent-Harnesses, ohne dass ein einzelner Agent zur Architektur wird. Unity Gateway regelt den Zugriff auf Modelle, Tools, MCP-Server und externe APIs. Unity Catalog verwaltet Unternehmensdaten und setzt genehmigte Zugriffsrechte durch, einschließlich Regeln für Datenspeicherorte und grenzüberschreitende Datenübertragungen. Sichere Verbindungen erreichen lokale Systeme, Clouds und SaaS-Systeme, ohne diese Kontrollpunkte zu umgehen. MLflow speichert Traces und Evaluierungsnachweise, die auch als Prüfprotokolle für Regulierungsbehörden dienen. Im beigefügten Diagramm sehen Sie eine Referenzarchitektur, die zeigt, wie Agent-Aufrufe über kontrollierte Einstiegspunkte zu Kundensystemen in lokalen, Cloud- und regulierten Umgebungen fließen.

image1.png

Die traditionelle Modernisierung ändert, wo und wie Technologie ausgeführt wird. Die KI-Transformation verändert das Ausführungsmodell selbst. Systeme, die bisher vor allem vordefinierten Anweisungen folgten, können nun interpretieren, schlussfolgern, generieren und handeln.

Das bedeutet nicht, dass die deterministischen Systeme über Bord geworfen werden müssen, die Unternehmen über Jahrzehnte hinweg aufgebaut haben. In vielen Fällen bilden diese Systeme das Fundament der Agenten-Architektur:

  • Richtlinien-Engines werden zu Steuerungsebenen.
  • Validierungs-Frameworks werden zu deterministischen Prüfern.
  • Akzeptanzkriterien werden zu Agenten-Evaluierungen.
  • Betriebsgrenzen werden zu Autonomiegrenzen.
  • Geregelte Daten, Datenherkunft und Prüfprotokolle liefern den Kontext und die Nachweise, die Agents benötigen.

Es geht nicht einfach darum, Altsysteme durch Agents zu ersetzen. In allen vier Mustern ist das Fundament entscheidend dafür, ob ein Agent einsatzbereit ist: verwaltete Unternehmensdaten, nachvollziehbare Herkunft, durchgesetzte Zugriffsrechte, messbare Qualität und ein reproduzierbares Prüfprotokoll.

Dies ist besonders in regulierten Branchen wichtig, wo eine schwache architektonische Grenze zu Kontrollverlusten, Geldstrafen oder verzögerten regulatorischen Zusagen führen kann. Eine gut durchdachte Grenze kann den Untersuchungsaufwand verringern, Modernisierungszyklen verkörpern und eine hochwerte Automatisierung ermöglichen, ohne dem Modell unangemessene Befugnisse zu übertragen.

Bei der KI-nativen Architektur geht es darum festzulegen, wo Determinismus, Intelligenz und Autonomie verortet sein sollten.

Wählen Sie das Muster vor dem Agenten

Bevor Sie eine Agenten-Lösung entwerfen, sollten Sie drei Fragen stellen:

  • Worüber darf der Agent nachdenken?
  • Was darf der Agent tun?
  • Was muss außerhalb der Befugnisse des Agenten bleiben?

Diese Antworten bestimmen, ob die Lösung eine deterministische Kontrolle, einen deterministischen Prüfer, eine menschliche Entscheidungsgrenze oder einen expliziten Handlungsspielraum benötigt. Das Modell kommt nach dieser architektonischen Entscheidung – nicht davor.

Die Muster schließen sich nicht gegenseitig aus. Ein Produktionssystem kann eine deterministische Kontrolle für eine Entscheidung, menschliche Autorität für eine Ausnahme und begrenzte Autonomie für eine genehmigte Korrektur verwenden. Das Wichtigste ist, jede Grenze klar zu definieren.

Wenn Systeme in der Produktion reifer werden, können diese Grenzen angepasst werden: Deterministische Prüfer verfeinern ihre Bewertungsregeln anhand gesammelter Nutzungsdaten, während Grenzen für menschliche Eingriffe verschoben werden können, sobald Feedback Vertrauen in die Schlussfolgerungen des Agents schafft.

Lesen Sie in der Reihe weiter

Die nächsten vier Artikel führen jedes Muster von der Architektur bis zur Umsetzung aus:

Teil 2: Deterministische Steuerung und agentenbasiertes Schlussfolgern
Wie Agents Ausnahmen bei deterministischen Finanzkontrollen untersuchen können, ohne die Durchsetzung oder Prüfbarkeit zu schwächen.

Teil 3: Agentenbasierte Ausführung und ein deterministischer Prüfer
Wie Agents Implementierungen erstellen und korrigieren können, während eine deterministische Validierung entscheidet, ob das Ergebnis akzeptabel ist.

Teil 4: Agentenbasiertes Schlussfolgern und menschliche Autorität
Wie Lakewatch Überwachungssignale, Bankdaten und spezialisierte Netzwerkinformationen zu einem prüfbaren Nachweispaket zusammenführen kann, während ein verantwortlicher Prüfer die entscheidende Maßnahme trifft.

Teil 5: Agentenbasierte Ausführung mit begrenzter Autonomie
Ein Entwurf für Agents, um den Zugriff auf verwaltete Daten innerhalb eines richtliniendefinierten Handlungsspielraums zu koordinieren, mit deterministischer Autorisierung, Unity Catalog-Durchsetzung und menschlicher Lösung wichtiger Ausnahmen.

Klassifizieren Sie Ihren Anwendungsfall anhand des Frameworks mit den vier Mustern und lesen Sie dann im passenden Implementierungsartikel weiter, der zu der von Ihrem System benötigten Grenze passt. Für regulierte Anwendungsfälle, die mehrere Muster umfassen, wenden Sie sich an Ihr Databricks-Konto-Team oder Ihren FDE-Ansprechpartner, um die Kontroll-, Entscheidungs- und Autonomiegrenzen festzulegen, bevor Sie die Agenten-Architektur auswählen.

Über die Autorin

Molly Nagamuthu ist Principal Forward Deployed Engineer bei Databricks. Sie arbeitet mit Unternehmen an komplexen Daten- und KI-Transformationsinitiativen, insbesondere mit globalen Banken, bei denen die Modernisierung Hand in Hand mit Governance, Kontrollen und betrieblicher Sorgfalt gehen muss.

In dieser Artikelreihe teilen Molly und andere Forward Deployed Engineers Implementierungsmuster aus der Praxis, während Unternehmen von deterministischen Architekturen zu KI-nativen Systemen übergehen.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag

Erhalten Sie die neuesten Beiträge in Ihrem Posteingang

Abonnieren Sie unseren Blog und erhalten Sie die neuesten Beiträge direkt in Ihren Posteingang.