Was ist Tool Calling?

Tool Calling ist die Fähigkeit eines AI-Modells, mit externen Tools, APIs oder Systemen zu interagieren, um Aktionen auszuführen und Informationen abzurufen, die über die eigenen Fähigkeiten des Modells hinausgehen. Anstatt sich ausschließlich auf das in seinen Trainingsdaten verankerte Wissen zu verlassen, kann ein Modell mit Tool-Calling-Fähigkeiten erkennen, wenn die Anfrage eines Benutzers externe Hilfe erfordert, das entsprechende Tool auswählen und eine Anfrage so strukturieren, dass die Aufgabe erledigt wird.

Dies ist die Fähigkeit, die einen statischen Chatbot von einem funktionalen AI-Agenten unterscheidet. Ohne Tool Calling kann ein großes Sprachmodell (LLM) nur Text basierend auf Mustern generieren, die es während des Trainings gelernt hat. Mit Tool Calling kann dasselbe Modell den Live-Bestand prüfen, eine Datenbank abfragen, eine E-Mail senden, Code ausführen oder eine API von Drittanbietern aufrufen. Tool Calling gibt AI-Modellen Hände.

Warum Tool Calling für AI-Agenten wichtig ist

AI-Agenten sind Systeme, die ihre Umgebung wahrnehmen, Entscheidungen treffen und Maßnahmen ergreifen können, um Ziele zu erreichen. Tool Calling ist das, was den Teil „Maßnahmen ergreifen“ erst möglich macht. Ein Agent, der keine Tools aufrufen kann, beschränkt sich auf Konversation. Ein Agent, der Tools aufrufen kann, wird zu einer ausführenden Kraft.

Der Wandel von generativer zu agentischer AI

Generative AI erstellt Text, Bilder und Code. Agentische AI geht noch weiter, indem sie mehrstufige Workflows plant, Tools zur Ausführung jedes Schritts nutzt und sich basierend auf den Ergebnissen anpasst. Tool Calling ist die Brücke zwischen diesen beiden Paradigmen. Es ist der Mechanismus, durch den ein AI-Modell aufhört zu beschreiben, was getan werden könnte, und anfängt, es tatsächlich zu tun.

Warum Unternehmen aufmerksam werden

Der Business Case ist eindeutig. Laut Gartner werden bis Ende 2026 40 % der Unternehmensanwendungen aufgabenspezifische AI-Agenten integrieren, verglichen mit weniger als 5 % im Jahr 2025. Dieses Wachstum hängt von einem zuverlässigen Tool Calling ab. Wenn ein Agent nicht zuverlässig ein CRM abfragen, einen Datensatz aktualisieren oder einen nachgelagerten Workflow auslösen kann, kann er keinen produktionsreifen Mehrwert liefern.

Tool Calling verändert auch die Art und Weise, wie Teams über Automatisierung nachdenken. Anstatt starre, regelbasierte Integrationen für jeden erdenklichen Workflow zu erstellen, können Unternehmen AI-Agenten einsetzen, die basierend auf dem Kontext dynamisch die richtigen Tools auswählen und aufrufen. Dies macht Systeme flexibler und reduziert den Entwicklungsaufwand für die Wartung fehleranfälliger Punkt-zu-Punkt-Verbindungen.

Wie funktioniert AI Tool Calling?

Tool Calling folgt einer strukturierten Schleife. Das Modell führt Tools nicht direkt aus. Stattdessen generiert es strukturierte Anfragen, die von einer Anwendungsschicht ausgeführt werden, und integriert die Ergebnisse dann in seine Antwort. Hier ist der Prozess Schritt für Schritt erklärt.

Schritt 1: Erkennen, wann ein Tool benötigt wird

Der Prozess beginnt, wenn eine Benutzeranfrage eingeht, die das Modell nicht allein aus seinen Trainingsdaten beantworten kann. Wenn ein Benutzer fragt: „Was ist die Hauptstadt von Frankreich?“, antwortet das Modell direkt. Wenn ein Benutzer fragt: „Wie hoch waren unsere Umsatzzahlen für Q2?“, erkennt das Modell, dass es eine externe Datenquelle abfragen muss.

Diese Erkennung hängt vom Training des Modells ab. Modelle, die Tool Calling unterstützen, wurden darauf feinabgestimmt, zu erkennen, wann eine Anfrage außerhalb ihrer Wissensgrenzen liegt und wann ein verfügbares Tool helfen könnte. Das Modell gleicht die Absicht des Benutzers mit der Liste der Tools ab, auf die es Zugriff hat.

Schritt 2: Das richtige Tool auswählen

Sobald das Modell feststellt, dass ein Tool benötigt wird, wählt es das am besten geeignete aus den verfügbaren Tools aus. Jedes Tool wird dem Modell mithilfe eines Schemas beschrieben, das den Namen des Tools, seine Funktion und die akzeptierten Parameter enthält. Das Modell gleicht die Anfrage des Benutzers mit diesen Beschreibungen ab, um das richtige Tool auszuwählen.

Wenn ein Agent beispielsweise Zugriff auf eine Wetter-API und ein Datenbank-Abfragetool hat und der Benutzer nach der Vorhersage für morgen fragt, wählt das Modell die Wetter-API aus. Fragt der Benutzer nach dem Umsatz des letzten Monats, wählt es das Datenbank-Abfragetool aus.

Schritt 3: Die Anfrage erstellen und senden

Nach der Auswahl eines Tools generiert das Modell eine strukturierte Ausgabe, in der Regel im JSON-Format, die angibt, welches Tool aufgerufen und welche Argumente übergeben werden sollen. Das Modell führt diesen Aufruf nicht selbst aus. Es erstellt die Anfrage, und die Anwendungsschicht übernimmt die Ausführung.

Schritt 4: Die Antwort empfangen und verarbeiten

Das externe Tool führt die Anfrage aus und gibt ein Ergebnis zurück. Dies kann eine Datennutzlast aus einer Datenbank sein, eine Bestätigung, dass eine Aktion abgeschlossen wurde, eine Fehlermeldung oder eine andere strukturierte Antwort. Die Anwendungsschicht gibt dieses Ergebnis als Kontext an das Modell zurück, damit dieses seine endgültige Antwort generieren kann.

Schritt 5: Die Antwort liefern oder eine Aktion ausführen

Mit der Antwort des Tools synthetisiert das Modell eine Antwort in natürlicher Sprache für den Benutzer. Wenn der Benutzer nach den Umsatzzahlen für Q2 gefragt hat, könnte das Modell antworten: „Der Umsatz in Nordamerika belief sich im Q2 2026 auf insgesamt 14,3 Millionen US-Dollar, was einem Anstieg von 12 % gegenüber Q1 entspricht.“ Das Modell kombiniert die Rohdaten des Tools mit seinen sprachlichen Fähigkeiten, um eine klare, kontextbezogene Antwort zu erstellen.

In einigen Fällen ist das Ergebnis keine Antwort im Dialogstil, sondern eine ausgeführte Aktion, wie eine gesendete E-Mail, ein aktualisierter Datenbankeintrag oder ein ausgelöster Workflow. Das Modell bestätigt dem Benutzer die Ausführung der Aktion.

Schritt 6: Das Ergebnis iterieren und verfeinern

Tool Calling erfolgt nicht immer in einem einzigen Durchgang. Komplexe Anfragen können mehrere aufeinanderfolgende Tool-Aufrufe erfordern. Ein Agent, der gebeten wird, „eine Zusammenfassung der Leistung des letzten Quartals zu erstellen und per E-Mail an das Führungsteam zu senden“, fragt möglicherweise zuerst eine Datenbank nach Leistungskennzahlen ab, ruft dann ein Code-Ausführungstool auf, um ein Diagramm zu erstellen, und nutzt schließlich eine E-Mail-API, um die Zusammenfassung zu senden.

Bei jedem Schritt bewertet das Modell, ob es über genügend Informationen verfügt, um fortzufahren, oder ob zusätzliche Tool-Aufrufe erforderlich sind. Diese iterative Schleife macht agentische AI-Systeme fähig, mehrstufige Workflows zu bewältigen.

Häufige Arten von Tool Calling

Tool Calling folgt keinem einzelnen Muster. Verschiedene Anwendungsfälle erfordern unterschiedliche Arten von Tools, die jeweils einen bestimmten Zweck im Workflow eines Agenten erfüllen.

Informationsbeschaffung und Suche

Die häufigste Art des Tool Callings besteht darin, Daten abzurufen, über die das Modell nicht verfügt. Dazu gehören das Abfragen von Datenbanken, das Durchsuchen von Dokumenten-Repositorys, das Aufrufen von Such-APIs oder das Abrufen von Echtzeitinformationen wie Aktienkursen, Wetterdaten oder Nachrichten. Retrieval-Augmented Generation (RAG) ist eine spezifische Form dieses Musters, bei der das Modell eine Wissensdatenbank abfragt, um seine Antworten auf verifizierten Daten zu basieren.

Code-Ausführung

Einige Aufgaben erfordern, dass das Modell Code schreibt und ausführt, anstatt nur Text zu generieren. Code-Ausführungstools ermöglichen es Agenten, Berechnungen durchzuführen, Daten zu transformieren, Visualisierungen zu erstellen oder Analyse-Skripte auszuführen. Ein AI-Coding-Agent könnte beispielsweise eine Python-Funktion schreiben, diese in einer Sandbox-Umgebung ausführen und die Ausgabe an den Benutzer zurückgeben.

Prozessautomatisierung

Tool Calling ermöglicht es Agenten, Aktionen in externen Systemen auszulösen. Dazu gehören das Senden von E-Mails, das Erstellen von Tickets in Projektmanagement-Tools, das Aktualisieren von CRM-Datensätzen, das Initiieren von Genehmigungs-Workflows oder das Posten von Nachrichten auf Kommunikationsplattformen. Diese Tools machen Agenten zu aktiven Teilnehmern an Geschäftsprozessen statt zu passiven Beobachtern.

Smart Devices und IoT-Überwachung

In industriellen und betrieblichen Kontexten verbindet Tool Calling AI-Agenten mit physischen Systemen. Ein Agent könnte Sensordaten von Produktionsanlagen abfragen, Thermostateinstellungen in einem Smart Building anpassen oder die Telemetrie von Flottenfahrzeugen überwachen. Diese Integrationen erweitern die AI-Fähigkeiten von der digitalen Welt auf die physische.

Tool Calling vs. Function Calling

Diese beiden Begriffe sind eng miteinander verwandt und werden oft synonym verwendet, aber es gibt einen wesentlichen Unterschied, den man verstehen sollte.

Function Calling ist der Ursprung von Tool Calling. Als OpenAI diese Funktion erstmals einführte, wurde sie als eine Möglichkeit für Modelle dargestellt, strukturierte Argumente für von Entwicklern definierte Funktionen zu generieren. Als das Ökosystem reifte und Agenten begannen, komplexere Workflows mit mehreren externen Systemen zu orchestrieren, etablierte sich der umfassendere Begriff „Tool Calling“ als Standard.

In der Praxis beschreibt eine Dokumentation, in der von „Function Calling“ die Rede ist, denselben zugrunde liegenden Mechanismus. Databricks unterstützt beide Begriffe in seiner Dokumentation und seinen Plattformfunktionen. Für einen tieferen Einblick in die Evaluierung von Function Calling in der Praxis lesen Sie die Databricks- Benchmarks für Function Calling.

Praxisbeispiele für AI Tool Calling in Aktion

Tool Calling ist bereits branchenübergreifend in der Produktion im Einsatz. Hier sind konkrete Beispiele dafür, wie Unternehmen es nutzen.

Kundenservice-Agenten

Ein Support-Agent erhält eine Kundennachricht mit der Frage nach dem Status einer Bestellung. Der Agent ruft ein Tool auf, um das Auftragsverwaltungssystem abzufragen, ruft die Tracking-Informationen ab und antwortet mit einer voraussichtlichen Lieferzeit. Wenn der Kunde die Lieferadresse ändern möchte, ruft der Agent ein Update-Tool auf, um den Datensatz zu ändern. Jede Tool-Interaktion wird über Plattformen wie Unity Catalog gesteuert und ist auditierbar. Unity Catalog setzt Zugriffskontrollen durch und verfolgt die Lineage von den Aktionen des Agenten bis zu den Quelldaten.

Workflows zur Datenanalyse

Ein Analyst bittet einen AI-Agenten, den Umsatz dieses Quartals regionenübergreifend zu vergleichen. Der Agent ruft ein SQL-Abfragetool auf, um Daten aus dem Lakehouse abzurufen, ruft ein Code-Ausführungstool auf, um Wachstumsraten zu berechnen und ein Diagramm zu erstellen, und gibt eine formatierte Zusammenfassung zurück. Was einen Analysten sonst 30 Minuten manuelle Abfragen und Tabellenkalkulation gekostet hätte, geschieht in einem einzigen Dialog.

IT-Betrieb und -Monitoring

Ein Betriebsteam stellt einen Agenten bereit, der den Zustand der Infrastruktur überwacht. Wenn die CPU-Auslastung eines Servers einen Schwellenwert überschreitet, ruft der Agent ein Diagnosetool auf, um Systemprotokolle zu sammeln, ruft ein Alerting-Tool auf, um den zuständigen Techniker zu benachrichtigen, und ruft ein Behebungstool auf, um die Ressourcen automatisch hochzuskalieren. Der Agent wickelt den Ersthelfer-Workflow ohne menschliches Eingreifen ab.

Unternehmensweite Suche und Wissensmanagement

Ein Mitarbeiter fragt einen internen AI-Assistenten nach den Richtlinien des Unternehmens zur Elternzeit. Der Agent ruft ein Retrieval-Tool auf, um die HR-Wissensdatenbank zu durchsuchen, findet das relevante Richtliniendokument und gibt eine prägnante Antwort mit einem Link zum vollständigen Dokument zurück. Dieses Muster ersetzt das mühsame Suchen im Intranet und das Durchlesen mehrerer Seiten, um eine bestimmte Antwort zu finden.

Erste Schritte beim Erstellen von AI-Agenten mit Tool Calling auf Databricks

Databricks bietet mit Agent Bricks eine vollständige Plattform für die Erstellung, Bereitstellung und Governance von Tool-Calling-Agenten. Laut Databricks haben Unternehmen bereits über 100.000 Agenten auf der Plattform erstellt, die mehr als eine Billiarde Token pro Jahr verarbeiten.

Wie Databricks Tool Calling unterstützt

Agent Bricks unterstützt nativ das Model Context Protocol (MCP), den neuen offenen Standard für die Tool-Integration. Dies ermöglicht Agenten den sicheren Zugriff auf APIs, Datenbanken und SaaS-Anwendungen über eine standardisierte Schnittstelle. MCP-Tools können über einen integrierten Katalog unternehmensweit gefunden und geteilt werden, wobei jede Integration über Unity Catalog sichtbar, autorisiert und auditierbar ist.

Entwickler können Agenten auf verschiedene Weise mit Tools verbinden:

• Verwaltete MCP-Server für Databricks-Datenquellen
• Externe MCP-Server, die als verwaltete MCP-Services registriert sind
• Unity Catalog-Funktionen für benutzerdefinierte Logik und aufgabenspezifische Tools
• Mit dem Python-basierten Agent SDK erstellte benutzerdefinierte Tools

Das Agent SDK übernimmt die Tool-Ausführung, das Function Calling, mehrstufige Workflows und die Verwaltung des Konversationsstatus. Entwickler definieren, welche Tools der Agent verwenden kann und wie er sich in Konversationen über mehrere Runden hinweg verhalten soll.

Erste Schritte

Für Teams, die sich zum ersten Mal mit Tool Calling beschäftigen, bietet der AI Playground eine No-Code-Sandbox, in der Sie ein LLM auswählen, Tools hinzufügen und das Verhalten des Agenten testen können, bevor Sie es als Code exportieren. Agent Bricks unterstützt beliebte Agenten-Frameworks wie LangGraph, CrewAI, Agno, das Claude Code SDK und OpenAI Agent SDKs, sodass Teams mit den Frameworks arbeiten können, die sie bereits kennen.

Governance ist von Anfang an integriert. Agenten-Governance und Daten-Governance werden direkt in Unity Catalog verwaltet, wobei rollenbasierte Zugriffskontrollen auf Modelle, Tools und Verbindungen angewendet werden. Unternehmensweite Richtlinien zur Verhinderung von Prompt-Injections, zur Erkennung sensibler Daten und zur Inhaltsfilterung werden über eine einzige Steuerungsebene konfiguriert.

Um mit dem Erstellen und Testen von Tool-Calling-Agenten auf Ihren eigenen Daten zu beginnen, entdecken Sie Agent Bricks und das Databricks-Agent-Tool-Framework.

Häufig gestellte Fragen

Was bedeutet Tool Calling im Bereich AI?

Tool Calling ist die Fähigkeit eines AI-Modells, externe Tools, APIs oder Systeme aufzurufen, um Aufgaben auszuführen, die über die reine Textgenerierung hinausgehen. Es ermöglicht Modellen, Live-Daten abzurufen, Code auszuführen und Aktionen in externen Anwendungen auszulösen.

Was ist der Unterschied zwischen Tool Calling und Function Calling?

Function Calling ist eine Unterkategorie von Tool Calling. Function Calling bezieht sich speziell darauf, dass ein Modell strukturierte Argumente für eine vordefinierte Funktion generiert. Tool Calling ist das umfassendere Konzept, das neben Function Calling auch API-Integrationen, Datenbankabfragen, Code-Ausführung und andere externe Interaktionen beinhaltet.

Wie funktioniert Tool Calling bei LLMs?

Ein LLM mit Tool-Calling-Unterstützung folgt einer Schleife: Es erkennt, wenn die Anfrage eines Benutzers ein externes Tool erfordert, wählt das entsprechende Tool aus den verfügbaren Tools aus, generiert eine strukturierte Anfrage mit den korrekten Parametern und integriert dann die Antwort des Tools in seine endgültige Antwort. Das Modell führt Tools nicht direkt aus. Es erzeugt eine strukturierte Ausgabe, die von einer Anwendungsschicht verarbeitet wird.

Welches LLM eignet sich am besten für Tool Calling?

Die Leistung beim Tool Calling variiert je nach Modell und Anwendungsfall. Das Berkeley Function Calling Leaderboard (BFCL) ist der am häufigsten herangezogene Benchmark zur Bewertung der Zuverlässigkeit von Tool Calling über verschiedene Modelle hinweg. Databricks unterstützt mehrere LLM-Anbieter, darunter Modelle von OpenAI, Anthropic, Google und Meta, sodass Teams Modelle basierend auf ihren spezifischen Anforderungen auswählen und vergleichen können.

Was ist der Unterschied zwischen AI Tool Calling und MCP?

Tool Calling ist die eigentliche Funktion. MCP (Model Context Protocol) ist eine Standardisierungsschicht dafür, wie Tools beschrieben, gefunden und aufgerufen werden. MCP bietet eine einheitliche Schnittstelle, sodass sich Agenten ohne benutzerdefinierten Integrationscode mit jedem MCP-kompatiblen Tool verbinden können. Databricks Agent Bricks unterstützt MCP nativ für den kontrollierten Zugriff auf Tools.

Warum ist Tool Calling für AI-Agenten wichtig?

Ohne Tool Calling sind AI-Agenten darauf beschränkt, Text basierend auf ihren Trainingsdaten zu generieren. Tool Calling gibt Agenten die Fähigkeit zu handeln: Datenbanken abfragen, APIs aufrufen, Nachrichten senden, Code ausführen und Workflows auslösen. Es ist der Kernmechanismus, der ein Sprachmodell in einen autonomen AI-Agenten verwandelt, der in der Lage ist, Aufgaben in der realen Welt auszuführen.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag