Was ist ein Tool-Aufruf? Wie KI-Modelle Entscheidungen in Aktionen umsetzen

Ein Tool-Aufruf ist ein Mechanismus, mit dem ein KI-Modell mithilfe strukturierter Argumente eine bestimmte Funktion oder externe Fähigkeit anfordern kann. Dadurch wird eine Entscheidung des Modells in eine maschinenlesbare Aktion umgewandelt. So kann die Software suchen, Berechnungen durchführen, Datensätze abrufen, Code ausführen oder ein anderes System aktualisieren, ohne dass das Modell den Vorgang in Prosa nachahmen muss.

Tool-Aufrufe sind eine grundlegende Voraussetzung für moderne KI-Agenten. Ein Modell kann erschließen, was geschehen sollte. Ob die angeforderte Aktion jedoch gültig und autorisiert ist, ausgeführt und dem Modell für die nächste Entscheidung zurückgegeben wird, entscheidet die umgebende Anwendung.

Warum Modelle Tools benötigen

Sprachmodelle haben wichtige Einschränkungen. Ihr erlerntes Wissen reicht nur bis zu einem bestimmten Trainingsstichtag. Sie können nicht zuverlässig jede Berechnung durchführen, kennen private oder aktuelle Daten nicht automatisch und können allein durch die Generierung von Text keine Softwaresysteme beeinflussen.

Tools erweitern die Fähigkeiten des Modells unter anderem um Folgendes:

• aktuelle Informationen suchen;
• eine Datenbank oder Wissensdatenbank abfragen;
• Code ausführen oder exakte Berechnungen durchführen;
• Dateien lesen und schreiben;
• Tickets, Ereignisse, Nachrichten oder Transaktionen erstellen;
• einen Browser oder eine andere Benutzeroberfläche bedienen.

Ein Tool macht das Modell nicht von sich aus sachkundiger. Es ermöglicht der Anwendung vielmehr, auf kontrollierte Weise Belege einzuholen oder einen Vorgang auszuführen.

Aufbau einer Tool-Definition

Die Tool-Beschreibung sollte sowohl positive als auch negative Auswahlkriterien enthalten. „Datensätze durchsuchen“ ist zu ungenau, da das Modell nicht erkennen kann, ob Kunden, Dokumente oder das öffentliche Web durchsucht werden sollen. „Genehmigte Kundenkonten anhand des Firmennamens oder der Konto-ID durchsuchen; nicht für allgemeine Webrecherchen verwenden“ gibt dem Modell eine klare Grenze vor.

Anwendungen beschreiben jedes verfügbare Tool in einer strukturierten Form. Eine Definition umfasst üblicherweise:

• Name: eine stabile Kennung wie get_weather oder create_support_ticket.
• Beschreibung: eine präzise Erläuterung der Funktion des Tools und der Situationen, in denen es verwendet werden sollte.
• Eingabeschema: die erforderlichen und optionalen Argumente, ihre Datentypen und zulässigen Werte.
• Ausgabevertrag: die Dokumentation des Ergebnisses oder der Fehlerzustände, die die Anwendung zurückgibt.

Viele Tool-Schnittstellen verwenden JSON Schema oder eine verwandte typisierte Darstellung. Ein eng gefasstes, eindeutiges Schema verringert die Wahrscheinlichkeit, dass das Modell Parameter erfindet oder unvereinbare Optionen kombiniert.

So funktioniert die Tool-Aufruf-Schleife

Stellen Sie sich vor, ein Nutzer fragt: „Habe ich nächsten Dienstag irgendwelche Termine in Manchester, und wird es regnen?“

1. Die Anwendung stellt den Kontext bereit. Sie übermittelt dem Modell die Anfrage des Nutzers, die Systemanweisungen und die Definitionen der ausgewählten Tools.
2. Das Modell wählt ein Tool aus. Es kann eine Kalenderabfrage mit einem Datumsbereich und einem Ortsfilter anfordern.
3. Die Anwendung validiert die Anfrage. Sie prüft den Tool-Namen, die erforderlichen Argumente, den Berechtigungsumfang und die Geschäftsregeln.
4. Die Laufzeitumgebung führt das Tool aus. Sie ruft das Kalendersystem auf und gibt die passenden Ereignisse oder eine ausdrückliche Fehlermeldung zurück.
5. Das Modell wertet das Ergebnis aus. Es erkennt, dass es ein Treffen in Manchester gibt, und fordert für diese Stadt und dieses Datum ein Wetter-Tool an.
6. Die Anwendung wiederholt die Prüfungen und die Ausführung.
7. Das Modell erstellt die abschließende Antwort. Es führt die verifizierten Ergebnisse zusammen und nennt die relevanten Details.

Das Modell schlägt Aufrufe vor; die Anwendung führt sie aus. Diese Abgrenzung ist eine der wichtigsten Tatsachen bei der Verwendung von Tools. Eine sichere Laufzeitumgebung behandelt Modellausgaben niemals automatisch als autorisierten Code.

Die Tool-Auswahl kann automatisch erfolgen oder eingeschränkt sein

Eine Anwendung kann dem Modell überlassen, zu entscheiden, ob ein Tool benötigt wird, ein bestimmtes Tool vorschreiben, die Auswahl auf eine Teilmenge beschränken oder Tools für eine Antwort untersagen. Diese Optionen eignen sich für unterschiedliche Arbeitsabläufe.

Eine automatische Auswahl unterstützt flexible Assistenten. Eine vorgeschriebene Auswahl ist bei Aufgaben wie der strukturierten Extraktion hilfreich, bei der jede Anfrage über eine bestimmte Funktion laufen sollte. Eine Beschränkung der verfügbaren Auswahl verringert Verwirrung und Risiken: Ein Schritt zum Auslesen von Rechnungen benötigt keinen Zugriff auf ein Tool zum Versenden von E-Mails.

Tool-Aufrufe im Vergleich zu strukturierter Ausgabe

Beide Funktionen fordern das Modell auf, Daten auszugeben, die einem Schema entsprechen, dienen jedoch unterschiedlichen Zwecken.

Eine strukturierte Ausgabe bringt die Antwort des Modells in ein für eine Anwendung geeignetes Format – zum Beispiel, um einen Produktnamen, eine Menge und eine Risikoeinstufung zu extrahieren. Ein Tool-Aufruf fordert die Anwendung auf, einen Vorgang auszuführen und eine Rückmeldung zu liefern.

Ein strukturiertes Ergebnis kann die Interaktion beenden. Auf einen Tool-Aufruf folgt in der Regel ein weiterer Zyklus: anfordern, ausführen, Ergebnis auswerten und erneut entscheiden.

Tool-Aufrufe im Vergleich zu APIs

Eine API ist eine Schnittstelle, über die Software mit einem anderen System kommuniziert. Tool-Aufrufe bilden die Entscheidungsebene für das Modell: Sie wählt einen Vorgang aus und übergibt die Argumente. Eine Tool-Implementierung umschließt häufig eine API, kann aber auch eine Datenbankabfrage, eine lokale Funktion, ein Kommandozeilenprogramm oder eine Aktion in einer Benutzeroberfläche umschließen.

Die besten Tools stellen selten eine komplette, komplexe API direkt bereit. Stattdessen bieten sie aufgabenorientierte Vorgänge mit klarer Bedeutung, begrenztem Umfang und Ergebnissen, die ein Modell interpretieren kann. „Bestellung erstatten“ mit validierten Richtlinieneingaben ist sicherer und einfacher zu verwenden als ein allgemeines Anfragetool, das beliebige Endpunkte aufrufen kann.

Was zeichnet ein gutes KI-Tool aus?

Ein klarer Zweck. Name und Beschreibung sollten das Tool von ähnlichen Funktionen unterscheiden. Überschneidungen zwischen Tools führen zu uneinheitlicher Auswahl.

Kleine, typisierte Eingaben. Pflichtfelder sollten eindeutig angegeben sein, und eingeschränkte Werte sollten nach Möglichkeit als Aufzählungen definiert werden. Vermeiden Sie, das Modell große, fehleranfällige Datenstrukturen erstellen zu lassen.

Verwertbare Ausgaben. Geben Sie genügend Informationen zurück, um die nächste Entscheidung zu unterstützen, darunter stabile Kennungen und einen eindeutigen Erfolgs- oder Fehlerstatus. Verbergen Sie keinen Teilerfolg in einer freundlich formulierten Meldung.

Idempotenz, wo immer möglich. Das Wiederholen eines Lesevorgangs ist in der Regel unbedenklich; die Wiederholung einer Zahlung oder einer Nachrichtenübermittlung kann die Aktion doppelt ausführen. Tools mit weitreichenden Auswirkungen sollten Idempotenzschlüssel oder eine andere Schutzmaßnahme verwenden.

Eng begrenzte Berechtigungen. Ein schreibgeschütztes Such-Tool sollte keine Schreibberechtigungen erben. Zugangsdaten und Autorisierung gehören in die Laufzeitumgebung, nicht in den Prompt.

Häufige Fehler bei Tool-Aufrufen

Wiederholungsversuche benötigen eine eigene Richtlinie. Eine schreibgeschützte Suche zu wiederholen, ist möglicherweise unproblematisch; bei einem Zahlungstool oder einem Tool zum Versenden von Nachrichten kann ein erneuter Versuch dagegen eine irreversible Aktion doppelt auslösen. Idempotenzschlüssel, Transaktionskennungen und explizite Bestätigungsstatus ermöglichen es der Laufzeitumgebung festzustellen, ob der erste Versuch fehlgeschlagen ist oder lediglich keine Antwort zurückgegeben hat.

• Falsches Tool: Das Modell wählt eine Funktion mit einer ähnlichen Beschreibung aus.
• Ungültige Argumente: Ein erforderliches Feld fehlt, ist fehlerhaft formatiert oder inhaltlich unmöglich.
• Halluziniertes Ergebnis: Das Modell antwortet, als hätte das Tool erfolgreich funktioniert, ohne eine Beobachtung abzuwarten.
• Mehrdeutige Fehler: Das Tool gibt eine leere Ausgabe zurück, und das Modell deutet sie als „keine Datensätze gefunden“.
• Unsichere Verkettung: Nicht vertrauenswürdige Inhalte aus einem Tool verleiten das Modell dazu, ein weiteres Tool unangemessen aufzurufen.
• Doppelte Nebenwirkungen: Eine Zeitüberschreitung löst einen erneuten Versuch aus, obwohl die erste Aktion bereits erfolgreich war.
• Überlastung durch Tools: Zu viele irrelevante Definitionen verringern die Auswahlgenauigkeit und beanspruchen Kontext.

Berechtigungen und menschliche Freigabe

Tools lassen sich nach ihrem Risiko gruppieren. Schreibgeschützte Datenabrufe können innerhalb eines begrenzten Datenbereichs automatisch ausgeführt werden. Umkehrbare Entwürfe oder vorgeschlagene Änderungen können unter Protokollierung umgesetzt werden. Für externe, finanzielle, destruktive oder rechtlich bedeutsame Aktionen sollte im Allgemeinen eine Freigabe erforderlich sein.

Die Freigabe muss auf informierter Grundlage erfolgen. Eine Bestätigungsoberfläche sollte die genaue Aktion, das Ziel, wichtige Parameter und die wahrscheinlichen Folgen anzeigen. „Tool zulassen?“ reicht nicht aus, wenn das Tool eine E-Mail an 5.000 Empfänger versendet oder eine Produktionsressource löscht.

OpenAIs Überblick über Tools zur Entwicklung von Agenten betont, dass die Tool-Nutzung in eine Agentenplattform mit Tracing und Beobachtbarkeit eingebettet sein sollte. Die zugehörigen Kontrollmechanismen sind keine optionalen Extras, sondern machen die vom Modell ausgewählten Aktionen überhaupt erst ausführbar.

So lässt sich der Tool-Einsatz bewerten

Bewerten Sie die Auswahl, die Argumente, die Ausführung, die Interpretation und den endgültigen Aufgabenerfolg getrennt voneinander. Ein Modell kann das richtige Tool auswählen, aber das falsche Feld ausfüllen. Oder es erhält ein korrektes Ergebnis und zieht daraus den falschen Schluss. Durch die Protokollierung des vollständigen Ablaufs werden diese Fehlerarten sichtbar und eine überzeugende endgültige Antwort kann unsicheres oder ineffizientes Verhalten nicht mehr verbergen.

Eine endgültige Antwort kann richtig erscheinen, auch wenn ein Agent einen ineffizienten oder unsicheren Weg gewählt hat. Bei der Bewertung sollten daher sowohl die Ergebnisse als auch die Abläufe berücksichtigt werden.

Zu den nützlichen Kennzahlen zählen die Genauigkeit der Tool-Auswahl, die Gültigkeit der Argumente, der Aufgabenerfolg, die Anzahl der Aufrufe, die Latenz, die Kosten, die Fehlerbehebung, der unnötige Zugriff auf sensible Daten, doppelte Nebenwirkungen und die Einhaltung von Freigaberegeln. Führen Sie wiederholte Tests durch, da das Verhalten von Modellen variieren kann.

So lesen Sie die Tool-Calling-Diagramme

Lesen Sie die Tool-Calling-Diagramme von der nummerierten Eingabe bis zum beobachtbaren Ergebnis. Die Gegenüberstellung zeigt die Grenze auf, die Tool Calling von der naheliegendsten Abkürzung unterscheidet. Der Kontrollpfad markiert, an welchen Stellen Befugnisse oder Unsicherheiten geprüft werden müssen, bevor reale Folgen eintreten. Die Beschriftungen bleiben gewöhnlicher, responsiver Seitentext, damit sie auf einem Smartphone übersetzt, umgebrochen und neu angeordnet werden können.

Bei „Was ist Tool Calling? Wie KI-Modelle Entscheidungen in Aktionen umsetzen“ ist die Grafik eine Orientierungshilfe, keine Garantie. Eine tatsächliche Implementierung kann Phasen zusammenfassen, einen Schritt wiederholen oder eine Freigabe durch einen Menschen vorsehen. Entscheidend ist, ob das Team dieselben Funktionen im eingesetzten System identifizieren, jeder Kontrollgrenze eine verantwortliche Person zuordnen und den Übergang zwischen ihnen testen kann. Wenn sich eine Phase nicht beobachten oder messen lässt, sind Fehler dort nur schwer zu diagnostizieren.

Was Sie über Tool Calling wissen sollten

Tool Calling schlägt die Brücke zwischen dem Urteilsvermögen eines Modells und Aktionen in einer Software. Das Modell erkennt eine Funktion und schlägt strukturierte Eingaben vor; die Anwendung validiert, autorisiert und führt sie aus und gibt anschließend die Beobachtung zurück.

Gut konzipierte Tools machen KI-Systeme aktueller, leistungsfähiger und nützlicher. Schlecht konzipierte Tools führen dazu, dass gewöhnliche Modellfehler externe Folgen haben. Die entscheidende technische Arbeit steckt in den Schemata, Berechtigungen, der Fehlerbehandlung und Beobachtbarkeit sowie in den Grenzen für die Ausführung.