KI-Modelle und Plattformen
Google gibt Vorschau auf bedarfsgesteuerten Tool-Abruf für Gemini-API-Agenten

Wichtige PunkteTool Retrieval verzögert vollständige Schemas, sodass große Tool-Bibliotheken nicht…
Mehr anzeigen
- Tool Retrieval verzögert vollständige Schemas, sodass große Tool-Bibliotheken nicht mehr die Eingabe-Tokens jeder Anfrage aufblähen.
- Die serverseitige Suche fügt einen Modellaufruf mit vollem Kontext hinzu, der die Einsparungen bei kleinen Tool-Bibliotheken überwiegen kann.
- Abgerufene Schemas können nicht entladen werden, und das vollständige Tools-Array muss bei jeder Anfrage erneut gesendet werden.
Google kündigte Tool Retrieval an und stellte die Funktion am 19. November 2026 als Vorschau in der Gemini Interactions API bereit. Damit können Agenten umfangreiche Tool-Bibliotheken bereithalten und vollständige Parameterschemas erst dann laden, wenn die aktuelle Aufgabe sie erfordert.
Laut Google wird der herkömmliche Ansatz unhandlich, wenn Agenten mit Dutzenden oder Hunderten von Tools verbunden sind: Werden alle vollständigen Schemas übermittelt, erhöht das die Zahl der Eingabetokens, verlängert die Latenz und verringert mit wachsender Kandidatenliste die Genauigkeit der Toolauswahl. Bei Tool Retrieval werden zunächst nur Name und Beschreibung jedes zurückgestellten Tools in den Kontext aufgenommen. Das Schema, das die Funktionsargumente definiert, bleibt so lange außen vor, bis das Modell es anfordert.
Die Interactions API ist seit Juni 2026 allgemein verfügbar und die von Google empfohlene Schnittstelle für neue Projekte. Tool Retrieval funktioniert ausschließlich über diese Schnittstelle; die ältere generateContent Methode unterstützt die Funktion nicht.
Serverseitiger und clientseitiger Abruf
Im standardmäßigen serverseitigen Modus fügen Entwickler ein tool_search Tool hinzu und setzen defer_loading: true für ausgewählte Funktionstools. Häufig verwendete Funktionen können vollständig geladen bleiben, während spezialisierte Funktionen zunächst nur mit Namen und Beschreibung berücksichtigt werden. Benötigt das Modell ein zurückgestelltes Tool, kann ein API-Aufruf Folgendes enthalten: tool_search_call, ein tool_search_result mit dem vollständigen Schema und dem daraus resultierenden function_call, sodass diese Ausführungsschritte zum Debuggen sichtbar bleiben. Bei einer benutzerdefinierten Funktion führt der Code des Entwicklers sie weiterhin aus und gibt ein function_result.
Es gibt keinen Abrufindex, den Entwickler erstellen oder hosten müssten; Gemini führt die serverseitige Suche durch. Wird defer_loading auf einem Remote-MCP-Server festgelegt, werden alle von diesem Server bereitgestellten Tools zurückgestellt. Daher müssen die einzelnen Tools eines großen Servers nicht separat aufgeführt werden. Abgerufene Schemas werden an der Stelle eingefügt, an der sie geladen werden, statt am Anfang der Eingabeaufforderung. Dadurch bleibt der vorhergehende Präfix für das implizite Caching unverändert.
Beim clientseitigen Abruf werden Suche, Sortierung und Filterung in die Anwendung des Entwicklers verlagert. Jede Suche erfordert einen zusätzlichen Roundtrip, dafür können Tools während eines Gesprächs eingeführt werden, ohne sie vorab deklarieren zu müssen – etwa wenn ein Nutzer eine neue Integration verbindet. Serverseitiger und clientseitiger Abruf lassen sich nicht innerhalb derselben Anfrage kombinieren, und genau eine tool_search Definition ist zulässig.
Tokenkosten und Modellunterstützung
Für Tool Retrieval fällt keine separate Gebühr an. Die Funktion ändert jedoch die Abrechnung der Tokens, statt den zusätzlichen Aufwand durch Tools zu beseitigen. Anweisungen für die serverseitige Suche fügen jeder Anfrage einen kleinen, festen Eingabeblock hinzu. Laut dem Einrichtungsleitfaden ergaben frühe Tests für den kompakten Eintrag aus Name und Beschreibung etwa 26 Tokens pro zurückgestelltem Tool. Jedes vom Modell geladene Schema wird auch bei späteren Aufrufen und Gesprächsrunden weiterhin als Eingabe abgerechnet. Jede serverseitige Suche löst zudem einen weiteren Modellaufruf mit dem vollständigen Kontext und den neu geladenen Schemas aus. Diese Eingabeaufforderung wird als Tokens für die Tool-Nutzung ausgewiesen und zum Eingabetarif abgerechnet.
Das ausdrücklich als veranschaulichend gekennzeichnete Beispiel des Leitfadens mit zwei Anfragen verwendet gerundete Zahlen und berücksichtigt weder Ausgabetokens noch Caching. Bei 200 Tools mit jeweils 400 Tokens und zwei geladenen Tools veranschlagt es für das statische Laden 164.000 Eingabetokens. Beim Abruf sind es dagegen etwa 23.650 Eingabe- und Tool-Nutzungstokens. In einem zweiten Szenario mit 10 Tools derselben Größe und einem Kontext von 30.000 Tokens beläuft sich die Gesamtzahl beim statischen Laden auf 68.000 Tokens, mit Abruf dagegen auf etwa 92.830. Dieser zweite Fall zeigt, dass die wiederholte Übermittlung eines großen Kontexts für die Suche die Einsparungen durch eine kleine Tool-Bibliothek überwiegen kann.
Der Leitfaden nennt ausdrücklich Gemini 4 Argon, Gemini 3.8 Flash und Gemini 3.6 Flash als unterstützte Modelle. Anfragen, in denen defer_loading für ein nicht unterstütztes Modell festgelegt ist, führen zu einem 400-Fehler. Außerdem weist Google darauf hin, dass sich die API-Oberfläche während der Vorschau noch ändern kann, bevor die allgemeine Verfügbarkeit beginnt.
Bei allen unterstützten Modellen sind weiterhin wichtige betriebliche Einschränkungen zu beachten. Abgerufene Tools können während eines Gesprächs nicht entladen werden. Außerdem muss das vollständige Tools-Array bei jeder Anfrage erneut übermittelt werden, auch bei Gesprächsrunden, die mit previous_interaction_idverkettet sind, da Tool-Deklarationen nicht zwischen Anfragen gespeichert werden.
In Googles umfassenderem Leitfaden zum Funktionsaufruf wird empfohlen, den Abruf in Betracht zu ziehen, sobald eine Bibliothek etwa 20 bis 30 Tools umfasst. Der Start ermöglicht es Agenten somit, wesentlich größere Kataloge bereitzuhalten. Wie häufig gesucht wird und welche Schemas geladen bleiben, entscheidet dabei maßgeblich darüber, ob die zusätzliche Funktion den Tokenverbrauch senkt oder erhöht.












