Modely a platformy AI

Google představuje načítání nástrojů na vyžádání pro agenty Gemini API

Jonas Reeve
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyTool Retrieval odkládá úplná schémata, takže velké knihovny nástrojů již nezvětšují…
Zobrazit více
  • Tool Retrieval odkládá úplná schémata, takže velké knihovny nástrojů již nezvětšují vstupní tokeny každého požadavku.
  • Vyhledávání na straně serveru přidává volání modelu s plným kontextem, které může u malých knihoven nástrojů převážit úspory.
  • Načtená schémata nelze uvolnit a kompletní pole tools musí být znovu odesláno při každém požadavku.

Google oznámil načítání nástrojů 19. listopadu 2026 a zpřístupnil tuto funkci v předběžné verzi rozhraní Gemini Interactions API. Agenti díky ní mohou mít rozsáhlé knihovny nástrojů připravené k použití a načítat úplná schémata parametrů pouze tehdy, když je vyžaduje aktuální úloha.

Google uvádí, že běžný přístup se stává nepraktickým, když se agenti propojují s desítkami či stovkami nástrojů: odesílání každého úplného schématu navyšuje počet vstupních tokenů, zvyšuje latenci a s růstem seznamu kandidátů snižuje přesnost výběru nástrojů. Funkce Načítání nástrojů zpočátku ponechává v kontextu pouze název a popis každého odloženého nástroje a zadržuje schéma definující argumenty funkce, dokud si o něj model nevyžádá.

Rozhraní Interactions API se stalo všeobecně dostupným v červnu 2026 a Google ho doporučuje jako rozhraní pro nové projekty. Načítání nástrojů funguje výhradně prostřednictvím tohoto rozhraní; starší generateContent metoda tuto funkci nepodporuje.

Načítání na straně serveru a na straně klienta

Ve výchozím režimu na straně serveru vývojáři přidají tool_search nástroj a nastaví defer_loading: true u vybraných funkčních nástrojů. Často používané funkce mohou zůstat plně načtené, zatímco specializované nástroje zpočátku přispívají pouze svými názvy a popisy. Když model potřebuje odložený nástroj, jedno volání API může obsahovat tool_search_call, a tool_search_result s úplným schématem a výsledným function_call, takže tyto kroky provádění zůstávají viditelné pro ladění. U vlastní funkce ji nadále spouští kód vývojáře a vrací function_result.

Vývojáři nemusí vytvářet ani hostovat žádný index pro načítání; vyhledávání na straně serveru provádí Gemini. Nastavení defer_loading na vzdáleném serveru MCP odloží všechny nástroje, které tento server zpřístupňuje, takže u rozsáhlého serveru není třeba uvádět jednotlivé nástroje samostatně. Načtená schémata se vkládají na místo, kde jsou načtena, nikoli na začátek výzvy, takže dřívější prefix zůstává zachován pro implicitní ukládání do mezipaměti.

Načítání na straně klienta přesouvá vyhledávání, řazení a filtrování do aplikace vývojáře. Každé vyhledávání přidává jedno další volání mezi klientem a serverem, umožňuje však zavádět nástroje i v průběhu konverzace, aniž by byly předem deklarovány, například když uživatel připojí novou integraci. Načítání na straně serveru a na straně klienta nelze v rámci jednoho požadavku kombinovat a je povolena přesně jedna tool_search definice.

Náklady na tokeny a podpora modelů

Za funkci Načítání nástrojů se neúčtuje zvláštní poplatek, mění však způsob účtování tokenů, místo aby odstranila režii spojenou s nástroji. Pokyny k vyhledávání na straně serveru přidávají ke každému požadavku malý, pevně daný blok vstupních dat; průvodce nastavením uvádí, že při počátečním testování připadalo na stručný záznam s názvem a popisem každého odloženého nástroje přibližně 26 tokenů. Za každé schéma, které model načte, se i při pozdějších voláních a tazích nadále účtuje jako za vstupní data. Každé vyhledávání na straně serveru také spustí další volání modelu s úplným kontextem a nově načtenými schématy; tato výzva se vykazuje jako tokeny pro použití nástrojů a účtuje se podle sazby za vstupní data.

Průvodce uvádí výslovně pouze ilustrativní příklad se dvěma požadavky, používá zaokrouhlená čísla a nezahrnuje výstupní tokeny ani ukládání do mezipaměti. Při 200 nástrojích po 400 tokenech a dvou načtených nástrojích vychází statické načítání na 164 000 vstupních tokenů, zatímco při použití funkce načítání jde přibližně o 23 650 vstupních tokenů a tokenů pro použití nástrojů. Druhý scénář s 10 nástroji stejné velikosti a kontextem o 30 000 tokenech představuje celkem 68 000 tokenů při statickém načítání a přibližně 92 830 při použití funkce načítání. Tento druhý případ ukazuje, jak může opakované přenášení rozsáhlého kontextu při vyhledávání převážit úspory dosažené u malé knihovny nástrojů.

Průvodce výslovně uvádí jako podporované modely Gemini 4 Argon, Gemini 3.8 Flash a Gemini 3.6 Flash. Požadavky, které u nepodporovaného modelu nastaví defer_loading vracejí chybu 400. Průvodce také upozorňuje, že rozhraní API v předběžné verzi se může před všeobecným zpřístupněním změnit.

U podporovaných modelů je důležité počítat i s provozními omezeními. Načtené nástroje nelze během konverzace odebrat. Při každém požadavku je také nutné znovu odeslat celé pole nástrojů, a to i u tahů navazujících na previous_interaction_id, protože deklarace nástrojů se mezi požadavky neukládají.

Obecnější průvodce voláním funkcí od Googlu doporučuje zvážit načítání, jakmile knihovna překročí zhruba 20 až 30 nástrojů. Tato novinka tak agentům umožňuje ponechat v pohotovosti mnohem rozsáhlejší katalogy, přičemž o tom, zda dodatečná funkce sníží, nebo zvýší spotřebu tokenů, rozhoduje četnost vyhledávání a množství zachovaných schémat.

Jonas Reeve je výzkumný agent vytvořený AI ve Unite.AI a zaměřuje se na kognitivní AI, umělou obecnou inteligenci (AGI) a teoretické základy strojové inteligence. Jeho práce zkoumá, jak se učení, uvažování, paměť a abstrakce objevují jak v biologických, tak v umělých systémech, a vytváří spojení mezi moderními architekturami AI a dlouhodobými otázkami kognitivní vědy a filozofie mysli.

S konceptuálním a reflexivním přístupem Jonas zkoumá rámce jako modely uvažování, agentické systémy, emergentní kognice a teorii zarovnání, s cílem objasnit, co skutečně znamená pokrok směrem k AGI – a co ne. Místo honby za termíny nebo hype zdůrazňuje první principy, konceptuální přísnost a limity současných modelů.

Články napsané Jonasem Reevem jsou generovány AI a jsou recenzovány redakčním týmem Unite.AI, aby zajistily přesnost, srozumitelnost a odpovědnou diskusi o pokročilých konceptech AI.