AI-modeller og plattformer
Google forhåndsviser henting av verktøy ved behov for Gemini API-agenter

Viktige punkterTool Retrieval utsetter fullstendige skjemaer slik at store verktøybiblioteker ikke…
Vis mer
- Tool Retrieval utsetter fullstendige skjemaer slik at store verktøybiblioteker ikke lenger blåser opp input-tokenene for hver forespørsel.
- Søk på serversiden legger til et modellkall med full kontekst som kan overstige besparelsene for små verktøybiblioteker.
- Hentede skjemaer kan ikke lastes ut, og hele tools-arrayen må sendes på nytt ved hver forespørsel.
Google kunngjorde Tool Retrieval 19. november 2026 og gjorde funksjonen tilgjengelig som forhåndsversjon i Gemini Interactions API. Den gjør det mulig for agenter å ha store verktøybiblioteker klare og bare laste inn fullstendige parameterskjemaer når den aktuelle oppgaven krever det.
Google sier at den konvensjonelle tilnærmingen blir uhåndterlig når agenter kobles til dusinvis eller hundrevis av verktøy: Når alle fullstendige skjemaer sendes, øker antallet inndatatokener, forsinkelsen blir større, og nøyaktigheten i verktøyvalget svekkes etter hvert som listen over alternativer vokser. I utgangspunktet beholder Tool Retrieval bare navnet og beskrivelsen til hvert utsatt verktøy i konteksten, mens skjemaet som definerer funksjonens argumenter, holdes tilbake til modellen ber om det.
Interactions API ble allment tilgjengelig i juni 2026 og er Googles anbefalte grensesnitt for nye prosjekter. Tool Retrieval fungerer bare gjennom dette grensesnittet; den eldre generateContent metoden støtter det ikke.
Henting på serversiden og klientsiden
I standardmodusen på serversiden legger utviklere til et tool_search verktøy og angir defer_loading: true for utvalgte funksjonsverktøy. Funksjoner som brukes ofte, kan forbli fullstendig lastet inn, mens spesialiserte funksjoner i utgangspunktet bare bidrar med navn og beskrivelser. Når modellen trenger et utsatt verktøy, kan ett API-kall inneholde en tool_search_call, en tool_search_result som inneholder hele skjemaet, og det resulterende function_call, slik at disse kjøringstrinnene fortsatt er synlige ved feilsøking. For en egendefinert funksjon er det fortsatt utviklerens kode som kjører den og returnerer en function_result.
Det finnes ingen henteindeks utviklere må bygge eller drifte; Gemini utfører søket på serversiden. Når defer_loading angis på en ekstern MCP-server, utsettes alle verktøyene serveren tilbyr, slik at en stor server ikke krever at hvert verktøy oppføres enkeltvis. Hentede skjemaer settes inn der de lastes inn, ikke i begynnelsen av ledeteksten, slik at det tidligere prefikset forblir intakt for implisitt hurtigbufring.
Henting på klientsiden flytter søk, rangering og filtrering til utviklerens applikasjon. Det gir én ekstra tur-retur per søk, men gjør det mulig å introdusere verktøy midt i en samtale uten å deklarere dem på forhånd, for eksempel når en bruker kobler til en ny integrasjon. Henting på serversiden og klientsiden kan ikke kombineres i én forespørsel, og nøyaktig én tool_search definisjon er tillatt.
Tokenkostnader og modellstøtte
Tool Retrieval har ingen egen avgift, men endrer hvordan tokener faktureres i stedet for å fjerne kostnadene knyttet til verktøy. Søkeinstruksjoner på serversiden legger til en liten, fast inndatablokk i hver forespørsel; konfigurasjonsveiledningen oppgir at tidlige tester ga omtrent 26 tokener per utsatt verktøy for den kompakte oppføringen med navn og beskrivelse. Hvert skjema modellen laster inn, faktureres fortsatt som inndata ved senere kall og samtaletrinn. Hvert søk på serversiden starter også et nytt modellkall med hele konteksten og de nylig innlastede skjemaene. Denne ledeteksten rapporteres som tokener for verktøybruk og faktureres etter inndatasatsen.
Veiledningens uttrykkelig illustrative eksempel med to forespørsler bruker runde tall og utelater utdata-tokener og hurtigbufring. Med 200 verktøy på 400 tokener hver og to innlastede verktøy oppgir eksemplet 164 000 inndatatokener ved statisk innlasting, mot omtrent 23 650 inndata- og verktøybrukstokener med henting. Et annet scenario med 10 verktøy av samme størrelse og en kontekst på 30 000 tokener gir totalt 68 000 tokener ved statisk innlasting og omtrent 92 830 med henting. Dette andre eksemplet viser hvordan gjentatt bruk av en stor kontekst til søk kan veie tyngre enn besparelsene ved et lite verktøybibliotek.
Veiledningen oppgir uttrykkelig Gemini 4 Argon, Gemini 3.8 Flash og Gemini 3.6 Flash som modeller som støttes. Forespørsler som angir defer_loading for en modell som ikke støttes, gir en 400-feil. Den gjør også oppmerksom på at API-et i forhåndsversjon kan bli endret før det blir allment tilgjengelig.
Operasjonelle begrensninger er fortsatt viktige for alle støttede modeller. Hentede verktøy kan ikke fjernes under en samtale. Hele verktøylisten må også sendes på nytt i hver forespørsel, inkludert samtaletrinn som er lenket sammen med previous_interaction_id, fordi verktøydeklarasjoner ikke lagres mellom forespørsler.
Googles mer omfattende veiledning om funksjonskall anbefaler å vurdere henting når et bibliotek passerer omtrent 20 til 30 verktøy. Lanseringen gir dermed agenter mulighet til å ha langt større kataloger klare, samtidig som søkefrekvensen og hvilke skjemaer som beholdes, blir avgjørende for om den ekstra funksjonaliteten reduserer eller øker tokenbruken.












