AI-modeller og platforme

Google viser forhåndsvisning af værktøjshentning efter behov for Gemini API-agenter

Jonas Reeve
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterTool Retrieval udskyder fulde skemaer, så store værktøjsbiblioteker ikke længere…
Vis mere
  • Tool Retrieval udskyder fulde skemaer, så store værktøjsbiblioteker ikke længere oppuster input-tokens for hver anmodning.
  • Serverside-søgning tilføjer et modelkald med fuld kontekst, som kan overstige besparelserne for små værktøjsbiblioteker.
  • Hentede skemaer kan ikke aflæsses, og det komplette tools-array skal gensendes ved hver anmodning.

Google annoncerede værktøjshentning den 19. november 2026 og gjorde funktionen tilgængelig som forhåndsvisning i Gemini Interactions API. Den gør det muligt for agenter at have store værktøjsbiblioteker klar og først indlæse de fulde parameterskemaer, når den aktuelle opgave kræver det.

Google siger, at den konventionelle tilgang bliver uhåndterlig, efterhånden som agenter forbindes med snesevis eller hundredvis af værktøjer: Hvis alle fulde skemaer sendes med, vokser antallet af inputtokens, svartiden øges, og præcisionen i værktøjsvalget falder, efterhånden som listen over mulige værktøjer bliver længere. Værktøjshentning holder i første omgang kun hvert udskudt værktøjs navn og beskrivelse i konteksten og tilbageholder skemaet, der definerer funktionens argumenter, indtil modellen anmoder om det.

Interactions API blev almindeligt tilgængelig i juni 2026 og er Googles anbefalede grænseflade til nye projekter. Værktøjshentning fungerer udelukkende via denne grænseflade; den ældre generateContent metode understøtter det ikke.

Hentning på serversiden og klientsiden

I standardtilstanden på serversiden tilføjer udviklere et tool_search værktøj og angiver defer_loading: true for udvalgte funktionsværktøjer. Funktioner, der bruges ofte, kan forblive fuldt indlæst, mens specialiserede funktioner i første omgang kun bidrager med deres navne og beskrivelser. Når modellen har brug for et udskudt værktøj, kan ét API-kald indeholde en tool_search_call, en tool_search_result med det fulde skema og det resulterende function_call, så disse udførelsestrin fortsat er synlige ved fejlfinding. Ved en brugerdefineret funktion er det stadig udviklerens kode, der udfører den og returnerer en function_result.

Udviklere behøver ikke opbygge eller hoste et søgeindeks; Gemini udfører søgningen på serversiden. Hvis man angiver defer_loading på en ekstern MCP-server, udskydes alle de værktøjer, serveren stiller til rådighed, så det er ikke nødvendigt at angive hvert værktøj på en stor server enkeltvis. Hentede skemaer indsættes dér, hvor de indlæses, i stedet for i begyndelsen af prompten, så det tidligere præfiks forbliver intakt til implicit caching.

Ved hentning på klientsiden overføres søgning, rangering og filtrering til udviklerens applikation. Det tilføjer en ekstra rundtur for hver søgning, men gør det muligt at introducere værktøjer midt i en samtale uden at erklære dem på forhånd, for eksempel når en bruger tilslutter en ny integration. Hentning på serversiden og klientsiden kan ikke kombineres i samme anmodning, og præcis én tool_search definition er tilladt.

Omkostninger til tokens og understøttede modeller

Værktøjshentning koster ikke ekstra, men ændrer måden, tokens faktureres på, uden at fjerne omkostningerne ved værktøjer. Søgeinstruktioner på serversiden føjer en lille, fast inputblok til hver anmodning; ifølge opsætningsvejledningen viste tidlige test, at den kompakte post med navn og beskrivelse brugte cirka 26 tokens pr. udskudt værktøj. Hvert skema, modellen indlæser, faktureres fortsat som input ved senere kald og ture. Hver søgning på serversiden udløser også et ekstra modelkald med hele konteksten og de nyligt indlæste skemaer. Denne prompt opgøres som tokens til værktøjsbrug og faktureres til inputtaksten.

Vejledningens udtrykkeligt illustrative eksempel med to anmodninger bruger runde tal og medregner hverken outputtokens eller caching. Med 200 værktøjer på hver 400 tokens og to indlæste værktøjer angiver eksemplet, at statisk indlæsning kræver 164.000 inputtokens, sammenlignet med cirka 23.650 input- og værktøjsbrugstokens ved brug af hentning. Et andet scenarie med 10 værktøjer af samme størrelse og en kontekst på 30.000 tokens udgør i alt 68.000 tokens ved statisk indlæsning og cirka 92.830 med hentning. Det andet eksempel viser, hvordan gentagelse af en stor kontekst ved søgning kan opveje besparelserne ved et lille værktøjsbibliotek.

Vejledningen angiver udtrykkeligt Gemini 4 Argon, Gemini 3.8 Flash og Gemini 3.6 Flash som understøttede modeller. Anmodninger, der angiver defer_loading for en model, der ikke understøttes, giver en 400-fejl. Vejledningen gør også opmærksom på, at API’et i forhåndsvisningen kan ændre sig, inden det bliver almindeligt tilgængeligt.

Driftsmæssige begrænsninger er fortsat vigtige på tværs af de understøttede modeller. Hentede værktøjer kan ikke fjernes under en samtale. Hele værktøjsarrayet skal også sendes igen ved hver anmodning, herunder ture, der kædes sammen med previous_interaction_id, fordi værktøjserklæringer ikke gemmes mellem anmodninger.

I Googles mere omfattende vejledning til funktionskald anbefales det at overveje hentning, når et bibliotek rummer omkring 20 til 30 værktøjer. Lanceringen giver derfor agenter mulighed for at have langt større kataloger klar, mens søgefrekvensen og de skemaer, der beholdes, bliver afgørende for, om den ekstra funktionalitet mindsker eller øger tokenforbruget.

Jonas Reeve er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, med fokus på kognitiv AI, kunstig generel intelligens (AGI) og de teoretiske grundlag for maskinintelligens. Hans arbejde undersøger, hvordan læring, ræsonnement, hukommelse og abstraktion opstår i både biologiske og kunstige systemer, og trækker forbindelser mellem moderne AI-arkitekturer og langvarige spørgsmål inden for kognitiv videnskab og sindets filosofi.

Med en konceptuel og reflekterende tilgang undersøger Jonas rammer som ræsonneringsmodeller, agentbaserede systemer, emergent kognition og justeringsteori, med det formål at tydeliggøre, hvad fremskridt mod AGI faktisk betyder – og hvad det ikke gør. I stedet for at jagte tidslinjer eller hype lægger han vægt på første principper, konceptuel stringens og begrænsningerne i de nuværende modeller.

Artikler skrevet af Jonas Reeve er AI-genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre nøjagtighed, klarhed og ansvarlig diskussion af avancerede AI-koncepter.