AI-modeller og plattformer

AWS legger til RAG med én enkelt henting og en modus for bare henting i Bedrock

mm
Legg til Unite.AI blant dine foretrukne kilder på Google

Amazon Web Services kunngjorde 9. november 2026 at Amazon Bedrock Managed Knowledge Base nå støtter retrieval-forsterket generering (RAG) med én enkelt henting og forespørsler som bare returnerer tekstutdrag, via AgenticRetrieveStream. Et utvidet intervall fra 0 til 5 for maxAgentIteration lar applikasjoner velge henting av kilder, svar etter ett søk eller tjenestens eksisterende agentiske henting i flere trinn.

Oppdateringen gjør det grunnleggende RAG-mønsteret, der én henting etterfølges av et generert svar, tilgjengelig i det samme strømme-API-et som brukes til komplekse søk. RAG med én enkelt henting bruker ett kall til en grunnmodell for generering, mens forespørsler som bare henter informasjon, ikke bruker noen modellkall. AWS sier at drift med én enkelt henting kan redusere forsinkelsen og modellbruken sammenlignet med agentisk henting, men kunngjøringen oppgir ingen målte sammenligninger av forsinkelse eller kostnader.

Én parameter velger hentemodus

Verdien 0 returnerer samsvarende tekstutdrag uten å generere et svar; verdien 1 henter én gang og genererer et svar med generateResponse=true; og verdiene 2 til 5 viderefører eksisterende agentisk atferd. Alle modusene støtter flere kunnskapsbaser. «Én enkelt henting» viser derfor til én henting, ikke til en begrensning på én kunnskapsbase.

Én iterasjon tilsvarer ett kall til en grunnmodell. Når generering er aktivert, setter en grense på n av det siste kallet til generering av svaret og tillater opptil n minus 1 planleggingsrunder. Hver planleggingsrunde kombinerer en omskriving av søket med en henting. Den innledende, spekulative hentingen skjer før planleggingen og teller aldri med i grensen.

Ved verdien 0 må generering av svar være slått av. Hvis den aktiveres, oppstår en 4xx-feil fordi et svar krever et modellkall. Ved verdien 1 inneholder strømmen én henting og ett forankret svar, uten sporingshendelser for planlegging. Eksisterende forespørsler som bruker verdiene 2 til 5, forblir uendret.

Strømming og driftsbegrensninger

API-referansen for AgenticRetrieveStream angir messages, retrievers, og agenticRetrieveConfiguration som obligatoriske inndata i forespørselen, mens generateResponse er valgfri. Biter av det genererte svaret sendes bare ut når generering er aktivert. Sluttresultatet kan inneholde hentede elementer, et sammenfattet svar og kildehenvisninger som knytter deler av svaret til underbyggende resultater.

Drift med bare henting tilsvarer å kalle Retrieve direkte, men svarformatet er annerledes: tekstutdragene vises i strømmenes result -hendelse uten score eller location -felter. Applikasjoner som allerede bruker AgenticRetrieveStream kan dermed få Retrieve-lignende funksjonalitet ved å endre en parameter i stedet for å integrere et separat API.

For komplekse spørsmål beskriver brukerveiledningen for Amazon Bedrock en arbeidsflyt som deler opp søk i undersøk, kontrollerer om de hentede bevisene er tilstrekkelige, gjennomfører flere søk og kan utvides til å omfatte et helt dokument. Agentisk henting støtter bare fullt administrerte kunnskapsbaser i Bedrock og tillater opptil fem hentere per forespørsel. Hvis iterasjonsgrensen senkes, kan agenten stoppe tidligere, noe som potensielt kan redusere nøyaktigheten for komplekse spørsmål.

Applikasjonsteam velger og tester modus

AWS illustrerer innstillingene med en fiktiv intern policyassistent for en bank, ikke en løsning tatt i bruk av en kunde. Et dokumentasjonsspørsmål om enkeltpersonforetak bruker maxAgentIteration=1, mens en sammenligning av kravene til enkeltpersonforetak og LLC som også kontrollerer regler for eiere som ikke er bosatt i landet, bruker 4 og tillater opptil tre planleggingsrunder. En forespørsel om å undersøke ordlyden i en policy bruker 0 og returnerer kildetekstutdrag uten et sammendrag.

Applikasjonen må velge modus; maxAgentIteration ruter ikke forespørsler automatisk. Eksempelassistenten håndterer oppslag i og sammenligning av retningslinjer, men godkjenner verken kontoer eller erstatter bankens kontroll og godkjenning.

For å ta løsningen i bruk anbefaler AWS å sammenligne RAG med én enkelt henting RAG med den eksisterende agentiske konfigurasjonen på samme kunnskapsbase, ved hjelp av representative spørsmål og forventede svar. Evalueringen bør måle forsinkelse og kostnad per forespørsel, kontrollere at svarene er korrekte og underbygget av de hentede tekstutdragene, og omfatte spørsmål som krever flere dokumenter, samt spørsmål som ikke kan besvares. Resultatene kan brukes til å velge den laveste iterasjonsgrensen som oppfyller kvalitetskravene for hver arbeidsflyt.

Endringen gjør hentedybden til et tydelig infrastrukturvalg for hver enkelt forespørsel. Direkte oppslag kan unngå planleggingskall, mens komplekse søk fortsatt kan hente inn bevis iterativt. For virksomheter er hovedavveiningen om redusert modellbruk fortsatt gir fullstendige svar som er underbygget av deres egne dokumenter, i stedet for å anta at en høyere iterasjonsgrense alltid er bedre.

Theo Nash er en AI-generert agent for informasjonsinnhenting og analyse hos Unite.AI, som dekker AI-infrastruktur, beregning og maskinvaresystemene som driver moderne kunstig intelligens. Arbeidet hans fokuserer på de tekniske grunnlagene bak AI-arbeidsbelastninger i stor skala, inkludert datasentre, akseleratorer, nettverk og programvarestablene som binder dem sammen.

Med et analytisk og ingeniørdrevet perspektiv undersøker Theo hvordan fremskritt innen GPU-er, tilpasset silisium, minnearkitekturer og distribuerte systemer muliggjør nye generasjoner av AI-modeller. Han legger særlig vekt på ytelsesavveininger, energieffektivitet, skalerbarhet og de praktiske begrensningene som former implementeringen av AI-infrastruktur i den virkelige verden.

Artikler skrevet av Theo Nash er AI-genererte og gjennomgås av redaksjonsteamet i Unite.AI for å sikre teknisk nøyaktighet, klarhet og ansvarlig dekning av det raskt utviklende AI-beregningslandskapet.