AI-mallit ja alustat

AWS lisää Bedrockiin kertahaun RAG-tilan ja pelkän haun tilan

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Amazon Web Services ilmoitti 9. marraskuuta 2026, että Amazon Bedrock Managed Knowledge Base tukee nyt kertahaulla toteutettavaa hakua hyödyntävää generointia (RAG) ja pelkkiä tekstikatkelmapyyntöjä seuraavan kautta AgenticRetrieveStream. Laajennettu 0–5:n vaihteluväli parametrille maxAgentIteration antaa sovelluksille mahdollisuuden valita lähteiden haun, yhden haun perusteella tuotetun vastauksen tai palvelun nykyisen monivaiheisen agenttipohjaisen haun.

Päivitys tuo perinteisen RAG-mallin – ensin haetaan tietoa ja sen jälkeen muodostetaan vastaus – samaan suoratoistorajapintaan, jota käytetään monimutkaisiin hakuihin. Kertahaulla toteutettavassa RAG-haussa vastauksen muodostamiseen käytetään yhtä perustamallikutsua, kun taas pelkkään hakuun perustuvissa pyynnöissä niitä ei käytetä lainkaan. AWS:n mukaan kertahaulla voidaan vähentää viivettä ja mallin käyttöä agenttipohjaiseen hakuun verrattuna, mutta ilmoituksessa ei esitetä mitattuja viive- tai kustannusvertailuja.

Yhdellä parametrilla valitaan hakutila

Arvo 0 palauttaa vastaavat tekstikatkelmat muodostamatta vastausta; arvo 1 tekee yhden haun ja muodostaa vastauksen käyttäen generateResponse=true; arvot 2–5 säilyttävät nykyisen agenttipohjaisen toiminnan. Kaikki tilat tukevat useita tietämyskantoja. Kertahaku tarkoittaa siis yhtä hakua, ei rajoitusta yhteen tietämyskantaan.

Yksi iteraatio vastaa yhtä perustamallikutsua. Kun vastausten muodostaminen on käytössä, raja-arvo n varaa viimeisen kutsun vastauksen muodostamiseen ja sallii enintään n miinus 1 suunnittelukierrosta. Jokaisella suunnittelukierroksella kysely muotoillaan uudelleen ja tehdään haku. Alustava spekulatiivinen haku suoritetaan ennen suunnittelua, eikä sitä koskaan lasketa mukaan rajaan.

Arvolla 0 vastausten muodostamisen on oltava poissa käytöstä. Sen käyttöönotto aiheuttaa 4xx-virheen, sillä vastauksen muodostaminen edellyttää mallikutsua. Arvolla 1 suoratoisto sisältää yhden haun ja yhden lähteisiin perustuvan vastauksen ilman suunnittelun jäljitystapahtumia. Nykyiset pyynnöt, joissa käytetään arvoja 2–5, eivät muutu.

Suoratoiston toiminta ja käyttörajoitukset

AgenticRetrieveStream-rajapinnan dokumentaatiossa määritellään messages, retrieversja agenticRetrieveConfiguration pakollisiksi pyyntöparametreiksi, kun taas generateResponse on valinnainen. Vastauksen muodostamisen ollessa käytössä vastaus tuotetaan osissa. Lopputulos voi sisältää haettuja kohteita, koostetun vastauksen ja viitteitä, jotka yhdistävät vastauksen katkelmat niitä tukeviin tuloksiin.

Pelkkä haku vastaa suoraan kohteen Retrieve kutsumista, mutta vastausmuoto on erilainen: tekstikatkelmat näkyvät suoratoiston result -tapahtumassa ilman score – tai location -kenttiä. Sovellukset, jotka jo käyttävät kohdetta AgenticRetrieveStream , voivat näin saada Retrieve-tyyppisen toiminnan muuttamalla parametria sen sijaan, että ne ottaisivat käyttöön erillisen rajapinnan.

Monimutkaisia kysymyksiä varten Amazon Bedrockin käyttöoppaassa kuvataan työnkulku, jossa kysely jaetaan alakyselyiksi, tarkistetaan, riittävätkö haetut todisteet, tehdään lisähakuja ja voidaan laajentaa haku koko asiakirjaan. Agenttipohjainen haku tukee vain täysin hallinnoituja Bedrock-tietämyskantoja, ja pyyntöä kohden voi käyttää enintään viittä hakijaa. Iteraatiorajan alentaminen voi pysäyttää agentin aiemmin ja heikentää mahdollisesti monimutkaisiin kysymyksiin annettavien vastausten tarkkuutta.

Sovellustiimit valitsevat ja testaavat tilan

AWS havainnollistaa asetuksia kuvitteellisella pankin sisäisellä käytäntöavustajalla, ei asiakkaan käyttöönotolla. Yksityisen elinkeinonharjoittajan asiakirjoja koskevassa kysymyksessä käytetään arvoa maxAgentIteration=1, kun taas yksityisen elinkeinonharjoittajan ja LLC-yhtiön vaatimusten vertailussa, jossa tarkistetaan myös ulkomailla asuvia omistajia koskevat säännöt, käytetään arvoa 4, joka sallii enintään kolme suunnittelukierrosta. Käytäntötekstin tarkastelupyynnössä käytetään arvoa 0, jolloin palautetaan lähdetekstin katkelmat ilman yhteenvetoa.

Sovelluksen on valittava tila; maxAgentIteration ei reititä pyyntöjä automaattisesti. Esimerkkiavustaja hakee ja vertailee käytäntöjä, mutta se ei hyväksy tilejä eikä korvaa pankin tekemää tarkastusta ja hyväksyntää.

Käyttöönottoa varten AWS suosittelee vertaamaan kertahaulla toteutettavaa RAG-ratkaisua nykyiseen agenttipohjaiseen määritykseen samassa tietämyskannassa käyttämällä edustavia kysymyksiä ja niihin odotettuja vastauksia. Arvioinnissa tulisi mitata viive ja pyyntökohtaiset kustannukset, varmistaa vastausten oikeellisuus ja se, että haetut tekstikatkelmat tukevat niitä, sekä sisällyttää mukaan useita asiakirjoja koskevia kysymyksiä ja kysymyksiä, joihin ei ole vastausta. Tulosten avulla voidaan valita kullekin työnkululle pienin iteraatioraja, joka täyttää sen laatuvaatimukset.

Muutos tekee haun syvyydestä nimenomaisen pyyntökohtaisen infrastruktuuripäätöksen. Suorissa hauissa voidaan välttää suunnittelukutsut, kun taas monimutkaisissa kyselyissä säilytetään todisteiden iteratiivinen kerääminen. Yritysten kannalta keskeinen kompromissi on se, säilyvätkö vastaukset kattavina ja niitä tukevien omien asiakirjojen mukaisina, kun mallin käyttöä vähennetään – eikä se, että suuremman iteraatiorajan oletettaisiin olevan aina parempi.

Theo Nash on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka kattaa AI‑infrastruktuurin, laskennan ja laitteistojärjestelmät, jotka mahdollistavat modernin tekoälyn. Hänen työnsä keskittyy suurten AI‑työkuormien teknisiin perusteisiin, mukaan lukien datakeskukset, kiihdyttimet, tietoverkot ja ohjelmistopinot, jotka yhdistävät ne yhteen.

Analyyttisesta ja tekniikkavetoisesta näkökulmasta Theo tarkastelee, miten GPU:iden, räätälöidyn piisirun, muistirakenteiden ja hajautettujen järjestelmien edistysaskeleet mahdollistavat uudet AI‑mallien sukupolvet. Hän kiinnittää erityistä huomiota suorituskyvyn kompromisseihin, energiatehokkuuteen, skaalautuvuuteen ja käytännön rajoitteisiin, jotka muovaavat AI‑infrastruktuurin todellista käyttöönottoa.

Theo Nashin kirjoittamat artikkelit ovat AI‑luotuja ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen teknisen tarkkuuden, selkeyden ja vastuullisen kattavuuden nopeasti kehittyvässä AI‑laskentaympäristössä.