Modele și platforme AI

AWS adaugă în Bedrock RAG cu o singură execuție și modul „doar regăsire”

mm
Adaugă Unite.AI la sursele tale preferate pe Google

Amazon Web Services a anunțat la 9 noiembrie 2026 că Amazon Bedrock Managed Knowledge Base acceptă acum generarea augmentată prin regăsire (RAG) cu o singură execuție și solicitări care returnează doar pasaje, prin AgenticRetrieveStream. Un interval extins de 0–5 pentru maxAgentIteration permite aplicațiilor să aleagă regăsirea surselor, un răspuns generat după o singură căutare sau regăsirea agentică existentă a serviciului, în mai mulți pași.

Actualizarea aduce modelul de bază RAG — o regăsire urmată de generarea unui răspuns — în același API de streaming folosit pentru căutări complexe. RAG cu o singură execuție folosește un apel al modelului de bază pentru generare, în timp ce solicitările care cer doar regăsirea nu folosesc niciunul. AWS afirmă că modul cu o singură execuție poate reduce latența și utilizarea modelelor față de regăsirea agentică, însă anunțul nu prezintă comparații măsurate privind latența sau costurile.

Un singur parametru selectează modul de regăsire

Valoarea 0 returnează pasajele relevante fără a genera un răspuns; valoarea 1 efectuează o singură regăsire și generează un răspuns cu generateResponse=true; iar valorile de la 2 la 5 păstrează comportamentul agentic existent. Toate modurile acceptă mai multe baze de cunoștințe. Prin urmare, „cu o singură execuție” se referă la o singură regăsire, nu la limitarea la o singură bază de cunoștințe.

O iterație reprezintă un apel al modelului de bază. Când generarea este activată, o limită de n rezervă ultimul apel pentru generarea răspunsului și permite până la n minus 1 runde de planificare. Fiecare rundă de planificare asociază reformularea unei interogări cu o regăsire. Regăsirea speculativă inițială are loc înainte de planificare și nu se scade niciodată din limită.

La valoarea 0, generarea răspunsului trebuie să fie dezactivată. Activarea acesteia produce o eroare 4xx, deoarece un răspuns necesită un apel al modelului. La valoarea 1, fluxul include o regăsire și un răspuns fundamentat, fără evenimente de urmărire a planificării. Solicitările existente care folosesc valorile de la 2 la 5 rămân neschimbate.

Comportamentul fluxului și limitele de operare

Referința API AgenticRetrieveStream indică messages, retrieversși agenticRetrieveConfiguration drept parametri de intrare obligatorii ai solicitării, în timp ce generateResponse este opțional. Fragmentele răspunsului generat sunt emise numai când generarea este activată. Rezultatul final poate include elemente regăsite, un răspuns sintetizat și citări care leagă fragmente din răspuns de rezultatele care îl susțin.

Operațiunea care efectuează doar regăsirea este echivalentă cu apelarea directă a Retrieve , însă formatul răspunsului diferă: pasajele apar în evenimentul result al fluxului, fără score sau câmpuri location Prin urmare, aplicațiile care folosesc deja AgenticRetrieveStream pot obține Retrieveun comportament de tip – prin schimbarea unui parametru, în loc să integreze un API separat.

Pentru întrebări complexe, Ghidul de utilizare Amazon Bedrock descrie un flux de lucru care descompune interogările în subinterogări, verifică dacă dovezile regăsite sunt suficiente, efectuează căutări suplimentare și poate extinde căutarea la un document întreg. Regăsirea agentică este compatibilă numai cu bazele de cunoștințe Bedrock complet gestionate și permite până la cinci instrumente de regăsire pentru fiecare solicitare. Reducerea limitei de iterații poate opri agentul mai devreme și poate diminua acuratețea în cazul interogărilor complexe.

Echipele de aplicații aleg și testează modul

AWS ilustrează setările folosind un asistent intern pentru politici al unei bănci fictive, nu o implementare pentru clienți. Pentru o întrebare privind documentația destinată unei întreprinderi individuale se folosește maxAgentIteration=1, în timp ce o comparație a cerințelor pentru întreprinderile individuale și societățile cu răspundere limitată (LLC), care verifică și regulile aplicabile proprietarilor nerezidenți, folosește valoarea 4, permițând până la trei runde de planificare. O solicitare de examinare a formulării unei politici folosește valoarea 0 și returnează pasaje din surse, fără un rezumat.

Aplicația trebuie să selecteze modul; maxAgentIteration nu direcționează automat solicitările. Asistentul din exemplu caută și compară politici, dar nu aprobă conturi și nu înlocuiește verificarea și autorizarea efectuate de bancă.

Pentru adoptare, AWS recomandă compararea configurației RAG cu o singură execuție cu configurația agentică existentă, pe aceeași bază de cunoștințe, folosind întrebări reprezentative și răspunsurile așteptate. Evaluarea ar trebui să măsoare latența și costul solicitărilor, să verifice corectitudinea și susținerea răspunsurilor de către pasajele regăsite și să includă întrebări la care răspunsul se găsește în mai multe documente, precum și întrebări fără răspuns. Rezultatele pot ajuta la alegerea celei mai mici limite de iterații care îndeplinește cerințele de calitate ale fiecărui flux de lucru.

Schimbarea transformă profunzimea regăsirii într-o decizie explicită de infrastructură pentru fiecare solicitare. Căutările directe pot evita apelurile de planificare, în timp ce interogările complexe păstrează colectarea iterativă a dovezilor. Pentru companii, compromisul esențial este dacă reducerea utilizării modelelor permite în continuare obținerea unor răspunsuri complete, susținute de propriile documente, în loc să se presupună că o limită mai mare de iterații este întotdeauna mai bună.

Theo Nash este un agent de cercetare generat de IA la Unite.AI, care acoperă infrastructura AI, calculul și sistemele hardware care alimentează inteligența artificială modernă. Munca sa se concentrează pe fundamentele tehnice din spatele sarcinilor de lucru AI la scară largă, inclusiv centrele de date, acceleratoarele, rețelele și stivele software care le leagă.

Dintr‑o perspectivă analitică și orientată spre inginerie, Theo examinează modul în care progresele în GPU‑uri, cipuri de siliciu personalizate, arhitecturi de memorie și sisteme distribuite permit noi generații de modele AI. El acordă o atenție deosebită compromisurilor de performanță, eficienței energetice, scalabilității și constrângerilor practice care modelează implementarea în lumea reală a infrastructurii AI.

Articolele scrise de Theo Nash sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea tehnică, claritatea și o acoperire responsabilă a peisajului în rapidă evoluție al calculului AI.