Моделі та платформи ШІ
AWS додає до Bedrock одноразовий RAG і режим лише для пошуку
Додайте Unite.AI до бажаних джерел у Google
Amazon Web Services оголосила 9 листопада 2026 року, що Amazon Bedrock Managed Knowledge Base тепер підтримує одноразову генерацію з доповненням за допомогою пошуку (RAG) і запити лише для отримання фрагментів тексту через AgenticRetrieveStream. Розширений діапазон 0–5 для maxAgentIteration дає змогу застосункам вибирати пошук джерел, відповідь після одного пошуку або наявний у сервісі багатоетапний агентний пошук.
Завдяки оновленню базовий шаблон RAG — один пошук, за яким генерується відповідь, — став доступним у тому самому потоковому API, що й для складних пошукових запитів. Для одноразового RAG потрібен один виклик базової моделі для генерації, а для запитів лише на пошук — жодного. За словами AWS, одноразовий режим може зменшити затримку й використання моделі порівняно з агентним пошуком, однак в оголошенні немає виміряного порівняння затримки чи вартості.
Режим пошуку вибирається одним параметром
Значення 0 повертає відповідні фрагменти тексту без генерування відповіді; значення 1 виконує пошук один раз і генерує відповідь за допомогою generateResponse=true; а значення від 2 до 5 зберігають наявну агентну поведінку. Усі режими підтримують кілька баз знань. Отже, «одноразовий» означає один пошук, а не обмеження однією базою знань.
Одна ітерація відповідає одному виклику базової моделі. Якщо генерацію ввімкнено, обмеження n резервує останній виклик для генерування відповіді та дає змогу виконати до n мінус 1 раунду планування. У кожному раунді планування переформульовується запит і виконується пошук. Початковий спекулятивний пошук відбувається до планування й ніколи не враховується в обмеженні.
Якщо значення дорівнює 0, генерування відповіді має бути вимкнено. Його ввімкнення спричиняє помилку 4xx, оскільки для відповіді потрібен виклик моделі. За значення 1 потік містить один результат пошуку й одну відповідь, обґрунтовану знайденими даними, без подій трасування планування. Наявні запити зі значеннями від 2 до 5 не змінюються.
Потокова передача даних і робочі обмеження
У довідці з API AgenticRetrieveStream зазначено messages, retrievers, і agenticRetrieveConfiguration як обов’язкові параметри запиту, тоді як generateResponse є необов’язковим. Фрагменти згенерованої відповіді надсилаються лише тоді, коли генерацію ввімкнено. Кінцевий результат може містити знайдені елементи, узагальнену відповідь і цитати, що пов’язують її фрагменти з підтверджувальними результатами пошуку.
Режим лише для пошуку еквівалентний прямому виклику Retrieve , але формат відповіді відрізняється: фрагменти тексту з’являються в потоці в події result без score чи полів. location Тож застосунки, які вже використовують AgenticRetrieveStream можуть отримати Retrieve-подібну поведінку, змінивши параметр, замість того щоб інтегрувати окремий API.
Для складних запитань у посібнику користувача Amazon Bedrock описано робочий процес, який розбиває запити на підзапити, перевіряє, чи достатньо знайдених доказів, виконує додаткові пошуки й може розширити пошук до повного документа. Агентний пошук підтримує лише повністю керовані бази знань Bedrock і дає змогу вказати до п’яти засобів пошуку на один запит. Зменшення граничної кількості ітерацій може призвести до того, що агент завершить роботу раніше, і потенційно знизити точність відповідей на складні запити.
Команди розробників застосунків обирають режим і тестують його
AWS наводить як приклад налаштувань внутрішнього помічника з питань політик у вигаданому банку, а не впровадження для клієнта. Для запитання про документацію для індивідуального підприємця використовується maxAgentIteration=1, тоді як для порівняння вимог до індивідуальних підприємців і ТОВ, яке також враховує правила для власників-нерезидентів, використовується значення 4, що дає змогу виконати до трьох раундів планування. Запит на перевірку формулювань політики використовує значення 0 і повертає фрагменти джерел без підсумку.
Режим має вибирати сам застосунок; maxAgentIteration не маршрутизує запити автоматично. Приклад помічника охоплює пошук і порівняння положень політик, але він не схвалює відкриття рахунків і не замінює перевірку та надання дозволу банком.
Для впровадження AWS рекомендує порівняти одноразовий RAG із наявною агентною конфігурацією на тій самій базі знань, використовуючи репрезентативні запитання й очікувані відповіді. Під час оцінювання слід вимірювати затримку й вартість запитів, перевіряти правильність відповідей і те, чи підтверджуються вони знайденими фрагментами, а також включати запитання, відповіді на які потребують кількох документів, і запитання без відповіді. Результати допоможуть вибрати найменше обмеження на кількість ітерацій, яке відповідає вимогам до якості кожного робочого процесу.
Завдяки цій зміні глибина пошуку стала явним інфраструктурним параметром кожного запиту. Для прямих пошукових запитів можна уникнути викликів планування, тоді як для складних запитів зберігається ітеративне збирання доказів. Для підприємств головне питання полягає в тому, чи забезпечує зменшене використання моделі повні відповіді, підтверджені їхніми власними документами, а не в припущенні, що більше обмеження на кількість ітерацій завжди краще.
