AWS bổ sung RAG một lượt và chế độ chỉ truy xuất vào Bedrock

Amazon Web Services công bố vào ngày 9 tháng 11 năm 2026 rằng Amazon Bedrock Managed Knowledge Base hiện hỗ trợ tạo sinh tăng cường truy xuất (RAG) một lượt và các yêu cầu chỉ trả về đoạn văn bản thông qua AgenticRetrieveStream. Phạm vi được mở rộng từ 0–5 cho maxAgentIteration cho phép ứng dụng chọn truy xuất nguồn, câu trả lời sau một lần tìm kiếm hoặc tính năng truy xuất tác tử nhiều bước hiện có của dịch vụ.

Bản cập nhật đưa mô hình RAG cơ bản — truy xuất một lần rồi tạo câu trả lời — vào cùng API truyền phát được dùng cho các lượt tìm kiếm phức tạp. RAG một lượt chỉ cần một lần gọi mô hình nền tảng để tạo câu trả lời, còn các yêu cầu chỉ truy xuất thì không cần lần gọi nào. AWS cho biết cách vận hành một lượt có thể giảm độ trễ và mức sử dụng mô hình so với truy xuất tác tử, nhưng thông báo không đưa ra số liệu đo lường để so sánh độ trễ hoặc chi phí.

Một tham số cho phép chọn chế độ truy xuất

Giá trị 0 trả về các đoạn văn bản phù hợp mà không tạo câu trả lời; giá trị 1 thực hiện truy xuất một lần và tạo câu trả lời bằng generateResponse=true; còn các giá trị từ 2 đến 5 duy trì hành vi tác tử hiện có. Mọi chế độ đều hỗ trợ nhiều cơ sở tri thức. Vì vậy, “một lượt” chỉ việc truy xuất một lần, chứ không giới hạn ở một cơ sở tri thức.

Mỗi vòng lặp tương ứng với một lần gọi mô hình nền tảng. Khi bật tính năng tạo câu trả lời, giới hạn n dành lần gọi cuối cùng cho việc tạo câu trả lời và cho phép tối đa n trừ 1 vòng lập kế hoạch. Mỗi vòng lập kế hoạch gồm một lần viết lại truy vấn và một lần truy xuất. Lần truy xuất dự đoán ban đầu diễn ra trước khi lập kế hoạch và không bao giờ được tính vào giới hạn.

Ở mức 0, phải tắt tính năng tạo câu trả lời. Nếu bật tính năng này, hệ thống sẽ trả về lỗi 4xx vì cần gọi mô hình để tạo câu trả lời. Ở mức 1, luồng dữ liệu gồm một lần truy xuất và một câu trả lời có căn cứ, không có sự kiện theo dõi quá trình lập kế hoạch. Các yêu cầu hiện có dùng giá trị từ 2 đến 5 không thay đổi.

Hành vi truyền phát và giới hạn vận hành

Tài liệu tham khảo API AgenticRetrieveStream xác định messages, retrievers, và agenticRetrieveConfiguration là các đầu vào bắt buộc của yêu cầu, còn generateResponse là tùy chọn. Các phần câu trả lời được tạo chỉ được gửi đi khi bật tính năng tạo câu trả lời. Kết quả cuối cùng có thể bao gồm các mục được truy xuất, câu trả lời tổng hợp và trích dẫn liên kết các đoạn trong câu trả lời với những kết quả hỗ trợ chúng.

Chế độ chỉ truy xuất tương đương với việc gọi Retrieve trực tiếp, nhưng định dạng phản hồi khác: các đoạn văn bản xuất hiện trong result sự kiện của luồng mà không có trường score hoặc location Các ứng dụng hiện đang dùng AgenticRetrieveStream do đó có thể sử dụng Retrievehành vi kiểu — chỉ bằng cách thay đổi một tham số, thay vì tích hợp một API riêng.

Đối với các câu hỏi phức tạp, Hướng dẫn sử dụng Amazon Bedrock mô tả quy trình chia truy vấn thành các truy vấn con, kiểm tra xem bằng chứng truy xuất được đã đầy đủ chưa, thực hiện thêm các lượt tìm kiếm và có thể mở rộng phạm vi đến toàn bộ tài liệu. Tính năng truy xuất tác tử chỉ hỗ trợ các cơ sở tri thức Bedrock được quản lý hoàn toàn và cho phép tối đa năm bộ truy xuất trong mỗi yêu cầu. Hạ giới hạn số vòng lặp có thể khiến tác tử dừng sớm hơn và làm giảm độ chính xác đối với các truy vấn phức tạp.

Nhóm phát triển ứng dụng lựa chọn và kiểm thử chế độ

AWS minh họa các thiết lập bằng một trợ lý chính sách nội bộ của ngân hàng hư cấu, chứ không phải một hệ thống triển khai cho khách hàng. Với câu hỏi về tài liệu của một chủ doanh nghiệp tư nhân, có thể dùng maxAgentIteration=1, trong khi yêu cầu so sánh các điều kiện áp dụng cho chủ doanh nghiệp tư nhân và LLC, đồng thời kiểm tra quy định dành cho chủ sở hữu không cư trú, sẽ dùng giá trị 4, cho phép tối đa ba vòng lập kế hoạch. Yêu cầu xem xét ngôn ngữ chính sách sẽ dùng giá trị 0 và trả về các đoạn văn bản nguồn mà không kèm bản tóm tắt.

Ứng dụng phải chọn chế độ; maxAgentIteration không tự động định tuyến các yêu cầu. Trợ lý trong ví dụ hỗ trợ tra cứu và so sánh chính sách, nhưng không phê duyệt tài khoản cũng không thay thế việc ngân hàng xem xét và cấp phép.

Để triển khai, AWS khuyến nghị so sánh RAG một lượt RAG với cấu hình tác tử hiện có trên cùng một cơ sở tri thức, bằng cách sử dụng các câu hỏi đại diện và câu trả lời dự kiến. Quá trình đánh giá cần đo độ trễ và chi phí mỗi yêu cầu, xác minh tính chính xác và mức độ hỗ trợ trong các đoạn văn bản được truy xuất, đồng thời bao gồm cả câu hỏi cần tham chiếu nhiều tài liệu lẫn câu hỏi không thể trả lời. Kết quả đó có thể giúp chọn giới hạn số vòng lặp thấp nhất mà vẫn đáp ứng yêu cầu chất lượng của từng quy trình.

Thay đổi này biến độ sâu truy xuất thành một quyết định hạ tầng được xác định rõ cho từng yêu cầu. Các lượt tra cứu trực tiếp có thể tránh được những lần gọi để lập kế hoạch, trong khi các truy vấn phức tạp vẫn duy trì việc thu thập bằng chứng qua nhiều vòng. Với doanh nghiệp, vấn đề cốt lõi là liệu việc giảm mức sử dụng mô hình có vẫn bảo đảm câu trả lời đầy đủ, được hỗ trợ bằng tài liệu của chính họ hay không, thay vì mặc định rằng giới hạn số vòng lặp cao hơn luôn tốt hơn.