AWS, Bedrock에 단일 호출 RAG 및 검색 전용 모드 추가

Amazon Web Services는 2026년 11월 9일, Amazon Bedrock Managed Knowledge Base가 단일 호출 검색 증강 생성(RAG)과 구절만 반환하는 요청을 이제 지원한다고 발표했다. 이 기능은 AgenticRetrieveStream. 확장된 0~5 범위는 maxAgentIteration 애플리케이션에서 원문 검색, 한 번의 검색으로 답변 생성, 기존 서비스의 여러 단계 에이전트형 검색 중 하나를 선택할 수 있게 한다.

이번 업데이트로 한 번 검색한 뒤 답변을 생성하는 기본 RAG 패턴을 복잡한 검색에 사용되는 동일한 스트리밍 API에서 이용할 수 있게 됐다. 단일 호출 RAG는 답변을 생성할 때 파운데이션 모델을 한 번 호출하며, 검색 전용 요청은 모델을 호출하지 않는다. AWS는 에이전트형 검색에 비해 단일 호출 방식이 지연 시간과 모델 사용량을 줄일 수 있다고 설명하지만, 발표 자료에는 지연 시간이나 비용을 측정해 비교한 결과가 없다.

매개변수 하나로 검색 모드 선택

값이 0이면 답변을 생성하지 않고 일치하는 구절을 반환하며, 1이면 한 번 검색한 뒤 답변을 생성한다. 이때 generateResponse=true; 2부터 5까지는 기존 에이전트형 동작을 유지한다. 모든 모드에서 여러 지식 기반을 지원한다. 따라서 단일 호출이란 검색을 한 번만 수행한다는 뜻이지, 지식 기반을 하나만 사용할 수 있다는 뜻은 아니다.

반복 1회는 파운데이션 모델 호출 1회에 해당한다. 답변 생성이 활성화된 경우 한도 n 에서는 마지막 호출을 답변 생성에 할당하고, 최대 n 에서 1을 뺀 횟수만큼 계획 단계를 수행할 수 있다. 각 계획 단계에서는 질의를 다시 작성하고 검색을 수행한다. 초기 탐색 검색은 계획 단계에 들어가기 전에 실행되며 한도에 포함되지 않는다.

값이 0이면 답변 생성을 꺼야 한다. 답변에는 모델 호출이 필요하므로 답변 생성을 활성화하면 4xx 오류가 발생한다. 값이 1이면 스트림에 검색 결과 1회와 근거를 바탕으로 생성한 답변 1개가 포함되며, 계획 추적 이벤트는 발생하지 않는다. 기존에 2부터 5까지를 사용하는 요청은 변경되지 않는다.

스트리밍 동작 및 운영 한도

AgenticRetrieveStream API 참조 문서에는 다음 항목이 messages, retrievers, 그리고 agenticRetrieveConfiguration 필수 요청 입력으로 나와 있으며, generateResponse 는 선택 사항이다. 답변 생성이 활성화된 경우에만 생성된 답변 청크가 전송된다. 최종 결과에는 검색된 항목, 종합된 답변, 그리고 답변의 일부 구간을 이를 뒷받침하는 검색 결과와 연결하는 인용이 포함될 수 있다.

검색 전용 방식은 직접 Retrieve 호출하는 것과 동일하지만 응답 형식은 다르다. 구절은 스트림의 result 이벤트에 표시되며, score 또는 location 필드는 포함되지 않는다. 이미 AgenticRetrieveStream 을 사용 중인 애플리케이션은 이에 따라 Retrieve별도의 API를 통합하지 않고 매개변수만 변경해도 해당 API와 같은 방식으로 동작하도록 할 수 있다.

복잡한 질문의 경우, Amazon Bedrock 사용자 가이드에는 질의를 하위 질의로 나누고, 검색된 근거가 충분한지 확인하며, 추가 검색을 수행하고, 전체 문서까지 검색 범위를 넓힐 수 있는 워크플로가 설명되어 있다. 에이전트형 검색은 완전 관리형 Bedrock 지식 기반만 지원하며, 요청당 검색기를 최대 5개까지 사용할 수 있다. 반복 횟수 상한을 낮추면 에이전트가 더 일찍 중단되어 복잡한 질의에서 정확도가 떨어질 수 있다.

애플리케이션 팀의 모드 선택 및 테스트

AWS는 고객이 실제로 배포한 사례가 아니라 가상의 은행 내부 정책 지원 도우미를 예로 들어 설정을 설명한다. 개인사업자 관련 문서 질문에는 maxAgentIteration=1을 사용하고, 개인사업자와 LLC의 요건을 비교하면서 비거주 소유자에 관한 규칙도 확인하는 경우에는 4를 사용해 최대 3회의 계획 단계를 허용한다. 정책 문구를 확인하는 요청에는 0을 사용해 요약 없이 원문 구절을 반환한다.

모드는 애플리케이션에서 선택해야 한다. maxAgentIteration 가 요청을 자동으로 분기하지는 않는다. 예시의 도우미는 정책 검색과 비교를 지원하지만, 계좌를 승인하거나 은행의 검토 및 승인 절차를 대체하지는 않는다.

도입을 위해 AWS는 대표 질문과 예상 답변을 사용해 동일한 지식 기반에서 단일 호출 RAG와 기존 에이전트형 설정을 비교할 것을 권장한다. 평가는 지연 시간과 요청 비용을 측정하고, 검색된 구절이 정확하며 답변을 뒷받침하는지 확인해야 한다. 여러 문서에 걸친 질문과 답변할 수 없는 질문도 평가에 포함해야 한다. 이러한 결과를 바탕으로 각 워크플로의 품질 요건을 충족하는 가장 낮은 반복 횟수 한도를 선택할 수 있다.

이번 변경으로 검색 깊이는 요청마다 명시적으로 결정하는 인프라 설정이 됐다. 단순 조회에서는 계획 단계의 모델 호출을 생략할 수 있고, 복잡한 질의에서는 반복적인 근거 수집을 유지할 수 있다. 기업이 따져봐야 할 핵심은 반복 횟수 한도를 높이는 것이 언제나 더 낫다고 가정하는 대신, 모델 사용량을 줄이면서도 자체 문서에 기반한 완전하고 근거가 뒷받침된 답변을 제공할 수 있는지 여부다.