AI 모델 및 플랫폼
기업용 AI를 위한 관리형 RAG 가이드 발표

핵심 포인트관리형 RAG는 벡터 데이터베이스와 검색기를 기업 팀에서 외부 공급자로 이전합니다.
더 보기
- 관리형 RAG는 벡터 데이터베이스와 검색기를 기업 팀에서 외부 공급자로 이전합니다.
- 자체 호스팅은 제한된 사용에는 적합하지만 하드웨어와 유지보수가 절감된 토큰 비용을 상쇄할 수 있습니다.
- 아웃소싱은 각 배포가 검색 책임을 다르게 분할할 수 있으므로 기업 전체에 걸칠 필요는 없습니다.
Perplexity는 2026년 11월 19일, 기업이 모델의 학습 매개변수에 포함되지 않은 정보에 엔터프라이즈 AI 시스템이 접근할 수 있도록 하는 프로세스인 검색 증강 생성(RAG)을 관리형 서비스를 통해 아웃소싱하는 방법을 설명하는 가이드를 발표했다.
이 가이드는 이러한 접근 방식을 서비스형 RAG, 즉 RaaS라고 부르며, 외부 제공업체가 RAG 구성 요소와 프로세스의 대부분 또는 전부를 처리하는 방식을 가리키는 용어로 사용합니다. 벡터 데이터베이스, 임베딩 모델, 검색기의 관리 책임은 제공업체로 넘어가며, 제공업체는 데이터 수집, 저장, 보안, 지속적인 최적화도 맡을 수 있습니다. 패키지에 따라 공급업체가 언어 모델과 사용자 인터페이스를 제공하거나, 자체 검색 서비스를 고객의 기존 AI 시스템에 연결합니다.
관리형 검색은 어떻게 작동하나
선택지는 세 가지 배포 모델을 중심으로 나뉩니다. 로컬 RAG는 데이터 수집, 검색, 저장을 사용자의 자체 서버에서 처리하며, 임베딩 모델과 언어 모델도 로컬에서 실행할 수 있습니다. 자체 구축 클라우드 시스템은 API를 사용해 호스팅된 데이터베이스와 타사 모델에 연결하지만, 내부 관리자가 연결과 오케스트레이션을 관리합니다. RaaS에서는 제공업체가 시스템의 전부 또는 대부분을 관리하고, 기업은 데이터베이스나 클라우드 저장소에 대한 접근 권한을 제공합니다.
가이드의 지식 관리 사례에서 제공업체는 API를 통해 지식 베이스에 접근합니다. 텍스트를 정리한 뒤 각 구절을 벡터 임베딩으로 변환해 자체 서버의 벡터 데이터베이스에 저장합니다. 또한 새로 이용할 수 있게 된 문서를 추가하고, 검색기 API를 고객의 오케스트레이터에 연결합니다. 오케스트레이터는 사용자 입력을 조율하고 보강된 프롬프트를 언어 모델에 보내는 소프트웨어입니다.
사용자가 회사 챗봇에 질문하면 오케스트레이터는 질문 텍스트를 공급업체에 전달하고, 공급업체는 이를 임베딩한 뒤 데이터베이스를 검색합니다. 오케스트레이터는 검색 결과를 입력 컨텍스트에 추가해 언어 모델로 보내며, 언어 모델의 답변은 챗봇을 통해 사용자에게 전달됩니다. 가이드에 따르면 학습 매개변수에 없는 정보를 제공하면 생성 결과의 정확성과 완성도가 높아집니다.
기업의 활용 사례와 배포 방식의 장단점
주요 활용 분야는 내부 지식 관리, 고객 지원, 영업 지원, 고객 데이터 접근, 고객용 제품 챗봇입니다. 내부 어시스턴트는 Google Drive, SharePoint, Confluence 등의 서비스에 저장된 문서를 검색할 수 있습니다. 영업 시스템은 지원 티켓, 경쟁사 조사 자료, 통화 녹음 내용을 활용할 수 있으며, 고객 데이터 애플리케이션은 구독 관리, 반품, 개인 정보 변경을 지원할 수 있습니다. 제품 챗봇은 백엔드 데이터베이스에 연결해 제품 탐색 관련 질문과 기술적인 질문에 답할 수도 있습니다.
Perplexity는 관리형 RAG의 장점으로 더 빠른 배포, 유지 관리 부담 감소, 확장성, 콘텐츠 자동 동기화, 엔터프라이즈 플랫폼 통합을 꼽으면서도 서비스와 패키지 등급에 따른 제한이 여전히 적용된다고 설명합니다. 자체 구축과 구매 중 무엇을 선택할지 판단하는 기준은 비용, 규모, 복잡성입니다. 모든 구성 요소를 내부 서버에서 실행하면 사용 범위가 명확히 제한된 경우 자체 호스팅이 적합할 수 있으며 토큰 및 저장 비용을 피할 수도 있습니다. 다만 하드웨어와 유지 관리 비용이 절감액을 상쇄할 수 있습니다.
고급 아키텍처에는 멀티모달 검색과 하이브리드 검색, 재순위화 기능을 추가할 수 있으며, 가이드에 따르면 전문 제공업체를 이용하는 것이 일반적으로 이러한 전문성을 가장 경제적으로 확보하는 방법입니다. 대부분의 RAG 시스템은 이미 일부 공급업체 서비스를 사용하고 있으므로, 핵심은 제공업체가 전체 시스템 가운데 어느 정도를 구축하고 관리할지 결정하는 것입니다.
제공업체 현황과 Perplexity Enterprise
가이드는 제공업체를 RAG 기능이 내장된 일반 AI 플랫폼과 관리형 백엔드 인프라 제공업체로 구분합니다. 전자는 통합 기능을 갖춘 즉시 사용 가능한 제품으로, 후자는 맞춤형 구성을 위한 선택지로 제시합니다. 편집진이 선정한 7개 제공업체는 Perplexity, AWS, OpenAI, Microsoft Azure, Pinecone, LlamaIndex, Vectara입니다.
선정 목록에서 Perplexity Enterprise는 내부 및 프로젝트별 지식 베이스, 웹 검색, 여러 생성형 모델 이용, 독자 개발 임베딩 모델, 외부 데이터 통합, 보안, 직원 권한 관리 기능을 갖춘 에이전트형 도구 모음으로 소개됩니다.
별도의 엔터프라이즈 페이지에서 Perplexity는 5만 곳이 넘는 조직이 Perplexity Enterprise를 신뢰한다고 밝히고, Computer가 20개의 고급 모델을 활용한다고 설명합니다. 또한 더 폭넓은 플랫폼은 기업의 파일과 도구를 연결해 내부 지식 관리, 조사, 복잡한 프로젝트를 지원합니다.
같은 페이지에 따르면 Perplexity는 기업 고객 데이터를 대규모 언어 모델 학습에 사용하지 않습니다. 명시된 보안 제어 기능에는 SOC 2 Type II 인증, 구성 가능한 파일 보존 기간, 사용자 관리, SSO 및 SCIM, 사용자 활동 추적을 위한 감사 로그가 포함됩니다.
기업은 접근 방식을 절충해 간단한 시스템은 직접 구축하고 고급 애플리케이션에는 제공업체를 이용할 수도 있습니다. 실무적으로 이는 기업 전체를 아웃소싱할 필요가 없다는 뜻입니다. 배포 방식마다 검색의 복잡성, 비용, 유지 관리 부담 중 제공업체에 맡기는 비중을 다르게 정할 수 있으며, 기업은 내부에 남겨 둔 부분에 대한 책임을 계속 집니다.












