Cohere, 관리형 엔터프라이즈 검색을 위한 Compass Cloud 프라이빗 베타를 공개

Cohere는 2026년 9월 25일에 Compass가 기업 데이터 기반 AI 애플리케이션을 구축하는 개발자를 위한 검색 플랫폼이며, 이제 Compass Cloud라는 관리형 서비스로 프라이빗 베타에 진입한다고 발표했으며, Cohere가 전체 검색 파이프라인과 모델 추론을 운영합니다.

Compass는 기업 코퍼스에서 관련 정보를 추출하여 검색 보강 생성(RAG), 검색 및 에이전트 워크플로에 활용합니다. 팀은 직접 검색 스택을 구축하고 운영하는 대신, API, MCP 서버 또는 Python SDK를 통해 Compass를 구성하여 데이터와 워크플로 요구사항에 맞게 최종 사용자 경험을 설계합니다. 이는 Compass Cloud 발표에 따릅니다.

North 통합에서 관리형 서비스로

지금까지 Compass는 주로 North, Cohere의 엔터프라이즈 에이전트 워크스페이스의 검색을 담당했으며, 여기에는 문서 라이브러리와 MCP 생태계가 포함됩니다. Cohere는 또한 규제 산업 파트너들을 위해 고보안 자체 호스팅 환경에 Compass를 제공했으며, 이들의 워크로드는 SaaS로 이전할 수 없습니다.

Cohere는 관리형 옵션에 대한 고객 수요가 명확하고 지속적이었다고 밝혔습니다. 팀들은 자체 호스팅의 운영 부담 없이 회사가 최고 수준이라고 부르는 검색 기능을 원했습니다. 회사는 Compass Cloud가 Cohere가 전체 파이프라인과 모델 추론을 관리함으로써 Compass를 더 넓은 시장에 확대하고, 고객은 구축에 집중할 수 있게 한다고 말했습니다. 자체 호스팅 배포는 여전히 프라이버시 제한 프로젝트에 제공되며, Cohere는 제한된 수의 엔터프라이즈 팀과 베타 파트너로 협업하고 있습니다.

엔터프라이즈 검색 요구사항의 세 가지 변화

이번 발표는 Cohere가 제시한 세 가지 발전을 중심으로 출시를 설명합니다. 이 발전은 검색이 생성 AI와 에이전트를 위한 지원 인프라가 되면서 엔터프라이즈 검색 요구사항을 변화시키고 있습니다.

첫 번째는 토큰 경제학입니다. 모델에 전달되는 모든 관련 없는 결과는 토큰을 소비하고 제한된 컨텍스트 공간을 차지하므로, 보다 정밀한 검색은 더 작고 품질이 높은 입력을 생성하여 추론 비용과 작업 완료에 필요한 시간을 감소시킵니다. Cohere는 검색을 기업이 활용할 수 있는 가장 효과적인 비용 절감 수단 중 하나라고 설명했습니다.

두 번째는 에이전트형 접근 패턴입니다. 에이전트는 하나의 작업을 수행하면서 수십 개의 쿼리를 발행하고, 요청을 재구성하며 여러 소스를 탐색할 수 있습니다. 이러한 다중 홉 루프에서는 지연 시간이 누적되고, 관련성이 흐려질 수 있으며, 각 단계마다 권한이 적용되어야 합니다. 따라서 검색은 단일 검색뿐만 아니라 기계 생성 쿼리의 연속에서도 신뢰성 있게 작동해야 합니다.

세 번째는 분산된 검색 스택입니다. 실제 운영 파이프라인은 종종 데이터 수집, 인덱싱, 재순위 지정, 접근 제어 및 오케스트레이션을 위한 별도 시스템을 결합하는데, 이로 인해 팀은 검색 품질보다 통합에 많은 노력을 들이게 됩니다. Cohere는 Compass가 생성 워크로드에 대한 관련성 있고 관리된 컨텍스트를 제공하고, 에이전트형 및 기존 검색 애플리케이션을 모두 지원하며, 핵심 검색 스택을 통합된 엔터프라이즈 플랫폼으로 결합함으로써 이 세 가지 문제를 해결한다고 말했습니다.

7단계 검색 아키텍처

Compass는 문서 처리와 검색을 하나의 구성 가능한 서비스로 패키징하여 단일 인터페이스를 통해 접근할 수 있게 합니다. 발표에서는 이 서비스가 7단계로 구성된다고 설명했습니다.

Connect는 SharePoint, OneDrive, Google Drive와 같은 파일 공유 및 클라우드 스토리지 워크스페이스에 대한 즉시 사용 가능한 커넥터를 제공하며, Cohere는 데이터 호환성을 다국어, 다중모달, 파일 형식에 구애받지 않는 것으로 설명합니다. Parse는 다중모달 엔터프라이즈 파일을 AI 준비 콘텐츠로 변환하고, 각 문서에 파싱 전략을 적용하며, 가치가 있을 때만 비전 처리를 사용해 불필요한 모델 사용을 줄입니다. Embed는 밀집 및 희소 표현을 동시에 생성하여 검색이 텍스트와 다중모달 콘텐츠 전반에 걸쳐 의미적 의도와 도메인 특화 언어를 모두 매칭할 수 있게 합니다.

Index는 원본 파일, 파싱된 콘텐츠, 임베딩을 별개의 레코드로 보관하므로 새로운 임베딩 모델을 도입할 때 동일한 콘텐츠를 다시 크롤링하고 업로드할 필요가 없습니다. 검색 시에는 이 레코드들이 메타데이터와 함께 하나의 인덱스에 존재합니다. Retrieve는 의미 기반, 희소, 키워드 검색을 단일 요청으로 결합하며, 각 전략은 독립적으로 혹은 함께 실행되고, 권한은 애플리케이션이 아닌 검색 단계에서 적용됩니다.

Rerank는 Cohere의 재순위 모델을 적용해 광범위한 후보 집합에서 가장 관련성 높은 구절을 식별함으로써 불필요한 컨텍스트와 생성에 필요한 토큰을 감소시킵니다. Govern는 검색 중에 다중 테넌트 접근 제어와 문서 수준 권한을 강제하며, 보존 정책은 콘텐츠를 자동으로 만료시키고 삭제된 문서가 다시 동기화되는 것을 방지합니다.

기업 보고 검색 벤치마크

Cohere는 Compass가 내부 Cohere 구축 투자은행 벤치마크인 High Finance에서 Azure Search 대비 14~16 포인트 향상된 성능을 달성했다고 보고했습니다. 검색 정확도는 nDCG@10 기준으로 64.8에서 81.1로 상승했습니다. High Finance는 모델에게 관련 투자은행 및 헤지펀드 발표 자료를 검색하도록 요구하는 질문 집합으로, Cohere가 주석을 달았습니다; 이 워크로드는 쿼리를 임베딩하고 인덱스에서 발표 자료를 검색한 뒤 상위 결과에 점수를 매깁니다.

제시된 방법론에 따르면 Azure Search 문서는 GPT‑4.1 Mini로 파싱되었으며, Cohere Embed 4는 별도의 파싱 솔루션을 사용하지 않고 입력 PDF를 이미지로 직접 임베딩한 후 검색했습니다. Cohere는 정확도가 Compass의 하이브리드 검색(어휘, 희소, 밀집 검색)과 재순위화를 수행하는 검색 및 문서 처리 모델 덕분이라고 설명했으며, 이러한 차이는 최종 사용자에게 불만족스러운 답변과 훌륭한 답변을 구분할 수 있는 수준이라고 밝혔습니다.

통합 경로, 베타 조건 및 다음 단계

Compass Cloud는 두 가지 통합 경로를 제공합니다. Compass API는 맞춤형 RAG 및 검색 애플리케이션을 구축하는 팀을 대상으로 하며, Compass를 구동하는 모델 및 검색 구성 요소에 직접 연결해 개발자가 콘텐츠 표현, 검색, 순위 지정 및 애플리케이션에 통합하는 방식을 제어할 수 있게 합니다. 별도로 버전 관리되는 전용 MCP 서버는 오픈 표준을 통해 검색을 재사용 가능한 도구로 노출하므로, MCP 호환 클라이언트가 해당 도구를 직접 발견하고 호출할 수 있으며, Compass는 각 에이전트 프레임워크마다 맞춤형 통합 없이도 이식성을 유지합니다.

Cohere는 에이전시 검색을 대형 언어 모델과 정보 검색이 교차하는 신흥 접근 방식으로 설명합니다. 단일 질의‑응답 단계 대신, 에이전트가 무엇을 찾아야 할지 결정하고, 관련 정보를 검색하며, 결과를 평가하고, 답변하기 전에 검색을 정제합니다. Cohere는 Compass MCP 서버를 통해 에이전트가 검색 코퍼스를 점진적으로 좁혀 불필요한 컨텍스트를 줄이고 복잡한 검색 작업을 더 빠르고 토큰 효율적으로 수행할 수 있다고 밝혔습니다.

비공개 베타는 검색 중심 및 에이전시 애플리케이션을 구축하는 팀에게 열려 있습니다. 참가자는 Cohere 엔지니어링 팀의 실무 지원, 클라우드 배포에 대한 조기 접근, 그리고 제품 로드맵에 직접적인 영향을 미칠 수 있는 기회를 제공받으며, 신청은 Compass 페이지의 양식을 통해 이루어집니다. Cohere는 또한 2026년 10월 8일 X(트위터)에서 엔지니어링 및 제품 리더십과 함께 기업 검색의 향후 방향을 논의하는 라이브 세션을 진행합니다.