AI 모델 및 플랫폼
Cohere, Embed 5와 Rerank 5를 OpenRouter 통합 API에 추가
Unite.AI를 Google의 선호 소스에 추가
Cohere는 2026년 11월 4일 Embed 5와 Rerank 5 검색 모델을 OpenRouter에서 사용할 수 있게 됐다고 발표했습니다. 기존 사용자는 별도의 SDK, 계정 또는 청구서 없이 다른 모델과 동일한 API 키와 크레딧으로 이 모델들을 호출할 수 있습니다.
두 모델은 검색 증강 생성(RAG) 파이프라인의 검색 단계를 담당합니다. Embed 5는 문서와 질의를 벡터로 변환하고, Rerank 5는 질의와의 관련성을 기준으로 후보의 순위를 다시 매기며, OpenRouter의 모든 채팅 모델로 최종 답변을 생성할 수 있습니다. Cohere는 색인 생성, 검색, 관련성 필터링, 출처를 인용한 답변 생성까지 아우르는 Python 참조 워크플로도 공개했습니다.
OpenRouter의 Embed 5 Pro 모델 목록에 따르면 가격은 텍스트 토큰 100만 개당 0.12달러, 이미지 토큰 100만 개당 0.40달러이며, Embed 5 Fast는 토큰 100만 개당 0.08달러입니다. Rerank 5 Pro 모델 목록의 가격은 해당 등급의 입력 토큰 100만 개당 0.05달러, Rerank 5 Fast의 입력 토큰 100만 개당 0.02달러입니다.
OpenRouter를 통한 제공은 새로운 모델 세대를 선보이는 것이 아니라 배포 범위를 넓히는 것입니다. Cohere는 2026년 9월 30일 Embed 5를, 2026년 10월 21일 Rerank 5를 출시했으며, 두 제품군 모두 Pro와 Fast 등급을 제공합니다.
임베딩 공유로 색인 생성 비용과 질의 비용을 분리
핵심적인 아키텍처 특징은 Embed 5 Pro와 Fast가 동일한 임베딩 공간을 공유한다는 점입니다. 따라서 양쪽에서 동일한 출력 차원을 사용한다면 색인을 다시 만들지 않고도 Pro로 말뭉치를 색인한 다음 Fast로 질의할 수 있습니다. 이렇게 하면 말뭉치마다 한 번 수행하는 색인 생성 작업과 모든 질문마다 실행되는, 지연 시간과 비용에 민감한 임베딩 호출을 분리할 수 있습니다.
Cohere가 개발 데이터셋 40개를 대상으로 실시한 테스트에서 정규화된 평균 검색 품질은 Pro로 만든 색인을 Fast로 검색했을 때 98.4, 양쪽 모두 Fast를 사용했을 때 96.6이었습니다. 양쪽 모두 Pro를 사용한 경우는 100이었습니다. OpenRouter 워크플로는 Pro로 색인을 만들고 Fast로 검색하는 조합을 채택해 오프라인 색인 생성 단계에만 Pro를 사용합니다.
Embed 5는 256~2,048차원의 벡터 크기 6가지를 제공하며, 기본값은 2,048차원입니다. OpenRouter 예제에서는 임베딩 API가 부동소수점 값을 반환하므로 1,024차원 부동소수점 벡터를 사용합니다. Cohere는 이 차원에서 품질 대비 비용이 가장 적절한 선택으로 int8 벡터를 별도로 권장합니다. 청크를 묶어 처리하면 색인 생성 중 네트워크 왕복 횟수는 줄지만, 토큰 기준 임베딩 요금은 줄지 않습니다. 온라인 처리 경로에서는 질문마다 Embed 5 Fast 호출 1회와 Rerank 5 호출 1회가 이뤄지며, 필터를 통과해 남은 문맥이 있을 때는 채팅 호출도 1회 이뤄집니다.
관련성 점수가 답변 생성에 사용할 문맥을 결정
참조 파이프라인은 코사인 유사도를 기준으로 청크 20개를 검색해 질문과 함께 Rerank 5에 전달하고, 결과를 최대 5개까지 유지하며, 시연용 임계값인 0.3보다 낮은 점수는 제외합니다. 재순위화는 벡터상 거리만으로 판단하지 않고 질의와 각 후보를 함께 살펴봅니다. 또한 Embed 5를 사용하지 않아도 의미 기반 검색, 키워드 검색 또는 하이브리드 검색 뒤에 적용할 수 있습니다.
Cohere에 따르면 Rerank 5의 보정된 점수는 질의와 도메인이 달라도 일관되게 유지되므로, 하나의 임계값으로 생성 모델에 전달할 문맥을 결정할 수 있습니다. 출시 문서에서는 점수 0.7을 문서가 유용할 확률 70%로 설명합니다. Pro는 추론이 많이 필요한 질의와 길거나 특정 도메인에 특화된 문서를 대상으로 하며, Fast는 대량 검색과 반복적으로 검색을 수행하는 에이전트를 겨냥합니다. 두 모델은 32K 토큰의 문맥 길이를 지원하며, JSON 레코드나 YAML 문자열 형식의 표도 처리할 수 있습니다.
답변을 생성할 때 필터를 통과한 청크는 번호가 매겨진 출처가 되며, 해당 출처만 바탕으로 답하고 본문에 인용하도록 지시합니다. 임계값을 통과하는 결과가 하나도 없으면 워크플로는 답을 찾지 못했다고 알리고 채팅 모델 호출을 건너뜁니다. Rerank는 질의 시점에 원문 텍스트를 읽기 때문에 재순위화 모델 버전을 바꿔도 색인을 다시 만들거나 임베딩을 다시 생성할 필요가 없습니다.
시연 결과와 프로덕션 환경의 제약
Cohere의 시연은 가상의 API 문서를 사용해 서비스 중단 없이 키를 교체하는 방법을 묻습니다. 임베딩만 사용한 검색에서는 정답인 API 키 교체 문서가 0.522로 1위에 올랐고, 그 뒤로 웹훅 서명 비밀키가 0.337, API 키 생성이 0.316을 기록했습니다. 재순위화를 거친 뒤 정답 문서의 점수는 0.808로 올랐으며, 유사한 두 문서는 모두 기준점 아래로 떨어졌습니다.
이 예제를 실행하려면 Python 3.10 이상, OpenRouter API 키와 Python SDK, 메모리 내 벡터 저장소가 사용할 NumPy가 필요합니다. 프로덕션 환경에 배포할 때는 해당 저장소를 벡터 데이터베이스로 교체하도록 안내합니다. OpenRouter의 RAG 가이드는 재순위화를 정밀도와 지연 시간 사이의 선택으로 설명합니다. 폭넓게 수집한 후보를 좁혀야 할 때 결과를 개선할 수 있지만 API 호출이 추가되므로, 지연 시간을 최소화하는 것이 우선인 경우에는 적합성이 떨어집니다.
다중 모달 검색에는 우회 방법이 필요합니다. Embed 5는 이미지와 PDF 페이지처럼 텍스트와 이미지가 혼합된 입력을 처리하고, OpenRouter의 임베딩 API는 이미지 URL을 받을 수 있지만 Rerank 5는 텍스트만 처리합니다. 제안된 방법은 파싱한 페이지 텍스트나 캡션을 재순위화하거나, 시각 자료 검색 결과에는 재순위화를 생략하는 것입니다.
OpenRouter는 두 Pro 모델의 제공업체로 Cohere만 등록하고 요청을 Cohere에 직접 전달합니다. 두 모델 목록 모두 EU 역내 라우팅을 사용할 수 없다고 명시합니다.
OpenRouter에서 이용할 수 있게 되면서 검색 스택의 통합과 결제가 한곳으로 모이지만, 운영 환경의 비용 구조는 여전히 아키텍처에 좌우됩니다. Pro 인덱싱은 한 번만 수행되지만 Fast 쿼리, 재순위 지정, 채팅 호출은 반복적으로 발생하며, 관련성 임계값은 생성에 사용할 컨텍스트를 결정합니다. 단일 API를 사용하더라도 이 스택에 대해 문서화된 추가 지연 시간, 텍스트 전용 재순위 지정, 지역별 라우팅 제약은 사라지지 않습니다.
