AI 模型与平台
将 Embed 5 和 Rerank 5 引入 OpenRouter 统一 API

Cohere 于2026 年 11 月 4 日宣布,其 Embed 5 和 Rerank 5 检索模型现已在 OpenRouter 上提供。现有用户可以使用与其他模型相同的 API 密钥和额度调用这些模型,无需单独的 SDK、账户或账单。
这些模型覆盖了检索增强生成(RAG)流程中的检索环节:Embed 5 将文档和查询转换为向量,Rerank 5 根据查询对候选项重新评分,而 OpenRouter 上的任何聊天模型都可以生成最终答案。Cohere 还发布了一套 Python 参考工作流,涵盖索引构建、检索、相关性筛选和带引用生成。
OpenRouter 的Embed 5 Pro 定价页面显示,该模型的价格为每百万文本词元 0.12 美元、每百万图像词元 0.40 美元;Embed 5 Fast 的价格为每百万词元 0.08 美元。其Rerank 5 Pro 定价页面显示,Pro 版的价格为每百万输入词元 0.05 美元,Rerank 5 Fast 的价格为每百万词元 0.02 美元。
在 OpenRouter 上推出这些模型扩大了它们的分发范围,并未带来新一代模型。Cohere于 2026 年 9 月 30 日推出了Embed 5,并于 2026 年 10 月 21 日推出了Rerank 5;两个系列均提供 Pro 和 Fast 版本。
共享嵌入空间将索引构建与查询成本分开
关键的架构特点是,Embed 5 Pro 和 Fast 共用一个嵌入空间。因此,只要索引构建和查询两端使用相同的输出维度,就可以用 Pro 建立语料库索引,再用 Fast 查询,而无需重建索引。这样一来,每个语料库只需执行一次索引构建,而每次提问时都要进行的嵌入调用则可以采用对延迟和成本更敏感的方案。
在对 40 个开发数据集进行的测试中,Cohere 报告称,使用 Pro 构建索引、再用 Fast 查询时,归一化平均检索质量为 98.4;两端都使用 Fast 时为 96.6;两端都使用 Pro 时则为 100。OpenRouter 工作流采用了这种 Pro 建索引、Fast 查询的组合,将 Pro 留用于离线索引阶段。
Embed 5 提供 6 种向量维度,从 256 到 2,048 不等,默认值为 2,048。OpenRouter 示例使用 1,024 维浮点向量,因为其嵌入 API 返回浮点数;Cohere 则另行建议在这一维度使用 int8 向量,认为这是质量与成本之间的理想平衡点。将数据块批量处理可以减少索引构建期间的网络往返次数,但不会降低按词元计费的嵌入费用。在线流程中,每个问题会调用一次 Embed 5 Fast、一次 Rerank 5;如果上下文通过筛选,还会调用一次聊天模型。
相关性评分决定生成上下文
参考流程先通过余弦相似度检索 20 个数据块,再将它们连同问题一起发送给 Rerank 5,最多保留 5 个结果,并剔除得分低于示例阈值 0.3 的结果。重新排序会同时读取查询和每个候选项,而非仅依赖向量距离;它也可以接在语义搜索、关键词搜索或混合搜索之后运行,无需使用 Embed 5。
Cohere 表示,Rerank 5 经校准的评分在不同查询和领域之间保持一致,因此可以用同一个阈值决定哪些上下文会传递给生成模型;其发布文档将 0.7 的评分描述为文档有 70% 的概率具备实用价值。Pro 面向推理要求较高的查询,以及较长或特定领域的文档;Fast 则面向高吞吐量搜索和需要反复搜索的智能体。这些模型支持 32K 词元上下文,也能处理 JSON 记录或以 YAML 字符串格式呈现的表格。
进入生成阶段后,通过筛选的数据块会成为带编号的来源,并附有指示,要求模型只依据这些来源作答并在文中标注引用。如果没有任何结果达到阈值,工作流会报告未能找到答案,并跳过聊天模型调用。由于 Rerank 会在查询时读取原始文本,切换重新排序模型的版本无需重新建立索引或重新生成嵌入。
演示结果与生产环境限制
Cohere 的演示使用虚构的 API 文档,并询问如何在不中断服务的情况下轮换密钥。仅使用嵌入进行检索时,正确的API 密钥轮换文档排名第一,得分为 0.522;其次是Webhook 签名密钥,得分为 0.337,以及创建 API 密钥,得分为 0.316。重新排序后,正确文档的得分升至 0.808,另外两个相近结果均跌至截止值以下。
示例要求使用 Python 3.10 或更高版本、OpenRouter API 密钥和 Python SDK,并使用 NumPy 构建内存向量存储。生产环境实现应将该存储替换为向量数据库。OpenRouter 的RAG 指南将重新排序视为精确度与延迟之间的取舍:当需要从宽泛的候选集合中筛选出更少结果时,它可以改善效果;但它会增加一次 API 调用,因此不太适合将最低延迟作为首要目标的场景。
多模态检索需要采用变通方案。Embed 5 接受图像以及 PDF 页面等文本与图像混合输入,OpenRouter 的嵌入 API 也接受图像 URL,但 Rerank 5 仅支持文本。可选方案包括对解析出的页面文本或说明文字重新排序,或者对视觉结果省略重新排序步骤。
OpenRouter 将 Cohere 列为两个 Pro 模型的唯一提供方,并将请求直接转发给该公司。两个模型的页面都注明,不支持在欧盟区域内路由。
OpenRouter 的可用性将检索技术栈的集成与计费整合到了一起,但其生产环境的成本仍取决于底层架构:Pro 索引只需执行一次,而 Fast 查询、重排和聊天调用则会持续产生费用;此外,相关性阈值也会影响生成上下文。统一 API 并未消除该技术栈已知的额外延迟、仅支持文本的重排功能或区域路由限制。












