Модели и платформы ИИ

Cohere добавляет Embed 5 и Rerank 5 в унифицированный API OpenRouter

mm
Добавьте Unite.AI в избранные источники в Google

Cohere объявила 4 ноября 2026 года, что её модели для поиска Embed 5 и Rerank 5 доступны на OpenRouter. Существующие пользователи могут обращаться к ним с тем же ключом API и использовать те же кредиты, что и для других моделей, без отдельных SDK, аккаунтов и счетов.

Модели охватывают этапы поиска в конвейере генерации с дополненной поиском выдачей, или RAG: Embed 5 преобразует документы и запросы в векторы, Rerank 5 пересчитывает оценки кандидатов с учётом запроса, а любая чат-модель на OpenRouter может сформировать итоговый ответ. Cohere также опубликовала справочный сценарий на Python, охватывающий индексацию, поиск, фильтрацию по релевантности и генерацию ответов с цитатами.

В карточке Embed 5 Pro на OpenRouter указана цена $0.12 за миллион текстовых токенов и $0.40 за миллион токенов изображений; цена Embed 5 Fast составляет $0.08 за миллион токенов. В карточке Rerank 5 Pro цена этой версии составляет $0.05 за миллион входных токенов, а Rerank 5 Fast — $0.02 за миллион токенов.

Запуск на OpenRouter расширяет доступность моделей, а не представляет новое поколение моделей. Cohere представила Embed 5 30 сентября 2026 года, а Rerank 5 — 21 октября 2026 года; у обеих линеек есть версии Pro и Fast.

Общее пространство эмбеддингов разделяет затраты на индексацию и обработку запросов

Ключевая архитектурная особенность заключается в том, что Embed 5 Pro и Fast используют общее пространство эмбеддингов. Поэтому корпус можно проиндексировать с помощью Pro, а затем выполнять поиск с помощью Fast без перестроения индекса, если для обеих моделей заданы одинаковые размерности выходных векторов. Таким образом, работа по индексации выполняется один раз для каждого корпуса, а чувствительный к задержке и затратам вызов модели для получения эмбеддингов — при каждом запросе.

В тестах Cohere на 40 наборах данных для разработки нормированное среднее качество поиска составило 98.4 для индекса, созданного с помощью Pro и используемого с Fast, и 96.6 для Fast на обоих этапах; показатель для Pro на обоих этапах равнялся 100. В сценарии OpenRouter используется связка Pro для индексации и Fast для обработки запросов, а Pro применяется на офлайн-этапе индексации.

Embed 5 предлагает шесть вариантов размера вектора — от 256 до 2,048 измерений; размер по умолчанию — 2,048. В примере OpenRouter используются векторы с плавающей точкой размерностью 1,024, поскольку API эмбеддингов возвращает числа с плавающей точкой; отдельно Cohere рекомендует для этой размерности векторы int8 как оптимальный вариант по соотношению качества и затрат. Объединение фрагментов в пакеты сокращает число сетевых обменов при индексации, но не уменьшает плату за эмбеддинги, рассчитываемую по количеству токенов. При обработке каждого запроса онлайн выполняется один вызов Embed 5 Fast, один вызов Rerank 5 и, если контекст проходит фильтр, один вызов чат-модели.

Оценки релевантности определяют контекст для генерации

В справочном конвейере сначала по косинусному сходству извлекаются 20 фрагментов, которые вместе с запросом передаются в Rerank 5. Затем сохраняются не более пяти результатов, а результаты с оценкой ниже демонстрационного порога 0.3 отбрасываются. При переоценке учитываются запрос и каждый кандидат в совокупности, а не только близость векторов; её можно применять после семантического, ключевого или гибридного поиска и без Embed 5.

По данным Cohere, откалиброванные оценки Rerank 5 остаются стабильными для разных запросов и предметных областей, поэтому один порог позволяет определять, какой контекст передавать генеративной модели; в документации к запуску оценка 0.7 описана как 70% вероятность того, что документ будет полезен. Pro предназначена для запросов, требующих сложных рассуждений, а также для длинных документов и документов из специализированных областей; Fast ориентирована на высоконагруженный поиск и агентов, выполняющих повторные поисковые запросы. Модели поддерживают контекст длиной 32K токенов и могут обрабатывать записи JSON или таблицы, представленные в виде строк YAML.

На этапе генерации прошедшие фильтр фрагменты становятся пронумерованными источниками; модели предписывается отвечать только на их основе и приводить ссылки на них в тексте. Если ни один фрагмент не преодолевает порог, сценарий сообщает, что найти ответ не удалось, и пропускает вызов чат-модели. Поскольку Rerank анализирует исходный текст в момент запроса, смена версии модели для переоценки не требует повторной индексации или повторного создания эмбеддингов.

Результаты демонстрации и ограничения для промышленного применения

В демонстрации Cohere используются вымышленные документы API и рассматривается вопрос о том, как сменить ключ без простоя. При поиске только по эмбеддингам на первом месте оказался нужный документ «Ротация ключей API» с оценкой 0.522, за ним — «Секреты для подписи вебхуков» с оценкой 0.337 и «Создание ключей API» с оценкой 0.316. После переоценки оценка нужного документа составила 0.808, а оценки обоих похожих документов опустились ниже порогового значения.

Для примера требуются Python 3.10 или более поздняя версия, ключ API OpenRouter, SDK для Python и NumPy для хранилища векторов в оперативной памяти. Для промышленного использования рекомендуется заменить это хранилище векторной базой данных. В рекомендациях OpenRouter по RAG переоценка описывается как компромисс между точностью и задержкой: она может улучшить результаты, когда требуется сузить широкий набор кандидатов, но добавляет вызов API и хуже подходит в случаях, когда минимальная задержка — приоритет.

Для мультимодального поиска требуется обходное решение. Embed 5 принимает изображения и смешанные текстово-графические данные, например страницы PDF, а API эмбеддингов OpenRouter принимает URL изображений, но Rerank 5 работает только с текстом. Предлагаются два варианта: переоценивать распознанный текст страниц или подписи к изображениям либо не применять переоценку к визуальным результатам.

В качестве единственного провайдера обеих моделей Pro OpenRouter указывает Cohere и направляет запросы напрямую этой компании. В карточках обеих моделей отмечено, что маршрутизация через регион ЕС недоступна.

Доступность через OpenRouter объединяет интеграцию и тарификацию поискового стека, однако экономика его эксплуатации по-прежнему зависит от архитектуры: однократной индексации Pro, регулярных вызовов Fast для обработки запросов, повторного ранжирования и чата, а также порога релевантности, определяющего контекст генерации. Единый API не устраняет дополнительную задержку, ограничения повторного ранжирования только текстовых данных и региональной маршрутизации, описанные для этого стека.

Theo Nash — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий инфраструктуру ИИ, вычисления и аппаратные системы, которые обеспечивают работу современных искусственных интеллектов. Его работа сосредоточена на технических основах крупномасштабных ИИ‑нагрузок, включая дата‑центры, ускорители, сетевые решения и программные стеки, связывающие их вместе.

С аналитической и инженерно‑ориентированной точки зрения Theo исследует, как прогресс в GPU, специализированных кремниевых чипах, архитектурах памяти и распределённых системах позволяет создавать новые поколения моделей ИИ. Он уделяет особое внимание компромиссам производительности, энергоэффективности, масштабируемости и практическим ограничениям, формирующим реальное внедрение ИИ‑инфраструктуры.

Статьи, написанные Theo Nash, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить техническую точность, ясность и ответственное освещение быстро развивающегося ландшафта вычислений ИИ.