Cohere udostępnia Embed 5 i Rerank 5 w ujednoliconym API OpenRouter

Cohere poinformowało 4 listopada 2026 r., że modele wyszukiwania Embed 5 i Rerank 5 są dostępne w OpenRouter. Dotychczasowi użytkownicy mogą korzystać z nich przy użyciu tego samego klucza API i tych samych środków co w przypadku innych modeli, bez osobnych zestawów SDK, kont ani rachunków.

Modele obsługują etapy wyszukiwania w potoku generowania wspomaganego wyszukiwaniem, czyli RAG: Embed 5 przekształca dokumenty i zapytania w wektory, Rerank 5 ponownie ocenia kandydatów pod kątem zapytania, a dowolny model czatowy dostępny w OpenRouter może wygenerować ostateczną odpowiedź. Cohere opublikowało także referencyjny proces pracy w Pythonie obejmujący indeksowanie, wyszukiwanie, filtrowanie pod kątem trafności i generowanie odpowiedzi z cytatami.

W ofercie Embed 5 Pro w OpenRouter cena modelu wynosi 0,12 USD za milion tokenów tekstowych i 0,40 USD za milion tokenów obrazów, a cena Embed 5 Fast to 0,08 USD za milion tokenów. W ofercie Rerank 5 Pro cena tej wersji wynosi 0,05 USD za milion tokenów wejściowych, a Rerank 5 Fast kosztuje 0,02 USD za milion tokenów wejściowych.

Udostępnienie modeli w OpenRouter poszerza ich dystrybucję, zamiast wprowadzać kolejną generację. Cohere zaprezentowało Embed 5 30 września 2026 r., a Rerank 5 21 października 2026 r.; obie rodziny obejmują wersje Pro i Fast.

Wspólna przestrzeń osadzeń rozdziela koszty indeksowania i zapytań

Kluczowym szczegółem architektury jest to, że Embed 5 Pro i Fast korzystają ze wspólnej przestrzeni osadzeń. Dzięki temu korpus można indeksować za pomocą wersji Pro, a następnie przeszukiwać za pomocą Fast bez ponownego tworzenia indeksu, pod warunkiem że po obu stronach używane są te same wymiary wektorów wyjściowych. Pozwala to oddzielić indeksowanie, wykonywane raz dla każdego korpusu, od wywołania modelu osadzającego, wrażliwego na opóźnienia i koszty, które jest wykonywane przy każdym zapytaniu.

W testach Cohere przeprowadzonych na 40 zbiorach danych deweloperskich znormalizowana średnia jakość wyszukiwania wyniosła 98,4 dla indeksu utworzonego za pomocą Pro i przeszukiwanego przez Fast oraz 96,6 dla Fast używanego po obu stronach. Wynik odniesienia dla Pro po obu stronach wyniósł 100. W przykładowym procesie pracy w OpenRouter zastosowano układ z indeksowaniem przez Pro i wyszukiwaniem przez Fast, rezerwując wersję Pro do etapu indeksowania offline.

Embed 5 oferuje sześć rozmiarów wektorów, od 256 do 2048 wymiarów; domyślnie używane jest 2048 wymiarów. W przykładzie OpenRouter zastosowano 1024-wymiarowe wektory zmiennoprzecinkowe, ponieważ interfejs API do generowania osadzeń zwraca liczby zmiennoprzecinkowe. Cohere osobno rekomenduje w przypadku tej liczby wymiarów wektory int8 jako zapewniające preferowaną równowagę między jakością a kosztem. Grupowanie fragmentów w pakiety ogranicza liczbę połączeń sieciowych podczas indeksowania, ale nie zmniejsza opłat za osadzanie naliczanych na podstawie liczby tokenów. W ścieżce online dla każdego zapytania wykonywane jest jedno wywołanie Embed 5 Fast, jedno wywołanie Rerank 5 oraz — jeśli kontekst przejdzie filtrowanie — jedno wywołanie modelu czatowego.

Wyniki trafności decydują o kontekście przekazywanym do generowania

Referencyjny potok wyszukuje 20 fragmentów na podstawie podobieństwa cosinusowego, przekazuje je wraz z zapytaniem do Rerank 5, zachowuje maksymalnie pięć wyników i odrzuca te, których wynik jest niższy niż demonstracyjny próg 0,3. Ponowne szeregowanie uwzględnia zapytanie i każdego kandydata łącznie, zamiast opierać się wyłącznie na bliskości wektorów; można je też zastosować po wyszukiwaniu semantycznym, słów kluczowych lub hybrydowym, bez użycia Embed 5.

Cohere informuje, że skalibrowane wyniki Rerank 5 pozostają spójne w przypadku różnych zapytań i dziedzin, dzięki czemu jeden próg może decydować, jaki kontekst trafi do modelu generującego. W dokumentacji premierowej podano, że wynik 0,7 oznacza 70-procentowe prawdopodobieństwo, że dokument jest przydatny. Wersja Pro jest przeznaczona do zapytań wymagających intensywnego rozumowania oraz długich dokumentów lub dokumentów z określonej dziedziny, natomiast Fast służy do wyszukiwania na dużą skalę i dla agentów wielokrotnie wykonujących wyszukiwanie. Modele obsługują kontekst o długości 32 tys. tokenów i mogą przetwarzać rekordy JSON lub tabele zapisane jako ciągi znaków w formacie YAML.

Podczas generowania zachowane fragmenty stają się ponumerowanymi źródłami; model otrzymuje instrukcję, by odpowiadać wyłącznie na ich podstawie i umieszczać cytaty bezpośrednio w tekście. Jeśli żaden fragment nie przekroczy progu, proces pracy informuje, że nie udało się znaleźć odpowiedzi, i pomija wywołanie modelu czatowego. Ponieważ Rerank odczytuje surowy tekst w chwili otrzymania zapytania, zmiana wersji modelu do ponownego szeregowania nie wymaga ponownego indeksowania ani generowania osadzeń.

Wyniki demonstracji i ograniczenia w środowisku produkcyjnym

W demonstracji Cohere wykorzystano fikcyjną dokumentację API i zadano pytanie o zmianę klucza bez przestoju. Wyszukiwanie oparte wyłącznie na osadzeniach umieściło właściwy dokument Zmiana kluczy API na pierwszym miejscu z wynikiem 0,522, a następnie Sekrety do podpisywania webhooków z wynikiem 0,337 i Tworzenie kluczy API z wynikiem 0,316. Po ponownym szeregowaniu właściwy dokument uzyskał wynik 0,808, a oba podobne dokumenty znalazły się poniżej progu.

Przykład wymaga Pythona w wersji 3.10 lub nowszej, klucza API OpenRouter i zestawu SDK dla Pythona, a także biblioteki NumPy do obsługi wektorowego magazynu danych przechowywanego w pamięci. Wdrożenia produkcyjne powinny zastąpić ten magazyn bazą danych wektorowych. Wskazówki OpenRouter dotyczące RAG przedstawiają ponowne szeregowanie jako kompromis między precyzją a opóźnieniem: może ono poprawić wyniki, gdy trzeba zawęzić szeroki zbiór kandydatów, ale wymaga dodatkowego wywołania API i jest mniej odpowiednie, gdy priorytetem jest minimalne opóźnienie.

Wyszukiwanie multimodalne wymaga obejścia. Embed 5 obsługuje obrazy oraz mieszane dane tekstowe i graficzne, takie jak strony PDF, a interfejs API do generowania osadzeń w OpenRouter przyjmuje adresy URL obrazów. Rerank 5 obsługuje jednak wyłącznie tekst. Proponowane rozwiązania to ponowne szeregowanie tekstu wyodrębnionego ze stron lub podpisów albo pominięcie ponownego szeregowania wyników wizualnych.

OpenRouter wymienia Cohere jako jedynego dostawcę obu modeli w wersji Pro i przekazuje do niego żądania bezpośrednio. W obu ofertach podano, że kierowanie ruchu w obrębie regionu UE jest niedostępne.

Dostępność w OpenRouter łączy integrację i rozliczenia całego stosu wyszukiwania, ale ekonomika jego działania w środowisku produkcyjnym nadal zależy od architektury: jednorazowego indeksowania w wersji Pro, cyklicznych zapytań w wersji Fast oraz wywołań ponownego rankowania i czatu, a także progu trafności, który określa kontekst generowania. Pojedyncze API nie eliminuje dodatkowych opóźnień, ograniczenia ponownego rankowania do tekstu ani ograniczeń dotyczących routingu regionalnego opisanych dla tego stosu.