Cohere aduce Embed 5 și Rerank 5 în API-ul unificat OpenRouter

Cohere a anunțat pe 4 noiembrie 2026 că modelele sale de regăsire Embed 5 și Rerank 5 sunt disponibile pe OpenRouter. Utilizatorii existenți le pot accesa folosind aceeași cheie API și aceleași credite ca pentru celelalte modele, fără SDK-uri, conturi sau facturi separate.

Modelele acoperă etapele de regăsire dintr-un flux de lucru de tip generare augmentată prin regăsire sau RAG: Embed 5 transformă documentele și interogările în vectori, Rerank 5 recalculează scorurile candidaților în raport cu interogarea, iar orice model de chat disponibil pe OpenRouter poate genera răspunsul final. Cohere a publicat și un flux de lucru de referință în Python, care acoperă indexarea, regăsirea, filtrarea după relevanță și generarea cu citări.

Listarea Embed 5 Pro pe OpenRouter afișează un preț de 0,12 $ pentru fiecare milion de tokeni de text și de 0,40 $ pentru fiecare milion de tokeni de imagine, iar Embed 5 Fast este listat la 0,08 $ pentru fiecare milion de tokeni. Listarea Rerank 5 Pro afișează un preț de 0,05 $ pentru fiecare milion de tokeni de intrare pentru acest nivel, iar Rerank 5 Fast costă 0,02 $ pentru fiecare milion de tokeni.

Lansarea pe OpenRouter extinde distribuția, fără a introduce o nouă generație de modele. Cohere a lansat Embed 5 pe 30 septembrie 2026 și Rerank 5 pe 21 octombrie 2026; ambele familii oferă nivelurile Pro și Fast.

Spațiul comun de vectori separă costurile indexării de cele ale interogărilor

Detaliul arhitectural esențial este că Embed 5 Pro și Fast folosesc același spațiu de vectori. Astfel, un corpus poate fi indexat cu Pro și interogat cu Fast fără reconstruirea indexului, cu condiția ca ambele să folosească aceleași dimensiuni de ieșire. În acest fel, munca de indexare, efectuată o singură dată pentru fiecare corpus, este separată de apelul de generare a vectorilor, sensibil la latență și cost, efectuat pentru fiecare întrebare.

În testele Cohere pe 40 de seturi de date de dezvoltare, calitatea medie normalizată a regăsirii a fost de 98,4 pentru un index construit cu Pro și interogat cu Fast și de 96,6 când s-a folosit Fast în ambele etape, față de 100 când s-a folosit Pro în ambele etape. Fluxul de lucru OpenRouter adoptă această combinație — indexare cu Pro și interogare cu Fast — rezervând Pro pentru etapa de indexare offline.

Embed 5 oferă șase dimensiuni ale vectorilor, între 256 și 2.048, valoarea implicită fiind 2.048. Exemplul OpenRouter folosește vectori în virgulă mobilă cu 1.024 de dimensiuni, deoarece API-ul său pentru vectori de reprezentare returnează valori în virgulă mobilă; separat, Cohere recomandă vectori int8 la această dimensiune, considerându-i varianta optimă pentru raportul dintre calitate și cost. Gruparea fragmentelor reduce numărul de apeluri de rețea în timpul indexării, dar nu micșorează costurile de generare a vectorilor, calculate în funcție de numărul de tokeni. Pentru fiecare întrebare, fluxul de lucru online folosește un apel Embed 5 Fast, un apel Rerank 5 și, dacă este păstrat contextul după filtrare, un apel către un model de chat.

Scorurile de relevanță controlează contextul folosit la generare

Fluxul de lucru de referință regăsește 20 de fragmente folosind similaritatea cosinus, le trimite împreună cu întrebarea către Rerank 5, păstrează cel mult cinci rezultate și elimină scorurile sub pragul demonstrativ de 0,3. Reordonarea după relevanță analizează împreună interogarea și fiecare candidat, în loc să se bazeze doar pe proximitatea vectorilor, și poate fi aplicată după căutări semantice, pe bază de cuvinte-cheie sau hibride, fără Embed 5.

Cohere afirmă că scorurile calibrate ale Rerank 5 rămân consecvente de la o interogare și un domeniu la altul, permițând folosirea unui singur prag pentru a decide ce context ajunge la modelul generator; documentația de lansare descrie un scor de 0,7 ca indicând o probabilitate de 70% ca un document să fie util. Pro este destinat interogărilor care necesită raționamente complexe și documentelor lungi sau specializate, în timp ce Fast vizează căutările de volum mare și agenții care efectuează căutări în mod repetat. Modelele acceptă un context de 32K de tokeni și pot procesa înregistrări JSON sau tabele formatate ca șiruri YAML.

În etapa de generare, fragmentele păstrate devin surse numerotate, iar instrucțiunile cer ca răspunsul să se bazeze numai pe acestea și să le citeze în text. Dacă niciun fragment nu depășește pragul, fluxul de lucru semnalează că nu a găsit răspunsul și omite apelul către modelul de chat. Deoarece Rerank citește textul brut în momentul interogării, schimbarea versiunii modelului de reordonare nu necesită reindexare sau regenerarea vectorilor.

Rezultatele demonstrației și constrângerile de producție

Demonstrația Cohere folosește documentație API fictivă și pune întrebarea cum poate fi rotită o cheie fără întreruperi. Regăsirea bazată exclusiv pe vectorii de reprezentare a clasat pe primul loc documentul corect, Rotirea cheilor API, cu scorul 0,522, urmat de Secretele de semnare a webhookurilor, cu 0,337, și Crearea cheilor API, cu 0,316. După reordonarea după relevanță, documentul corect a obținut scorul 0,808, iar ambele rezultate similare au coborât sub prag.

Exemplul necesită Python 3.10 sau o versiune mai nouă, o cheie API OpenRouter și SDK-ul Python, precum și NumPy pentru stocarea vectorilor în memorie. Pentru implementările de producție, se recomandă înlocuirea acestui spațiu de stocare cu o bază de date vectorială. Recomandările OpenRouter privind RAG prezintă reordonarea după relevanță ca pe o alegere între precizie și latență: aceasta poate îmbunătăți rezultatele când trebuie restrâns un set larg de candidați, dar adaugă un apel API și este mai puțin potrivită când prioritatea este latența minimă.

Regăsirea multimodală necesită o soluție alternativă. Embed 5 acceptă imagini și intrări mixte de text și imagini, precum paginile PDF, iar API-ul OpenRouter pentru vectori de reprezentare acceptă URL-uri de imagini, însă Rerank 5 funcționează numai cu text. Opțiunile propuse sunt reordonarea textului extras din pagini sau a legendelor ori omiterea reordonării pentru rezultatele vizuale.

OpenRouter îl listează pe Cohere drept singurul furnizor pentru ambele modele Pro și îi transmite cererile direct. Ambele listări precizează că rutarea în regiunea UE nu este disponibilă.

Disponibilitatea prin OpenRouter reunește integrarea și facturarea stivei de regăsire, în timp ce costurile acesteia în producție depind în continuare de arhitectură: indexarea Pro, efectuată o singură dată, apelurile recurente Fast pentru interogare, rerank și chat, precum și pragul de relevanță care controlează contextul generării. API-ul unic nu elimină latența suplimentară, rerangarea exclusivă a textului sau constrângerile de rutare regională documentate pentru această stivă.