Cohere tar Embed 5 og Rerank 5 inn i OpenRouters samlede API

Cohere kunngjorde 4. november 2026 at Cohere-modellene Embed 5 og Rerank 5 for informasjonsgjenfinning er tilgjengelige på OpenRouter. Eksisterende brukere kan bruke dem med samme API-nøkkel og kreditter som for andre modeller, uten separate SDK-er, kontoer eller fakturaer.

Modellene dekker gjenfinningsfasene i en arbeidsflyt for gjenfinningsforsterket generering, eller RAG: Embed 5 gjør dokumenter og søk om til vektorer, Rerank 5 beregner poengsummene for kandidatene på nytt ut fra søket, og enhver chatmodell på OpenRouter kan generere det endelige svaret. Cohere publiserte også en Python-referansearbeidsflyt som omfatter indeksering, gjenfinning, relevansfiltrering og generering med kildehenvisninger.

OpenRouters oppføring for Embed 5 Pro oppgir en pris på 0,12 dollar per million teksttokener og 0,40 dollar per million bildetokener, mens Embed 5 Fast er oppført til 0,08 dollar per million tokener. Oppføringen for Rerank 5 Pro oppgir en pris på 0,05 dollar per million inndatatokener for denne versjonen, og Rerank 5 Fast koster 0,02 dollar per million tokener.

Lanseringen på OpenRouter utvider distribusjonen i stedet for å introdusere en ny modellgenerasjon. Cohere lanserte Embed 5 30. september 2026 og Rerank 5 21. oktober 2026; begge modellfamiliene finnes i Pro- og Fast-versjoner.

Felles embeddings skiller mellom indekserings- og søkekostnader

Det sentrale arkitekturtrekket er at Embed 5 Pro og Fast deler embeddingrom. Et korpus kan derfor indekseres med Pro og søkes gjennom med Fast uten at indeksen må bygges på nytt, forutsatt at begge bruker samme dimensjoner på utdataene. Dermed skilles indekseringsarbeidet, som utføres én gang per korpus, fra embedding-kallet for hvert spørsmål, der både forsinkelse og kostnad er viktige hensyn.

I Cohere-tester på 40 utviklingsdatasett var den normaliserte gjennomsnittlige gjenfinningskvaliteten 98,4 for en indeks bygget med Pro og søkt gjennom med Fast, og 96,6 når Fast ble brukt på begge sider, sammenlignet med 100 når Pro ble brukt på begge sider. OpenRouter-arbeidsflyten bruker denne kombinasjonen av Pro-indeksering og Fast-søk, og reserverer Pro for den frakoblede indekseringsfasen.

Embed 5 tilbyr seks vektorstørrelser fra 256 til 2 048 dimensjoner, med 2 048 som standard. OpenRouter-eksemplet bruker 1 024-dimensjonale flyttallsvektorer fordi embeddings-API-et deres returnerer flyttall; Cohere anbefaler separat int8-vektorer med denne dimensjonen som det foretrukne forholdet mellom kvalitet og kostnad. Bunting av tekstbiter reduserer antallet nettverksrundturer under indekseringen, men reduserer ikke kostnadene for embeddings, som beregnes per token. Den nettbaserte arbeidsflyten bruker ett kall til Embed 5 Fast, ett kall til Rerank 5 og, dersom konteksten slipper gjennom filteret, ett chatkall per spørsmål.

Relevanspoeng styrer konteksten som brukes til generering

Referansearbeidsflyten henter 20 tekstbiter ved hjelp av cosinuslikhet, sender dem sammen med spørsmålet til Rerank 5, beholder opptil fem resultater og forkaster resultater med poeng under demonstrasjonsterskelen på 0,3. Omrangeringen vurderer søket og hver kandidat samlet i stedet for bare å basere seg på vektorlikhet, og kan brukes etter semantisk søk, nøkkelordsøk eller hybridsøk uten Embed 5.

Cohere sier at de kalibrerte poengene til Rerank 5 er konsistente på tvers av søk og domener, slik at én terskel kan avgjøre hvilken kontekst som sendes videre til en generator; lanseringsdokumentasjonen beskriver en poengsum på 0,7 som en sannsynlighet på 70 % for at et dokument er nyttig. Pro er beregnet på resonneringstunge søk og lange eller domenespesifikke dokumenter, mens Fast er rettet mot søk med høyt volum og agenter som søker gjentatte ganger. Modellene støtter en kontekst på 32K tokener og kan behandle JSON-poster eller tabeller formatert som YAML-strenger.

Under genereringen blir tekstbitene som slipper gjennom, til nummererte kilder, og modellen får instruks om bare å svare ut fra dem og vise til dem direkte i teksten. Hvis ingen av dem når terskelen, rapporterer arbeidsflyten at den ikke fant svaret, og hopper over kallet til chatmodellen. Fordi Rerank leser ren tekst på søketidspunktet, krever bytte av omrangeringsversjon ingen ny indeksering eller generering av embeddings på nytt.

Demonstrasjonsresultater og begrensninger i produksjon

Cohere-demonstrasjonen bruker fiktiv API-dokumentasjon og spør hvordan man kan rotere en nøkkel uten nedetid. Gjenfinning basert bare på embeddings rangerte det riktige dokumentet, Rotering av API-nøkler, øverst med 0,522, fulgt av Hemmeligheter for webhook-signering med 0,337 og Opprette API-nøkler med 0,316. Etter omrangeringen fikk det riktige dokumentet 0,808, mens begge dokumentene med lignende innhold falt under grenseverdien.

Eksemplet krever Python 3.10 eller nyere, en OpenRouter-API-nøkkel og Python-SDK, samt NumPy for vektorlageret i minnet. Det anbefales at produksjonsløsninger erstatter dette lageret med en vektordatabase. OpenRouters veiledning for RAG beskriver omrangering som et valg mellom presisjon og forsinkelse: Det kan forbedre resultatene når en bred kandidatgruppe må snevres inn, men legger til et API-kall og egner seg dårligere når lavest mulig forsinkelse er viktigst.

Multimodal gjenfinning krever en alternativ løsning. Embed 5 godtar bilder og blandede inndata med tekst og bilder, for eksempel PDF-sider, og OpenRouters embeddings-API godtar bilde-URL-er, men Rerank 5 håndterer bare tekst. De foreslåtte alternativene er å omrangere uttrukket sidetekst eller bildetekster, eller å utelate omrangering for visuelle resultater.

OpenRouter oppgir Cohere som eneste leverandør for begge Pro-modellene og videresender forespørsler direkte til Cohere. Begge oppføringene opplyser at ruting innenfor EU-regionen ikke er tilgjengelig.

Tilgjengeligheten via OpenRouter samler integrasjonen og faktureringen for gjenfinningsstakken, mens kostnadsbildet i produksjon fortsatt avhenger av arkitekturen: engangsindeksering med Pro, gjentatte Fast-kall for spørringer, omrangering og chat, samt relevansgrensen som styrer konteksten for genereringen. Det felles API-et fjerner ikke begrensningene knyttet til den ekstra forsinkelsen, omrangering av bare tekst eller regional ruting som er dokumentert for denne stakken.