Cohere bringer Embed 5 og Rerank 5 til OpenRouters samlede API

Cohere meddelte den 4. november 2026, at virksomhedens søgemodeller Embed 5 og Rerank 5 er tilgængelige på OpenRouter. Eksisterende brugere kan kalde dem med den samme API-nøgle og de samme kreditter som andre modeller uden separate SDK’er, konti eller regninger.

Modellerne dækker søgetrinnene i en pipeline til generering med hentningsforstærkning (RAG): Embed 5 omdanner dokumenter og forespørgsler til vektorer, Rerank 5 scorer kandidaterne på ny i forhold til forespørgslen, og enhver chatmodel på OpenRouter kan generere det endelige svar. Cohere har også offentliggjort en Python-referencearbejdsgang, der spænder over indeksering, søgning, relevansfiltrering og generering med kildehenvisninger.

OpenRouters oversigt over Embed 5 Pro angiver en pris på $0,12 pr. million teksttokens og $0,40 pr. million billedtokens, mens Embed 5 Fast står til $0,08 pr. million tokens. Oversigten over Rerank 5 Pro angiver en pris på $0,05 pr. million inputtokens for Pro-niveauet og $0,02 pr. million tokens for Rerank 5 Fast.

Lanceringen på OpenRouter udvider distributionen i stedet for at introducere en ny modelgeneration. Cohere lancerede Embed 5 den 30. september 2026 og Rerank 5 den 21. oktober 2026; begge modelserier fås i Pro- og Fast-niveauer.

Fælles embeddings adskiller omkostningerne til indeksering og forespørgsler

Den centrale arkitektoniske detalje er, at Embed 5 Pro og Fast deler et embeddingsrum. Et korpus kan derfor indekseres med Pro og søges igennem med Fast uden at genopbygge indekset, forudsat at begge bruger samme outputdimensioner. Det adskiller indekseringsarbejdet, som udføres én gang pr. korpus, fra det embeddingkald, der foretages for hvert spørgsmål, og hvor både latenstid og omkostninger er vigtige.

I Cohere-test på tværs af 40 udviklingsdatasæt var den normaliserede gennemsnitlige søgekvalitet 98,4 for et indeks opbygget med Pro og søgt igennem med Fast og 96,6 med Fast på begge sider, sammenlignet med 100 med Pro på begge sider. Arbejdsgangen på OpenRouter benytter denne kombination af Pro til indeksering og Fast til forespørgsler og reserverer Pro til den offline indekseringsfase.

Embed 5 tilbyder seks vektorstørrelser fra 256 til 2.048 dimensioner, hvor 2.048 er standardindstillingen. Eksemplet på OpenRouter bruger 1.024-dimensionelle flydende kommatal, fordi deres embeddings-API returnerer flydende kommatal; Cohere anbefaler særskilt int8-vektorer med den dimension som den bedste balance mellem kvalitet og omkostninger. Samling af tekststykker i batches reducerer antallet af netværksrundture under indeksering, men mindsker ikke de tokenbaserede embeddingomkostninger. I den løbende arbejdsgang foretages ét Embed 5 Fast-kald, ét Rerank 5-kald og, hvis noget kontekst består filtreringen, ét chatkald pr. spørgsmål.

Relevansscorer styrer konteksten til genereringen

Referencepipelinen finder 20 tekststykker ved hjælp af cosinuslighed, sender dem sammen med spørgsmålet til Rerank 5, beholder op til fem resultater og frasorterer scorer under demonstrationstærsklen på 0,3. Omrangeringen læser forespørgslen og hver kandidat samlet i stedet for kun at basere sig på vektorernes nærhed, og den kan bruges efter semantisk søgning, søgning på nøgleord eller hybridsøgning uden Embed 5.

Cohere oplyser, at Rerank 5’s kalibrerede scorer forbliver konsistente på tværs af forespørgsler og domæner, så én tærskel kan afgøre, hvilken kontekst der sendes videre til en generator; lanceringsdokumentationen beskriver en score på 0,7 som en sandsynlighed på 70 % for, at et dokument er nyttigt. Pro er beregnet til forespørgsler, der kræver omfattende ræsonnement, samt lange eller domænespecifikke dokumenter, mens Fast er målrettet søgning med stor volumen og agenter, der søger gentagne gange. Modellerne understøtter en kontekst på 32K tokens og kan behandle JSON-poster eller tabeller formateret som YAML-strenge.

Under genereringen bliver de tekststykker, der består filtreringen, til nummererede kilder, og instruktionerne siger, at svaret kun må bygge på dem, og at der skal henvises til dem i teksten. Hvis ingen når over tærsklen, meddeler arbejdsgangen, at den ikke kunne finde svaret, og springer chatmodelkaldet over. Da Rerank læser rå tekst på forespørgselstidspunktet, kræver skift mellem versioner af omrangeringsmodellen hverken ny indeksering eller nye embeddings.

Demonstrationsresultater og begrænsninger i produktion

Cohere-demonstrationen bruger fiktiv API-dokumentation og spørger, hvordan man udskifter en nøgle uden nedetid. Søgning udelukkende med embeddings placerede det korrekte dokument Rotation af API-nøgler øverst med en score på 0,522, efterfulgt af Signeringshemmeligheder til webhook med 0,337 og Oprettelse af API-nøgler med 0,316. Efter omrangeringen fik det korrekte dokument en score på 0,808, mens begge nært beslægtede resultater kom under grænsen.

Eksemplet kræver Python 3.10 eller nyere, en OpenRouter API-nøgle og et Python-SDK samt NumPy til det vektorlager, der opbevares i hukommelsen. Det anbefales at erstatte dette lager med en vektordatabase i produktionsimplementeringer. OpenRouters vejledning i RAG beskriver omrangering som et valg mellem præcision og latenstid: Den kan forbedre resultaterne, når en bred kandidatliste skal indsnævres, men tilføjer et API-kald og er mindre velegnet, når mindst mulig latenstid er førsteprioritet.

Multimodal søgning kræver en alternativ løsning. Embed 5 accepterer billeder og blandede tekst- og billedinput såsom PDF-sider, og OpenRouters embeddings-API accepterer billed-URL’er, men Rerank 5 kan kun behandle tekst. De foreslåede muligheder er at omrangere udtrukket sidetekst eller billedtekster eller at undlade omrangering af visuelle resultater.

OpenRouter angiver Cohere som den eneste udbyder af begge Pro-modeller og videresender anmodninger direkte til virksomheden. Det fremgår af begge oversigter, at rutning inden for EU ikke er tilgængelig.

Tilgængeligheden via OpenRouter samler søgestakkens integration og fakturering, mens driftsøkonomien fortsat afhænger af arkitekturen: engangsindeksering med Pro, tilbagevendende forespørgsler med Fast samt kald til rerangering og chat og den relevansgrænse, der styrer genereringskonteksten. Den samlede API fjerner ikke de ekstra forsinkelser, begrænsningen til rerangering af tekst alene eller begrænsningerne for regional routing, der er dokumenteret for denne stak.