Cohere tar Embed 5 och Rerank 5 till OpenRouters enhetliga API

Cohere meddelade den 4 november 2026 att företagets sökmodeller Embed 5 och Rerank 5 nu finns på OpenRouter. Befintliga användare kan anropa dem med samma API-nyckel och krediter som för andra modeller, utan separata SDK:er, konton eller fakturor.

Modellerna täcker sökstegen i en pipeline för generering med förstärkt informationshämtning, eller RAG: Embed 5 omvandlar dokument och frågor till vektorer, Rerank 5 poängsätter kandidaterna på nytt utifrån frågan och valfri chattmodell på OpenRouter kan generera det slutliga svaret. Cohere publicerade också ett referensflöde i Python som omfattar indexering, sökning, relevansfiltrering och generering med källhänvisningar.

På OpenRouters listning för Embed 5 Pro anges priset till 0,12 dollar per miljon texttoken och 0,40 dollar per miljon bildtoken, medan Embed 5 Fast listas till 0,08 dollar per miljon token. På listningen för Rerank 5 Pro anges priset för den nivån till 0,05 dollar per miljon indatatoken och för Rerank 5 Fast till 0,02 dollar per miljon token.

Lanseringen på OpenRouter breddar distributionen i stället för att introducera en ny modellgeneration. Cohere presenterade Embed 5 den 30 september 2026 och Rerank 5 den 21 oktober 2026; båda modellfamiljerna finns i Pro- och Fast-versioner.

Delade inbäddningar skiljer kostnaderna för indexering och frågor åt

Den centrala arkitekturdetaljen är att Embed 5 Pro och Fast delar samma inbäddningsrum. En textsamling kan därför indexeras med Pro och genomsökas med Fast utan att indexet behöver byggas om, förutsatt att båda använder samma utmatningsdimensioner. På så sätt skiljs indexeringsarbetet, som utförs en gång per textsamling, från det inbäddningsanrop som görs för varje fråga och där både svarstid och kostnad spelar roll.

I Cohere:s tester på 40 utvecklingsdataset var den normaliserade genomsnittliga kvaliteten på informationshämtningen 98,4 för ett index som byggts med Pro och genomsökts med Fast, och 96,6 när Fast användes i båda stegen. Motsvarande värde var 100 när Pro användes i båda stegen. Arbetsflödet på OpenRouter använder kombinationen Pro för indexering och Fast för sökning, och reserverar Pro för indexeringssteget som körs offline.

Embed 5 erbjuder sex vektorstorlekar från 256 till 2 048 dimensioner, med 2 048 som standard. Exemplet på OpenRouter använder 1 024-dimensionella flyttalsvektorer eftersom deras inbäddnings-API returnerar flyttal; Cohere rekommenderar separat int8-vektorer med den dimensionen som den bästa avvägningen mellan kvalitet och kostnad. Genom att batcha textsegment minskar antalet nätverksförfrågningar under indexeringen, men inte de tokenbaserade avgifterna för inbäddningar. Vid varje fråga i det aktiva flödet görs ett anrop till Embed 5 Fast, ett till Rerank 5 och, om någon kontext återstår efter filtreringen, ett anrop till en chattmodell.

Relevanspoängen styr kontexten för genereringen

Referenspipelinen hämtar 20 textsegment med hjälp av cosinuslikhet, skickar dem tillsammans med frågan till Rerank 5, behåller upp till fem resultat och tar bort resultat med poäng under demonstrationens tröskelvärde på 0,3. Omrangordningen läser frågan och varje kandidat tillsammans i stället för att enbart förlita sig på vektorernas närhet, och kan användas efter semantisk sökning, nyckelordssökning eller hybridsökning utan Embed 5.

Cohere uppger att Rerank 5:s kalibrerade poäng är konsekventa mellan olika frågor och domäner, vilket gör att ett enda tröskelvärde kan avgöra vilken kontext som förs vidare till en genereringsmodell. I dokumentationen vid lanseringen beskrivs en poäng på 0,7 som en sannolikhet på 70 procent för att ett dokument är användbart. Pro är avsedd för resonemangskrävande frågor och långa dokument eller dokument inom specifika ämnesområden, medan Fast riktar sig till sökning i hög volym och agenter som söker upprepade gånger. Modellerna stöder en kontext på 32K token och kan hantera JSON-poster eller tabeller formaterade som YAML-strängar.

Vid genereringen blir de textsegment som återstår numrerade källor, och instruktionerna anger att svaret endast ska bygga på dem och hänvisa till dem direkt i texten. Om inget resultat når upp till tröskelvärdet meddelar arbetsflödet att svaret inte kunde hittas och hoppar över anropet till chattmodellen. Eftersom Rerank läser råtext vid frågetillfället kräver byte av omrangordningsversion ingen omindexering eller omgenerering av inbäddningar.

Resultat från demonstrationen och begränsningar i produktionsmiljö

Cohere:s demonstration använder fiktiv API-dokumentation och ställer frågan om hur man byter en nyckel utan driftstopp. Sökning enbart med inbäddningar placerade dokumentet Rotering av API-nycklar högst, med poängen 0,522. Därefter kom Hemligheter för signering av webhookar med 0,337 och Skapa API-nycklar med 0,316. Efter omrangordningen fick rätt dokument poängen 0,808, medan båda dokumenten med liknande innehåll hamnade under gränsvärdet.

Exemplet kräver Python 3.10 eller senare, en OpenRouter API-nyckel och Python-SDK:n samt NumPy för den vektorlagring som används i minnet. För produktionslösningar rekommenderas att lagringen ersätts med en vektordatabas. OpenRouters vägledning om RAG beskriver omrangordning som en avvägning mellan precision och svarstid: den kan förbättra resultaten när en bred uppsättning kandidater behöver begränsas, men innebär ett extra API-anrop och passar sämre när lägsta möjliga svarstid är prioriterad.

Multimodal sökning kräver en alternativ lösning. Embed 5 kan hantera bilder och blandade indata med text och bilder, till exempel PDF-sidor, och OpenRouters inbäddnings-API tar emot bild-URL:er, men Rerank kan endast hantera text. De föreslagna alternativen är att rangordna om tolkad sidtext eller bildtexter, eller att utelämna omrangordningen för visuella resultat.

OpenRouter listar Cohere som den enda leverantören för båda Pro-modellerna och vidarebefordrar förfrågningar direkt till företaget. I båda listningarna anges att dirigering inom EU inte är tillgänglig.

Tillgängligheten via OpenRouter samlar integrationen och faktureringen för stacken för informationshämtning, medan kostnadsekonomin i produktion fortfarande är knuten till arkitekturen: engångsindexering med Pro, återkommande anrop med Fast för sökningar, omrankning och chatt samt relevanströskeln som styr genereringskontexten. Det enhetliga API:t undanröjer inte den extra fördröjningen, begränsningen till textbaserad omrankning eller begränsningarna för regional routning som dokumenterats för stacken.