KI-Modelle und Plattformen
Cohere bringt Embed 5 und Rerank 5 in die einheitliche API von OpenRouter
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Am 4. November 2026 gab Cohere bekannt, dass die Retrieval-Modelle Embed 5 und Rerank 5 auf OpenRouter verfügbar sind. Bestehende Nutzer können sie mit demselben API-Schlüssel und Guthaben wie andere Modelle aufrufen – ohne separate SDKs, Konten oder Rechnungen.
Die Modelle decken die Retrieval-Schritte einer Pipeline für retrievalgestützte Generierung (RAG) ab: Embed 5 wandelt Dokumente und Abfragen in Vektoren um, Rerank 5 bewertet Kandidaten anhand der Abfrage neu, und jedes Chatmodell auf OpenRouter kann die endgültige Antwort generieren. Cohere hat außerdem einen Python-Referenzworkflow veröffentlicht, der Indexierung, Retrieval, Relevanzfilterung und zitierte Generierung umfasst.
Der Preiseintrag für Embed 5 Pro auf OpenRouter nennt einen Preis von 0,12 $ pro Million Text-Tokens und 0,40 $ pro Million Bild-Tokens; Embed 5 Fast ist mit 0,08 $ pro Million Tokens aufgeführt. Der Preiseintrag für Rerank 5 Pro nennt für diese Stufe einen Preis von 0,05 $ pro Million Eingabe-Tokens und für Rerank 5 Fast 0,02 $ pro Million Tokens.
Die Einführung auf OpenRouter erweitert die Verfügbarkeit, statt eine weitere Modellgeneration einzuführen. Cohere stellte Embed 5 am 30. September 2026 und Rerank 5 am 21. Oktober 2026 vor; beide Modellfamilien bieten die Stufen Pro und Fast.
Gemeinsame Einbettungsräume trennen die Kosten für Indexierung und Abfragen
Das zentrale Architekturmerkmal ist, dass Embed 5 Pro und Fast denselben Einbettungsraum nutzen. Daher kann ein Korpus mit Pro indiziert und mit Fast abgefragt werden, ohne den Index neu aufzubauen, sofern auf beiden Seiten dieselben Ausgabedimensionen verwendet werden. So wird die Indexierungsarbeit, die pro Korpus nur einmal anfällt, von dem zeit- und kostenkritischen Einbettungsaufruf getrennt, der für jede Frage erforderlich ist.
In Cohere-Tests mit 40 Entwicklungsdatensätzen lag die normalisierte mittlere Retrieval-Qualität bei einem mit Pro erstellten und mit Fast abgefragten Index bei 98,4 und bei Fast auf beiden Seiten bei 96,6; Pro auf beiden Seiten erreichte einen Wert von 100. Der OpenRouter-Workflow übernimmt diese Kombination aus Pro für die Indexierung und Fast für Abfragen und setzt Pro ausschließlich für die Offline-Indexierung ein.
Embed 5 bietet sechs Vektorgrößen mit 256 bis 2.048 Dimensionen; standardmäßig sind es 2.048. Das OpenRouter-Beispiel verwendet 1.024-dimensionale Gleitkommavektoren, weil die Embeddings-API Gleitkommazahlen zurückgibt; Cohere empfiehlt unabhängig davon int8-Vektoren mit dieser Dimension als bevorzugten Kompromiss zwischen Qualität und Kosten. Das Bündeln von Textabschnitten verringert bei der Indexierung die Anzahl der Netzwerk-Rundreisen, senkt aber nicht die tokenbasierten Gebühren für Einbettungen. Im Online-Ablauf erfolgen pro Frage ein Aufruf von Embed 5 Fast, ein Aufruf von Rerank 5 und – sofern nach der Filterung Kontext übrig bleibt – ein Chat-Aufruf.
Relevanzwerte steuern den Kontext für die Generierung
Die Referenzpipeline ruft anhand der Kosinusähnlichkeit 20 Textabschnitte ab, übermittelt sie zusammen mit der Frage an Rerank 5, behält bis zu fünf Ergebnisse und verwirft solche mit einem Wert unter dem Demonstrations-Schwellenwert von 0,3. Beim Reranking werden die Abfrage und jeder Kandidat gemeinsam ausgewertet, statt sich nur auf die Nähe der Vektoren zu stützen. Es kann nach einer semantischen, einer Stichwort- oder einer hybriden Suche eingesetzt werden – auch ohne Embed 5.
Cohere zufolge bleiben die kalibrierten Werte von Rerank 5 über verschiedene Abfragen und Themenbereiche hinweg konsistent. Dadurch kann ein einziger Schwellenwert festlegen, welcher Kontext an ein generatives Modell weitergegeben wird; in der Einführungsdokumentation wird ein Wert von 0,7 als eine Wahrscheinlichkeit von 70 % beschrieben, dass ein Dokument nützlich ist. Pro ist für anspruchsvolle Schlussfolgerungen erfordernde Abfragen sowie lange oder fachspezifische Dokumente vorgesehen, während Fast auf Suchanwendungen mit hohem Anfragevolumen und Agenten ausgerichtet ist, die wiederholt suchen. Die Modelle unterstützen einen Kontext von 32K Tokens und können JSON-Datensätze oder als YAML-Zeichenfolgen formatierte Tabellen verarbeiten.
Bei der Generierung werden die übrig gebliebenen Textabschnitte zu nummerierten Quellen. Die Anweisungen geben vor, ausschließlich daraus zu antworten und die Quellen direkt im Text zu zitieren. Erreicht kein Ergebnis den Schwellenwert, meldet der Workflow, dass keine Antwort gefunden werden konnte, und überspringt den Aufruf des Chatmodells. Da Rerank zur Abfragezeit Rohtext auswertet, ist beim Wechsel der Reranker-Version weder eine Neuindexierung noch eine erneute Einbettung erforderlich.
Ergebnisse der Demonstration und Einschränkungen im Produktivbetrieb
In Cohere’s Demonstration werden fiktive API-Dokumentationen verwendet und wird gefragt, wie sich ein Schlüssel ohne Ausfallzeit austauschen lässt. Beim Retrieval nur anhand von Einbettungen landete das passende Dokument API-Schlüssel rotieren mit 0,522 auf dem ersten Platz, gefolgt von Webhook-Signaturgeheimnisse mit 0,337 und API-Schlüssel erstellen mit 0,316. Nach dem Reranking erreichte das passende Dokument einen Wert von 0,808, während beide ähnlichen Treffer unter den Grenzwert fielen.
Das Beispiel setzt Python 3.10 oder neuer, einen OpenRouter-API-Schlüssel und das Python-SDK sowie NumPy für den speicherinternen Vektorspeicher voraus. Für Produktivimplementierungen wird empfohlen, diesen Speicher durch eine Vektordatenbank zu ersetzen. Die RAG-Anleitung von OpenRouter stellt Reranking als Abwägung zwischen Präzision und Latenz dar: Es kann die Ergebnisse verbessern, wenn eine breite Kandidatenmenge eingegrenzt werden muss, verursacht aber einen zusätzlichen API-Aufruf und eignet sich weniger, wenn eine möglichst geringe Latenz Vorrang hat.
Für multimodales Retrieval ist eine Umgehungslösung erforderlich. Embed 5 akzeptiert Bilder und gemischte Text-Bild-Eingaben, etwa PDF-Seiten, und die Embeddings-API von OpenRouter unterstützt Bild-URLs; Rerank 5 kann jedoch nur Text verarbeiten. Als mögliche Lösungen werden vorgeschlagen, den ausgelesenen Seitentext oder Bildunterschriften neu zu ordnen oder bei visuellen Ergebnissen auf das Reranking zu verzichten.
OpenRouter führt Cohere als einzigen Anbieter für beide Pro-Modelle auf und leitet Anfragen direkt dorthin weiter. Beide Einträge geben an, dass ein Routing innerhalb der EU-Region nicht verfügbar ist.
Die Verfügbarkeit über OpenRouter bündelt die Integration und Abrechnung des Retrieval-Stacks, während dessen Kostenstruktur im Produktivbetrieb weiterhin von der Architektur abhängt: einmalige Pro-Indizierung, wiederkehrende Fast-Abfragen sowie Rerank- und Chat-Aufrufe und der Relevanzschwellenwert, der den Kontext für die Generierung steuert. Die einheitliche API hebt weder die zusätzliche Latenz noch das ausschließlich textbasierte Reranking oder die für diesen Stack dokumentierten Einschränkungen beim regionalen Routing auf.
