Cohere, Embed 5 और Rerank 5 को OpenRouter के एकीकृत API पर लाया

Cohere ने घोषणा की कि 4 नवंबर 2026 से उसके Embed 5 और Rerank 5 रिट्रीवल मॉडल OpenRouter पर उपलब्ध हैं। मौजूदा उपयोगकर्ता इन्हें अन्य मॉडलों की तरह उसी API कुंजी और क्रेडिट के साथ इस्तेमाल कर सकते हैं—अलग SDK, खाते या बिल की ज़रूरत नहीं होगी।

ये मॉडल रिट्रीवल-ऑगमेंटेड जनरेशन, यानी RAG पाइपलाइन के रिट्रीवल चरणों को संभालते हैं: Embed 5 दस्तावेज़ों और प्रश्नों को वेक्टर में बदलता है, Rerank 5 क्वेरी के आधार पर संभावित नतीजों को फिर से क्रमबद्ध करता है, और OpenRouter पर उपलब्ध कोई भी चैट मॉडल अंतिम जवाब तैयार कर सकता है। Cohere ने एक Python संदर्भ वर्कफ़्लो भी प्रकाशित किया है, जिसमें अनुक्रमण, रिट्रीवल, प्रासंगिकता फ़िल्टर करना और स्रोतों के हवाले के साथ जवाब तैयार करना शामिल है।

OpenRouter की Embed 5 Pro की सूची में मॉडल की कीमत प्रति दस लाख टेक्स्ट टोकन $0.12 और प्रति दस लाख इमेज टोकन $0.40 दी गई है; Embed 5 Fast की कीमत प्रति दस लाख टोकन $0.08 है। इसकी Rerank 5 Pro की सूची में उस स्तर की कीमत प्रति दस लाख इनपुट टोकन $0.05 और Rerank 5 Fast की कीमत प्रति दस लाख टोकन $0.02 दी गई है।

OpenRouter पर उपलब्धता बढ़ने से वितरण का दायरा बढ़ा है, न कि मॉडल की कोई नई पीढ़ी आई है। Cohere ने Embed 5 को 30 सितंबर 2026 और Rerank 5 को 21 अक्टूबर 2026 को पेश किया था; दोनों मॉडल परिवारों में Pro और Fast स्तर उपलब्ध हैं।

साझा एम्बेडिंग से अनुक्रमण और क्वेरी की लागत अलग-अलग होती है

इस संरचना की प्रमुख बात यह है कि Embed 5 Pro और Fast एक ही एम्बेडिंग स्पेस साझा करते हैं। इसलिए किसी कॉर्पस को Pro से अनुक्रमित करके Fast से उस पर क्वेरी की जा सकती है, बिना इंडेक्स दोबारा बनाए—बशर्ते दोनों ओर आउटपुट के आयाम समान हों। इससे अनुक्रमण का काम, जो हर कॉर्पस के लिए एक बार होता है, हर प्रश्न पर की जाने वाली उस एम्बेडिंग कॉल से अलग हो जाता है जिसकी लागत और विलंबता मायने रखती है।

40 विकास डेटासेट पर किए गए Cohere के परीक्षणों में, Pro से बनाए गए इंडेक्स पर Fast से क्वेरी करने पर सामान्यीकृत औसत रिट्रीवल गुणवत्ता 98.4 रही; दोनों ओर Fast इस्तेमाल करने पर यह 96.6 थी। दोनों ओर Pro इस्तेमाल करने पर यह 100 रही। OpenRouter का वर्कफ़्लो इसी Pro-से-अनुक्रमण और Fast-से-क्वेरी के संयोजन को अपनाता है और Pro का इस्तेमाल ऑफ़लाइन अनुक्रमण चरण तक सीमित रखता है।

Embed 5 में वेक्टर के छह आकार उपलब्ध हैं, जिनके आयाम 256 से 2,048 तक हैं; डिफ़ॉल्ट आकार 2,048 आयामों का है। OpenRouter के उदाहरण में 1,024 आयामों वाले फ़्लोटिंग-पॉइंट वेक्टर इस्तेमाल किए गए हैं, क्योंकि उसका एम्बेडिंग API फ़्लोट लौटाता है। Cohere इसी आयाम पर int8 वेक्टर को गुणवत्ता और लागत के बीच अपना पसंदीदा संतुलन बताता है। अनुक्रमण के दौरान चंक्स को बैच में भेजने से नेटवर्क राउंड ट्रिप कम होते हैं, लेकिन टोकन के आधार पर लगने वाला एम्बेडिंग शुल्क कम नहीं होता। ऑनलाइन प्रक्रिया में हर प्रश्न के लिए Embed 5 Fast की एक कॉल, Rerank 5 की एक कॉल और—यदि फ़िल्टर के बाद संदर्भ बचता है—चैट की एक कॉल होती है।

प्रासंगिकता स्कोर तय करते हैं कि जनरेशन में कौन-सा संदर्भ जाए

संदर्भ पाइपलाइन कोसाइन समानता के आधार पर 20 चंक्स निकालती है और उन्हें प्रश्न के साथ Rerank 5 को भेजती है। इसके बाद अधिकतम पाँच नतीजे रखे जाते हैं और 0.3 की प्रदर्शन-सीमा से कम स्कोर वाले नतीजे हटा दिए जाते हैं। पुनः रैंकिंग में केवल वेक्टर की निकटता पर निर्भर रहने के बजाय प्रश्न और हर संभावित नतीजे को साथ पढ़ा जाता है। इसे Embed 5 के बिना सिमैंटिक, कीवर्ड या हाइब्रिड खोज के बाद भी इस्तेमाल किया जा सकता है।

Cohere के अनुसार, Rerank 5 के कैलिब्रेट किए गए स्कोर अलग-अलग क्वेरी और डोमेन में एकसमान रहते हैं, जिससे एक ही सीमा के आधार पर तय किया जा सकता है कि जनरेटर तक कौन-सा संदर्भ पहुँचे। इसके लॉन्च दस्तावेज़ों में 0.7 के स्कोर को इस 70% संभावना के रूप में समझाया गया है कि कोई दस्तावेज़ उपयोगी है। Pro को तर्क-विचार की अधिक माँग करने वाली क्वेरी और लंबे या किसी विशिष्ट डोमेन के दस्तावेज़ों के लिए बनाया गया है, जबकि Fast अधिक मात्रा वाली खोज और बार-बार खोज करने वाले एजेंटों के लिए है। ये मॉडल 32K टोकन के संदर्भ को सपोर्ट करते हैं और JSON रिकॉर्ड या YAML स्ट्रिंग के रूप में फ़ॉर्मैट की गई तालिकाओं को संसाधित कर सकते हैं।

जवाब तैयार करते समय, फ़िल्टर में बचे चंक्स को क्रमांकित स्रोतों में बदला जाता है और निर्देश दिए जाते हैं कि जवाब केवल उन्हीं के आधार पर दें तथा जवाब में ही स्रोतों का हवाला दें। यदि कोई भी नतीजा सीमा पार नहीं करता, तो वर्कफ़्लो बताता है कि उसे जवाब नहीं मिला और चैट मॉडल को कॉल नहीं करता। चूँकि Rerank क्वेरी के समय मूल टेक्स्ट पढ़ता है, इसलिए रीरैंकर के संस्करण बदलने के लिए न तो दोबारा अनुक्रमण करना पड़ता है, न ही दोबारा एम्बेडिंग।

प्रदर्शन के नतीजे और उत्पादन संबंधी सीमाएँ

Cohere के प्रदर्शन में काल्पनिक API दस्तावेज़ों का इस्तेमाल किया गया है और पूछा गया है कि बिना किसी रुकावट के कुंजी कैसे बदली जाए। केवल एम्बेडिंग पर आधारित रिट्रीवल में सही दस्तावेज़ API कुंजियों को बदलना 0.522 स्कोर के साथ पहले स्थान पर था। इसके बाद वेबहुक साइनिंग सीक्रेट 0.337 और API कुंजियाँ बनाना 0.316 स्कोर के साथ आए। पुनः रैंकिंग के बाद सही दस्तावेज़ का स्कोर 0.808 रहा और दोनों मिलते-जुलते नतीजों के स्कोर तय सीमा से नीचे चले गए।

इस उदाहरण के लिए Python 3.10 या नया संस्करण, OpenRouter API कुंजी और Python SDK, तथा मेमोरी में वेक्टर स्टोर के लिए NumPy चाहिए। उत्पादन में लागू करते समय इस स्टोर की जगह वेक्टर डेटाबेस इस्तेमाल करने का निर्देश है। OpenRouter की RAG संबंधी मार्गदर्शिका में रीरैंकिंग को सटीकता और विलंबता के बीच का चुनाव बताया गया है: जब संभावित नतीजों के बड़े समूह को छाँटना हो, तो इससे नतीजे बेहतर हो सकते हैं; लेकिन इसके लिए एक अतिरिक्त API कॉल करनी पड़ती है और जहाँ न्यूनतम विलंबता प्राथमिकता हो, वहाँ यह कम उपयुक्त है।

बहुविध रिट्रीवल के लिए एक वैकल्पिक उपाय चाहिए। Embed 5 इमेज और टेक्स्ट-इमेज के मिले-जुले इनपुट, जैसे PDF के पन्ने, स्वीकार करता है और OpenRouter का एम्बेडिंग API इमेज URL भी स्वीकार करता है; लेकिन Rerank 5 केवल टेक्स्ट पर काम करता है। सुझाए गए विकल्प हैं—पन्नों से निकाले गए टेक्स्ट या कैप्शन को फिर से क्रमबद्ध करना, या दृश्य नतीजों के लिए रीरैंकिंग छोड़ देना।

OpenRouter, दोनों Pro मॉडलों के लिए Cohere को एकमात्र प्रदाता के रूप में सूचीबद्ध करता है और अनुरोध सीधे उसी को भेजता है। दोनों सूचियों में बताया गया है कि EU के भीतर क्षेत्रीय रूटिंग उपलब्ध नहीं है।

OpenRouter की उपलब्धता रिट्रीवल स्टैक के एकीकरण और बिलिंग को समेकित करती है, जबकि उत्पादन में इसकी लागत-व्यवस्था अब भी आर्किटेक्चर पर निर्भर है: एक बार होने वाली Pro इंडेक्सिंग, बार-बार किए जाने वाले Fast क्वेरी, री-रैंकिंग और चैट कॉल, तथा वह प्रासंगिकता सीमा जो जनरेशन के संदर्भ को नियंत्रित करती है। एकल API इस स्टैक के लिए दर्ज अतिरिक्त विलंबता, केवल-पाठ री-रैंकिंग या क्षेत्रीय रूटिंग की पाबंदियों को दूर नहीं करती।