Cohere ने Model Vault पर गोपनीय कंप्यूटिंग का सार्वजनिक बीटा लॉन्च किया

Cohere ने 22 अक्टूबर, 2026 को Cohere Model Vault पर गोपनीय कंप्यूटिंग का सार्वजनिक बीटा घोषित किया। Cohere Model Vault संवेदनशील डेटा संसाधित करने वाले उद्यमों के लिए एक समर्पित, पूरी तरह प्रबंधित मॉडल इन्फ़रेंस प्लेटफ़ॉर्म है, जो Microsoft Azure पर NVIDIA H100 GPU के साथ चलता है।

इस लॉन्च से Model Vault का दायरा अब उन कार्यभारों तक बढ़ गया है जिनमें नैदानिक रिकॉर्ड, वित्तीय जानकारी, विशेषाधिकार-प्राप्त दस्तावेज़, बौद्धिक संपदा और मालिकाना स्रोत कोड शामिल हैं। Cohere ने कहा कि इसका लक्ष्य उद्यमों को प्रबंधित AI की क्षमताओं और संचालन की सरलता का लाभ लेने देना है, साथ ही उनका संवेदनशील सादा-पाठ डेटा सेवा चलाने वाले बुनियादी ढाँचे की पहुँच से बाहर रखना है। कंपनी ने संभावित कार्यभारों में वित्तीय सेवा क्षेत्र में धोखाधड़ी की जाँच, कानूनी टीमों के लिए विशेषाधिकार-प्राप्त दस्तावेज़ों की खोज और उचित जाँच-पड़ताल, संवेदनशील सार्वजनिक क्षेत्र की जानकारी, पेटेंट और शोध सामग्री, मालिकाना इंजीनियरिंग और इंटरफ़ेस डिज़ाइन दस्तावेज़, तथा मालिकाना स्रोत कोड में खोज और उसका विश्लेषण शामिल किए हैं।

बीटा में भूमिकाओं के बँटवारे के तहत, Microsoft Azure अंतर्निहित गोपनीय कंप्यूटिंग बुनियादी ढाँचा उपलब्ध कराता है, NVIDIA Confidential Computing यह सुरक्षा H100 GPU तक पहुँचाता है, और Cohere Model Vault के ज़रिए प्रबंधित मॉडल सेवा, अनुरोधों के लिए एन्क्रिप्टेड मार्ग, रिमोट अटेस्टेशन और ग्राहक-पक्षीय सत्यापन उपलब्ध कराता है। कंपनी के अनुसार, ग्राहक Model Vault के ज़रिए एन्क्रिप्टेड वॉल्ट स्थापित और प्रबंधित कर सकते हैं, उन्हें उन्हीं Cohere API के माध्यम से जोड़ सकते हैं और vault.cohere.com पर शुरुआत कर सकते हैं।

गोपनीय निष्पादन और एन्क्रिप्टेड अनुरोध मार्ग

गोपनीय कंप्यूटिंग का लक्ष्य उपयोग के दौरान मौजूद डेटा की सुरक्षा करना है—यानी उस जानकारी की, जिसे मॉडल सक्रिय रूप से संसाधित कर रहा हो। यह डेटा की एक तीसरी अवस्था है, जो उस डेटा से अलग है जिसे एन्क्रिप्शन आम तौर पर संग्रहीत रहने या एक जगह से दूसरी जगह भेजे जाने के दौरान सुरक्षित रखता है। Model Vault में मॉडल सेवा देने वाला पूरा सॉफ़्टवेयर ढाँचा—जिसमें ऑपरेटिंग सिस्टम, ड्राइवर और इन्फ़रेंस सर्वर शामिल हैं—एक गोपनीय वर्चुअल मशीन के भीतर चलता है। Cohere ने लॉन्च के साथ प्रकाशित विस्तृत तकनीकी विश्लेषण में बताया कि हार्डवेयर-आधारित पृथक्करण इस मशीन की मेमोरी को होस्ट परिवेश से सुरक्षित रखता है और नीतियाँ इसके परिवेश में केवल स्वीकृत सॉफ़्टवेयर चलने देती हैं, जबकि ऑपरेटरों के पास चलते हुए कार्यभार तक पहुँचने का कोई इंटरैक्टिव तरीका नहीं होता। NVIDIA Confidential Computing GPU की मेमोरी को सुरक्षित रखता है और CPU तथा GPU के बीच होने वाले संचार को एन्क्रिप्ट करता है। इस तरह गोपनीय सुरक्षा-सीमा इन्फ़रेंस करने वाले एक्सेलरेटर को भी अपने दायरे में लेती है; यह उस CPU पर ही समाप्त नहीं होती जो इन्फ़रेंस का समन्वय करता है।

अनुरोध को भी अलग से सुरक्षा दी जाती है। Model Vault अनुरोध की संवेदनशील सामग्री को उस सार्वजनिक कुंजी से एन्क्रिप्ट करने के लिए Oblivious HTTP, यानी OHTTP, का उपयोग करता है जो अटेस्ट किए गए गोपनीय परिवेश से जुड़ी होती है। एन्क्रिप्टेड संदेश मध्यवर्ती बुनियादी ढाँचे से होकर सिफ़रटेक्स्ट के रूप में गुजरता है; उससे मेल खाने वाली निजी कुंजी केवल परिवेश के भीतर मौजूद OHTTP गेटवे के पास होती है। लौटते समय प्रतिक्रियाओं को भी यही सुरक्षा दी जाती है। Cohere के अनुसार, इससे प्लेटफ़ॉर्म चलाने और ग्राहक द्वारा भेजी गई सामग्री पढ़ पाने की क्षमता अलग-अलग रहती हैं, क्योंकि मध्यस्थ सादे-पाठ पेलोड देखे बिना भी ट्रैफ़िक को आगे भेज सकते हैं। ऐप्लिकेशन Model Vault API और अनुरोध के परिचित प्रारूपों का उपयोग जारी रखते हैं; सुरक्षा क्लाइंट और बुनियादी ढाँचे की परतों में लागू की जाती है, इसलिए पेलोड को नए सिरे से डिज़ाइन करने की ज़रूरत नहीं पड़ती।

सक्रिय नियंत्रण के रूप में रिमोट अटेस्टेशन

सुरक्षित अनुरोध भेजे जाने से पहले, गोपनीय परिवेश अपने हार्डवेयर, फ़र्मवेयर, ऑपरेटिंग परिवेश और ऐप्लिकेशन सॉफ़्टवेयर के मापों तथा सुरक्षा से जुड़ी विशेषताओं को दर्ज करने वाला क्रिप्टोग्राफ़िक रूप से हस्ताक्षरित प्रमाण तैयार करता है। ग्राहक-पक्षीय सॉफ़्टवेयर इस प्रमाण की जाँच एक स्वीकृत नीति के अनुसार करता है। प्रमाण दर्ज करता है कि वास्तव में कौन-सा परिवेश चल रहा है; नीति यह तय करती है कि डेटा सौंपने के लिए उस परिवेश पर भरोसा किया जाना चाहिए या नहीं। यदि कोई अनिवार्य विशेषता मेल नहीं खाती—उदाहरण के लिए, सॉफ़्टवेयर का माप बदल गया हो या GPU अपेक्षित गोपनीय मोड में न हो—तो क्लाइंट सत्यापन में विफल रहता है, पेलोड भेजने से इनकार करता है और अनुरोध ग्राहक के अपने परिवेश में ही रहता है। यह प्रमाण नियमित अंतराल पर ताज़ा किया जाता है। सुरक्षित अनुरोध भेजना जारी रखने से पहले, क्लाइंट हर बार नए मापों और सुरक्षा स्थिति की स्वीकृत नीति के अनुसार फिर से जाँच करता है। Cohere के अनुसार, इससे अटेस्टेशन ऑडिट के लिए रखे गए रिकॉर्ड तक सीमित न रहकर ऐसा नियंत्रण बन जाता है जो सक्रिय रूप से तय करता है कि सुरक्षित डेटा जारी किया जाए या नहीं।

Cohere की लॉन्च घोषणा में CTO Phil Blunsom ने कहा: “हार्डवेयर अटेस्टेशन से ग्राहकों को न केवल इस बात का क्रिप्टोग्राफ़िक प्रमाण मिलता है कि कार्यभार सुरक्षित, गोपनीय कंप्यूटिंग परिवेश में चल रहे हैं, बल्कि वे यह भी सत्यापित कर सकते हैं कि उनका डेटा अनधिकृत पहुँच से सुरक्षित है—यहाँ तक कि Cohere से भी।” Microsoft में Azure Confidential Computing के उत्पाद प्रमुख Vikas Bhatia ने कहा कि Cohere के साथ किया गया यह काम दिखाता है कि गोपनीय कंप्यूटिंग, प्रबंधित AI की सरलता को स्वतंत्र रूप से सत्यापित किए जा सकने वाले तकनीकी नियंत्रणों के साथ कैसे जोड़ सकती है। NVIDIA में एंटरप्राइज़ सॉफ़्टवेयर के उपाध्यक्ष John Fanelli ने कहा कि उसके GPU पर NVIDIA Confidential Computing हार्डवेयर-आधारित सुरक्षा देता है, जिससे Model Vault जैसे प्लेटफ़ॉर्म उद्यमों के कार्यभारों में गोपनीय AI इन्फ़रेंस उपलब्ध करा सकते हैं।

खतरे का मॉडल, बताई गई सीमाएँ और ओपन-सोर्स योजनाएँ

अपने बताए गए खतरा-मॉडल के दायरे में, यह प्रणाली प्रसंस्करण के दौरान प्रॉम्प्ट, दस्तावेज़, प्रतिक्रियाओं और मॉडल के निष्पादन को सुरक्षित रखती है। क्लाउड प्रदाता, होस्ट ऑपरेटिंग सिस्टम, हाइपरवाइज़र, बुनियादी ढाँचे के प्रशासक और Cohere के अपने संचालक संरक्षित वर्कलोड मेमोरी को पढ़ने से रोक दिए जाते हैं। विश्वसनीय कंप्यूटिंग आधार में अब भी गोपनीय कंप्यूटिंग की नींव देने वाला हार्डवेयर और फ़र्मवेयर, परिवेश के भीतर चलने वाला मापन किया गया सॉफ़्टवेयर, स्वीकृत कॉन्फ़िगरेशन तय करने वाले संदर्भ मापन और साक्ष्यों का मूल्यांकन कर उन पर हस्ताक्षर करने वाला अटेस्टेशन बुनियादी ढाँचा शामिल हैं। Cohere का कहना है कि इस डिज़ाइन से उन घटकों का स्पष्ट समूह निर्धारित हो जाता है जिन पर भरोसा करना आवश्यक है और जो मापने योग्य, जाँचने योग्य साक्ष्य प्रस्तुत करते हैं।

Cohere यह भी स्पष्ट करता है कि इस सुरक्षा-सीमा में क्या शामिल नहीं है। भौतिक हमले और साइड-चैनल हमले—जैसे समय-निर्धारण या हार्डवेयर के अन्य साझा व्यवहार से जानकारी का अनुमान लगाना—इस सीमा के बाहर रहते हैं। वर्कलोड को पढ़ न सकने वाला संचालक भी उसे रोक सकता है, विलंबित कर सकता है या चलने से रोक सकता है; इसलिए यह डिज़ाइन अपने आप में उपलब्धता की कोई गारंटी नहीं देता। प्रॉम्प्ट इंजेक्शन, असुरक्षित टूल का इस्तेमाल, प्राधिकरण संबंधी त्रुटियाँ और अन्य सॉफ़्टवेयर कमज़ोरियों जैसे एप्लिकेशन-स्तर के जोखिमों का समाधान सॉफ़्टवेयर को गोपनीय कंप्यूटिंग हार्डवेयर के भीतर रखने से नहीं होता।

देखे जा सकने वाले मेटाडेटा का एक और पहलू यह है कि पेलोड की सामग्री एन्क्रिप्टेड होने पर भी संदेश का आकार, अनुरोध का समय, ट्रैफ़िक की मात्रा और रूटिंग का विवरण दिखाई देता रहता है। मौजूदा आर्किटेक्चर में API क्रेडेंशियल और मॉडल पहचानकर्ता भी OHTTP-संरक्षित पेलोड के बाहर रहते हैं। कंपनी का कहना है कि गोपनीय कंप्यूटिंग न तो एप्लिकेशन सुरक्षा का विकल्प है, न डेटा-रेज़िडेंसी का माध्यम, न अनुपालन या संविदात्मक नियंत्रणों का विकल्प और न ही समरूपी एन्क्रिप्शन; ऐसा इसलिए है क्योंकि मॉडल अब भी संरक्षित परिवेश के भीतर प्लेनटेक्स्ट पर काम करता है।

यह कार्यान्वयन ओपन-सोर्स Kata Containers और Confidential Containers परियोजनाओं पर आधारित है। Cohere ने कहा कि उसकी योजना गोपनीय इन्फ़रेंस स्टैक को ओपन सोर्स के रूप में जारी करने की है, जिससे ग्राहक और सुरक्षा शोधकर्ता कोड की जाँच कर सकेंगे, देख सकेंगे कि कौन-सी नीतियाँ लागू की जाती हैं और सत्यापन मापों को स्वतंत्र रूप से दोहरा सकेंगे। बीटा अभी Microsoft Azure में NVIDIA H100 GPU पर चलता है। Cohere ने कहा कि सामान्य उपलब्धता की दिशा में काम जारी रहने के साथ, NVIDIA Blackwell बुनियादी ढाँचे—जिसमें B200 GPU भी शामिल हैं—के लिए समर्थन पर भी काम चल रहा है।