गोपनीय कंप्यूटिंग की समझ के लिए एक फ्रेमवर्क

गोपनीय कंप्यूटिंग का समय आ गया है

गोपनीय कंप्यूटिंग स्पेस एक ही समय में कई मोर्चों पर नवाचार की लहर का अनुभव कर रही है। ट्रस्टेड एक्ज़ीक्यूशन एनवायरनमेंट (TEE) परिपक्व हो रहे हैं और तैनात करना आसान हो रहा है। (पूर्ण रूप से होमोमॉर्फिक एन्क्रिप्शन) FHE ने उस प्रदर्शन अंतर को बंद कर दिया है जिसने इसे वर्षों से सैद्धांतिक बना दिया था। और वेब3 इकोसिस्टम शून्य-ज्ञान प्रूफ प्रौद्योगिकी को एक उल्लेखनीय गति से आगे बढ़ा रहा है, जिसमें सामान्य-उद्देश्य zkVM अब दो साल पहले की तुलना में मनमानी गणना के ऑर्डर को कई गुना तेजी से साबित कर रहे हैं।

इसी समय, एजेंटिक AI के उदय ने विश्वास, गोपनीयता और सत्यापनीयता के आसपास नई तत्कालता पैदा की है। जैसे ही AI सिस्टम सामग्री उत्पन्न करने से परे जाते हैं और उपयोगकर्ताओं की ओर से कार्रवाई करना शुरू करते हैं, संगठन यह पूछने लगे हैं कि क्या पारंपरिक सुरक्षा और अनुपालन नियंत्रण पर्याप्त हैं या नहीं।

DataTribe में, हम इस स्थान में महत्वपूर्ण समय बिता रहे हैं, स्टार्टअप्स से बात कर रहे हैं, प्रौद्योगिकी का मूल्यांकन कर रहे हैं और यह समझने की कोशिश कर रहे हैं कि सबसे टिकाऊ अवसर कहां से उभरेंगे। यह हमारे बारे में है कि हम इसके बारे में कैसे सोच रहे हैं।

गोपनीय कंप्यूटिंग के लिए एक फ्रेमवर्क

जब हम गोपनीय कंप्यूटिंग लैंडस्केप को देखते हैं, तो हमें इसे तीन अलग-अलग स्तंभों में तोड़ना उपयोगी लगता है। प्रत्येक एक स्वतंत्र गारंटी का प्रतिनिधित्व करता है। महत्वपूर्ण रूप से, वे ओवरलैप नहीं करते हैं: एक समाधान जो एक स्तंभ प्रदान करता है वह अन्य लोगों को स्वचालित रूप से प्रदान नहीं करता है।

• संरक्षित कंप्यूट: इनपुट, प्रोसेसिंग और आउटपुट सभी अंत से अंत तक संरक्षित रहते हैं। यहां तक कि कंप्यूटेशन चलाने वाला ऑपरेटर भी कुछ नहीं देख सकता है।

• कंप्यूट इंटीग्रिटी: क्रिप्टोग्राफिक सत्यापन कि सही कंप्यूटेशन वास्तव में चला, भले ही संभावित रूप से विरोधी हार्डवेयर पर।

• निजी सहयोग: कई पार्टियां संयुक्त रूप से अपने संयुक्त डेटा पर गणना करती हैं, बिना किसी पार्टी को दूसरों के साथ अपने इनपुट का खुलासा किए।

प्रत्येक स्तंभ अलग-अलग खरीदारों की जरूरतों, प्रौद्योगिकी स्टैक और प्रतिस्पर्धी गतिविधियों के अनुरूप है। आज हम पहले दो पर ध्यान केंद्रित करेंगे: संरक्षित कंप्यूट और कंप्यूट इंटीग्रिटी।

AI गोपनीयता विरोधाभास और संरक्षित कंप्यूट

AI ने संरक्षित कंप्यूट में रुचि का एक प्रमुख उत्प्रेरक बनाया है। उद्यम बढ़ती तरह से चिंतित हैं कि वे LLM प्रदाताओं के साथ जिस डेटा को साझा करते हैं, और गोपनीय अनुमान की मांग बढ़ रही है।

लेकिन एक विरोधाभास है जिसे ध्यान देने योग्य है। वही उद्यम जो AI प्रदाता को ग्राहक ट्रांसक्रिप्ट भेजने के बारे में चिंतित है, खुशी से मुआवजे के आंकड़ों को ADP के माध्यम से मार्गदर्शन करता है, अपनी पाइपलाइन को Salesforce (CRM ) में निर्देशित करता है, और अपने रोगी रिकॉर्ड को अपने ईएचआर विक्रेता को सौंपता है। प्रत्येक मामले में सुरक्षा समान है: डेटा सुरक्षा वादों और अनुपालन रिपोर्ट के साथ एक अनुबंध। कोई क्रिप्टोग्राफिक गारंटी नहीं है। तो AI प्रदाताओं को अलग तरह से क्यों माना जाता है?

वास्तविक कारण हैं। डेटा का उपयोग प्रशिक्षण के लिए किया जा सकता है, मॉडल वजन में अवशोषित किया जा सकता है, और दूसरे ग्राहक के आउटपुट में प्रकट हो सकता है, जो पारंपरिक SaaS में कोई समान नहीं है। मूल्य विनिमय असममित लगता है, जिसमें उद्यमों को लगता है कि उनका डेटा प्रतिस्पर्धियों के लिए प्रदाता के उत्पाद को बेहतर बना सकता है। और नियामक AI डेटा हैंडलिंग पर विशिष्ट ध्यान दे रहे हैं जिस तरह से उन्होंने मौजूदा SaaS स्टैक पर नहीं किया है। AI प्रदाता पारंपरिक SaaS समझौतों के समान सुरक्षा के साथ अनुबंध में प्रवेश करना शुरू कर दिया है, लेकिन गोद लेने की गति और “छाया AI” का डर, जहां कर्मचारी अनुबंध के बिना AI सेवाओं का उपयोग करते हैं, एक तत्कालता जोड़ते हैं जो पारंपरिक SaaS प्रोक्योरमेंट का सामना नहीं करता है।

चाहे ये चिंताएं पूरी तरह से तर्कसंगत हों या आंशिक रूप से नवीनता से प्रेरित हों, वे वास्तविक खरीदारी की तत्कालता पैदा कर रही हैं। अधिक दिलचस्प प्रश्न यह है कि क्या यह तत्कालता AI तक सीमित रहती है या फैलती है। यदि उद्यम AI प्रदाताओं से क्रिप्टोग्राफिक डेटा सुरक्षा की मांग करना शुरू करते हैं और फिर महसूस करते हैं कि यह तार्किक असंगति है कि वे हर किसी से नहीं मांगते हैं, तो संरक्षित कंप्यूट के लिए कुल संबोधन योग्य बाजार AI अनुमान से परे बहुत बड़ा हो जाता है।

संरक्षित कंप्यूट के लिए FHE बनाम TEE

संरक्षित कंप्यूट के लिए दो प्राथमिक प्रौद्योगिकी दृष्टिकोण प्रतिस्पर्धा करते हैं, और वे मूल रूप से अलग विश्वास मॉडल का प्रतिनिधित्व करते हैं।

TEE जैसे AMD SEV-SNP, Intel TDX, और NVIDIA (NVDA ) के गोपनीय GPU आज के लिए व्यावहारिक विकल्प हैं। वे न्यूनतम प्रदर्शन ओवरहेड के साथ संरक्षित कंप्यूट प्रदान करते हैं और पहले से ही प्रमुख क्लाउड प्रदाताओं से मूल नेटिव ऑफरिंग के रूप में उपलब्ध हैं। विश्वास का अनुमान सिलिकॉन विक्रेता में है और, विभिन्न डिग्री में, क्लाउड प्रदाता में जो हार्डवेयर संचालित करता है।

FHE एक शुद्ध गणितीय दृष्टिकोण लेता है। डेटा पूरी गणना के दौरान एन्क्रिप्टेड रहता है, और सुरक्षा गारंटी किसी भी हार्डवेयर या ऑपरेटर पर विश्वास करने पर निर्भर नहीं करती है। व्यापार-ऑफ़ ऐतिहासिक रूप से प्रदर्शन रहा है: FHE ऑपरेशन प्लेनटेक्स्ट गणना से कई ऑर्डर की तुलना में धीमी हैं, जो इसे संकीर्ण उपयोग के मामलों तक सीमित करता है।

यह अंतर तेजी से बंद हो रहा है जितना कि कई लोग समझते हैं। हार्डवेयर त्वरण एक प्रमुख ड्राइवर है। Niobium के FHE त्वरण कार्ड कई ऑर्डर की तुलना में सॉफ़्टवेयर-ओनली FHE में सुधार कर रहे हैं। Cornami, जिसके मुख्य वैज्ञानिक Craig Gentry हैं (जिन्हें FHE के आविष्कारक के रूप में व्यापक रूप से श्रेय दिया जाता है), ने “नियर प्लेनटेक्स्ट स्पीड” का दावा किया है FHE का उपयोग करके LLM अनुमान के लिए, हालांकि स्वतंत्र बेंचमार्क प्रकाशित नहीं किए गए हैं। एक अन्य कंपनी ने FHE-आधारित LLM अनुमान को 70b मॉडल पर लगभग अनएन्क्रिप्टेड प्रदर्शन की गति के साथ Llama 3 पर प्रदर्शित किया है। ये दावे जांच के योग्य हैं, लेकिन ट्रेजेक्टरी स्पष्ट है: FHE को सैद्धांतिक बनाने वाला प्रदर्शन अंतर तेजी से संकुचित हो रहा है।

यदि FHE उत्पादन कार्यभार के लिए पर्याप्त तेजी से हो जाता है, तो इसके परिणाम गहरे हैं। आपको अब सिलिकॉन विक्रेता, क्लाउड प्रदाता या हार्डवेयर तक शारीरिक पहुंच वाले किसी व्यक्ति पर विश्वास करने की आवश्यकता नहीं है। आपकी सुरक्षा गारंटी संचालनिक नहीं है, गणितीय है।

निवेशकों के लिए, यह एक महत्वपूर्ण रणनीतिक प्रश्न बनाता है: क्या आप हार्डवेयर विश्वास को अधिक विश्वसनीय बनाने (TEE पथ) पर दांव लगा रहे हैं, या क्रिप्टोग्राफिक प्रदर्शन में सुधार पर दांव लगा रहे हैं जो गणित-मात्र समाधानों को व्यावहारिक बनाने के लिए पर्याप्त है? अधिकांश निकट-श्रेणी की आय TEE पक्ष में है। दीर्घकालिक रक्षा तर्क कुछ कंप्यूट डोमेन के लिए गणितीय दृष्टिकोण को पसंद कर सकता है।

कंप्यूट इंटीग्रिटी: अंदरूनी खतरे से विरोधी वातावरण तक

कंप्यूट इंटीग्रिटी एक अलग समस्या को संबोधित करता है: आप कैसे जानते हैं कि सही गणना वास्तव में चलाई गई थी?

नियंत्रित वातावरण में जैसे कि उद्यम डेटा केंद्र और हाइपरस्केलर क्लाउड में, TEE इसे काफी अच्छी तरह से संभालते हैं। अटेस्टेशन तंत्र आपको यह सत्यापित करने देते हैं कि अपेक्षित कोड वास्तविक TEE में लोड किया गया था trước डेटा भेजने के। यह अंदरूनी खतरों, समझौता किए गए बुनियादी ढांचे या तैनाती मुद्दों के खिलाफ सुरक्षा के लिए मूल्यवान है। अधिकांश उद्यम उपयोग के मामलों के लिए, TEE-आधारित अटेस्टेशन पर्याप्त है।

लेकिन “पर्याप्त” आपके खतरे मॉडल पर निर्भर करता है। वास्तव में विरोधी वातावरण में, जहां आपके पास हार्डवेयर पर नियंत्रण नहीं है और ऑपरेटर सक्रिय रूप से शत्रुतापूर्ण हो सकता है, TEE गारंटी कमजोर हो जाती है। हाल के शोध ने TEE अटेस्टेशन के खिलाफ कम लागत वाले हार्डवेयर इंटरपोज़र का उपयोग करके व्यावहारिक हमलों का प्रदर्शन किया है, और प्रमुख चिप विक्रेताओं ने स्वीकार किया है कि शारीरिक हमले उनके खतरे मॉडल से बाहर हैं। एक अच्छी तरह से संचालित डेटा केंद्र में यह शेष जोखिम प्रबंधनीय है। एक विकेंद्रीकृत कंप्यूट नेटवर्क में एक अज्ञात नोड पर, यह नहीं है।

यही कारण है कि वेब3 दुनिया शून्य-ज्ञान प्रूफ नवाचार का प्राथमिक चालक रही है। ZK प्रूफ हार्डवेयर वातावरण की परवाह किए बिना कंप्यूट इंटीग्रिटी के बारे में गणितीय निश्चितता प्रदान करते हैं। यदि प्रूफ सत्यापित होता है, तो गणना सही थी, चाहे साबित गणना एक सुरक्षित सुविधा में या किसी के गैरेज में की गई हो।

सुधार की गति यहां उल्लेखनीय रही है। सामान्य-उद्देश्य zkVM अब डेवलपर्स को सामान्य Rust कोड लिखने और स्वचालित रूप से प्रूफ उत्पन्न करने की अनुमति देते हैं, बिना क्रिप्टोग्राफिक सर्किट लिखे। Succinct के SP1 Hypercube 16 GPU पर 12 सेकंड से कम समय में Ethereum ब्लॉक साबित करता है। ZKsync के Airbender ने एक H100 पर प्रति सेकंड 21 मिलियन साइकिल की सूचना दी।

विशेष रूप से AI कार्यभार के लिए, zkML प्रगति कर रहा है लेकिन अभी भी महंगा है। LLM अनुमान को साबित करना अभी भी स्वयं अनुमान से हजारों गुना धीमा है। छोटे मॉडल जैसे क्लासिफायर और एम्बेडिंग मॉडल अब व्यावहारिक ZK साबितता की ओर बढ़ रहे हैं, और फ्रंटियर LLM साबित करना दो से तीन साल की दूरी पर है। एक दिलचस्प मध्य जमीन “आशावादी” सत्यापन है, जहां केवल तब प्रूफ उत्पन्न किए जाते हैं जब परिणाम चुनौती दिए जाते हैं, जो कि महत्वपूर्ण रूप से अमोर्तीकृत लागत को कम करता है।

यह कहां जा रहा है

गोपनीय कंप्यूटिंग स्थान एक बदलाव बिंदु पर है। नवाचार TEE, FHE और ZK के साथ-साथ हो रहा है, प्रत्येक अलग-अलग समुदायों द्वारा संचालित है जो अलग-अलग प्राथमिकताओं के साथ एक साझा सेट की समस्याओं पर ध्यान केंद्रित कर रहे हैं।

खरीदारों के बारे में जो सबसे ज्यादा जरूरी लगता है वह यह तय करेगा कि कौन से दृष्टिकोण पहले प्राप्त करते हैं। नियामक अनुपालन और क्लाउड डेटा सुरक्षा पर ध्यान केंद्रित करने वाले उद्यम TEE-आधारित समाधानों को आगे बढ़ाने की संभावना है। AI लहर FHE की मांग को तेज कर सकती है यदि प्रदर्शन में सुधार जारी रहता है। विकेंद्रीकृत कंप्यूट और वेब3 अनुप्रयोग ZK प्रौद्योगिकी को व्यापक अनुप्रयोगों की ओर ले जाना जारी रखेंगे।

हम हाइब्रिड आर्किटेक्चर के उभरने की भी उम्मीद करते हैं क्योंकि व्यावहारिक मध्य जमीन के रूप में। TEE गोपनीयता के साथ ZK प्रूफ के लिए गोपनीयता के साथ, आपको मजबूत गोपनीयता के साथ गणितीय निश्चितता मिलती है। यह संयोजन तब काम करता है जब हार्डवेयर वातावरण आंशिक रूप से विश्वसनीय होता है लेकिन पूरी तरह से नियंत्रित नहीं होता है।

यह फ्रेमवर्क विशेष रूप से प्रासंगिक हो रहा है लिनक्स फाउंडेशन के गोपनीय कंप्यूटिंग शिखर सम्मेलन के आसपास सैन फ्रांसिस्को में, जहां एक केंद्रीय विषय यह था कि क्या गोपनीय कंप्यूटिंग उद्यम स्तर पर एजेंटिक AI को तैनात करने के लिए सुरक्षा परत के रूप में कार्य कर सकती है। जैसे ही संगठन AI एजेंटों को संवेदनशील प्रणाली, डेटा और कार्य प्रवाह तक पहुंच प्रदान करना शुरू करते हैं, संरक्षित कंप्यूट, कंप्यूट इंटीग्रिटी और सत्यापनीय विश्वास के प्रश्न सैद्धांतिक वास्तुकला चर्चाओं से परिचालन आवश्यकताओं में बदल जाते हैं।

स्टार्टअप के लिए, अवसर पर्याप्त हैं: TEE-आधारित गोपनीय कंप्यूट को SaaS कंपनियों के लिए अपनाना आसान बनाना, FHE को शोध से उत्पादन में लाने के लिए टूलिंग बनाना, उद्यम संदर्भों में ZK-आधारित कंप्यूट इंटीग्रिटी के लिए बुनियादी ढांचा बनाना, और ग्राहकों और क्लाउड प्रदाताओं के बीच विश्वास ब्रोकर और अटेस्टेशन परतें विकसित करना। हम इस स्थान का अध्ययन जारी रखते हैं और हम जिन संस्थापकों से मिल रहे हैं उनसे उत्साहित हैं। विभिन्न कार्यभार, खतरे मॉडल और नियामक शासन अलग-अलग स्तंभों के संयोजन की मांग करेंगे। जीतने वाली कंपनियां वे होंगी जो एक स्तंभ चुनती हैं, इसे निर्णायक रूप से हल करती हैं और उद्यमों के लिए इसे अपनाना आसान बनाती हैं।