साक्षात्कार
जोनाथन मोर्टेंसेन, कॉन्फिडेंट सिक्योरिटी के संस्थापक और सीईओ – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जोनाथन मोर्टेंसेन, कॉन्फिडेंट सिक्योरिटी के संस्थापक और सीईओ, वर्तमान में सख्त सुरक्षा और अनुपालन आवश्यकताओं वाले उद्योगों के लिए सिद्ध रूप से निजी एआई प्रणालियों के विकास का नेतृत्व करते हैं। वह साउथ पार्क कॉमन्स में एक संस्थापक फेलो के रूप में भी कार्य करते हैं, जहां वह एआई कंप्यूट, मेमोरी, गोपनीयता और स्वामित्व के भविष्य का अन्वेषण करते हैं। कॉन्फिडेंट सिक्योरिटी लॉन्च करने से पहले, वह डेटाब्रिक्स में एक स्टाफ सॉफ्टवेयर इंजीनियर थे, जहां उन्होंने बिट.आईओ की प्रौद्योगिकी को इसके डेटा प्लेटफॉर्म में एकीकृत किया, जिसमें मल्टी-टेनेंसी सुरक्षा, आईएएम/एसीएल, वीपीसी आइसोलेशन, एन्क्रिप्शन और डेटा स्वामित्व पर ध्यान केंद्रित किया गया था। इससे पहले, उन्होंने बिट.आईओ की स्थापना की और इसके सीटीओ के रूप में कार्य किया, जिसने एक मल्टी-क्लाउड, मल्टी-रीजन सर्वरलेस पोस्टग्रेसक्यूएल सेवा बनाई, जिसने सैकड़ों हजारों सुरक्षित डेटाबेस का समर्थन किया और बाद में डेटाब्रिक्स द्वारा अधिग्रहित किया गया।
कॉन्फिडेंट सिक्योरिटी ऐसी बुनियादी ढांचा बनाती है जो उद्यमों को संवेदनशील जानकारी के बिना एआई वर्कफ्लो चलाने की अनुमति देती है। इसका प्लेटफ़ॉर्म इस तरह से डिज़ाइन किया गया है कि प्रॉम्प्ट, डेटा और मॉडल आउटपुट पूरी तरह से निजी रहते हैं, कभी लॉग नहीं किए जाते हैं और कभी पुन: उपयोग नहीं किए जाते हैं, जिससे संगठनों को एआई को अपनाने के लिए एक सुरक्षित तरीका मिलता है जबकि सख्त नियामक और अनुपालन मानकों को पूरा करता है।
आपने 2024 में कॉन्फिडेंट सिक्योरिटी की स्थापना की थी, जब आपने बिट.आईओ बनाया था और डेटाब्रिक्स में काम किया था। एआई के लिए गोपनीयता के लिए एक मौलिक रूप से अलग दृष्टिकोण की आवश्यकता के बारे में आपको क्या एहसास हुआ?
मेरे अनुभव ने मुझे यह सिखाया है: यदि लोग संवेदनशील जानकारी को एक प्रणाली में डाल रहे हैं, तो विश्वास पर्याप्त नहीं है। उन्हें प्रमाण की आवश्यकता है। हमने ऐसी बुनियादी ढांचा बनाई जहां ग्राहकों का डेटा उनका स्वामित्व था, और हमने उन्हें यह सत्यापित करने के तरीके दिए कि यह उनका स्वामित्व है।
जब मैंने देखा कि कंपनियां एलएलएम का उपयोग कैसे कर रही थीं, तो मुझे एहसास हुआ कि उस प्रमाण की कमी है। कर्मचारी तीसरे पक्षों द्वारा संचालित मॉडल में स्रोत कोड, कानूनी दस्तावेज और रोगी रिकॉर्ड चिपका रहे थे जिन्हें वे सत्यापित नहीं कर सकते थे। हमने पहले ही देखा है कि निजी बातचीत को गलती से ऑनलाइन सूचीबद्ध किया गया है और नीति परिवर्तन जो अचानक बातचीत को डिफ़ॉल्ट रूप से प्रशिक्षण डेटा बना देते हैं। यह दिखाता है कि वर्तमान गोपनीयता मॉडल कितना नाजुक है।
यदि एआई दुनिया की सबसे संवेदनशील जानकारी को संभालने जा रहा है, तो हमें ऐसे आश्वासन की आवश्यकता है जो किसी विक्रेता के आंतरिक वादों पर निर्भर न हो। यही कारण है कि मैंने कॉन्फिडेंट सिक्योरिटी शुरू की।
ओपनपीसीसी को “एआई के लिए सिग्नल” के रूप में वर्णित किया जा रहा है। यह गोपनीयता परत खुली, सत्यापन योग्य और अंतरपरिवर्ती होने के लिए दिन एक से महत्वपूर्ण क्यों थी?
एंड-टू-एंड एन्क्रिप्शन तब तक नहीं लोकप्रिय हुआ जब तक यह एक मानक नहीं बन गया जिसे हर कोई अपना सकता था। हम एआई गोपनीयता के लिए भी यही चाहते हैं। यदि केवल कुछ कंपनियां वास्तविक आश्वासन प्रदान कर सकती हैं, तो गोपनीयता नहीं फैलेगी।
ओपनपीसीसी एपाचे 2.0 के तहत ओपन सोर्स है, इसलिए कोई भी इस पर बना सकता है या इसे देख सकता है। इसमें कोई गुप्त विश्वास आवश्यकता नहीं है। हार्डवेयर सत्यापन क्रिप्टोग्राफिक प्रमाण प्रदान करता है कि क्या चल रहा है और कहां। और हमने सुनिश्चित किया कि यह कहीं भी काम करता है: किसी भी क्लाउड, किसी भी मॉडल प्रदाता, किसी भी डेवलपर स्टैक पर।
एक सुसंगत और सार्वभौमिक गोपनीयता मानक में巨ांत विश्वास है। यदि आप ओपनपीसीसी का उपयोग कर रहे हैं, तो आप जानते हैं कि आपका डेटा मॉडल प्रदाताओं, नियामकों या यहां तक कि हमारे लिए भी दिखाई नहीं दे रहा है। एक मानक केवल तभी काम करता है जब पूरा पारिस्थितिकी तंत्र भाग ले सकता है, इसलिए हमने इसे दिन एक से यथासंभव समावेशी बनाने का डिज़ाइन किया है।
कॉन्फिडेंट सिक्योरिटी से पहले, आपने मल्टी-टेनेंसी, एन्क्रिप्शन और डेटा स्वामित्व के लिए बड़े पैमाने पर प्रणाली बनाईं। ओपनपीसीसी के आर्किटेक्चर को आकार देने में उन अनुभवों ने कैसे योगदान दिया?
उन प्रणालियों ने दो सच्चाई को पुष्टि की: यदि एक प्रणाली डेटा बनाए रख सकती है, तो अंततः यह ऐसा करेगी, चाहे वह लॉग, गलत कॉन्फ़िगरेशन या कानूनी अनुरोधों के माध्यम से हो। और विश्वास एक गोपनीयता मॉडल नहीं है। उपयोगकर्ताओं को दृश्यता और नियंत्रण की आवश्यकता है।
ओपनपीसीसी एक राज्यहीन मोड में चलता है ताकि प्रॉम्प्ट प्रसंस्करण के बाद गायब हो जाएं। सत्यापन उपयोगकर्ताओं को यह सत्यापित करने की अनुमति देता है कि उनका डेटा कहां जा रहा है और कौन सा कोड चल रहा है। और नियंत्रण को डेटा से अलग करके, ओपनपीसीसी रोकता है कि निजी इनपुट कभी भी निष्पादन योग्य निर्देशों के रूप में इलाज न किया जाए।
वे प्रतिबंध हैं जिनका उद्यमों को इंतजार था: आश्वासन है कि डेटा अप्रत्याशित स्थानों पर पुनः प्रकट नहीं होगा।
आपने तर्क दिया है कि अधिकांश “निजी एआई” समाधान अपारदर्शी प्रणालियों में विश्वास पर निर्भर करते हैं। स्वतंत्र सत्यापन क्यों आवश्यक है और सच्ची गोपनीयता के लिए?
आजकल अधिकांश गोपनीयता भाषा मूल रूप से “केवल हम पर विश्वास करें” है। यह राष्ट्रीय सुरक्षा और विनियमित स्वास्थ्य देखभाल डेटा जैसे दांव के साथ पर्याप्त नहीं है। यदि उपयोगकर्ता दावे को सत्यापित नहीं कर सकता है, तो यह एक आश्वासन नहीं है – यह विपणन है।
सत्यापन योग्य गोपनीयता अलग है। आप ऑपरेटर के इरादों पर विश्वास नहीं करते हैं। आप हार्डवेयर, सॉफ्टवेयर छवि और डेटा हैंडलिंग आश्वासन को सत्यापित करते हैं। क्रिप्टोग्राफी सीमाओं को लागू करती है। लॉग नहीं हैं जो किसी को गलती से रिसाव या उपसमन करने के लिए हो सकते हैं।
जब गोपनीयता उपयोगकर्ता द्वारा लेखा परीक्षित की जा सकती है, तो आप एक मूल रूप से सुरक्षित प्रणाली बनाते हैं। यह गणित में निहित जिम्मेदारी है।
गूगल की “निजी एआई” घोषणा ओपनपीसीसी के तुरंत बाद आई। आपने सार्वजनिक रूप से उन्हें स्वतंत्र परीक्षण के लिए एक टीपीयू प्रदान करने के लिए कहा। इस आह्वान को प्रेरित करने वाला क्या था, और आप क्या उम्मीद करेंगे?
(GOOGL )गोपनीयता आश्वासन का दावा करने के लिए, आपको समुदाय को उन्हें सत्यापित करने देना चाहिए। एनवीडिया पहले से ही अपने एच100 जीपीयू पर बाहरी सत्यापन की अनुमति देता है, और हमने甚至 उनके सत्यापन पुस्तकालय का एक जो संस्करण खोला है ताकि अपनाया जा सके।
(NVDA )यदि गूगल समान वादे टीपीयू पर करना चाहता है, तो हमें उन वादों को मापने और सत्यापित करने में सक्षम होना चाहिए, न कि केवल एक ब्लॉग पोस्ट में उनके बारे में पढ़ना चाहिए। हम उन्हीं नियंत्रणों की तलाश करेंगे जो हम किसी भी गोपनीयता प्रणाली से अपेक्षा करते हैं: सख्त डेटा प्रतिधारण सीमाएं, लेखा परीक्षित सत्यापन, और कोई गुप्त मार्ग जहां लॉग या टेलीमेट्री बच निकले। गोपनीयता दावों को जांच के तहत खड़े होने की आवश्यकता है।
पाठकों के लिए जो यांत्रिकी से परिचित नहीं हैं, ओपनपीसीसी के पूरी तरह से एन्क्रिप्टेड चैनलों को पारंपरिक क्लाइंट-साइड एन्क्रिप्शन या गोपनीय कंप्यूटिंग से क्या अलग बनाता है?
क्लाइंट-साइड एन्क्रिप्शन डेटा को अंदर जाते समय सुरक्षित करता है, और गोपनीय कंप्यूटिंग इसे संसाधित होते समय सुरक्षित करता है, लेकिन अभी भी ऐसे अंतराल हैं जहां ऑपरेटर या हमलावर संवेदनशील जानकारी तक पहुंच सकते हैं।
ओपनपीसीसी उन अंतराल को बंद करता है। यह क्लाइंट और मॉडल के बीच एक सीलबंद एंड-टू-एंड पथ बनाता है जो प्रॉम्प्ट, प्रतिक्रिया, उपयोगकर्ता की पहचान और यहां तक कि मेटाडेटा या टाइमिंग सिग्नल की भी रक्षा करता है जो शांति से इरादे का खुलासा कर सकते हैं। ऑपरेटर कुछ भी डिक्रिप्ट नहीं कर सकते हैं। कोई लॉग या ब्रीच स्थितियों के तहत भी कुछ भी बनाए नहीं रखा जाता है।
गोपनीयता को प्रदाता के पीछे सही काम करने की उम्मीद पर निर्भर नहीं रहना चाहिए। इसे क्रिप्टोग्राफिक रूप से लागू किया जाना चाहिए।
सत्यापन योग्य गोपनीयता वित्त, स्वास्थ्य सेवा और रक्षा जैसे विनियमित उद्योगों के लिए समीकरण को कैसे बदलती है?
विनियमित उद्योगों को एआई से सबसे अधिक लाभ होने की संभावना है, लेकिन अगर कुछ लीक हो जाता है तो उन्हें सबसे अधिक नुकसान होने की संभावना है। आज, 78% कर्मचारी आंतरिक डेटा को एआई टूल में चिपकाते हैं, और प्रति पांच मामलों में से एक में विनियमित जानकारी जैसे पीएचआई या पीसीआई शामिल है। एक्सपोजर पहले से ही हो रहा है।
सत्यापन योग्य गोपनीयता सबसे बड़े ब्लॉक को हटा देती है। संवेदनशील प्रॉम्प्ट मॉडल प्रदाता के पर्यावरण में कभी भी प्लेनटेक्स्ट में मौजूद नहीं होते हैं। कुछ भी प्रशिक्षण के लिए उपयोग नहीं किया जा सकता है। यहां तक कि कानूनी अनुरोध भी उस चीज़ तक नहीं पहुंच सकते हैं जो प्रणाली स्वयं देख नहीं सकती है।
जोखिम और अनुपालन टीमों को अंततः एक मार्ग मिलता है जहां “हां” डिफ़ॉल्ट बन जाता है न कि “नहीं”।
क्लाउड-एज्नोस्टिक गोपनीयता परत को डिजाइन करने में सबसे बड़ी इंजीनियरिंग चुनौतियां क्या थीं जो किसी भी उद्यम स्टैक पर काम करती हैं?
गोपनीय कंप्यूटिंग और रिमोट सत्यापन अभी भी अपनी शैशवावस्था में है, मेरे विचार में। प्रत्येक क्लाउड प्रदाता और बेयर मेटल प्रदाता कुछ अलग करता है। कुछ प्रदाता, जैसे कि एएवाएस, इसके लिए आवश्यक हार्डवेयर भी नहीं है। इसलिए, जो भी सुविधा हम जोड़ते हैं वह 1000 कट्स और तार के ऊपर चलने जैसा है। लेकिन पूरी बात यह है कि यह एक खुला मानक बन जाए, इसलिए हमें यह करने की जरूरत है ताकि यह किसी के भी क्लाउड के लिए काम करे। यह ओपन सोर्स है इसलिए मैं लोगों को और भी समर्थित प्लेटफ़ॉर्म और कॉन्फ़िगरेशन जोड़ने के लिए प्रोत्साहित करता हूं!
एक डिफ़ॉल्ट सत्यापन योग्य एन्क्रिप्शन वाली दुनिया क्या दिखती है, और यह उद्यमों, क्लाउड विक्रेताओं और मॉडल प्रदाताओं के बीच शक्ति संतुलन को कैसे बदल सकती है?
उद्यम अपनी सबसे मूल्यवान संपत्ति – अपने डेटा पर नियंत्रण बनाए रखते हैं। मॉडल प्रदाता प्रदर्शन और लागत पर प्रतिस्पर्धा करते हैं, न कि जो सबसे अधिक प्रोप्राइटरी जानकारी एकत्र कर सकता है। क्लाउड गोपनीयता को सक्षम बनाते हैं, न कि इसके मूक दर्शक।
यह एक स्वस्थ शक्ति संतुलन है। और पूरा पारिस्थितिकी तंत्र तब जीतता है जब सुरक्षा को नींव में बनाया जाता है, न कि ऊपर चिपकाया जाता है।
एक भविष्य में जहां एआई सर्वव्यापी और भारी विनियमित है, आप सत्यापन योग्य गोपनीयता को उद्यमों, क्लाउड प्रदाताओं और मॉडल विकासकों के लिए प्रतिस्पर्धी परिदृश्य को कैसे बदलने की कल्पना करते हैं?
नियामक पहले से ही यह पूछ रहे हैं कि उपयोगकर्ता डेटा कैसे संग्रहीत और उपयोग किया जाता है। विश्वास-आधारित गोपनीयता उन्हें जल्द ही संतुष्ट नहीं करेगी। उपयोगकर्ता आज मैसेजिंग ऐप में एन्क्रिप्शन की अपेक्षा की तरह गोपनीयता आश्वासन की अपेक्षा करेंगे।
विजेता वे कंपनियां होंगी जो उपयोगकर्ताओं से समझौता करने के लिए नहीं कहती हैं। यदि आप गोपनीयता साबित कर सकते हैं, तो आप दुनिया के सबसे मूल्यवान डेटा वाले संगठनों का विश्वास अर्जित करते हैं। डेटा उन स्थानों पर उपयोगी हो जाता है जहां यह पहले बंद था।
साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें कॉन्फिडेंट सिक्योरिटी पर जाना चाहिए।
