बेली कैक्समार, वाटरलू विश्वविद्यालय में पीएचडी उम्मीदवार – साक्षात्कार श्रृंखला

बेली कैक्समार वाटरलू विश्वविद्यालय के कंप्यूटर विज्ञान विद्यालय में पीएचडी उम्मीदवार हैं और अल्बर्टा विश्वविद्यालय में आगामी संकाय सदस्य हैं। उनकी शोध रुचियां उपयोगकर्ताओं के प्रति सचेत गोपनीयता-सुधार प्रौद्योगिकियों के विकास में हैं, जो तकनीकी दृष्टिकोणों के समानांतर अध्ययन के माध्यम से निजी गणना के साथ-साथ इन प्रौद्योगिकियों की उपयोगकर्ता धारणाओं, चिंताओं और समझ के लिए हैं। उनका काम मशीन लर्निंग अनुप्रयोगों में गोपनीयता की संभावनाओं और सीमाओं की पहचान करने के लिए है।

आपकी शोध रुचियां उपयोगकर्ताओं के प्रति सचेत गोपनीयता-सुधार प्रौद्योगिकियों के विकास में हैं। एआई में गोपनीयता इतनी महत्वपूर्ण क्यों है?

एआई में गोपनीयता इतनी महत्वपूर्ण है क्योंकि हमारी दुनिया में एआई डेटा के बिना नहीं हो सकता। डेटा, जबकि एक उपयोगी अमूर्तता है, अंततः लोगों और उनके व्यवहारों का वर्णन करता है। हम शायद ही कभी पेड़ों की आबादी और जल स्तर के बारे में डेटा के साथ काम करते हैं; इसलिए, जब भी हम किसी ऐसी चीज़ के साथ काम करते हैं जो वास्तविक लोगों को प्रभावित कर सकती है, तो हमें इसके प्रति जागरूक रहने की आवश्यकता है और समझने की आवश्यकता है कि हमारी प्रणाली अच्छा या हानि कैसे कर सकती है। यह विशेष रूप से एआई के लिए सच है, जहां कई प्रणालियों को बड़ी मात्रा में डेटा का लाभ मिलता है या स्वास्थ्य डेटा जैसे अत्यधिक संवेदनशील डेटा का उपयोग करके हमारी दुनिया की नई समझ विकसित करने का प्रयास करती हैं।

आपको कुछ तरीके दिखाई दिए हैं कि मशीन लर्निंग ने उपयोगकर्ताओं की गोपनीयता का उल्लंघन कैसे किया है?

उल्लंघन एक मजबूत शब्द है। हालांकि, जब भी एक प्रणाली लोगों के बारे में जानकारी का उपयोग उनकी सहमति के बिना, उन्हें सूचित किए बिना, और संभावित हानि की परवाह किए बिना करती है, तो यह व्यक्तिगत या सामाजिक गोपनीयता मानकों का उल्लंघन करने का जोखिम उठाती है। मूल रूप से, यह एक हजार छोटे कट्स द्वारा उल्लंघन का परिणाम है। ऐसे अभ्यास उपयोगकर्ताओं के ईमेल इनबॉक्स, उपयोगकर्ताओं के टेक्स्ट संदेशों या स्वास्थ्य डेटा पर मॉडल को प्रशिक्षित करने के लिए हो सकते हैं; सभी बिना उन लोगों को सूचित किए जिनसे डेटा संबंधित है।

आप विभेदक गोपनीयता को परिभाषित कर सकते हैं और आपके विचार इस पर क्या हैं?

विभेदक गोपनीयता एक परिभाषा या तकनीक है जो तकनीकी गोपनीयता प्राप्त करने के लिए प्रमुखता से बढ़ी है। तकनीकी गोपनीयता की परिभाषाएं आमतौर पर दो मुख्य पहलुओं को शामिल करती हैं; क्या संरक्षित किया जा रहा है, और किस से। तकनीकी गोपनीयता में, गोपनीयता गारंटी सुरक्षा हैं जो दी गई धारणाओं को पूरा करने पर प्राप्त की जाती हैं। ये धारणाएं संभावित प्रतिद्वंद्वियों, प्रणाली जटिलताओं या सांख्यिकी के बारे में हो सकती हैं। यह एक अविश्वसनीय रूप से उपयोगी तकनीक है जिसका व्यापक अनुप्रयोग है। हालांकि, यह महत्वपूर्ण है कि विभेदक गोपनीयता गोपनीयता के समान नहीं है।

गोपनीयता किसी एक परिभाषा या अवधारणा तक सीमित नहीं है और उससे आगे के विचारों को समझना महत्वपूर्ण है। उदाहरण के लिए, संदर्भगत अखंडता गोपनीयता की एक अवधारणा है जो यह ध्यान में रखती है कि अलग-अलग अनुप्रयोग या संगठन किसी परिस्थिति में व्यक्ति की गोपनीयता संबंधी धारणाओं को कैसे बदलते हैं। गोपनीयता की कानूनी अवधारणाएँ भी हैं, जैसे कनाडा का PIPEDA, यूरोप का GDPR और कैलिफ़ोर्निया का उपभोक्ता संरक्षण कानून (CCPA)। इसका आशय यह है कि हम तकनीकी प्रणालियों को अन्य गोपनीयता कारकों से अलग-थलग नहीं मान सकते, भले ही विभेदक गोपनीयता का उपयोग किया जा रहा हो।

एक अन्य गोपनीयता-सुधार प्रकार की मशीन लर्निंग संघबद्ध अधिगम (federated learning) है, आप इसको परिभाषित कर सकते हैं और आपके विचार इस पर क्या हैं?

संघबद्ध अधिगम (federated learning) एक तरीका है जिसमें मशीन लर्निंग को कई मालिकों या स्थानों पर वितरित डेटासेट के संग्रह पर मॉडल को प्रशिक्षित करने के लिए किया जाता है। यह स्वयं में गोपनीयता-सुधार प्रकार की मशीन लर्निंग नहीं है। गोपनीयता-सुधार प्रकार की मशीन लर्निंग को औपचारिक रूप से परिभाषित करने की आवश्यकता है कि क्या संरक्षित किया जा रहा है, किस से संरक्षित किया जा रहा है, और जिन शर्तों को पूरा करने की आवश्यकता है ताकि ये सुरक्षा बनी रहे। उदाहरण के लिए, जब हम एक सरल विभेदक गोपनीयता गणना के बारे में सोचते हैं, तो यह गारंटी देता है कि कोई भी आउटपुट देखकर यह नहीं बता सकता कि कोई विशिष्ट डेटा बिंदु योगदान दिया गया था या नहीं।

इसके अलावा, यदि डेटा बिंदुओं के बीच सहसंबंध हो, तो विभेदक गोपनीयता ऐसी गारंटी नहीं देती। संघबद्ध अधिगम में यह विशेषता नहीं होती; वह केवल डेटा के संग्रह पर मॉडल प्रशिक्षित करता है, और डेटा धारकों को अपने डेटासेट एक-दूसरे या किसी तीसरे पक्ष को सीधे देने की आवश्यकता नहीं होती। यह गोपनीयता की सुविधा जैसा लग सकता है, लेकिन औपचारिक गारंटी आवश्यक है कि अविश्वसनीय पक्षों को दिखाई देने वाली मध्यवर्ती जानकारी और आउटपुट से संरक्षित जानकारी नहीं सीखी जा सकती। यह औपचारिकता संघबद्ध व्यवस्था में विशेष रूप से महत्वपूर्ण है, क्योंकि सामूहिक मॉडल को प्रशिक्षित करने के लिए डेटा देने वाला हर पक्ष अविश्वसनीय पक्षों में शामिल हो सकता है।

इन दृष्टिकोणों की वर्तमान सीमाएं क्या हैं?

वर्तमान सीमाओं को गोपनीयता और उपयोगिता के बीच संतुलन के स्वभाव के रूप में वर्णित किया जा सकता है। भले ही आप अन्य सभी चीजों को करें, जैसे कि प्रभावित लोगों को गोपनीयता परिणामों के बारे में संवाद करें, प्रणाली का मूल्यांकन करें जो आप करने की कोशिश कर रहे हैं, आदि, फिर भी पूर्ण गोपनीयता का अर्थ प्रणाली न बनाना होता है, जबकि पूर्ण उपयोगिता में आम तौर पर गोपनीयता की सुरक्षा नहीं होती। इसलिए प्रश्न यह है कि हम आदर्श संतुलन कैसे निर्धारित करें। यह कैसे निर्धारित किया जाए कि क्या सही संतुलन है, और कैसे इसकी ओर काम किया जाए ताकि हम अभी भी वांछित कार्यक्षमता प्राप्त करें और साथ ही आवश्यक गोपनीयता सुरक्षा प्रदान करें।

आप वर्तमान में उपयोगकर्ताओं के प्रति सचेत गोपनीयता प्रौद्योगिकी के माध्यम से निजी गणना के लिए तकनीकी समाधानों के समानांतर अध्ययन के माध्यम से विकसित करने का लक्ष्य रखते हैं। आप इन समाधानों के कुछ विवरण में जा सकते हैं?

मेरा मतलब है कि हम तकनीकी गोपनीयता प्रणालियों का विकास कर सकते हैं। हालांकि, जब ऐसा करने की बात आती है, तो यह महत्वपूर्ण है कि हम यह निर्धारित करें कि क्या गोपनीयता गारंटी प्रभावित लोगों तक पहुंच रही हैं। इसका अर्थ प्रणाली विकसित करने से पहले यह पता लगाना हो सकता है कि आबादी किन प्रकार के संरक्षण को मूल्य देती है। इसका अर्थ प्रणाली को अद्यतन करना भी हो सकता है जब हमें यह पता चलता है कि लोग वास्तविक जीवन के खतरे और जोखिम विचारों के साथ कैसे प्रणाली का उपयोग करते हैं। एक तकनीकी समाधान एक सही प्रणाली हो सकती है जो पहली परिभाषा को संतुष्ट करती है। एक उपयोगकर्ताओं के प्रति सचेत समाधान उपयोगकर्ताओं और अन्य प्रभावित लोगों से इनपुट लेकर अपनी प्रणाली को डिज़ाइन करेगा।

आप वर्तमान में सितंबर 2024 में शुरू होने वाले स्नातक छात्रों की तलाश में हैं, आप क्यों सोचते हैं कि छात्रों को एआई गोपनीयता में रुचि लेनी चाहिए?

मुझे लगता है कि छात्रों को रुचि लेनी चाहिए क्योंकि यह हमारे समाज में और अधिक प्रचलित होने वाला है। इन प्रणालियों की तेजी से वृद्धि के लिए कोई भी हाल के चैट-जीपीटी के माध्यम से समाचार लेखों, सोशल मीडिया और इसके परिणामों की बहस देख सकता है। हम एक ऐसे समाज में रहते हैं जहां डेटा का संग्रह और उपयोग हमारे दैनिक जीवन में इतना जड़ा हुआ है कि हम लगभग लगातार रूप से विभिन्न कंपनियों और संगठनों को अपने बारे में जानकारी प्रदान कर रहे हैं। ये कंपनियां डेटा का उपयोग करना चाहती हैं, कभी-कभी अपनी सेवाओं में सुधार के लिए, अन्य मामलों में लाभ के लिए। इस बिंदु पर, यह असंभव लगता है कि ये निगमित डेटा उपयोग अभ्यास बदल जाएंगे। हालांकि, गोपनीयता संरक्षण प्रणालियों का अस्तित्व जो उपयोगकर्ताओं की रक्षा करते हुए कंपनियों द्वारा कुछ विश्लेषण की अनुमति देते हैं, हमारे समाज में जोखिम और लाभ के बीच संतुलन को संतुलित करने में मदद कर सकते हैं जो इतना अंतर्निहित हो गया है।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानने में रुचि रखते हैं उन्हें बेली कैक्समार के गिटहब पेज पर जाना चाहिए।