बेली कैक्समार, वाटरलू विश्वविद्यालय में पीएचडी उम्मीदवार – साक्षात्कार श्रृंखला

बेली कैक्समार वाटरलू विश्वविद्यालय के कंप्यूटर विज्ञान विद्यालय में पीएचडी उम्मीदवार हैं और अल्बर्टा विश्वविद्यालय में आगामी संकाय सदस्य हैं। उनकी शोध रुचियां उपयोगकर्ता-conscious गोपनीयता-सुधार प्रौद्योगिकियों के विकास में हैं, जो तकनीकी दृष्टिकोणों के समानांतर अध्ययन के माध्यम से निजी गणना के साथ-साथ इन प्रौद्योगिकियों की उपयोगकर्ता धारणाओं, चिंताओं और समझ के लिए हैं। उनका काम मशीन लर्निंग अनुप्रयोगों में गोपनीयता की संभावनाओं और सीमाओं की पहचान करने के लिए है।

आपकी शोध रुचियां उपयोगकर्ता-conscious गोपनीयता-सुधार प्रौद्योगिकियों के विकास में हैं, क्योंकि एआई में गोपनीयता इतनी महत्वपूर्ण क्यों है?

एआई में गोपनीयता इतनी महत्वपूर्ण है क्योंकि हमारी दुनिया में एआई डेटा के बिना नहीं हो सकता। डेटा, जबकि एक उपयोगी अमूर्तता है, अंततः लोगों और उनके व्यवहारों का वर्णन करता है। हम शायद ही कभी पेड़ आबादी और जल स्तर के बारे में डेटा के साथ काम करते हैं; इसलिए, जब भी हम किसी ऐसी चीज़ के साथ काम करते हैं जो वास्तविक लोगों को प्रभावित कर सकती है, तो हमें इसके प्रति जागरूक रहने की आवश्यकता है और समझने की आवश्यकता है कि हमारी प्रणाली अच्छा या हानि कैसे कर सकती है। यह विशेष रूप से एआई के लिए सच है, जहां कई प्रणालियों को बड़ी मात्रा में डेटा का लाभ मिलता है या स्वास्थ्य डेटा जैसे अत्यधिक संवेदनशील डेटा का उपयोग करके हमारी दुनिया की नई समझ विकसित करने का प्रयास करती हैं।

आपको कुछ तरीके दिखाई दिए हैं कि मशीन लर्निंग ने उपयोगकर्ताओं की गोपनीयता का उल्लंघन कैसे किया है?

उल्लंघन एक मजबूत शब्द है। हालांकि, जब भी एक प्रणाली लोगों के बारे में जानकारी का उपयोग उनकी सहमति के बिना, उन्हें सूचित किए बिना, और संभावित हानि की परवाह किए बिना करती है, तो यह व्यक्तिगत या सामाजिक गोपनीयता मानकों का उल्लंघन करने का जोखिम उठाती है। मूल रूप से, यह एक हजार छोटे कट्स द्वारा उल्लंघन का परिणाम है। ऐसे अभ्यास उपयोगकर्ताओं के ईमेल इनबॉक्स, उपयोगकर्ताओं के टेक्स्ट संदेशों या स्वास्थ्य डेटा पर मॉडल को प्रशिक्षित करने के लिए हो सकते हैं; सभी बिना डेटा के विषयों को सूचित किए।

आप अंतर विभेदित गोपनीयता को परिभाषित कर सकते हैं और आपके विचार इस पर क्या हैं?

अंतर विभेदित गोपनीयता एक परिभाषा या तकनीक है जो तकनीकी गोपनीयता प्राप्त करने के लिए प्रमुखता से बढ़ी है। तकनीकी गोपनीयता की परिभाषाएं आमतौर पर दो मुख्य पहलुओं को शामिल करती हैं; क्या संरक्षित किया जा रहा है, और किस से। तकनीकी गोपनीयता में, गोपनीयता गारंटी सुरक्षा हैं जो दी गई धारणाओं को पूरा करने पर प्राप्त की जाती हैं। ये धारणाएं संभावित प्रतिद्वंद्वियों, प्रणाली जटिलताओं या सांख्यिकी के बारे में हो सकती हैं। यह एक अविश्वसनीय रूप से उपयोगी तकनीक है जिसका व्यापक अनुप्रयोग है। हालांकि, यह महत्वपूर्ण है कि अंतर विभेदित गोपनीयता गोपनीयता के समान नहीं है।

एक अन्य गोपनीयता-सुधार प्रकार की मशीन लर्निंग संघीय लर्निंग है, आप इसको परिभाषित कर सकते हैं और आपके विचार इस पर क्या हैं?

संघीय लर्निंग एक तरीका है जिसमें मशीन लर्निंग को कई मालिकों या स्थानों पर वितरित डेटासेट के संग्रह पर मॉडल को प्रशिक्षित करने के लिए किया जाता है। यह स्वयं में गोपनीयता-सुधार प्रकार की मशीन लर्निंग नहीं है। गोपनीयता-सुधार प्रकार की मशीन लर्निंग को正式 रूप से परिभाषित करने की आवश्यकता है कि क्या संरक्षित किया जा रहा है, किस से संरक्षित किया जा रहा है, और जिन शर्तों को पूरा करने की आवश्यकता है ताकि ये सुरक्षा बनी रहे। उदाहरण के लिए, जब हम एक सरल अंतर विभेदित गोपनीयता गणना के बारे में सोचते हैं, तो यह गारंटी देता है कि कोई भी आउटपुट देखकर यह नहीं बता सकता कि कोई विशिष्ट डेटा बिंदु योगदान दिया गया था या नहीं।

इन दृष्टिकोणों की वर्तमान सीमाएं क्या हैं?

वर्तमान सीमाओं को गोपनीयता-उपयोगिता व्यापार-बंद के स्वभाव के रूप में वर्णित किया जा सकता है। भले ही आप अन्य सभी चीजों को करें, जैसे कि प्रभावित लोगों को गोपनीयता परिणामों के बारे में संवाद करें, प्रणाली का मूल्यांकन करें जो आप करने की कोशिश कर रहे हैं, आदि, यह अभी भी идеल व्यापार-बंद को निर्धारित करने की बात आती है। यह कैसे निर्धारित किया जाए कि क्या सही संतुलन है, और कैसे इसकी ओर काम किया जाए ताकि हम अभी भी वांछित कार्यक्षमता प्राप्त करें और साथ ही आवश्यक गोपनीयता सुरक्षा प्रदान करें।

आप वर्तमान में उपयोगकर्ता-conscious गोपनीयता प्रौद्योगिकी के माध्यम से निजी गणना के लिए तकनीकी समाधानों के समानांतर अध्ययन के माध्यम से विकसित करने का लक्ष्य रखते हैं। आप इन समाधानों के कुछ विवरण में जा सकते हैं?

मेरा मतलब है कि हम तकनीकी गोपनीयता प्रणालियों का विकास कर सकते हैं। हालांकि, जब ऐसा करने की बात आती है, तो यह महत्वपूर्ण है कि हम यह निर्धारित करें कि क्या गोपनीयता गारंटी प्रभावित लोगों तक पहुंच रही हैं। यह प्रणाली विकसित करने से पहले यह पता लगाने में शामिल हो सकता है कि आबादी किन प्रकार के संरक्षण को मूल्य देती है। यह प्रणाली को अद्यतन करने में शामिल हो सकता है जब हमें यह पता चलता है कि लोग वास्तविक जीवन के खतरे और जोखिम विचारों के साथ कैसे प्रणाली का उपयोग करते हैं। एक तकनीकी समाधान एक सही प्रणाली हो सकती है जो先े परिभाषा को संतुष्ट करती है। एक उपयोगकर्ता-conscious समाधान उपयोगकर्ताओं और अन्य प्रभावित लोगों से इनपुट लेकर अपनी प्रणाली को डिज़ाइन करेगा।

आप वर्तमान में सितंबर 2024 में शुरू होने वाले स्नातक छात्रों की तलाश में हैं, आप क्यों सोचते हैं कि छात्रों को एआई गोपनीयता में रुचि लेनी चाहिए?

मुझे लगता है कि छात्रों को रुचि लेनी चाहिए क्योंकि यह हमारे समाज में और अधिक प्रचलित होने वाला है। इन प्रणालियों की तेजी से वृद्धि के लिए कोई भी हाल के चैट-जीपीटी के माध्यम से समाचार लेखों, सोशल मीडिया और इसके परिणामों की बहस देख सकता है। हम एक ऐसे समाज में रहते हैं जहां डेटा का संग्रह और उपयोग हमारे दैनिक जीवन में इतना जड़ा हुआ है कि हम लगभग不断 रूप से विभिन्न कंपनियों और संगठनों को अपने बारे में जानकारी प्रदान कर रहे हैं। ये कंपनियां डेटा का उपयोग करना चाहती हैं, कभी-कभी अपनी सेवाओं में सुधार के लिए, अन्य मामलों में लाभ के लिए। इस बिंदु पर, यह असंभव लगता है कि ये निगमित डेटा उपयोग अभ्यास बदल जाएंगे। हालांकि, गोपनीयता संरक्षण प्रणालियों का अस्तित्व जो उपयोगकर्ताओं की रक्षा करते हुए कंपनियों द्वारा कुछ विश्लेषण की अनुमति देते हैं, हमारे समाज में जोखिम-इनाम व्यापार-बंद को संतुलित करने में मदद कर सकते हैं जो इतना अंतर्निहित हो गया है।

साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानने में रुचि रखते हैं उन्हें बेली कैक्समार के गिटहब पेज पर जाना चाहिए।