प्राइवेट एआई के सीईओ पैट्रिसिया थेन – साक्षात्कार श्रृंखला

पैट्रिसिया थेन प्राइवेट एआई की सह-संस्थापक और सीईओ हैं, जो टोरंटो विश्वविद्यालय में कंप्यूटर साइंस पीएचडी उम्मीदवार हैं और वेक्टर संस्थान में एक पोस्टग्रेजुएट सहयोगी हैं जो गोपनीयता-संरक्षण प्राकृतिक भाषा प्रसंस्करण पर अनुसंधान करती हैं, जिसमें लागू क्रिप्टोग्राफी पर ध्यान केंद्रित किया जाता है। वह खोए हुए भाषा के व्याख्या के लिए गणनात्मक तरीकों पर भी अनुसंधान करती है।

पैट्रिसिया एनएसईआरसी पोस्टग्रेजुएट छात्रवृत्ति, आरबीसी स्नातकोत्तर फेलोशिप, बीट्राइस “ट्रिक्सी” वर्सले स्नातक छात्रवृत्ति और ओंटारियो स्नातक छात्रवृत्ति की प्राप्तकर्ता हैं। उनके पास आठ साल का अनुसंधान और सॉफ्टवेयर विकास का अनुभव है, जिसमें मैकगिल भाषा विकास प्रयोगशाला, टोरंटो विश्वविद्यालय की गणनात्मक भाषाविज्ञान प्रयोगशाला, टोरंटो विश्वविद्यालय के भाषाविज्ञान विभाग और सार्वजनिक स्वास्थ्य एजेंसी कनाडा शामिल हैं।

आपको कंप्यूटर विज्ञान में क्या आकर्षित किया?

समस्या समाधान करने और एक ही समय में रचनात्मक होने की क्षमता। यह एक शिल्प की तरह है। आप अपने उत्पाद विचारों को जीवन में लाने के लिए देखते हैं, जैसे कि एक बढ़ई फर्नीचर बनाता है। जैसा कि मैंने एक बार किसी को सुना है: प्रोग्रामिंग सबसे बड़ा रचनात्मक उपकरण है। तथ्य यह है कि आप जो उत्पाद बनाते हैं वे दुनिया भर में लोगों द्वारा उपयोग किए जा सकते हैं, यह एक चेरी पर चेरी है।

क्या आप प्राइवेट एआई की उत्पत्ति की कहानी के बारे में चर्चा कर सकते हैं और यह कैसे आपके द्वारा गोपनीयता की कमी के अवलोकन से उत्पन्न हुआ?

भाषण और लेखन के माध्यम से, हमारी सबसे संवेदनशील जानकारी उत्पन्न होती है और कंपनियों को स्थानांतरित की जाती है जिनकी सेवाओं का हम उपयोग करते हैं। जब हम यह तय कर रहे थे कि कौन से एनएलपी उत्पाद बनाने हैं, तो एक गोपनीयता परत थी जिसे हमें एकीकृत करना था जो बाजार में मौजूद नहीं थी। गोपनीयता समाधानों का उपयोग करने के लिए, कंपनियों को या तो अपने उपयोगकर्ताओं के डेटा को एक तीसरे पक्ष को स्थानांतरित करना था, या निम्न-गुणवत्ता वाले ओपन-सोर्स समाधानों का उपयोग करना था जो वास्तव में उपयोगकर्ता गोपनीयता की रक्षा के लिए पर्याप्त नहीं थे, या घर में एक समाधान बनाना था जिसमें गोपनीयता में बहुत कम विशेषज्ञता थी। इसलिए, हमने विकसित करने का फैसला किया विकासकर्ताओं और एआई टीमों के लिए सर्वोत्तम उत्पाद जो गोपनीयता बढ़ाने वाली प्रौद्योगिकियों के आउटपुट को आसानी से काम करने की आवश्यकता है।

गोपनीयता-संरक्षण एआई क्यों महत्वपूर्ण है?

लगभग 80 प्रतिशत जानकारी असंरचित है और एआई इस डेटा को समझने का एकमात्र तरीका है। इसका उपयोग अच्छे के लिए किया जा सकता है, जैसे कि बुजुर्ग आबादी के लिए गिरने का पता लगाने में मदद करना, या बुरे के लिए, जैसे कि कम प्रतिनिधित्व वाले लोगों की प्रोफाइलिंग और ट्रैकिंग। सॉफ्टवेयर में गोपनीयता का निर्माण करना यह सुनिश्चित करता है कि एआई का उपयोग हानिकारक तरीके से करना अधिक कठिन है।

गोपनीयता एक प्रतिस्पर्धी लाभ कैसे है?

कई कारण हैं, लेकिन यहाँ कुछ हैं:

1. अधिक से अधिक उपयोगकर्ता गोपनीयता की परवाह करते हैं और जैसे ही उपभोक्ता अधिक शिक्षित होते हैं, यह चिंता बढ़ रही है: 70 प्रतिशत उपभोक्ता अपने डेटा की गोपनीयता के बारे में चिंतित हैं।
2. यह दूसरे व्यवसायों के साथ व्यवसाय करना आसान है यदि आपके पास उचित डेटा सुरक्षा और डेटा गोपनीयता प्रोटोकॉल और प्रौद्योगिकियां हैं।
3. जब आप अपने उत्पादों को गोपनीयता-संरक्षण तरीके से बनाते हैं, तो आप अपनी सेवा में कमजोरियों के बिंदुओं को बेहतर ढंग से ट्रैक करते हैं और विशेष रूप से डेटा कम करने के माध्यम से, आप उस डेटा को खत्म कर देते हैं जिसकी आपको आवश्यकता नहीं है और जब साइबर हमला होता है तो आपको परेशानी में डाल देगा।

प्रशिक्षण डेटा गोपनीयता के महत्व और इसके उल्टा इंजीनियरिंग के लिए संवेदनशीलता के बारे में आप चर्चा कर सकते हैं?

यह एक शानदार प्रश्न है और इसके बारे में बहुत अधिक शिक्षा की आवश्यकता है। सरल शब्दों में, मशीन लर्निंग मॉडल जानकारी को याद रखते हैं। बड़े मॉडल, अधिक वे याद रखते हैं। इसका मतलब है कि मॉडल को प्रशिक्षित किया जा सकता है जो जानकारी को उत्पादन में निकाल सकता है। यह कई शोध पत्रों में दिखाया गया है, जिनमें द सीक्रेट शेयरर: इवैल्यूएटिंग एंड टेस्टिंग अनइंटेंडेड मेमोराइजेशन इन न्यूरल नेटवर्क्स और एक्सट्रैक्टिंग ट्रेनिंग डेटा फ्रॉम लार्ज लैंग्वेज मॉडल्स शामिल हैं।

संघीय सीखने और उपयोगकर्ता गोपनीयता पर आपके विचार क्या हैं?

संघीय सीखना एक अच्छा कदम है जब उपयोग का मामला अनुमति देता है। हालांकि, यह अभी भी संभव है कि उपयोगकर्ता के इनपुट के बारे में जानकारी को वजन अद्यतन से निकाला जा सकता है जो क्लाउड में एक विशिष्ट उपयोगकर्ता के उपकरण से भेजा जाता है, इसलिए यह महत्वपूर्ण है कि संघीय सीखने को अन्य गोपनीयता बढ़ाने वाली प्रौद्योगिकियों (अंतर विभेदक गोपनीयता और होमोमॉर्फिक एन्क्रिप्शन / सुरक्षित बहुपक्षीय गणना) के साथ जोड़ा जाए। प्रत्येक गोपनीयता बढ़ाने वाली प्रौद्योगिकी का चयन उपयोग के मामले के अनुसार किया जाना चाहिए – कोई भी समस्या को हल करने के लिए एक हथौड़ा के रूप में उपयोग नहीं किया जा सकता है। हम इस निर्णय पेड़ पर जाते हैं। एक बड़ा लाभ यह है कि आप अपना कच्चा डेटा कभी भी अपने उपकरण से बाहर नहीं भेजते हैं। एक बड़ा नुकसान यह है कि यदि आपको एक प्रणाली को डीबग करने या देखने की आवश्यकता है कि यह ठीक से प्रशिक्षित हो रही है या नहीं, तो यह बहुत अधिक कठिन हो जाता है। संघीय सीखना एक अच्छी शुरुआत है जिसमें कई असुलझे समस्याएं हैं जिन पर अनुसंधान और उद्योग दोनों काम कर रहे हैं।

प्राइवेट एआई डेवलपर्स को कोड की कई पंक्तियों के साथ गोपनीयता विश्लेषण एकीकृत करने की अनुमति कैसे देता है ताकि गोपनीयता सुनिश्चित की जा सके?

हमारी तकनीक एक आरईएसटी एपीआई के रूप में चलती है जिसे हमारे उपयोगकर्ता पोस्ट अनुरोधों के साथ भेजते हैं जिसमें वे पाठ होते हैं जिन्हें वे लाल करना, पहचान निर्धारित करना या यथार्थवादी डेटा के साथ प्रतिस्थापित/प्सेव्डोनाइमाइज़ करना चाहते हैं। हमारे कुछ ग्राहक पीसीआई अनुपालन के लिए लाल करने की आवश्यकता वाले कॉल ट्रांसक्रिप्ट भेजते हैं, जबकि अन्य पूरे चैट भेजते हैं ताकि वे जानकारी का उपयोग करके चैटबॉट, भावना विश्लेषक या अन्य एनएलपी मॉडल को प्रशिक्षित कर सकें। हमारे उपयोगकर्ता यह भी चुन सकते हैं कि वे कौन से इकाइयों को बनाए रखना चाहते हैं या यहां तक कि मेटाडेटा के रूप में उपयोग करना चाहते हैं ताकि वे ट्रैक कर सकें कि व्यक्तिगत डेटा कहां संग्रहीत किए गए हैं। हमें वास्तविक डेटा में व्यक्तिगत जानकारी का पता लगाने और प्रतिस्थापित करने के लिए एक सटीक प्रणाली को प्रशिक्षित करने के दर्द से छुटकारा मिलता है।

आइओटी डिवाइसों के लिए गोपनीयता वर्तमान में एक मुद्दा क्यों है और आप इसे हल करने के बारे में क्या सोचते हैं?

अंततः, गोपनीयता समस्या का समाधान करने का सबसे अच्छा तरीका बहुत उपयोग-मामले पर निर्भर करता है, और आइओटी डिवाइस कोई अपवाद नहीं हैं। जबकि कुछ उपयोग के मामले एज डिप्लॉयमेंट, एज इन्फरेंस और गोपनीयता-संरक्षण संघीय सीखने (जैसे स्मार्ट शहरों में भीड़ सेंसिंग) पर निर्भर कर सकते हैं, अन्य उपयोग के मामले डेटा एग्रीगेशन और गुमनामीकरण (जैसे ऊर्जा उपयोग जानकारी) की आवश्यकता हो सकती है। आइओटी डिवाइस गोपनीयता और सुरक्षा के साथ-साथ जाने का एक प्रमुख उदाहरण हैं। ये डिवाइस साइबर हमलों के लिए कुख्यात रूप से असुरक्षित हैं, इसलिए गोपनीयता बढ़ाने वाली प्रौद्योगिकियों के बिना मूल डिवाइस कमजोरियों को ठीक किए बिना बहुत कुछ नहीं किया जा सकता है। दूसरी ओर, उपयोगकर्ता गोपनीयता को बढ़ाने के तरीकों के बारे में सोचने के बिना, हमारे घरों के भीतर एकत्र की गई जानकारी अज्ञात पक्षों के साथ साझा की जा सकती है, जिससे जानकारी की सुरक्षा की गारंटी देना बेहद मुश्किल हो जाता है। हमें यहां दो मोर्चों पर सुधार करने की आवश्यकता है और यूरोपीय आयोग द्वारा आइओटी डिवाइस सुरक्षा पर लिखे जा रहे मसौदा कानून यह हो सकता है कि डिवाइस निर्माताओं को उपभोक्ताओं की सुरक्षा और गोपनीयता के प्रति अपनी जिम्मेदारी को गंभीरता से लेने के लिए प्रेरित करें।

क्या प्राइवेट एआई के बारे में आप कुछ और साझा करना चाहेंगे?

हम गोपनीयता, प्राकृतिक भाषा, बोली भाषा, छवि प्रसंस्करण, कम संसाधन वाले वातावरण में मशीन लर्निंग मॉडल डिप्लॉयमेंट में विशेषज्ञों का एक समूह हैं, जो एम12, माइक्रोसॉफ्ट के वेंचर फंड द्वारा समर्थित हैं।

हम यह सुनिश्चित करते हैं कि हम जो उत्पाद बनाते हैं वे न केवल उच्च स्तर की सटीकता के साथ हों, बल्कि साथ ही साथ गणनात्मक रूप से कुशल भी हों ताकि आपके पास महीने के अंत में एक बड़ा क्लाउड बिल न हो। इसके अलावा, हमारे ग्राहकों का डेटा कभी भी हमें स्थानांतरित नहीं किया जाता है – सब कुछ उनके अपने वातावरण में संसाधित किया जाता है।

साक्षात्कार के लिए धन्यवाद, अधिक जानने के लिए प्राइवेट एआई पर जाएं।