सिंथेटिक डेटा गोपनीयता की सुरक्षा नहीं करता है, शोधकर्ताओं का दावा है

फ्रांस और यूके के बीच एक नए शोध सहयोग ने मशीन लर्निंग क्षेत्र में प्रगति को खतरा पहुंचाने वाले गोपनीयता, गुणवत्ता और उपलब्धता के मुद्दों (और अन्य मुद्दों) को हल करने के लिए सिंथेटिक डेटा पर बढ़ती उद्योग की आत्मविश्वास पर संदेह व्यक्त किया है।

कई महत्वपूर्ण बिंदुओं के बीच, लेखक यह दावा करते हैं कि वास्तविक डेटा से मॉडल किए गए सिंथेटिक डेटा में पर्याप्त वास्तविक जानकारी होती है जो अनुमान और सदस्यता हमलों से सुरक्षा प्रदान नहीं करती है, जो डेटा को डीनोनिमाइज़ करने और वास्तविक लोगों के साथ पुनः संबंधित करने का प्रयास करते हैं।

इसके अलावा, जिन व्यक्तियों को ऐसे हमलों से सबसे ज्यादा खतरा है, जिनमें महत्वपूर्ण चिकित्सा स्थितियों या उच्च अस्पताल के बिल (चिकित्सा रिकॉर्ड अनामकरण के मामले में) वाले लोग शामिल हैं, उनकी ‘आउटलियर’ प्रकृति के कारण, इन तकनीकों द्वारा पुनः पहचाने जाने की सबसे अधिक संभावना है।

इस पत्र में कहा गया है:

‘एक सिंथेटिक डेटासेट तक पहुंच प्राप्त करने वाला एक रणनीतिक दुश्मन मूल डेटा में एक लक्ष्य रिकॉर्ड की उपस्थिति का अनुमान लगा सकता है, उच्च आत्मविश्वास के साथ।’

इस पत्र में यह भी कहा गया है कि दifferentially गोपनीय सिंथेटिक डेटा, जो व्यक्तिगत रिकॉर्ड के हस्ताक्षर को धुंधला करता है, वास्तव में व्यक्तियों की गोपनीयता की रक्षा करता है, लेकिन केवल तभी जब जानकारी पुनर्प्राप्ति प्रणालियों की उपयोगिता को महत्वपूर्ण रूप से कम किया जाता है।

यदि कुछ भी है, तो शोधकर्ता यह देखते हैं कि अलग-अलग गोपनीय दृष्टिकोण – जो ‘वास्तविक’ जानकारी का उपयोग सिंथेटिक डेटा के माध्यम से ‘एक चरण दूर’ पर करते हैं – सुरक्षा परिदृश्य को बुरा बना देते हैं जैसा कि यह होगा:

‘[सिंथेटिक] डेटासेट इस ट्रेडऑफ़ के बारे में कोई पारदर्शिता प्रदान नहीं करते हैं। यह अनुमान लगाना असंभव है कि कौन से डेटा विशेषताएं संरक्षित की जाएंगी और कौन से पैटर्न दबा दिए जाएंगे।’

नई पत्र, जिसका शीर्षक सिंथेटिक डेटा – अनामकरण ग्राउंडहोग डे है, पेरिस में École Polytechnique Fédérale de Lausanne (EPFL) के दो शोधकर्ताओं और लंदन में यूनिवर्सिटी कॉलेज लंदन (UCL) के एक शोधकर्ता से आया है।

शोधकर्ताओं ने मौजूदा निजी उत्पन्न मॉडल प्रशिक्षण एल्गोरिदम के परीक्षण किए, और पाया कि कुछ कार्यान्वयन निर्णयों ने निजता गारंटी का उल्लंघन किया जो फ्रेमवर्क में प्रदान किए गए थे, जिससे विविध रिकॉर्ड अनुमान हमलों के लिए खुले रहे।

लेखकों ने प्रत्येक एल्गोरिदम का एक संशोधित संस्करण प्रदान किया है जो संभावित रूप से इन एक्सपोज़र को कम कर सकता है, और कोड को ओपन सोर्स लाइब्रेरी के रूप में उपलब्ध करा रहे हैं। वे दावा करते हैं कि यह शोधकर्ताओं को सिंथेटिक डेटा के गोपनीयता लाभों का मूल्यांकन करने और उपयोगी रूप से लोकप्रिय अनामकरण विधियों की तुलना करने में मदद करेगा। नए फ्रेमवर्क में दो प्रासंगिक गोपनीयता हमले तरीके शामिल हैं जो किसी भी उत्पन्न मॉडल प्रशिक्षण एल्गोरिदम पर लागू किए जा सकते हैं।

सिंथेटिक डेटा

सिंथेटिक डेटा का उपयोग विभिन्न परिदृश्यों में मशीन लर्निंग मॉडल को प्रशिक्षित करने के लिए किया जाता है, जिनमें एक व्यापक जानकारी की कमी को सिंथेटिक डेटा द्वारा भरा जा सकता है। इसका एक उदाहरण यह है कि सिंथेटिक चेहरे का उपयोग ‘कठिन’ या दुर्लभ चेहरे की तस्वीरों के लिए छवि संश्लेषण डेटासेट प्रदान करने के लिए किया जा सकता है, जहां प्रोफाइल चित्र, तीव्र कोण या असामान्य अभिव्यक्तियां अक्सर स्रोत सामग्री में देखी जाती हैं।

सिंथेटिक छवियों के अन्य प्रकार का उपयोग डेटासेट को आबाद करने के लिए किया गया है जो अंततः वास्तविक डेटा पर चलेगा, जैसे कि डेटासेट जो हाथ और फर्नीचर की विशेषता है।

गोपनीयता सुरक्षा के संदर्भ में, सिंथेटिक डेटा को वास्तविक डेटा से जेनरेटिव एडवर्सेरियल नेटवर्क (GAN) प्रणालियों द्वारा उत्पन्न किया जा सकता है जो वास्तविक डेटा से विशेषताओं को निकालते हैं और समान, काल्पनिक रिकॉर्ड बनाते हैं जो बाद में (अदृश्य, वास्तविक) डेटा के लिए सामान्यीकृत करने की संभावना है, लेकिन वास्तविक लोगों के विवरण को स्रोत डेटा में धुंधला करने का इरादा है।

विधि

नई शोध के उद्देश्य से, लेखकों ने पांच जेनरेटिव मॉडल प्रशिक्षण एल्गोरिदम में गोपनीयता लाभ का मूल्यांकन किया। इनमें से तीन मॉडलों में स्पष्ट गोपनीयता सुरक्षा नहीं है, जबकि अन्य दो में अंतर्निहित गोपनीयता गारंटी हैं। ये टेबुलर मॉडल विभिन्न वास्तुकलाओं का प्रतिनिधित्व करने के लिए चुने गए थे।

हमले किए गए मॉडल BayNet, PrivBay (PrivBayes/BayNet का एक व्युत्पन्न), CTGAN, PATEGAN और IndHist थे।

मॉडलों के लिए मूल्यांकन फ्रेमवर्क को एक पायथन लाइब्रेरी के रूप में लागू किया गया था जिसमें दो मुख्य वर्ग थे – GenerativeModels और PrivacyAttacks. बाद में दो पहलू हैं – एक सदस्यता अनुमान दुश्मन, और एक सदस्यता अनुमान हमला। फ्रेमवर्क ‘सैनिटाइज्ड’ (अर्थात अनाम) डेटा और सिंथेटिक डेटा के गोपनीयता लाभों का मूल्यांकन करने में भी सक्षम है।

परीक्षणों में उपयोग किए गए दो डेटासेट थे वयस्क डेटा सेट यूसीआई मशीन लर्निंग रिपॉजिटरी से, और हॉस्पिटल डिस्चार्ज डेटा पब्लिक यूज़ डेटा फ़ाइल टेक्सास डिपार्टमेंट ऑफ स्टेट हेल्थ सर्विसेज से। शोधकर्ताओं द्वारा उपयोग किए जाने वाले टेक्सास डेटासेट में 2013 के लिए रोगी रिकॉर्ड से 50,000 रिकॉर्ड शामिल थे।

हमले और निष्कर्ष

शोध का सामान्य उद्देश्य ‘लिंकेबिलिटी’ (वास्तविक डेटा को सिंथेटिक डेटा के साथ पुनः संबंधित करना) की स्थापना करना है। अध्ययन में उपयोग किए जाने वाले हमले मॉडल में लॉजिस्टिक रिग्रेशन, रैंडम फॉरेस्ट और के-निकटतम पड़ोसी वर्गीकरणकर्ता शामिल हैं।

लेखकों ने ‘अल्पसंख्यक’ जनसंख्या वर्गों के लिए दो लक्ष्य समूहों का चयन किया, क्योंकि वे सबसे अधिक लिंकेज हमले के लिए अतिसंवेदनशील होने की संभावना है। उन्होंने उस विशेषता के 95% क्वांटाइल से बाहर ‘दुर्लभ श्रेणीबद्ध विशेषता मूल्य’ वाले रिकॉर्ड भी चुने। उदाहरणों में उच्च मृत्यु दर, उच्च कुल अस्पताल शुल्क और बीमारी की गंभीरता से संबंधित रिकॉर्ड शामिल हैं।

हालांकि पत्र इस पहलू पर विस्तार से नहीं जाता है, वास्तविक दुनिया के हमलावरों के दृष्टिकोण से, ये वे ‘महंगे’ या ‘उच्च जोखिम’ वाले मरीज़ हैं जिन्हें सदस्यता अनुमान और अन्य प्रकार के डेटा एक्सफिल्ट्रेशन दृष्टिकोण द्वारा रोगी रिकॉर्ड को लक्षित करने की सबसे अधिक संभावना है।

विभिन्न हमले मॉडल को सार्वजनिक संदर्भ जानकारी के खिलाफ प्रशिक्षित किया गया था ताकि दस लक्ष्यों पर ‘शैडो मॉडल’ विकसित किए जा सकें। परीक्षणों (जैसा कि पहले वर्णित है) के परिणाम यह दर्शाते हैं कि कई रिकॉर्ड लिंकेज हमलों के प्रति ‘अत्यधिक कमजोर’ थे जो उन पर शोधकर्ताओं द्वारा किए गए थे। परिणामों में यह भी पाया गया कि परीक्षणों में सभी लक्ष्यों के 20% को जीएन मethods द्वारा उत्पादित सिंथेटिक डेटा से शून्य गोपनीयता लाभ प्राप्त हुआ।

शोधकर्ता यह नोट करते हैं कि परिणाम सिंथेटिक डेटा को उत्पन्न करने के तरीके, हमले वेक्टर और लक्षित डेटासेट की विशेषताओं के आधार पर भिन्न होते हैं। रिपोर्ट में पाया गया है कि कई मामलों में, प्रभावी पहचान दमन सिंथेटिक डेटा दृष्टिकोणों के माध्यम से गोपनीयता की सुरक्षा कम करता है। वास्तव में, ऐसी प्रणालियों की उपयोगिता और सटीकता अक्सर उनकी पुनः पहचान हमलों के प्रति कमजोरता का एक प्रत्यक्ष सूचक हो सकती है।

शोधकर्ता निष्कर्ष निकालते हैं:

‘यदि एक सिंथेटिक डेटासेट मूल डेटा की विशेषताओं को उच्च सटीकता के साथ बनाए रखता है, और इसलिए उपयोग के मामलों के लिए इसकी उपयोगिता को बनाए रखता है, तो यह एक ही समय में विरोधियों को व्यक्तिगत रिकॉर्ड के संकेत को निकालने में सक्षम बनाता है। ‘

‘किसी भी अनामकरण तंत्र के माध्यम से गोपनीयता में उच्च लाभ केवल तभी प्राप्त किया जा सकता है जब प्रकाशित सिंथेटिक या स्वच्छित मूल डेटा का संस्करण वास्तविक रिकॉर्ड के संकेत को मूल डेटा में नहीं ले जाता है और प्रभावी रूप से उन्हें दबा देता है।’