कंप्यूटर विजन डेटासेट के लिए डीआरएम

इतिहास से पता चलता है कि अंततः कंप्यूटर विजन अनुसंधान का ‘खुला’ युग, जहां पुनरुत्पादन और अनुकूल पियर रिव्यू नए प्रयास के विकास के लिए केंद्रीय हैं, को आईपी सुरक्षा के एक नए युग के लिए रास्ता देना होगा – जहां बंद तंत्र और दीवार वाले प्लेटफ़ॉर्म प्रतियोगियों को उच्च डेटासेट विकास लागत को कम करने से रोकते हैं, या एक महंगी परियोजना का उपयोग अपने स्वयं के (शायद बेहतर) संस्करण विकसित करने के लिए एक कदम के रूप में करते हैं।

वर्तमान में सुरक्षा की बढ़ती प्रवृत्ति मुख्य रूप से प्रोप्राइटरी केंद्रीय फ्रेमवर्क को एपीआई एक्सेस के पीछे बाड़ लगाकर समर्थित है, जहां उपयोगकर्ता अंदर स्पार्स टोकन या अनुरोध भेजते हैं, और जहां फ्रेमवर्क के प्रतिक्रियाओं को मूल्यवान बनाने वाली परिवर्तनकारी प्रक्रियाएं पूरी तरह से छुपी होती हैं।

कुछ मामलों में, अंतिम मॉडल खुद ही जारी किया जा सकता है, लेकिन उस जानकारी के बिना जो इसे मूल्यवान बनाती है, जैसे कि पूर्व-प्रशिक्षित वजन जो कई मिलियन की लागत से उत्पन्न हो सकते हैं; या एक प्रोप्राइटरी डेटासेट की कमी, या यह जानकारी कि एक सब्सेट कैसे एक श्रृंखला के खुले डेटासेट से उत्पन्न किया गया था। ओपनएआई के रूपांतरणकारी प्राकृतिक भाषा मॉडल जीपीटी-3 के मामले में, दोनों सुरक्षा उपाय वर्तमान में उपयोग में हैं, जिससे मॉडल के अनुकरणकर्ता, जैसे जीपीटी नियो, उत्पाद का एक अनुमान लगाने के लिए जितना संभव हो उतना अच्छा है।

चित्र डेटासेट की प्रतिलिपि सुरक्षा

हालांकि, एक ‘सुरक्षित’ मशीन लर्निंग फ्रेमवर्क को कुछ पोर्टेबिलिटी हासिल करने के तरीकों में रुचि बढ़ रही है, जिससे केवल अधिकृत उपयोगकर्ता (उदाहरण के लिए, भुगतान किए गए उपयोगकर्ता) प्रणाली का लाभकारी रूप से उपयोग कर सकें। यह आमतौर पर डेटासेट को कुछ प्रोग्राममैटिक तरीके से एन्क्रिप्ट करने के लिए शामिल होता है, ताकि यह प्रशिक्षण समय में एआई फ्रेमवर्क द्वारा ‘साफ’ पढ़ा जाए, लेकिन किसी अन्य संदर्भ में समझौता किया जाए या किसी भी तरह से अप्रयुक्त हो।

अनहुई में चीन के विज्ञान और प्रौद्योगिकी विश्वविद्यालय के शोधकर्ताओं और शंघाई में फुदान विश्वविद्यालय ने हाल ही में एक ऐसी प्रणाली का प्रस्ताव दिया है। इनवर्टिबल इमेज डेटासेट सुरक्षा नामक पेपर में एक पाइपलाइन प्रदान की गई है जो स्वचालित रूप से विरोधी उदाहरण विकृति को एक चित्र डेटासेट में जोड़ती है, ताकि यह चोरी की स्थिति में प्रशिक्षण के लिए उपयोगी रूप से उपयोग नहीं किया जा सके, लेकिन जहां सुरक्षा एक अधिकृत प्रणाली द्वारा पूरी तरह से फ़िल्टर्ड हो जाती है जिसमें एक गुप्त टोकन होता है।

पेपर से: एक ‘मूल्यवान’ स्रोत चित्र विरोधी उदाहरण तकनीकों के साथ प्रभावी रूप से अप्रशिक्षित हो जाता है, जिसमें विकृतियों को एक ‘अधिकृत’ उपयोगकर्ता के लिए स्वचालित रूप से और पूरी तरह से हटा दिया जाता है। स्रोत: https://arxiv.org/pdf/2112.14420.pdf

सुरक्षा को सक्षम करने वाली तंत्र को रिवर्सिबल एडवर्सेरियल एक्जाम्पल जेनरेटर (आरएईजी) कहा जाता है, और वास्तव में यह वर्गीकरण उद्देश्यों के लिए चित्रों की उपयोगिता पर एन्क्रिप्शन की तरह है, जो रिवर्सिबल डेटा हाइडिंग (आरडीएच) का उपयोग करता है। लेखकों का कहना है:

‘विधि पहले मौजूदा एई विधियों का उपयोग करके विरोधी चित्र उत्पन्न करती है, फिर विरोधी विकृति को विरोधी चित्र में एम्बेड करती है, और आरडीएच का उपयोग करके स्टेगो चित्र उत्पन्न करती है। रिवर्सिबिलिटी की विशेषता के कारण, विरोधी विकृति और मूल चित्र को पुनर्प्राप्त किया जा सकता है।’

डेटासेट के मूल चित्र एक यू-आकार के इनवर्टिबल न्यूरल नेटवर्क (आईएनएन) में प्रवेश किए जाते हैं ताकि विरोधी प्रभावित चित्र उत्पन्न किए जा सकें जो वर्गीकरण प्रणालियों को धोखा देने के लिए तैयार किए गए हैं। इसका मतलब है कि विशिष्ट विशेषता निष्कर्षण कमजोर होगा, जिससे विशेषताओं जैसे लिंग और अन्य चेहरे आधारित विशेषताओं को वर्गीकृत करना मुश्किल हो जाएगा (हालांकि वास्तुकला का समर्थन कई क्षेत्रों में है, न कि केवल चेहरे आधारित सामग्री में)।

आरएईजी का एक इनवर्सन परीक्षण, जहां चित्रों पर पुनर्निर्माण से पहले विभिन्न प्रकार के हमले किए जाते हैं। हमले के तरीकों में गॉसियन ब्लर और जेपीईजी कलाकृतियां शामिल हैं।

इस प्रकार, यदि ‘दूषित’ या ‘एन्क्रिप्टेड’ डेटासेट को जीएन-आधारित चेहरा पीढ़ी या चेहरा पहचान उद्देश्यों के लिए डिज़ाइन किए गए फ्रेमवर्क में उपयोग करने का प्रयास किया जाता है, तो परिणामी मॉडल उन चित्रों पर प्रशिक्षित होने की तुलना में कम प्रभावी होगा जो अप्रभावित हैं।

चित्रों को लॉक करना

हालांकि, यह केवल लोकप्रिय विकृति विधियों की सामान्य लागूपन का एक परिणाम है। वास्तव में, कल्पना की गई उपयोग के मामले में, डेटा तब तक अक्षम हो जाएगा जब तक कि लक्ष्य फ्रेमवर्क तक अधिकृत पहुंच न हो, क्योंकि स्वच्छ डेटा की ‘कुंजी’ लक्ष्य वास्तुकला में एक गुप्त टोकन है।

यह एन्क्रिप्शन एक मूल्य के साथ आता है; शोधकर्ता मूल चित्र की गुणवत्ता के नुकसान को ‘हल्का विकृति’ के रूप में वर्णित करते हैं, और कहते हैं ‘[प्रस्तावित] विधि मूल चित्र को लगभग पूरी तरह से बहाल कर सकती है, जबकि पिछली विधियां केवल एक धुंधला संस्करण बहाल कर सकती हैं।’

पिछली विधियां नवंबर 2018 के पेपर अनधिकृत एआई मुझे पहचान नहीं सकता: रिवर्सिबल एडवर्सेरियल एक्जाम्पल से हैं, जो दो चीनी विश्वविद्यालयों और रिकेन सेंटर फॉर एडवांस्ड इंटेलिजेंस प्रोजेक्ट (एआईपी) के बीच एक सहयोग है; और रिवर्सिबल एडवर्सेरियल अटैक बेस्ड ऑन रिवर्सिबल इमेज ट्रांसफॉर्मेशन, एक 2019 पेपर जो चीनी अकादमिक अनुसंधान क्षेत्र से भी है।

नई पेपर के शोधकर्ता दावा करते हैं कि उन्होंने पिछले दृष्टिकोणों की तुलना में बहाल किए गए चित्रों की उपयोगिता में उल्लेखनीय सुधार किया है, यह देखते हुए कि पहला दृष्टिकोण मध्यवर्ती हस्तक्षेप के प्रति बहुत संवेदनशील है, और बहुत आसानी से परिहार किया जा सकता है, जबकि दूसरा प्रशिक्षण समय में मूल चित्रों को अत्यधिक क्षति पहुंचाता है, जिससे प्रणाली की लागूपन कम हो जाती है।

वास्तुकला, डेटा और परीक्षण

नई प्रणाली में एक जनरेटर, एक हमला परत जो विकृति लागू करती है, पूर्व-प्रशिक्षित लक्ष्य वर्गीकरणकर्ता, और एक भेदभाव तत्व शामिल है।

आरएईजी की वास्तुकला। बाएं-मध्य, हम गुप्त टोकन ‘आई_{पीआरटी}‘ देखते हैं, जो प्रशिक्षण समय में चित्र की विकृति को हटाने की अनुमति देगा, स्रोत चित्रों में बेक किए गए विकृत विशेषताओं की पहचान करके और उन्हें छूट देकर।

नीचे दो पिछले दृष्टिकोणों के साथ एक परीक्षण तुलना के परिणाम हैं, जो तीन डेटासेट का उपयोग करते हैं: सेलेबीए-100; कैलटेक-101; और मिनी-इमेजनेट.

तीन डेटासेट को लक्ष्य वर्गीकरण नेटवर्क के रूप में प्रशिक्षित किया गया था, जिसमें 32 का बैच आकार था, एक एनवीडिया आरटीएक्स 3090 पर एक सप्ताह के लिए, 50 युगों के लिए।

लेखकों का दावा है कि आरएईजी पहला काम है जो एक इनवर्टिबल न्यूरल नेटवर्क प्रदान करता है जो विरोधी उदाहरणों को सक्रिय रूप से उत्पन्न कर सकता है।

पहली बार 4 जनवरी 2022 को प्रकाशित।