हमारी अचेतन गहरे नकल-पता करने की क्षमता भविष्य के स्वचालित प्रणालियों को शक्ति प्रदान कर सकती है

ऑस्ट्रेलिया से नए शोध से पता चलता है कि हमारा मस्तिष्क जटिल गहरे नकल को पहचानने में कुशल है, यहां तक कि जब हम जानबूझकर यह मानते हैं कि हम जो देख रहे हैं वह वास्तविक है।

यह खोज आगे से यह भी संकेत करती है कि गहरे नकल चेहरों (उनके कहे गए राय के बजाय) के लिए लोगों की तंत्रिका प्रतिक्रियाओं का उपयोग स्वचालित गहरे नकल पता लगाने वाली प्रणालियों को प्रशिक्षित करने के लिए किया जा सकता है। ऐसी प्रणालियां छवियों की गहरे नकल विशेषताओं से प्रशिक्षित की जाएंगी, न कि छवि की वास्तविकता के बारे में दर्शक के जानबूझकर अनुमान से।

‘[ह]ालांकि मस्तिष्क वास्तविक और वास्तविक चेहरों के बीच अंतर को ‘पहचान’ सकता है, पर्यवेक्षक वास्तविक और नकली चेहरों के बीच अंतर को जानबूझकर नहीं बता सकते हैं। हमारे परिणाम नकली चेहरे की धारणा के लिए हमारे अध्ययन, हम जो प्रश्न पूछते हैं जब नकली छवि पहचान के बारे में पूछते हैं, और संभावित तरीकों के लिए निहितार्थ हैं जिनसे हम नकली छवि दुरुपयोग के खिलाफ सुरक्षा मानकों को स्थापित कर सकते हैं।’

परिणाम परीक्षण के कई दौर में सामने आए जो लोगों की प्रतिक्रिया का मूल्यांकन करने के लिए डिज़ाइन किए गए थे, जिसमें स्पष्ट रूप से नकली चेहरे, कारें, आंतरिक स्थान और उल्टे (यानी उल्टे) चेहरे शामिल थे।

प्रयोगों के लिए विभिन्न प्रकार और दृष्टिकोण, जिसमें दो समूहों के परीक्षण विषयों को एक संक्षिप्त दिखाए गए छवि को ‘नकली’ या ‘वास्तविक’ के रूप में वर्गीकृत करने की आवश्यकता थी। पहला दौर अमेज़न मैकेनिकल टर्क पर हुआ, जिसमें 200 स्वयंसेवक थे, जबकि दूसरा दौर में कम संख्या में स्वयंसेवक शामिल थे जो परीक्षणों का जवाब दे रहे थे जबकि ईईजी मशीनों से जुड़े हुए थे। स्रोत: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

लेख में कहा गया है:

‘हमारे परिणाम यह दिखाते हैं कि दिए गए केवल एक संक्षिप्त नज़र में, पर्यवेक्षक नकली चेहरों को पहचान सकते हैं। हालांकि, उन्हें वास्तविक चेहरों को नकली चेहरों से अलग करने में कठिनाई होती है और कुछ मामलों में, उन्हें नकली चेहरे वास्तविक चेहरों की तुलना में अधिक वास्तविक लगते हैं। ‘

‘हालांकि, समय-समाधान ईईजी और बहुस्तरीय पैटर्न वर्गीकरण विधियों का उपयोग करके, हमने पाया कि यह संभव था कि वास्तविक चेहरों से नकली चेहरों को मस्तिष्क की गतिविधि का उपयोग करके डीकोड किया जाए। ‘

‘वास्तविक चेहरों के लिए व्यवहार और तंत्रिका प्रतिक्रियाओं के बीच यह विचलन नकली चेहरे की धारणा के लिए महत्वपूर्ण नए साक्ष्य प्रदान करता है, साथ ही जीएन-जेनरेटेड चेहरों के बढ़ते यथार्थवादी वर्ग के लिए निहितार्थ हैं। ‘

लेख सुझाव देता है कि यह नए काम अनुप्रयुक्त साइबर सुरक्षा में ‘कई निहितार्थ’ हैं और गहरे नकल सीखने वाले वर्गीकरणकर्ताओं के विकास को शायद ईईजी रीडिंग पर नकली छवियों के प्रति प्रतिक्रिया के उपसचेतन प्रतिक्रिया से निर्देशित किया जाना चाहिए, न कि दर्शक के वास्तविकता के अनुमान से।

लेखक टिप्पणी करते हैं:

‘यह उन निष्कर्षों की याद दिलाता है जो व्यक्तियों के साथ हैं जो प्रोसोपाग्नोसिया से पीड़ित हैं जो व्यवहारिक रूप से चेहरों को पहचान या पहचान नहीं सकते हैं फिर भी परिचित चेहरों की तुलना में अपरिचित चेहरों की तुलना में मजबूत स्वायत्त प्रतिक्रियाएं प्रदर्शित करते हैं। ‘

‘इसी तरह, हमने इस अध्ययन में जो दिखाया है कि जबकि हम वास्तविक और यथार्थवादी चेहरों के बीच अंतर को तंत्रिका गतिविधि से सटीक रूप से डीकोड कर सकते हैं, वह अंतर व्यवहारिक रूप से नहीं देखा गया था। इसके बजाय, पर्यवेक्षकों ने 69% वास्तविक चेहरों को नकली होने के रूप में गलत तरीके से पहचाना। ‘

नया काम शीर्षक है क्या आप वास्तविक हैं? तंत्रिका गतिविधि से यथार्थवादी एआई-जेनरेटेड चेहरों को डीकोड करना, और सिडनी विश्वविद्यालय, मैक्वेरी विश्वविद्यालय, पश्चिमी सिडनी विश्वविद्यालय और क्वींसलैंड विश्वविद्यालय के चार शोधकर्ताओं से आया है।

डेटा

परिणाम एक व्यापक जांच से उत्पन्न हुए जो मानव की क्षमता को स्पष्ट रूप से झूठे, अति-यथार्थवादी (लेकिन अभी भी झूठे) और वास्तविक छवियों के बीच अंतर करने की क्षमता को देखता है, जो दो परीक्षण दौर में किया गया था।

शोधकर्ताओं ने जेनरेटिव एडवर्सेरियल नेटवर्क (जीएन) द्वारा बनाई गई छवियों का उपयोग किया, जो साझा की गई थीं NVIDIA द्वारा。

NVIDIA द्वारा उपलब्ध कराई गई जीएन-जेनरेटेड मानव चेहरे छवियां। स्रोत: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

डेटा में 25 चेहरे, कार और बेडरूम शामिल थे, जो ‘अवास्तविक’ से लेकर ‘यथार्थवादी’ तक के प्रस्तुतीकरण स्तर पर थे। चेहरे की तुलना के लिए (यानी, उपयुक्त गैर-नकली सामग्री के लिए), लेखकों ने NVIDIA के स्रोत Flickr-Faces-HQ (FFHQ) डेटासेट के स्रोत डेटा का चयन किया। अन्य दृश्यों की तुलना के लिए, उन्होंने LSUN डेटासेट से सामग्री का उपयोग किया।

छवियों को अंततः परीक्षण विषय को या तो सही तरीके से या उल्टा प्रस्तुत किया जाएगा, और विभिन्न आवृत्तियों पर, सभी छवियों को 256×256 पिक्सेल तक बदल दिया जाएगा।

एक बार सभी सामग्री इकट्ठा हो जाने के बाद, 450 प्रेरक छवियों को परीक्षणों के लिए क्यूरेट किया गया था।

परीक्षण डेटा के प्रतिनिधि उदाहरण।

परीक्षण

परीक्षण स्वयं शुरू में ऑनलाइन किए गए थे, जसप्साइक पर पावलोविया डॉट ओआरजी के माध्यम से, 200 प्रतिभागियों ने विभिन्न उप-सेटों का निर्णय लिया था कि क्या संक्षिप्त दिखाई गई छवि ‘नकली’ या ‘वास्तविक’ थी। छवियों को 200ms के लिए प्रस्तुत किया गया था, जिसके बाद एक खाली स्क्रीन थी जो तब तक बनी रहेगी जब तक कि दर्शक यह निर्णय नहीं ले लेते कि क्या फ्लैश की गई छवि वास्तविक या नकली थी। प्रत्येक छवि को केवल एक बार प्रस्तुत किया गया था, और पूरा परीक्षण पूरा होने में 3-5 मिनट का समय लगा।

दूसरा और अधिक प्रकट दौर में व्यक्तिगत विषयों को शामिल किया गया था जो ईईजी मॉनिटर से जुड़े हुए थे, और प्साइकोपी2 प्लेटफ़ॉर्म पर प्रस्तुत किया गया था। प्रत्येक अनुक्रम में 40 छवियों के 20 अनुक्रम शामिल थे, जिसमें पूरे परीक्षण डेटा में 18,000 छवियां प्रस्तुत की गईं।

एकत्रित ईईजी डेटा को मैटलैब के साथ कोस्मोमवपा टूलबॉक्स का उपयोग करके डीकोड किया गया था, जिसमें लीनियर डिस्क्रिमिनेंट विश्लेषण (एलडीए) के तहत एक लीव-वन-आउट क्रॉस-वैलिडेशन योजना का उपयोग किया गया था।

एलडीए वर्गीकरणकर्ता वह घटक था जो नकली प्रेरक के लिए मस्तिष्क की प्रतिक्रिया और विषय की अपनी राय के बीच अंतर करने में सक्षम था।

परिणाम

यह देखने के लिए कि क्या ईईजी परीक्षण विषय वास्तविक और नकली चेहरों के बीच अंतर कर सकते हैं, शोधकर्ताओं ने परिणामों को समाहित और संसाधित किया, जिसमें पाया गया कि प्रतिभागी अवास्तविक चेहरों को वास्तविक चेहरों से आसानी से अलग कर सकते थे, लेकिन स्पष्ट रूप से नकली चेहरों को पहचानने में कठिनाई होती थी। चाहे छवि उल्टी थी या नहीं, इसका बहुत कम अंतर था।

दूसरे दौर में वास्तविक और सिंथेटिक रूप से उत्पन्न चेहरों का व्यवहारिक भेदभाव।

हालांकि, ईईजी डेटा ने एक अलग कहानी सुनाई।

लेख में कहा गया है:

‘हालांकि पर्यवेक्षकों को वास्तविक और नकली चेहरों के बीच अंतर करने में परेशानी होती है और उन्हें नकली चेहरों को अधिक वर्गीकृत करने की प्रवृत्ति होती है, ईईजी डेटा में यह अंतर के लिए प्रासंगिक संकेत जानकारी होती है जो यथार्थवादी और अवास्तविक चेहरों के बीच अर्थपूर्ण रूप से भिन्न होती है, और यह संकेत एक अपेक्षाकृत छोटे प्रसंस्करण चरण तक सीमित लगता है। ‘

यहाँ ईईजी सटीकता और विषयों द्वारा रिपोर्ट की गई राय (यानी, चेहरे की छवियों के नकली या नहीं होने के बारे में) के बीच विचलन नहीं है, ईईजी कैप्चर वास्तविकता के करीब पहुंच रहे हैं जितना कि लोगों की स्पष्ट धारणा है।

शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि पर्यवेक्षकों को नकली चेहरों की पहचान करने में परेशानी हो सकती है, उन चेहरों में मानव दृश्य प्रणाली में ‘विशिष्ट प्रतिनिधित्व’ होते हैं।

इस विचलन ने शोधकर्ताओं को भविष्य के सुरक्षा तंत्र के लिए उनके निष्कर्षों के संभावित अनुप्रयोग पर विचार करने के लिए प्रेरित किया है:

‘एक अनुप्रयुक्त सेटिंग जैसे साइबर सुरक्षा या गहरे नकल में यथार्थवादी चेहरों का पता लगाने की क्षमता की जांच करने का प्रयास करने के लिए न्यूरोइमेजिंग डेटा पर मशीन लर्निंग वर्गीकरणकर्ताओं को लागू करना सबसे अच्छा हो सकता है, न कि व्यवहारिक प्रदर्शन को लक्षित करना।’

वे निष्कर्ष निकालते हैं:

‘नकली चेहरे का पता लगाने के लिए मस्तिष्क और व्यवहार के बीच विचलन को समझने से कृत्रिम रूप से उत्पन्न जानकारी के संभावित रूप से हानिकारक और सार्वभौमिक प्रसार से निपटने के तरीके के लिए व्यावहारिक निहितार्थ होंगे।’

* मेरा इनलाइन उद्धरणों को हाइपरलिंक में परिवर्तन।

पहली बार 11 जुलाई 2022 को प्रकाशित।