अध्ययन से पता चलता है कि एआई मॉडल मानव दृश्य प्रसंस्करण से मेल नहीं खाते हैं

यॉर्क यूनिवर्सिटी के एक नए अध्ययन से पता चलता है कि डीप कन्वोल्यूशनल न्यूरल नेटवर्क (डीसीएनएन) कॉन्फ़िगरेशन आकार धारणा का उपयोग करके मानव दृश्य प्रसंस्करण से मेल नहीं खाते हैं। अध्ययन के सह-लेखक प्रोफेसर जेम्स एल्डर के अनुसार, एआई अनुप्रयोगों के लिए इसका वास्तविक दुनिया पर गंभीर और खतरनाक प्रभाव हो सकता है। 

नया अध्ययन शीर्षक "गहन शिक्षण मॉडल मानव आकार धारणा की विन्यासात्मक प्रकृति को पकड़ने में विफल रहते हैंसेल प्रेस जर्नल में प्रकाशित किया गया था आईसाइंस। 

यह एल्डर द्वारा एक सहयोगात्मक अध्ययन था, जो मानव और कंप्यूटर विज़न में यॉर्क रिसर्च चेयर के साथ-साथ यॉर्क के सेंटर फॉर एआई एंड सोसाइटी के सह-निदेशक पद पर हैं, और प्रोफेसर निकोलस बेकर, जो एक सहायक मनोविज्ञान प्रोफेसर और पूर्व VISTA हैं। यॉर्क में पोस्टडॉक्टोरल फेलो।

उपन्यास दृश्य उत्तेजना "फ्रेंकस्टीन" 

टीम ने उपन्यास दृश्य उत्तेजनाओं पर भरोसा किया, जिन्हें "फ्रेंकस्टीन" कहा जाता है, जिससे उन्हें यह पता लगाने में मदद मिली कि मानव मस्तिष्क और डीसीएनएन दोनों समग्र, विन्यास योग्य वस्तु गुणों को कैसे संसाधित करते हैं। 

एल्डर का कहना है, "फ्रैंकेंस्टीन केवल ऐसी वस्तुएं हैं जिन्हें अलग कर दिया गया है और गलत तरीके से वापस जोड़ दिया गया है।" "परिणामस्वरूप, उनके पास सभी सही स्थानीय सुविधाएँ हैं, लेकिन गलत स्थानों पर।" 

अध्ययन में पाया गया कि डीसीएनएन मानव दृश्य प्रणाली की तरह फ्रेंकस्टीन द्वारा भ्रमित नहीं होते हैं। इससे कॉन्फिगर ऑब्जेक्ट गुणों के प्रति असंवेदनशीलता का पता चलता है। 

एल्डर जारी रखते हैं, "हमारे परिणाम बताते हैं कि क्यों गहरे एआई मॉडल कुछ शर्तों के तहत विफल हो जाते हैं और मस्तिष्क में दृश्य प्रसंस्करण को समझने के लिए वस्तु पहचान से परे कार्यों पर विचार करने की आवश्यकता की ओर इशारा करते हैं।" “ये गहरे मॉडल जटिल पहचान कार्यों को हल करते समय 'शॉर्टकट' अपनाते हैं। हालांकि ये शॉर्टकट कई मामलों में काम कर सकते हैं, लेकिन वे वास्तविक दुनिया के कुछ एआई अनुप्रयोगों में खतरनाक हो सकते हैं जिन पर हम वर्तमान में अपने उद्योग और सरकारी भागीदारों के साथ काम कर रहे हैं।

छवि: यॉर्क यूनिवर्सिटी

वास्तविक दुनिया के निहितार्थ

एल्डर का कहना है कि इन अनुप्रयोगों में से एक ट्रैफ़िक वीडियो सुरक्षा प्रणाली है। 

वह कहते हैं, "व्यस्त यातायात परिदृश्य में वस्तुएं - वाहन, साइकिल और पैदल यात्री - एक-दूसरे को रोकते हैं और कटे हुए टुकड़ों की गड़गड़ाहट के रूप में चालक की आंखों तक पहुंचते हैं।" “मस्तिष्क को वस्तुओं की सही श्रेणियों और स्थानों की पहचान करने के लिए उन टुकड़ों को सही ढंग से समूहित करने की आवश्यकता है। यातायात सुरक्षा निगरानी के लिए एक एआई प्रणाली जो केवल टुकड़ों को व्यक्तिगत रूप से समझने में सक्षम है, इस कार्य में विफल हो जाएगी, संभावित रूप से कमजोर सड़क उपयोगकर्ताओं के लिए जोखिमों को गलत समझेगी। 

शोधकर्ताओं का यह भी कहना है कि नेटवर्क को अधिक मस्तिष्क जैसा बनाने के उद्देश्य से प्रशिक्षण और वास्तुकला में संशोधन से कॉन्फिगरल प्रोसेसिंग हासिल नहीं हुई। कोई भी नेटवर्क परीक्षण-दर-परीक्षण मानव वस्तु निर्णय की सटीक भविष्यवाणी नहीं कर सका। 

"हम अनुमान लगाते हैं कि मानव विन्यास संवेदनशीलता से मेल खाने के लिए, नेटवर्क को श्रेणी मान्यता से परे ऑब्जेक्ट कार्यों की एक विस्तृत श्रृंखला को हल करने के लिए प्रशिक्षित किया जाना चाहिए," एल्डर ने निष्कर्ष निकाला