एआई मॉडल और प्लेटफ़ॉर्म
एआई मॉडल मानव दृश्य प्रसंस्करण से मेल नहीं खाते
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
यॉर्क विश्वविद्यालय के एक नए अध्ययन से पता चलता है कि गहरे कन्वोल्यूशनल न्यूरल नेटवर्क (DCNNs) मानव दृश्य प्रसंस्करण को कॉन्फ़िगरल आकार धारणा का उपयोग करके मेल नहीं खाते हैं। अध्ययन के सह-लेखक प्रोफेसर जेम्स एल्डर के अनुसार, इसके गंभीर और खतरनाक वास्तविक दुनिया के परिणाम हो सकते हैं एआई अनुप्रयोगों के लिए।
नई अध्ययन का शीर्षक “मानव आकार धारणा के कॉन्फ़िगरल प्रकृति को पकड़ने में विफल गहरे शिक्षण मॉडल” सेल प्रेस जर्नल में प्रकाशित हुआ था iScience।
यह अध्ययन एल्डर द्वारा किया गया था, जो यॉर्क रिसर्च चेयर इन ह्यूमन एंड कंप्यूटर विजन के धारक हैं, साथ ही यॉर्क के सेंटर फॉर एआई एंड सोसायटी के सह-निदेशक, और प्रोफेसर निकोलस बेकर, जो यॉर्क में सहायक मनोविज्ञान प्रोफेसर और पूर्व विस्टा पोस्टडॉक्टरल फेलो हैं।
नवीन दृश्य उत्तेजना “फ्रैंकस्टीन”
टीम ने नवीन दृश्य उत्तेजना पर भरोसा किया, जिसे “फ्रैंकस्टीन” कहा जाता है, जिससे उन्हें मानव मस्तिष्क और डीसीएनएन दोनों द्वारा संपूर्ण, कॉन्फ़िगरल वस्तु गुणों को संसाधित करने का तरीका खोजने में मदद मिली।
“फ्रैंकस्टीन बस वस्तुएं हैं जिन्हें तोड़ दिया गया है और गलत तरीके से फिर से इकट्ठा किया गया है,” एल्डर कहते हैं। “परिणामस्वरूप, उनमें सभी सही स्थानीय विशेषताएं हैं, लेकिन गलत स्थानों पर।”
अध्ययन में पाया गया कि डीसीएनएन फ्रैंकस्टीन से भ्रमित नहीं होते हैं जैसे कि मानव दृश्य प्रणाली है। यह कॉन्फ़िगरल वस्तु गुणों के प्रति असंवेदनशीलता को दर्शाता है।
“हमारे परिणाम बताते हैं कि गहरे एआई मॉडल क्यों विफल होते हैं और यह दर्शाते हैं कि वस्तु पहचान से परे कार्यों पर विचार करने की आवश्यकता है ताकि मस्तिष्क में दृश्य प्रसंस्करण को समझा जा सके,” एल्डर जारी रखते हैं। “इन गहरे मॉडलों में जटिल पहचान कार्यों को हल करने के लिए ‘छोटे रास्ते’ होते हैं। जबकि ये छोटे रास्ते अधिकांश मामलों में काम कर सकते हैं, वे कुछ वास्तविक दुनिया के एआई अनुप्रयोगों में खतरनाक हो सकते हैं जिन पर हम अपने उद्योग और सरकारी भागीदारों के साथ काम कर रहे हैं। “
छवि: यॉर्क विश्वविद्यालय
वास्तविक दुनिया के परिणाम
एल्डर का कहना है कि इनमें से एक अनुप्रयोग यातायात वीडियो सुरक्षा प्रणाली है।
“एक व्यस्त यातायात दृश्य में वस्तुएं – वाहन, साइकिल और पैदल यात्री – एक दूसरे को अवरुद्ध करती हैं और एक ड्राइवर की आंखों में एक जुड़े हुए टुकड़ों के रूप में आती हैं,” वे कहते हैं। “मस्तिष्क को उन टुकड़ों को सही तरीके से समूहित करने की आवश्यकता है ताकि वस्तुओं की सही श्रेणियों और स्थानों की पहचान की जा सके। एक एआई प्रणाली जो केवल व्यक्तिगत रूप से टुकड़ों को देख सकती है, वह इस कार्य में विफल रहेगी, संभावित रूप से सड़क उपयोगकर्ताओं के लिए जोखिम को गलत तरीके से समझेगी।”
शोधकर्ताओं का कहना है कि नेटवर्क को अधिक मस्तिष्क जैसा बनाने के लिए प्रशिक्षण और वास्तुकला में संशोधन कॉन्फ़िगरल प्रसंस्करण हासिल नहीं किया। कोई भी नेटवर्क मानव वस्तु निर्णयों की परीक्षण-से-परीक्षण भविष्यवाणी करने में सक्षम नहीं था।
“हम अनुमान लगाते हैं कि मानव कॉन्फ़िगरल संवेदनशीलता से मेल खाने के लिए, नेटवर्क को वस्तु पहचान से परे वस्तु कार्यों की एक व्यापक श्रृंखला को हल करने के लिए प्रशिक्षित किया जाना चाहिए,” एल्डर निष्कर्ष निकालते हैं
