शोधकर्ता डेटासेट पूर्वाग्रह को दूर करने के लिए तंत्रिका विज्ञानियों की ओर देखते हैं

एमआईटी, हार्वर्ड विश्वविद्यालय और फुजित्सु लिमिटेड के शोधकर्ताओं की एक टीम ने यह देखने के लिए काम किया कि एक मशीन-लर्निंग मॉडल डेटासेट पूर्वाग्रह को कैसे दूर कर सकता है। उन्होंने एक तंत्रिका नेटवर्क को नए वस्तुओं को पहचानने के लिए प्रशिक्षित करने के लिए प्रशिक्षण डेटा के प्रभाव का अध्ययन करने के लिए एक तंत्रिका विज्ञान दृष्टिकोण पर भरोसा किया।

शोध को नेचर मशीन इंटेलिजेंस में प्रकाशित किया गया था।

प्रशिक्षण डेटा में विविधता

अध्ययन के परिणामों ने दिखाया कि प्रशिक्षण डेटा में विविधता एक तंत्रिका नेटवर्क को पूर्वाग्रह को दूर करने में सक्षम होने को प्रभावित करती है। हालांकि, डेटा विविधता नेटवर्क के प्रदर्शन पर नकारात्मक प्रभाव भी डाल सकती है। शोधकर्ताओं ने यह भी दिखाया कि एक तंत्रिका नेटवर्क को प्रशिक्षित करने का तरीका भी पूर्वाग्रह वाले डेटासेट को दूर करने में इसकी क्षमता को प्रभावित कर सकता है।

जेवियर बोइक्स ब्रेन और कॉग्निटिव साइंसेज (बीसीएस) विभाग और सेंटर फॉर ब्रेन्स, माइंड्स, एंड मशीन्स (सीबीएमएम) में एक शोध वैज्ञानिक हैं। वह इस पत्र के वरिष्ठ लेखक भी हैं।

“एक तंत्रिका नेटवर्क डेटासेट पूर्वाग्रह को दूर कर सकता है, जो प्रोत्साहित करने वाला है। लेकिन मुख्य बात यह है कि हमें डेटा विविधता को ध्यान में रखना होगा। हमें यह सोचना बंद करना होगा कि यदि आप केवल बहुत सारे कच्चे डेटा को इकट्ठा करते हैं, तो यह आपको कहीं ले जाएगा। हमें डेटासेट को डिजाइन करने में बहुत सावधानी से काम करना होगा,” बोइक्स कहते हैं।

टीम ने एक नए दृष्टिकोण को विकसित करने के लिए एक तंत्रिका विज्ञानी की सोच को अपनाया। बोइक्स के अनुसार, प्रयोगों में नियंत्रित डेटासेट का उपयोग करना आम बात है, इसलिए टीम ने विभिन्न वस्तुओं की छवियों वाले डेटासेट बनाए। उन्होंने फिर संयोजनों को नियंत्रित किया ताकि कुछ डेटासेट दूसरों की तुलना में अधिक विविध हों। एक डेटासेट जिसमें केवल एक दृष्टिकोण से वस्तुओं की छवियां हैं, वह कम विविध है, जबकि एक डेटासेट जिसमें वस्तुओं की छवियां कई दृष्टिकोणों से हैं, वह अधिक विविध है।

शोधकर्ताओं ने इन डेटासेट को लिया और उन्हें एक तंत्रिका नेटवर्क को छवि वर्गीकरण के लिए प्रशिक्षित करने के लिए उपयोग किया। उन्होंने फिर यह अध्ययन किया कि यह नए दृष्टिकोणों से वस्तुओं की पहचान करने में कितना अच्छा था जिसे नेटवर्क ने प्रशिक्षण के दौरान नहीं देखा था।

उन्होंने पाया कि अधिक विविध डेटासेट नेटवर्क को नए छवियों या दृष्टिकोणों को सामान्य बनाने में बेहतर बनाते हैं, और यह पूर्वाग्रह को दूर करने के लिए महत्वपूर्ण है।

“लेकिन यह नहीं है कि अधिक डेटा विविधता हमेशा बेहतर होती है; यहाँ एक तनाव है। जब तंत्रिका नेटवर्क नए चीजों को पहचानने में बेहतर हो जाता है जो उसने पहले नहीं देखा है, तो यह उन चीजों को पहचानने में अधिक कठिन हो जाता है जो उसने पहले देखा है,” बोइक्स कहते हैं।

तंत्रिका नेटवर्क को प्रशिक्षित करने के तरीके

टीम ने यह भी पाया कि एक मॉडल जो अलग-अलग कार्यों के लिए प्रशिक्षित होता है, वह एक मॉडल की तुलना में पूर्वाग्रह को दूर करने में बेहतर होता है जो एक साथ दोनों कार्यों के लिए प्रशिक्षित होता है।

“परिणाम वास्तव में चौंकाने वाले थे। वास्तव में, जब हमने पहली बार यह प्रयोग किया, तो हमें लगा कि यह एक बग है। यह हमें कई हफ्तों का समय लिया यह महसूस करने में कि यह एक वास्तविक परिणाम था क्योंकि यह इतना अप्रत्याशित था,” बोइक्स जारी रखते हैं।

गहरे विश्लेषण से पता चला कि न्यूरॉन विशेषज्ञता इस प्रक्रिया में शामिल है। जब तंत्रिका नेटवर्क को छवियों में वस्तुओं को पहचानने के लिए प्रशिक्षित किया जाता है, तो दो प्रकार के न्यूरॉन उभर आते हैं। एक न्यूरॉन वस्तु श्रेणी को पहचानने में विशेषज्ञता हासिल करता है, जबकि दूसरा दृष्टिकोण को पहचानने में विशेषज्ञता हासिल करता है।

विशेषज्ञ न्यूरॉन तब अधिक प्रमुख हो जाते हैं जब नेटवर्क को अलग-अलग कार्यों के लिए प्रशिक्षित किया जाता है। हालांकि, जब एक नेटवर्क को एक साथ दोनों कार्यों के लिए प्रशिक्षित किया जाता है, तो कुछ न्यूरॉन पतले हो जाते हैं। इसका मतलब है कि वे एक कार्य में विशेषज्ञता हासिल नहीं करते हैं और वे अधिक भ्रमित होने की संभावना रखते हैं।

“लेकिन अगला प्रश्न अब यह है कि इन न्यूरॉन कैसे यहाँ पहुँचे? आप तंत्रिका नेटवर्क को प्रशिक्षित करते हैं और वे सीखने की प्रक्रिया से उभर आते हैं। किसी ने नेटवर्क को यह नहीं बताया कि अपने आर्किटेक्चर में इन प्रकार के न्यूरॉन को शामिल करना है। यह सबसे आकर्षक बात है,” बोइक्स कहते हैं।

शोधकर्ता इस प्रश्न का अन्वेषण करने के लिए अपने भविष्य के कार्य में देखेंगे, साथ ही साथ जटिल कार्यों पर नए दृष्टिकोण को लागू करेंगे।