एआई मॉडल और प्लेटफ़ॉर्म
एआई मॉडल भाषा को संसाधित करने के तरीके में मानव मस्तिष्क के अंतर्दृष्टि प्रदान करते हैं
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी से निकलने वाले नए शोध से पता चलता है कि ‘अगले शब्द की भविष्यवाणी’ गणनात्मक मॉडल के अंतर्निहित कार्य मानव मस्तिष्क में भाषा-प्रसंस्करण केंद्रों के कार्य के समान है।
भाषा का अर्थ
नवीनतम भविष्यसूचक भाषा मॉडल भाषा के अंतर्निहित अर्थ के बारे में कुछ सीख सकते हैं, जो इस क्षेत्र में एक बड़ा कदम होगा। मॉडल अगले शब्द की भविष्यवाणी करते हैं, लेकिन वे वास्तविक समझ की डिग्री के साथ कार्यों को भी पूरा करते हैं। इन कार्यों में प्रश्न उत्तर देना, दस्तावेज़ सारांश, और कहानी पूरा करना शामिल है।
मॉडल को पाठ की भविष्यवाणी के लिए प्रदर्शन को अनुकूलित करने के लिए डिज़ाइन किया गया था, मानव मस्तिष्क की तरह भाषा को समझने की कोशिश किए बिना। हालांकि, एमआईटी की न्यूरोसाइंटिस्ट टीम सुझाव देती है कि इस संबंध में कुछ हो रहा है।
इस शोध के एक और दिलचस्प अंतर्दृष्टि यह है कि अन्य प्रकार के भाषा कार्यों पर अच्छा प्रदर्शन करने वाले कंप्यूटर मॉडल मानव मस्तिष्क के साथ इस समानता को नहीं दिखाते हैं। यह इस बात के प्रमाण के रूप में देखा जाता है कि मानव मस्तिष्क भाषा प्रसंस्करण के लिए अगले शब्द की भविष्यवाणी का उपयोग कर सकता है।
नैन्सी कनविशर वाल्टर ए. रोसेनब्लिथ प्रोफेसर ऑफ कॉग्निटिव न्यूरोसाइंस हैं। वह एमआईटी के मैकगवर्न इंस्टीट्यूट फॉर ब्रेन रिसर्च और सेंटर फॉर ब्रेन्स, माइंड्स, एंड मशीन्स (सीबीएमएम) की सदस्य हैं, और अध्ययन की लेखिका हैं।
“मॉडल जितना बेहतर अगले शब्द की भविष्यवाणी करता है, मानव मस्तिष्क के साथ इसका फिट उतना ही अधिक होता है,” कनविशर कहते हैं। “यह आश्चर्यजनक है कि मॉडल इतनी अच्छी तरह से फिट होते हैं, और यह अप्रत्यक्ष रूप से सुझाव देता है कि शायद मानव भाषा प्रणाली जो कर रही है वह अगले क्या होने वाला है इसकी भविष्यवाणी करना है।”
अध्ययन प्रोसीडिंग्स ऑफ द नेशनल एकेडमी ऑफ साइंसेज में प्रकाशित हुआ है।
इसमें जोशुए टेनेनबाम, एमआईटी में कॉग्निटिव साइंस के प्रोफेसर और सीबीएमएम और एमआईटी के आर्टिफिशियल इंटेलिजेंस (सीएसएआईएल) के सदस्य; और एवेलिन फेडोरेन्को, फ्रेडरिक ए. और कैरोल जे. मिडलटन कैरियर डेवलपमेंट एसोसिएट प्रोफेसर ऑफ न्यूरोसाइंस और मैकगवर्न इंस्टीट्यूट के सदस्य शामिल हैं। पेपर के पहले लेखक मार्टिन श्रिम्पफ, एमआईटी के स्नातक छात्र हैं।
अध्ययन
एमआईटी टीम ने मानव मस्तिष्क में भाषा-प्रसंस्करण केंद्रों की तुलना भाषा-प्रसंस्करण मॉडल से की। उन्होंने 43 अलग-अलग भाषा मॉडल का विश्लेषण किया, जिनमें अगले शब्द की भविष्यवाणी के लिए अनुकूलित मॉडल शामिल हैं, जैसे कि जीपीटी-3। अन्य मॉडल विभिन्न भाषा कार्यों को पूरा करने के लिए डिज़ाइन किए गए थे, जैसे कि एक खाली स्थान भरना।
प्रत्येक मॉडल को शब्दों की एक स्ट्रिंग प्रस्तुत की गई, और शोधकर्ताओं ने नेटवर्क के नोड्स की गतिविधि को मापा, जो पैटर्न को मानव मस्तिष्क में गतिविधि के साथ तुलना की गई, जो तीन भाषा कार्यों को पूरा करने वाले विषयों में मापी गई: कहानियों को सुनना, वाक्यों को एक-एक करके पढ़ना, और वाक्यों को एक-एक करके पढ़ना जिसमें एक शब्द एक समय में प्रकट होता है।
मानव डेटासेट में फंक्शनल मैग्नेटिक रेसोनेंस (फएमआरआई) डेटा और इंट्राक्रानियल इलेक्ट्रोकोर्टिकोग्राफिक माप शामिल थे जो मिर्गी के लिए मस्तिष्क सर्जरी के दौरान लोगों से लिए गए थे।
शोधकर्ताओं ने पाया कि अगले शब्द की भविष्यवाणी में अच्छा प्रदर्शन करने वाले मॉडलों में गतिविधि पैटर्न थे जो मानव मस्तिष्क में देखे गए पैटर्न के समान थे। उन्हीं मॉडलों ने मानव व्यवहार के उपायों के साथ उच्च संबंध दिखाया, जैसे कि लोग पाठ को कितनी तेजी से पढ़ सकते हैं।
“हमने पाया कि जो मॉडल तंत्रिका प्रतिक्रियाओं को अच्छी तरह से भविष्यवाणी करते हैं वे मानव व्यवहार प्रतिक्रियाओं को भी सबसे अच्छी तरह से भविष्यवाणी करते हैं, जो पढ़ने के समय के रूप में हैं। और फिर दोनों अगले शब्द की भविष्यवाणी पर मॉडल प्रदर्शन से समझाए जाते हैं। यह त्रिभुज वास्तव में सब कुछ एक साथ जोड़ता है,” श्रिम्पफ कहते हैं।
शोधकर्ता अब भाषा प्रसंस्करण मॉडल के वेरिएंट बनाने का लक्ष्य रखेंगे, जो उन्हें यह देखने में सक्षम बना सकता है कि उनके आर्किटेक्चर में छोटे बदलाव उनके प्रदर्शन और मानव तंत्रिका डेटा को फिट करने की उनकी क्षमता को कैसे प्रभावित करते हैं।
