नए एआई मॉडल के साथ व्यापक मानव भाषाओं का काम

वाटरलू विश्वविद्यालय के शोधकर्ताओं ने एक एआई मॉडल विकसित किया है जो कंप्यूटरों को व्यापक मानव भाषाओं को संसाधित करने में सक्षम बनाता है। यह क्षेत्र में एक महत्वपूर्ण कदम है, खासकर जब इतनी सारी भाषाएं अक्सर प्रोग्रामिंग प्रक्रिया में पीछे छूट जाती हैं। अफ़्रीकी भाषाओं को अक्सर कंप्यूटर वैज्ञानिकों द्वारा ध्यान नहीं दिया जाता है, जिसके परिणामस्वरूप महाद्वीप में प्राकृतिक भाषा प्रसंस्करण (एनएलपी) क्षमताएं सीमित हो जाती हैं।

नया भाषा मॉडल वाटरलू विश्वविद्यालय के डेविड आर। चेरिटन स्कूल ऑफ कंप्यूटर साइंस में शोधकर्ताओं की एक टीम द्वारा विकसित किया गया था।

इस शोध को 2021 के एम्पिरिकल मेथड्स इन नेचरल लैंग्वेज प्रोसेसिंग कॉन्फ़्रेंस में मल्टीलिंगुअल रिप्रेजेंटेशन लर्निंग वर्कशॉप में प्रस्तुत किया गया था।

मॉडल अफ़्रीकी भाषाओं में कई उपयोगी कार्यों के लिए कंप्यूटरों को पाठ विश्लेषण करने में मदद करने में एक महत्वपूर्ण भूमिका निभा रहा है, और इसे अफ़्रीबेर्टा कहा जा रहा है। यह गहरे शिक्षण तकनीकों का उपयोग करके कम संसाधन वाली भाषाओं के लिए प्रभावशाली परिणाम प्राप्त करने के लिए करता है।

11 अफ़्रीकी भाषाओं के साथ काम करना

अफ़्रीबेर्टा वर्तमान में 11 विशिष्ट अफ़्रीकी भाषाओं के साथ काम करता है, जिनमें अम्हारिक, हाउसा और स्वाहिली शामिल हैं, जो 400+ मिलियन लोगों द्वारा बोली जाने वाली भाषा है। मॉडल ने सबसे अच्छे मौजूदा मॉडल्स के समान आउटपुट गुणवत्ता का प्रदर्शन किया है, और यह केवल एक गीगाबाइट पाठ से सीखने के दौरान ऐसा करता है। अन्य समान मॉडल्स अक्सर अधिक डेटा की आवश्यकता होती है।

केलेची ओगेजी वाटरलू में कंप्यूटर साइंस में मास्टर्स के छात्र हैं।

“प्रीट्रेन्ड लैंग्वेज मॉडल्स ने कंप्यूटरों द्वारा पाठ डेटा को संसाधित और विश्लेषण करने के तरीके को बदल दिया है, जो मशीन अनुवाद से लेकर प्रश्न उत्तर तक के कार्यों के लिए है,” ओगेजी ने कहा। “दुर्भाग्य से, अफ़्रीकी भाषाओं को शोध समुदाय से बहुत कम ध्यान मिला है।”

“एक चुनौती यह है कि न्यूरल नेटवर्क्स बनाने में पाठ और कंप्यूटर-गहन होने के लिए भ्रमित करने वाले होते हैं। और अंग्रेजी के विपरीत, जिसके पास उपलब्ध पाठ की बड़ी मात्रा है, दुनिया भर में बोली जाने वाली 7,000 से अधिक भाषाओं को कम संसाधन वाला कहा जा सकता है, क्योंकि न्यूरल नेटवर्क्स को खिलाने के लिए पर्याप्त डेटा नहीं है।”

प्री-ट्रेनिंग तकनीक

इनमें से अधिकांश मॉडल्स प्री-ट्रेनिंग तकनीक पर निर्भर करते हैं, जिसमें शोधकर्ता मॉडल को पाठ के साथ प्रस्तुत करते हैं जिसमें कुछ शब्द छिपे या मास्क होते हैं। मॉडल तब छिपे हुए शब्दों का अनुमान लगाना होता है, और यह अरबों बार इस प्रक्रिया को दोहराता है। यह अंततः शब्दों के बीच सांख्यिकीय संबंधों को सीखता है, जो मानव भाषा ज्ञान के समान है।

जिमी लिन कंप्यूटर साइंस में चेरिटन चेयर और ओगेजी के सलाहकार हैं।

“निश्चित डाउनस्ट्रीम कार्यों के लिए उतनी ही सटीक मॉडल्स को प्रीट्रेन करने में सक्षम होना जो कम डेटा का उपयोग करते हैं, इसके कई फायदे हैं,” लिन ने कहा। “मॉडल को प्रशिक्षित करने के लिए कम डेटा की आवश्यकता होने से कम गणना की आवश्यकता होती है और इसके परिणामस्वरूप बड़े डेटा केंद्रों को संचालित करने से जुड़े कम कार्बन उत्सर्जन होते हैं। छोटे डेटासेट डेटा क्यूरेशन को अधिक व्यावहारिक बनाते हैं, जो मॉडल्स में मौजूद पूर्वाग्रहों को कम करने के लिए एक दृष्टिकोण है।”

“यह काम अफ़्रीकी महाद्वीप के 1.3 बिलियन से अधिक लोगों के लिए प्राकृतिक भाषा प्रसंस्करण क्षमताओं को लाने के लिए एक छोटा लेकिन महत्वपूर्ण कदम है।”

इस शोध में युक्सिन झू भी शामिल थे, जिन्होंने हाल ही में विश्वविद्यालय में कंप्यूटर साइंस में स्नातक की डिग्री पूरी की है।