बaidu ने गूगल और माइक्रोसॉफ्ट को पीछे छोड़ा, भाषा समझने के लिए नई तकनीक विकसित की

बaidu, चीन की सबसे बड़ी टेक कंपनियों में से एक, ने हाल ही में एआई को भाषा सिखाने का एक नया तरीका विकसित किया है। जैसा कि टेक्नोलॉजी रिव्यू द्वारा रिपोर्ट किया गया है, कंपनी ने हाल ही में माइक्रोसॉफ्ट और गूगल को जनरल लैंग्वेज एंड अंडरस्टैंडिंग इवैल्यूएशन (जीएलयूई) प्रतियोगिता में हराया, जिसमें राज्य के कला परिणाम प्राप्त किए गए।

जीएलयूई नौ अलग-अलग परीक्षणों से बना है, जिसमें से प्रत्येक परीक्षण भाषा की समझ के लिए एक अलग कार्य को मापता है, जैसे कि वाक्य में इकाइयों के नामों को पहचानना और यह निर्धारित करना कि किस संदर्भ में “यह” शब्द का उपयोग किया जा रहा है जब कई संभावित उम्मीदवार हों। औसतन, मानव जीएलयूई पर लगभग 87 अंक प्राप्त करता है, 100 में से। बaidu के नए मॉडल, ERNIE, ने 90 अंक की सीमा को पार किया।

शोधकर्ता हमेशा अपने मॉडलों के प्रदर्शन में सुधार करने की कोशिश कर रहे हैं जीएलयूई पर, और इसलिए, बaidu द्वारा स्थापित वर्तमान मानक शायद जल्द ही पार किया जाएगा। हालांकि, बaidu की उपलब्धियों को उल्लेखनीय बनाने वाली बात यह है कि उनके द्वारा उपयोग की जाने वाली सीखने की दृष्टिकोण अन्य भाषाओं में भी सामान्यीकृत किया जा सकता है। हालांकि मॉडल को चीनी भाषा की व्याख्या करने के लिए विकसित किया गया था, लेकिन उसी सिद्धांतों ने इसे अंग्रेजी भाषा की व्याख्या करने में भी बेहतर बनाया। ERNIE का अर्थ है “ज्ञान एकीकरण के माध्यम से उन्नत प्रतिनिधित्व”, और यह BERT (“बिडायरेक्शनल एनकोडर रिप्रेजेंटेशन्स फ्रॉम ट्रांसफॉर्मर्स”) भाषा मॉडल के विकास के बाद आता है।

BERT ने भाषा समझने के लिए एक नया मानक स्थापित किया क्योंकि यह एक बिडायरेक्शनल मॉडल था। पिछले भाषा मॉडल केवल एक ही “दिशा” में डेटा की व्याख्या करने में सक्षम थे, जो कि लक्ष्य शब्द से पहले या बाद में आने वाले शब्द को संदर्भ के रूप में देखते थे। BERT दोनों पिछले और बाद के शब्दों का उपयोग करके लक्ष्य शब्द के अर्थ को निर्धारित करने में सक्षम था। BERT एक तकनीक का उपयोग करता है जिसे मास्किंग कहा जाता है, जो एक वाक्य में एक शब्द को चुनता है और उसे छुपाता है, जो उस शब्द के लिए संदर्भ को पिछले और बाद के संदर्भ संकेतों में विभाजित करता है।

अंग्रेजी भाषा में, शब्द प्रमुख अर्थवाचक इकाई है, लोग शब्दों के बजाय पूरे शब्दों को देखते हैं ताकि अर्थ को निर्धारित किया जा सके। यह संभव है कि एक शब्द को उसके संदर्भ से हटा दिया जाए और फिर भी उस शब्द को अपना अर्थ बनाए रखना, और व्यक्तिगत अक्षरों का अर्थ लगभग हमेशा एक ही होता है। इसके विपरीत, चीनी भाषा अर्थ निर्धारित करने के लिए अक्षरों के मिलान के तरीके पर बहुत अधिक निर्भर करती है। अक्षरों का अर्थ उनके आसपास के अक्षरों पर निर्भर करता है।

बaidu शोध टीम ने मूल रूप से बERT द्वारा उपयोग किए गए मॉडल का विस्तार किया और अक्षरों के स्ट्रिंग्स को छुपाया, न कि पूरे शब्दों को। एआई सिस्टम को भी प्रशिक्षित किया गया था ताकि यह यादृच्छिक स्ट्रिंग्स और अर्थपूर्ण स्ट्रिंग्स के बीच अंतर कर सके, ताकि सही अक्षरों के स्ट्रिंग्स को मास्क किया जा सके। यह ERNIE को एक पाठ दस्तावेज से जानकारी प्राप्त करने और मशीन अनुवाद करने में सक्षम बनाता है। शोध टीम ने यह भी पाया कि उनकी प्रशिक्षण विधि का परिणाम एक मॉडल में हुआ जो अंग्रेजी वाक्यांशों को अन्य मॉडलों की तुलना में बेहतर ढंग से पहचान सकता है। यह इसलिए है क्योंकि अंग्रेजी कभी-कभी, हालांकि शायद ही, शब्द संयोजनों का उपयोग करती है जो अलग-अलग अर्थों को व्यक्त करते हैं जब वे एक साथ जुड़े होते हैं बनाम जब वे अकेले होते हैं। उचित नाम और मुहावरे या रूपक, जैसे “चिप ऑफ द ओल्ड ब्लॉक” जैसी भाषाई घटनाएं।

ERNIE अपने प्रदर्शन को अनुकूलित करने के लिए कई अन्य प्रशिक्षण तकनीकों का उपयोग करता है, जिसमें वाक्य क्रम और दूरी का विश्लेषण करना शामिल है जब अनुच्छेदों की व्याख्या की जाती है। एक निरंतर प्रशिक्षण विधि का भी उपयोग किया जाता है, जो ERNIE को नए डेटा पर प्रशिक्षित करने और नए पैटर्न सीखने की अनुमति देता है बिना पहले से प्राप्त ज्ञान को भूले।

बaidu वर्तमान में ERNIE का उपयोग खोज परिणामों की गुणवत्ता में सुधार करने के लिए करता है। ERNIE की नवीनतम वास्तुकला एक आगामी पत्र में विस्तृत की जाएगी जो 2020 एसोसिएशन फॉर द एडवांसमेंट ऑफ आर्टिफिशियल इंटेलिजेंस सम्मेलन में प्रस्तुत की जाएगी।