शोधकर्ता ऑनलाइन नफ़रत भरे भाषण का मुकाबला करने के लिए कृत्रिम बुद्धिमत्ता को प्रशिक्षित करना शुरू कर रहे हैं

फ़ेक न्यूज़ और ऑनलाइन नफ़रत भरे भाषण एक मिनट-ब-Minute समस्या बनते जा रहे हैं। IkigaiLab की रिपोर्ट है कि फ़ेसबुक और ट्विटर ने हाल ही में 1.5 अरब और 70 मिलियन अकाउंट्स को बंद करने के लिए मजबूर किया है, क्योंकि वे फ़ेक न्यूज़ और नफ़रत भरे भाषण को रोकने की कोशिश कर रहे हैं। (META )

फिर भी, इस काम को करने के लिए अभी भी बड़ी मानव शक्ति और लगभग निरंतर काम करने की आवश्यकता है। इस समस्या को हल करने के लिए, कई प्रयोगशालाओं में शोधकर्ता कृत्रिम बुद्धिमत्ता (एआई) को प्रशिक्षित करना शुरू कर रहे हैं ताकि वे इस विशाल कार्य में मदद कर सकें।

Ikigai ने फ़ेसबुक द्वारा उपयोग किए जाने वाले रोसेटा सिस्टम का उल्लेख किया है, जो समाचार, छवियों या अन्य सामग्री की प्रामाणिकता को समझने के लिए उपयोग किया जाता है। जैसा कि बताया गया है, रोसेटा “पोस्ट के शब्द, चित्र, भाषा, फ़ॉन्ट, तिथि सहित कई चरों को स्कैन करता है और यह देखने की कोशिश करता है कि प्रस्तुत की जाने वाली जानकारी वास्तविक है या नहीं।” जब सिस्टम जानकारी इकट्ठा करता है और यह ध्यान में रखते हुए कि एआई अभी भी “इन्नुओेंडो, संदर्भ, स्लाइट्स और संदर्भ में पोस्ट की गई सामग्री को समझने में पूरी तरह से सक्षम नहीं है,” तो मानव मॉडरेटर एआई सिस्टम को नफ़रत भरे भाषण और फ़ेक न्यूज़ का पता लगाने में मदद करते हैं।

नफ़रत भरे भाषण की सभी संभावित बारीकियों को कवर करने के लिए एआई सिस्टम की क्षमता को और विकसित करने की कोशिश करने के लिए, यूसी सांता बारबरा और इंटेल के शोधकर्ताओं की एक टीम, जैसा कि द नेक्स्ट वेब (TNW) रिपोर्ट करता है, “रेडिट और गैब के सबसे गंदे समुदायों से हज़ारों बातचीत लेकर नफ़रत भरे भाषण का मुकाबला करने के लिए एआई को प्रशिक्षित करने और विकसित करने के लिए उनका उपयोग किया।” (INTC )

उनकी रिपोर्ट के अनुसार, ऐसा करने के लिए, शोधकर्ताओं ने “नफ़रत भरे भाषण से भरपूर बातचीत के हज़ारों को विशेष रूप से क्यूरेट किया” एक डेटासेट बनाने के लिए। उन्होंने जस्टिन कैफ़ियर ऑफ़ वॉइस द्वारा संकलित रेडिट पर नफ़रत भरे भाषण का उपयोग करने वाले समूहों की सूची का भी उपयोग किया।

शोधकर्ताओं ने रेडिट से 22,000 से अधिक टिप्पणियां और गैब से 33,000 से अधिक टिप्पणियां एकत्र कीं। उन्होंने पाया कि दोनों साइटों में समान लोकप्रिय नफ़रत भरे भाषण के कीवर्ड हैं, लेकिन वितरण बहुत अलग है।

उन्होंने नोट किया कि इन अंतरों के कारण यह सामाजिक मीडिया के लिए वास्तविक समय में हस्तक्षेप करना बहुत मुश्किल है, क्योंकि नफ़रत भरे भाषण का प्रवाह इतना अधिक है कि इसके लिए असंख्य वास्तविक व्यक्तियों की आवश्यकता होगी।

समस्या को हल करने के लिए, शोध टीम ने हस्तक्षेप करने के लिए एआई को प्रशिक्षित करना शुरू किया। उनके प्रारंभिक डेटाबेस को अमेज़न टर्क कार्यकर्ताओं को लेबल करने के लिए भेजा गया था। नफ़रत भरे भाषण के व्यक्तिगत उदाहरणों की पहचान करने के बाद, कार्यकर्ताओं ने वाक्यांशों के साथ आया जो एआई का उपयोग करके “भविष्य में समान नफ़रत भरे भाषण पोस्ट करने से उपयोगकर्ताओं को रोकने” के लिए किया जा सकता है। (AMZN )

इसके आधार पर, टीम ने “विभिन्न मशीन लर्निंग और प्राकृतिक भाषा प्रसंस्करण प्रणालियों के माध्यम से इस डेटासेट और हस्तक्षेप के डेटाबेस को चलाया और एक ऑनलाइन नफ़रत भरे भाषण हस्तक्षेप एआई के लिए एक प्रोटोटाइप बनाया।”

परिणाम उत्कृष्ट थे, लेकिन चूंकि विकास अभी भी एक प्रारंभिक चरण में है, सिस्टम अभी तक वास्तविक उपयोग के लिए तैयार नहीं है। जैसा कि बताया गया है, “सिस्टम, सिद्धांत रूप में, नफ़रत भरे भाषण का पता लगाना चाहिए और तुरंत पोस्टर को एक संदेश भेजना चाहिए, जिससे उन्हें यह बताया जा सके कि वे नफ़रत भरे भाषण क्यों नहीं पोस्ट करना चाहिए। यह केवल कीवर्ड का पता लगाने से अधिक पर निर्भर करता है – एआई को काम करने के लिए संदर्भ को सही प्राप्त करना होगा।”