सांख्यिकीय मॉडल सोशल मीडिया पर गलत सूचना का पता लगाने में मदद करता है

अमेरिकन यूनिवर्सिटी के एक गणित प्रोफेसर ने अपने सहयोगियों की टीम के साथ मिलकर एक सांख्यिकीय मॉडल विकसित किया है जो सोशल मीडिया पोस्ट में गलत सूचना का पता लगा सकता है।

मशीन लर्निंग का उपयोग गलत सूचना को रोकने के लिए बढ़ती तरह से किया जा रहा है, लेकिन अभी भी एक बड़ा रुकावट है जो ब्लैक बॉक्स की समस्या से संबंधित है। यह तब होता है जब शोधकर्ता यह नहीं समझते कि मशीन मानव प्रशिक्षकों के समान निर्णय कैसे लेती है।

सांख्यिकीय मॉडल के साथ गलत सूचना का पता लगाना

एयू के गणित और सांख्यिकी विभाग में सहायक प्रोफेसर ज़ोइस बुकुवालास ने कोविड-19 के बारे में गलत सूचना वाले ट्विटर डेटासेट का उपयोग यह दिखाने के लिए किया कि सांख्यिकीय मॉडल महामारी या आपदा जैसी बड़ी घटनाओं के दौरान सोशल मीडिया में गलत सूचना का पता लगा सकते हैं।

बुकुवालास और उनके सहयोगी, जिनमें एयू के छात्र केटलिन मोरोनी और कंप्यूटर साइंस प्रोफेसर नताली जपकोविक्स शामिल हैं, ने दिखाया कि मॉडल के निर्णय मानवों के साथ कैसे संरेखित होते हैंनए प्रकाशित शोध में।

“हमें यह जानने में दिलचस्पी है कि जब मशीन निर्णय लेती है तो वह क्या सोचती है, और यह कैसे और क्यों मानव प्रशिक्षकों के साथ सहमत होती है,” बुकुवालास ने कहा। “हम किसी के सोशल मीडिया अकाउंट को ब्लॉक नहीं करना चाहते हैं क्योंकि मॉडल एक पक्षपातपूर्ण निर्णय लेता है।”

टीम द्वारा उपयोग की जाने वाली विधि सांख्यिकी पर निर्भर मशीन लर्निंग का एक प्रकार है। सांख्यिकीय मॉडल प्रभावी हैं और गलत सूचना से निपटने का एक और तरीका प्रदान करते हैं।

मॉडल ने उच्च भविष्यवाणी प्रदर्शन हासिल किया और 112 वास्तविक और गलत सूचना ट्वीट्स के एक परीक्षण सेट को लगभग 90% सटीकता के साथ वर्गीकृत किया।

“इस खोज के बारे में जो महत्वपूर्ण है वह यह है कि हमारे मॉडल ने सटीकता हासिल की जबकि यह बताया कि यह गलत सूचना वाले ट्वीट्स का पता कैसे लगाता है,” बुकुवालास ने जारी रखा। “गहरे शिक्षण विधियां इस तरह की सटीकता के साथ पारदर्शिता हासिल नहीं कर सकती हैं।”

मॉडल को प्रशिक्षित करना और तैयार करना

शोधकर्ताओं ने मॉडल को एक डेटासेट पर परीक्षण करने से पहले प्रशिक्षित करने के लिए तैयार किया क्योंकि मानव द्वारा प्रदान की गई जानकारी पूर्वाग्रह और ब्लैक बॉक्स पेश कर सकती है।

शोधकर्ताओं ने ट्वीट्स को या तो गलत सूचना या वास्तविक के रूप में लेबल किया था, जो गलत सूचना में उपयोग की जाने वाली भाषा के बारे में पूर्वनिर्धारित नियमों के आधार पर। टीम ने मानव भाषा में सूक्ष्मताओं और भाषाई विशेषताओं पर भी विचार किया जो गलत सूचना से जुड़ी हुई हैं।

मॉडल को प्रशिक्षित करने से पहले, सोशियो-लिंग्विस्ट प्रोफेसर क्रिस्टीन मैलिंसन ऑफ यूनिवर्सिटी ऑफ मैरीलैंड बाल्टिमोर काउंटी ने गलत सूचना, पूर्वाग्रह और समाचार मीडिया में कम विश्वसनीय स्रोतों से जुड़े लेखन शैलियों के लिए ट्वीट्स की पहचान की।

“एक बार जब हम इन इनपुट्स को मॉडल में जोड़ते हैं, तो यह अच्छी और बुरी जानकारी को अलग करने वाले अंतर्निहित कारकों को समझने का प्रयास करता है,” जपकोविक्स ने कहा। “यह संदर्भ और शब्दों के बीच कैसे बातचीत करता है, यह सीख रहा है।”

शोधकर्ता अब मॉडल के लिए उपयोगकर्ता इंटरफ़ेस में सुधार करने के साथ-साथ इसकी क्षमता में सुधार करने के लिए देखेंगे ताकि यह सोशल मीडिया पोस्ट में गलत सूचना का पता लगा सके जिसमें छवियों या अन्य मल्टीमीडिया शामिल हों। सांख्यिकीय मॉडल को यह सीखने की आवश्यकता होगी कि विभिन्न तत्व कैसे गलत सूचना बनाने के लिए एक दूसरे के साथ बातचीत करते हैं।

बुकुवालास और जपकोविक्स दोनों कहते हैं कि मानव बुद्धिमत्ता और समाचार साक्षरता गलत सूचना को रोकने के लिए महत्वपूर्ण हैं।

“हमारे काम के माध्यम से, हम मशीन लर्निंग पर आधारित टूल्स डिज़ाइन करते हैं ताकि जनता को आगाह और शिक्षित किया जा सके ताकि गलत सूचना को समाप्त किया जा सके, लेकिन हम दृढ़ता से मानते हैं कि मानवों को पहले स्थान पर गलत सूचना को फैलाने में सक्रिय भूमिका निभानी चाहिए,” बुकुवालास ने कहा।