सांख्यिकीय मॉडल सोशल मीडिया पर गलत सूचना का पता लगाने में मदद करता है

अमेरिकन यूनिवर्सिटी के एक गणित प्रोफेसर ने अपनी टीम के साथ मिलकर एक सांख्यिकीय मॉडल विकसित किया है जो सोशल मीडिया पोस्ट में गलत सूचना का पता लगा सकता है।

मशीन लर्निंग का उपयोग गलत सूचना को रोकने के लिए बढ़ती तरह से किया जा रहा है, लेकिन अभी भी एक बड़ी बाधा है जो ब्लैक बॉक्स की समस्या से संबंधित है। यह तब होता है जब शोधकर्ता यह नहीं समझते कि एक मशीन मानव प्रशिक्षकों के समान निर्णय कैसे लेती है।

सांख्यिकीय मॉडल के साथ गलत सूचना का पता लगाना

एयू के गणित और सांख्यिकी विभाग में सहायक प्रोफेसर ज़ोइस बुकोवालस ने एक ट्विटर डेटासेट का उपयोग किया जिसमें कोविड-19 के बारे में गलत सूचना वाले ट्वीट थे, यह दिखाने के लिए कि सांख्यिकीय मॉडल बड़े आयोजनों जैसे महामारी या आपदा के दौरान सोशल मीडिया में गलत सूचना का पता लगा सकते हैं।

बुकोवालस और उनके सहयोगियों, जिनमें एयू की छात्रा केटलिन मोरोनी और कंप्यूटर साइंस प्रोफेसर नताली जैपकोविक्स शामिल हैं, ने दिखाया कि मॉडल के निर्णय मानवों के साथ कैसे संरेखित होते हैंनए शोध में。

“हम यह जानना चाहते हैं कि एक मशीन क्या सोचती है जब यह निर्णय लेती है, और यह कैसे और क्यों मानव प्रशिक्षकों के साथ सहमत होती है,” बुकोवालस ने कहा। “हम किसी के सोशल मीडिया अकाउंट को ब्लॉक नहीं करना चाहते हैं क्योंकि मॉडल एक पक्षपातपूर्ण निर्णय लेता है।”

टीम द्वारा उपयोग की जाने वाली विधि सांख्यिकीय मॉडल पर आधारित एक प्रकार की मशीन लर्निंग है। सांख्यिकीय मॉडल प्रभावी होते हैं और गलत सूचना से निपटने के लिए एक और तरीका प्रदान करते हैं।

मॉडल ने उच्च भविष्यवाणी प्रदर्शन हासिल किया और 112 वास्तविक और गलत सूचना ट्वीट के एक परीक्षण सेट को लगभग 90% सटीकता के साथ वर्गीकृत किया।

“इस खोज के बारे में जो महत्वपूर्ण है वह यह है कि हमारा मॉडल सटीकता हासिल करते हुए यह बता सकता है कि यह गलत सूचना वाले ट्वीट का पता कैसे लगाता है,” बुकोवालस ने जारी रखा। “गहरे शिक्षण विधियां इस तरह की सटीकता और पारदर्शिता के साथ नहीं पहुंच सकती हैं।”

मॉडल को प्रशिक्षित करना और तैयार करना

शोधकर्ताओं ने मॉडल को परीक्षण से पहले तैयार किया क्योंकि मानव द्वारा प्रदान की गई जानकारी पक्षपात और ब्लैक बॉक्स को पेश कर सकती है।

शोधकर्ताओं ने ट्वीट को गलत सूचना या वास्तविक के रूप में लेबल किया, जो भाषा के एक सेट नियमों पर आधारित थे जो गलत सूचना में उपयोग की जाती है। टीम ने मानव भाषा में सूक्ष्मताओं और भाषाई विशेषताओं पर भी विचार किया जो गलत सूचना से जुड़ी हुई हैं।

मॉडल को प्रशिक्षित करने से पहले, सोशियो-लिंग्विस्ट प्रोफेसर क्रिस्टीन मैलिंसन ने यूनिवर्सिटी ऑफ मैरीलैंड बाल्टिमोर काउंटी में गलत सूचना, पक्षपात और कम विश्वसनीय स्रोतों से जुड़ी लेखन शैलियों की पहचान की।

“एक बार जब हम मॉडल में इन इनपुट्स को जोड़ते हैं, तो यह अच्छी और बुरी जानकारी को अलग करने वाले अंतर्निहित कारकों को समझने की कोशिश कर रहा है,” जैपकोविक्स ने कहा। “यह संदर्भ और शब्दों के बीच कैसे बातचीत करता है, यह सीख रहा है।”

शोधकर्ता अब मॉडल के उपयोगकर्ता इंटरफेस में सुधार करने और इसकी क्षमता में सुधार करने के लिए देख रहे हैं ताकि यह सोशल मीडिया पोस्ट में गलत सूचना का पता लगा सके जिसमें छवियां या अन्य मल्टीमीडिया शामिल हैं। सांख्यिकीय मॉडल को विभिन्न तत्वों के बीच कैसे बातचीत होती है, यह सीखने की आवश्यकता होगी।

बुकोवालस और जैपकोविक्स दोनों कहते हैं कि मानव बुद्धिमत्ता और समाचार साक्षरता गलत सूचना को रोकने के लिए महत्वपूर्ण हैं।

“हमारे काम के माध्यम से, हम मशीन लर्निंग पर आधारित उपकरण डिज़ाइन करते हैं ताकि जनता को सचेत और शिक्षित किया जा सके और गलत सूचना को खत्म किया जा सके, लेकिन हम मजबूती से मानते हैं कि मनुष्यों को पहले स्थान पर गलत सूचना को फैलाने में सक्रिय भूमिका निभाने की आवश्यकता है,” बुकोवालस ने कहा।