शोध: 2020 अमेरिकी चुनाव के दौरान एंटी-स्पैम एल्गोरिदम में राजनीतिक पूर्वाग्रह दिखाई दिया

एक नए अध्ययन के अनुसार, दुनिया के तीन सबसे बड़े ईमेल प्रदाताओं के स्पैम फिल्टरिंग एल्गोरिदम (एसएफए) ने 2020 के अमेरिकी चुनाव के दौरान राजनीतिक पूर्वाग्रह प्रदर्शित किया, जिसमें गूगल के जीमेल ने बाएं झुकाव दिखाया, जबकि माइक्रोसॉफ्ट आउटलुक और याहू मेल ने दाएं-पंथी उम्मीदवारों के ईमेल को पसंद किया।

पेपर में कहा गया है:

‘हमारे [निरीक्षण] से पता चला कि सभी एसएफए ने 2020 के अमेरिकी चुनाव से पहले के महीनों में राजनीतिक पूर्वाग्रह प्रदर्शित किया। जीमेल बाएं (डेमोक्रेट) की ओर झुका हुआ था, जबकि आउटलुक और याहू दाएं (रिपब्लिकन) की ओर झुके हुए थे। जीमेल ने दाएं उम्मीदवारों के 59.3% अधिक ईमेल को स्पैम के रूप में चिह्नित किया था, जबकि आउटलुक और याहू ने क्रमशः बाएं उम्मीदवारों के 20.4% और 14.2% अधिक ईमेल को स्पैम के रूप में चिह्नित किया था।’

लेखकों का विश्लेषण, वे दावा करते हैं, ‘सामूहिक पूर्वाग्रह’ को एसएफए गतिविधि में प्रदर्शित करता है।

पेपर यह भी स्वीकार करता है कि ‘फार्म्ड’ स्पैम मार्किंग की संभावना है, जहां विरोधी आवाजों को शांत करने के लिए अभिनेता आधिकारिक संचार तक पहुंच प्राप्त कर सकते हैं और स्पैम के रूप में रिपोर्ट करने के लिए उन्हें चिह्नित कर सकते हैं, जिससे एक विशिष्ट भेजने वाले से स्पैम की संभावना को प्रभावित किया जा सकता है।

हालांकि, शोधकर्ताओं का观察 है कि यह अंतर को नहीं समझाता है कि विभिन्न ईमेल प्रदाताओं ने उपयोगकर्ता प्रतिक्रिया पर कैसे कार्रवाई की:

‘संभवतः, यह भी संभावना है कि ईमेल सेवाओं के एसएफए ने कुछ मतदाताओं द्वारा कुछ अभियान ईमेल को स्पैम के रूप में चिह्नित करने के विकल्प से सीखा और अन्य मतदाताओं के लिए उन/समान अभियान ईमेल को स्पैम के रूप में चिह्नित करना शुरू कर दिया। जबकि हमें यह विश्वास नहीं है कि इन ईमेल सेवाओं ने जानबूझकर मतदाताओं को प्रभावित करने के लिए इस पूर्वाग्रह को बनाने का प्रयास किया, यह तथ्य बना हुआ है कि उनके एसएफए ने एक राजनीतिक संबद्धता के ईमेल को दूसरे की तुलना में अधिक स्पैम के रूप में चिह्नित करना सीखा है। ‘

‘चूंकि ये प्रमुख ईमेल सेवाएं एक बड़े मतदाता आबादी द्वारा सक्रिय रूप से उपयोग की जाती हैं और कई मतदाता आज ऑनलाइन देखी जाने वाली जानकारी (या नहीं) पर निर्भर करते हैं, ऐसे पूर्वाग्रह चुनाव के परिणामों पर एक अनदेखी प्रभाव डाल सकते हैं। ‘

पेपर पेपर शीर्षक है यूएस इलेक्शन 2020 के दौरान ईमेल स्पैम फिल्टरिंग एल्गोरिदम में राजनीतिक पूर्वाग्रह की एक झलक, और उत्तरी कैरोलिना स्टेट यूनिवर्सिटी के कंप्यूटर साइंस विभाग के चार शोधकर्ताओं से आता है।

राउंड द हाउसेस

शोधकर्ताओं का अध्ययन जुलाई 2020 से नवंबर के अंत तक पांच महीने की अवधि को कवर करता है, जिसमें उन्होंने तीन ईमेल प्लेटफ़ॉर्म पर 102 नए ईमेल पते बनाए और दो राष्ट्रपति पद के उम्मीदवारों, 78 सीनेट और 156 हाउस उम्मीदवारों की ईमेल सूचना सूची में सब्सक्राइब किया।

जनसांख्यिकीय कारकों को छोड़ने के लिए, ईमेल खाते विभिन्न जनसांख्यिकीय कारकों के साथ बनाए गए थे और दो धाराओं में विभाजित किए गए थे: पहला सभी ईमेल सेवाओं के लिए स्पैम फिल्टरिंग एल्गोरिदम में सामान्य पूर्वाग्रह रुझानों का अध्ययन करता था; और दूसरा यह देखता था कि विभिन्न ईमेल इंटरैक्शन (जैसे कि उपयोगकर्ता द्वारा स्पैम के रूप में चिह्नित करना या चिह्नित नहीं करना) एल्गोरिदमिक स्पैम फिल्टर के व्यवहार को प्रभावित करते थे।

अध्ययन के दौरान कई प्रमुख अवलोकन सामने आए। लेखकों का कहना है कि जीमेल ‘बाएं’ की ओर झुका हुआ था, जबकि आउटलुक और याहू दाएं की ओर झुके हुए थे। याहू ने सभी राजनीतिक ईमेल का 55.2% उपयोगकर्ता के इनबॉक्स में रखा, जबकि आउटलुक ने सभी राजनीतिक उम्मीदवारों के 71.8% ईमेल को फिल्टर किया।

‘जीमेल, हालांकि, बाएं-पंथी उम्मीदवारों के ईमेल को अधिकांश इनबॉक्स में रखा (< 10.12% स्पैम के रूप में चिह्नित) जबकि दाएं-पंथी उम्मीदवारों के ईमेल को स्पैम फोल्डर में भेज दिया (77.2% स्पैम के रूप में चिह्नित)। ‘

‘हमने आगे देखा कि दाएं-पंथी उम्मीदवारों के ईमेल को जीमेल द्वारा स्पैम के रूप में चिह्नित किया गया प्रतिशत चुनाव की तारीख के करीब आने पर लगातार बढ़ा। ‘

पिकिंग कैंडिडेट्स

जबकि अध्ययन में शामिल राष्ट्रपति पद के उम्मीदवार जो बिडेन और डोनाल्ड ट्रम्प तक सीमित थे, शोधकर्ताओं ने सीनेट और हाउस उम्मीदवारों से ईमेल संचार की सदस्यता लेने के लिए प्रतिनिधि विकल्प बनाने का ध्यान रखा।

पहले, राज्यों में हाउस की सीटों की संख्या राज्य की जनसंख्या गणना पर आधारित होती है। दूसरा, सीनेट और हाउस उम्मीदवारों की संख्या दो मुख्य राजनीतिक दलों के बीच राज्यों में भिन्न होती है। इसके अलावा, कुछ उम्मीदवारों का प्रतिनिधित्व केवल आधिकारिक.gov वेबसाइटों द्वारा किया गया था, जो अभियान ईमेल भेजने से रोके जाते हैं; और कुछ उम्मीदवारों की सदस्यता सूची कैप्चा द्वारा संरक्षित थी, जिसे शोधकर्ताओं के कस्टम डेटा संग्रह फ्रेमवर्क द्वारा स्वचालित नहीं किया जा सकता था।

सीनेट और हाउस उम्मीदवारों की ईमेल सदस्यता की राजनीतिक संबद्धता का वितरण। स्रोत: https://arxiv.org/pdf/2203.16743.pdf

डेमोक्रेट और रिपब्लिकन उम्मीदवारों के बीच परिणामी असंतुलन को समान करने के लिए, शोधकर्ताओं ने उन राज्यों में अधिकतम संख्या में उम्मीदवारों से ईमेल अभियान जानकारी की सदस्यता ली, जहां बाएं और दाएं उम्मीदवार संख्या में समान थे, अलास्का जैसे राज्यों को छोड़कर, जिसमें केवल एक रिपब्लिकन सीनेट उम्मीदवार था।

कुल मिलाकर, लेखकों को 11 ऐसे राज्यों के लिए न्यायपूर्ण रूप से खाता करना पड़ा, और अंततः सभी 50 राज्यों का प्रतिनिधित्व किया। 36 राज्यों में 78 सदस्यताएं थीं, जिनमें 44 डेमोक्रेटिक और 34 रिपब्लिकन सीनेट उम्मीदवार शामिल थे, जबकि 42 राज्यों में 156 सदस्यताएं थीं, जिनमें 81 डेमोक्रेट और 75 रिपब्लिकन हाउस उम्मीदवार शामिल थे।

विश्लेषण डेटा

शोधकर्ताओं ने अध्ययन की सक्रिय डेटा संग्रह अवधि में तीन ईमेल सेवाओं पर 318,108 ईमेल एकत्र किए, जो 20 नवंबर के बाद तेजी से गिरने के कारण उस तारीख के बाद समाप्त हो गए। प्रत्येक ईमेल के लिए एकत्र किए गए डेटा में माइम-वर्जन, सामग्री प्रकार, विषय, से, को, तारीख, संदेश-आईडी, वितरित-टू, प्राप्त-एसपीएफ, और प्राप्त-द्वारा शामिल थे।

दोनों राजनीतिक दलों के संचार को न्यायपूर्ण रूप से प्रस्तुत करने में शामिल चुनौतियों के कारण, प्रोपेंसिटी स्कोर विश्लेषण (पीएसए) को डेटा के लिए सांख्यिकीय विधि के रूप में चुना गया था। पीएसए असंतुलित डेटा से कोवेरिएट्स उत्पन्न करता है जो असाधारण परिस्थितियों में वितरण को समान बनाता है जहां नियंत्रण समूह और पारंपरिक सांख्यिकीय विभाजन आसानी से लागू नहीं होते हैं।

लेखकों का निष्कर्ष है कि अध्ययन में शामिल ईमेल सेवाओं के लिए एसएफए राजनीतिक पूर्वाग्रह प्रदर्शित करते हैं, और कि शुरुआती सापेक्ष स्थिरता समय के साथ अधिक विशिष्ट व्यवहार में विकसित होती है।

जीमेल दाएं-पंथी राजनीतिक ईमेल को 67.6% के उच्च प्रतिशत को स्पैम के रूप में चिह्नित करता है, बाएं संबद्ध ईमेल के 8.2% की तुलना में, लेकिन स्पैम के रूप में चिह्नित ईमेल को अनचिह्नित करने वाले उपयोगकर्ता इंटरैक्शन पर अधिक गतिशील रूप से प्रतिक्रिया करता है। आउटलुक, इसके बजाय, 95.8% बाएं-पंथी राजनीतिक ईमेल को स्पैम के रूप में चिह्नित करता है, जबकि याहू बाएं-पंथी ईमेल को 14.2% अधिक स्पैम के रूप में चिह्नित करता है।

प्रत्येक सेवा के 22 ईमेल खातों में डेमोक्रेट (नीला) और रिपब्लिकन (लाल) ईमेल को स्पैम के रूप में चिह्नित किए गए प्रतिशत का संचयी वितरण।

इसके अलावा, परिणाम सुझाव देते हैं कि अध्ययन की अवधि के दौरान, जीमेल सभी राजनीतिक संबद्धताओं के ईमेल की बढ़ती मात्रा का जवाब देता है, जो कि स्पैम के रूप में चिह्नित करता है, भले ही इसका स्रोत कुछ भी हो। याहू ने लगातार बाएं-पंथी ईमेल को स्पैम के रूप में चिह्नित किया क्योंकि अभियान आगे बढ़े, साथ ही साथ दाएं-पंथी मेल को स्पैम के रूप में चिह्नित करने वाली संख्या को कम किया। आउटलुक को दोनों राजनीतिक दलों के ईमेल की बढ़ती मात्रा से कम प्रभावित देखा गया, जो एक सामान्य दाएं-पंथी पूर्वाग्रह बनाए रखा।

अध्ययन की अवधि के 153 दिनों में दोनों राजनीतिक दलों और तीनों ईमेल प्रदाताओं के लिए स्पैम के रूप में चिह्नित ईमेल का प्रतिशत।

उपयोगकर्ता इंटरैक्शन का जवाब

जब हम एक स्पैम ईमेल को ‘नॉट स्पैम’ के रूप में चिह्नित करते हैं, तो हमारा उद्देश्य ईमेल प्रणाली को प्रशिक्षित करना है ताकि वह भविष्य में समान ईमेल को स्पैम के रूप में चिह्नित न करे, हालांकि अंतर्निहित प्रकार का नियम (ईमेल-आधारित, सामग्री-आधारित, आदि) हमेशा पूरी तरह से स्पष्ट नहीं होता है।

अध्ययन के परिणामों से पता चलता है कि तीनों ईमेल प्रदाताओं में से, केवल जीमेल ने ‘नॉट स्पैम’ इनपुट से उल्लेखनीय रूप से प्रतिक्रिया दी। इसके विपरीत, यह उपयोगकर्ता-निर्देशित स्पैम-टू-इनबॉक्स (एस→आई) इंटरैक्शन आउटलुक और याहू में बहुत कम दीर्घकालिक प्रभाव डालता है।

शोधकर्ताओं का观察 है:

‘[एस→आई इंटरैक्शन के कारण], जीमेल में राजनीतिक पूर्वाग्रह में काफी कमी आई। हालांकि, अप्रत्याशित रूप से, यह आउटलुक और याहू में बढ़ गया क्योंकि न तो सेवा ने स्पैम के रूप में चिह्नित ईमेल को स्पैम के रूप में चिह्नित करने से रोकने के लिए उपयोगकर्ता की इच्छा पर ध्यान दिया।’

निष्कर्ष

लेखकों का निष्कर्ष है कि जीमेल उपयोगकर्ता इंटरैक्शन पर आउटलुक और याहू की तुलना में ‘महत्वपूर्ण’ रूप से प्रतिक्रिया करता है,尽管 इसका बाएं-पंथी पूर्वाग्रह है।

लेखकों का कहना है:

‘जीमेल में राजनीतिक पूर्वाग्रह पढ़ने के बाद नहीं बदला, लेकिन आई→एस और एस→आई इंटरैक्शन के कारण यह काफी कम हो गया।’

और जारी है:

‘जबकि विभिन्न इंटरैक्शन के लिए राजनीतिक पूर्वाग्रह बदल गए, जीमेल ने अपना बाएं झुकाव बनाए रखा, जबकि आउटलुक और याहू ने सभी परिदृश्यों में अपना दाएं झुकाव बनाए रखा। ‘

शोधकर्ताओं को यह उम्मीद है कि उपयोगकर्ता यह उम्मीद करते हैं कि स्पैम फिल्टर उपयोगकर्ता हस्तक्षेप (जैसे कि एक ईमेल को स्पैम फोल्डर से इनबॉक्स में ले जाना या इसे ‘नॉट स्पैम’ के रूप में चिह्नित करना) के आधार पर अपने व्यवहार को समायोजित करेंगे, लेकिन यह तंत्र विश्वसनीय नहीं है, और निश्चित रूप से तीनों ईमेल प्रदाताओं में संगत नहीं है जिन्हें अध्ययन किया गया था।

पेपर में कहा गया है:

‘[हमें] कोई भी सुसंगत कार्रवाई नहीं मिली जो उपयोगकर्ताओं को सिफारिश कर सके कि वे एसएफए द्वारा राजनीतिक ईमेल के स्पैम के रूप में चिह्नित करने के तरीके में पूर्वाग्रह को कम करने में मदद कर सकें।’

पहली बार 4 अप्रैल 2022 को प्रकाशित।