การวิจัย: อัลกอริทึมต่อต้านสแปมแสดงความลำเอียงทางการเมืองระหว่างการเลือกตั้ง СШАในปี 2020

ตามการศึกษาใหม่ อัลกอริทึมการกรองสแปม (SFAs) จากผู้ให้บริการอีเมลสามรายที่ใหญ่ที่สุดในโลกแสดงความลำเอียงทางการเมืองระหว่างการเลือกตั้งประธานาธิบดีสหรัฐฯในปี 2020 โดย Gmail มีความลำเอียงไปทางซ้าย ในขณะที่ Microsoft Outlook และ Yahoo Mail มีความลำเอียงไปทางขวา

รายงานระบุว่า:

‘การตรวจสอบของเราแสดงให้เห็นว่าอัลกอริทึมการกรองสแปมทั้งหมดแสดงความลำเอียงทางการเมืองในช่วงหลายเดือนก่อนการเลือกตั้งประธานาธิบดีสหรัฐฯในปี 2020 Gmail มีความลำเอียงไปทางซ้าย (พรรคเดโมแครต) ในขณะที่ Outlook และ Yahoo มีความลำเอียงไปทางขวา (พรรครีพับลิกัน) Gmail มีการทำเครื่องหมายอีเมลจากผู้สมัครทางขวาเป็นสแปมมากกว่า 59.3% เมื่อเทียบกับผู้สมัครทางซ้าย ในขณะที่ Outlook และ Yahoo มีการทำเครื่องหมายอีเมลจากผู้สมัครทางซ้ายเป็นสแปมมากกว่า 20.4% และ 14.2% เมื่อเทียบกับผู้สมัครทางขวา ตามลำดับ’

นักวิจัยวิเคราะห์ว่าแสดงให้เห็นถึง ‘ความลำเอียงที่รวมกัน’ ในกิจกรรมของอัลกอริทึมการกรองสแปม

รายงานยังรับทราบถึงความเป็นไปได้ของการทำเครื่องหมายสแปมที่ ‘เพาะปลูก’ โดยผู้กระทำที่พยายามจะทำให้เสียงค้านเงียบลงอาจขอหรือได้รับอีเมลจาก ‘ฝ่ายตรงข้าม’ และมีเจตนาในการรายงานอีเมลเหล่านั้นว่าเป็นสแปม ซึ่งจะส่งผลต่ออัลกอริทึมที่กำหนดความน่าจะเป็นของสแปมจากผู้ส่งอีเมล

อย่างไรก็ตาม นักวิจัยสังเกตเห็นว่าสิ่งนี้ไม่สามารถอธิบายความแตกต่างที่ชัดเจนในแนวทางปฏิบัติของผู้ให้บริการอีเมลต่างๆ ที่ดูเหมือนจะกำหนดการกระทำตามคำติชมจากผู้ใช้ปลายทาง:

‘น่าจะมีความเป็นไปได้ที่อัลกอริทึมการกรองสแปมของบริการอีเมลได้เรียนรู้จากการตัดสินใจของผู้ลงคะแนนเสียงบางคนในการทำเครื่องหมายอีเมลการหาเสียงเป็นสแปม และเริ่มทำเครื่องหมายอีเมลเหล่านั้นหรืออีเมลที่คล้ายกันเป็นสแปมสำหรับผู้ลงคะแนนเสียงคนอื่น ๆ ในขณะที่เราไม่มีเหตุผลใดๆ ที่จะเชื่อว่ามีการพยายามที่จะสร้างความลำเอียงเหล่านี้โดยเจตนาจากบริการอีเมลเหล่านี้เพื่อ影响ผู้ลงคะแนนเสียง แต่ความจริงที่ว่าอัลกอริทึมการกรองสแปมของพวกเขามีการเรียนรู้ที่จะทำเครื่องหมายอีเมลจากพรรคการเมืองหนึ่งมากกว่าอีกพรรคหนึ่งเป็นสแปม’

‘เนื่องจากบริการอีเมลที่โดดเด่นเหล่านี้ถูกใช้โดยผู้ลงคะแนนเสียงจำนวนมาก และผู้ลงคะแนนเสียงหลายคนพึ่งพาข้อมูลที่พวกเขาเห็น (หรือไม่เห็น) ออนไลน์ ความลำเอียงเหล่านี้อาจมีผลกระทบที่ไม่สามารถเพิกเฉยได้ต่อผลลัพธ์ของการเลือกตั้ง’

รายงาน รายงาน มีชื่อเรื่องว่า การ窥视ความลำเอียงทางการเมืองในอัลกอริทึมการกรองสแปมอีเมลระหว่างการเลือกตั้งประธานาธิบดีสหรัฐฯในปี 2020 และมาจากนักวิจัยสี่คนจากภาควิชาวิทยาการคอมพิวเตอร์ มหาวิทยาลัยรัฐนอร์ทแคโรไลนา

รอบบ้าน

การศึกษาของนักวิจัยครอบคลุมช่วงเวลา 5 เดือนตั้งแต่เดือนกรกฎาคม 2020 ถึงเดือนพฤศจิกายนของปีเดียวกัน โดยพวกเขาสร้างบัญชีอีเมลใหม่ 102 บัญชีบนแพลตฟอร์มอีเมลทั้งสามและสมัครรับข้อมูลอีเมลจากผู้สมัครรับเลือกตั้งประธานาธิบดี 2 คน ผู้สมัครรับเลือกตั้งวุฒิสภา 78 คน และผู้สมัครรับเลือกตั้งสภา 156 คน

เพื่อลดปัจจัยประชากรศาสตร์ บัญชีอีเมลถูกสร้างขึ้นด้วยปัจจัยประชากรศาสตร์ที่แตกต่างกันสำหรับผู้ใช้ปลายทางแต่ละคน และแบ่งออกเป็นสองส่วน: ส่วนแรกศึกษาความลำเอียงทั่วไปในอัลกอริทึมการกรองสแปมที่ผสมผสานกันสำหรับผู้สมัครรับเลือกตั้งประธานาธิบดี วุฒิสภา และสภา; และส่วนที่สองตรวจสอบว่าอินเทอร์แอคชั่นของอีเมลต่างๆ (เช่น การทำเครื่องหมายหรือไม่ทำเครื่องหมายเป็นสแปมโดยผู้ใช้ปลายทาง) มีผลต่อพฤติกรรมของอัลกอริทึมการกรองสแปมอย่างไร

มีการสังเกตหลายอย่างที่ชัดเจนระหว่างการศึกษา นักวิจัยระบุว่า Gmail ‘มีความลำเอียงไปทางซ้าย’ ในขณะที่ Outlook และ Yahoo มีความลำเอียงไปทางขวา Yahoo เก็บอีเมลทางการเมือง 55.2% ทั้งหมดไว้ในกล่องข้อมูลผู้ใช้ ในขณะที่ Outlook ตัดอีเมล 71.8% จากผู้สมัครรับเลือกตั้งทางการเมืองทั้งหมด

‘Gmail เก็บอีเมลจากผู้สมัครรับเลือกตั้งทางซ้ายไว้ในกล่องข้อมูลผู้ใช้ (< 10.12% ถูกทำเครื่องหมายเป็นสแปม) ในขณะที่ส่งอีเมลจากผู้สมัครรับเลือกตั้งทางขวาไปที่โฟลเดอร์สแปม (ถึง 77.2% ถูกทำเครื่องหมายเป็นสแปม)’

‘เราได้สังเกตเห็นว่าเปอร์เซ็นต์ของอีเมลที่ Gmail ทำเครื่องหมายเป็นสแปมจากผู้สมัครรับเลือกตั้งทางขวาเพิ่มขึ้นอย่างต่อเนื่องเมื่อใกล้ถึงวันเลือกตั้ง ในขณะที่เปอร์เซ็นต์ของอีเมลที่ทำเครื่องหมายเป็นสแปมจากผู้สมัครรับเลือกตั้งทางซ้ายยังคงเท่าเดิม’

การเลือกผู้สมัคร

ในขณะที่ผู้สมัครรับเลือกตั้งประธานาธิบดีที่สมัครเข้าร่วมการศึกษามีเพียง Joe Biden และ Donald Trump นักวิจัยได้เลือกผู้สมัครรับเลือกตั้งวุฒิสภาและสภาโดยคำนึงถึงหลายปัจจัย

ประการแรก รัฐต่างๆ มีจำนวนสมาชิกสภาที่แตกต่างกันตามจำนวนประชากรของรัฐ ประการสอง จำนวนผู้สมัครรับเลือกตั้งวุฒิสภาและสมาชิกสภาในพรรคการเมืองหลักสองพรรคมีความแตกต่างกันไปตามรัฐ ประการสาม บางผู้สมัครมีเพียงเว็บไซต์.gov อย่างเป็นทางการเท่านั้น ซึ่งตามกฎหมายไม่ได้รับอนุญาตให้ส่งอีเมลหาเสียง; และสุดท้าย บางรายชื่อผู้สมัครมีการป้องกันโดย CAPTCHAs ซึ่งไม่สามารถทำให้การรวบรวมข้อมูลแบบอัตโนมัติของนักวิจัยทำงานได้

การกระจายตัวของการสมัครรับเลือกตั้งวุฒิสภาและสมาชิกสภา Source: https://arxiv.org/pdf/2203.16743.pdf

เพื่อสร้างสมดุลระหว่างผู้สมัครรับเลือกตั้งจากพรรคเดโมแครตและรีพับลิกัน นักวิจัยสมัครรับข้อมูลอีเมลจากผู้สมัครรับเลือกตั้งที่มีจำนวนมากที่สุดในแต่ละรัฐที่มีผู้สมัครรับเลือกตั้งจากทั้งสองพรรคเท่าๆ กัน ยกเว้นรัฐอย่าง Alaska ที่มีผู้สมัครรับเลือกตั้งวุฒิสภาเพียงคนเดียวจากพรรครีพับลิกัน

โดยรวมแล้ว นักวิจัยต้องคำนึงถึง 11 รัฐดังกล่าว และสุดท้ายได้บัญชีอีเมลที่ครอบคลุม 50 รัฐทั้งหมด 78 การสมัครรับเลือกตั้งจาก 36 รัฐเท่ากับ 44 ผู้สมัครรับเลือกตั้งวุฒิสภาจากพรรคเดโมแครตและ 34 คนจากพรรครีพับลิกัน ในขณะที่มีการสมัครรับเลือกตั้ง 156 รายจาก 42 รัฐสำหรับผู้สมัครรับเลือกตั้งสมาชิกสภา – 81 คนจากพรรคเดโมแครตและ 75 คนจากพรรครีพับลิกัน

การวิเคราะห์ข้อมูล

นักวิจัยรวบรวมอีเมล 318,108 ฉบับจากบริการอีเมลทั้งสามในช่วงเวลาการรวบรวมข้อมูลที่ใช้งานอยู่ ซึ่งถูกตัดหลังจากวันที่ 20 พฤศจิกายนเนื่องจากการลดลงอย่างรวดเร็วของปริมาณอีเมลหลังจากนั้น ข้อมูลที่รวบรวมสำหรับอีเมลแต่ละฉบับรวมถึง เวอร์ชัน MIME, ประเภทเนื้อหา, หัวเรื่อง, จาก, ถึง, วันที่, อีเมล ID, ส่งถึง, รับ SPF และ รับจาก

เนื่องจากความท้าทายในการแสดงข้อมูลจากทั้งสองพรรคการเมืองอย่างยุติธรรม การวิเคราะห์ผลคูณความน่าจะเป็น (PSA) ถูกเลือกเป็นวิธีการทางสถิติสำหรับข้อมูล PSA สร้าง ตัวแปรร่วม จากข้อมูลที่ไม่สมดุลซึ่งทำให้การกระจายตัวเท่าเทียมกันในสถานการณ์พิเศษที่กลุ่มควบคุมและแบ่งส่วนการวิเคราะห์แบบดั้งเดิมไม่สามารถใช้งานได้

นักวิจัยสรุปว่าอัลกอริทึมการกรองสแปมของบริการอีเมลที่ศึกษาแสดงความลำเอียงทางการเมือง และความสม่ำเสมอในระยะแรกที่เห็นได้ทั่วบริการต่างๆ จะเปลี่ยนไปเป็นพฤติกรรมเฉพาะเจาะจงมากขึ้นเมื่อเวลาผ่านไป

Gmail ทำเครื่องหมายอีเมลทางการเมืองจากฝ่ายขวา 67.6% เป็นสแปม เมื่อเทียบกับอีเมลจากฝ่ายซ้ายเพียง 8.2% แต่ตอบสนองต่อการโต้ตอบของผู้ใช้ที่ไม่ทำเครื่องหมายอีเมลเป็นสแปมได้มากกว่าบริการอื่นๆ Outlook ทำเครื่องหมายอีเมลจากฝ่ายซ้าย 95.8% เป็นสแปม เมื่อเทียบกับอีเมลจากฝ่ายขวา 75.4% และ Yahoo ทำเครื่องหมายอีเมลจากฝ่ายซ้ายมากกว่าอีเมลจากฝ่ายขวา 14.2%

การกระจายตัวของเปอร์เซ็นต์ของอีเมลจากพรรคเดโมแครต (สีน้ำเงิน) และพรรครีพับลิกัน (สีแดง) ที่ถูกทำเครื่องหมายเป็นสแปมในบัญชีอีเมลของบริการอีเมลแต่ละบริการ

ผลลัพธ์ยังชี้ให้เห็นว่าในช่วงเวลาของการศึกษา Gmail ตอบสนองต่อปริมาณอีเมลที่เพิ่มขึ้นโดยการทำเครื่องหมายอีเมลเหล่านั้นเป็นสแปมโดยไม่คำนึงถึงความสัมพันธ์ทางการเมือง Yahoo รายงานอีเมลจากฝ่ายซ้ายเป็นสแปมอย่างต่อเนื่องเมื่อการหาเสียงดำเนินไป ในขณะที่ลดจำนวนอีเมลจากฝ่ายขวาที่ถูกทำเครื่องหมายเป็นสแปม Outlook ดูเหมือนจะไม่ได้รับผลกระทบมากที่สุดจากปริมาณอีเมลที่เพิ่มขึ้นจากทั้งสองฝ่าย โดยยังคงความลำเอียงไปทางขวา

เปอร์เซ็นต์ของอีเมลที่ถูกทำเครื่องหมายเป็นสแปมทั้งสองพรรคการเมืองและทั้งสามบริการอีเมลในช่วง 153 วันของการศึกษา

การตอบสนองต่อการโต้ตอบของผู้ใช้

เมื่อเราทำเครื่องหมายอีเมลสแปมว่า ‘ไม่ใช่สแปม’ ความตั้งใจคือการฝึกอบรมระบบอีเมลให้ไม่ทำเครื่องหมายอีเมลที่คล้ายกันในอนาคต แม้ว่าประเภทของกฎ (อีเมล์-based, เนื้อหา-based, ฯลฯ) ไม่ได้ถูกกำหนดไว้อย่างชัดเจนเสมอไป

ผลการวิจัยพบว่าในบรรดาผู้ให้บริการอีเมลทั้งสามที่ตรวจสอบ Gmail ตอบสนองต่อการโต้ตอบ ‘ไม่ใช่สแปม’ จากผู้ใช้อย่างมีนัยสำคัญ ในทางตรงกันข้าม การโต้ตอบนี้มีผลกระทบระยะยาวน้อยมากใน Outlook และ Yahoo

นักวิจัยสังเกตเห็นว่า:

‘เนื่องจากการโต้ตอบ S→I ความลำเอียงทางการเมืองใน Gmail ลดลงอย่างมีนัยสำคัญ อย่างไรก็ตาม ในทางที่ไม่คาดคิด มันเพิ่มขึ้นใน Outlook และ Yahoo เนื่องจากทั้งสองบริการไม่ตอบสนองต่อความต้องการของผู้ใช้ที่จะไม่ทำเครื่องหมายอีเมลเหล่านั้นเป็นสแปม’

สรุป

นักวิจัยสรุปว่า Gmail ตอบสนองต่อการโต้ตอบของผู้ใช้อย่างมีนัยสำคัญเมื่อเทียบกับ Outlook และ Yahoo แม้ว่าจะมีความลำเอียงไปทางซ้าย

นักวิจัยระบุว่า:

‘ในขณะที่ความลำเอียงทางการเมืองใน Gmail ยังคงไม่เปลี่ยนแปลงหลังจากการโต้ตอบการอ่าน มันลดลงอย่างมีนัยสำคัญเนื่องจากการโต้ตอบ I→S และ S→I’

และต่อด้วย:

‘ในขณะที่ความลำเอียงทางการเมืองเปลี่ยนแปลงตามการโต้ตอบต่างๆ Gmail ยังคงความลำเอียงไปทางซ้าย ในขณะที่ Outlook และ Yahoo ยังคงความลำเอียงไปทางขวาในทุกสถานการณ์’

นักวิจัยยอมรับว่ามีความคาดหวังโดยทั่วไปของผู้ใช้ว่าระบบกรองสแปมสามารถและจะปรับพฤติกรรมตามการแทรกแซงของผู้ใช้ (เช่น การย้ายอีเมลจากโฟลเดอร์สแปมไปที่กล่องข้อมูลผู้ใช้ หรือการทำเครื่องหมายอีเมลว่า ‘ไม่ใช่สแปม’) แต่กลไกนี้ไม่น่าเชื่อถือ และไม่สอดคล้องกันระหว่างผู้ให้บริการอีเมลทั้งสามที่ศึกษา

รายงานระบุว่า:

‘เราไม่พบการกระทำที่สอดคล้องกันที่ผู้ใช้สามารถทำได้เพื่อช่วยลดความลำเอียงในการปฏิบัติต่ออีเมลทางการเมืองที่ส่งถึงพวกเขา’

เผยแพร่ครั้งแรกเมื่อวันที่ 4 เมษายน 2022