โฆษณาชวนเชื่อเชิงคำนวณ: แรงบันดาลใจที่ซ่อนอยู่ที่เปลี่ยนแปลงวิธีคิด โหวต และชีวิตของเรา

ลองนึกภาพดูสิ: คุณตื่นขึ้นมา ตรวจสอบสื่อสังคมของคุณ และพบกับหัวข้อที่ทำให้เกิดการโต้เถียงซ้ำๆ กันหลายร้อยครั้ง โดยทุกๆ โพสต์ถูกออกแบบมาเพื่อกระตุ้นให้เกิดความโกรธหรือความตื่นตระหนก ในขณะที่คุณกำลังทำกาแฟในตอนเช้า เรื่องราวนี้ได้กลายเป็นไวรัสและครอบงำข่าวที่ถูกต้อง ทำให้เกิดการถกเถียงกันอย่างรุนแรงทั่วอินเทอร์เน็ต สถานการณ์นี้ไม่ใช่เรื่องสมมติในอนาคต แต่เป็นความเป็นจริงของ โฆษณาชวนเชื่อเชิงคำนวณ。

ผลกระทบของแคมเปญเหล่านี้ไม่ได้จำกัดอยู่แค่ในฟอรัม Reddit ที่ห่างไกล ในระหว่างการเลือกตั้งประธานาธิบดีสหรัฐฯ ปี 2016 ฟาร์มทรอลของรัสเซีย ที่เชื่อมโยงกับฟาร์มทรอลได้หลั่งไหลเข้าสู่ Facebook (META ) และ Twitter ด้วยเนื้อหาที่ออกแบบมาเพื่อสร้างความแตกแยกในสังคม ซึ่งรายงานว่าถึง มากกว่า 126 ล้านคนในอเมริกา ในปีเดียวกัน การลงประชามติ Brexit ในสหราชอาณาจักรถูกบดบังด้วยบัญชีหลายบัญชี ซึ่งหลายบัญชีเป็นบอทที่สูบฉีดเรื่องราวที่ทำให้เกิดการแบ่งแยกเพื่อ影響ความคิดเห็นของประชาชน ในปี 2017 การเลือกตั้งประธานาธิบดีของฝรั่งเศสถูกทำลายโดยการปล่อยเอกสารที่ถูกแฮ็ก ในนาทีสุดท้าย ซึ่งถูกขยายโดยกิจกรรมโซเชียลมีเดียที่ถูกประสานกันอย่างน่าสงสัย และเมื่อ COVID-19 ระบาดทั่วโลก ข้อมูลที่ไม่ถูกต้องเกี่ยวกับการรักษาและป้องกันการแพร่กระจายเหมือนไฟป่า บางครั้งทำให้คำแนะนำที่ช่วยชีวิตถูกดูดลง

สิ่งใดขับเคลื่อนการดำเนินการที่หลอกลวงเหล่านี้? ในขณะที่สคริปต์สแปมเก่าและฟาร์มทรอลเปิดทางให้กับการโจมตีสมัยใหม่ ซึ่งตอนนี้ใช้ AI ที่ทันสมัย ตั้งแต่ โมเดล Transformer (คิดว่าเป็นระบบ GPT ที่สร้างโพสต์ที่ดูเหมือนมนุษย์อย่างน่ากลัว) ไปจนถึงการปรับเปลี่ยนแบบเรียลไทม์ที่ปรับกลยุทธ์ของตนอย่างต่อเนื่องตามปฏิกิริยาของผู้ใช้ โลกของโฆษณาชวนเชื่อได้กลายเป็นเรื่องที่ซับซ้อนอย่างน่าเหลือเชื่อ เมื่อชีวิตของเราย้ายไปสู่ออนไลน์มากขึ้น การเข้าใจแรงบันดาลใจที่ซ่อนอยู่เหล่านี้ และวิธีที่พวกมันใช้เครือข่ายสังคมของเราได้กลายเป็นเรื่องที่สำคัญที่สุด

ด้านล่าง เราจะสำรวจ รากฐานทางประวัติศาสตร์ ของโฆษณาชวนเชื่อเชิงคำนวณ และดำเนินการต่อด้วยการสำรวจเทคโนโลยีที่ขับเคลื่อนการรณรงค์ข้อมูลที่ผิดในยุคปัจจุบัน โดยการรับรู้ว่าความพยายามที่ประสานกันใช้เทคโนโลยีเพื่อเปลี่ยนแปลงความคิดของเรา เราสามารถดำเนินขั้นตอนแรกในการต่อต้านการหลอกลวงและฟื้นฟูการอภิปรายสาธารณะที่แท้จริง

การกำหนดโฆษณาชวนเชื่อเชิงคำนวณ

โฆษณาชวนเชื่อเชิงคำนวณหมายถึงการใช้ระบบอัตโนมัติ การวิเคราะห์ข้อมูล และ AI เพื่อจัดการความคิดเห็นของประชาชนหรือ影响การอภิปรายออนไลน์ในระดับใหญ่ ซึ่งมักเกี่ยวข้องกับความพยายามที่ประสานกัน เช่น โบตเน็ตเวิร์ก บัญชีโซเชียลมีเดียปลอม และข้อความที่ปรับให้เหมาะสมตามอัลกอริทึม เพื่อเผยแพร่เรื่องราวเฉพาะๆ ที่ทำให้เกิดความเข้าใจผิดหรือเงียบขรึมความคิดเห็นที่ไม่เห็นด้วย โดยการใช้การสร้างเนื้อหาด้วย AI ที่ขับเคลื่อนด้วยการเรียนรู้ของเครื่องและวงจรป้อนกลับแบบเรียลไทม์ ผู้ที่อยู่เบื้องหลังโฆษณาชวนเชื่อเชิงคำนวณสามารถขยายความคิดที่ไม่สำคัญ ให้ความเห็นทางการเมือง และทำลายความไว้วางใจในกระบวนการอภิปรายสาธารณะที่แท้จริง

บริบททางประวัติศาสตร์: จากโบตเน็ตเวิร์กแรกๆ ถึงฟาร์มทรอลสมัยใหม่

ในช่วงปลายทศวรรษ 1990 และต้นปี 2000 อินเทอร์เน็ตได้ chứng kiến คลื่นแรกของสคริปต์อัตโนมัติ – “โบต” – ที่ใช้หลักๆ ในการส่งสแปมอีเมล เพิ่มจำนวนการดู หรือตอบกลับอัตโนมัติในห้องแชท เมื่อเวลาผ่านไป สคริปต์เหล่านี้ได้พัฒนาเป็นเครื่องมือทางการเมืองที่มีจุดมุ่งหมายมากขึ้น เมื่อกลุ่มต่างๆ ค้นพบว่าพวกเขาสามารถ塑造การอภิปรายสาธารณะในฟอรัม ส่วนความคิดเห็น และแพลตฟอร์มโซเชียลมีเดียในยุคแรกๆ

1. กลางทศวรรษ 2000: โบตทางการเมืองเข้าสู่ฉาก
   • ตัวอย่าง: ใน 2007 มีรายงานเกี่ยวกับ ฝูงโบตที่ประสานกัน บนแพลตฟอร์มโซเชียลมีเดียแรกๆ เช่น Myspace และ Facebook ซึ่งใช้เพื่อสนับสนุนผู้สมัครหรือดูถูกคู่แข่ง
   • “กองทัพ 50 เซนต์” ของจีน เป็นอีกตัวอย่างหนึ่ง: ประมาณ 2004-2005 ผู้แสดงความคิดเห็นที่เชื่อมโยงกับรัฐบาลถูกจ่าย 50 เซนต์ต่อโพสต์ เพื่อชี้นำการอภิปรายออนไลน์ไปในทิศทางที่รัฐสนับสนุน
2. ปลายทศวรรษ 2000 ถึงต้นปี 2010: การเกิดขึ้นของฟาร์มทรอล
   • 2009-2010: กลุ่มที่เชื่อมโยงกับรัฐบาลทั่วโลกเริ่มก่อตั้ง ฟาร์มทรอล โดยจ้างคนเพื่อสร้างและจัดการบัญชีโซเชียลมีเดียปลอมหลายบัญชี หน้าที่ของพวกเขา: อัดฉีดโพสต์ที่ทำให้เกิดการแบ่งแยกออนไลน์
   • ฟาร์มทรอลของรัสเซีย: ใน 2013-2014 เอเจนซี่วิจัยอินเทอร์เน็ต ในเซนต์ปีเตอร์สเบิร์กได้รับชื่อเสียงในการสร้างแคมเปญข้อมูลที่ผิดที่มุ่งเป้าไปทั้งผู้ชมในประเทศและต่างประเทศ
3. 2016: จุดเปลี่ยนด้วยการแทรกแซงการเลือกตั้งทั่วโลก
   • ระหว่าง การเลือกตั้งประธานาธิบดีสหรัฐฯ ปี 2016 ฟาร์มทรอลและโบตเน็ตเวิร์กได้ขึ้นเวทีกลาง การสืบสวนในภายหลังเปิดเผยว่า ร้อยๆ หน้าของ Facebook และบัญชี Twitter หลายบัญชี ซึ่งหลายบัญชีเชื่อมโยงกับ IRA ได้ผลักดันเรื่องราวที่มีจุดมุ่งหมายทางการเมือง
   • ยุทธวิธีเหล่านี้ยังปรากฏในช่วง Brexit ในปี 2016 โดยบัญชีอัตโนมัติขยายข้อความที่ทำให้เกิดการแบ่งแยกไปรอบๆ การรณรงค์ “ออก” และ “อยู่”
4. 2017-2018: การเปิดเผยและคำฟ้องที่มีชื่อเสียง
   • ในปี 2017 การเลือกตั้งประธานาธิบดีฝรั่งเศสถูกโจมตีโดย โบตเน็ตเวิร์กที่เผยแพร่เอกสารที่ทำให้เข้าใจผิดและดูถูกผู้สมัคร
   • ในปี 2018 กระทรวงยุติธรรมสหรัฐฯ ฟ้องร้อง 13 ชาวรัสเซียที่เชื่อมโยงกับ IRA สำหรับการแทรกแซงที่ถูกกล่าวหาว่าแทรกแซงการเลือกตั้งปี 2016 ซึ่งเป็นหนึ่งในการดำเนินการทางกฎหมายที่มีชื่อเสียงที่สุดต่อฟาร์มทรอล
5. 2019 และต่อๆ ไป: การปราบปรามทั่วโลกและการเติบโตอย่างต่อเนื่อง
   • Twitter และ Facebook เริ่ม ลบบัญชีปลอมหลายพันบัญชี ที่เชื่อมโยงกับการรณรงค์ที่ประสานกันจากประเทศต่างๆ เช่น อิหร่าน รัสเซีย และเวเนซุเอลา
   • 尽管มีการตรวจสอบที่เพิ่มขึ้น ผู้ดำเนินการที่ซับซ้อนยังคงเกิดขึ้น – ตอนนี้มักได้รับความช่วยเหลือจาก AI ที่ทันสมัย ที่สามารถสร้างเนื้อหาที่น่าเชื่อถือได้

เหตุการณ์สำคัญเหล่านี้ได้กำหนดเวทีสำหรับ ภูมิทัศน์ปัจจุบัน โดยที่การเรียนรู้ของเครื่องสามารถทำให้การสร้างข้อมูลที่ผิดเป็นอัตโนมัติได้ การทดลองแรกๆ กับสคริปต์สแปมโบตได้พัฒนาเป็นเครือข่ายที่รวมกลยุทธ์ทางการเมืองเข้ากับ AI ที่ทันสมัย ทำให้ผู้กระทำที่มีเจตนาไม่ดีสามารถมีอิทธิพลต่อความคิดเห็นของประชาชนในระดับโลกด้วยความเร็วและความซับซ้อนที่ไม่เคยเห็นมาก่อน

เครื่องมือ AI สมัยใหม่ที่ขับเคลื่อนโฆษณาชวนเชื่อเชิงคำนวณ

ด้วยความก้าวหน้าในการ การเรียนรู้ของเครื่อง และ การประมวลผลภาษาธรรมชาติ การรณรงค์ข้อมูลที่ผิดได้พัฒนาไปไกลเกินกว่าสคริปต์สแปมโบตที่เรียบง่าย โมเดลการสร้างภาษาที่สามารถผลิตข้อความที่ดูเหมือนมนุษย์ได้ ได้ให้อำนาจแก่ผู้จัดให้สามารถขยายเรื่องราวที่ทำให้เข้าใจผิดในระดับใหญ่ ได้ด้านล่าง เราจะตรวจสอบสามแนวทางหลักที่ขับเคลื่อนด้วย AI ที่กำหนดรูปแบบโฆษณาชวนเชื่อเชิงคำนวณในปัจจุบัน พร้อมด้วย คุณลักษณะหลัก ที่ทำให้กลยุทธ์เหล่านี้มีประสิทธิภาพ นอกจากนี้ยังมีการเพิ่มประสิทธิภาพโดย เครื่องมือแนะนำที่มีอคติในการเผยแพร่ข่าวที่ผิดมากกว่าข้อเท็จจริง

1. การสร้างภาษาธรรมชาติ (NLG)

โมเดลภาษาสมัยใหม่ เช่น GPT ได้ปฏิวัติวงการสร้างเนื้อหาอัตโนมัติ โดยฝึกอบรมบนเซตข้อมูลข้อความขนาดใหญ่ พวกมันสามารถ:

• สร้างปริมาณเนื้อหาที่มาก: ตั้งแต่บทความขนาดยาวไปจนถึงโพสต์โซเชียลมีเดียสั้นๆ โมเดลเหล่านี้สามารถผลิตเนื้อหาได้ตลอด 24 ชั่วโมง โดยมีการกำกับดูแลของมนุษย์เป็นน้อย
• เลียนแบบสไตล์การเขียนของมนุษย์: โดยการปรับให้เหมาะสมกับข้อมูลเฉพาะโดเมน (เช่น การกล่าวสุนทรพจน์ทางการเมือง ภาษาเฉพาะของชุมชน) AI สามารถสร้างเนื้อหาที่เข้าใจกับบริบททางวัฒนธรรมหรือการเมืองของกลุ่มเป้าหมาย
• ปรับเปลี่ยนข้อความอย่างรวดเร็ว: ผู้เผยแพร่ข้อมูลที่ผิดสามารถสั่งให้ AI สร้างหลายสิบหรือหลายร้อยรูปแบบของเนื้อหาเดียวกัน โดยทดสอบว่าข้อความหรือกรอบใดที่จะกลายเป็นไวรัสเร็วที่สุด

หนึ่งใน ข้อได้เปรียบอันตราย ที่สุดของ AI ที่สร้างขึ้นคือความสามารถในการปรับโทนและภาษาให้เหมาะกับกลุ่มเป้าหมายที่เฉพาะเจาะจง รวมถึงการ เลียนแบบบุคลิกเฉพาะ ผลลัพธ์ของสิ่งนี้สามารถรวม:

• การหมุนเวียนทางการเมือง: AI สามารถแทรกคำพูดหรือสโลแกนแบบพรรคการเมืองได้อย่างราบรื่น ทำให้ข้อมูลที่ผิดดูเหมือนได้รับการสนับสนุนจากขบวนการระดับรากหญ้า
• เสียงที่เป็นมิตรหรือไม่ทางการ: เครื่องมือเดียวกันสามารถเปลี่ยนเป็น “เพื่อนบ้านที่เป็นมิตร” ที่แนะนำข่าวลือหรือทฤษฎีสมคบคิดอย่างเงียบๆ ในฟอรัมชุมชน
• ความเชี่ยวชาญด้านผู้เชี่ยวชาญ: โดยใช้สไตล์ที่เป็นทางการและวิชาการ บัญชีที่ขับเคลื่อนด้วย AI สามารถปลอมตัวเป็นผู้เชี่ยวชาญ – แพทย์ นักวิชาการ นักวิเคราะห์ – เพื่อให้ความน่าเชื่อถือที่เป็นเท็จแก่ข้อความที่ทำให้เข้าใจผิด

ร่วมกับโมเดล Transformer และการเลียนแบบสไตล์ ผู้จัดสามารถ ผลิตเนื้อหา ที่ดูหลากหลายและแท้จริงได้ ทำให้เส้นแบ่งระหว่างเสียงที่แท้จริงและโฆษณาชวนเชื่อพร่ามัว

2. การโพสต์อัตโนมัติและตารางเวลา

ในขณะที่โบตขั้นพื้นฐานสามารถโพสต์ข้อความเดียวกันซ้ำๆ ได้ การเรียนรู้แบบเสริมกำลัง เพิ่มชั้นของความฉลาด:

• การปรับเปลี่ยนแบบอัลกอริทึม: โบตทดสอบเวลาโพสต์ แฮชแท็ก และความยาวเนื้อหาที่แตกต่างกันเพื่อดูว่าวิธีใดให้ความมีส่วนร่วมสูงสุด
• ยุทธวิธีการซ่อนตัว: โดยการตรวจสอบแนวทางของแพลตฟอร์มและปฏิกิริยาของผู้ใช้ โบตเหล่านี้เรียนรู้ที่จะหลีกเลี่ยงสัญญาณเตือนอันชัดเจน เช่น การทำซ้ำมากเกินไปหรือลิงก์ที่ดูเหมือนสแปม ช่วยให้พวกมันหลบเลี่ยงเรดาร์ของการดูแล
• การขยายที่มุ่งเป้า: เมื่อเรื่องราวใดเรื่องหนึ่งได้รับความนิยมในกลุ่มย่อย โบตจะทำซ้ำเรื่องราวเดียวกันไปทั่วหลายชุมชน ทำให้ความคิดที่ไม่สำคัญอาจกลายเป็นหัวข้อที่ได้รับความนิยม

ในขณะเดียวกันกับการเรียนรู้แบบเสริมกำลัง ผู้จัดตารางเวลาโพสต์เพื่อรักษา การมีอยู่ตลอดเวลา:

• วงจรเนื้อหาที่เปิดตลอด 24 ชั่วโมง: สคริปต์อัตโนมัติทำให้แน่ใจว่าข้อมูลที่ผิดยังคงมองเห็นได้ในช่วงเวลาสูงสุดในหลายเขตเวลา
• การให้ข้อความล่วงหน้า: โบตสามารถอัดฉีดแพลตฟอร์มด้วยมุมมองที่เฉพาะเจาะจง ก่อนที่ข่าวที่ได้รับการยืนยันจะปรากฏ ทำให้สามารถกำหนดปฏิกิริยาเริ่มแรกของสาธารณชนได้ก่อนที่ข้อเท็จจริงจะปรากฏ

ผ่าน การโพสต์อัตโนมัติและตารางเวลา ผู้ดำเนินการที่มีเจตนาไม่ดีสามารถขยายเนื้อหาให้ถึงกลุ่มเป้าหมาย เวลา และความสามารถในการปรับเปลี่ยนได้ – สิ่งเหล่านี้เป็นคันเหยียบที่สำคัญในการเปลี่ยนเรื่องราวที่ไม่สำคัญหรือไม่ถูกต้องให้กลายเป็นการพูดคุยที่มีชื่อเสียง

3. การปรับเปลี่ยนแบบเรียลไทม์

AI ที่สร้างขึ้นและระบบโบตอัตโนมัติต้องอาศัยข้อมูลที่มีอยู่ตลอดเวลาเพื่อปรับกลยุทธ์ของตน:

• การวิเคราะห์ปฏิกิริยาทันที: ข้อมูลการมีส่วนร่วม เช่น การชอบ การแชร์ และข้อมูลความรู้สึก ส่งกลับไปยังโมเดล AI เพื่อชี้แนะว่าด้านใดที่ดึงดูดมากที่สุด
• การแก้ไขแบบเรียลไทม์: เนื้อหาที่ไม่ประสบความสำเร็จจะถูกปรับเปลี่ยนอย่างรวดเร็ว – การปรับเปลี่ยนข้อความ โทน หรือรูปภาพ – จนกว่าจะได้รับความนิยมตามที่ต้องการ
• เรื่องราวที่ปรับเปลี่ยนได้: หากเรื่องราวใดเริ่มสูญเสียความเกี่ยวข้องหรือเผชิญกับการต่อต้านอย่างรุนแรง AI จะเปลี่ยนไปสู่จุดโฟกัสใหม่ ทำให้ความสนใจยังคงอยู่และหลีกเลี่ยงการตรวจจับ

วงจรป้อนกลับนี้ระหว่างการสร้างเนื้อหาแบบอัตโนมัติและการมีส่วนร่วมแบบเรียลไทม์สร้างระบบโฆษณาชวนเชื่อที่มีประสิทธิภาพและปรับปรุงตัวเอง:

1. AI สร้างเนื้อหา: สร้างคลื่นแรกของโพสต์ที่ทำให้เข้าใจผิดโดยใช้รูปแบบที่ได้เรียนรู้
2. แพลตฟอร์มและสาธารณชนตอบสนอง: เมตริกการมีส่วนร่วม (การชอบ การแชร์ การแสดงความคิดเห็น) ไหลกลับไปยังผู้จัด
3. AI ปรับปรุงกลยุทธ์: ข้อความที่ประสบความสำเร็จที่สุดจะถูกทำซ้ำหรือขยาย ขณะที่ความพยายามที่อ่อนแอกว่าจะถูกตัดทอนหรือปรับเปลี่ยน

เมื่อเวลาผ่านไป ระบบนี้กลายเป็นมีประสิทธิภาพสูงในการ ดึงดูดกลุ่มเป้าหมายที่เฉพาะเจาะจง โดยผลักดันเรื่องราวที่สร้างขึ้นให้กับคนมากขึ้นเร็วขึ้น

คุณลักษณะหลักที่ขับเคลื่อนอิทธิพลที่ซ่อนอยู่นี้

แม้จะมี AI ที่ซับซ้อน แต่คุณลักษณะพื้นฐานบางอย่างยังคงเป็นศูนย์กลางในการทำให้โฆษณาชวนเชื่อเชิงคำนวณประสบความสำเร็จ:

1. การทำงานตลอด 24 ชั่วโมง
   บัญชีที่ขับเคลื่อนด้วย AI ทำงานไม่หยุดหย่อน เพื่อให้แน่ใจว่าเนื้อหาที่เฉพาะเจาะจงจะปรากฏอยู่เสมอในหน้าจอของผู้ใช้
2. การเข้าถึงที่กว้างขวาง
   AI ที่สร้างขึ้นสามารถผลิตเนื้อหาได้ไม่สิ้นสุดข้ามหลายบัญชีหรือหลายร้อยบัญชี การอัดฉีดเนื้อหานี้สามารถสร้างความเห็นพ้องกันเท็จ และกดดันให้ผู้ใช้แท้ๆ ต้องยอมรับมุมมองที่ทำให้เข้าใจผิด
3. การกระตุ้นทางอารมณ์และการกรอบที่ชาญฉลาด
   โมเดล Transformer สามารถวิเคราะห์ประเด็นร้อนที่ทำให้เกิดการโต้เถียงของชุมชนและสร้างหัวข้อที่กระตุ้นทางอารมณ์ – ความโกรธ ความกลัว หรือความตื่นเต้น – สิ่งเหล่านี้กระตุ้นให้เกิด การแชร์อย่างรวดเร็ว และช่วยให้เรื่องราวที่ไม่ถูกต้องสามารถเอาชนะข้อมูลที่ถูกต้องและรอบคอบได้

ทำไมมันจึงสำคัญ

โดยการใช้การสร้างภาษาธรรมชาติที่ทันสมัย การเรียนรู้แบบเสริมกำลัง และการวิเคราะห์แบบเรียลไทม์ ผู้จัดสามารถสร้างการรณรงค์ข้อมูลที่ผิดในระดับใหญ่ที่ไม่เคยเห็นมาก่อน การเข้าใจ บทบาทเฉพาะ ที่ AI ที่สร้างขึ้นเล่นในการขยายข้อมูลที่ผิดเป็นขั้นตอนสำคัญในการรับรู้การดำเนินการที่ซ่อนอยู่เหล่านี้ และการป้องกันตัว

นอกจอ

ผลกระทบของความพยายามที่ประสานกันไม่ได้หยุดอยู่แค่ที่แพลตฟอร์มออนไลน์ เมื่อเวลาผ่านไป การหลอกลวงเหล่านี้มีอิทธิพลต่อค่านิยมและความตัดสินใจของเรา ตัวอย่างเช่น ในช่วงเวลาที่สำคัญของสาธารณสุข ข่าวลือและข้อมูลที่ไม่ถูกต้องสามารถบดบังคำแนะนำที่ได้รับการยืนยัน ทำให้กระตุ้นให้เกิดพฤติกรรมที่เสี่ยง ในบริบททางการเมือง เรื่องราวที่บิดเบือนเกี่ยวกับผู้สมัครหรือนโยบายสามารถบดบังการอภิปรายที่สมดุล ทำให้ประชาชนทั้งประเทศเอียงเข้าข้างผลลัพธ์ที่รับใช้ผลประโยชน์ที่ซ่อนอยู่มากกว่าความดีที่ยิ่งใหญ่

กลุ่มเพื่อนบ้านที่เชื่อว่าตนเองมีเป้าหมายร่วมกันอาจพบว่าความเข้าใจของตนเกี่ยวกับประเด็นในท้องถิ่นถูกบิดเบือนโดยเรื่องราวที่ถูกวางแผนไว้อย่างรอบคอบ เนื่องจากผู้เข้าร่วมมองพื้นที่เหล่านี้ว่าเป็นมิตรและคุ้นเคย พวกเขาจึงไม่สงสัยการแทรกแซงจนกว่าความเชื่อจะแข็งแกร่งแล้ว
กรณีการใช้งานที่ประสบความสำเร็จที่สุดของสิ่งนี้คือการเปลี่ยนแปลงการเลือกตั้งทางการเมือง

สัญญาณเตือนของการหลอกลวงที่ประสานกัน

1. การเพิ่มขึ้นอย่างรวดเร็วของข้อความที่เหมือนกัน
   • โพสต์ที่เหมือนกันหรือใกล้เคียงกัน: การหลั่งไหลของโพสต์ที่ซ้ำคำว句หรือแฮชแท็กเดียวกันบ่งบอกถึงสคริปต์อัตโนมัติหรือกลุ่มที่ประสานกันในการผลักดันเรื่องราวเดียว
   • การเพิ่มขึ้นของกิจกรรม: การเพิ่มขึ้นอย่างน่าสงสัย – มักในช่วงเวลานอกชั่วโมงงาน – อาจบ่งบอกถึงโบตที่จัดการบัญชีหลายบัญชีพร้อมๆ กัน
2. การอ้างสิทธิ์ซ้ำๆ ที่ไม่มีแหล่งที่มาเชื่อถือได้
   • ไม่มีการอ้างอิงหรือลิงก์: เมื่อผู้ใช้หลายคนแชร์ข้อความโดยไม่มีการอ้างอิงแหล่งที่มาที่น่าเชื่อถือ มันอาจเป็นยุทธวิธีในการเผยแพร่ข้อมูลที่ผิดโดยไม่มีการตรวจสอบ
   • แหล่งที่มาที่น่าสงสัย: เมื่อแหล่งที่มาหรือบทความที่อ้างอิงมีลักษณะคล้ายกับแหล่งที่มาของข่าวที่ถูกต้อง แต่ไม่มีความเกี่ยวข้องกับแหล่งที่มาของข่าวที่แท้จริง เช่น “abcnews.com.co” ซึ่งเคยปลอมตัวเป็น ABC News โดยใช้โลโก้และเลย์เอาต์ที่คล้ายกันเพื่อดูเหมือนน่าเชื่อถือ แต่ไม่มีความเกี่ยวข้องกับเครือข่ายข่าวที่แท้จริง
   • การอ้างอิงแบบวงกลม: บางโพสต์เชื่อมโยงเฉพาะกับเว็บไซต์ที่น่าสงสัยอื่นๆ ภายในเครือข่ายเดียวกัน ทำให้เกิด “ห้องเสียง” ของความเท็จที่ซ้ำซาก
3. กาวติดทางอารมณ์และภาษาที่ทำให้เกิดความตื่นตระหนก
   • เนื้อหาที่มีคุณค่าของการทำให้ตื่นตระหนก: ความโกรธ ความกลัวหรือการเตือนภัยที่น่าตื่นตระหนกถูกใช้เพื่อหลีกเลี่ยงการคิดอย่างมีวิจารณญาณและกระตุ้นให้เกิดปฏิกิริยาทันที
   • เรื่องราวของ “เราเทียบกับพวกเขา”: โพสต์ที่จัดเฟรมอย่างรุนแรงว่ากลุ่มใดๆ เป็นศัตรูหรือภัยคุกคามมักมีจุดมุ่งหมายเพื่อทำให้เกิดการแบ่งแยกและทำให้ชุมชนรุนแรงขึ้น มากกว่าที่จะกระตุ้นให้เกิดการอภิปรายที่รอบคอบ

โดยการระบุสัญญาณเหล่านี้ – การเพิ่มขึ้นของข้อความที่เหมือนกัน การอ้างสิทธิ์ซ้ำๆ ที่ไม่มีแหล่งที่มา และเนื้อหาที่ออกแบบมาเพื่อทำให้เกิดความตื่นตระหนก – บุคคลสามารถแยกแยะการอภิปรายที่แท้จริงออกจาก โฆษณาชวนเชื่อที่จัดทำขึ้น ได้ดีขึ้น

ทำไมความเท็จจึงแพร่กระจายได้ง่าย

ธรรมชาติของมนุษย์ถูกดึงดูดโดยเรื่องราวที่น่าดึงดูด เมื่อมีทางเลือกระหว่างคำอธิบายที่รอบคอบและเรื่องราวที่น่าเหลือเชื่อ หลายคนเลือกเรื่องราวที่น่าเหลือเชื่อ สัญชาตญาณนี้ แม้ว่าจะเข้าใจได้ แต่ก็สร้างช่องโหว่ให้กับการหลอกลวง โดยการให้เนื้อหาที่น่าเหลือเชื่อ ผู้จัดทำให้เนื้อหานั้นแพร่กระจายและได้รับการเปิดเผยซ้ำๆ ในที่สุด ความคุ้นเคยจะเข้ามาแทนที่การตรวจสอบ ทำให้แม้แต่เรื่องราวที่ไม่น่าเชื่อถือที่สุดก็รู้สึกว่าเป็นเรื่องจริง

เมื่อเรื่องราวเหล่านี้ครอบงำฟีดของเรา ความไว้วางใจในแหล่งที่มาเชื่อถือถูกกัดเซาะ อีกทั้งการอภิปรายที่ขับเคลื่อนด้วยหลักฐานและตรรกะกลายเป็นการแข่งขันที่มีการแบ่งแยก ซึ่งทำให้ชุมชนเสียความสามารถในการให้เหตุผลร่วมกัน ค้นหาพื้นที่ร่วมกัน หรือแก้ไขปัญหาที่ใช้ร่วมกัน

ความเสี่ยงที่สูงที่สุด: อันตรายที่ใหญ่ที่สุดของโฆษณาชวนเชื่อเชิงคำนวณ

โฆษณาชวนเชื่อเชิงคำนวณไม่ใช่แค่เรื่องรบกวนออนไลน์ – มันเป็น ภัยคุกคามแบบระบบ ที่สามารถเปลี่ยนแปลงสังคมและกระบวนการตัดสินใจทั้งหมดได้ นี่คือความเสี่ยงที่สำคัญที่สุดที่โฆษณาชวนเชื่อเหล่านี้นำมา:

1. การเปลี่ยนแปลงการเลือกตั้งและการทำลายประชาธิปไตย
   เมื่อกองทัพของโบตและบุคลิกที่สร้างขึ้นโดย AI อัดฉีดโซเชียลมีเดียด้วยเนื้อหาที่ออกแบบมาเพื่อสร้างความแตกแยก พวกเขาสามารถบิดเบือนการรับรู้ของประชาชนและเพิ่มความแบ่งแยกทางการเมือง โดยการขยายประเด็นของ楔และทำให้การอภิปรายที่ถูกต้องจมลง ในกรณีที่รุนแรง ผู้ลงคะแนนอาจเริ่มสงสัยถึงความถูกต้องของผลการเลือกตั้ง ซึ่งทำให้ความไว้วางใจในสถาบันประชาธิปไตยสั่นคลอนตั้งแต่ฐานราก
2. การทำลายความสามัคคีในสังคม
   เนื้อหาที่ทำให้เกิดการแบ่งแยกที่สร้างขึ้นโดยโมเดล AI ที่ทันสมัยสามารถใช้ประโยชน์จากความแตกแยกทางอารมณ์และวัฒนธรรม เมื่อเพื่อนบ้านและเพื่อนๆ มองเห็นเพียงข้อความที่ทำให้เกิดการแบ่งแยกที่ปรับให้เหมาะกับพวกเขา ชุมชนแตกแยกตามความแตกต่างที่ถูกสร้างขึ้น สิ่งนี้ “แบ่งและ征服” ยุทธวิธีนี้ดูดพลังงานออกจากการสนทนาที่มีความหมาย ทำให้การบรรลุฉันทามติเกี่ยวกับปัญหาที่ใช้ร่วมกันยากขึ้น
3. การกัดเซาะความไว้วางใจในแหล่งที่มาเชื่อถือได้
   เมื่อเสียงที่สังเคราะห์ปลอมตัวเป็นคนจริง เส้นแบ่งระหว่างการรายงานที่น่าเชื่อถือและโฆษณาชวนเชื่อพร่ามัว ผู้คนกลายเป็นคนสงสัยทุกอย่าง นี่ทำให้อิทธิพลของนักวิชาการที่แท้จริง องค์กรตรวจสอบข้อเท็จจริง และสถาบันสาธารณะที่ต้องอาศัยความไว้วางใจในการทำงานอ่อนลง
4. การควบคุมนโยบายและการรับรู้ของสาธารณะ
   นอกเหนือจากการเลือกตั้ง โฆษณาชวนเชื่อเชิงคำนวณสามารถผลักดันหรือฝังนโยบายที่เฉพาะเจาะจง塑造ความคิดเห็นทางเศรษฐกิจ และแม้กระทั่ง กระตุ้นความกลัวของสาธารณชนเกี่ยวกับมาตรการด้านสุขภาพ วาระทางการเมืองกลายเป็นความสับสนเนื่องจากการหลอกลวงที่จัดทำขึ้น และการอภิปรายเชิงนโยบายที่แท้จริงให้ทางให้กับการดึงดูดระหว่างผู้มีอิทธิพลที่ซ่อนอยู่
5. การทำให้ความวิกฤติระดับโลกแย่ลง
   ในช่วงเวลาของความไม่แน่นอน – ไม่ว่าจะเป็นโรคระบาด ความขัดแย้งทางภูมิรัฐศาสตร์ หรือวิกฤตการณ์ทางการเงิน – การรณรงค์ที่ขับเคลื่อนด้วย AI สามารถใช้ประโยชน์จากความกลัวได้อย่างรวดเร็ว โดยการเผยแพร่ทฤษฎีสมคบคิดหรือวิธีแก้ปัญหาที่ผิด ทำให้การรับมือและต้นทุนที่เพิ่มขึ้น ในหลายกรณี สิ่งเหล่านี้ส่งผลให้ผู้สมัครที่ได้รับประโยชน์จากการให้ข้อมูลที่ผิดได้รับการเลือกตั้ง

การเรียกให้ดำเนินการ

อันตรายของโฆษณาชวนเชื่อเชิงคำนวณ เรียกร้อง การมุ่งเน้นใหม่ใน การรู้หนังสือสื่อ การคิดอย่างมีวิจารณญาณ และความเข้าใจที่ชัดเจนยิ่งขึ้นเกี่ยวกับวิธีที่ AI มีอิทธิพลต่อ ความคิดเห็นของประชาชน โดยการรับรองว่าสาธารณชน ได้รับการแจ้ง และ ยึดมั่นในข้อเท็จจริง เท่านั้น เราสามารถรักษาความสามารถในการตัดสินใจที่สำคัญที่สุด – เช่น การเลือกผู้นำของเรา – ให้แท้จริงเป็น ของเราเอง ในการรับมือกับอันตรายของโฆษณาชวนเชื่อเชิงคำนวณ เราต้องเข้าใจวิธีการทำงานของมันและร่วมมือกันเพื่อป้องกันการแพร่กระจาย