Facebook ลบแอคเคาท์ที่สร้างโดย AI และใช้ในการเผยแพร่ทฤษฎีสมคบคิด

บริษัทสื่อสังคมออนไลน์ได้พยายามควบคุมข้อมูลที่ผิดพลาดก่อนฤดูกาลการเลือกตั้งปี 2020 ในหลายวิธี ในขณะที่ Twitter เพิ่งห้ามโฆษณาการเมืองจากแพลตฟอร์มของตน Facebook เพิ่งประกาศว่าได้ปิดใช้งานแอคเคาท์ปลอมหลายร้อยแอคเคาท์ กลุ่ม และหน้าหลายหน้า แอคเคาท์เหล่านี้ดูเหมือนจะมีภาพโปรไฟล์ที่สร้างโดยปัญญาประดิษฐ์ และหลายแอคเคาท์ได้ถูกใช้ในการเผยแพร่ข้อมูลที่ผิดพลาดและทฤษฎีสมคบคิด

ตามรายงานของ Forbes Facebook ระบุว่าแอคเคาท์และหน้าที่ถูกแบนมีความเชื่อมโยงกับเครือข่าย “Beauty of Life” หรือ “TheBL” ซึ่ง Facebook ระบุว่ามีความเชื่อมโยงกับกลุ่มสื่อเผยแพร่ข่าวสารอนุรักษ์นิยม Epoch Times ตาม Facebook Epoch Media Group ได้ใช้จ่ายเกือบ 9.5 ล้านดอลลาร์ในการโฆษณาผ่านหน้าและกลุ่มที่ถูกแบนหลายหน้า โดยมีหลายโพสต์ที่มีทฤษฎีสมคบคิดที่สนับสนุน Trump ในขณะที่ Epoch Media Group ปฏิเสธข้อกล่าวหา Facebook ระบุว่าได้ทำงานร่วมกับนักวิจัยอิสระ เช่น Graphika และ Digital Forensic Research Lab (DFRLab) ของ Atlantic Council เพื่อกำหนดลักษณะของแอคเคาท์และหน้า قبلที่จะดำเนินการกับพวกเขา

ตาม Facebook แอคเคาท์เหล่านี้ถูกลบเนื่องจาก “พฤติกรรมที่ไม่แท้จริงที่ประสานกัน” โดยมีจุดมุ่งหมายเพื่อหลอกลวงผู้อื่นเกี่ยวกับอัตลักษณ์ของตน และพยายามแทรกแซงการเมือง ตาม CNET Facebook ระบุว่าแอคเคาท์เหล่านี้มักจะโพสต์ข้อมูลที่ส่งเสริมผู้สมัครและอุดมการณ์ทางการเมือง โดยมุ่งเน้นไปที่การเลือกตั้งอนุรักษ์นิยม นโยบายอนุรักษ์นิยม และการสนับสนุนประธานาธิบดี Trump อย่างแข็งขัน

Facebook จัดทำรายงาน 39 หน้าเกี่ยวกับเหตุการณ์นี้ โดยครอบคลุมการค้นพบหลายอย่างของตน หนึ่งในด้านที่น่าสังเกตของรายงานของ Facebook คือแอคเคาท์ที่ถูกแบนหลายแอคเคาท์ถูกสร้างขึ้นด้วยความช่วยเหลือของ AI นักวิจัยของ Facebook ระบุในรายงานว่า:

“หลายสิบแอคเคาท์ปลอมมีภาพโปรไฟล์ที่สร้างโดยปัญญาประดิษฐ์ ในการ_deploy_ ขนาดใหญ่ครั้งแรกของหน้าปลอมที่รู้จักกันโดยผู้เขียนรายงานนี้”

ตามการค้นพบในรายงาน ภาพ AI ที่สร้างขึ้นไม่สมบูรณ์แบบ โดยมีรายละเอียดที่มักจะให้away ถึงธรรมชาติที่แท้จริงของพวกเขา ส่วนประกอบที่ต่อเนื่องกันของภาพ เช่น แว่นตาหรือเส้นผมของคน มักจะไม่สมมาตร นอกจากนี้ รายละเอียดพื้นหลังยัง模糊และบิดเบือน อย่างไรก็ตาม ส่วนประกอบเหล่านี้อาจไม่สังเกตได้ในตอนแรก โดยเฉพาะอย่างยิ่งเมื่อพิจารณาจากขนาดภาพโปรไฟล์ที่เล็กในเชิงของการแสดงความคิดเห็นใน Facebook หลายโปรไฟล์ปลอมดูเหมือนจะมีข้อมูลโปรไฟล์ปลอมและแม้กระทั่งโพสต์ปลอมที่สร้างโดย AI

ตาม NBC รายงาน หัวหน้านโยบายความปลอดภัยของ Facebook Nathaniel Gleicher ระบุว่าพฤติกรรมของแอคเคาท์เป็นสิ่งที่ทำให้พวกเขาถูกเปิดเผยว่าเป็นไม่แท้จริง และการพยายามใช้ภาพและข้อมูลโปรไฟล์ปลอมไม่ช่วยป้องกันการค้นพบแอคเคาท์ Gleicher ระบุว่าภาพ AI ที่สร้างขึ้นจริงๆ แล้วทำให้แอคเคาท์เหล่านี้มีแนวโน้มที่จะถูกจับได้มากกว่า Gleicher กล่าวว่า:

“เราค้นพบแอคเคาท์เหล่านี้เพราะพวกเขาได้กระทำพฤติกรรมที่ไม่แท้จริง การใช้ภาพโปรไฟล์ที่สร้างโดย AI เพื่อทำให้ตัวเองดูสมจริงยิ่งขึ้นไม่ได้ช่วยพวกเขาเลย สิ่งที่สำคัญที่สุดใน这里คือความน่ากลัวของเครือข่ายที่ใช้เอกลักษณ์ปลอม… สิ่งที่ใหม่ใน这里คือสื่อของสหรัฐฯ ที่ใช้คนต่างด้าวปลอมตัวเป็นคนอเมริกันเพื่อส่งเสริมเนื้อหาการเมือง เราเคยเห็นมาก่อนในกรณีของนักแสดงรัฐ”

อย่างไรก็ตาม นักวิจัยอิสระจาก Graphika และ Atlantic Council ระบุว่าความง่ายในการสร้างภาพและให้ความน่าเชื่อถือแก่แอคเคาท์ “เป็นเรื่องที่น่ากังวล” Facebook และบริษัทสื่อสังคมออนไลน์อื่นๆ ต้องเผชิญกับแรงกดดันในการเพิ่มความพยายามในการต่อต้านการแพร่กระจายของข้อมูลที่ผิดพลาดทางการเมือง ซึ่งเป็นงานที่ต้องใช้ความก้าวหน้าทางเทคโนโลยีเพื่อให้สามารถติดตามผู้ที่พยายามเผยแพร่ข้อมูลที่ผิดพลาด

ก่อนที่ Facebook จะปิดใช้งานแอคเคาท์ หน้า และกลุ่มเหล่านี้ เนื้อหาที่โพสต์โดยหน่วยงานเหล่านี้ได้ถึงมือผู้คนหลายล้านคน ตามรายงาน มีแอคเคาท์อย่างน้อย 55 ล้านแอคเคาท์ที่ติดตามหน้าปลอม 89 หน้า ผู้ติดตามส่วนใหญ่มาจากประเทศนอกสหรัฐฯ ในทั้งหมด มีแอคเคาท์ประมาณ 600 แอคเคาท์ หน้า 90 หน้า และกลุ่ม 150 กลุ่มที่ถูกลบออกจาก Facebook ประมาณ 70 แอคเคาท์ถูกลบออกจาก Instagram

ข่าวนี้มา就在ขณะที่ Facebook กำลังเริ่มท้าทายการตรวจจับ DeepFake ซึ่งจะดำเนินไปจนถึงเดือนมีนาคม 2020 Twitter ก็เพิ่งห้ามแอคเคาท์เกือบ 6,000 แอคเคาท์ที่สงสัยว่ามาจากซาอุดีอาระเบียและโพสต์เนื้อหาที่บิดเบือนความจริง