Facebook ลบบัญชีที่สร้างโดย AI และใช้เพื่อสานต่อทฤษฎีสมคบคิด

บริษัทโซเชียลมีเดียมีเป้าหมายที่จะควบคุมข้อมูลที่ผิดก่อนฤดูกาลเลือกตั้งปี 2020 ด้วยวิธีการที่หลากหลาย ในขณะที่ Twitter เพิ่งแบนโฆษณาทางการเมืองจากแพลตฟอร์ม Facebook เพิ่งประกาศว่าได้ปิดบัญชี กลุ่ม และเพจปลอมหลายร้อยรายการ หลายบัญชีเหล่านี้ดูเหมือนจะมีรูปโปรไฟล์ที่สร้างโดยปัญญาประดิษฐ์ และมีรายงานว่าหลายบัญชีถูกใช้เพื่อเผยแพร่ข้อมูลที่ผิดและทฤษฎีสมคบคิด

ตามที่รายงานโดย ForbesFacebook ระบุว่าบัญชีและเพจที่ถูกแบนเชื่อมโยงกับเครือข่าย "Beauty of Life" หรือ "TheBL" ซึ่ง Facebook กล่าวว่าเชื่อมโยงกับ Epoch Times กลุ่มเผยแพร่ข่าวอนุรักษ์นิยม จากข้อมูลของ Facebook Epoch Media Group ได้ใช้เงินเกือบ 9.5 ล้านดอลลาร์ไปกับการโฆษณาผ่านเพจและกลุ่มต่างๆ ที่ถูกแบนในขณะนี้ โดยโพสต์จำนวนมากมีทฤษฎีสมคบคิดสนับสนุนทรัมป์ ในขณะที่ Epoch Media Group ปฏิเสธข้อกล่าวหา Facebook ระบุว่าได้ทำงานอย่างใกล้ชิดกับนักวิจัยอิสระ เช่น Graphika และ Digital Forensic Research Lab (DFRLab) ของ Atlantic Council เพื่อกำหนดลักษณะของบัญชีและเพจก่อนที่จะดำเนินการกับพวกเขา

ตามรายงานของ Facebook บัญชีดังกล่าวถูกลบออกเนื่องจาก "พฤติกรรมที่ไม่น่าเชื่อถือที่ประสานกัน" โดยจงใจทำให้ผู้อื่นเข้าใจผิดเกี่ยวกับตัวตนของพวกเขา และพยายามแทรกแซงทางการเมือง  ตาม CNETFacebook กล่าวว่าบัญชีเหล่านี้มักโพสต์เนื้อหาที่ส่งเสริมผู้สมัครทางการเมืองและอุดมการณ์ที่เฉพาะเจาะจง โดยเน้นไปที่การเลือกตั้งแบบอนุรักษ์นิยม นโยบายแบบอนุรักษ์นิยม และการสนับสนุนอย่างแข็งขันต่อประธานาธิบดีทรัมป์

Facebook เผยแพร่รายงาน 39 หน้าเกี่ยวกับเหตุการณ์ซึ่งครอบคลุมการค้นพบมากมาย ประเด็นที่น่าสังเกตประการหนึ่งของรายงานของ Facebook คือบัญชีที่ถูกแบนจำนวนมากถูกสร้างขึ้นด้วยความช่วยเหลือจาก AI นักวิจัยของ Facebook ระบุในรายงาน:

“บัญชีปลอมเหล่านี้หลายสิบบัญชีมีรูปโปรไฟล์ที่สร้างขึ้นโดยปัญญาประดิษฐ์ ในการใช้งานใบหน้าปลอมขนาดใหญ่ครั้งแรกที่ผู้เขียนรายงานนี้รู้จัก”

จากการค้นพบของรายงาน ภาพที่สร้างโดย AI นั้นไม่ได้สมบูรณ์แบบ โดยรายละเอียดมักจะทำให้ธรรมชาติที่แท้จริงของภาพนั้นหายไป องค์ประกอบที่ต่อเนื่องกันของภาพ เช่น แว่นตาหรือผมของคน มักจะไม่สมมาตรกัน นอกจากนี้ รายละเอียดพื้นหลังมักพร่ามัวและบิดเบี้ยว อย่างไรก็ตาม องค์ประกอบเหล่านี้อาจมองไม่เห็นเมื่อมองแวบแรก โดยเฉพาะอย่างยิ่งเมื่อพิจารณาจากขนาดภาพขนาดเล็กของรูปโปรไฟล์ในห่วงโซ่ความคิดเห็นของ Facebook โปรไฟล์ปลอมจำนวนมากดูเหมือนจะมีข้อมูลโปรไฟล์ปลอมและแม้กระทั่งโพสต์ปลอม ซึ่งอาจสร้างขึ้นโดย AI

ตามที่เอ็นบีซีรายงานNathaniel Gleicher หัวหน้าฝ่ายนโยบายความปลอดภัยของ Facebook ระบุว่าพฤติกรรมของบัญชีเป็นสิ่งที่ทำให้พวกเขาไม่น่าเชื่อถือ และการพยายามใช้ภาพปลอมและข้อมูลโปรไฟล์ไม่ได้ช่วยป้องกันบัญชีจากการถูกค้นพบ Gleicher ระบุว่าภาพที่สร้างขึ้นโดย AI ทำให้บัญชีมีโอกาสถูกจับได้มากขึ้น Gleicher กล่าวว่า:

“เราตรวจพบบัญชีเหล่านี้เนื่องจากพวกเขามีส่วนร่วมในพฤติกรรมปลอม การใช้โปรไฟล์ที่สร้างโดย AI เพื่อทำให้ตัวเองดูเหมือนจริงมากขึ้นนั้นไม่ได้ช่วยอะไรเลย ประเด็นที่ใหญ่ที่สุดในที่นี้คือความชั่วร้ายของเครือข่ายในการใช้ข้อมูลระบุตัวตนปลอม... สิ่งใหม่ในที่นี้คืออ้างว่าเป็นบริษัทสื่อในสหรัฐฯ ที่ใช้ประโยชน์จากนักแสดงต่างชาติที่สวมรอยเป็นชาวอเมริกันเพื่อผลักดันเนื้อหาทางการเมือง เราเคยเห็นมามากกับนักแสดงของรัฐในอดีต”

อย่างไรก็ตาม นักวิจัยอิสระจาก Graphika และ Atlantic Council ระบุว่า การที่ผู้ไม่ประสงค์ดีสามารถสร้างภาพจำนวนมากได้อย่างง่ายดายและทำให้บัญชีของพวกเขารับรู้ถึงความถูกต้องนั้น “เป็นเรื่องที่น่ากังวล” Facebook และบริษัทสื่อสังคมออนไลน์อื่นๆ อยู่ภายใต้แรงกดดันให้เพิ่มความพยายามในการต่อสู้กับการแพร่กระจายของข้อมูลที่ผิดทางการเมือง ซึ่งเป็นงานที่ต้องอาศัยเทคโนโลยีนำหน้าผู้ที่ต้องการเผยแพร่ข้อมูลที่ผิด

ก่อนที่ Facebook จะเลิกใช้บัญชี เพจ และกลุ่ม เนื้อหาที่โพสต์โดยหน่วยงานเหล่านี้เข้าถึงผู้คนนับล้าน มีรายงานอย่างน้อย 55 ล้านบัญชีที่ติดตามหนึ่งใน 89 เพจที่ถูกแบน ผู้ติดตามส่วนใหญ่เป็นบัญชีที่ไม่ใช่ของสหรัฐอเมริกา โดยรวมแล้วราว 600 บัญชี 90 เพจ และ 150 กลุ่มถูกลบออกจาก Facebook บัญชีประมาณ 70 บัญชีถูกลบออกจาก Instagram

ข่าวดังกล่าวเกิดขึ้นในขณะที่ Facebook กำลังเริ่มต้นความท้าทายในการตรวจจับ DeepFake ซึ่งจะดำเนินไปจนถึงเดือนมีนาคม 2020 นอกจากนี้ Twitter ยังได้สั่งแบนบัญชีเกือบ 6000 บัญชีที่สงสัยว่ามีต้นกำเนิดในซาอุดีอาระเบียและโพสต์เนื้อหาที่จงใจทำให้เข้าใจผิด