นักวิจัยเริ่มฝึกอบรมปัญญาประดิษฐ์ในการต่อต้านการแสดงความเกลียดชังออนไลน์

ข่าวปลอมและคำพูดที่แสดงความเกลียดชังออนไลน์กำลังเป็นปัญหาไม่ใช่เพียงวันละ แต่ล้านนาทีออนไลน์ IkigaiLab รายงานว่า Facebook (META ) และ Twitter เพิ่งปิดมากกว่า 1.5 พันล้านและ 70 ล้านรายการตามลำดับเพื่อพยายามลดการแพร่กระจายของข่าวปลอมและคำพูดที่แสดงความเกลียดชังทั่วโลก

อย่างไรก็ตาม ปัญหาเหล่านี้ยังคงต้องการกำลังคนจำนวนมากและเวลาทำงานเกือบตลอดเวลาเพื่อจัดการกับปัญหาเหล่านี้ เพื่อแก้ไขปัญหา นักวิจัยในห้องปฏิบัติการหลายแห่งเริ่มฝึกอบรมปัญญาประดิษฐ์ (AI) เพื่อช่วยในการทำงานอันยิ่งใหญ่นี้

Ikigai อ้างถึงระบบ Rosetta ที่ Facebook ใช้เพื่อตรวจสอบความถูกต้องของข่าวสาร ภาพหรือเนื้อหาอื่นๆ ที่อัปโหลดบนโซเชียลมีเดียตามที่อธิบาย ระบบ Rosetta สแกน “คำ วาดภาพ ภาษา ฟอนต์ วันที่โพสต์ และตัวแปรอื่นๆ และพยายามดูว่าข้อมูลที่นำเสนอเป็นของแท้หรือไม่” หลังจากระบบรวบรวมข้อมูลและพิจารณาว่า AI ยังไม่สมบูรณ์ในการเข้าใจนัย นัยอ้างอิง และบริบทที่โพสต์ ผู้ดูแลเนื้อหาของมนุษย์เข้ามาและช่วยระบบ AI ในการค้นหาคำพูดที่แสดงความเกลียดชังและข่าวปลอม

เพื่อพัฒนาความสามารถของระบบ AI ในการครอบคลุมนัยที่เป็นไปได้ทั้งหมดที่แสดงความเกลียดชัง ทีมนักวิจัยจาก UC Santa Barbara และ Intel (INTC ) ตามรายงานของ TheNextWeb (TNW) “ใช้การสนทนาหลายพันครั้งจากชุมชน Reddit และ Gab ที่มีการใช้คำพูดที่แสดงความเกลียดชังมากที่สุด และใช้ในการฝึกอบรม AI เพื่อต่อต้านการแสดงความเกลียดชัง”

ตาม รายงานของพวกเขา เพื่อทำเช่นนี้ ทีมนักวิจัยร่วมสร้างชุดข้อมูลเฉพาะที่มี “การสนทนาหลายพันครั้งที่คัดเลือกอย่างพิเศษเพื่อให้แน่ใจว่าจะเต็มไปด้วยคำพูดที่แสดงความเกลียดชัง” พวกเขายังใช้รายการกลุ่ม Reddit ที่มีลักษณะการใช้คำพูดที่แสดงความเกลียดชังที่รวบรวมโดย Justin Caffier of Vox

นักวิจัยสิ้นสุดการรวบรวม “มากกว่า 22,000 ความคิดเห็นจาก Reddit และมากกว่า 33,000 จาก Gab” พวกเขาพบว่าทั้งสองไซต์แสดง “คำค้นหาที่แสดงความเกลียดชังที่คล้ายกัน แต่การกระจายต่างกันมาก”

พวกเขาได้ทราบว่าเนื่องจากความแตกต่างเหล่านี้ ทำให้โซเชียลมีเดียทั่วไปยากต่อการแทรกแซงแบบเรียลไทม์ เนื่องจากการไหลของคำพูดที่แสดงความเกลียดชังมากเกินไป และต้องการคนจริงหลายคนในการติดตาม

เพื่อแก้ไขปัญหา ทีมนักวิจัยเริ่มฝึกอบรม AI เพื่อแทรกแซง พวกเขาได้ส่งฐานข้อมูลเริ่มต้นไปยัง Amazon (AMZN ) Turk เพื่อทำการระบุ标籤 หลังจากที่คนงานระบุกรณีของคำพูดที่แสดงความเกลียดชัง พวกเขาจะสร้างวลีที่ AI จะใช้ “เพื่อป้องกันผู้ใช้ไม่ให้โพสต์คำพูดที่แสดงความเกลียดชังที่คล้ายกันในอนาคต”

ตามนั้น ทีมนักวิจัย “ใช้ฐานข้อมูลและฐานข้อมูลการแทรกแซงผ่านระบบการเรียนรู้ของเครื่องและระบบประมวลผลภาษาแบบธรรมชาติ และสร้างแบบจำลองสำหรับ AI การแทรกแซงคำพูดที่แสดงความเกลียดชังออนไลน์”

ผลลัพธ์ที่ได้แสดงให้เห็นว่าดีเยี่ยม แต่เนื่องจากการพัฒนายังคงอยู่ในระยะเริ่มต้น ระบบจึงยังไม่พร้อมที่จะใช้งานอย่างแข็งขัน ตามที่อธิบาย “ระบบในทางทฤษฎีควรตรวจจับคำพูดที่แสดงความเกลียดชังและส่งสารไปยังผู้โพสต์โดยแจ้งให้ทราบว่าทำไมพวกเขาไม่ควรโพสต์สิ่งที่แสดงให้เห็นอย่างชัดเจนว่าเป็นคำพูดที่แสดงความเกลียดชัง ระบบนี้ขึ้นอยู่กับการตรวจจับคำค้นหามากกว่าเพียงการตรวจจับคำค้นหา – เพื่อให้ AI ทำงานได้ ระบบจะต้องเข้าใจบริบทให้ถูกต้อง”