เครื่องมือเบราว์เซอร์ AI มีจุดมุ่งหมายเพื่อจดจำ Deepfakes และสื่อปลอมอื่นๆ

ความพยายามของบริษัทเทคโนโลยีในการจัดการข้อมูลที่ไม่ถูกต้องและเนื้อหาปลอมกำลังเข้ามามีบทบาทอย่างมากในช่วงไม่กี่ครั้งที่ผ่านมา เนื่องจากเทคโนโลยีการสร้างเนื้อหาปลอมที่ซับซ้อน เช่น DeepFakes ใช้งานง่ายขึ้นและได้รับการปรับปรุงมากขึ้น ความพยายามที่กำลังจะเกิดขึ้นเพื่อช่วยให้ผู้คนตรวจจับและต่อสู้กับ Deepfakes คือ RealityDefender ซึ่งผลิตโดย มูลนิธิเอไอซึ่งมุ่งมั่นที่จะพัฒนาตัวแทนและผู้ช่วย AI ที่มีจริยธรรม ซึ่งผู้ใช้สามารถฝึกอบรมเพื่อทำงานต่างๆ ให้สำเร็จได้

โครงการที่โดดเด่นที่สุดของมูลนิธิ AI คือแพลตฟอร์มที่ช่วยให้ผู้คนสร้างตัวตนดิจิทัลของตนเองที่ดูเหมือนพวกเขาและเป็นตัวแทนของพวกเขาในพื้นที่แฮงเอาท์เสมือนจริง มูลนิธิ AI อยู่ภายใต้การดูแลของ Global AI Council และเป็นส่วนหนึ่งของภารกิจที่พวกเขาต้องคาดการณ์ถึงผลกระทบด้านลบที่อาจเกิดขึ้นจากแพลตฟอร์ม AI จากนั้นจึงพยายามนำหน้าปัญหาเหล่านี้ ตามที่รายงานโดย VentureBeatหนึ่งในเครื่องมือที่มูลนิธิ AI สร้างขึ้นเพื่อช่วยในการตรวจจับของปลอมที่เรียกว่า Reality Defender Reality Defender เป็นเครื่องมือที่บุคคลสามารถใช้ในเว็บเบราว์เซอร์ของตนได้ (ตรวจสอบดู) ซึ่งจะวิเคราะห์วิดีโอ รูปภาพ และสื่อประเภทอื่นๆ เพื่อตรวจหาสัญญาณว่าสื่อนั้นถูกปลอมแปลงหรือดัดแปลงในบางรูปแบบ หวังว่าเครื่องมือนี้จะช่วยต่อต้านกระแส Deepfakes ที่เพิ่มขึ้นบนอินเทอร์เน็ต ซึ่งตามการประมาณการบางอย่างได้เพิ่มขึ้นเป็นสองเท่าในช่วงหกเดือนที่ผ่านมา

ผู้ปกป้องความเป็นจริงทำงานโดยใช้อัลกอริทึมที่ใช้ AI ที่หลากหลาย ซึ่งสามารถตรวจจับเบาะแสที่บ่งชี้ว่ารูปภาพหรือวิดีโออาจถูกปลอมแปลง แบบจำลอง AI ตรวจพบสัญญาณเล็กน้อยของกลอุบายและการชักใย และผลบวกลวงที่แบบจำลองตรวจพบจะถูกระบุว่าไม่ถูกต้องโดยผู้ใช้เครื่องมือ จากนั้นข้อมูลจะถูกใช้เพื่อฝึกโมเดลใหม่ บริษัท AI ที่สร้าง Deepfake ที่ไม่หลอกลวงจะมีเนื้อหาที่ติดแท็กด้วยแท็กหรือลายน้ำ "AI ที่ซื่อสัตย์" ซึ่งช่วยให้ผู้คนสามารถระบุของปลอมที่สร้างโดย AI ได้อย่างง่ายดาย

Reality Defender เป็นเพียงชุดเครื่องมือหนึ่งและแพลตฟอร์มความรับผิดชอบของ AI ทั้งหมดที่ AI Foundation พยายามสร้างขึ้น AI Foundation กำลังดำเนินการสร้าง Guardian AI ซึ่งเป็นแพลตฟอร์มความรับผิดชอบที่สร้างขึ้นตามหลักการที่ว่าบุคคลควรมีสิทธิ์เข้าถึงตัวแทน AI ส่วนบุคคลที่ทำงานให้พวกเขา และสามารถช่วยป้องกันการแสวงหาผลประโยชน์จากผู้ไม่หวังดี โดยพื้นฐานแล้ว AI Foundation มีเป้าหมายที่จะขยายการเข้าถึงของ AI ในสังคม นำไปให้ผู้คนจำนวนมากขึ้น ในขณะเดียวกันก็ป้องกันความเสี่ยงของ AI

Reality Defender ไม่ใช่ผลิตภัณฑ์ใหม่เพียงตัวเดียวที่ขับเคลื่อนด้วย AI โดยมีเป้าหมายเพื่อลดข้อมูลที่ผิดในสหรัฐอเมริกา ผลิตภัณฑ์ที่คล้ายกันนี้เรียกว่า SurfSafe ซึ่งสร้างขึ้นโดยนักศึกษาระดับปริญญาตรีสองคนจาก UC Berkeley, Rohan Phadte และ Ash Bhat ตาม The Verge, SurfSafe ดำเนินการโดยอนุญาตให้ผู้ใช้คลิกบนสื่อที่พวกเขาสงสัย และโปรแกรมจะทำการค้นหารูปภาพแบบย้อนกลับและพยายามค้นหาเนื้อหาที่คล้ายคลึงกันจากแหล่งที่เชื่อถือได้ต่างๆ บนอินเทอร์เน็ต ตั้งค่าสถานะรูปภาพที่ทราบว่าเป็น แพทย์

ยังไม่ชัดเจนว่าโซลูชันเหล่านี้จะมีประสิทธิภาพเพียงใดในระยะยาว อาจารย์วิทยาลัยดาร์ทเมาท์และผู้เชี่ยวชาญด้านนิติเวชศาสตร์ Hany Farid อ้างโดย The Verge โดยกล่าวว่าเขา "ไม่เชื่ออย่างยิ่ง" ว่าระบบแผนเช่น Reality Defender จะทำงานได้อย่างมีความหมาย Farid อธิบายว่าหนึ่งในความท้าทายหลักในการตรวจจับเนื้อหาปลอมคือสื่อไม่ใช่ของปลอมหรือของจริงเพียงอย่างเดียว ฟาริดอธิบายว่า:

“มีความต่อเนื่อง ปัญหาที่ซับซ้อนอย่างเหลือเชื่อที่ต้องจัดการ การเปลี่ยนแปลงบางอย่างไม่มีความหมาย และบางอย่างเปลี่ยนแปลงธรรมชาติของภาพโดยพื้นฐาน การแสร้งทำเป็นว่าเราสามารถฝึก AI ให้มองเห็นความแตกต่างนั้นช่างไร้เดียงสาอย่างเหลือเชื่อ และการแสร้งทำเป็นว่าเราสามารถระดมมวลชนได้นั้นยิ่งกว่านั้นอีก”

นอกจากนี้ เป็นเรื่องยากที่จะรวมองค์ประกอบการจัดหาฝูงชน เช่น การติดแท็กผลบวกปลอม เพราะโดยปกติแล้วมนุษย์ค่อนข้างแย่ในการระบุภาพปลอม มนุษย์มักจะทำผิดพลาดและพลาดรายละเอียดเล็กๆ น้อยๆ ที่บ่งบอกว่ารูปภาพนั้นเป็นของปลอม ยังไม่ชัดเจนว่าจะจัดการกับผู้กระทำการที่ไม่สุจริตซึ่งก่อกวนเมื่อพวกเขาตั้งค่าสถานะเนื้อหาอย่างไร

ดูเหมือนว่าเพื่อให้มีประสิทธิภาพสูงสุด เครื่องมือตรวจจับของปลอมจะต้องรวมกับความพยายามในการรู้หนังสือดิจิทัลที่จะสอนผู้คนถึงเหตุผลเกี่ยวกับเนื้อหาที่พวกเขาโต้ตอบด้วยทางออนไลน์