เครื่องมือเบราว์เซอร์ AI มุ่งหมายเพื่อระบุ Deepfakes และสื่อปลอมอื่นๆ

ความพยายามของบริษัทเทคโนโลยีในการต่อสู้กับข้อมูลที่ไม่ถูกต้องและเนื้อหาที่ปลอมเป็นเรื่องที่ได้รับความสนใจอย่างมากในระยะนี้ เนื่องจากเทคโนโลยีการสร้างเนื้อหาที่ปลอมที่ซับซ้อน เช่น DeepFakes ได้กลายเป็นเรื่องที่ใช้งานได้ง่ายขึ้นและพัฒนาให้ดีขึ้น หนึ่งในความพยายามที่จะช่วยให้ผู้คนสามารถตรวจจับและต่อสู้กับ Deepfakes คือ RealityDefender ซึ่งผลิตโดย AI Foundation ซึ่งได้ให้คำมั่นว่าจะพัฒนา AI ที่มีจริยธรรมและผู้ช่วยที่ผู้ใช้สามารถฝึกให้ทำงานได้หลากหลาย

โครงการที่น่าสังเกตที่สุดของ AI Foundation คือแพลตฟอร์มที่ช่วยให้ผู้คนสามารถสร้างตัวตนเสมือนของตนเองที่ดูเหมือนกับพวกเขาและแสดงตนในพื้นที่พบปะเสมือนจริง AI Foundation ถูกควบคุมโดย Global AI Council และเป็นส่วนหนึ่งของคำสั่งซื้อของพวกเขาที่จะต้องคาดการณ์ผลกระทบด้านลบของแพลตฟอร์ม AI จากนั้นพยายามที่จะแก้ไขปัญหาเหล่านั้นก่อน ตามรายงานของ VentureBeat หนึ่งในเครื่องมือที่ AI Foundation สร้างขึ้นเพื่อช่วยในการตรวจจับ Deepfakes คือ Reality Defender Reality Defender เป็นเครื่องมือที่ผู้ใช้สามารถใช้ได้ในเบราว์เซอร์ของตนเอง (ตรวจสอบ) ซึ่งจะวิเคราะห์วิดีโอ ภาพ และสื่ออื่นๆ เพื่อตรวจจับเครื่องหมายที่บ่งบอกว่าสื่อนั้นถูกปลอมหรือแก้ไขในบางรูปแบบ

Reality Defender ทำงานโดยใช้แอลกอริทึม AI ที่หลากหลายซึ่งสามารถตรวจจับเครื่องหมายที่บ่งบอกว่าภาพหรือวิดีโอนั้นถูกปลอมหรือไม่ โมเดล AI ตรวจจับเครื่องหมายที่บ่งบอกถึงการหลอกลวงและแก้ไข และผลลัพธ์เชิงบวกที่โมเดลตรวจจับได้ถูกป้ายกำกับว่าไม่ถูกต้องโดยผู้ใช้เครื่องมือ จากนั้นข้อมูลจะถูกนำมาใช้ในการฝึกโมเดลใหม่ บริษัท AI ที่สร้าง Deepfakes ที่ไม่หลอกลวงจะมีเนื้อหาของตนเองที่มีแท็ก “honest AI” หรือวอเตอร์มาร์กที่ช่วยให้ผู้คนสามารถระบุได้ง่ายว่าเนื้อหานั้นถูกสร้างโดย AI

Reality Defender เป็นเพียงหนึ่งในเครื่องมือและแพลตฟอร์มความรับผิดชอบ AI ที่ AI Foundation พยายามสร้าง AI Foundation กำลังพัฒนา Guardian AI ซึ่งเป็นแพลตฟอร์มความรับผิดชอบที่สร้างขึ้นบนหลักการว่าบุคคลควรจะมีเครื่องมือ AI ส่วนบุคคลที่ทำงานให้พวกเขาและสามารถช่วยปกป้องพวกเขาจากการถูกใช้ประโยชน์โดยผู้กระทำความผิด ในที่สุด AI Foundation มุ่งหมายที่จะขยายการเข้าถึง AI ในสังคม โดยนำไปสู่ผู้คนมากขึ้น ในขณะเดียวกันก็ปกป้องความเสี่ยงของ AI

Reality Defender ไม่ใช่ผลิตภัณฑ์ AI เพียงอย่างเดียวที่มุ่งหมายที่จะลดข้อมูลที่ไม่ถูกต้องในสหรัฐอเมริกา ผลิตภัณฑ์ที่คล้ายกันคือ SurfSafe ซึ่งถูกสร้างโดยนักศึกษาสองคนจาก UC Berkeley Rohan Phadte และ Ash Bhat ตามรายงานของ The Verge SurfSafe ทำงานโดยให้ผู้ใช้สามารถคลิกที่สื่อที่พวกเขาอยากรู้ว่าเป็นของจริงหรือไม่ และโปรแกรมจะทำการค้นหาสื่อที่คล้ายกันจากแหล่งข้อมูลที่เชื่อถือได้บนอินเทอร์เน็ต และป้ายกำกับภาพที่ทราบว่าถูกแก้ไข

ยังไม่ชัดเจนว่าโซลูชันเหล่านี้จะมีประสิทธิภาพในระยะยาวหรือไม่ ศาสตราจารย์จาก Dartmouth College และผู้เชี่ยวชาญด้านการตรวจสอบ Hany Farid ถูกอ้างถึงโดย The Verge ว่าเขา “ไม่เชื่อ” ว่าระบบเหล่านี้จะทำงานได้อย่างมีประสิทธิภาพ Farid อธิบายว่าหนึ่งในความท้าทายหลักในการตรวจจับเนื้อหาที่ปลอมคือสื่อไม่ใช่ของจริงหรือปลอมทั้งหมด Farid อธิบายว่า

“มีเส้นแบ่ง; ช่วงของปัญหาที่ซับซ้อนมาก ที่ต้องจัดการกัน บางการเปลี่ยนแปลงไม่มีความหมาย และบางอย่างเปลี่ยนแปลงลักษณะของภาพทั้งหมด เพื่อการฝึก AI ให้สามารถแยกความแตกต่างได้นั้นเป็นเรื่องที่ง่ายเกินไป และการให้คนอื่นช่วยตรวจสอบก็ยิ่งง่ายเกินไป”

นอกจากนี้ยังมีความยากในการรวมการให้คนอื่นช่วยตรวจสอบ เช่น การป้ายกำกับผลลัพธ์เชิงบวกที่ไม่ถูกต้อง เนื่องจากผู้คนมักจะไม่ดีในการระบุภาพที่ปลอม และมักจะพลาดรายละเอียดเล็กๆ น้อยๆ ที่บ่งบอกว่าภาพนั้นเป็นของปลอม ยังไม่ชัดเจนว่าจะจัดการกับผู้กระทำความผิดที่มีเจตนาไม่ดีได้อย่างไรเมื่อพวกเขาให้คนอื่นช่วยตรวจสอบ

ดูเหมือนว่าเครื่องมือในการตรวจจับเนื้อหาที่ปลอมจะต้องถูกผสมผสานกับความพยายามในการให้ความรู้ดิจิทัลที่สอนให้ผู้คนสามารถคิดอย่างมีวิจารณญาณเกี่ยวกับเนื้อหาที่พวกเขาโต้ตอบบนอินเทอร์เน็ต