โมเดลและแพลตฟอร์ม AI
วิธีการใหม่ตรวจจับ Deep Fakes ด้วยความแม่นยำ 99%
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ทีมนักวิทยาศาสตร์คอมพิวเตอร์จาก UC Riverside ได้พัฒนาวิธีการใหม่ในการตรวจจับการปลอมแปลงน้ำเสียงบนใบหน้าใน视频 Deep Fake วิธีการนี้สามารถตรวจจับน้ำเสียงที่ถูกปลอมแปลงได้ถึง 99% ซึ่งแม่นยำกว่าวิธีการที่มีอยู่ในปัจจุบัน
วิจัยใหม่เรื่อง “การตรวจจับและระบุตำแหน่งการปลอมแปลงน้ำเสียงบนใบหน้า” ได้นำเสนอที่การประชุม Winter Conference on Applications of Computer Vision ปี 2022
การตรวจจับการปลอมแปลงใบหน้าใดๆ
วิธีการนี้ยังได้รับการพิสูจน์ว่ามีความแม่นยำเท่ากับวิธีการที่มีอยู่ในปัจจุบันในกรณีที่ใบหน้าถูกเปลี่ยนแทนที่จะเป็นน้ำเสียง ซึ่งหมายความว่าวิธีการใหม่นี้สามารถใช้ในการตรวจจับการปลอมแปลงใบหน้าใดๆ และเป็นก้าวสำคัญในการพัฒนาทools อัตโนมัติในการตรวจจับวิดีที่ถูกปลอมแปลง
ไม่เคยเป็นเรื่องง่ายที่จะเปลี่ยนใบหน้าของบุคคลหนึ่งเป็นอีกบุคคลหนึ่งหรือเปลี่ยนน้ำเสียงเดิมได้ เนื่องจากความก้าวหน้าล่าสุดในซอฟต์แวร์ตัดต่อวิดีโอ การตรวจจับวิธีการเหล่านี้มีความสำคัญอย่างมาก เนื่องจากพวกมันถูกใช้ในความขัดแย้งภายในประเทศและระหว่างประเทศทั่วโลก ด้วยเหตุนี้ การระบุใบหน้าที่มีน้ำเสียงเปลี่ยนแปลงจึงเป็นเรื่องที่ท้าทายมาก
Amit Roy-Chowdhury เป็นศาสตราจารย์จาก Bourns College of Engineering และเป็นร่วมผู้เขียนวิจัย
“สิ่งที่ทำให้การวิจัย Deep Fake มีความท้าทายมากขึ้นคือการแข่งขันระหว่างการสร้างและการตรวจจับและการป้องกัน Deep Fake ซึ่งจะกลายเป็นการแข่งขันที่รุนแรงมากขึ้นในอนาคต ด้วยความก้าวหน้าในโมเดลการสร้างข้อมูล Deepfakes จะง่ายต่อการสร้างและยากต่อการแยกแยะจากของจริง” เขากล่าว
ภาพ: UC Riverside
การตรวจจับการปลอมแปลงน้ำเสียง (EMD)
วิธีการใหม่นี้แบ่งงานออกเป็นสองส่วนภายในเครือข่ายประสาทเทียม The first branch ระบุน้ำเสียงและให้ข้อมูลเกี่ยวกับพื้นที่ที่มีน้ำเสียง พื้นที่เหล่านี้รวมถึงปาก ตา หน้าผาก และอื่นๆ ข้อมูลนี้จะถูกส่งไปยังส่วนที่สอง ซึ่งเป็นสถาปัตยกรรม encoder-decoder ที่รับผิดชอบในการตรวจจับการปลอมแปลงและการระบุตำแหน่ง
ทีมงานตั้งชื่อโครงสร้างนี้ว่า Expression Manipulation Detection (EMD) และสามารถตรวจจับและระบุตำแหน่งพื้นที่ที่ถูกเปลี่ยนแปลงในภาพ
Ghazal Mazaheri เป็นนักศึกษาระดับ博士และผู้นำการวิจัย
“การเรียนรู้หลายงานสามารถใช้คุณลักษณะที่โดดเด่นที่ได้มาจากระบบการรู้จำน้ำเสียงเพื่อประโยชน์ต่อการฝึกอบรมระบบการตรวจจับการปลอมแปลงแบบดั้งเดิม วิธีการนี้สามารถให้ผลลัพธ์ที่น่าประทับใจในการตรวจจับการปลอมแปลงน้ำเสียง” Mazaheri กล่าว
นักวิจัยได้ทำการทดลองบนชุดข้อมูลการปลอมแปลงใบหน้าที่ท้าทายสองชุด และแสดงให้เห็นว่า EMD มีประสิทธิภาพดีกว่าในการตรวจจับการปลอมแปลงน้ำเสียงและเปลี่ยนใบหน้า และสามารถตรวจจับวิดีที่ถูกปลอมแปลงได้ถึง 99%
