ดีปเฟคสามารถหลอกลวงระบบตรวจสอบใบหน้า ‘Liveness’ API ได้อย่างมีประสิทธิภาพ

การวิจัยร่วมระหว่างสหรัฐอเมริกาและจีนได้ตรวจสอบความเสี่ยงต่อดีปเฟคของระบบตรวจสอบใบหน้าขนาดใหญ่ที่สุดในโลก และพบว่าระบบส่วนใหญ่นั้นเปราะบางต่อการโจมตีด้วยดีปเฟค

การวิจัยได้ใช้เฟรมเวิร์กที่ถูกสร้างขึ้นเพื่อโจมตีระบบตรวจสอบใบหน้า (Facial Liveness Verification) ที่ใช้กันอย่างแพร่หลายโดยผู้ให้บริการรายใหญ่ และพบว่าระบบเหล่านี้มีความเสี่ยงต่อการโจมตีด้วยดีปเฟค

จากเอกสารวิจัย ภาพรวมของการทำงานของ Facial Liveness Verification (FLV) APIs จากผู้ให้บริการรายใหญ่

ระบบตรวจสอบใบหน้า (Facial Liveness) มีจุดมุ่งหมายเพื่อป้องกันการใช้เทคนิค เช่น การโจมตีด้วยภาพ (adversarial image attacks) การใช้หน้ากาก (masks) และวิดีโอที่บันทึกไว้ล่วงหน้า (pre-recorded video) รวมถึงการโจมตีด้วย ‘ใบหน้าหลัก’ (master faces) และรูปแบบอื่นๆ ของการโจมตีด้วยการปลอมแปลงภาพ

การศึกษาพบว่าจำนวนโมดูลตรวจจับดีปเฟคที่ใช้ในระบบเหล่านี้มีจำกัด และอาจถูกกำหนดค่าตามเทคนิคดีปเฟคที่ล้าสมัย หรืออาจมีความเฉพาะเจาะจงเกินไป

ผู้เขียนเน้นย้ำว่า:

‘วิธีการดีปเฟคที่แตกต่างกันแสดงถึงความแตกต่างระหว่างผู้ให้บริการ…โดยไม่มีข้อมูลทางเทคนิคของ FLV ที่เป็นเป้าหมาย เราสันนิษฐานว่าความแตกต่างนี้เกิดจากมาตรการป้องกันที่ผู้ให้บริการแต่ละรายใช้’

และต่อด้วย:

‘ระบบ FLV ส่วนใหญ่ไม่ได้ใช้การตรวจจับดีปเฟค แม้ว่าบางระบบจะมีการป้องกัน แต่ประสิทธิภาพของการป้องกันก็เป็นเรื่องที่น่ากังวล’

นักวิจัยสังเกตเห็นว่า ‘ความถูกต้อง’ เป็นเรื่องสัมพันธ์:

‘แม้ว่าวิดีโอที่สังเคราะห์จะไม่สมจริงสำหรับมนุษย์ แต่ก็ยังสามารถหลอกลวงการตรวจจับดีปเฟคที่มีอยู่ได้ด้วยอัตราความสำเร็จสูง’

ด้านบน ภาพดีปเฟคที่สามารถผ่านการตรวจสอบได้ ในการทดลองของนักวิจัย ด้านล่าง ภาพที่ดูสมจริงกว่าแต่ล้มเหลวในการตรวจสอบ

การค้นพบอีกอย่างหนึ่งคือระบบตรวจสอบใบหน้าแบบทั่วไปมีความลำเอียงต่อผู้ชายผิวขาว ซึ่งหมายความว่าผู้หญิงและผู้ที่ไม่ใช่ผิวขาวมีโอกาสที่จะหลอกลวงระบบได้ง่ายกว่า ทำให้ลูกค้าในกลุ่มเหล่านี้มีความเสี่ยงต่อการถูกโจมตีด้วยดีปเฟคสูงกว่า

รายงานพบว่าระบบตรวจสอบใบหน้าแบบทั่วไปมีความลำเอียงต่อผู้ชายผิวขาว ในตารางด้านบน เราจะเห็นว่าผู้หญิงและผู้ที่ไม่ใช่ผิวขาวสามารถหลอกลวงระบบได้ง่ายกว่า

เอกสารวิจัยระบุว่า:

‘มีความลำเอียงในระบบตรวจสอบใบหน้า ซึ่งอาจนำไปสู่ความเสี่ยงด้านความปลอดภัยที่สำคัญสำหรับกลุ่มคนบางกลุ่ม’

ผู้เขียนยังได้ทำการโจมตีแบบจริงต่อหน่วยงานรัฐบาลจีน บริษัทการบินจีนรายใหญ่ บริษัทประกันชีวิตจีนรายใหญ่ และ R360 หนึ่งในกลุ่มการลงทุนยูนิคอร์นขนาดใหญ่ที่สุดในโลก และพบว่าสามารถหลอกลวงระบบเหล่านี้ได้สำเร็จ

ในกรณีการโจมตีแบบจริงต่อหน่วยงานการบินจีน ผู้ให้บริการ API ระดับล่างต้องการให้ผู้ใช้ ‘เขย่าหัว’ เพื่อพิสูจน์ตัวตน แต่นี่ไม่ได้ผลต่อเฟรมเวิร์กที่นักวิจัยสร้างขึ้นซึ่งรวมดีปเฟค 6 แบบ

แม้ว่าผู้ให้บริการการบินจะประเมินการเขย่าหัวของผู้ใช้ แต่ดีปเฟคก็ยังสามารถผ่านการทดสอบได้

เอกสารวิจัยแนะนำให้ปรับปรุงระบบตรวจสอบใบหน้าโดยการละทิ้งการตรวจสอบแบบภาพเดียว (Image-based FLV) และปรับปรุงการตรวจจับดีปเฟคให้ครอบคลุมทั้งภาพและเสียง

เอกสารวิจัยมีชื่อว่า Seeing is Living? Rethinking the Security of Facial Liveness Verification in the Deepfake Era และเป็นผลงานร่วมกันระหว่าง Changjiang Li และ Li Wang และผู้เขียนร่วมอีก 5 คนจาก Pennsylvania State University, Zhejiang University และ Shandong University

เป้าหมายหลัก

นักวิจัยมุ่งเป้าไปที่ผู้ให้บริการ Facial Liveness Verification (FLV) 6 รายที่มีจำนวนการเรียก API ใบหน้ามากที่สุด

ผู้ให้บริการเหล่านี้ถูกแทนด้วยตัวอักษร ‘BD’ และ ‘TC’ ซึ่งเป็นตัวแทนของกลุ่มผู้ให้บริการที่มีจำนวนการเรียก API ใบหน้ามากที่สุด และมีส่วนแบ่งการตลาด AI คลาวด์ขนาดใหญ่ที่สุดในจีน ‘HW’ เป็นผู้ให้บริการที่มีตลาดคลาวด์ขนาดใหญ่ที่สุดในจีน ‘CW’ มีอัตราการเติบโตเร็วที่สุดในด้านการมองเห็นคอมพิวเตอร์ และ ‘ST’ เป็นผู้ให้บริการที่มีขนาดใหญ่ที่สุดในด้านการมองเห็นคอมพิวเตอร์ ‘iFT’ เป็นผู้ให้บริการซอฟต์แวร์ AI ที่ใหญ่ที่สุดในจีน

ข้อมูลและสถาปัตยกรรม

ข้อมูลที่ใช้ในการวิจัยประกอบด้วยภาพ 625,537 ภาพจาก CelebA-Spoof และวิดีโอสดจาก SiW-M ของ Michigan State University

การวิจัยทั้งหมดถูกดำเนินการบนเซิร์ฟเวอร์ที่มี CPU Intel Xeon E5-2640 v4 สองตัว และ RAM 256 GB พร้อมด้วยฮาร์ดดิสก์ 4TB และ GPU NVIDIA 1080Ti สี่ตัว

หกในหนึ่ง

เฟรมเวิร์กที่นักวิจัยสร้างขึ้นมีชื่อว่า LiveBugger และรวมดีปเฟค 6 แบบเข้าด้วยกัน

LiveBugger รวมดีปเฟคหลายแบบเข้าด้วยกัน และมุ่งเป้าไปที่การโจมตี 4 เวกเตอร์หลักในระบบ FLV

ดีปเฟค 6 แบบที่ใช้คือ X2Face, ICface, FSGAN, First Order Method Model (FOMM), FaceShifter และ DeepFaceLive

การโจมตี 4 เวกเตอร์

เวกเตอร์หลัก 4 แบบในระบบ FLV คือ การตรวจสอบแบบภาพ (image-based FLV) การตรวจสอบแบบเงียบ (silence-based FLV) การตรวจสอบแบบการกระทำ (action-based FLV) และการตรวจสอบแบบเสียง (voice-based FLV)

เฟรมเวิร์ก LiveBugger ใช้การโจมตีแบบดีปเฟคเพื่อหลอกลวงระบบ FLV เหล่านี้

ผลลัพธ์

ผลการวิจัยพบว่าระบบ FLV ทั้ง 6 ระบบไม่ได้ใช้การตรวจจับดีปเฟค และสามารถหลอกลวงได้ด้วยดีปเฟค

ผลลัพธ์ของการโจมตีด้วย LiveBugger ต่อระบบ FLV

สรุป

ผลการวิจัยและข้อเสนอแนะสำหรับอนาคตของระบบ FLV เป็นเรื่องที่ซับซ้อน และผู้เขียนได้สรุปเป็น ‘สถาปัตยกรรมของความเสี่ยง’ ที่สามารถช่วยให้ผู้พัฒนา FLV เข้าใจปัญหาเหล่านี้ได้ดีขึ้น

เครือข่ายของข้อเสนอแนะเกี่ยวกับความเสี่ยงของระบบ FLV ต่อการโจมตีด้วยดีปเฟค

ข้อเสนอแนะรวมถึงการละทิ้งการตรวจสอบแบบภาพเดียวและการปรับปรุงการตรวจจับดีปเฟคให้ครอบคลุมทั้งภาพและเสียง

ผู้เขียนยังเน้นย้ำถึงความเสี่ยงด้านความปลอดภัยของระบบ FLV และความจำเป็นในการปรับปรุงระบบเหล่านี้เพื่อป้องกันการโจมตีด้วยดีปเฟค

การวิจัยนี้เกิดขึ้นหลังจากการเตือนของ FBI เกี่ยวกับอันตรายของการฉ้อโกงด้วยดีปเฟค และความกังวลเกี่ยวกับการใช้ดีปเฟคในปฏิบัติการอิทธิพลต่างประเทศ

ในขณะเดียวกัน ยังมีการโจมตีด้วยดีปเฟคที่ประสบความสำเร็จ เช่น การโจมตีธนาคารใน UAE โดยใช้ดีปเฟคเสียงในปี 2020 ซึ่งทำให้เสียเงิน 35 ล้านเหรียญสหรัฐ และการโจมตีบริษัทใน UK โดยใช้ดีปเฟคเสียงในปี 2019 ซึ่งทำให้เสียเงิน 243,000 เหรียญสหรัฐ

การวิจัยนี้ยังเน้นย้ำถึงความสำคัญของการปรับปรุงระบบ FLV เพื่อป้องกันการโจมตีด้วยดีปเฟค และเพื่อรักษาความปลอดภัยของข้อมูลส่วนบุคคล