การระบุตัวตนซ้ำของข้อมูลต้นฉบับสำหรับเครื่องกำเนิด GAN

การวิจัยใหม่จากฝรั่งเศสได้เสนอเทคนิคในการ ‘ระบุตัวตนซ้ำ’ ของตัวตนแหล่งที่มาที่มีส่วนร่วมในการสร้างข้อมูลสังเคราะห์ เช่น ‘คนไม่มีอยู่จริง’ ที่สร้างโดยโครงการสร้างใบหน้า เช่น This Person Does Not Exist

วิธีการที่อธิบายไว้ใน เอกสาร ซึ่งมีชื่อเรื่องว่า This Person (Probably) Exists. Identity Membership Attacks Against GAN Generated Faces ไม่ต้องการการเข้าถึงโครงสร้างการฝึกหรือข้อมูลแบบจำลอง และสามารถนำไปใช้กับหลาย ๆ แอปพลิเคชันที่ใช้ เครือข่ายที่เป็นปฏิปักษ์ทางพันธุกรรม (GANs) เพื่อทำให้ข้อมูลส่วนบุคคลไม่สามารถระบุตัวตนได้ หรือเพื่อสร้างข้อมูลสังเคราะห์โดยการปกป้องข้อมูลต้นฉบับ

นักวิจัยได้พัฒนาเทคนิคที่เรียกว่า การโจมตีสมาชิกตัวตน ซึ่งประเมินความน่าจะเป็นที่ตัวตนจะปรากฏ บ่อย ในชุดข้อมูลที่มีส่วนร่วม แทนที่จะพยายามระบุลักษณะเฉพาะของตัวตน (เช่น กลุ่มพิกเซลของภาพต้นฉบับที่ใช้ในการฝึกโมเดล)

Source: https://arxiv.org/pdf/2107.06018.pdf

ในภาพด้านบนจากงานวิจัย แต่ละแถวเริ่มต้นด้วยภาพที่สร้างโดย StyleGAN บล็อกซ้ายของภาพถูกสร้างจากฐานข้อมูล 40,000 ภาพ บล็อกกลางจาก 80,000 ภาพ และบล็อกขวาจาก 46,000 ภาพ ทุกภาพมาจากชุดข้อมูล VGG2Face2

บางตัวอย่างมีลักษณะคล้ายคลึงกันชั่วคราว ในขณะที่บางตัวอย่างสัมพันธ์กับข้อมูลการฝึกอย่างมาก ใบหน้าเหล่านี้ถูกระบุตัวตนโดยนักวิจัยโดยใช้เครือข่ายระบุตัวตนใบหน้า

มากกว่าหน้าตา

แนวทางในการระบุตัวตนซ้ำนี้มีผลกระทบหลายอย่างในหลายสาขาวิจัย นักวิจัยซึ่งประจำอยู่ที่มหาวิทยาลัย Caen ใน Normandy เน้นว่าเทคนิคของพวกเขามิได้จำกัดอยู่เพียงชุดใบหน้าและโครงสร้าง GAN ที่สร้างใบหน้าเท่านั้น แต่ยังสามารถนำไปใช้กับชุดข้อมูลทางการแพทย์และข้อมูลไบโอเมตริกส์ รวมถึงพื้นผิวการโจมตีอื่น ๆ ในโครงสร้างสังเคราะห์ภาพ

‘เรามั่นใจว่าหากประสบความสำเร็จ การโจมตีนี้จะเป็นอุปสรรคสำคัญสำหรับการแลกเปลี่ยน GAN ในบริบทที่มีความอ่อนไหวอย่างมาก ตัวอย่างเช่น ในบริบทของภาพวาดหรือชิ้นงานศิลปะอื่น ๆ การกระจายตัวของตัวกำเนิดที่ไม่เป็นส่วนตัวอาจถูกตัดออกเนื่องจากปัญหาลิขสิทธิ์ที่ชัดเจน มากกว่านั้น พิจารณาบริษัท A ที่เปิดเผยตัวกำเนิดที่เปิดเผยตัวตนของลูกค้า บริษัท B อาจสามารถตรวจสอบได้ว่าลูกค้าใดของตนเองยังเป็นลูกค้าของบริษัท A อีกด้วย สถานการณ์ที่คล้ายกันสามารถสร้างปัญหาใหญ่สำหรับข้อมูลทางการแพทย์ ซึ่งการเปิดเผย GAN อาจละเมิดข้อมูลส่วนบุคคลเกี่ยวกับโรคของผู้ป่วย’

การระบุตัวตนซ้ำของข้อมูลที่ถูกสแกนเว็บหรือข้อมูลส่วนตัวที่ไม่ถูกต้อง

แม้ว่าเอกสารจะกล่าวถึงเรื่องนี้เพียงผิวเผินเท่านั้น แต่ความสามารถในการระบุแหล่งที่มาของข้อมูลต้นฉบับจากผลลัพธ์ที่เป็นนามธรรม (เช่น ใบหน้าที่สร้างโดย GAN) มี ผลกระทบสำคัญ ต่อการนำไปใช้ลิขสิทธิ์ในช่วง 5-10 ปีหน้า

ปัจจุบันหลายประเทศดำเนินนโยบาย ลัซเซซ์-แฟร์ ต่อการเก็บข้อมูลเว็บที่เผยแพร่สู่สาธารณะ เพื่อไม่ให้ถูกทิ้งไว้ข้างหลังในขั้นตอนพัฒนาของเศรษฐกิจการเรียนรู้ของเครื่องจักรที่จะเกิดขึ้น เมื่อสภาพแวดล้อมนี้เติบโตและรวมตัวกัน มีศักยภาพที่จะเกิด ‘Data Trolls’ รุ่นใหม่ที่นำเสนอคำกล่าวอ้างลิขสิทธิ์เกี่ยวกับภาพที่ยืนยันว่าเคยใช้ในฐานข้อมูลที่มีส่วนร่วมในการพัฒนาอัลกอริทึมการเรียนรู้ของเครื่องจักร

เมื่ออัลกอริทึมที่พัฒนามีความคุ้มค่ามากขึ้นและกลายเป็นมูลค่ามากขึ้นเมื่อเวลาผ่านไป ข้อมูลภาพที่ไม่ได้รับอนุญาตที่ใช้ในการพัฒนาตอนต้น และที่สามารถอนุมานได้จากผลลัพธ์โดยวิธีการที่คล้ายกับวิธีที่เสนอในเอกสารฝรั่งเศสใหม่นี้ เป็นความรับผิดชอบทางกฎหมายที่อาจเกิดขึ้นในระดับเดียวกับกรณี SCO Vs IBM (คดีทางเทคนิคที่มีชีวิตยาวนานที่ ยังคงถูกขู่ ระบบปฏิบัติการ Linux)

การเอาเปรียบจากสถานการณ์ ‘เม็กซิกัน สแตนด์ออฟ’ ของความหลากหลายเทียบกับความถี่

เทคนิคหลักที่นักวิจัยชาวฝรั่งเศสใช้ประโยชน์จากความถี่ของภาพต้นฉบับในฐานข้อมูลเป็นกุญแจสำคัญในการระบุตัวตนซ้ำ ยิ่งภาพตัวตนใดปรากฏบ่อยในฐานข้อมูล ก็ยิ่งมีโอกาสที่จะสามารถระบุภาพตัวตนได้โดยการเปรียบเทียบผลลัพธ์ของการโจมตีกับฐานข้อมูลที่มีอยู่สาธารณะหรือส่วนตัว

นักวิจัยชี้ว่าสามารถบรรเทาได้โดยการรวมความหลากหลายของข้อมูล (เช่น ใบหน้า) ในฐานข้อมูลต้นฉบับ และไม่ฝึกฐานข้อมูลจนเกิด การปรับให้เหมาะสมมากเกินไป ปัญหาก็คือโมเดลจะต้องบรรลุการทำให้ข้อมูลเป็นนามธรรมในพื้นที่มิติที่สูงกว่า และด้วยปริมาณข้อมูลที่มากกว่าที่จำเป็นเพื่อให้ได้ผลลัพธ์ที่สมจริง

การบรรลุการทำให้ข้อมูลเป็นนามธรรมในระดับนี้มีค่าใช้จ่ายสูงและใช้เวลานาน พื้นที่ 潛在 (ส่วนการวิเคราะห์ทางคณิตศาสตร์ของโมเดลการเรียนรู้ของเครื่องจักรที่ข้อมูลถูกป้อนเข้าไป) จะต้องการทรัพยากรมากขึ้น ฐานข้อมูลจะต้องการการดูแลมากขึ้น และเนื่องจากปริมาณข้อมูลจะต้องมีมาก จึงจำเป็นต้องปรับขนาดและอัตราการจัดตารางให้เหมาะสมสำหรับคุณภาพและส่วนสูงของการทำให้ข้อมูลเป็นนามธรรม มากกว่าความเร็วในการฝึกและเศรษฐกิจ ทำให้ต้องใช้เวลาพัฒนาและค่าใช้จ่ายสูงขึ้น

นอกจากนี้ อัลกอริทึมการสร้างสังเคราะห์ที่ถูกปรับให้เหมาะสมมากเกินไปสามารถสร้างข้อมูลสังเคราะห์ที่มีความสมจริงสูงได้ แม้ว่าข้อมูลที่ผลิตออกมา (เช่น ใบหน้า, แผนที่, ภาพชีวภาพ, ฯลฯ) ไม่ได้เป็นนามธรรมทั้งหมด แต่ก็มีลักษณะที่แตกต่างจากข้อมูลต้นฉบับมากกว่าที่ควรจะเป็น – วิธีการที่น่าดึงดูด แต่ในยุค ‘วิลด์ เวสต์’ ของภาคการเรียนรู้ของเครื่องจักรที่มีทรัพยากรที่จำกัด พยายามที่จะท้าทายการนำของ FAANG ด้วยทรัพยากรที่น้อยกว่า (หรือเพื่อให้ได้รับความสนใจในการซื้อขาย) มันทำให้เกิดคำถามว่ามาตรฐานจะสูงถึงระดับนี้หรือไม่

เอกสารยังชี้ว่าความหลากหลายของจุดข้อมูลต้นฉบับ (เช่น ใบหน้า) เองไม่เพียงพอในการป้องกันการระบุตัวตนซ้ำผ่านวิธีการเหล่านี้และวิธีการที่คล้ายกัน เนื่องจากการหยุดการฝึกเร็วเกินไปสามารถทำให้ตัวตนที่มาจากข้อมูลต้นฉบับไม่ถูกทำให้เป็นนามธรรมเพียงพอ