รูปภาพที่ ‘ป้องกัน’ นั้นง่ายต่อการขโมย ไม่ใช่ยากกว่า โดยใช้ AI

การวิจัยใหม่ชี้ให้เห็นว่าเครื่องมือการทำเครื่องหมายที่มีจุดมุ่งหมายเพื่อขัดขวางการแก้ไขภาพ AI อาจมีผลตรงกันข้าม แทนที่จะหยุดโมเดล เช่น Stable Diffusion จากการแก้ไขภาพ แต่การป้องกันบางอย่างช่วยให้ AI ติดตามคำแนะนำในการแก้ไขได้ดีขึ้น ทำให้การแก้ไขที่ไม่พึงประสงค์ง่ายขึ้น

มีงานวิจัยที่มีแนวคิดที่เข้มแข็งในด้านการมองเห็นของคอมพิวเตอร์ที่มุ่งเน้นไปที่การปกป้องภาพลิขสิทธิ์จากการฝึกอบรมโมเดล AI หรือการใช้กระบวนการ AI ที่เกี่ยวข้องกับภาพโดยตรง ระบบเหล่านี้มักมุ่งเป้าไปที่ Latent Diffusion Models (LDMs) เช่น Stable Diffusion และ Flux ซึ่งใช้กระบวนการ ที่อาศัยความผิดปกติ เพื่อเข้ารหัสและถอดรหัสภาพ

โดย การใส่ความผิดปกติที่เป็นอันตราย ลงในภาพที่ดูเหมือนปกติ สามารถทำให้เครื่องตรวจจับภาพ คาดเดาเนื้อหาของภาพไม่ถูกต้อง และขัดขวางระบบการสร้างภาพจากการใช้ข้อมูลลิขสิทธิ์:

จากงานวิจัยของ MIT ‘Raising the Cost of Malicious AI-Powered Image Editing’ ตัวอย่างของภาพต้นฉบับที่ ‘ป้องกัน’ ไม่ให้ถูกแก้ไข (แถวล่าง) Source: https://arxiv.org/pdf/2302.06588

นับตั้งแต่ การฟันเฟืองของศิลปิน ต่อการใช้ภาพที่สแกนจากเว็บโดย Stable Diffusion ในปี 2023 สภาพแวดล้อมการวิจัยได้สร้างการเปลี่ยนแปลงหลายอย่างในแนวคิดเดียวกัน – ความคิดที่ว่าภาพสามารถถูก ‘ปิดใช้งาน’ เพื่อป้องกันไม่ให้ถูกฝึกอบรมหรือใช้ในกระบวนการ AI ที่สร้างภาพโดยไม่ส่งผลเสียต่อคุณภาพของภาพสำหรับผู้ชมโดยทั่วไป

ในกรณีทั้งหมด มีความสัมพันธ์โดยตรงระหว่างความเข้มข้นของการเปลี่ยนแปลงที่บังคับใช้ และระดับที่ภาพได้รับการปกป้อง และระดับที่ภาพไม่ได้ดูเหมือนเดิม:

แม้ว่าคุณภาพของเอกสารวิจัยไม่ได้แสดงปัญหาได้อย่างสมบูรณ์ แต่การเพิ่มความผิดปกติจะเสียคุณภาพเพื่อความปลอดภัย ตัวอย่างนี้แสดงการเปลี่ยนแปลงคุณภาพในโครงการ ‘Fawkes’ ของมหาวิทยาลัยชิคาโกในปี 2020 Source: https://arxiv.org/pdf/2002.08327

โดยเฉพาะอย่างยิ่งสำหรับศิลปินที่ต้องการปกป้องสไตล์ของตนจากการใช้โดยไม่ได้รับอนุญาต คุณสมบัติของระบบเหล่านี้ไม่เพียงแต่ ทำให้ข้อมูลที่ไม่พึงประสงค์ไม่สามารถเข้าถึงได้ แต่ยัง ‘ชักชวน’ ให้กระบวนการฝึกอบรม AI เชื่อว่ากำลังเห็นบางสิ่งที่ไม่ใช่ความเป็นจริง เพื่อให้ไม่เกิดความเชื่อมโยงระหว่างโดเมนเชิงความหมายและโดเมนเชิงภาพ (เช่น โพรมปต์ ‘ในแบบของ Paul Klee’)

Mist และ Glaze เป็นวิธีการฉีดที่ได้รับความนิยมซึ่งสามารถป้องกันหรือยับยั้งการพยายามใช้สไตล์ลิขสิทธิ์ในกระบวนการ AI และการฝึกอบรม Source: https://arxiv.org/pdf/2506.04394

การทำประตูของตัวเอง

ตอนนี้ การวิจัยใหม่จากสหรัฐอเมริกาพบว่าไม่เพียงแต่การเปลี่ยนแปลงสามารถล้มเหลวในการปกป้องภาพ แต่ยังช่วยให้การเปลี่ยนแปลงภาพ AI ในกระบวนการที่การเปลี่ยนแปลงนั้นหมายถึงการ ‘ป้องกัน’ ได้ดีขึ้น

เอกสารวิจัยระบุว่า:

‘ใน实验ของเราเกี่ยวกับวิธีการปกป้องภาพโดยใช้การเปลี่ยนแปลงที่บังคับใช้หลายวิธีในหลายโดเมน (ภาพทิวทัศน์ธรรมชาติและงานศิลปะ) และงานแก้ไข (การสร้างภาพจากภาพและการแก้ไขสไตล์) เราพบว่าการป้องกันไม่ได้ทำตามเป้าหมายนี้อย่างสมบูรณ์

‘ในสถานการณ์ส่วนใหญ่ การแก้ไขภาพโดยใช้กระบวนการ扩散จะสร้างภาพผลลัพธ์ที่ต้องการซึ่งปฏิบัติตามคำแนะนำในการแก้ไขอย่างแม่นยำ’

‘ผลการวิจัยของเราบ่งชี้ว่าการเพิ่มความผิดปกติลงในภาพอาจทำให้เกิดผลกระทบในทางตรงกันข้าม โดยการเพิ่มความสัมพันธ์ระหว่างภาพกับคำแนะนำในการสร้างภาพระหว่างกระบวนการสร้างภาพ ส่งผลให้เกิดการแก้ไขที่ดีขึ้น’

‘ดังนั้น เราแย้งว่าวิธีการที่อาศัยการเปลี่ยนแปลงอาจไม่ได้ให้การปกป้องภาพที่มั่นคงในการแก้ไขโดยใช้กระบวนการ扩散’

ในการทดสอบ ภาพที่ได้รับการปกป้องถูกส่งผ่านสองสถานการณ์การแก้ไข AI ที่คุ้นเคย: การสร้างภาพจากภาพและการถ่ายโอนสไตล์

วิธีการ

ผู้วิจัยได้ทดสอบวิธีการป้องกันสามวิธีที่ใช้การเปลี่ยนแปลงที่บังคับใช้แบบพิเศษ: PhotoGuard; Mist; และ Glaze

Glaze หนึ่งในเฟรมเวิร์กที่ผู้วิจัยทดสอบ โดยแสดงตัวอย่างการป้องกันของ Glaze สำหรับศิลปินสามคน https://arxiv.org/pdf/2302.04222

ความคิดที่ขัดแย้ง

มาตรการ

การโจมตีด้านศิลปะ

สรุป

งานวิจัยชี้ให้เห็นว่าการเปลี่ยนแปลงที่บังคับใช้ไม่ได้ให้การปกป้องที่มั่นคงในการแก้ไขภาพโดยใช้กระบวนการ扩散

การวิจัยใหม่นี้พบว่าการเปลี่ยนแปลงที่บังคับใช้สามารถเพิ่มความสัมพันธ์ระหว่างภาพกับคำแนะนำในการสร้างภาพระหว่างกระบวนการสร้างภาพ ส่งผลให้เกิดการแก้ไขที่ดีขึ้น

ผู้วิจัยแนะนำว่าวิธีการป้องกันที่ใช้การเปลี่ยนแปลงที่บังคับใช้อาจไม่ได้ให้การปกป้องที่มั่นคง และควรทดสอบวิธีการเหล่านี้อย่างละเอียด

การวิจัยนี้ชี้ให้เห็นว่าการเปลี่ยนแปลงที่บังคับใช้ไม่ได้ให้การปกป้องที่มั่นคง และควรพัฒนาวิธีการป้องกันที่มีประสิทธิภาพมากกว่านี้