Identitas Asli Dapat Dipulihkan Dari Dataset Sintetis

Jika tahun 2022 menandai saat potensi gangguan kecerdasan buatan (AI) pertama kali menarik perhatian luas, tahun 2024 telah menjadi tahun ketika pertanyaan tentang legalitas data yang mendasarinya telah menjadi pusat perhatian bagi bisnis yang ingin memanfaatkan kekuatannya.

Doktrin penggunaan wajar di Amerika Serikat, bersama dengan lisensi akademis implisit yang telah lama memungkinkan sektor penelitian akademis dan komersial untuk mengeksplorasi kecerdasan buatan, menjadi semakin tidak dapat dipertahankan karena bukti plagiat yang semakin banyak muncul. Selanjutnya, Amerika Serikat, untuk saat ini, telah melarang konten yang dihasilkan AI untuk dilindungi hak cipta.

Masalah ini jauh dari selesai, dan jauh dari diselesaikan dalam waktu dekat; pada tahun 2023, sebagian karena meningkatnya perhatian media dan publik tentang status hukum keluaran AI, Kantor Hak Cipta AS meluncurkan penyelidikan jangka panjang tentang aspek kecerdasan buatan ini, menerbitkan segmen pertama (mengenai replika digital) pada Juli 2024.

Sementara itu, kepentingan bisnis tetap frustrasi oleh kemungkinan bahwa model mahal yang mereka inginkan untuk dimanfaatkan dapat memaparkan mereka pada konsekuensi hukum ketika legislasi dan definisi yang pasti akhirnya muncul.

Solusi jangka pendek yang mahal telah menjadi cara untuk melegitimasi model generatif dengan melatihnya pada data yang perusahaan memiliki hak untuk mengeksploitasi. Arsitektur Firefly Adobe, yang berbasis teks-ke-gambar (dan sekarang teks-ke-video), didukung terutama oleh pembelian dataset gambar stok Fotolia pada tahun 2014, dilengkapi dengan penggunaan data domain umum yang telah kedaluwarsa hak ciptanya.

Solusi Sintetis

Menghapus data berhak cipta dari ruang laten model AI adalah penuh dengan masalah, kesalahan dalam area ini dapat sangat mahal bagi perusahaan yang bereksperimen dengan solusi konsumen dan bisnis yang menggunakan pembelajaran mesin.

Alternatif yang jauh lebih murah untuk sistem penglihatan komputer (dan juga Model Bahasa Besar, atau LLM), adalah penggunaan data sintetis, di mana dataset terdiri dari contoh acak dari domain target (seperti wajah, kucing, gereja, atau bahkan dataset yang lebih umum).

Situs seperti thispersondoesnotexist.com telah lama mempopulerkan gagasan bahwa foto yang terlihat asli dari ‘orang tidak nyata’ dapat disintesis (dalam kasus ini, melalui Jaringan Adversarial Generatif, atau GAN) tanpa memiliki hubungan dengan orang yang sebenarnya ada di dunia nyata.

Keseimbangan

Masalahnya adalah sistem yang menghasilkan data sintetis dilatih pada data nyata. Jika jejak data tersebut bocor ke dalam data sintetis, ini berpotensi memberikan bukti bahwa materi terlarang atau tidak sah telah dieksploitasi untuk keuntungan moneter.

Untuk menghindari ini, dan untuk menghasilkan citra yang benar-benar ‘acak’, model tersebut perlu memastikan bahwa mereka telah umum dengan baik. Generalisasi adalah ukuran kemampuan model AI yang dilatih untuk memahami konsep tingkat tinggi (seperti ‘wajah’, ‘pria’, atau ‘wanita’) tanpa mengandalkan data pelatihan yang sebenarnya.

Pengungkapan Wajah

Penelitian baru dari Swiss ini mengklaim sebagai yang pertama untuk menunjukkan bahwa gambar asli yang mendasari data sintetis dapat dipulihkan dari gambar yang dihasilkan yang seharusnya benar-benar acak.

Hasil penelitian ini menunjukkan bahwa ‘pembangkit’ sintetis telah memang memori banyak poin data pelatihan, dalam pencarian mereka untuk granularitas yang lebih besar. Mereka juga menunjukkan bahwa sistem yang mengandalkan data sintetis untuk melindungi produsen AI dari konsekuensi hukum bisa sangat tidak dapat diandalkan dalam hal ini.

Metode, Data, dan Hasil

Wajah yang diingat dalam penelitian ini diungkapkan melalui Serangan Inferensi Keanggotaan. Meskipun konsepnya terdengar rumit, ini cukup menjelaskan dirinya sendiri: menyimpulkan keanggotaan, dalam hal ini, merujuk pada proses mengajukan pertanyaan pada sistem sampai mengungkapkan data yang cocok dengan data yang dicari, atau sangat mirip dengannya.

Peneliti mempelajari enam dataset sintetis untuk mana sumber dataset nyata telah diketahui. Karena baik dataset nyata maupun dataset sintetis yang dipertanyakan berisi volume gambar yang sangat tinggi, ini secara efektif seperti mencari jarum di tumpukan jerami.

Penulis menggunakan model pengenalan wajah siap pakai dengan tulang punggung ResNet100 yang dilatih pada fungsi kerugian AdaFace (pada dataset WebFace12M).

Enam dataset sintetis yang digunakan adalah: DCFace (model difusi laten); IDiff-Face (model difusi seragam berdasarkan FFHQ); IDiff-Face (dua tahap – varian yang menggunakan metode sampling yang berbeda); GANDiffFace (berdasarkan Jaringan Adversarial Generatif dan model difusi, menggunakan StyleGAN3 untuk menghasilkan identitas awal, dan kemudian DreamBooth untuk membuat contoh yang bervariasi); IDNet (metode GAN, berdasarkan StyleGAN-ADA); dan SFace (kerangka kerja yang melindungi identitas).

Kesimpulan

Baru-baru ini, perhatian media telah menekankan pada hasil yang menurun yang diperoleh dengan melatih model AI pada data yang dihasilkan AI.

Penelitian Swiss baru ini, bagaimanapun, membawa perhatian pada pertimbangan yang mungkin lebih mendesak bagi sejumlah perusahaan yang ingin memanfaatkan dan menguntungkan dari kecerdasan buatan – persistensi pola data yang dilindungi hak cipta atau tidak sah, bahkan dalam dataset yang dirancang untuk melawan praktik ini. Jika kita harus memberinya definisi, dalam hal ini mungkin disebut ‘pencucian wajah’.

* Namun, keputusan Adobe untuk mengizinkan pengguna mengunggah gambar yang dihasilkan AI ke Adobe Stock telah secara efektif melemahkan ‘kesucian’ hukum dari data ini. Bloomberg berpendapat pada April 2024 bahwa gambar yang dihasilkan pengguna dari sistem AI MidJourney telah dimasukkan ke dalam kemampuan Firefly.

† Model ini tidak diidentifikasi dalam makalah.

Pertama kali diterbitkan pada Rabu, 6 November 2024