Mengidentifikasi Kembali Data Sumber untuk Generator GAN

Penelitian baru dari Prancis telah mengusulkan suatu teknik untuk ‘mengidentifikasi kembali’ identitas sumber yang telah berkontribusi pada data yang dihasilkan secara sintetis, seperti ‘orang yang tidak ada’ yang dihasilkan oleh proyek penghasil wajah seperti This Person Does Not Exist.

Metode yang diuraikan dalam makalah, yang berjudul This Person (Probably) Exists. Identity Membership Attacks Against GAN Generated Faces, tidak memerlukan (yang tidak mungkin) akses ke arsitektur pelatihan atau data model, dan dapat diterapkan pada berbagai aplikasi yang menggunakan Jaringan Adversarial Generatif (GANs) sebagai metode untuk meng-anonimkan informasi pribadi yang dapat diidentifikasi (PII), atau sebagai sarana untuk menghasilkan data sintetis sambil melindungi materi sumber.

Peneliti telah merumuskan suatu metode yang disebut Identity Membership Attack, yang mengevaluasi kemungkinan suatu identitas tunggal muncul sering dalam dataset yang berkontribusi, bukan mencoba untuk memfokuskan pada karakteristik tertentu dari suatu identitas (yaitu pada grup piksel dari gambar asli yang digunakan untuk melatih model generatif).

Sumber: https://arxiv.org/pdf/2107.06018.pdf

Pada gambar di atas, dari penelitian, setiap baris dimulai dengan gambar yang dihasilkan oleh StyleGAN. Blok gambar kiri dibuat dari database 40.000 gambar, tengah dari 80.000 dan blok kanan dari 46.000 gambar. Semua gambar berasal dari dataset VGG2Face2.

Beberapa sampel memiliki kemiripan yang singkat, sementara yang lain sangat berkorelasi dengan data pelatihan. Wajah-wajah tersebut berhasil diidentifikasi oleh peneliti menggunakan jaringan identifikasi wajah.

Lebih dari Nilai Wajah

Pendekatan re-identifikasi seperti ini memiliki implikasi yang luas di berbagai bidang penelitian; peneliti, yang berbasis di Universitas Caen di Normandy, menekankan bahwa teknik mereka tidak terbatas pada face-sets dan kerangka GAN penghasil wajah, tetapi juga sama-sama berlaku untuk dataset citra medis dan data biometrik, di antara permukaan serangan lainnya dalam kerangka sintesis gambar.

‘Kami percaya bahwa jika berhasil, serangan seperti itu akan mengungkapkan sebagai hambatan serius untuk pertukaran GAN yang aman dalam konteks yang sensitif. Sebagai contoh, dalam konteks lukisan atau karya seni lainnya, mendistribusikan generator non-pribadi mungkin akan dilarang karena masalah hak cipta yang jelas. Lebih penting lagi, pertimbangkan perusahaan biometrik A yang merilis generator yang mengungkapkan identitas konsumennya. Perusahaan B lainnya dapat mendeteksi konsumen mana dari konsumen mereka yang juga klien perusahaan A. Situasi serupa dapat menimbulkan masalah serius untuk data medis, di mana mengungkapkan GAN dapat melanggar informasi pribadi tentang penyakit pasien.’

Mengidentifikasi Kembali Data yang Diambil Secara Ilegal atau Pribadi

Meskipun makalah hanya menyentuh ringan pada topik ini, kemampuan untuk mengidentifikasi data sumber asli dari output yang diabstraksi (seperti wajah yang dihasilkan oleh GAN, meskipun ini berlaku sama untuk sistem encoder/decoder dan arsitektur lainnya) memiliki implikasi yang signifikan untuk implementasi perlindungan hak cipta selama 5-10 tahun ke depan.

Saat ini sebagian besar negara mengoperasikan pendekatan laissez faire terhadap pengambilan data web yang menghadap ke publik untuk tidak ketinggalan dalam tahap pengembangan ekonomi pembelajaran mesin yang akan datang. Ketika iklim ini dikomersialisasikan dan dikonsolidasikan, ada potensi signifikan untuk munculnya generasi baru ‘Data Trolls’ yang dapat mengajukan klaim hak cipta pada gambar yang dikonfirmasi telah digunakan secara historis dalam dataset yang telah berkontribusi pada algoritma pembelajaran mesin.

Ketika algoritma yang dikembangkan matang dan menjadi lebih berharga dengan waktu, setiap gambar yang tidak diizinkan yang digunakan dalam pengembangan awal, dan yang dapat disimpulkan dari outputnya dengan metode serupa dengan yang diusulkan dalam makalah Prancis baru, adalah potensi tanggung jawab hukum pada skala SCO Vs IBM (gugatan teknologi legendaris yang terus mengancam sistem operasi Linux).

Menggunakan Jalan Buntu Meksiko dari Keanekaragaman vs Frekuensi

Teknik utama yang digunakan oleh peneliti Prancis memanfaatkan frekuensi gambar asli dalam dataset sebagai kunci untuk re-identifikasi. Semakin sering suatu identitas muncul dalam dataset, semakin mungkin bahwa identitas asli dapat diidentifikasi dengan mengorelasikan hasil serangan dengan dataset yang tersedia secara publik atau pribadi.

Peneliti mencatat bahwa ini dapat diminimalkan dengan memasukkan keanekaragaman data yang jauh lebih besar (misalnya, wajah) dalam dataset sumber, dan dengan tidak melatih dataset selama sehingga overfitting terjadi. Masalahnya adalah bahwa model harus mencapai abstraksi yang baik dalam ruang dimensi yang jauh lebih tinggi, dan dengan jumlah data yang jauh lebih besar dari yang secara ketat diperlukan untuk mendapatkan hasil sintetis yang masuk akal.

Untuk mencapai generalisasi optimum dari jenis ini memerlukan biaya dan waktu yang besar; ruang laten (bagian analisis formula dari model pembelajaran mesin yang data dimasukkan) akan memerlukan sumber daya yang lebih banyak; dataset akan memerlukan kurasi yang lebih banyak; dan karena jumlah data akan memerlukan signifikan, ukuran batch dan penjadwalan tarif harus dioptimalkan untuk kualitas dan tingkat generalisasi yang tinggi, bukan kecepatan pelatihan dan ekonomi, membuat biaya pengembangan yang lebih tinggi dan waktu pengembangan yang lebih lama.

Lagipula, algoritma generatif yang overfit dapat mencapai data sintetis yang sangat realistis, bahkan jika data output (yaitu wajah, peta, gambar biomedis, dll.) tidak sepenuhnya abstrak, tetapi memiliki ciri-ciri yang lebih besar dari data sumber daripada yang diinginkan – jalan pintas yang menggoda. Dalam iklim ‘wild west’ sektor pembelajaran mesin saat ini, di mana inisiatif yang lebih kecil mencoba menantang FAANG dengan sumber daya yang lebih sedikit (atau mendapatkan perhatian untuk pembelian), itu dipertanyakan apakah standar selalu meningkat setinggi ini.

Makalah juga mengamati bahwa keanekaragaman titik data sumber (seperti wajah) tidak cukup oleh itself untuk mencegah re-identifikasi melalui metode ini dan serupa, karena penghentian awal pelatihan dapat meninggalkan identitas sumber yang tidak cukup diabstraksi.