Otomatisasi Perlindungan Hak Cipta dalam Gambar yang Dihasilkan oleh AI

Sebagaimana dibahas minggu lalu, bahkan model fondasi di balik sistem AI generatif populer dapat menghasilkan konten yang melanggar hak cipta, karena kurangnya atau tidak sesuainya kurasi, serta adanya beberapa versi dari gambar yang sama dalam data pelatihan, yang menyebabkan overfitting, dan meningkatkan kemungkinan reproduksi yang dapat dikenali.

Meskipun upaya untuk mendominasi ruang AI generatif, dan tekanan yang meningkat untuk mengurangi pelanggaran hak cipta, platform besar seperti MidJourney dan DALL-E dari OpenAI terus menghadapi tantangan dalam mencegah reproduksi tidak sengaja dari konten yang dilindungi hak cipta:

Kapasitas sistem generatif untuk mereproduksi data yang dilindungi hak cipta sering muncul di media.

Sebagai model baru muncul, dan model China mendominasi, penghapusan konten yang dilindungi hak cipta dari model fondasi adalah prospek yang berat; faktanya, pemimpin pasar OpenAI menyatakan tahun lalu bahwa tidak mungkin ‘mustahil’ untuk membuat model yang efektif dan berguna tanpa data yang dilindungi hak cipta.

Sejarah Sebelumnya

Dalam kaitannya dengan generasi tidak sengaja dari konten yang dilindungi hak cipta, adegan penelitian menghadapi tantangan yang sama dengan inklusi konten NSFW dan konten lain yang tidak pantas dalam data sumber: satu ingin mendapatkan manfaat dari pengetahuan (yaitu, anatomi manusia yang benar, yang secara historis selalu berdasarkan pada studi telanjang) tanpa kemampuan untuk menyalahgunakan itu.

Demikian pula, pembuat model ingin mendapatkan manfaat dari cakupan besar konten yang dilindungi hak cipta yang masuk ke dalam dataset hyperscale seperti LAION, tanpa model mengembangkan kemampuan untuk melanggar hak cipta.

Mengabaikan risiko etika dan hukum dari upaya untuk menyembunyikan penggunaan konten yang dilindungi hak cipta, penyaringan untuk kasus terakhir jauh lebih menantang. Konten NSFW sering mengandung fitur laten yang dapat diidentifikasi yang memungkinkan penyaringan yang semakin efektif tanpa memerlukan perbandingan langsung dengan materi dunia nyata. Di sisi lain, penanaman laten yang mendefinisikan jutaan karya yang dilindungi hak cipta tidak mengurangi menjadi satu set penanda yang dapat diidentifikasi dengan mudah, membuat deteksi otomatis jauh lebih kompleks.

CopyJudge

Penghakiman manusia adalah komoditas yang langka dan mahal, baik dalam kurasi dataset maupun dalam pembuatan filter pasca-proses dan sistem ‘keamanan’ yang dirancang untuk memastikan bahwa materi yang dikunci IP tidak disampaikan kepada pengguna portal API seperti MidJourney dan kemampuan generasi gambar ChatGPT.

Oleh karena itu, kolaborasi akademis baru antara Swiss, Sony AI, dan Cina menawarkan CopyJudge – metode otomatis untuk mengatur kelompok suksesi ‘hakim’ berbasis ChatGPT yang dapat memeriksa input untuk tanda-tanda pelanggaran hak cipta yang mungkin terjadi.

CopyJudge mengevaluasi berbagai generasi AI yang melanggar hak cipta. Sumber: https://arxiv.org/pdf/2502.15278

CopyJudge secara efektif menawarkan kerangka kerja otomatis yang menggunakan model bahasa-vision besar (LVLMs) untuk menentukan kesamaan substansial antara gambar yang dilindungi hak cipta dan gambar yang dihasilkan oleh model difusi teks-ke-gambar.

Pendekatan CopyJudge menggunakan pembelajaran penguatan dan pendekatan lain untuk mengoptimalkan prompt yang melanggar hak cipta, dan kemudian menggunakan informasi dari prompt tersebut untuk membuat prompt baru yang kurang mungkin memicu gambar hak cipta.

Meskipun banyak generator gambar AI berbasis online menyaring prompt pengguna untuk konten NSFW, materi yang dilindungi hak cipta, rekreasi orang nyata, dan domain lain yang dilarang, CopyJudge menggunakan prompt ‘melanggar’ yang rafinasi untuk membuat prompt ‘steril’ yang paling tidak mungkin memicu gambar yang dilarang, tanpa niat untuk langsung memblokir input pengguna.

Meskipun ini bukanlah pendekatan baru, ini membantu membebaskan sistem generatif berbasis API dari sekadar menolak input pengguna (tidak kurang karena ini memungkinkan pengguna mengembangkan akses belakang ke generasi yang dilarang, melalui eksperimen).

Satu contoh pengeksploitan baru-baru ini (yang telah ditutup oleh pengembang) memungkinkan pengguna menghasilkan materi pornografi pada platform AI generatif Kling dengan hanya memasukkan salib atau crucifix yang menonjol dalam gambar yang diunggah dalam alur kerja gambar-ke-video.

Dalam celah yang telah ditambal oleh pengembang Kling pada akhir 2024, pengguna dapat memaksa sistem untuk menghasilkan output NSFW yang dilarang dengan hanya memasukkan salib atau crucifix dalam gambar I2V. Tidak ada penjelasan yang diberikan tentang logika di balik hack yang telah kedaluwarsa ini; kita mungkin tidak pernah tahu! Sumber: Discord

Contoh seperti ini menekankan kebutuhan akan sanitasi prompt dalam sistem generatif online, terutama karena unlearning mesin, di mana model fondasi itu sendiri diubah untuk menghapus konsep yang dilarang, dapat memiliki efek yang tidak diinginkan pada kemampuan model akhir.

CopyJudge secara efektif menawarkan kerangka kerja otomatis yang menggunakan AI untuk memecah gambar menjadi elemen kunci seperti komposisi dan warna, untuk menyaring bagian yang tidak dapat dilindungi hak cipta, dan membandingkan apa yang tersisa. Ini juga mencakup metode AI yang digerakkan untuk menyesuaikan prompt dan memodifikasi generasi gambar, membantu menghindari masalah hak cipta sambil mempertahankan konten kreatif.

Hasil eksperimental, penulis menyatakan, menunjukkan kesetaraan CopyJudge dengan pendekatan state-of-the-art dalam upaya ini, dan menunjukkan bahwa sistem ini menunjukkan generalisasi dan interpretasi yang unggul, dibandingkan dengan karya sebelumnya.

Makalah baru ini berjudul CopyJudge: Identifikasi dan Mitigasi Pelanggaran Hak Cipta Otomatis dalam Model Difusi Teks-ke-Gambar, dan berasal dari lima peneliti di EPFL, Sony AI, dan Universitas Westlake Cina.

Metode

Meskipun CopyJudge menggunakan GPT untuk membuat tim ‘hakim’ otomatis yang bergulir, penulis menekankan bahwa sistem ini tidak dioptimalkan untuk produk OpenAI, dan bahwa sejumlah besar Model Bahasa-Vision Besar (LVLMs) alternatif dapat digunakan sebagai gantinya.

Pada awalnya, kerangka kerja abstraksi-filtrasi-perbandingan penulis diperlukan untuk memecah gambar sumber menjadi bagian-bagian konstituen, sebagaimana diilustrasikan pada sisi kiri skema di bawah:

Skema konseptual untuk fase awal alur kerja CopyJudge.

Di sudut kiri bawah kita melihat agen penyaring yang memecah bagian-bagian gambar dalam upaya untuk mengidentifikasi karakteristik yang mungkin asli dari karya yang dilindungi hak cipta, tetapi yang secara mandiri terlalu umum untuk memenuhi syarat sebagai pelanggaran.

Beberapa LVLM kemudian digunakan untuk mengevaluasi elemen yang disaring – pendekatan yang telah terbukti efektif dalam makalah seperti penawaran Improving Factuality and Reasoning in Language Models through Multiagent Debate dari CSAIL 2023, dan ChatEval, di antara yang lain yang diakui dalam makalah baru.

Penulis menyatakan:

‘[Kami] mengadopsi pendekatan debat sinkron yang sepenuhnya terhubung, di mana setiap LVLM menerima [tanggapan] dari [LVLM lain] sebelum membuat penilaian berikutnya. Ini menciptakan loop umpan balik dinamis yang memperkuat keandalan dan kedalaman analisis, karena model menyesuaikan evaluasi mereka berdasarkan wawasan baru yang disajikan oleh rekan-rekan mereka.

‘Setiap LVLM dapat menyesuaikan skor mereka berdasarkan tanggapan dari LVLM lain atau membiarkannya tidak berubah.’

Beberapa pasang gambar yang dinilai oleh manusia juga disertakan dalam proses melalui pembelajaran konteks sedikit.

Mitigasi

Selanjutnya, penulis berkonsentrasi pada proses mitigasi prompt yang dijelaskan sebelumnya.

Skema CopyJudge untuk mitigasi pelanggaran hak cipta dengan memperbarui prompt dan kebisingan laten. Sistem menyesuaikan prompt secara iteratif, menggunakan pembelajaran penguatan untuk memodifikasi variabel laten saat prompt berkembang, dengan harapan mengurangi risiko pelanggaran.

Dua metode yang digunakan untuk mitigasi prompt adalah kontrol prompt berbasis LVLM, di mana prompt non-pelanggar yang efektif dikembangkan secara iteratif melalui klaster GPT – pendekatan yang sepenuhnya ‘black box’, yang tidak memerlukan akses internal ke arsitektur model; dan pendekatan berbasis pembelajaran penguatan (RL), di mana hadiah dirancang untuk menghukum output yang melanggar hak cipta.

Data dan Pengujian

Untuk menguji CopyJudge, berbagai dataset digunakan, termasuk D-Rep, yang berisi pasangan gambar nyata dan palsu yang dinilai oleh manusia dengan peringkat 0-5.

Mengexplorasi dataset D-Rep di Hugging Face. Koleksi ini memasangkan gambar nyata dan yang dihasilkan. Sumber: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

Skema CopyJudge mempertimbangkan gambar D-Rep yang dinilai 4 atau lebih sebagai contoh pelanggaran, dengan yang lain diadakan sebagai contoh non-IP-relevant. 4000 gambar resmi dalam dataset digunakan sebagai gambar uji. Selanjutnya, peneliti memilih dan mengkurasi gambar untuk 10 karakter kartun terkenal dari Wikipedia.

Tiga arsitektur difusi yang digunakan untuk menghasilkan gambar yang mungkin melanggar hak cipta adalah Stable Diffusion V2; Kandinsky2-2; dan Stable Diffusion XL. Penulis secara manual memilih gambar yang melanggar dan tidak melanggar dari masing-masing model, menghasilkan 60 sampel positif dan 60 sampel negatif.

Metode baseline yang dipilih untuk perbandingan adalah: L₂ norm; Learned Perceptual Image Patch Similarity (LPIPS); SSCD; RLCP; dan PDF-Emb. Untuk metrik, Akurasi dan F1 score digunakan sebagai kriteria untuk pelanggaran.

GPT-4o digunakan untuk mempopulasi tim debat internal CopyJudge, menggunakan tiga agen untuk maksimal lima iterasi pada gambar yang dikirimkan. Tiga gambar acak dari setiap peringkat dalam D-Rep digunakan sebagai prior manusia untuk agen-agen tersebut.

Hasil pelanggaran untuk CopyJudge pada putaran pertama.

Dari hasil ini penulis mengomentari:

‘[Ini] jelas bahwa metode deteksi gambar tradisional menunjukkan keterbatasan dalam tugas identifikasi pelanggaran hak cipta. Pendekatan kami secara signifikan outperforms sebagian besar metode. Untuk metode state-of-the-art, PDF-Emb, yang dilatih pada 36.000 sampel dari D-Rep, kinerja kami pada D-Rep sedikit lebih rendah.

‘Namun, kinerja yang buruk pada dataset Kartun IP dan Karya Seni menyoroti kekurangan kemampuan generalisasi, sedangkan metode kami menunjukkan hasil yang sangat baik di seluruh dataset.’

Penulis juga mencatat bahwa CopyJudge menyediakan ‘relatif’ batas yang lebih jelas antara kasus yang valid dan melanggar:

Contoh lebih lanjut dari putaran pengujian, dalam materi tambahan dari makalah baru.

Peneliti membandingkan metode mereka dengan kolaborasi yang melibatkan Sony AI dari 2024 yang berjudul Detecting, Explaining, and Mitigating Memorization in Diffusion Models. Karya ini menggunakan model Stable Diffusion yang difinisikan dengan baik yang menampilkan 200 gambar yang diingat (yaitu, overfitted), untuk menghasilkan data yang dilindungi hak cipta pada waktu inferensi.

Penulis karya baru menemukan bahwa metode mitigasi prompt mereka, dibandingkan dengan pendekatan 2024, dapat menghasilkan gambar yang kurang mungkin menyebabkan pelanggaran.

Hasil mitigasi memorisasi dengan CopyJudge dibandingkan dengan karya 2024.

Penulis mengomentari di sini:

‘[Pendekatan] kami dapat menghasilkan gambar yang kurang mungkin menyebabkan pelanggaran sambil mempertahankan akurasi pencocokan yang setara, sedikit berkurang. Seperti yang ditunjukkan [di bawah], metode kami secara efektif menghindari kelemahan metode sebelumnya, termasuk kegagalan untuk memitigasi memorisasi atau menghasilkan gambar yang sangat menyimpang.’

Perbandingan gambar yang dihasilkan dan prompt sebelum dan sesudah mitigasi memorisasi.

Penulis menjalankan pengujian lebih lanjut terkait mitigasi pelanggaran, mempelajari eksplisit dan implisit pelanggaran.

Pelanggaran Eksplisit terjadi ketika prompt secara langsung merujuk pada konten yang dilindungi hak cipta, seperti ‘Buat gambar Mickey Mouse’. Untuk menguji ini, peneliti menggunakan 20 sampel kartun dan karya seni, menghasilkan gambar yang melanggar dalam Stable Diffusion v2 dengan prompt yang secara eksplisit menyertakan nama atau atribusi pengarang.

Perbandingan antara metode Kontrol Laten (LC) penulis dan metode Kontrol Prompt (PC) karya sebelumnya, dalam berbagai variasi, menggunakan Stable Diffusion untuk membuat gambar yang menggambarkan pelanggaran eksplisit.

Pelanggaran Implisit terjadi ketika prompt tidak memiliki referensi hak cipta eksplisit tetapi masih menghasilkan gambar yang melanggar karena elemen deskriptif tertentu – skenario yang sangat relevan dengan model teks-ke-gambar komersial, yang sering mengincorporasi sistem deteksi konten untuk mengidentifikasi dan memblokir prompt yang terkait dengan hak cipta.

Untuk mengeksplorasi ini, penulis menggunakan sampel IP-terkunci yang sama seperti dalam pengujian pelanggaran eksplisit, tetapi menghasilkan gambar yang melanggar tanpa referensi hak cipta langsung, menggunakan DALL-E 3 (meskipun makalah tersebut mencatat bahwa modul deteksi keamanan bawaan model ini diamati menolak prompt tertentu yang memicu filternya).

Pelanggaran implisit menggunakan DALLE-3, dengan skor pelanggaran dan CLIP.

Penulis menyatakan:

‘[Ini] dapat dilihat bahwa metode kami secara signifikan mengurangi kemungkinan pelanggaran, baik untuk pelanggaran eksplisit dan implisit, dengan hanya sedikit penurunan pada Skor CLIP. Skor pelanggaran setelah hanya kontrol laten relatif lebih tinggi daripada setelah kontrol prompt karena mengambil laten non-pelanggar tanpa mengubah prompt itu sendiri cukup menantang. Namun, kami masih dapat secara efektif mengurangi skor pelanggaran sambil mempertahankan kualitas pencocokan gambar-teks yang lebih tinggi.’

‘[Gambar di bawah] menunjukkan hasil visualisasi, di mana dapat dilihat bahwa kami menghindari pelanggaran hak cipta sambil mempertahankan kebutuhan pengguna.’

Gambar yang dihasilkan sebelum dan sesudah mitigasi pelanggaran hak cipta.

Kesimpulan

Meskipun studi ini menyajikan pendekatan yang menjanjikan untuk perlindungan hak cipta dalam gambar yang dihasilkan oleh AI, ketergantungan pada model bahasa-vision besar (LVLMs) untuk deteksi pelanggaran dapat menimbulkan kekhawatiran tentang bias dan konsistensi, karena penghakiman AI yang didorong tidak selalu selaras dengan standar hukum.

Yang paling penting, proyek ini juga mengasumsikan bahwa penegakan hak cipta dapat diotomatisasi, meskipun keputusan hukum dunia nyata sering melibatkan faktor subjektif dan kontekstual yang AI mungkin sulit untuk menafsirkan.

Di dunia nyata, otomatisasi konsensus hukum, terutama seputar output AI, tampaknya akan tetap menjadi masalah yang diperdebatkan jauh melampaui waktu ini, dan jauh melampaui ruang lingkup domain yang ditangani dalam karya ini.

Dipublikasikan pertama kali pada hari Senin, 24 Februari 2025