Memberikan ‘Identitas Rahasia’ kepada Karakter Animasi Berhak Cipta

Penelitian baru dari Tiongkok menawarkan cara non-invasif untuk melindungi karakter animasi berhak cipta dengan ‘menyuntikkan’ pengganti generik pada saat inferensi. Tapi apakah metode ini dapat mengalahkan kecerdasan prompt-hackers?

Mengingat jumlah material berhak cipta yang hadir dalam dataset hyperskala (karena biaya besar untuk membersihkan pelanggaran tersebut), model yang dilatih pada dataset tersebut cenderung dapat menghasilkan kembali karakter berhak cipta.

Pengeditan langsung model yang dilatih atau penggunaan filter untuk menangkap kata kunci saat model diakses melalui API, sering kali dapat diatasi dengan menggambarkan elemen berhak cipta secara tidak langsung:

Karakter berhak cipta yang dihasilkan oleh chatbot AI populer, tampaknya tanpa penyebutan langsung nama karakter. Sumber

Dalam penelitian yang kuat dan persisten, teknik modifikasi model telah mencoba untuk mengubah parameter dalam model yang dilatih, dengan hasil yang bervariasi:

Dari makalah 2023 Ablating Concepts in Text-to-Image Diffusion Models, representasi fotorealistik aktris Brie Larson sebagai ‘Captain Marvel’ – yang terintegrasi dalam model difusi populer – diubah menjadi gambar kartun yang terkait longgar ketika diminta oleh pengguna. Sumber

Namun, ablasio biasanya merupakan proses yang merusak dan tidak tepat, dan dapat sering mempengaruhi karakteristik lain dari model yang dilatih; selain itu, ada beberapa cara untuk menghindarinya.

Pendekatan lain yang populer adalah ‘prompt negatif’, di mana prompt tambahan ‘anti-prompt’ dikirim ke model, dirancang untuk membatasi output. Ketika model diakses melalui API, ‘prompt negatif’ rahasia dapat dikirim bersama dengan prompt pengguna yang diketahui, yang terdiri dari rubrik yang dirancang untuk mencegah model menyediakan materi terlarang kepada pengguna. Pendekatan ini, meskipun populer sebagai vektor perlindungan hak cipta, tidak selalu berhasil.

Kebanyakan pekerjaan seputar sensor pasca-fakta inferensi lebih fokus pada isu yang lebih luas untuk memastikan model tidak menghasilkan CSAM, atau materi NSFW apa pun, meskipun jumlah besar materi tersebut mungkin telah hadir dalam data pelatihan model besar. Inisiatif tersebut dapat mempengaruhi kelas konten secara keseluruhan, bukan instance tertentu, dan biasanya kekurangan nuansa yang diperlukan untuk menangani kekhawatiran pemegang hak cipta yang mencari untuk menekan identitas tertentu.

Body Doubles

Dengan ini, makalah baru dari Tiongkok mengusulkan menggantikan karakter animasi berhak cipta selama generasi gambar dengan pengganti generik yang dipelajari – ‘double’ yang mempertahankan bentuk dan struktur karakter, sambil menghilangkan detail khas yang terkait dengan karakter yang dilindungi:

Representasi ‘anonim’ dari materi berhak cipta yang hadir dan dapat diakses dalam model yang dilatih, yang dicapai oleh metode penyematan baru. Sumber

Yang penting, intervensi ini terjadi selama generasi tanpa memodifikasi atau menyetel ulang model difusi yang mendasarinya, dan dapat disesuaikan untuk menentukan seberapa luas karakter asli dihapus.

Pendekatan ini secara implisit mengakui bahwa modifikasi model adalah metode yang buruk untuk tujuan ini, dan sebagai gantinya menyuntikkan penyematan yang dirancang ke dalam proses inferensi – penyematan yang dirancang untuk ‘mengubah’ daripada menghilangkan (mengatur menjadi nol, menghapus) aset berhak cipta. Proses ini tidak secara langsung mempengaruhi atau memodifikasi model dasar sama sekali, dan dengan demikian dapat digunakan kembali atau disesuaikan di seluruh berbagai model.

Meskipun metode ini diuji oleh penulis pada model Stable Diffusion yang lebih lama, metode ini juga berhasil dicoba pada arsitektur Z-Image yang lebih baru, menunjukkan bahwa konsep penulis dapat diterapkan di seluruh berbagai arsitektur generatif.

Makalah tersebut menyatakan:

‘[Kami] mengusulkan metode yang dapat dikendalikan yang beroperasi pada representasi tekstual kontinu model untuk menghapus karakter target selama generasi. Kami [mengoptimalkan] penyematan anchor melalui konstrain struktural dan detail untuk berfungsi sebagai pengganti karakter, kemudian [menggantikan] penyematan terkait target dengan anchor melalui strategi adaptif yang menyadari struktur.

‘Eksperimen menunjukkan bahwa metode kami mencapai efektivitas penghapusan yang paling tinggi dan preservasi keaslian gambar, sementara mendukung derajat penghapusan yang dapat dikendalikan, penghapusan multi-target, dan transferabilitas model.

‘Selain itu, anchor yang dioptimalkan kami adalah plug-and-play dengan baseline modifikasi model saat ini untuk meningkatkan kinerja penghapusan mereka.’

Metode baru ini menjembatani arsitektur yang beragam dan menawarkan kontrol granular, menurut penulis.

Makalah baru ini berjudul Hapus tapi Simpan: Penghapusan Terkontrol Karakter Animasi Berhak Cipta melalui Penyematan Semantik yang Dioptimalkan, dan berasal dari tujuh penulis di Institute of Information Engineering, Chinese Academy of Sciences, dan University of Chinese Academy of Sciences di Beijing.

Metode

Gagasan utama di balik metode baru ini, seperti yang ditunjukkan di bawah, adalah menciptakan pengganti untuk setiap karakter berhak cipta yang mempertahankan bentuk dan struktur umum, sambil menghilangkan detail visual khas yang membuat karakter dapat dikenali – dan kemudian menggunakan pengganti ini selama generasi gambar setiap kali karakter yang dilindungi diminta.

Skema untuk pendekatan baru.

Pengganti, yang disebut penulis sebagai anchor, dirancang untuk mempertahankan cukup bentuk dan struktur asli karakter untuk masuk secara alami ke dalam adegan yang sama, sambil menghilangkan detail yang membuat karakter khas.

Untuk melakukan ini, sistem membandingkan informasi struktural kasar yang dihasilkan untuk karakter asli dengan yang dihasilkan untuk anchor yang sedang dikembangkan, mendorong keduanya menuju bentuk umum yang sama. Gambar referensi dari karakter berhak cipta kemudian digunakan untuk tujuan yang berlawanan, mendorong anchor menjauh dari detail yang dapat dikenali:

Metode untuk membangun pengganti non-infringing untuk karakter berhak cipta. Struktur karakter yang luas dipertahankan sementara detail visual khasnya ditekan, menghasilkan ‘anchor’ yang dioptimalkan untuk digunakan selama generasi.

Anchor yang dihasilkan dengan demikian menempati tanah tengah yang disengaja antara mempertahankan komposisi yang diminta dan menghilangkan identitas yang dilindungi.

Anchor Away

Setelah sifat-sifat ini telah ditetapkan, anchor perlu diterjemahkan menjadi sesuatu yang dapat dipahami oleh model difusi. Istilah Anchor* [sic] kemudian diberi representasi yang dapat dipelajari di dalam penyandi teks CLIP, secara efektif menciptakan kata atau entitas buatan baru, yang maknanya dapat dibentuk tanpa mengubah model generasi gambar yang mendasarinya.

Representasi baru ini disesuaikan berulang kali sesuai dengan tujuan struktural dan detail yang dijelaskan di atas, mengajarkan Anchor* untuk berarti sesuatu yang secara umum berbentuk seperti karakter yang dilindungi, tetapi tanpa penampilan yang dapat dikenali.

Sisa penyandi teks tetap dibekukan selama proses ini, sementara token awal, akhir, dan pengisi yang mengelilingi Anchor* menyediakan konteks yang diperlukan untuk mengubah pseudo-kata baru ini menjadi penyematan akhir yang digunakan selama generasi.

Adaptive Replacement

Selama generasi (inferensi), algoritma mencari prompt yang dikodekan untuk istilah yang terkait dengan karakter yang dilindungi, dan menggantikan penyematan anchor yang dipelajari di tempatnya, sambil menyesuaikan penyematan akhir dan pengisi yang membawa informasi kontekstual.

Untuk mempersiapkan ini, sistem pertama-tama memungkinkan denoising untuk membangun komposisi umum gambar yang diminta, memantau perubahan dalam struktur kasarnya untuk menentukan kapan tata letak tersebut mulai stabil:

Representasi kapan penggantian anchor terjadi selama generasi gambar. Perubahan dalam struktur gambar kasar dilacak sepanjang denoising, dengan penggantian dipicu sekitar titik di mana tata letak keseluruhan mulai stabil, dan detail yang lebih halus mulai muncul.

Dalam gambar di atas, kita melihat transisi ini terjadi sekitar langkah waktu 720, di mana perubahan struktural yang diukur mencapai puncaknya, dan kemudian mulai menurun. Pada titik ini, pengaturan gambar yang luas telah sebagian besar terbentuk, memungkinkan anchor untuk menggantikan karakter yang dilindungi, sambil mengurangi risiko mengganggu komposisi yang telah ditetapkan.

Data dan Tes

Penulis membandingkan pendekatan mereka dengan lima baseline berbasis prompt: Safe Latent Diffusion (SLD); STG; SAFREE; TraSCE; dan Prompt Negatif (NP).

Penyematan anchor yang dioptimalkan juga diintegrasikan ke dalam empat metode modifikasi model yang ada: MACE; UCE; ESD-u; dan AC. Ini dilakukan untuk menguji apakah metode ini dapat meningkatkan kinerja penghapusan karakter.

Untuk evaluasi, dataset yang terdiri dari 80 karakter animasi disusun, yang mencakup 36 karakter antropomorfik; 23 karakter berbentuk hewan; dan 21 dari kategori lain – dengan semua karakter dipilih karena dapat dihasilkan secara andal oleh model difusi.

Seratus gambar kemudian dihasilkan untuk setiap karakter, menggunakan prompt yang dihasilkan oleh GPT-4o.

Stable Diffusion v1.4 digunakan untuk eksperimen utama, dengan transferabilitas juga diuji pada versi Stable Diffusion lainnya v1.5; V2; v2.1; XL base 1.0; dan juga arsitektur Z-Image berbasis DiT yang lebih baru Z-Image. Tidak ada penyetelan halus model yang dilakukan, sehingga parameter setiap model pra-latih tetap tidak berubah.

Untuk metrik, LLaVA-1.5 dan BLIP-3 mengukur apakah karakter target masih dapat dikenali, dengan akurasi identifikasi yang lebih rendah menunjukkan penghapusan yang lebih lengkap; Structural Similarity Index (SSIM) mengukur preservasi struktural; Learned Perceptual Similarity Metrics (LPIPS) mengukur perbedaan perseptual; dan Aesthetic Predictor V2 Score menilai kualitas visual gambar yang diubah.

Fréchet Inception Distance (FID) dan CLIP Score juga dihitung dari prompt yang tidak terkait dalam COCO-30K, untuk mengukur apakah generasi gambar normal telah terpengaruh:

Hasil tes membandingkan metode penghapusan karakter di 80 karakter animasi. Dua kolom pertama mengukur seberapa sering karakter yang seharusnya dihapus masih dapat dikenali, sehingga skor yang lebih rendah menunjukkan penghapusan yang lebih baik. Kolom yang tersisa mengukur seberapa baik gambar asli dan generasi tidak terkait dipertahankan. Panah menunjukkan apakah skor yang lebih tinggi atau lebih rendah lebih disukai; teks tebal menunjukkan hasil terbaik dan garis bawah menunjukkan hasil kedua terbaik.

Dari hasil awal ini untuk perbandingan kuantitatif, penulis menyatakan:

‘Dibandingkan dengan semua baseline, gambar yang dihapus menggunakan metode kami mencapai akurasi identifikasi target yang paling rendah dengan LLaVA-1.5 (6.0%) dan BLIP-3 (4.0%), dengan pengurangan 3.5% dan 1.7% dibandingkan dengan yang kedua terendah, masing-masing.

‘Ini menunjukkan efektivitas penghapusan metode kami, karena secara efektif [menipu] model besar multimodal.’

Untuk keaslian gambar, metode penulis menghasilkan skor SSIM tertinggi, yaitu 0.467, dan skor LPIPS terendah, yaitu 0.505 – menunjukkan preservasi konten tidak terkait dan struktur latar belakang yang paling kuat di antara metode yang diuji. Ini juga mencapai skor Aesthetic Predictor V2 yang tertinggi di antara metode penghapusan karakter, yaitu 5.18, menunjukkan bahwa preservasi ini tidak datang dengan biaya kualitas visual keseluruhan.

Sebuah tes kualitatif mengikuti:

Hasil tes membandingkan penghapusan karakter di lima karakter animasi. Setiap baris menunjukkan hasil dari metode yang berbeda, dengan generasi asli Stable Diffusion v1.4 di bagian atas dan metode yang diusulkan di bagian bawah. Metode yang diusulkan lebih konsisten menggantikan karakter target sambil mempertahankan adegan sekitarnya. Silakan merujuk ke sumber PDF asli atau situs proyek untuk resolusi yang sedikit lebih baik.

Menurut makalah tersebut, contoh-contoh ini menunjukkan perbedaan yang sangat jelas, terutama untuk karakter dengan bentuk dan atribut yang lebih kompleks, dengan Donald Duck dan Super Mario disebut sebagai contoh:

‘[Metode] kami mencapai penghapusan karakter animasi yang mulus melalui anchor yang dioptimalkan, sementara baseline berbasis prompt sering gagal—terutama untuk karakter dengan bentuk dan atribut yang kompleks (misalnya, Donald Duck dan Super Mario).

‘Selain itu, metode kami mencapai konsistensi latar belakang tanpa artefak penghalusan atau pengkerutan, mendukung alur kerja kreatif iteratif.’

Granular Control

Ruang penyematan kontinu juga memungkinkan kekuatan penghapusan karakter disesuaikan, bukan menganggap penghapusan sebagai proposisi all-or-nothing. Dengan menginterpolasi antara anchor yang dioptimalkan dan penyematan target asli, metode ini dapat secara bertahap mengembalikan lebih banyak karakter, sambil mempertahankan struktur gambar sekitarnya:

Gambar tes menunjukkan derajat penghapusan karakter yang berbeda. Tiga kolom pertama menunjukkan karakter asli, versi yang dihapus, dan fitur visual yang dihapus; kolom yang tersisa menunjukkan pengaturan antara pada α=0.25, 0.5 dan 0.75. Nilai α yang lebih tinggi mempertahankan lebih banyak karakter asli. Silakan merujuk ke sumber PDF asli atau situs proyek untuk resolusi yang sedikit lebih baik.

Sebagaimana ditunjukkan di atas, penulis juga menguji kontrol ini pada karakter Winnie the Pooh; Olaf; Minnie Mouse; dan Stitch. Kesamaan struktural tetap relatif stabil saat kekuatan restorasi berubah, sementara pengenalan oleh LLaVA-1.5 dan BLIP-3 meningkat saat lebih banyak karakter yang dipulihkan.

Winnie the Pooh dan Stitch menjadi dapat dikenali dalam rentang yang relatif sempit; Olaf dan Minnie Mouse berubah lebih bertahap; dan Minnie Mouse menjadi dapat dikenali dengan sedikit restorasi, menunjukkan bahwa kekuatan penghapusan yang tepat tergantung pada karakter yang ditargetkan.

Eksperimen lebih lanjut untuk menggantikan beberapa target sekaligus berhasil dilakukan, dan kami merujuk pembaca ke makalah sumber untuk lebih banyak detail tentang ini, serta hasil tambahan dan materi pelengkap.

Kesimpulan

Seperti biasa, kelengkungan terbaru ini pada penjaga hak cipta setara dengan mengunci pintu kandang setelah kuda telah keluar.

Dalam kasus langka di mana peneliti dan perusahaan telah berusaha untuk menekan kemampuan model untuk menghasilkan konten NSFW dengan memotong akses internal ke ‘materi NSFW’ dalam dataset (karena masih terlalu mahal untuk melakukan kurasi), ternyata model tersebut tidak dapat memahami anatomi manusia dengan benar.

Pendekatan baru yang diusulkan di sini, secara argumentatif, setara dengan menghilangkan/menggeneralisasi satu bintang porno tertentu, dalam kasus di mana filter NSFW sedang dibangun untuk model yang dilatih pada konten web yang diambil secara tidak disaring. Untuk metode baru ini, membuat ‘double’ generik untuk karakter berhak cipta harus secara wajib meninggalkan domain superhero utuh dalam ruang laten model; dan semakin penting karakter berhak cipta yang ditargetkan, semakin mereka menentukan domain mereka dalam ruang yang dilatih.

Oleh karena itu, menghilangkan mereka seperti mencoba menghilangkan gula dari kopi, setelah kopi telah dikocok.

Jadi, sementara pendekatan ini mungkin menikmati beberapa kesuksesan terbatas jika ditambahkan ke tembok api API model frontier yang terus berkembang, sifat terhubung dari model GenAI menunjukkan, secara historis, bahwa materi berhak cipta yang ditargetkan oleh metode ini mungkin tetap dapat diakses melalui kecerdasan prompter yang biasa.

Dipublikasikan pertama kali pada hari Jumat, 14 Agustus 2026