Tiongkok Mengusulkan Regulasi yang Ditingkatkan untuk Deepfakes dan Sistem Sintesis AI Lainnya

Administrasi Ruang Siber Tiongkok (CAC) telah mengusulkan sebuah set draft regulasi baru untuk mengatur sistem sintesis yang dibantu AI, termasuk deepfakes, adegan realitas virtual, generasi teks, audio, dan sub-sektor lainnya dari sintesis media AI – sebuah bidang di mana Tiongkok menghasilkan sejumlah besar kertas akademis dan proyek penelitian inovatif setiap bulannya.

Sebuah postingan (Google Translation, asli di sini) di situs resmi CAC menetapkan kewajiban yang diusulkan, dan menggambarkan layanan yang terkena dampak sebagai ‘penyedia layanan sintesis dalam’, mengundang warga untuk berpartisipasi dengan memberikan komentar pada draft proposal, dengan batas waktu 28 Februari.

Bukan Hanya Deepfakes

Meskipun regulasi yang diusulkan telah dilaporkan dalam hal dampak potensialnya pada pembuatan dan penyebaran deepfakes, dokumen tersebut mencoba untuk memiliki pandangan yang luas atas kemampuan algoritma untuk menghasilkan jenis konten apa pun yang dapat diinterpretasikan dalam pengertian yang luas dari ‘media’.

Pasal 2 menyatakan cakupan regulasi yang diusulkan meliputi enam sektor*:

(1) Teknik untuk menghasilkan atau mengedit konten teks, seperti generasi bab, konversi gaya teks, dan dialog pertanyaan-dan-jawaban;

(2) Teknologi untuk menghasilkan atau mengedit konten suara, seperti teks-ke-suara, konversi suara, dan pengeditan atribut suara;

(3) Teknologi untuk menghasilkan atau mengedit konten non-suara, seperti generasi musik dan pengeditan suara adegan;

(4) Generasi wajah, penggantian wajah, pengeditan atribut karakter, manipulasi wajah, manipulasi gerakan, dan teknologi lainnya untuk menghasilkan atau mengedit fitur biometrik seperti wajah dalam konten gambar dan video;

(5) Teknik untuk mengedit fitur non-biologis dalam konten gambar dan video, seperti perbaikan gambar dan restorasi gambar;

(6) Teknologi untuk menghasilkan atau mengedit adegan virtual seperti rekonstruksi 3D.

Regulasi Deepfake

Tiongkok mengkriminalkan penggunaan AI untuk penyebaran berita palsu pada akhir 2019, pada saat itu CAC mengungkapkan kekhawatiran tentang implikasi potensial dari teknologi deepfake, yang menyebabkan banyak orang untuk mempertimbangkan bahwa pemerintah Tiongkok akan melarang teknologi deepfake secara keseluruhan.

Namun, ini akan berarti Tiongkok secara resmi meninggalkan salah satu perkembangan paling signifikan dalam sejarah generasi media, AI, dan bahkan politik, dan memutuskan diri dari manfaat kolaborasi ilmiah terbuka dan global.

Oleh karena itu, tampaknya Tiongkok sekarang bertekad untuk bereksperimen dengan mengendalikan daripada melarang teknologi yang potensial liar, yang, banyak orang percaya, akan akhirnya bermigrasi dari fase akselerator porn dan ke dalam serangkaian kasus penggunaan yang sah dan dapat dimanfaatkan, terutama dalam hiburan.

NeRF Termasuk

Pasal 2.6 membahas tentang generasi atau pengeditan adegan virtual, seperti rekonstruksi 3D, sebuah teknologi yang lebih muda daripada impersonasi deepfake, dan satu yang telah mencapai prominen paling banyak selama dua tahun terakhir melalui kemunculan Neural Radiance Fields (NeRF), di mana fotogrametri digunakan untuk mensintesis seluruh adegan dalam ruang laten model pembelajaran mesin.

Namun, NeRF dengan cepat memperluas jangkauannya dari tableau model dan tur melalui lingkungan ke generasi video tubuh penuh, dengan peneliti Tiongkok telah membuat beberapa inovasi besar dalam hal ini.

Tiongkok ST-NeRF dalam aksi.

Meskipun NeRF telah menghasilkan badai baru penelitian sejak pengumumannya pada 2020, implementasinya dalam sistem VR atau AR, atau kesesuaiannya dalam pipa efek visual, masih memiliki banyak tantangan dan hambatan teknis yang signifikan untuk dilalui. Kemampuan NeRF yang semakin meningkat untuk merekonstruksi dan mengedit fisik manusia secara keseluruhan belum mencakup kemampuan transformasi identitas deepfake standar yang telah menjadi ciri-ciri headline berita selama dua tahun terakhir.

Deepfakes Audio Sebuah Prioritas?

Jika kita mengambil daftar urutan Pasal 2 sebagai indikasi teknologi sintesis dalam yang paling Tiongkok khawatirkan untuk dikendalikan dan diatur, ini akan menunjukkan bahwa berita palsu AI yang dihasilkan teks adalah prioritas utama, dengan sintesis suara mendahului deepfakes video dalam hal dampak potensialnya.

Jika demikian, ini sesuai dengan fakta bahwa deepfake video belum pernah digunakan dalam kejahatan yang tidak terkait dengan pornografi (Asia tidak ragu-ragu untuk mengkriminalkan deepfake porn), sedangkan deepfakes audio telah dipostulasikan sebagai teknologi aktif dalam setidaknya dua kejahatan keuangan besar, di Inggris pada 2019, dan di Uni Emirat Arab pada 2021.

Draft regulasi baru mengharuskan pengguna yang ingin mengeksploitasi identitas seseorang melalui penggunaan sistem pembelajaran mesin untuk meminta izin tertulis dari individu tersebut. Selain itu, media sintetis harus menampilkan logo atau tanda air yang jelas, atau sarana lain yang dapat membuat orang yang mengonsumsi materi tersebut memahami bahwa konten tersebut telah diubah atau sepenuhnya dibuat. Tidak sepenuhnya jelas bagaimana ini dapat dilakukan dalam kasus deepfakes audio.

Registrasi

Jika disetujui, proposal draft akan mengharuskan penyedia layanan sintesis dalam untuk mendaftarkan aplikasi mereka yang relevan ke negara, sesuai dengan Ketentuan Administrasi Rekomendasi Algoritma untuk Layanan Informasi Internet, dan untuk mematuhi semua prosedur pendaftaran yang diperlukan. Penyedia sintesis dalam juga akan diharuskan untuk bekerja sama secara bebas dalam hal pengawasan dan inspeksi, dan untuk menghasilkan ‘dukungan dan bantuan teknis dan data yang diperlukan’ atas permintaan.

Lebih lanjut, penyedia tersebut akan perlu membangun portal pengaduan yang ramah pengguna, dan untuk menerbitkan batas waktu yang diharapkan untuk pemrosesan pengaduan tersebut, serta diharuskan untuk menawarkan ‘mekanisme pembantahan desas-desus’ – meskipun proposal tersebut tidak memberikan detail tentang implementasi ini.

Penyimpangan dapat memicu denda antara 10.000 dan 100.000 yuan ($1.600 dan $16.000), serta memaparkan perusahaan yang melanggar hukum kepada tuntutan hukum perdata dan pidana.

* Terjemahan oleh Google Translate, lihat tautan awal di artikel.

Dipublikasikan pertama kali pada 28 Januari 2022.