Regulasi Deepfake Eropa dan UK yang Mengejutkan Terbatas

Analisis Bagi para aktivis yang berharap bahwa 2022 bisa menjadi tahun bahwa gambar deepfaked jatuh dalam yurisdiksi hukum yang lebih ketat, indikator awal tidak menjanjikan.

Kamis lalu Parlemen Eropa meratifikasi amendemen terhadap Digital Services Act (DSA, yang dijadwalkan berlaku pada 2023), sehubungan dengan penyebaran deepfakes. Modifikasi tersebut membahas deepfakes melalui dua bagian, masing-masing terkait dengan iklan online: amendemen 1709 terkait Artikel 30, dan amendemen terkait terhadap artikel 63.

Yang pertama mengusulkan artikel baru 30a, berjudul Deep fakes, yang berbunyi:

‘Di mana sebuah platform online besar mengetahui bahwa sebuah konten adalah gambar, audio, atau video yang dihasilkan atau dimanipulasi yang secara signifikan menyerupai orang, benda, tempat, atau entitas lainnya atau peristiwa dan secara salah tampak sebagai autentik atau benar (deep fakes), penyedia harus melabeli konten dengan cara yang menginformasikan bahwa konten tersebut tidak autentik dan yang jelas terlihat bagi penerima layanan.’

Yang kedua menambahkan teks ke artikel 63 yang ada, yang sebagian besar berkaitan dengan meningkatkan transparansi platform iklan besar. Teks yang relevan berbunyi:

‘Selain itu, platform online besar harus melabeli setiap video deep fake, audio, atau file lainnya yang diketahui.’

Secara efektif, legislasi ini tampaknya sedang mempersiapkan untuk praktik ‘deepfake yang sah’ yang semakin berkembang, di mana izin telah diberikan dan hak telah diamankan untuk face-swapping dalam materi promosi atau iklan – seperti penggunaan lisensi identitas Bruce Willis oleh perusahaan telekomunikasi Rusia Telefon dalam kampanye iklan baru-baru ini.

Ketidakpastian untuk Mengatur

DSA, sampai saat ini, tidak tampaknya menangani kekhawatiran para aktivis tentang penggunaan teknik deepfake seperti yang paling umum digunakan – untuk mengubah ulang video pornografi. Tidak juga menangani seberapa besar, jika ada, penggunaan deepfakes dalam film dan televisi perlu diungkapkan kepada pemirsa dengan cara yang sama seperti deepfakes dalam iklan akan dilakukan, setidaknya di Uni Eropa, dari 2023.

Proses ratifikasi untuk DSA sekarang beralih ke negosiasi dengan negara-negara anggota Uni Eropa, bersama dengan cakupan yang lebih luas dari Digital Markets Act (DMA).

Laporan Europol Desember 2020 laporan Penggunaan dan Penyalahgunaan Kecerdasan Buatan yang Malicious menyatakan bahwa akan menjadi kesalahan jika Uni Eropa menangani teknologi deepfake spesifik (seperti DeepFaceLive), yang mungkin menyebabkan hukum Uni Eropa terus-menerus tertinggal dengan kerangka kerja atau metode terbaru.

Laporan laporan tersebut menyatakan:

‘Khususnya, kebijakan tersebut harus teknologi-agnostik untuk efektif dalam jangka panjang dan untuk menghindari harus meninjau dan menggantikan ini secara teratur karena teknologi di balik pembuatan dan penyalahgunaan deepfakes berkembang.

‘Namun, langkah-langkah tersebut juga harus menghindari menghalangi aplikasi positif dari GANs.’

Komentar terakhir dalam kutipan di atas, tentang Jaringan Adversarial Generatif (GANs) secara umum menggambarkan ketidakpastian Eropa dan Amerika Utara untuk menerapkan hukum yang mungkin menghambat sektor penelitian AI yang sedang berkembang dan sudah dianggap tertinggal di Asia (yang lebih didaktis negara-negara telah dapat mempercepat legislasi deepfake).

Misalnya, laporan 2018 laporan dari Komite Selektif tentang Kecerdasan Buatan di House of Lords menekankan beberapa kali risiko membiarkan ketakutan untuk menahan pengembangan AI di negara, seperti yang ditunjukkan dalam judulnya: AI di Inggris: siap, mau, dan mampu?. April lalu, Inggris juga menjadi negara pertama yang memberi lampu hijau untuk pengerahan mobil self-driving di jalan raya.

Amerika tidak kalah bersemangat; di AS, The Brookings Institution telah mendorong kebutuhan untuk legislasi yang lebih besar untuk AI di Amerika Serikat, mengkritik para pembuat undang-undang karena sikap ‘tunggu dan lihat’ mereka terhadap dampak teknologi pembelajaran mesin

Selain pendekatan yang tidak bersemangat dari DSA untuk menangani kekhawatiran sosial (bukan politik) seputar deepfakes, kerangka regulasi AI yang diusulkan oleh Uni Eropa, dirilis pada April 2021, mendapat kritik karena menghindari topik tersebut.

Regulasi Deepfake yang Terbatas di Inggris

Sebagai kekecewaan tambahan bagi para aktivis anti-deepfake seperti penulis Helen Mort, yang kampanye secara menonjol untuk legislasi baru Inggris pada 2021 setelah digambarkan secara tidak sah dalam video deepfake pornografi, laporan yang diterbitkan hari ini oleh Komite Digital, Kebudayaan, Media, dan Olahraga Parlemen Inggris mengkritik pemerintah Inggris karena tidak menangani deepfakes dalam Rancangan Undang-Undang Keselamatan Online.

Dengan mengutip undang-undang yang ada saat ini terhadap penyalahgunaan deepfake sebagai ‘tidak jelas dan tidak praktis’, laporan tersebut menyarankan bahwa legislasi yang diusulkan tidak melakukan apa-apa untuk menangani status ‘legal tetapi berbahaya’ dari teknik manipulasi video dan gambar AI-bantu:

‘[Kami] merekomendasikan bahwa Pemerintah secara proaktif menangani jenis konten yang secara teknis legal, seperti bagian licik dari urutan pelecehan anak seperti breadcrumbing dan jenis kekerasan online terhadap perempuan dan anak perempuan seperti tech-enabled ‘nudifying’ perempuan dan deepfake pornografi, dengan membawa mereka ke dalam cakupan baik melalui legislasi primer atau sebagai jenis konten berbahaya yang dilindungi oleh kewajiban perawatan.’

Hukum yang berlaku saat ini di Inggris terbatas pada penyebaran ‘gambar asli’, seperti kasus revenge porn, di mana, misalnya, materi eksplisit yang rahasia dan pribadi dipublikasikan secara terbuka oleh mantan pasangan. Jika seorang pelaku melakukan dan mempublikasikan bahan deepfake yang menempatkan identitas ‘target’ mereka ke dalam konten pornografi, mereka hanya dapat dihukum jika mereka secara langsung mengganggu target dengan mengarahkan materi kepada mereka, atau di bawah legislasi terkait hak cipta.

Dalam kasus pertama, kemudahan dengan mana konten deepfake baru mengumpulkan traksi dan pemirsa hampir pasti berarti bahwa korban akan diberitahu oleh pihak ketiga yang peduli atau pihak ketiga yang tidak terkait, bukan oleh orang yang membuat deepfake, sehingga memungkinkan viralitas bahan tersebut untuk melindungi deepfaker, yang pekerjaannya masih ‘mencapai target’.

Dalam kasus kedua, penuntutan hanya mungkin dilakukan jika video pornografi yang tidak diedit (ke dalam mana identitas korban kemudian disuperimposisikan) diproduksi secara profesional dan dilindungi secara sah di bawah domain hak cipta Inggris (meskipun video yang sesuai dapat diperoleh secara gratis dari yurisdiksi hukum mana pun di dunia). Video ‘amateur’ dari yurisdiksi mana pun tidak memiliki status hak cipta yang jelas, dan video khusus yang dibuat oleh deepfaker untuk disuperimposisikan ke dalamnya adalah (secara ironis) dilindungi oleh hukum hak cipta, selama mematuhi hukum lain.

Di Belakang Kurva

Pada Desember 2021, Komisi Hukum Inggris mengusulkan untuk memperluas hukum ujaran kebencian untuk mencakup kebencian berbasis jenis kelamin, tetapi tidak mengusulkan untuk memasukkan deepfakes dalam kategori ini, meskipun ada contoh-contoh penggunaan deepfakes di seluruh dunia (terutama di India) dari teknologi yang digunakan melawan perempuan politik dan aktivis perempuan. Perempuan secara luar biasa menjadi target konten deepfake ilegal, apakah motif dari pembuatnya adalah sosial (yaitu niat untuk merendahkan, membatalkan, dan memperlemah) atau hanya prurient (yaitu pornografi) dalam sifatnya.

Pada Maret 2021, National Law Review yang berbasis di Illinois mengkritik kerangka hukum Inggris sebagai ‘sangat tidak memadai saat ini untuk menangani deepfakes’, dan bahkan kekurangan mekanisme hukum dasar yang melindungi kesamaan seseorang.

Hukum Deepfake di Amerika Serikat

Sebaliknya, Amerika Serikat sebagian melindungi ‘Hak Publikasi’ warganya, meskipun tidak pada tingkat federal (saat ini, undang-undang tersebut ada di sekitar setengah negara bagian AS, dengan mekanisme hukum yang bervariasi).

Meskipun perbaikan dari kinerja Inggris dalam legislasi deepfake, AS hanya dapat membanggakan cakupan per negara bagian yang sporadis, dan tampaknya bertekad untuk menangani potensi manipulasi politik sebelum mengatasi dampaknya pada individu pribadi.

Pada 2019, Negara Bagian Texas melarang pembuatan atau penyebaran politik deepfakes, dengan Bill Senat Texas 751 (SB751), menghilangkan pernyataan tentang deepfake pornografi. Pada tahun yang sama, Negara Bagian Virginia menambahkan amendemen terhadap hukum yang ada tentang Penyebaran atau penjualan gambar orang lain yang tidak sah, dengan menambahkan istilah ‘falsely created videographic or still image’.

Pada 2020, Negara Bagian California mengesahkan California Assembly Bill 602 (AB 602) yang melarang pembuatan atau penyebaran deepfake pornografi. Tagihan ini tidak memiliki ketentuan waktu, tetapi memiliki batas waktu tiga tahun, dan disertai dengan klausa terpisah yang mencakup deepfakes politik.

Pada akhir 2020, Negara Bagian New York mengesahkan bill senat S5959D, yang tidak hanya melarang pembuatan dan/atau republicasi deepfake pornografi, tetapi juga secara aktif melindungi hak publikasi pengguna sehubungan dengan kesamaan yang dihasilkan komputer melalui deepfakes, CGI, atau sarana lainnya, bahkan setelah kematian (jika orang yang bersangkutan adalah penduduk New York pada saat kematiannya).

Akhirnya, Negara Bagian Maryland telah mengamendemen undang-undangnya tentang pornografi anak untuk mencakup dan mengkriminalisasi penggunaan deepfakes, meskipun tidak menangani dampak deepfakes pada target dewasa.

Menunggu ‘DeepfakeGate’

Sejarah menunjukkan bahwa kerusakan yang mungkin disebabkan oleh teknologi baru harus menjadi personal bagi sebuah negara untuk mempercepat respons legislatifnya. Kematian seorang gadis remaja di Mesir yang diduga sedang dianiaya dengan deepfake pornografi dirinya sendiri telah menerima liputan terbatas di media barat*, sementara pengungkapan tentang pencurian $35 juta di Uni Emirat Arab, yang terungkap pada 2021, juga mewakili ‘peristiwa jauh’ yang tidak mungkin mempercepat senat, atau menyalakan api di bawah 45 negara bagian yang belum mengesahkan legislasi deepfake.

Jika AS mengadopsi front bersatu seputar penyalahgunaan teknologi deepfake, legislasi yang meluas kemungkinan akan mempengaruhi aspek tata kelola infrastruktur dan penyimpanan data telekomunikasi, yang akan menyebabkan perubahan kebijakan yang cepat diterapkan pada mitra bisnisnya di seluruh dunia. Fakta bahwa adopsi Uni Eropa dari GDPR tidak pada akhirnya ‘mengatasi’ kebijakan pengumpulan dan penyimpanan data di Amerika Utara tidak berarti bahwa Uni Eropa tidak bisa mendapatkan pengaruh atas negara-negara yang kurang patuh yang dengannya mereka berdagang – jika mereka pernah mengambil posisi legislatif yang lebih berkomitmen pada generasi, penyimpanan, dan retensi deepfake pornografi.

Tapi sesuatu harus terjadi pada ‘ground zero’ pertama, di salah satu kelompok negara-negara terkemuka ini; dan kita masih menunggu: penangkapan besar CSAM oleh otoritas; pencurian besar menggunakan teknologi deepfake audio dan/atau video untuk menipu seorang direktur perusahaan Amerika untuk mengalihkan sejumlah besar uang; atau setara Amerika dari penggunaan deepfakes yang semakin banyak untuk memperbudak perempuan di negara-negara yang lebih patriarkis (jika, memang, budaya AS benar-benar dilengkapi untuk mencerminkan peristiwa-peristiwa ini, yang dipertanyakan). Ini adalah hal-hal yang sulit untuk diinginkan, dan hal-hal yang baik untuk dihindari dengan metode lain daripada menempatkan kepala di pasir, atau menunggu peristiwa ‘yang menyala’.

Satu masalah sentral, yang saat ini dihindari Uni Eropa dengan mengarahkan kekuatan legislatifnya pada perusahaan iklan yang ingin mempromosikan deepfakes yang sah mereka, adalah bahwa deepfakes tetap sulit untuk diidentifikasi secara algoritmik; sebagian besar metode deteksi yang muncul di arXiv setiap bulan bergantung pada watermarking, verifikasi berbasis blockchain, atau dengan cara mengubah infrastruktur video yang saat ini kita gunakan untuk mengonsumsi video secara gratis – solusi yang mengimplikasikan revisi hukum yang radikal dari konsep video sebagai proksi untuk ‘kebenaran’. Yang lainnya secara teratur dikalahkan oleh kemajuan terus-menerus dalam repositori deepfake sumber terbuka yang populer.

Masalah lainnya adalah bahwa negara-negara barat besar benar, dalam satu arti, untuk tidak menawarkan reaksi refleks terhadap satu strand bermasalah dalam sekumpulan teknologi AI baru, banyak di antaranya berjanji untuk memberikan manfaat besar bagi masyarakat dan industri, dan banyak di antaranya bisa dipengaruhi secara tidak diinginkan jika reaksi yang terlalu cepat dan reaksi terhadap sistem sintesis gambar dimulai dengan serius, sebagai respons terhadap peristiwa besar, dan terhadap teriakan yang menyusul.

Namun, mungkin akan menjadi ide yang baik untuk setidaknya mempercepat langkah lambat dan kadang-kadang tidak terarah yang kita ambil menuju regulasi deepfakes, dan menemui masalah potensial di tanah tengah, dan dengan syarat kita sendiri, daripada dipaksa oleh peristiwa kemudian ke dalam respons yang kurang dipertimbangkan.

* Para pelaku didakwa dengan pemerasan; tidak ada hukum Mesir yang mencakup deepfake pornografi.

Dipublikasikan pertama kali pada 24 Januari 2022.