Rancangan Regulasi Deepfake di Eropa dan Inggris Terbukti Terbatas

Analisis Bagi para aktivis yang berharap tahun 2022 dapat menjadi tahun di mana citra deepfake jatuh dalam yurisdiksi hukum yang lebih ketat, indikator awal tidak menjanjikan.

Kamis lalu, Parlemen Eropa meratifikasi amendemen terhadap Digital Services Act (DSA, yang dijadwalkan berlaku pada 2023), terkait dengan penyebaran deepfakes. Modifikasi tersebut membahas deepfakes dalam dua bagian, keduanya terkait dengan iklan online: amendemen 1709 yang terkait dengan Artikel 30, dan amendemen terkait terhadap artikel 63.

Yang pertama mengusulkan artikel baru 30a, berjudul Deep fakes, yang berbunyi:

‘Jika sebuah platform online besar menyadari bahwa konten adalah gambar, audio, atau video yang dihasilkan atau dimanipulasi yang secara nyata menyerupai orang, benda, tempat, atau entitas lainnya dan secara salah tampak sebagai asli atau benar (deep fakes), penyedia harus melabeli konten dengan cara yang memberitahukan bahwa konten tersebut tidak asli dan yang jelas terlihat bagi penerima layanan.’

Yang kedua menambahkan teks ke artikel 63, yang sebagian besar berkaitan dengan meningkatkan transparansi platform iklan besar. Teks yang relevan berbunyi:

‘Selain itu, platform online besar harus melabeli setiap video, audio, atau file deep fake yang diketahui.’

Secara efektif, legislasi ini tampaknya sedang mempersiapkan untuk praktik yang semakin umum dari ‘deepfakes yang sah’, di mana izin telah diberikan dan hak telah diamankan untuk face-swapping dalam bahan promosi atau iklan – seperti penggunaan lisensi identitas Bruce Willis oleh perusahaan telekomunikasi Rusia Telefon dalam kampanye iklan baru-baru ini.

Enggan untuk Mengatur

DSA, sampai saat ini, tampaknya tidak menangani kekhawatiran para aktivis tentang penggunaan teknik deepfake seperti yang paling umum digunakan – untuk mengubah kembali video pornografi. Tidak juga menangani seberapa jauh, jika ada, penggunaan deepfakes dalam film dan televisi perlu diakui kepada pemirsa dengan cara yang sama seperti deepfakes dalam iklan akan diakui, setidaknya di UE, dari 2023.

Proses ratifikasi DSA sekarang beralih ke negosiasi dengan negara-negara anggota UE, bersama dengan cakupan yang lebih luas dari Digital Markets Act (DMA).

Laporan Europol Desember 2020 berjudul Malicious Uses and Abuses of Artificial Intelligence menyatakan bahwa akan menjadi kesalahan jika UE menangani teknologi deepfake spesifik saat ini (seperti DeepFaceLive), yang mungkin menyebabkan hukum UE terus-menerus berusaha untuk mengikuti kerangka kerja atau metode terbaru.

Laporan tersebut menyatakan:

‘Khususnya, kebijakan tersebut harus teknologi-agnostik untuk efektif dalam jangka panjang dan untuk menghindari harus meninjau dan menggantinya secara teratur karena teknologi di balik pembuatan dan penyalahgunaan deepfakes berkembang. ‘

‘Namun, langkah-langkah tersebut juga harus menghindari menghalangi aplikasi positif dari GANs.’

Komentar terakhir dalam kutipan di atas, terkait dengan Jaringan Adversarial Generatif (GANs) secara umum, menggambarkan enggan Eropa dan Amerika Utara untuk menerapkan hukum yang mungkin menghambat sektor penelitian AI yang sedang berkembang dan sudah dianggap ketinggalan Asia (yang lebih didaktis dan telah dapat mempercepat legislasi deepfake).

Sebagai contoh, laporan 2018 dari Komite Pemilihan Kecerdasan Buatan di House of Lords menekankan beberapa kali risiko membiarkan ketakutan untuk menahan perkembangan AI di negara tersebut, seperti yang terlihat dalam judulnya: AI di Inggris: siap, mau, dan mampu?. April lalu, Inggris juga menjadi negara pertama yang memberi lampu hijau untuk pengerahan mobil tanpa awak di jalan raya.

Amerika tidak kalah bersemangat; di AS, The Brookings Institution telah menyerukan kebutuhan akan legislasi yang lebih banyak untuk AI di Amerika Serikat, mengecam para pembuat undang-undang karena sikap ‘tunggu dan lihat’ mereka terhadap dampak teknologi pembelajaran mesin

Selain pendekatan DSA yang tidak bersemangat untuk menangani kekhawatiran sosial (bukan politik) seputar deepfakes, kerangka regulasi AI yang diusulkan oleh UE, yang dirilis pada April 2021, menghadapi kritik karena menghindari topik tersebut.

Regulasi Deepfake yang Terbatas di Inggris

Sebagai kekecewaan tambahan bagi aktivis anti-deepfake seperti penulis Helen Mort, yang kampanye untuk legislasi baru di Inggris pada 2021 setelah digambarkan secara tidak sah dalam video pornografi deepfake, laporan yang diterbitkan hari ini oleh Komite Digital, Kebudayaan, Media, dan Olahraga Parlemen Inggris mengkritik pemerintah Inggris karena gagal menangani deepfakes dalam Rancangan Undang-Undang Keamanan Online.

Dengan mengutip upaya hukum yang diusulkan dalam rancangan undang-undang terhadap penyalahgunaan deepfake sebagai ‘tidak jelas dan tidak praktis’, laporan tersebut menyarankan bahwa legislasi yang diusulkan tidak melakukan apa-apa untuk menangani status ‘hukum tetapi berbahaya’ dari teknik manipulasi video dan gambar yang dibantu AI:

‘[Kami] menyarankan agar Pemerintah secara proaktif menangani jenis konten yang secara teknis legal, seperti bagian-bagian licik dari urutan pelecehan anak seperti breadcrumbing dan jenis kekerasan online terhadap perempuan dan anak perempuan seperti teknologi yang memungkinkan ‘nudifying’ perempuan dan pornografi deepfake, dengan membawa mereka ke dalam cakupan baik melalui legislasi primer atau sebagai jenis konten berbahaya yang dilindungi oleh kewajiban perawatan.’

Hukum yang berlaku saat ini di Inggris terbatas pada penyebaran ‘gambar asli’, seperti kasus revenge porn, di mana, misalnya, materi eksplisit yang rahasia dan pribadi dipublikasikan secara terbuka oleh mantan pasangan. Jika seorang pelaku melakukan dan mempublikasikan materi deepfake yang memasukkan identitas target ke dalam konten pornografi, mereka hanya dapat dituntut jika mereka secara langsung mengganggu target dengan mengarahkan materi tersebut kepada mereka, atau di bawah legislasi terkait hak cipta.

Di kasus pertama, kemudahan dengan mana konten deepfake baru mengumpulkan perhatian dan pemirsa hampir pasti berarti bahwa korban akan diberitahukan oleh teman-teman yang khawatir atau pihak ketiga yang tidak terkait, bukan oleh orang yang membuat deepfake, sehingga memungkinkan keberhasilan deepfake untuk melindungi pekerjaannya, yang masih ‘mencapai target’.

Dalam kasus kedua, penuntutan hanya mungkin dilakukan jika video pornografi yang tidak diedit (ke dalam mana identitas korban kemudian disisipkan) diproduksi secara profesional dan dilindungi secara sah di bawah domain hak cipta Inggris (meskipun video yang sesuai dapat diperoleh secara bebas dari yurisdiksi hukum mana pun di dunia). Video ‘amateur’ dari yurisdiksi mana pun tidak memiliki status hak cipta yang jelas, dan video khusus yang dibuat oleh pembuat deepfake untuk disisipkan ke dalam korban (secara ironis) dilindungi oleh hukum hak cipta, selama memenuhi hukum lain.

Di Belakang Kurva

Pada Desember 2021, Komisi Hukum Inggris mengusulkan untuk memperluas hukum kebencian untuk mencakup kebencian berbasis gender, tetapi tidak mengusulkan untuk memasukkan deepfakes dalam kategori ini, meskipun ada contoh-contoh penggunaan teknologi tersebut di seluruh dunia (terutama di India) sebagai senjata melawan politisi perempuan dan aktivis perempuan. Perempuan secara luar biasa menjadi target konten deepfake ilegal, apakah motif pembuatnya adalah sosial (yaitu niat untuk mempermalukan, mematikan platform, dan memperlemah) atau hanya cabul (yaitu pornografi) dalam sifatnya.

Pada Maret 2021, National Law Review yang berbasis di Illinois mengkritik kerangka hukum Inggris sebagai ‘sama sekali tidak memadai saat ini untuk menangani deepfakes’, dan bahkan kekurangan mekanisme hukum dasar yang melindungi kesamaan seseorang.

Hukum Deepfake di Amerika Serikat

Sebaliknya, Amerika Serikat sebagian melindungi ‘Hak Publikasi’ warganya, meskipun tidak pada tingkat federal (saat ini, undang-undang tersebut ada di sekitar setengah negara bagian AS, dengan mekanisme hukum yang sangat bervariasi).

Meskipun ini merupakan perbaikan dari kinerja Inggris dalam legislasi deepfake, AS hanya dapat membanggakan cakupan per negara bagian yang sporadis, dan tampaknya bertekad untuk menangani potensi manipulasi politik teknologi ini sebelum memperhatikan dampaknya pada individu pribadi.

Pada 2019, Negara Bagian Texas mengeluarkan larangan pembuatan atau penyebaran deepfakes politis, dengan Bill Senat Texas 751 (SB751), tanpa menyebutkan apa pun tentang pornografi deepfake. Pada tahun yang sama, Negara Bagian Virginia menambahkan amendemen ke hukum yang ada tentang Penyebaran atau penjualan gambar orang lain secara tidak sah, dengan menambahkan istilah ‘gambar videografis atau statis yang dibuat secara salah’ yang luas.

Pada 2020, Negara Bagian California mengesahkan Bill Majelis California 602 (AB 602) yang melarang pembuatan atau penyebaran pornografi deepfake. Bill ini tidak memiliki ketentuan waktu habis, tetapi memiliki batas waktu tiga tahun, dan disertai dengan klausa terpisah yang mencakup deepfakes politis.

Di akhir 2020, Negara Bagian New York mengesahkan Bill Senat S5959D, yang tidak hanya melarang pembuatan dan/atau republicasi pornografi deepfake, tetapi secara aktif melindungi hak publisitas pengguna dalam kaitannya dengan kesamaan yang dihasilkan komputer melalui deepfakes, CGI, atau sarana lain, bahkan setelah kematian (jika orang yang bersangkutan adalah penduduk New York pada saat kematiannya).

Akhirnya, Negara Bagian Maryland telah mengamendemen undang-undangnya seputar pornografi anak untuk mencakup dan mengkriminalkan penggunaan deepfakes, meskipun tidak menangani dampak deepfakes pada target dewasa.

Menunggu ‘DeepfakeGate’

Sejarah menunjukkan bahwa kerusakan yang dapat ditimbulkan oleh teknologi baru harus menjadi personal bagi sebuah negara untuk mempercepat respons legislatifnya. Kematian seorang gadis remaja di Mesir yang diduga bunuh diri setelah dianiaya dengan pornografi deepfake dirinya telah menerima liputan terbatas di media Barat*, sementara pengungkapan tentang pencurian $35 juta di Uni Emirat Arab, yang terungkap pada 2021, juga mewakili ‘peristiwa jauh’ yang tidak mungkin mempercepat senat, atau menyalakan api di bawah 45 negara bagian yang belum mengesahkan legislasi deepfake.

Jika AS mengadopsi sikap yang lebih seragam seputar penyalahgunaan teknologi deepfake, legislasi yang luas kemungkinan akan mempengaruhi aspek tata kelola infrastruktur dan penyimpanan data telekomunikasi, yang akan menyebabkan perubahan kebijakan yang cepat diterapkan pada mitra bisnis di seluruh dunia. Fakta bahwa adopsi UE terhadap GDPR tidak akhirnya ‘berpindah’ ke kebijakan pengumpulan dan penyimpanan data di Amerika Utara tidak berarti bahwa UE tidak dapat memperoleh pengaruh atas negara-negara yang kurang patuh yang diperdagangkannya – jika UE pernah mengambil posisi legislatif yang lebih berkomitmen terhadap pembuatan, penyimpanan, dan retensi pornografi deepfake.

Tapi sesuatu harus terjadi di ‘titik nol’ terlebih dahulu, di salah satu kelompok negara-negara ini; dan kita masih menunggu: sebuah penangkapan besar CSAM oleh otoritas; sebuah pencurian besar menggunakan teknologi deepfake audio dan/atau video untuk menipu seorang direktur perusahaan Amerika ke dalam mengalihkan sejumlah besar uang; atau sebuah kasus serupa di AS dari penggunaan deepfakes yang semakin umum untuk memperdayakan perempuan di negara-negara yang lebih patriarkis (jika, memang, budaya AS benar-benar dilengkapi untuk mencerminkan peristiwa-peristiwa ini, yang dipertanyakan). Ini adalah hal-hal yang sulit untuk diharapkan, dan hal-hal yang baik untuk dihindari dengan metode apa pun selain memasukkan kepala ke dalam pasir, atau menunggu sebuah peristiwa ‘eksplisit’.

Satu masalah utama, yang saat ini dihindari oleh UE dengan mengarahkan kekuatan legislatifnya pada perusahaan iklan yang ingin mempromosikan deepfakes yang sah, adalah bahwa deepfakes tetap sulit untuk dideteksi secara algoritmik; sebagian besar metode deteksi yang muncul di arXiv setiap bulan bergantung pada watermarking, verifikasi berbasis blockchain, atau dengan cara mengubah infrastruktur yang saat ini kita gunakan untuk mengonsumsi video secara bebas – solusi yang mengimplikasikan revisi hukum yang radikal tentang konsep video sebagai proksi untuk ‘kebenaran’. Sisanya secara teratur tertinggal oleh kemajuan terus-menerus dalam repositori deepfake sumber terbuka yang populer.

Sebuah masalah lain adalah bahwa negara-negara Barat besar benar dalam satu hal, yaitu tidak menawarkan reaksi yang terburu-buru terhadap satu strand bermasalah dalam sekumpulan teknologi AI baru, banyak di antaranya berjanji untuk memberikan manfaat besar bagi masyarakat dan industri, dan banyak di antaranya dapat dipengaruhi secara negatif jika larangan dan regulasi sistem sintesis gambar dimulai secara serius, sebagai respons terhadap peristiwa besar, dan terhadap keributan yang menyertainya.

Namun, mungkin akan menjadi ide yang baik untuk setidaknya mempercepat langkah lambat dan kadang-kadang tanpa arah yang kita ambil menuju regulasi deepfakes, dan menemui masalah potensial di tengah-tengah, dan dengan syarat-syarat kita sendiri, bukan dipaksa oleh peristiwa-peristiwa kemudian ke dalam respons yang kurang dipertimbangkan.

* Para pelaku didakwa dengan pemerasan; tidak ada hukum Mesir yang mengatur pornografi deepfake.

Publikasi pertama 24 Januari 2022.