Definisi ‘Deepfake’ yang Sulit Ditemukan

Sebuah studi baru yang menarik dari Jerman mengkritik definisi istilah ‘deepfake’ dalam Undang-Undang AI Uni Eropa sebagai terlalu samar, terutama dalam konteks manipulasi gambar digital. Penulis berpendapat bahwa Undang-Undang tersebut menekankan konten yang menyerupai orang atau peristiwa nyata – tetapi mungkin tampak palsu – kekurangan kejelasan.

Mereka juga menyoroti bahwa pengecualian Undang-Undang untuk ‘penyuntingan standar’ (yaitu, modifikasi AI yang relatif minor pada gambar) gagal mempertimbangkan pengaruh AI yang luas dalam aplikasi konsumen dan sifat subjektif konvensi seni yang mendahuluinya.

Perundang-undangan yang tidak tepat tentang masalah ini menimbulkan dua risiko utama: ‘efek pendinginan’, di mana cakupan interpretatif Undang-Undang yang luas menghambat inovasi dan adopsi sistem baru; dan ‘efek penyangkal’, di mana Undang-Undang diabaikan karena dianggap terlalu jauh atau tidak relevan.

Di kedua kasus, Undang-Undang yang samar-samar secara efektif memindahkan tanggung jawab untuk menetapkan definisi hukum yang praktis kepada putusan pengadilan di masa depan – sebuah pendekatan yang hati-hati dan menghindari risiko.

Teknologi manipulasi gambar berbasis AI masih jauh lebih maju daripada kemampuan perundang-undangan untuk menanganinya, tampaknya. Sebagai contoh, salah satu contoh yang menarik dari elastisitas konsep ‘pascapengolahan otomatis’ yang didorong AI, makalah tersebut mengamati, adalah fungsi ‘Scene Optimizer’ pada kamera Samsung terbaru, yang dapat menggantikan gambar pengguna yang diambil dari bulan (subjek yang menantang) dengan gambar yang ‘diperbarui’ yang didorong oleh AI:

Top kiri, contoh dari makalah baru dari gambar nyata yang diambil pengguna dari bulan, di sebelah kiri dari versi Samsung yang ditingkatkan secara otomatis dengan Scene Optimizer; Kanan, ilustrasi resmi Samsung dari proses di balik ini; bawah kiri, contoh dari pengguna Reddit u/ibreakphotos, menunjukkan (kiri) gambar bulan yang sengaja diburamkan dan (kanan), penggambaran ulang Samsung dari gambar ini – meskipun foto sumber adalah gambar monitor, dan bukan bulan yang sebenarnya. Sumber (searah jarum jam dari atas-kiri): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

Di bagian bawah kiri gambar di atas, kita melihat dua gambar bulan. Yang kiri adalah foto yang diambil oleh pengguna Reddit. Di sini, gambar telah diburamkan dan dikecilkan oleh pengguna.

Di sebelah kanannya, kita melihat foto yang sama dari gambar yang telah diburamkan, diambil dengan kamera Samsung dengan pengolahan pasca yang didorong oleh AI. Kamera telah secara otomatis ‘mengubah’ objek bulan yang dikenali, meskipun sumber gambar tidak bulan yang sebenarnya.

Makalah tersebut mengkritik lebih lanjut fitur ‘Best Take’ yang terintegrasi ke dalam smartphone Google terbaru – sebuah fitur AI yang kontroversial yang mengedit bersama ‘bagian terbaik’ dari foto grup, memindai beberapa detik dari urutan fotografi sehingga senyum dapat dipindahkan maju atau mundur sesuai kebutuhan – dan tidak ada yang ditampilkan di tengah-tengah berkedip.

Makalah tersebut berpendapat bahwa proses komposit seperti ini memiliki potensi untuk menyesatkan peristiwa:

‘[Dalam] pengaturan foto grup yang khas, pemirsa rata-rata mungkin masih menganggap foto hasilnya sebagai autentik. Senyum yang dimasukkan ada dalam beberapa detik dari foto yang diambil.

‘Di sisi lain, kerangka waktu 10 detik dari fitur best take cukup untuk perubahan mood. Seseorang mungkin telah berhenti tersenyum sementara sisanya dari grup tertawa tentang lelucon di atas biaya mereka.

‘Sebagai konsekuensi, kita anggap bahwa foto grup seperti itu mungkin merupakan deep fake.’

Makalah baru ini berjudul Apa yang Menyusun Deep Fake? Garis Kabur antara Pengolahan yang Sah dan Manipulasi di bawah Undang-Undang AI Uni Eropa, dan berasal dari dua peneliti di Laboratorium Hukum Komputasi Universitas Tübingen, dan Universitas Saarland.

Trik Lama

Manipulasi waktu dalam fotografi jauh lebih tua daripada AI tingkat konsumen. Penulis makalah baru tersebut mencatat keberadaan teknik yang jauh lebih tua yang dapat dianggap sebagai ‘tidak autentik’, seperti penggabungan beberapa gambar berurutan menjadi High Dynamic Range (HDR) foto, atau ‘dijahit’ foto panorama.

Memang, beberapa foto palsu tertua dan paling menghibur dibuat secara tradisional oleh anak-anak sekolah yang berlari dari satu ujung grup sekolah ke ujung lainnya, sebelum lintasan kamera panorama khusus yang digunakan untuk fotografi sekolah dan olahraga – memungkinkan siswa untuk muncul dua kali dalam gambar yang sama:

Godaan untuk menipu kamera panorama selama foto grup terlalu besar untuk ditolak oleh banyak siswa, yang bersedia mengambil risiko sesi yang buruk di kantor kepala sekolah untuk ‘mengkloning’ diri mereka dalam foto sekolah. Sumber: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Kecuali Anda mengambil foto dalam mode RAW, yang pada dasarnya membuang sensor lensa kamera ke file yang sangat besar tanpa interpretasi, kemungkinan foto digital Anda tidak sepenuhnya autentik. Sistem kamera secara rutin menerapkan algoritma ‘perbaikan’ seperti pengerasan gambar dan keseimbangan putih, secara default – dan telah melakukannya sejak awal fotografi digital tingkat konsumen.

Penulis makalah tersebut berpendapat bahwa bahkan jenis augmentasi foto digital yang lebih tua tidak mewakili ‘kenyataan’, karena metode tersebut dirancang untuk membuat foto lebih menyenangkan, bukan lebih ‘nyata’.

Studi tersebut menunjukkan bahwa Undang-Undang AI Uni Eropa, bahkan dengan amendemen selanjutnya seperti recital 123–27, menempatkan semua output fotografi dalam kerangka bukti yang tidak sesuai dengan konteks di mana foto dihasilkan saat ini, dibandingkan dengan sifat (secara objektif) dari footage kamera keamanan atau fotografi forensik. Sebagian besar gambar yang ditangani oleh Undang-Undang AI lebih mungkin berasal dari konteks di mana produsen dan platform online aktif mempromosikan interpretasi foto kreatif, termasuk penggunaan AI.

Peneliti tersebut menyarankan bahwa foto ‘tidak pernah merupakan representasi objektif dari kenyataan’. Pertimbangan seperti lokasi kamera, kedalaman bidang yang dipilih, dan pilihan pencahayaan, semua berkontribusi untuk membuat foto yang sangat subjektif.

Makalah tersebut mengamati bahwa tugas ‘pembersihan’ rutin – seperti menghapus debu sensor atau garis listrik yang tidak diinginkan dari adegan yang terkomposisi dengan baik – hanya setengah -otomatis sebelum munculnya AI: pengguna harus secara manual memilih area atau memulai proses untuk mencapai hasil yang diinginkan.

Saat ini, operasi tersebut sering dipicu oleh prompt teks pengguna, terutama dalam alat seperti Photoshop. Pada tingkat konsumen, fitur-fitur tersebut semakin banyak diotomatisasi tanpa input pengguna – sebuah hasil yang tampaknya dianggap oleh produsen dan platform sebagai ‘jelas diinginkan’.

Makna ‘Deepfake’ yang Dilemahkan

Tantangan utama bagi perundang-undangan sekitar gambar dan video yang diubah atau dihasilkan oleh AI adalah ketidakjelasan istilah ‘deepfake’, yang telah memiliki makna yang jelas diperluas selama dua tahun terakhir.

Awalnya, istilah tersebut hanya diterapkan pada output video dari sistem berbasis autoencoder seperti DeepFaceLab dan FaceSwap, keduanya berasal dari kode anonim yang diposting di Reddit pada akhir 2017.

Sejak 2022, datangnya Model Difusi Laten (LDM) seperti Stable Diffusion dan Flux, serta sistem teks-ke-video seperti Sora, juga memungkinkan pertukaran identitas dan kustomisasi, pada resolusi yang ditingkatkan, fleksibilitas, dan fidelitas. Sekarang memungkinkan untuk membuat model difusi yang dapat menggambarkan selebriti dan politisi. Karena istilah ‘deepfake’ sudah menjadi harta karun yang menguntungkan bagi produsen media, itu diperluas untuk mencakup sistem tersebut.

Belakangan, dalam media dan literatur penelitian, istilah tersebut juga mencakup impersonasi berbasis teks. Pada titik ini, makna asli ‘deepfake’ hampir hilang, sementara makna yang diperluas terus berkembang dan semakin melemah.

Tapi karena kata itu sangat kontroversial dan menggalang perhatian, dan sekarang menjadi titik sentuh politik dan media yang kuat, itu terbukti tidak mungkin untuk meninggalkannya. Ini menarik pembaca ke situs web, pendanaan untuk peneliti, dan perhatian untuk politisi. Ketidakjelasan leksikal ini adalah fokus utama dari penelitian baru.

Karena penulis makalah tersebut mengamati, pasal 3(60) dari Undang-Undang AI Uni Eropa menguraikan empat kondisi yang mendefinisikan ‘deepfake’.

1: Bulan yang Sebenarnya

Pertama, konten harus dihasilkan atau dimanipulasi, yaitu, baik diciptakan dari awal menggunakan AI (generasi) atau diubah dari data yang ada (manipulasi). Makalah tersebut menyoroti kesulitan dalam membedakan antara hasil penyuntingan gambar yang ‘dapat diterima’ dan manipulatif deepfakes, mengingat foto digital pada dasarnya tidak pernah merupakan representasi kenyataan yang sebenarnya.

Makalah tersebut berpendapat bahwa bulan yang dihasilkan oleh Samsung secara argumentatif autentik, karena bulan tidak mungkin berubah penampilan, dan karena konten yang dihasilkan oleh AI, yang dilatih pada gambar bulan yang sebenarnya, kemungkinan akurat.

Namun, penulis juga menyatakan bahwa karena sistem Samsung telah terbukti menghasilkan gambar ‘ditingkatkan’ dari bulan dalam kasus di mana gambar sumber tidak bulan itu sendiri, ini akan dianggap sebagai ‘deepfake’.

Tidak praktis untuk membuat daftar kasus yang komprehensif tentang fungsi ad hoc seperti ini. Oleh karena itu, beban definisi tampaknya beralih, sekali lagi, ke pengadilan.

2: TextFakes

Kedua, konten harus berupa gambar, audio, atau video. Konten teks, meskipun tunduk pada kewajiban transparansi lain, tidak dianggap sebagai deepfake di bawah Undang-Undang AI. Ini tidak dibahas secara rinci dalam studi baru, meskipun dapat memiliki dampak yang signifikan pada efektivitas visual deepfakes (lihat di bawah).

3: Masalah Dunia Nyata

Ketiga, konten harus menyerupai orang, objek, tempat, entitas, atau peristiwa yang ada. Kondisi ini menetapkan koneksi ke dunia nyata, yang berarti bahwa gambar yang sepenuhnya fabrikasi, bahkan jika fotorealistik, tidak akan memenuhi syarat sebagai deepfake. Recital 134 dari Undang-Undang AI Uni Eropa menekankan aspek ‘penyerupaan’ dengan menambahkan kata ‘secara nyata’ (sebuah pengalihan yang jelas ke putusan hukum selanjutnya).

Penulis, mengutip karya sebelumnya, mempertimbangkan apakah wajah yang dihasilkan oleh AI perlu milik orang nyata, atau apakah itu hanya perlu cukup serupa dengan orang nyata, untuk memenuhi definisi ini.

Sebagai contoh, bagaimana seseorang dapat menentukan apakah urutan gambar fotorealistik yang menggambarkan politisi Donald Trump memiliki niat untuk impersonasi, jika gambar (atau teks yang dilampirkan) tidak secara khusus menyebutkannya? Pengenalan wajah? Survei pengguna? Definisi ‘akal sehat’ dari seorang hakim?

Kembali ke masalah ‘TextFakes’ (lihat di atas), kata-kata sering membentuk bagian besar dari tindakan visual deepfake. Sebagai contoh, dimungkinkan untuk mengambil gambar (yang tidak diubah) dari ‘orang a’‘, dan mengatakan, dalam caption atau posting media sosial, bahwa gambar itu adalah ‘orang b’‘ (dengan asumsi kedua orang tersebut memiliki kesamaan).

Dalam kasus seperti itu, tidak ada AI yang diperlukan, dan hasilnya mungkin sangat efektif – tetapi apakah pendekatan yang sederhana seperti itu juga merupakan ‘deepfake’?

4: Sentuh, Remodel

Terakhir, konten harus tampak autentik atau benar bagi seseorang. Kondisi ini menekankan persepsi dari pemirsa manusia. Konten yang hanya diakui sebagai representasi orang atau objek nyata oleh algoritma tidak dianggap sebagai deepfake.

Dari semua kondisi dalam 3(60), ini adalah yang paling jelas mengalihkan ke putusan pengadilan di kemudian hari, karena tidak memungkinkan interpretasi melalui sarana teknis atau mekanis.

Terdapat beberapa kesulitan yang melekat dalam mencapai kesepakatan tentang stipulasi subjektif seperti ini. Penulis mengamati, misalnya, bahwa orang yang berbeda, dan jenis orang yang berbeda (seperti anak-anak dan orang dewasa), mungkin memiliki disposisi yang berbeda untuk mempercayai deepfake tertentu.

Penulis lebih lanjut mencatat bahwa kemampuan AI yang maju dari alat seperti Photoshop menantang definisi tradisional ‘deepfake.’ Meskipun sistem tersebut mungkin termasuk pengaman dasar melawan konten yang kontroversial atau dilarang, mereka secara dramatis memperluas konsep ‘penyuntingan.’ Pengguna sekarang dapat menambah atau menghapus objek dengan cara yang sangat meyakinkan dan fotorealistik, mencapai tingkat autentikasi profesional yang meredefinisi batas-batas manipulasi gambar.

Penulis menyatakan:

‘Kami berpendapat bahwa definisi deep fakes dalam Undang-Undang AI dan kewajiban yang sesuai tidak cukup spesifik untuk menangani tantangan yang ditimbulkan oleh deep fakes. Dengan menganalisis siklus hidup foto digital dari sensor kamera ke fitur pengeditan digital, kami menemukan bahwa:

‘(1.) Deep fakes tidak terdefinisi dengan baik dalam Undang-Undang AI. Definisi tersebut meninggalkan terlalu banyak ruang untuk apa itu deep fake.

‘(2.) Tidak jelas bagaimana fungsi pengeditan seperti fitur “best take” dari Google dapat dianggap sebagai pengecualian dari kewajiban transparansi.

‘(3.) Pengecualian untuk gambar yang diedit secara substantial menimbulkan pertanyaan tentang apa yang merupakan pengeditan substantial dari konten dan apakah pengeditan tersebut harus dapat dipersepsi oleh orang.

Mengambil Pengecualian

Undang-Undang AI Uni Eropa berisi pengecualian yang, menurut penulis, dapat sangat memungkinkan. Pasal 50(2), mereka menyatakan, menawarkan pengecualian dalam kasus di mana sebagian besar gambar sumber asli tidak diubah. Penulis mencatat:

‘Apa yang dapat dianggap sebagai konten dalam arti Pasal 50(2) dalam kasus audio digital, gambar, dan video? Sebagai contoh, dalam kasus gambar, apakah kita perlu mempertimbangkan ruang piksel atau ruang yang terlihat oleh manusia? Manipulasi substantial dalam ruang piksel mungkin tidak mengubah persepsi manusia, dan di sisi lain, gangguan kecil dalam ruang piksel dapat mengubah persepsi secara dramatis.’

Peneliti tersebut memberikan contoh menambahkan senjata api ke foto seseorang yang menunjuk pada seseorang. Dengan menambahkan senjata api, hanya 5% dari gambar yang diubah; namun, signifikansi semantik dari bagian yang diubah sangat besar. Oleh karena itu, tampaknya pengecualian ini tidak mempertimbangkan ‘pemahaman umum’ tentang efek yang dapat dihasilkan oleh detail kecil pada signifikansi keseluruhan dari gambar.

Bagian 50(2) juga memungkinkan pengecualian untuk ‘fungsi bantuan untuk penyuntingan standar’. Karena Undang-Undang tersebut tidak mendefinisikan apa yang dimaksud dengan ‘penyuntingan standar’, bahkan fitur pengolahan pasca yang ekstrem seperti Best Take dari Google tampaknya dilindungi oleh pengecualian ini, menurut penulis.

Kesimpulan

Tujuan yang dinyatakan dari karya baru ini adalah untuk mendorong studi antardisiplin sekitar peraturan deepfakes, dan untuk bertindak sebagai titik awal untuk dialog baru antara ilmuwan komputer dan sarjana hukum.

Namun, makalah itu sendiri jatuh ke dalam tautologi pada beberapa titik: itu sering menggunakan istilah ‘deepfake’ seolah-olah maknanya sudah jelas, sementara menyerang Undang-Undang AI Uni Eropa karena gagal mendefinisikan apa yang sebenarnya merupakan deepfake.

Dipublikasikan pertama kali pada hari Senin, 16 Desember 2024