Apa Itu Deepfakes?

Seiring deepfake menjadi lebih mudah dibuat dan lebih banyak beredar, semakin banyak perhatian yang diberikan padanya. Deepfake telah menjadi titik fokus diskusi yang melibatkan etika AI, misinformasi, keterbukaan informasi dan internet, serta regulasi. Penting untuk mendapatkan informasi mengenai deepfake, dan memiliki pemahaman intuitif tentang apa itu deepfake. Artikel ini akan menjelaskan definisi deepfake, mengkaji kasus penggunaannya, membahas bagaimana deepfake dapat dideteksi, dan menelaah implikasi deepfake bagi masyarakat.

What are Deepfakes?

Sebelum membahas deepfake lebih lanjut, akan sangat membantu untuk meluangkan waktu dan menjelaskan apa sebenarnya “deepfake” itu. Ada banyak kebingungan mengenai istilah Deepfake, dan seringkali istilah ini salah diterapkan pada media palsu apa pun, terlepas dari apakah itu deepfake asli atau bukan. Agar dapat dikategorikan sebagai Deepfake, media palsu yang dimaksud harus dihasilkan dengan sistem pembelajaran mesin, khususnya jaringan saraf dalam (deep neural network). Bahan utama deepfake adalah pembelajaran mesin. Pembelajaran mesin memungkinkan komputer untuk menghasilkan video dan audio secara otomatis dengan relatif cepat dan mudah. Jaringan saraf dalam dilatih dengan rekaman orang sungguhan agar jaringan tersebut dapat mempelajari bagaimana penampilan dan gerakan orang dalam kondisi lingkungan target. Jaringan yang telah dilatih kemudian digunakan pada gambar individu lain dan diperkaya dengan teknik grafis komputer tambahan untuk menggabungkan orang baru dengan rekaman asli. Algoritma encoder digunakan untuk menentukan kesamaan antara wajah asli dan wajah target. Setelah fitur umum dari wajah-wajah tersebut diisolasi, algoritma AI kedua yang disebut decoder digunakan. Decoder memeriksa gambar yang telah dienkode (dikompresi) dan merekonstruksinya berdasarkan fitur-fitur dalam gambar asli. Dua decoder digunakan, satu pada wajah subjek asli dan yang kedua pada wajah orang target. Agar pertukaran dapat dilakukan, decoder yang dilatih dengan gambar orang X diberi masukan gambar orang Y. Hasilnya adalah wajah orang Y direkonstruksi di atas ekspresi dan orientasi wajah Orang X. Saat ini, pembuatan deepfake masih membutuhkan waktu yang cukup lama. Pembuatnya harus menghabiskan waktu lama untuk menyesuaikan parameter model secara manual, karena parameter yang tidak optimal akan menyebabkan ketidaksempurnaan dan gangguan gambar yang terlihat sehingga mengungkapkan sifat asli dari palsu tersebut. Meskipun sering diasumsikan bahwa sebagian besar deepfake dibuat dengan jenis jaringan saraf yang disebut generative adversarial network (GAN), banyak (mungkin sebagian besar) deepfake yang dibuat saat ini tidak bergantung pada GAN. Meskipun GAN memang memainkan peran penting dalam penciptaan deepfake awal, sebagian besar video deepfake dibuat melalui metode alternatif, menurut Siwei Lyu dari SUNY Buffalo. Diperlukan data pelatihan yang sangat besar secara tidak proporsional untuk melatih GAN, dan GAN seringkali membutuhkan waktu lebih lama untuk merender gambar dibandingkan dengan teknik pembuatan gambar lainnya. GAN juga lebih baik untuk menghasilkan gambar statis daripada video, karena GAN mengalami kesulitan menjaga konsistensi dari satu frame ke frame berikutnya. Jauh lebih umum menggunakan encoder dan beberapa decoder untuk membuat deepfake.

What Are Deepfakes Used For?

Banyak deepfake yang ditemukan online bersifat pornografi. Menurut penelitian yang dilakukan oleh Deeptrace, sebuah perusahaan AI, dari sampel sekitar 15.000 video deepfake yang diambil pada September 2019, sekitar 95% di antaranya bersifat pornografi. Implikasi yang mengkhawatirkan dari fakta ini adalah bahwa seiring teknologi menjadi lebih mudah digunakan, insiden pornografi balas dendam palsu bisa meningkat. Namun, tidak semua deepfake bersifat pornografi. Ada penggunaan yang lebih sah untuk teknologi deepfake. Teknologi deepfake audio dapat membantu orang menyiarkan suara biasa mereka setelah rusak atau hilang karena penyakit atau cedera. Deepfake juga dapat digunakan untuk menyembunyikan wajah orang yang berada dalam situasi sensitif dan berpotensi berbahaya, sementara tetap memungkinkan bibir dan ekspresi mereka untuk dibaca. Teknologi deepfake berpotensi digunakan untuk meningkatkan sulih suara pada film berbahasa asing, membantu perbaikan media lama dan rusak, dan bahkan menciptakan gaya seni baru.

Non-Video Deepfakes

Meskipun kebanyakan orang memikirkan video palsu ketika mendengar istilah “deepfake”, video palsu bukanlah satu-satunya jenis media palsu yang diproduksi dengan teknologi deepfake. Teknologi deepfake digunakan untuk membuat foto dan audio palsu juga. Seperti yang disebutkan sebelumnya, GAN sering digunakan untuk menghasilkan gambar palsu. Diperkirakan telah banyak kasus profil LinkedIn dan Facebook palsu yang memiliki gambar profil yang dihasilkan dengan algoritma deepfake. Mungkin juga untuk membuat deepfake audio. Jaringan saraf dalam dilatih untuk menghasilkan klon suara/skin suara dari orang yang berbeda, termasuk selebriti dan politisi. Salah satu contoh terkenal dari Deepfake audio adalah ketika perusahaan AI Dessa menggunakan model AI, yang didukung oleh algoritma non-AI, untuk menciptakan kembali suara pembawa podcast Joe Rogan.

How To Spot Deepfakes

Seiring deepfake menjadi semakin canggih, membedakannya dari media asli akan menjadi semakin sulit. Saat ini, ada beberapa tanda yang dapat dikenali yang dapat dicari orang untuk memastikan apakah suatu video berpotensi merupakan deepfake, seperti sinkronisasi bibir yang buruk, gerakan yang tidak wajar, kedipan di sekitar tepi wajah, dan distorsi pada detail halus seperti rambut, gigi, atau pantulan. Tanda potensial lain dari deepfake termasuk bagian-bagian video yang sama dengan kualitas lebih rendah, dan kedipan mata yang tidak teratur. Meskipun tanda-tanda ini dapat membantu seseorang mengenali deepfake saat ini, seiring membaiknya teknologi deepfake, satu-satunya pilihan untuk deteksi deepfake yang andal mungkin adalah jenis AI lain yang dilatih untuk membedakan palsu dari media asli. Perusahaan-perusahaan kecerdasan buatan, termasuk banyak perusahaan teknologi besar, sedang meneliti metode untuk mendeteksi deepfake. Desember lalu, tantangan deteksi deepfake dimulai, didukung oleh tiga raksasa teknologi: Amazon, Facebook, dan Microsoft. Tim peneliti dari seluruh dunia mengerjakan metode untuk mendeteksi deepfake, bersaing untuk mengembangkan metode deteksi terbaik. Kelompok peneliti lain, seperti gabungan peneliti dari Google dan Jigsaw, sedang mengerjakan jenis “forensik wajah” yang dapat mendeteksi video yang telah diubah, membuat dataset mereka menjadi sumber terbuka dan mendorong orang lain untuk mengembangkan metode deteksi deepfake. Dessa yang disebutkan sebelumnya telah mengerjakan penyempurnaan teknik deteksi deepfake, berusaha memastikan bahwa model deteksi bekerja pada video deepfake yang ditemukan di alam liar (di internet) dan bukan hanya pada dataset pelatihan dan pengujian yang telah disusun sebelumnya, seperti dataset sumber terbuka yang disediakan Google. Ada juga strategi lain yang sedang diselidiki untuk menangani proliferasi deepfake. Misalnya, memeriksa video untuk kesesuaian dengan sumber informasi lain adalah salah satu strateginya. Pencarian dapat dilakukan untuk video peristiwa yang berpotensi diambil dari sudut lain, atau detail latar belakang video (seperti pola cuaca dan lokasi) dapat diperiksa untuk ketidaksesuaian. Di luar ini, sistem buku besar online Blockchain dapat mendaftarkan video ketika pertama kali dibuat, menyimpan audio dan gambar aslinya sehingga video turunan selalu dapat diperiksa untuk manipulasi. Pada akhirnya, penting bahwa metode yang andal untuk mendeteksi deepfake diciptakan dan bahwa metode deteksi ini mengikuti kemajuan terbaru dalam teknologi deepfake. Meskipun sulit untuk mengetahui secara pasti apa efek dari deepfake, jika tidak ada metode yang andal untuk mendeteksi deepfake (dan bentuk media palsu lainnya), misinformasi berpotensi merajalela dan mengurangi kepercayaan orang terhadap masyarakat dan institusi.

Implications of Deepfakes

Apa bahaya membiarkan deepfake berkembang biak tanpa terkendali? Salah satu masalah terbesar yang diciptakan deepfake saat ini adalah pornografi non-konsensual, yang direkayasa dengan menggabungkan wajah orang dengan video dan gambar pornografi. Ahli etika AI khawatir bahwa deepfake akan lebih banyak digunakan dalam pembuatan pornografi balas dendam palsu. Di luar ini, deepfake dapat digunakan untuk menggertak dan merusak reputasi hampir semua orang, karena dapat digunakan untuk menempatkan orang ke dalam skenario kontroversial dan kompromi. Perusahaan dan spesialis keamanan siber telah menyatakan kekhawatiran tentang penggunaan deepfake untuk memfasilitasi penipuan, kecurangan, dan pemerasan. Diduga, audio deepfake telah digunakan untuk meyakinkan karyawan sebuah perusahaan untuk mentransfer uang kepada penipu. Mungkin saja deepfake memiliki efek berbahaya bahkan di luar yang tercantum di atas. Deepfake berpotensi mengikis kepercayaan orang terhadap media secara umum, dan menyulitkan orang untuk membedakan antara berita asli dan berita palsu. Jika banyak video di web adalah palsu, maka menjadi lebih mudah bagi pemerintah, perusahaan, dan entitas lain untuk meragukan kontroversi dan praktik tidak etis yang sah. Dalam hal pemerintah, deepfake bahkan dapat menimbulkan ancaman bagi operasi demokrasi. Demokrasi mensyaratkan bahwa warga negara dapat membuat keputusan yang tepat tentang politisi berdasarkan informasi yang dapat diandalkan. Misinformasi merusak proses demokrasi. Misalnya, Presiden Gabon, Ali Bongo, muncul dalam video yang berusaha meyakinkan warga Gabon. Presiden dianggap tidak sehat untuk waktu yang lama, dan penampilannya yang tiba-tiba dalam video yang kemungkinan palsu memicu upaya kudeta. Presiden Donald Trump mengklaim bahwa rekaman audio dirinya yang membanggakan tentang menggenggam wanita di alat kelamin adalah palsu, meskipun juga menggambarkannya sebagai “obrolan ruang ganti”. Pangeran Andrew juga mengklaim bahwa gambar yang disediakan oleh pengacara Emily Maitilis adalah palsu, meskipun pengacara tersebut bersikeras pada keasliannya. Pada akhirnya, meskipun ada penggunaan yang sah untuk teknologi deepfake, ada banyak potensi bahaya yang dapat timbul dari penyalahgunaan teknologi tersebut. Untuk alasan itu, sangat penting bahwa metode untuk menentukan keaslian media diciptakan dan dipelihara.