Apa itu Deepfake?

Karena deepfake semakin mudah dibuat dan produktif, semakin banyak perhatian yang diberikan padanya. Deepfakes telah menjadi titik fokus diskusi yang melibatkan etika AI, misinformasi, keterbukaan informasi dan internet, serta regulasi. Ada gunanya jika kita mendapat informasi mengenai deepfake, dan memiliki pemahaman intuitif tentang apa itu deepfake. Artikel ini akan memperjelas definisi deepfake, mengkaji kasus penggunaannya, mendiskusikan bagaimana deepfake dapat dideteksi, dan mengkaji implikasi deepfake terhadap masyarakat.

Apa itu Deepfake?

Sebelum melanjutkan untuk membahas deepfake lebih lanjut, akan sangat membantu untuk meluangkan waktu dan mengklarifikasi apa sebenarnya "deepfake" itu. Ada banyak kebingungan mengenai istilah Deepfake, dan seringkali istilah tersebut disalahgunakan untuk media yang dipalsukan, terlepas dari apakah itu deepfake asli atau tidak. Agar memenuhi syarat sebagai Deepfake, media palsu tersebut harus dibuat dengan sistem pembelajaran mesin, khususnya jaringan saraf yang dalam.

Bahan utama deepfake adalah pembelajaran mesin. Pembelajaran mesin memungkinkan komputer menghasilkan video dan audio secara otomatis dengan relatif cepat dan mudah. Jaringan saraf dalam dilatih berdasarkan rekaman orang sungguhan agar jaringan dapat mempelajari bagaimana orang terlihat dan bergerak dalam kondisi lingkungan target. Jaringan terlatih kemudian digunakan pada gambar individu lain dan ditambah dengan teknik grafis komputer tambahan untuk menggabungkan orang baru dengan rekaman asli. Algoritma encoder digunakan untuk mengetahui kemiripan antara wajah asli dan wajah target. Setelah fitur umum wajah diisolasi, algoritma AI kedua yang disebut decoder digunakan. Dekoder memeriksa gambar yang dikodekan (terkompresi) dan merekonstruksinya berdasarkan fitur pada gambar aslinya. Dua decoder digunakan, satu pada wajah subjek asli dan yang kedua pada wajah orang target. Agar pertukaran dapat dilakukan, dekoder yang dilatih pada gambar orang X diberi gambar orang Y. Hasilnya adalah wajah orang Y merupakan rekonstruksi ekspresi dan orientasi wajah Orang X.

Saat ini, masih membutuhkan waktu yang cukup lama untuk membuat deepfake. Pembuat pemalsuan harus menghabiskan waktu lama untuk menyesuaikan parameter model secara manual, karena parameter yang kurang optimal akan menyebabkan ketidaksempurnaan yang nyata dan gangguan gambar yang mengungkap sifat asli pemalsuan.

Meskipun sering diasumsikan bahwa sebagian besar deepfake dibuat dengan jenis jaringan saraf yang disebut a jaringan permusuhan generatif (GAN), banyak (mungkin sebagian besar) deepfake yang dibuat saat ini tidak bergantung pada GAN. Meskipun GAN memainkan peran penting dalam pembuatan deepfake awal, sebagian besar video deepfake dibuat melalui metode alternatif, menurut Siwei Lyu dari SUNY Buffalo.

Dibutuhkan sejumlah besar data pelatihan untuk melatih GAN, dan GAN sering membutuhkan waktu lebih lama untuk merender gambar dibandingkan dengan teknik pembuatan gambar lainnya. GAN juga lebih baik untuk menghasilkan gambar statis daripada video, karena GAN kesulitan menjaga konsistensi dari bingkai ke bingkai. Jauh lebih umum menggunakan encoder dan beberapa decoder untuk membuat deepfake.

Untuk Apa Deepfake Digunakan?

Banyak deepfake yang ditemukan online bersifat pornografi. Menurut penelitian yang dilakukan oleh Deeptrace, sebuah perusahaan AI, dari sampel sekitar 15,000 video deepfake yang diambil pada bulan September 2019, sekitar 95% di antaranya bersifat pornografi. Implikasi yang meresahkan dari fakta ini adalah karena teknologi menjadi lebih mudah digunakan, insiden porno balas dendam palsu dapat meningkat.

Namun, tidak semua pemalsuan mendalam bersifat pornografi. Ada penggunaan yang lebih sah untuk teknologi deepfake. Teknologi audio deepfake dapat membantu orang menyiarkan suara biasa mereka setelah rusak atau hilang karena sakit atau cedera. Deepfake juga dapat digunakan untuk menyembunyikan wajah orang-orang yang berada dalam situasi sensitif dan berpotensi berbahaya, sambil tetap membiarkan bibir dan ekspresi mereka terbaca. Teknologi deepfake berpotensi digunakan untuk meningkatkan sulih suara pada film berbahasa asing, membantu memperbaiki media lama dan rusak, dan bahkan menciptakan gaya seni baru.

Deepfake Non-Video

Sementara kebanyakan orang berpikir tentang video palsu ketika mereka mendengar istilah "deepfake", video palsu bukanlah satu-satunya jenis media palsu yang diproduksi dengan teknologi deepfake. Teknologi deepfake juga digunakan untuk membuat foto dan audio palsu. Seperti disebutkan sebelumnya, GAN sering digunakan untuk menghasilkan gambar palsu. Diperkirakan ada banyak kasus profil LinkedIn dan Facebook palsu yang memiliki gambar profil yang dibuat dengan algoritme deepfake.

Dimungkinkan juga untuk membuat audio deepfake. Jaringan saraf dalam dilatih untuk menghasilkan klon suara/kulit suara dari orang yang berbeda, termasuk selebritas dan politisi. Salah satu contoh terkenal dari audio Deepfake adalah ketika perusahaan AI Dessa menggunakan model AI, didukung oleh algoritme non-AI, untuk membuat ulang suara pembawa acara podcast Joe Rogan.

Cara Mengenali Deepfake

Saat deepfake menjadi semakin canggih, membedakannya dari media asli akan menjadi semakin sulit. Saat ini, ada beberapa tanda tanda orang dapat mencari untuk memastikan apakah suatu video berpotensi sebagai deepfake, seperti sinkronisasi bibir yang buruk, gerakan yang tidak wajar, kedipan di sekitar tepi wajah, dan detail halus yang melengkung seperti rambut, gigi, atau pantulan. Tanda-tanda potensial lain dari deepfake termasuk bagian berkualitas rendah dari video yang sama, dan kedipan mata yang tidak teratur.

Meskipun tanda-tanda ini dapat membantu seseorang menemukan deepfake saat ini, karena teknologi deepfake meningkatkan satu-satunya pilihan untuk deteksi deepfake yang andal mungkin jenis AI lain yang dilatih untuk membedakan media palsu dari media nyata.

Perusahaan kecerdasan buatan, termasuk banyak perusahaan teknologi besar, sedang meneliti metode untuk mendeteksi deepfake. Desember lalu, tantangan deteksi deepfake dimulai, didukung oleh tiga raksasa teknologi: Amazon, Facebook, dan Microsoft. Tim peneliti dari seluruh dunia mengerjakan metode untuk mendeteksi deepfake, bersaing untuk mengembangkan metode deteksi terbaik. Kelompok peneliti lain, seperti kelompok peneliti gabungan dari Google dan Jigsaw, sedang mengerjakan jenis "forensik wajah" yang dapat mendeteksi video yang telah diubah, membuat dataset mereka open source dan mendorong orang lain untuk mengembangkan metode deteksi deepfake. Dessa yang disebutkan di atas telah bekerja untuk menyempurnakan teknik deteksi deepfake, mencoba memastikan bahwa model deteksi bekerja pada video deepfake yang ditemukan di alam liar (di internet) daripada hanya pada pelatihan yang telah disusun sebelumnya dan pengujian dataset, seperti open-source dataset disediakan Google.

Ada juga strategi lainnya yang sedang diselidiki untuk menangani proliferasi deepfake. Misalnya, memeriksa kesesuaian video dengan sumber informasi lain adalah salah satu strategi. Pencarian dapat dilakukan untuk video peristiwa yang berpotensi diambil dari sudut lain, atau detail latar belakang video (seperti pola cuaca dan lokasi) dapat diperiksa ketidaksesuaiannya. Di luar ini, sistem buku besar online Blockchain dapat mendaftarkan video saat pertama kali dibuat, menyimpan audio dan gambar aslinya sehingga video turunan selalu dapat diperiksa untuk manipulasi.

Pada akhirnya, penting untuk membuat metode pendeteksian deepfake yang andal dan metode pendeteksian ini mengikuti kemajuan terbaru dalam teknologi deepfake. Meskipun sulit untuk mengetahui secara pasti apa efek dari deepfake, jika tidak ada metode yang dapat diandalkan untuk mendeteksi deepfake (dan bentuk media palsu lainnya), misinformasi berpotensi merajalela dan menurunkan kepercayaan masyarakat terhadap masyarakat dan institusi.

Implikasi Deepfake

Apa bahaya membiarkan deep fake berkembang biak tanpa terkendali?

Salah satu masalah terbesar yang dibuat deepfake saat ini adalah pornografi nonkonsensual, yang direkayasa dengan menggabungkan wajah orang dengan video dan gambar porno. Ahli etika AI khawatir bahwa deepfake akan lebih banyak digunakan dalam pembuatan porno balas dendam palsu. Di luar ini, deepfake dapat digunakan untuk menindas dan merusak reputasi hampir semua orang, karena dapat digunakan untuk menempatkan orang ke dalam skenario kontroversial dan kompromi.

Perusahaan dan spesialis keamanan dunia maya telah menyatakan keprihatinan tentang penggunaan deepfake untuk memfasilitasi penipuan, penipuan, dan pemerasan. Diduga, audio deepfake telah digunakan untuk meyakinkan karyawan perusahaan untuk mentransfer uang ke scammers

Deepfake mungkin memiliki efek berbahaya bahkan di luar yang tercantum di atas. Deepfake berpotensi mengikis kepercayaan masyarakat terhadap media secara umum, dan mempersulit masyarakat untuk membedakan antara berita asli dan berita bohong. Jika banyak video di web palsu, akan lebih mudah bagi pemerintah, perusahaan, dan entitas lain untuk meragukan kontroversi yang sah dan praktik yang tidak etis.

Ketika berbicara tentang pemerintah, deepfake bahkan dapat menimbulkan ancaman bagi operasi demokrasi. Demokrasi mensyaratkan warga negara mampu membuat keputusan berdasarkan informasi tentang politisi berdasarkan informasi yang dapat dipercaya. Misinformasi merusak proses demokrasi. Misalnya, presiden Gabon, Ali Bongo, muncul dalam sebuah video yang berusaha menenangkan warga Gabon. Presiden dianggap tidak sehat untuk waktu yang lama, dan kemunculannya yang tiba-tiba masuk kemungkinan video palsu memulai percobaan kudeta. Presiden Donald Trump mengklaim bahwa rekaman audio dirinya membual tentang mencengkeram alat kelamin wanita palsu, meskipun juga menggambarkannya sebagai "pembicaraan di ruang ganti". Pangeran Andrew juga mengklaim bahwa gambar yang diberikan oleh pengacara Emily Maitilis adalah palsu, meskipun pengacara bersikeras keasliannya.

Pada akhirnya, meskipun ada penggunaan yang sah untuk teknologi deepfake, ada banyak potensi bahaya yang dapat timbul dari penyalahgunaan teknologi tersebut. Oleh karena itu, sangat penting bahwa metode untuk menentukan keaslian media dibuat dan dipelihara.