Apa itu Deepfakes?

Ketika deepfakes menjadi lebih mudah dibuat dan lebih banyak, perhatian lebih banyak diberikan kepada mereka. Deepfakes telah menjadi titik fokus diskusi yang melibatkan etika AI, informasi yang salah, keterbukaan informasi dan internet, dan regulasi. Penting untuk mendapatkan informasi tentang deepfakes dan memiliki pemahaman intuitif tentang apa itu deepfakes. Artikel ini akan menjelaskan definisi deepfake, mengeksaminasi kasus penggunaannya, membahas bagaimana deepfakes dapat dideteksi, dan mengeksaminasi implikasi deepfakes bagi masyarakat.

Apa itu Deepfakes?

Sebelum membahas deepfakes lebih lanjut, akan membantu untuk mengambil beberapa waktu dan menjelaskan apa itu “deepfakes” sebenarnya. Ada sejumlah besar kebingungan tentang istilah Deepfake, dan sering kali istilah tersebut digunakan secara salah untuk setiap media palsu, terlepas dari apakah itu merupakan deepfake yang sebenarnya atau tidak. Agar memenuhi syarat sebagai Deepfake, media palsu yang bersangkutan harus dihasilkan dengan sistem pembelajaran mesin, khususnya jaringan neural dalam.

Bahan utama deepfakes adalah pembelajaran mesin. Pembelajaran mesin telah membuat komputer dapat menghasilkan video dan audio secara otomatis dengan relatif cepat dan mudah. Jaringan neural dalam dilatih pada footage orang nyata agar jaringan dapat mempelajari bagaimana orang terlihat dan bergerak di bawah kondisi lingkungan target. Jaringan yang dilatih kemudian digunakan pada gambar orang lain dan diperkuat dengan teknik grafis komputer tambahan untuk menggabungkan orang baru dengan footage asli. Algoritma encoder digunakan untuk menentukan kesamaan antara wajah asli dan wajah target. Setelah fitur umum wajah diisolasi, algoritma AI kedua yang disebut decoder digunakan. Decoder memeriksa gambar yang dikodekan (dikompresi) dan merekonstruksinya berdasarkan fitur pada gambar asli. Dua decoder digunakan, satu pada wajah subjek asli dan yang kedua pada wajah orang target. Agar pertukaran dapat dilakukan, decoder yang dilatih pada gambar orang X diberi gambar orang Y. Hasilnya adalah wajah orang Y direkonstruksi di atas ekspresi wajah dan orientasi orang X.

Saat ini, masih membutuhkan waktu yang cukup lama untuk membuat deepfake. Pembuat palsu harus menghabiskan waktu lama untuk menyesuaikan parameter model secara manual, karena parameter yang tidak optimal akan menyebabkan kesalahan yang terlihat dan glitch gambar yang mengungkapkan sifat palsu yang sebenarnya.

Meskipun sering diasumsikan bahwa sebagian besar deepfakes dibuat dengan jenis jaringan neural yang disebut generative adversarial network (GAN), banyak (mungkin sebagian besar) deepfakes yang dibuat saat ini tidak bergantung pada GAN. Meskipun GAN memainkan peran penting dalam pembuatan deepfakes awal, sebagian besar video deepfake dibuat melalui metode alternatif, menurut Siwei Lyu dari SUNY Buffalo.

Membutuhkan sejumlah besar data pelatihan untuk melatih GAN, dan GAN sering membutuhkan waktu lebih lama untuk merender gambar dibandingkan dengan teknik generasi gambar lainnya. GAN juga lebih baik untuk menghasilkan gambar statis daripada video, karena GAN memiliki kesulitan mempertahankan konsistensi dari frame ke frame. Lebih umum untuk menggunakan encoder dan beberapa decoder untuk membuat deepfakes.

Apa yang Digunakan Deepfakes Untuk?

Banyak deepfakes yang ditemukan online bersifat pornografis. Menurut penelitian yang dilakukan oleh Deeptrace, sebuah perusahaan AI, dari sampel sekitar 15.000 video deepfake yang diambil pada September 2019, sekitar 95% di antaranya bersifat pornografis. Implikasi yang mengkhawatirkan dari fakta ini adalah bahwa ketika teknologi menjadi lebih mudah digunakan, insiden palsu balas dendam dapat meningkat.

Namun, tidak semua deepfakes bersifat pornografis. Ada penggunaan yang lebih sah untuk teknologi deepfake. Teknologi deepfake audio dapat membantu orang menyiarakan suara mereka yang biasa setelah mereka rusak atau hilang karena penyakit atau cedera. Deepfakes dapat digunakan untuk menyembunyikan wajah orang yang berada dalam situasi yang sensitif dan berbahaya, sambil masih memungkinkan bibir dan ekspresi mereka untuk dibaca. Teknologi deepfake dapat digunakan untuk memperbaiki sulih suara pada film berbahasa asing, membantu dalam perbaikan media lama dan rusak, dan bahkan menciptakan gaya seni baru.

Deepfakes Non-Video

Sementara kebanyakan orang berpikir tentang video palsu ketika mereka mendengar istilah “deepfake”, video palsu bukanlah satu-satunya jenis media palsu yang dihasilkan dengan teknologi deepfake. Teknologi deepfake digunakan untuk membuat foto dan audio palsu juga. Seperti yang disebutkan sebelumnya, GAN sering digunakan untuk menghasilkan gambar palsu. Dipikirkan bahwa telah ada banyak kasus profil palsu LinkedIn dan Facebook (META ) yang memiliki gambar profil yang dihasilkan dengan algoritma deepfake.

Memungkinkan untuk membuat audio deepfakes juga. Jaringan neural dalam dilatih untuk menghasilkan klona suara/skin suara dari orang yang berbeda, termasuk selebriti dan politisi. Salah satu contoh audio Deepfake yang terkenal adalah ketika perusahaan AI Dessa menggunakan model AI, didukung oleh algoritma non-AI, untuk merekayasa suara podcast host Joe Rogan.

Bagaimana Mengenali Deepfakes

Ketika deepfakes menjadi lebih canggih, membedakannya dari media asli akan menjadi lebih sulit. Saat ini, ada beberapa tanda yang jelas yang dapat dilihat orang untuk mengetahui apakah video tersebut potensial deepfake, seperti sinkronisasi bibir yang buruk, gerakan yang tidak wajar, flickering di sekitar tepi wajah, dan distorsi detail halus seperti rambut, gigi, atau refleksi. Tanda lain yang mungkin menunjukkan deepfake termasuk bagian video yang kualitasnya lebih rendah, dan kedipan mata yang tidak teratur.

Meskipun tanda-tanda ini mungkin membantu seseorang mendeteksi deepfake saat ini, ketika teknologi deepfake meningkat, satu-satunya pilihan untuk deteksi deepfake yang dapat diandalkan mungkin adalah jenis AI lain yang dilatih untuk membedakan palsu dari media asli.

Perusahaan AI, termasuk banyak perusahaan teknologi besar, sedang melakukan penelitian tentang metode deteksi deepfakes. Bulan Desember lalu, sebuah tantangan deteksi deepfake dimulai, didukung oleh tiga raksasa teknologi: Amazon (AMZN ), Facebook, dan Microsoft. Tim peneliti dari seluruh dunia bekerja pada metode deteksi deepfakes, berkompetisi untuk mengembangkan metode deteksi terbaik. Kelompok peneliti lain, seperti kelompok peneliti gabungan dari Google (GOOGL ) dan Jigsaw, bekerja pada jenis “forensik wajah” yang dapat mendeteksi video yang telah diedit, membuat dataset mereka menjadi sumber terbuka dan mendorong orang lain untuk mengembangkan metode deteksi deepfakes. Dessa yang disebutkan sebelumnya telah bekerja pada pengembangan teknik deteksi deepfakes, berusaha untuk memastikan bahwa model deteksi bekerja pada video deepfake yang ditemukan di internet, bukan hanya pada dataset pelatihan dan pengujian yang disusun sebelumnya, seperti dataset sumber terbuka yang disediakan oleh Google.

Ada juga strategi lain yang sedang diselidiki untuk menangani penyebaran deepfakes. Misalnya, memeriksa video untuk kesesuaian dengan sumber informasi lain adalah salah satu strategi. Pencarian dapat dilakukan untuk video acara yang potensial diambil dari sudut lain, atau detail latar belakang video (seperti pola cuaca dan lokasi) dapat diperiksa untuk inkonsistensi. Di luar itu, sistem buku besar online Blockchain dapat mendaftarkan video ketika mereka awalnya dibuat, menyimpan audio dan gambar aslinya sehingga video turunan dapat selalu diperiksa untuk manipulasi.

Pada akhirnya, penting bahwa metode deteksi deepfakes yang dapat diandalkan dibuat dan bahwa metode deteksi tersebut tetap mengikuti kemajuan terbaru dalam teknologi deepfake. Meskipun sulit untuk mengetahui efek pasti dari deepfakes, jika tidak ada metode deteksi deepfakes yang dapat diandalkan (dan bentuk media palsu lainnya), informasi yang salah dapat menyebar luas dan merusak kepercayaan orang pada masyarakat dan lembaga.

Implikasi Deepfakes

Apa bahaya dari membiarkan deepfake menyebar tanpa kontrol?

Salah satu masalah terbesar yang dibuat oleh deepfakes saat ini adalah pornografi non-konsensual, yang dibuat dengan menggabungkan wajah orang dengan video dan gambar pornografis. Ahli etika AI khawatir bahwa deepfakes akan digunakan lebih banyak dalam pembuatan balas dendam palsu. Di luar itu, deepfakes dapat digunakan untuk membully dan merusak reputasi hampir siapa saja, karena mereka dapat digunakan untuk meletakkan orang dalam skenario kontroversial dan kompromatif.

Perusahaan dan spesialis keamanan siber telah mengungkapkan kekhawatiran tentang penggunaan deepfakes untuk memfasilitasi penipuan, penipuan, dan pemerasan. Konon, deepfake audio telah digunakan untuk membujuk karyawan perusahaan untuk mentransfer uang ke penipu

Memungkinkan bahwa deepfakes dapat memiliki efek berbahaya bahkan di luar yang disebutkan di atas. Deepfakes dapat merusak kepercayaan orang pada media umum, dan membuatnya sulit bagi orang untuk membedakan antara berita asli dan berita palsu. Jika banyak video di web adalah palsu, menjadi lebih mudah bagi pemerintah, perusahaan, dan entitas lain untuk meragukan kontroversi dan praktik tidak etis yang sah.

Ketika datang ke pemerintah, deepfakes mungkin bahkan mengancam operasi demokrasi. Demokrasi memerlukan bahwa warga negara dapat membuat keputusan yang tepat tentang politisi berdasarkan informasi yang dapat diandalkan. Informasi yang salah merusak proses demokratis. Misalnya, presiden Gabon, Ali Bongo, muncul dalam video yang berusaha untuk menenangkan warga Gabon. Presiden diasumsikan sakit untuk waktu yang lama, dan penampilannya yang tiba-tiba dalam video palsu memicu upaya kudeta. Presiden Donald Trump mengklaim bahwa rekaman audio yang menggembirakan tentang menggenggam wanita adalah palsu, meskipun juga menggambarkannya sebagai “percakapan kamar mandi”. Pangeran Andrew juga mengklaim bahwa gambar yang disediakan oleh pengacara Emily Maitilis adalah palsu, meskipun pengacara itu bersikeras pada keasliannya.

Pada akhirnya, meskipun ada penggunaan yang sah untuk teknologi deepfake, ada banyak bahaya potensial yang dapat muncul dari penyalahgunaan teknologi tersebut. Oleh karena itu, sangat penting bahwa metode untuk menentukan keaslian media dibuat dan dipertahankan.