Apa itu Deepfakes?

Ketika deepfakes menjadi lebih mudah dibuat dan lebih meluas, perhatian yang lebih besar diberikan kepada mereka. Deepfakes telah menjadi titik fokus diskusi yang melibatkan etika AI, informasi yang salah, keterbukaan informasi dan internet, dan regulasi. Ini membayar untuk mendapatkan informasi tentang deepfakes, dan memiliki pemahaman intuitif tentang apa itu deepfakes. Artikel ini akan menjelaskan definisi deepfake, memeriksa kasus penggunaannya, membahas bagaimana deepfakes dapat dideteksi, dan memeriksa implikasi deepfakes untuk masyarakat.

Apa itu Deepfakes?

Sebelum melanjutkan untuk membahas deepfakes lebih lanjut, akan sangat membantu untuk mengambil beberapa waktu dan menjelaskan apa yang sebenarnya dimaksud dengan “deepfakes”. Terdapat sejumlah besar kebingungan mengenai istilah Deepfake, dan sering kali istilah tersebut digunakan secara salah untuk setiap media palsu, terlepas dari apakah itu merupakan deepfake yang sebenarnya atau tidak. Agar memenuhi syarat sebagai Deepfake, media palsu yang bersangkutan harus dihasilkan dengan sistem pembelajaran mesin, khususnya jaringan neural dalam.

Bahan utama deepfakes adalah pembelajaran mesin. Pembelajaran mesin telah membuat komputer dapat menghasilkan video dan audio secara otomatis dengan relatif cepat dan mudah. Jaringan neural dalam dilatih pada footage dari orang nyata agar jaringan dapat mempelajari bagaimana orang terlihat dan bergerak di bawah kondisi lingkungan target. Jaringan yang dilatih kemudian digunakan pada gambar orang lain dan ditingkatkan dengan teknik grafis komputer tambahan untuk menggabungkan orang baru dengan footage asli. Algoritma pengkodean digunakan untuk menentukan kesamaan antara wajah asli dan wajah target. Setelah fitur umum dari wajah diisolasi, algoritma AI kedua yang disebut dekoder digunakan. Dekoder memeriksa gambar yang dikodekan (dikompresi) dan merekonstruksinya berdasarkan fitur pada gambar asli. Dua dekoder digunakan, satu pada wajah subjek asli dan yang kedua pada wajah orang target. Agar pertukaran dapat dilakukan, dekoder yang dilatih pada gambar orang X diberi gambar orang Y. Hasilnya adalah wajah orang Y direkonstruksi di atas ekspresi wajah dan orientasi orang X.

Saat ini, masih membutuhkan waktu yang cukup lama untuk membuat deepfake. Pembuat palsu harus menghabiskan waktu lama untuk menyesuaikan parameter model secara manual, karena parameter yang tidak optimal akan menyebabkan kesalahan yang terlihat dan glitch gambar yang mengungkapkan sifat palsu yang sebenarnya.

Meskipun sering diasumsikan bahwa sebagian besar deepfakes dibuat dengan jenis jaringan neural yang disebut jaringan adversarial generatif (GAN), banyak (mungkin sebagian besar) deepfakes yang dibuat saat ini tidak bergantung pada GAN. Meskipun GAN memainkan peran penting dalam pembuatan deepfakes awal, sebagian besar video deepfake dibuat melalui metode alternatif, menurut Siwei Lyu dari SUNY Buffalo.

Dibutuhkan sejumlah besar data pelatihan untuk melatih GAN, dan GAN sering membutuhkan waktu lebih lama untuk merender gambar dibandingkan dengan teknik generasi gambar lainnya. GAN juga lebih baik untuk menghasilkan gambar statis daripada video, karena GAN memiliki kesulitan mempertahankan konsistensi dari frame ke frame. Lebih umum untuk menggunakan pengkodean dan beberapa dekoder untuk membuat deepfakes.

Apa yang Digunakan Deepfakes?

Banyak deepfakes yang ditemukan online bersifat pornografis. Menurut penelitian yang dilakukan oleh Deeptrace, sebuah perusahaan AI, dari sampel sekitar 15.000 video deepfake yang diambil pada September 2019, sekitar 95% di antaranya bersifat pornografis. Implikasi yang mengkhawatirkan dari fakta ini adalah bahwa ketika teknologi menjadi lebih mudah digunakan, insiden palsu balas dendam pornografi bisa meningkat.

Namun, tidak semua deepfakes bersifat pornografis. Terdapat penggunaan yang lebih sah untuk teknologi deepfake. Teknologi deepfake audio dapat membantu orang menyiaran suara mereka yang normal setelah mereka rusak atau hilang karena penyakit atau cedera. Deepfakes dapat digunakan untuk menyembunyikan wajah orang yang berada dalam situasi yang sensitif dan berpotensi berbahaya, sambil masih memungkinkan bibir dan ekspresi mereka dibaca. Teknologi deepfake dapat digunakan untuk meningkatkan dubbing pada film berbahasa asing, membantu dalam perbaikan media lama dan rusak, dan bahkan menciptakan gaya seni baru.

Deepfakes Non-Video

Sementara sebagian besar orang berpikir tentang video palsu ketika mereka mendengar istilah “deepfake”, video palsu bukanlah satu-satunya jenis media palsu yang dihasilkan dengan teknologi deepfake. Teknologi deepfake digunakan untuk membuat foto dan audio palsu juga. Seperti yang disebutkan sebelumnya, GAN sering digunakan untuk menghasilkan gambar palsu. Dipikirkan bahwa telah terjadi banyak kasus profil LinkedIn dan Facebook yang memiliki gambar profil yang dihasilkan dengan algoritma deepfake.

Memungkinkan untuk membuat audio deepfakes juga. Jaringan neural dalam dilatih untuk menghasilkan klona suara/suara kulit dari orang yang berbeda, termasuk selebriti dan politisi. Salah satu contoh audio Deepfake yang terkenal adalah ketika perusahaan AI Dessa menggunakan model AI, didukung oleh algoritma non-AI, untuk merekayasa suara podcast host Joe Rogan.

Bagaimana Mengenali Deepfakes

Ketika deepfakes menjadi lebih canggih, membedakan mereka dari media asli akan menjadi lebih sulit. Saat ini, terdapat beberapa tanda yang jelas yang dapat dilihat orang untuk menentukan apakah sebuah video adalah deepfake, seperti sinkronisasi bibir yang buruk, gerakan yang tidak wajar, flickering di sekitar tepi wajah, dan distorsi detail halus seperti rambut, gigi, atau refleksi. Tanda lain yang mungkin menunjukkan deepfake termasuk bagian video yang memiliki kualitas lebih rendah, dan kedipan mata yang tidak teratur.

Meskipun tanda-tanda ini mungkin membantu seseorang mengenali deepfake saat ini, ketika teknologi deepfake meningkat, satu-satunya pilihan untuk deteksi deepfake yang dapat diandalkan mungkin adalah AI lain yang dilatih untuk membedakan palsu dari media asli.

Perusahaan AI, termasuk banyak perusahaan teknologi besar, sedang melakukan penelitian tentang metode deteksi deepfakes. Bulan Desember lalu, sebuah tantangan deteksi deepfake dimulai, didukung oleh tiga raksasa teknologi: Amazon, Facebook, dan Microsoft. Tim peneliti dari seluruh dunia bekerja pada metode deteksi deepfakes, bersaing untuk mengembangkan metode deteksi terbaik. Kelompok peneliti lain, seperti kelompok peneliti gabungan dari Google dan Jigsaw, bekerja pada jenis “forensik wajah” yang dapat mendeteksi video yang telah diubah, membuat dataset mereka menjadi sumber terbuka dan mendorong orang lain untuk mengembangkan metode deteksi deepfakes. Dessa yang disebutkan sebelumnya telah bekerja pada pengembangan teknik deteksi deepfake, berusaha untuk memastikan bahwa model deteksi bekerja pada video deepfake yang ditemukan di internet, bukan hanya pada dataset pelatihan dan pengujian yang telah disusun sebelumnya, seperti dataset sumber terbuka yang disediakan Google.

Terdapat strategi lain yang sedang diselidiki untuk menangani penyebaran deepfakes. Misalnya, memeriksa video untuk kesesuaian dengan sumber informasi lain adalah salah satu strategi. Pencarian dapat dilakukan untuk video acara yang mungkin diambil dari sudut lain, atau detail latar belakang video (seperti pola cuaca dan lokasi) dapat diperiksa untuk inkonsistensi. Di luar itu, sistem buku besar online Blockchain dapat mendaftarkan video ketika mereka awalnya dibuat, menyimpan audio dan gambar aslinya sehingga video turunan dapat selalu diperiksa untuk manipulasi.

Pada akhirnya, sangat penting bahwa metode deteksi deepfakes yang dapat diandalkan dibuat dan bahwa metode deteksi tersebut tetap sejalan dengan kemajuan terbaru dalam teknologi deepfake. Meskipun sulit untuk mengetahui secara pasti apa dampak deepfakes akan, jika tidak ada metode deteksi deepfakes yang dapat diandalkan (dan bentuk media palsu lainnya), informasi yang salah dapat berpotensi menyebar luas dan merusak kepercayaan orang pada masyarakat dan lembaga.

Implikasi Deepfakes

Apa bahaya membiarkan deepfake menyebar tanpa kontrol?

Salah satu masalah terbesar yang dibuat oleh deepfakes saat ini adalah pornografi non-konsensual, yang dibuat dengan menggabungkan wajah orang dengan video dan gambar pornografis. Ahli etika AI khawatir bahwa deepfakes akan digunakan lebih banyak dalam pembuatan balas dendam palsu. Di luar itu, deepfakes dapat digunakan untuk mengintimidasi dan merusak reputasi hampir semua orang, karena mereka dapat digunakan untuk meletakkan orang dalam skenario kontroversial dan kompromi.

Perusahaan dan spesialis keamanan siber telah mengungkapkan kekhawatiran tentang penggunaan deepfakes untuk memfasilitasi penipuan, penipuan, dan pemerasan. Konon, deepfake audio telah digunakan untuk membujuk karyawan perusahaan untuk mentransfer uang ke penipu

Memungkinkan bahwa deepfakes dapat memiliki efek berbahaya bahkan di luar yang disebutkan di atas. Deepfakes dapat merusak kepercayaan orang pada media secara umum, dan membuatnya sulit bagi orang untuk membedakan antara berita asli dan berita palsu. Jika banyak video di web adalah palsu, maka menjadi lebih mudah bagi pemerintah, perusahaan, dan entitas lain untuk meragukan kontroversi yang sah dan praktik yang tidak etis.

Ketika datang ke pemerintah, deepfakes mungkin bahkan mengancam operasi demokrasi. Demokrasi memerlukan bahwa warga negara dapat membuat keputusan yang tepat tentang politisi berdasarkan informasi yang dapat diandalkan. Informasi yang salah merusak proses demokratis. Misalnya, presiden Gabon, Ali Bongo, muncul dalam video yang berusaha untuk menenangkan warga Gabon. Presiden tersebut diasumsikan sakit untuk waktu yang lama, dan kemunculannya yang tiba-tiba dalam video palsu memicu upaya kudeta. Presiden Donald Trump mengklaim bahwa rekaman audio yang menunjukkan dia berbicara tentang meraih wanita oleh alat kelamin adalah palsu, meskipun juga menggambarkannya sebagai “percakapan kamar mandi”. Pangeran Andrew juga mengklaim bahwa gambar yang disediakan oleh pengacara Emily Maitilis adalah palsu, meskipun pengacara tersebut bersikeras pada keasliannya.

Pada akhirnya, meskipun ada penggunaan yang sah untuk teknologi deepfake, terdapat banyak bahaya potensial yang dapat muncul dari penyalahgunaan teknologi tersebut. Oleh karena itu, sangat penting bahwa metode untuk menentukan keaslian media dibuat dan dipertahankan.