Ahli Mengatakan “DeepFakes yang Sangat Realistis” Akan Hadir dalam 6 Bulan

DeepFakes yang impresif tetapi kontroversial, yaitu gambar dan video yang dimanipulasi atau dibuat oleh jaringan neural dalam, kemungkinan akan menjadi lebih impresif dan lebih kontroversial di masa depan, menurut Hao Li, Direktur Laboratorium Visi dan Grafis di Universitas Southern California. Li adalah ahli penglihatan komputer dan DeepFakes, dan dalam sebuah wawancara baru-baru ini dengan CNBC dia mengatakan bahwa DeepFakes yang “sangat realistis” kemungkinan akan hadir dalam waktu setengah tahun.

Li menjelaskan bahwa sebagian besar DeepFakes masih dapat dikenali sebagai palsu oleh mata manusia, dan bahkan DeepFakes yang lebih meyakinkan masih memerlukan upaya yang cukup besar dari pembuatnya untuk membuatnya tampak realistis. Namun, Li yakin bahwa dalam waktu enam bulan, DeepFakes yang tampak sangat realistis kemungkinan akan muncul karena algoritma yang digunakan menjadi lebih canggih.

Li awalnya berpikir bahwa akan membutuhkan waktu antara dua hingga tiga tahun untuk DeepFakes yang sangat meyakinkan menjadi lebih umum, membuat prediksi tersebut pada sebuah konferensi yang diadakan di Massachusetts Institute of Technology. Namun, Li merevisi timeline-nya setelah pengungkapan aplikasi Tiongkok Zao dan perkembangan terkini lainnya mengenai teknologi DeepFakes. Li menjelaskan kepada CNBC bahwa metode yang dibutuhkan untuk membuat DeepFakes yang realistis lebih atau kurang sama dengan metode yang saat ini digunakan dan bahwa bahan utama yang akan membuat DeepFakes yang realistis adalah data pelatihan yang lebih banyak.

Li dan rekan-rekannya telah bekerja keras pada teknologi deteksi DeepFakes, mengantisipasi kedatangan DeepFakes yang sangat meyakinkan. Li dan rekan-rekannya, seperti Hany Farid dari Universitas California Berkeley, melakukan eksperimen dengan algoritma DeepFakes yang paling mutakhir untuk memahami bagaimana teknologi yang membuatnya bekerja.

Li menjelaskan kepada CNBC:

“Jika Anda ingin dapat mendeteksi deepfakes, Anda harus juga melihat batas-batasnya. Jika Anda perlu membangun kerangka kerja AI yang mampu mendeteksi hal-hal yang sangat realistis, maka kerangka kerja tersebut harus dilatih menggunakan teknologi tersebut, sehingga dalam beberapa cara, mustahil untuk mendeteksi hal-hal tersebut jika Anda tidak tahu bagaimana mereka bekerja.”

Li dan rekan-rekannya berinvestasi dalam membuat alat untuk mendeteksi DeepFakes dalam pengakuan atas masalah dan bahaya yang ditimbulkan oleh teknologi tersebut. Li dan rekan-rekannya jauh dari satu-satunya kelompok peneliti AI yang khawatir tentang dampak yang mungkin ditimbulkan oleh DeepFakes dan tertarik membuat tindakan pencegahan terhadapnya.

Baru-baru ini, Facebook (META ) memulai kemitraan bersama dengan MIT, Microsoft (MSFT ), dan Universitas Oxford untuk membuat DeepFake Detection Challenge, yang bertujuan untuk membuat alat yang dapat digunakan untuk mendeteksi ketika gambar atau video telah diubah. Alat-alat ini akan bersifat open source dan dapat digunakan oleh perusahaan, organisasi media, dan pemerintah. Sementara itu, peneliti dari Institut Sains Informasi Universitas Southern California baru-baru ini membuat serangkaian algoritma yang dapat membedakan video palsu dengan akurasi sekitar 96%.

Namun, Li juga menjelaskan bahwa masalah dengan DeepFakes adalah cara mereka dapat disalahgunakan, dan bukan teknologi itu sendiri. Li mencatat beberapa kemungkinan penggunaan yang sah untuk teknologi DeepFakes, termasuk dalam industri hiburan dan mode.

Teknik DeepFakes juga telah digunakan untuk menggandakan ekspresi wajah orang dengan wajah yang tertutup dalam gambar. Peneliti menggunakan Jaringan Adversarial Generatif untuk membuat wajah yang sama sekali baru yang memiliki ekspresi yang sama dengan subjek dalam gambar asli. Teknik yang dikembangkan oleh Universitas Sains dan Teknologi Norwegia dapat membantu mengungkapkan ekspresi wajah selama wawancara dengan orang-orang yang sensitif yang membutuhkan privasi, seperti pembocor. Seseorang dapat membiarkan wajahnya digunakan sebagai pengganti orang yang membutuhkan anonimitas, tetapi ekspresi wajah orang tersebut masih dapat dibaca.

Seiring dengan meningkatnya kemampuan teknologi DeepFake, kasus penggunaan yang sah untuk DeepFakes juga akan meningkat. Namun, bahaya yang ditimbulkan juga akan meningkat, dan karena itu, pekerjaan deteksi DeepFakes yang dilakukan oleh Li dan lainnya menjadi semakin penting.