Deepfakes dan Navigasi Era Baru Media Sintetis

Ingat “berita palsu”? Istilah ini telah digunakan (dan disalahgunakan) secara ekstensif sehingga sulit untuk mengingat apa yang awalnya dimaksud. Tapi konsep ini memiliki asal yang sangat spesifik. Sepuluh tahun yang lalu, jurnalis mulai memperingatkan tentang arus “sitrus berita” yang melemparkan klaim palsu, sering kali outlandish, tentang politisi dan selebriti. Banyak orang bisa langsung mengenali bahwa situs-situs ini tidak sah.

Tapi banyak orang lain yang tidak memiliki alat kritis untuk mengenali ini. Hasilnya adalah gejolak awal dari krisis epistemologis yang sekarang mulai mengancam internet – satu yang telah mencapai manifestasi yang paling menakutkan dengan munculnya deepfakes.

Dibandingkan dengan deepfake yang cukup baik, “sitrus berita palsu” di masa lalu tampaknya tidak berbahaya. Lebih parah lagi, bahkan mereka yang percaya diri memiliki tingkat literasi media yang relatif tinggi berisiko tertipu. Media sintetis yang dibuat dengan menggunakan algoritma deep learning dan generative AI memiliki potensi untuk menghancurkan fondasi masyarakat kita. Menurut Deloitte, tahun ini saja mereka bisa menghabiskan biaya lebih dari $250 juta melalui transaksi palsu dan jenis penipuan lainnya. Sementara itu, Forum Ekonomi Dunia telah menyebut deepfakes sebagai “salah satu penggunaan AI yang paling mengkhawatirkan”, menunjuk pada potensi “chatbot dan avatar AI yang dipandu agenda, waktu nyata” untuk memfasilitasi strain baru manipulasi yang sangat dipersonalisasi (dan sangat efektif).

Respon yang disarankan oleh WEF untuk masalah ini adalah satu yang masuk akal: mereka mengadvokasi “pemikiran zero-trust“, satu yang membawa tingkat skeptisisme ke setiap pertemuan dengan media digital. Jika kita ingin membedakan antara yang asli dan sintetis ke depan – terutama di lingkungan online yang imersif – pemikiran seperti ini akan semakin penting.

Dua Pendekatan untuk Mengatasi Krisis Deepfakes

Mengatasi disinformasi yang meluas yang disebabkan oleh media sintetis akan memerlukan, menurut pendapat saya, dua pendekatan yang berbeda.

Yang pertama melibatkan verifikasi: menyediakan cara sederhana bagi pengguna internet sehari-hari untuk menentukan apakah video yang mereka lihat memang asli. Alat-alat seperti ini sudah tersebar luas di industri seperti asuransi, mengingat potensi aktor jahat untuk mengajukan klaim palsu yang dibantu oleh video, foto, dan dokumen yang diedit. Mendemokratisasikan alat-alat ini – membuatnya gratis dan mudah diakses – adalah langkah pertama yang penting dalam perjuangan ini, dan kita sudah melihat pergerakan yang signifikan di garis depan ini.

Langkah kedua kurang bersifat teknis dan lebih menantang: yaitu, meningkatkan kesadaran dan mengembangkan keterampilan berpikir kritis. Setelah skandal “berita palsu” asli, pada 2015, organisasi nirlaba di seluruh negara mengembangkan program literasi media dan bekerja untuk menyebarkan praktik terbaik, sering kali bermitra dengan lembaga sipil setempat untuk memberdayakan warga sehari-hari untuk mengenali kebohongan. Tentu saja, “berita palsu” gaya lama adalah anak-anak mainan dibandingkan dengan deepfakes yang paling canggih, yang mengapa kita perlu menggandakan upaya kita di garis depan ini dan berinvestasi dalam pendidikan pada semua tingkat.

Deepfakes Canggih Memerlukan Berpikir Kritis yang Canggih

Tentu saja, inisiatif pendidikan ini sedikit lebih mudah dilakukan ketika disinformasi yang bersangkutan berbasis teks. Dengan situs “berita palsu”, tanda-tanda penipuan sering kali jelas: desain web yang janggal, typo yang meluas, sumber yang aneh. Dengan deepfakes, tanda-tanda tersebut jauh lebih halus – dan sering kali mustahil untuk dikenali pada pandangan pertama.

Oleh karena itu, pengguna internet dari semua usia perlu secara efektif melatih kembali diri mereka untuk menyelidiki video digital untuk indikator deepfakes. Itu berarti memperhatikan sejumlah faktor. Untuk video, itu bisa berarti area yang buram dan bayangan yang tidak wajar; gerakan dan ekspresi wajah yang tidak alami; warna kulit yang terlalu sempurna; pola yang tidak konsisten dalam pakaian dan gerakan; kesalahan sinkronisasi bibir; dan seterusnya. Untuk audio, itu bisa berarti suara yang terlalu murni (atau jelas didigitalkan), kurangnya nada emosional yang terasa manusiawi, pola ucapan yang aneh, atau frasa yang tidak biasa.

Dalam jangka pendek, pelatihan semacam ini dapat sangat berguna. Dengan mengajukan pertanyaan kepada diri sendiri, berulang-ulang, Apakah ini terlihat mencurigakan?, kita tidak hanya memperkuat kemampuan kita untuk mendeteksi deepfakes tetapi juga keterampilan berpikir kritis kita secara umum. Namun, kita dengan cepat mendekati titik di mana bahkan mata yang terlatih tidak akan dapat membedakan antara fakta dan fiksi tanpa bantuan dari luar. Tanda-tanda visual – ketidakteraturan yang disebutkan di atas – akan dihaluskan secara teknis, sehingga klip yang sepenuhnya dibuat akan tidak dapat dibedakan dari yang asli. Yang akan kita miliki hanyalah intuisi situasional kita – kemampuan kita untuk mengajukan pertanyaan seperti Apakah politisi atau selebriti ini benar-benar mengatakan itu? Apakah isi video ini masuk akal?

Dalam konteks ini, platform deteksi AI menjadi sangat penting. Ketika mata telanjang menjadi tidak relevan untuk tujuan deteksi deepfakes, platform-platform ini dapat berfungsi sebagai wasit definitif kenyataan – pengaman terhadap jurang epistemologis. Ketika video terlihat nyata tetapi terasa mencurigakan – seperti yang akan terjadi lebih dan lebih sering dalam beberapa bulan dan tahun mendatang – platform-platform ini dapat menjaga kita tetap berpegang pada fakta dengan mengkonfirmasi keaslian dasar dari apa pun yang kita lihat. Pada akhirnya, dengan teknologi yang sangat kuat ini, satu-satunya hal yang dapat menyelamatkan kita adalah AI itu sendiri. Kita perlu melawan api dengan api – yang berarti menggunakan AI yang baik untuk menghilangkan penyalahgunaan terburuk teknologi.

Sungguh, akuisisi keterampilan ini tidak perlu menjadi proses yang sinis atau negatif. Membentuk pemikiran zero-trust dapat dianggap sebagai kesempatan untuk memperkuat keterampilan berpikir kritis, intuisi, dan kesadaran kita. Dengan mengajukan pertanyaan kepada diri sendiri, berulang-ulang, beberapa pertanyaan kunci – Apakah ini masuk akal? Apakah ini mencurigakan? – kita meningkatkan kemampuan kita untuk menghadapi tidak hanya media palsu tetapi juga dunia secara umum. Jika ada pelajaran yang dapat dipetik dari era deepfakes, ini adalah hal itu. Kita dipaksa untuk berpikir untuk diri sendiri dan menjadi lebih empiris dalam kehidupan sehari-hari kita – dan itu hanya bisa menjadi hal yang baik.