Deepfakes dan Navigasi Era Baru Media Sintetis

Ingat “berita palsu”? Istilah ini telah digunakan (dan disalahgunakan) secara ekstensif sehingga sulit untuk mengingat apa yang awalnya dimaksud. Tetapi konsep ini memiliki asal yang sangat spesifik. Sepuluh tahun yang lalu, jurnalis mulai memperingatkan tentang masuknya “berita” palsu yang mengklaim sebagai berita sebenarnya, sering kali dengan klaim yang tidak masuk akal tentang politisi dan selebriti. Banyak orang dapat langsung mengenali bahwa situs-situs tersebut tidak sah.

Tetapi banyak orang lain yang tidak memiliki alat kritis untuk mengenali hal ini. Akibatnya adalah gejolak awal dari krisis epistemologis yang sekarang mulai melanda internet – yang telah mencapai manifestasi yang paling menakutkan dengan munculnya deepfakes.

Dibandingkan dengan deepfake yang cukup baik, situs “berita palsu” di masa lalu tampak tidak berbahaya. Lebih parah lagi, bahkan mereka yang percaya diri memiliki tingkat literasi media yang relatif tinggi berisiko tertipu. Media sintetis yang dibuat dengan menggunakan algoritma pembelajaran dalam dan AI generatif memiliki potensi untuk menghancurkan fondasi masyarakat kita. Menurut Deloitte, tahun ini saja mereka dapat merugikan bisnis lebih dari $250 juta melalui transaksi palsu dan jenis penipuan lainnya. Sementara itu, Forum Ekonomi Dunia telah menyebut deepfakes sebagai “salah satu penggunaan AI yang paling mengkhawatirkan”, menunjuk pada potensi “chatbot dan avatar AI yang dipandu agenda dan waktu nyata” untuk memfasilitasi strain baru manipulasi yang sangat personal dan efektif.

Respon yang disarankan oleh WEF terhadap masalah ini adalah sangat masuk akal: mereka menganjurkan “pemikiran tanpa kepercayaan“, yang membawa tingkat skeptisisme pada setiap pertemuan dengan media digital. Jika kita ingin membedakan antara yang asli dan sintetis ke depan – terutama dalam lingkungan online yang imersif – pemikiran seperti itu akan semakin penting.

Dua Pendekatan untuk Mengatasi Krisis Deepfake

Mengatasi disinformasi yang meluas yang disebabkan oleh media sintetis akan memerlukan, menurut pendapat saya, dua pendekatan yang berbeda.

Pendekatan pertama melibatkan verifikasi: menyediakan cara sederhana bagi pengguna internet sehari-hari untuk menentukan apakah video yang mereka lihat memang asli. Alat-alat seperti ini sudah umum digunakan di industri seperti asuransi, mengingat potensi aktor jahat untuk mengajukan klaim palsu yang didukung oleh video, foto, dan dokumen yang diedit. Mendemokratisasikan alat-alat ini – membuatnya gratis dan mudah diakses – adalah langkah pertama yang penting dalam perjuangan ini, dan kita sudah melihat pergerakan yang signifikan di bidang ini.

Langkah kedua kurang bersifat teknis dan lebih menantang: yaitu, meningkatkan kesadaran dan mengembangkan keterampilan berpikir kritis. Setelah skandal “berita palsu” asli pada 2015, organisasi nirlaba di seluruh negeri mengembangkan program literasi media dan bekerja untuk menyebarkan praktik terbaik, sering kali bermitra dengan lembaga sipil setempat untuk memberdayakan warga sehari-hari untuk mengenali kebohongan. Tentu saja, “berita palsu” lama tidak sebanding dengan deepfake yang paling canggih, yang mengapa kita perlu menggandakan upaya kita di bidang ini dan berinvestasi dalam pendidikan di semua tingkat.

Deepfakes Canggih Memerlukan Berpikir Kritis yang Canggih

Tentu saja, inisiatif pendidikan ini sedikit lebih mudah dilakukan ketika disinformasi yang bersangkutan berbasis teks. Dengan situs “berita palsu”, tanda-tanda penipuan sering kali jelas: desain web yang tidak rapi, kesalahan ketik yang meluas, sumber yang aneh. Dengan deepfakes, tanda-tanda tersebut jauh lebih halus – dan sering kali mustahil untuk dikenali pada pandangan pertama.

Oleh karena itu, pengguna internet dari semua usia perlu secara efektif melatih diri mereka sendiri untuk memeriksa video digital untuk tanda-tanda deepfake. Itu berarti memperhatikan sejumlah faktor. Untuk video, itu bisa berarti area yang buram dan bayangan yang tidak wajar; gerakan dan ekspresi wajah yang tidak alami; warna kulit yang terlalu sempurna; pola yang tidak konsisten pada pakaian dan gerakan; kesalahan sinkronisasi bibir; dan seterusnya. Untuk audio, itu bisa berarti suara yang terlalu jernih (atau jelas didigitalkan), kurangnya nada emosional yang manusiawi, pola bicara yang aneh, atau frasa yang tidak biasa.

Dalam jangka pendek, pelatihan diri seperti ini dapat sangat berguna. Dengan terus-menerus bertanya pada diri sendiri, Apakah ini terlihat mencurigakan?, kita tidak hanya meningkatkan kemampuan kita untuk mendeteksi deepfakes, tetapi juga keterampilan berpikir kritis kita secara umum. Namun, kita cepat mendekati titik di mana bahkan mata yang terlatih tidak akan dapat membedakan fakta dari fiksi tanpa bantuan dari luar. Tanda-tanda visual – ketidakteraturan yang disebutkan di atas – akan dhaluskan secara teknis, sehingga klip yang sepenuhnya dibuat akan tidak dapat dibedakan dari yang asli. Apa yang akan kita miliki hanyalah intuisi situasional kita – kemampuan kita untuk bertanya pada diri sendiri pertanyaan seperti Apakah politisi atau selebriti ini benar-benar akan mengatakan itu? Apakah isi video ini masuk akal?

Dalam konteks ini, platform deteksi AI menjadi sangat penting. Ketika mata telanjang menjadi tidak relevan untuk tujuan deteksi deepfake, platform ini dapat berfungsi sebagai penentu kenyataan yang pasti – penjaga rel terhadap jurang epistemologis. Ketika video terlihat nyata tetapi tampaknya mencurigakan – seperti yang akan terjadi lebih sering dalam beberapa bulan dan tahun mendatang – platform ini dapat menjaga kita tetap berpegang pada fakta dengan mengkonfirmasi keaslian dasar apa pun yang kita lihat. Pada akhirnya, dengan teknologi yang begitu kuat, satu-satunya hal yang dapat menyelamatkan kita adalah AI itu sendiri. Kita perlu melawan api dengan api – yang berarti menggunakan AI yang baik untuk menghilangkan penyalahgunaan teknologi yang paling buruk.

Sungguh, pengembangan keterampilan ini tidak perlu menjadi proses yang sinis atau negatif. Membentuk pemikiran tanpa kepercayaan dapat dianggap sebagai kesempatan untuk meningkatkan keterampilan berpikir kritis, intuisi, dan kesadaran. Dengan terus-menerus bertanya pada diri sendiri, Apakah ini masuk akal? Apakah ini mencurigakan? – Anda meningkatkan kemampuan Anda untuk menghadapi tidak hanya media palsu tetapi dunia secara luas. Jika ada pelajaran yang dapat dipetik dari era deepfake, ini adalah hal itu. Kita dipaksa untuk berpikir sendiri dan menjadi lebih empiris dalam kehidupan sehari-hari – dan itu hanya bisa menjadi hal yang baik.