Pada 2024, Deepfakes Mulai Menjadi Arus Utama. Berikut Cara Bisnis Dapat Melindungi Diri

Sejak setidaknya pemilihan 2016, ketika kekhawatiran tentang disinformasi meledak ke kesadaran publik, para ahli telah membunyikan alarm tentang deepfakes. Implikasi teknologi ini sangat menakutkan. Proliferasi tak terkendali media sintetis yang sangat realistis ini merupakan ancaman bagi siapa saja – dari politisi hingga orang biasa. Dalam lingkungan yang sudah mudah meledak dan ditandai dengan ketidakpercayaan yang meluas, deepfakes berjanji untuk hanya memperburuk keadaan lebih lanjut.

Ternyata, kekhawatiran kita terlalu dini. Kemampuan teknis yang dibutuhkan untuk benar-benar membuat deepfakes, dipasangkan dengan kualitas yang sering buruk, berarti bahwa selama setidaknya dua siklus pemilihan presiden terakhir, mereka tetap menjadi masalah minimal.

Tapi semua itu akan berubah – sedang berubah. Selama dua tahun terakhir, teknologi AI generatif telah memasuki arus utama, secara radikal menyederhanakan proses pembuatan deepfakes bagi konsumen rata-rata. Inovasi yang sama telah meningkatkan kualitas deepfakes secara signifikan, sehingga dalam tes buta, sebagian besar orang tidak akan dapat membedakan video yang diedit dari yang asli.

Tahun ini, terutama, kita telah mulai melihat tanda-tanda bagaimana teknologi ini mungkin memengaruhi masyarakat jika upaya tidak diambil untuk melawannya. Tahun lalu, misalnya, foto AI-generated dari Paus Fransiskus mengenakan jaket yang tidak biasa menyebar, dan dianggap banyak orang sebagai asli. Sementara ini mungkin tampak, pada satu level, seperti lelucon yang tidak berbahaya, ini mengungkapkan potensi berbahaya dari deepfakes ini dan betapa sulitnya untuk menghentikan penyebaran informasi yang salah sekali sudah mulai menyebar. Kita dapat mengharapkan menemukan contoh yang jauh lebih berbahaya – dan jauh lebih berbahaya – dari jenis penipuan viral ini dalam bulan dan tahun mendatang.

Oleh karena itu, sangat penting bahwa organisasi dari semua jenis – dari media hingga keuangan hingga pemerintah hingga platform media sosial – mengambil sikap proaktif terhadap deteksi deepfake dan verifikasi keaslian konten. Budaya kepercayaan melalui pengamanan perlu dibentuk sekarang, sebelum gelombang deepfakes dapat menghanyutkan pemahaman bersama kita tentang kenyataan.

Mengerti Ancaman Deepfake

Sebelum membahas apa yang dapat dilakukan organisasi untuk melawan lonjakan deepfakes ini, perlu untuk menjelaskan mengapa alat pengamanan diperlukan. Biasanya, mereka yang khawatir tentang deepfakes menyebutkan dampak potensialnya pada politik dan kepercayaan sosial. Konsekuensi potensial ini sangat penting dan tidak boleh diabaikan dalam pembicaraan tentang deepfakes. Tapi, ternyata, munculnya teknologi ini memiliki efek yang sangat berbahaya di berbagai sektor ekonomi AS.

Ambil contoh asuransi, misalnya. Saat ini, penipuan asuransi tahunan di Amerika Serikat mencapai $308,6 miliar – sebuah angka yang kira-kira satu perempat dari industri tersebut. Pada saat yang sama, operasi belakang layar dari sebagian besar perusahaan asuransi semakin otomatis, dengan 70% klaim standar yang diproyeksikan menjadi tanpa sentuhan pada 2025. Ini berarti bahwa keputusan dibuat dengan intervensi manusia minimal: layanan mandiri di bagian depan dan otomatisasi yang difasilitasi AI di bagian belakang.

Ironisnya, teknologi yang sama yang memungkinkan peningkatan otomatisasi ini – yaitu pembelajaran mesin dan kecerdasan buatan – telah menjamin penyalahgunaannya oleh pelaku jahat. Sekarang lebih mudah bagi orang biasa untuk memanipulasi klaim – misalnya, dengan menggunakan program AI generatif seperti Dall-E, Midjourney, atau Stable Diffusion untuk membuat mobil terlihat lebih rusak daripada yang sebenarnya. Sudah ada aplikasi yang ada khusus untuk tujuan ini, seperti Dude Your Car!, yang memungkinkan pengguna secara artifisial membuat lekukan pada foto kendaraan mereka.

Hal yang sama berlaku untuk dokumen resmi, yang sekarang dapat dengan mudah dimanipulasi – dengan faktur, penilaian asuransi, dan bahkan tanda tangan disesuaikan atau diciptakan secara keseluruhan. Kemampuan ini merupakan masalah tidak hanya bagi perusahaan asuransi tetapi juga di seluruh ekonomi. Ini adalah masalah bagi lembaga keuangan, yang harus memverifikasi keaslian berbagai dokumen. Ini adalah masalah bagi pengecer, yang mungkin menerima keluhan bahwa produk yang diterima rusak, disertai dengan gambar yang diedit.

Bisnis tidak dapat beroperasi dengan tingkat ketidakpastian ini. Beberapa tingkat penipuan mungkin selalu tidak terhindarkan, tetapi dengan deepfakes, kita tidak berbicara tentang penipuan di pinggiran – kita berbicara tentang bencana epistemologis potensial di mana bisnis tidak memiliki cara yang jelas untuk menentukan kebenaran dari fiksi, dan akhirnya kehilangan miliaran dolar karena kebingungan ini.

Melawan Api dengan Api: Bagaimana AI Dapat Membantu

Jadi, apa yang dapat dilakukan untuk melawan ini? Mungkin tidak mengejutkan, jawabannya terletak pada teknologi yang sama yang memfasilitasi deepfakes. Jika kita ingin menghentikan wabah ini sebelum mendapatkan lebih banyak momentum, kita perlu melawan api dengan api. AI dapat membantu menghasilkan deepfakes – tetapi juga, beruntungnya, dapat membantu mengidentifikasi mereka secara otomatis dan dalam skala besar.

Dengan menggunakan alat AI yang tepat, bisnis dapat secara otomatis menentukan apakah foto, video, atau dokumen tertentu telah diedit. Dengan membawa puluhan model yang berbeda untuk tugas identifikasi palsu, AI dapat secara otomatis memberitahu bisnis apakah foto atau video tertentu mencurigakan. Seperti alat yang sudah digunakan bisnis untuk mengotomatisasi operasi sehari-hari, alat ini dapat berjalan di latar belakang tanpa membebani staf yang sudah sibuk atau mengambil waktu dari proyek penting.

Jika dan ketika foto diidentifikasi sebagai kemungkinan diedit, staf manusia dapat kemudian diingatkan, dan dapat mengevaluasi masalah secara langsung, dibantu oleh informasi yang disediakan oleh AI. Dengan menggunakan analisis deep-scan, AI dapat memberitahu bisnis mengapa mereka percaya bahwa foto kemungkinan besar telah diedit – menunjuk, misalnya, ke metadata yang diedit secara manual, keberadaan gambar yang identik di seluruh web, berbagai ketidakberesan fotografi, dll.

Tidak ada yang ini untuk merendahkan kemajuan luar biasa yang telah kita lihat dalam teknologi AI generatif selama beberapa tahun terakhir, yang memang memiliki aplikasi yang berguna dan produktif di berbagai industri. Tapi potensi – serta kemudahan – teknologi yang muncul ini hampir menjamin penyalahgunaannya oleh mereka yang ingin memanipulasi organisasi, baik untuk keuntungan pribadi atau untuk menyebarkan kekacauan sosial.

Organisasi dapat memiliki kebaikan dari kedua dunia: manfaat produktivitas AI tanpa kelemahan dari deepfakes yang merajalela. Tapi ini membutuhkan tingkat kewaspadaan baru, terutama mengingat bahwa keluaran AI generatif hanya menjadi lebih persuasif, terperinci, dan hidup seiring hari. Semakin cepat organisasi memperhatikan masalah ini, semakin cepat mereka dapat menikmati manfaat penuh dari dunia yang otomatis.