Pada 2024, Deepfakes Akan Menjadi Arus Utama. Berikut Cara Bisnis Dapat Melindungi Diri

Sejak setidaknya pemilihan 2016, ketika kekhawatiran tentang disinformasi memasuki kesadaran publik, para ahli telah meniup peluit tentang deepfakes. Implikasi dari teknologi ini sangat menakutkan. Proliferasi tak terkendali dari media sintetis yang sangat realistis ini merupakan ancaman bagi siapa saja – dari politisi hingga orang biasa. Dalam lingkungan yang sudah mudah meledak dan ditandai dengan ketidakpercayaan yang meluas, deepfakes berjanji untuk hanya memicu api lebih lanjut.

Ternyata, kekhawatiran kita terlalu dini. Kemampuan teknis yang diperlukan untuk benar-benar membuat deepfakes, dipasangkan dengan kualitas yang sering buruk, berarti bahwa selama setidaknya dua siklus pemilihan presiden terakhir, mereka tetap menjadi masalah minimal.

Tapi semua itu akan berubah – sedang berubah sekarang. Selama dua tahun terakhir, teknologi AI generatif telah memasuki arus utama, secara radikal menyederhanakan proses pembuatan deepfakes untuk konsumen rata-rata. Inovasi yang sama telah meningkatkan kualitas deepfakes secara signifikan, sehingga dalam tes buta, sebagian besar orang tidak akan dapat membedakan antara video yang diedit dan aslinya.

Tahun ini, terutama, kita telah mulai melihat indikasi tentang bagaimana teknologi ini mungkin mempengaruhi masyarakat jika upaya tidak diambil untuk melawannya. Tahun lalu, misalnya, foto AI-generated dari Paus Fransiskus mengenakan jaket yang tidak biasa menyebar luas, dan dianggap banyak orang sebagai asli. Sementara ini mungkin tampak, pada satu tingkat, seperti lelucon yang tidak berbahaya, ini menunjukkan potensi berbahaya dari deepfakes ini dan betapa sulitnya untuk menghentikan penyebaran informasi yang salah sekali telah dimulai. Kita dapat mengharapkan menemukan contoh-contoh yang jauh lebih tidak menyenangkan – dan jauh lebih berbahaya – dari jenis penipuan viral ini dalam bulan dan tahun mendatang.

Oleh karena itu, sangat penting bahwa organisasi dari semua jenis – dari media hingga keuangan hingga pemerintah hingga platform media sosial – mengambil sikap proaktif terhadap deteksi deepfake dan verifikasi keaslian konten. Budaya kepercayaan melalui pengamanan perlu dibentuk sekarang, sebelum gelombang deepfakes dapat menghanyutkan pemahaman bersama kita tentang kenyataan.

Mengerti Ancaman Deepfake

Sebelum membahas apa yang dapat dilakukan organisasi untuk melawan lonjakan deepfakes ini, patut untuk menjelaskan mengapa alat pengamanan diperlukan. Biasanya, mereka yang khawatir tentang deepfakes menyebutkan potensi efeknya pada politik dan kepercayaan sosial. Konsekuensi potensial ini sangat penting dan tidak boleh diabaikan dalam pembicaraan tentang deepfakes. Tapi ternyata, munculnya teknologi ini memiliki efek yang sangat berbahaya di berbagai sektor ekonomi AS.

Ambil contoh asuransi, misalnya. Saat ini, penipuan asuransi tahunan di Amerika Serikat mencapai $308,6 miliar – sebuah angka yang kira-kira satu-perempat ukuran industri secara keseluruhan. Pada saat yang sama, operasi belakang layar dari sebagian besar perusahaan asuransi semakin otomatis, dengan 70% klaim standar yang diperkirakan akan tanpa sentuhan oleh 2025. Ini berarti bahwa keputusan semakin dibuat dengan intervensi manusia minimal: layanan mandiri di bagian depan dan otomatisasi yang difasilitasi AI di bagian belakang.

Ironisnya, teknologi yang sama yang telah memungkinkan peningkatan otomatisasi ini – yaitu pembelajaran mesin dan kecerdasan buatan – telah menjamin eksploitasi oleh pelaku jahat. Sekarang lebih mudah bagi orang biasa untuk memanipulasi klaim – misalnya, dengan menggunakan program AI generatif seperti Dall-E, Midjourney, atau Stable Diffusion untuk membuat mobil terlihat lebih rusak daripada yang sebenarnya. Sudah ada aplikasi yang ada khusus untuk tujuan ini, seperti Dude Your Car!, yang memungkinkan pengguna secara buatan membuat lekukan pada foto mobil mereka.

Hal yang sama berlaku untuk dokumen resmi, yang sekarang dapat dengan mudah dimanipulasi – dengan faktur, penilaian underwriting, dan bahkan tanda tangan disesuaikan atau diciptakan secara keseluruhan. Kemampuan ini merupakan masalah tidak hanya bagi perusahaan asuransi tetapi juga di seluruh perekonomian. Ini adalah masalah bagi lembaga keuangan, yang harus memverifikasi keaslian berbagai dokumen. Ini adalah masalah bagi pengecer, yang mungkin menerima keluhan bahwa produk mereka rusak, disertai dengan gambar yang diedit.

Bisnis tidak dapat beroperasi dengan tingkat ketidakpastian ini. Beberapa derajat penipuan mungkin selalu tidak terhindarkan, tapi dengan deepfakes, kita tidak berbicara tentang penipuan di pinggiran – kita berbicara tentang bencana epistemologis potensial di mana bisnis tidak memiliki cara yang jelas untuk membedakan kebenaran dari fiksi, dan berakhir kehilangan miliaran dolar karena kebingungan ini.

Melawan Api dengan Api: Bagaimana AI Dapat Membantu

Jadi, apa yang dapat dilakukan untuk melawan ini? Mungkin tidak mengejutkan, jawabannya terletak pada teknologi yang sama yang memfasilitasi deepfakes. Jika kita ingin menghentikan wabah ini sebelum mendapatkan lebih banyak momentum, kita perlu melawan api dengan api. AI dapat membantu menghasilkan deepfakes – tapi itu juga, syukurlah, dapat membantu mengidentifikasi mereka secara otomatis dan dalam skala besar.

Dengan menggunakan alat AI yang tepat, bisnis dapat secara otomatis menentukan apakah sebuah foto, video, atau dokumen telah dimanipulasi. Dengan membawa puluhan model yang berbeda untuk tugas identifikasi palsu, AI dapat secara otomatis memberitahu bisnis secara tepat apakah sebuah foto atau video mencurigakan. Seperti alat yang sudah diterapkan bisnis untuk mengotomatisasi operasi sehari-hari, alat ini dapat berjalan di latar belakang tanpa membebani staf yang sudah sibuk atau mengambil waktu dari proyek penting.

Jika dan ketika sebuah foto diidentifikasi sebagai potensi diedit, staf manusia dapat kemudian diingatkan, dan dapat mengevaluasi masalah secara langsung, dibantu oleh informasi yang disediakan oleh AI. Dengan menggunakan analisis deep-scan, ini dapat memberitahu bisnis mengapa mereka percaya sebuah foto kemungkinan telah diedit – menunjuk, misalnya, ke metadata yang diedit secara manual, keberadaan gambar identik di web, berbagai ketidakberesan fotografi, dll.

Tidak ada yang ini untuk merendahkan kemajuan luar biasa yang telah kita lihat dalam teknologi AI generatif selama beberapa tahun terakhir, yang memang memiliki aplikasi yang berguna dan produktif di seluruh industri. Tapi kekuatan – tidak to mention kesederhanaan – teknologi yang muncul ini hampir menjamin penyalahgunaannya oleh mereka yang ingin memanipulasi organisasi, baik untuk keuntungan pribadi atau untuk menyebarkan kekacauan sosial.

Organisasi dapat memiliki yang terbaik dari kedua dunia: manfaat produktivitas AI tanpa kelemahan dari deepfakes yang merajalela. Tapi melakukan ini memerlukan tingkat kewaspadaan baru, terutama mengingat bahwa output AI generatif hanya menjadi lebih persuasif, terperinci, dan realistis setiap hari. Semakin cepat organisasi memperhatikan masalah ini, semakin cepat mereka dapat memanen manfaat penuh dari dunia yang otomatis.