Bayangkan ini: Anda sedang bekerja, fokus pada deadline yang ketat, ketika Anda menerima panggilan dari apa yang tampaknya merupakan nomor telepon ibu Anda. Suara di ujung lain adalah suara ibu Anda yang tidak dapat disangkal, tenang dan penuh kasih sayang, tetapi dengan nuansa urgensi yang tidak biasa. Dia mengatakan bahwa dia telah mengalami masalah serius saat berlibur di Paris dan membutuhkan bantuan keuangan Anda segera untuk menyelesaikan masalah tersebut. Anda tahu bahwa dia berada di Paris, dan detail yang dia berikan, hingga nama hotelnya, membuat panggilan tersebut menjadi lebih meyakinkan. Tanpa berpikir dua kali, Anda melakukan transfer uang, hanya untuk menemukan nanti bahwa ibu Anda tidak pernah membuat panggilan tersebut; itu adalah sistem AI canggih yang meniru suaranya dan membuat skenario yang detail. Anda merasa takut ketika menyadari apa yang baru saja terjadi.

Skenario ini, yang dulunya hanya fiksi ilmiah, sekarang menjadi kenyataan yang muncul. Munculnya teknologi AI seperti model bahasa besar (LLM) telah membawa kemajuan luar biasa. Namun, ancaman besar mengancam: penipuan yang ditenagai AI. Potensi penipuan canggih yang ditenagai oleh kecerdasan buatan adalah ancaman baru di cakrawala kemajuan teknologi. Sementara penipuan telepon telah menjadi perhatian sejak penemuan telepon, integrasi luas model bahasa besar (LLM) ke dalam setiap aspek komunikasi digital telah meningkatkan taruhan secara dramatis. Ketika kita mengadopsi potensi AI, kita juga harus memperkuat pertahanan kita terhadap ancaman-ancaman yang semakin canggih ini.

Lanskap Saat Ini dari Penipuan Telepon

Para kriminal telah mencoba menipu individu yang tidak curiga untuk mengirim uang atau mengungkapkan informasi sensitif selama bertahun-tahun, tetapi meskipun penipuan telepon sangat umum, banyak dari penipuan ini relatif tidak canggih, bergantung pada operator yang membaca skrip manusia. Namun, bahkan dengan keterbatasan ini, penipuan telepon terus menjadi perusahaan kriminal yang menguntungkan.

Menurut Komisi Perdagangan Federal AS, pada tahun 2022 saja, warga Amerika kehilangan lebih dari $8,8 miliar karena penipuan, dengan sebagian besar disebabkan oleh penipuan telepon, yang berarti bahwa bahkan dalam bentuk saat ini, banyak taktik ini masih berhasil pada individu yang rentan. Apa yang terjadi ketika mereka berkembang?

Masa Depan Penipuan yang Ditenagai AI

Lanskap penipuan telepon diposisikan untuk berubah dramatis dengan munculnya beberapa teknologi kunci:

Model Bahasa Besar (LLM)

Sistem AI ini dapat menghasilkan teks seperti manusia dan terlibat dalam percakapan alami. Ketika diterapkan pada penipuan, LLM dapat membuat skrip yang sangat meyakinkan dan adaptif, membuatnya lebih sulit bagi korban potensial untuk mengidentifikasi penipuan.

Retrieval-Augmented Generation (RAG)

Teknologi ini memungkinkan sistem LLM untuk mengakses dan menggunakan sejumlah besar informasi dalam waktu nyata. Penipu dapat membuat profil seseorang berdasarkan informasi yang tersedia secara publik seperti akun media sosial mereka. Mereka juga dapat menggunakan teknik rekayasa sosial pada teman dan keluarga untuk mengumpulkan informasi yang lebih dalam. Ini akan memberi mereka akses ke informasi seperti identitas target, informasi pekerjaan, atau bahkan kegiatan terbaru. Mereka kemudian dapat menggunakan RAG untuk memberikan konteks yang diperlukan untuk LLM, membuat pendekatan mereka tampak sangat personal dan sah.

Generasi Audio Sintetis

Platform seperti Resemble AI dan Lyrebird memimpin dalam menciptakan suara yang sangat realistis yang dihasilkan AI. Teknologi ini dapat menghasilkan audio yang dipersonalisasi, yang dapat digunakan dalam berbagai aplikasi, mulai dari asisten virtual hingga layanan pelanggan otomatis dan pembuatan konten. Perusahaan seperti ElevenLabs mendorong batas lebih jauh dengan memungkinkan pengguna membuat suara sintetis yang dapat meniru suara mereka sendiri, memungkinkan tingkat personalisasi dan keterlibatan yang baru dalam interaksi digital.

Generasi Video Sintetis

Perusahaan seperti Synthesia sudah menunjukkan potensi untuk menciptakan konten video yang realistis dengan avatar yang dihasilkan AI. Dalam beberapa tahun mendatang, teknologi ini dapat memungkinkan penipu untuk meniru teman atau anggota keluarga atau menciptakan persona fiktif sepenuhnya untuk panggilan video, memperkenalkan tingkat realisme fisik yang sebelumnya tidak mungkin dalam penipuan.

Lip-Syncing AI

Perusahaan rintisan seperti Sync Labs mengembangkan teknologi lip-syncing canggih yang dapat mencocokkan audio yang dihasilkan dengan footage video. Ini dapat digunakan untuk menciptakan video deep-fake yang sangat meyakinkan dari tokoh sejarah, politisi, selebriti, dan hampir semua orang lain, lebih lanjut membingungkan garis antara kenyataan dan penipuan.

Kombinasi teknologi ini menggambarkan gambaran yang cukup mengkhawatirkan. Bayangkan panggilan penipuan di mana AI dapat menyesuaikan percakapannya secara real-time, bersenjata dengan informasi pribadi tentang target, dan bahkan beralih ke panggilan video dengan orang yang tampaknya nyata yang gerak bibirnya sesuai dengan suara yang dihasilkan. Potensi penipuan sungguh sangat besar.

Keperluan untuk Langkah Keamanan yang Ditingkatkan

Ketika penipuan yang ditenagai AI ini menjadi lebih canggih, metode untuk memverifikasi identitas dan keaslian harus berlomba dengan kemajuan AI. Akan ada kemajuan regulasi serta teknologi untuk menjaga keamanan dunia online.

Perbaikan Regulasi

Hukum Privasi Data yang Lebih Ketat: Mengimplementasikan hukum privasi data yang lebih ketat akan membatasi jumlah informasi pribadi yang tersedia untuk dieksploitasi oleh penipu. Hukum ini dapat mencakup persyaratan yang lebih ketat untuk pengumpulan data, protokol persetujuan pengguna yang ditingkatkan, dan hukuman yang lebih berat untuk pelanggaran data.

Awan Pribadi untuk Model AI Paling Kuat: Regulasi dapat memerintahkan bahwa model AI paling kuat dihosting pada infrastruktur awan pribadi dan aman, bukan dibuat tersedia secara terbuka. Ini akan membatasi akses ke teknologi paling canggih, membuatnya lebih sulit bagi aktor jahat untuk menggunakannya untuk penipuan. (misalnya: https://security.apple.com/blog/private-cloud-compute/)

Kolaborasi Internasional tentang Regulasi AI: Mengingat sifat global teknologi AI, kolaborasi internasional tentang standar regulasi dapat bermanfaat. Membentuk badan global yang bertanggung jawab untuk membuat dan menegakkan regulasi AI internasional dapat membantu dalam menangani kejahatan yang terkait dengan AI yang melintasi batas.

Kampanye Kesadaran Publik: Pemerintah dan badan regulasi harus berinvestasi dalam kampanye kesadaran publik untuk mendidik warga tentang risiko potensial penipuan AI dan bagaimana melindungi diri mereka sendiri. Kesadaran adalah langkah pertama yang kritis dalam memberdayakan individu dan organisasi untuk mengimplementasikan langkah keamanan yang diperlukan.

Regulasi AI saat ini tidak cukup untuk mencegah penipuan, dan tantangan regulasi di masa depan diperumit oleh sifat open-source dari banyak teknologi kuat. Keterbukaan ini memungkinkan siapa saja untuk mengakses dan memodifikasi teknologi ini untuk tujuan mereka sendiri. Sebagai hasilnya, di samping regulasi yang lebih kuat, kemajuan dalam teknologi keamanan juga diperlukan.

Deteksi Data Sintetis

Deteksi audio sintetis: Ketika penipu menggunakan AI, pertahanan kita juga harus menggunakan AI. Perusahaan seperti Pindrop mengembangkan sistem yang ditenagai AI yang dapat mendeteksi audio sintetis secara real-time selama panggilan telepon. Teknologi mereka menganalisis lebih dari 1.300 fitur audio panggilan untuk menentukan apakah itu berasal dari orang nyata atau sistem AI canggih.

Deteksi video sintetis: Deteksi video sintetis: Seperti audio, video juga dapat dimanipulasi oleh AI, menyajikan ancaman signifikan dalam bentuk deep-fake dan konten video sintetis lainnya. Perusahaan seperti Deepware memimpin dalam mengembangkan teknologi untuk mendeteksi video sintetis. Platform Deepware menggunakan algoritma pembelajaran mesin canggih untuk menganalisis inkonsistensi halus dalam data video, seperti gerakan tidak alami, pencahayaan yang tidak teratur, dan anomali piksel yang sering ada dalam konten yang dihasilkan AI. Dengan mengidentifikasi ketidaksesuaian ini, teknologi Deepware dapat menentukan apakah video itu asli atau telah dimanipulasi, membantu melindungi individu dan organisasi dari penipuan yang canggih dan kampanye desinformasi berbasis video.

Pengembangan Otentikasi Identitas

Ada beberapa cara yang sedang dikembangkan untuk mengkonfirmasi identitas pengguna dan salah satunya akan menjadi mainstream dalam beberapa tahun mendatang untuk membuat internet lebih aman.

Autentikasi Dua Langkah untuk Percakapan Jarak Jauh: Autentikasi dua faktor (2FA) tetap menjadi komponen fundamental dari komunikasi yang aman. Dengan metode ini, setiap panggilan telepon atau email akan memicu pesan teks dengan kode verifikasi unik, serupa dengan pendaftaran email saat ini. Meskipun 2FA efektif untuk autentikasi dasar, keterbatasannya berarti tidak dapat diandalkan dalam semua konteks, memerlukan pengembangan metode yang lebih canggih untuk memastikan keamanan internet yang komprehensif yang dapat bekerja di latar belakang.

Autentikasi Berbasis Perilaku: Di luar hanya memverifikasi identitas pada awal panggilan, sistem keamanan masa depan mungkin secara terus-menerus menganalisis perilaku selama interaksi. Perusahaan seperti BioCatch menggunakan biometrik perilaku untuk membuat profil pengguna berdasarkan bagaimana individu berinteraksi dengan perangkat mereka. Teknologi ini dapat mendeteksi anomali dalam perilaku yang mungkin menunjukkan bahwa penipu menggunakan informasi yang dicuri, bahkan jika mereka telah lulus pemeriksaan autentikasi awal.

Autentikasi Berbasis Biometrik: Perusahaan seperti Onfido berada di garis depan teknologi verifikasi identitas yang ditenagai AI, menawarkan alat verifikasi identitas yang dapat mendeteksi deep-fake canggih dan bentuk penipuan identitas lainnya. Sistem mereka menggunakan kombinasi verifikasi dokumen dan analisis biometrik untuk memastikan bahwa orang di ujung lain panggilan atau obrolan video benar-benar orang yang mereka klaim.

Autentikasi Berbasis Pengetahuan Lanjutan: Menggeser dari pertanyaan keamanan sederhana, sistem autentikasi masa depan mungkin mengincorporasi pertanyaan dinamis yang dihasilkan AI berdasarkan jejak digital pengguna dan aktivitas terbaru. Misalnya, Prove, sebuah perusahaan yang mengkhususkan diri dalam identitas berbasis telepon, mengembangkan solusi yang memanfaatkan kecerdasan telepon dan analitik perilaku untuk memverifikasi identitas. Teknologi mereka dapat menganalisis pola dalam cara seseorang menggunakan perangkat mereka untuk membuat “tanda tangan identitas” yang jauh lebih sulit untuk ditiru oleh penipu.

Autentikasi Berbasis Blockchain: Teknologi blockchain menawarkan metode desentralisasi dan tahan-tamper untuk verifikasi identitas. Perusahaan seperti Civic mempelopori sistem verifikasi identitas berbasis blockchain yang memungkinkan pengguna untuk mengontrol informasi pribadi mereka sambil menyediakan autentikasi yang aman. Sistem ini menciptakan catatan identitas yang dapat diverifikasi dan tidak dapat diubah, ideal untuk mengelola transaksi berisiko tinggi.

Kesimpulan

Konvergensi LLM, RAG, generasi audio sintetis, generasi video sintetis, dan lip-syncing teknologi adalah sedikit seperti pedang bermata dua. Sementara kemajuan ini memiliki potensi aplikasi positif yang luar biasa, mereka juga menyajikan risiko signifikan ketika digunakan oleh penipu.

Pertarungan terus-menerus antara ahli keamanan dan penjahat siber menekankan kebutuhan akan inovasi dan kewaspadaan terus-menerus dalam bidang keamanan digital. Kita hanya dapat memanfaatkan manfaat dari alat-alat kuat ini sambil meminimalkan potensi mereka untuk menyebabkan kerugian dengan mengakui dan mempersiapkan diri untuk risiko-risiko ini.

Regulasi komprehensif, pendidikan tentang bentuk-bentuk penipuan baru ini, investasi dalam langkah-langkah keamanan canggih, dan mungkin yang paling penting, dosis sehat skeptisisme dari kita semua ketika berinteraksi dengan entitas tidak dikenal secara online atau melalui telepon akan sangat penting dalam menavigasi lanskap baru ini.