Bayangkan ini: Anda sedang bekerja, fokus pada deadline yang ketat, ketika Anda menerima panggilan dari apa yang tampak seperti nomor telepon ibu Anda. Suara di ujung lain adalah miliknya, tenang dan penuh kasih sayang, tetapi dengan sedikit kegentingan yang tidak biasa. Dia mengatakan bahwa dia telah mengalami masalah serius saat berlibur di Paris dan membutuhkan bantuan keuangan Anda segera untuk menyelesaikan masalah tersebut. Anda tahu dia berada di Paris, dan detail yang dia berikan, hingga nama hotelnya, membuat panggilan tersebut semakin meyakinkan. Tanpa berpikir dua kali, Anda melakukan transfer uang, hanya untuk menemukan kemudian bahwa ibu Anda tidak pernah membuat panggilan tersebut; itu adalah sistem AI canggih yang meniru suaranya dan membuat skenario yang detail. Bulu kuduk Anda merinding ketika Anda menyadari apa yang baru saja terjadi.

Skenario ini, yang dulunya hanya fiksi ilmiah, sekarang menjadi kenyataan yang muncul. Munculnya teknologi AI seperti model bahasa besar (LLM) telah membawa kemajuan luar biasa. Namun, ancaman besar mengancam: penipuan yang ditenagai AI. Potensi penipuan yang canggih yang ditenagai oleh kecerdasan buatan adalah ancaman baru di cakrawala kemajuan teknologi. Sementara penipuan telepon telah menjadi perhatian sejak penemuan telepon, integrasi luas dari model bahasa besar (LLM) ke dalam setiap aspek komunikasi digital telah meningkatkan taruhan secara dramatis. Ketika kita mengadopsi potensi AI, kita juga harus memperkuat pertahanan kita terhadap ancaman yang semakin canggih ini.

Lanskap Saat Ini dari Penipuan Telepon

Kriminal telah mencoba menipu individu yang tidak curiga untuk melakukan transfer uang atau mengungkapkan informasi sensitif selama bertahun-tahun, tetapi meskipun penipuan telepon sangat umum, banyak penipuan ini relatif tidak canggih, bergantung pada operator yang membaca skrip manusia. Namun, bahkan dengan keterbatasan ini, penipuan telepon tetap menjadi perusahaan kriminal yang menguntungkan.

Menurut Komisi Perdagangan Federal AS, pada tahun 2022 saja, warga AS kehilangan lebih dari $8,8 miliar karena penipuan, dengan sebagian besar disebabkan oleh penipuan telepon, yang berarti bahwa bahkan dalam bentuknya saat ini, yang kurang maju, banyak taktik ini masih berhasil pada individu yang rentan. Apa yang terjadi ketika mereka berkembang?

Masa Depan Penipuan yang Ditenagai AI

Lanskap penipuan telepon siap untuk berubah dramatis dengan munculnya beberapa teknologi kunci:

Model Bahasa Besar (LLM)

Sistem AI ini dapat menghasilkan teks seperti manusia dan terlibat dalam percakapan alami. Ketika diterapkan pada penipuan, LLM dapat membuat skrip yang sangat meyakinkan dan adaptif, membuatnya lebih sulit bagi korban potensial untuk mengidentifikasi penipuan.

Retrieval-Augmented Generation (RAG)

Teknologi ini memungkinkan sistem LLM untuk mengakses dan memanfaatkan sejumlah besar informasi secara real-time. Penipu dapat membuat profil seseorang berdasarkan informasi yang tersedia secara publik seperti akun media sosial mereka. Mereka juga dapat menggunakan teknik rekayasa sosial pada teman dan keluarga untuk mengumpulkan informasi yang lebih dalam. Ini akan memberi mereka akses ke informasi seperti identitas target, informasi pekerjaan, atau bahkan kegiatan terbaru. Mereka kemudian dapat menggunakan RAG untuk memberikan LLM konteks yang diperlukan, membuat pendekatan mereka tampak sangat dipersonalisasi dan sah.

Sintesis Audio Sintetis

Platform seperti Resemble AI dan Lyrebird memimpin dalam menciptakan suara yang sangat realistis yang dihasilkan AI. Teknologi ini mampu menghasilkan audio yang dipersonalisasi, yang dapat digunakan dalam berbagai aplikasi, mulai dari asisten virtual hingga layanan pelanggan otomatis dan pembuatan konten. Perusahaan seperti ElevenLabs mendorong batas lebih jauh dengan memungkinkan pengguna membuat suara sintetis yang dapat meniru suara mereka sendiri, memungkinkan tingkat personalisasi dan keterlibatan yang baru dalam interaksi digital.

Sintesis Video Sintetis

Perusahaan seperti Synthesia sudah menunjukkan potensi untuk menciptakan konten video yang realistis dengan avatar yang dihasilkan AI. Dalam beberapa tahun mendatang, teknologi ini dapat memungkinkan penipu untuk meniru teman atau anggota keluarga atau menciptakan persona fiktif sepenuhnya untuk panggilan video, memperkenalkan tingkat realisme fisik yang sebelumnya tidak mungkin dalam penipuan.

Lip-Syncing AI

Perusahaan rintisan seperti Sync Labs mengembangkan teknologi lip-syncing canggih yang dapat mencocokkan audio yang dihasilkan dengan footage video. Ini dapat digunakan untuk menciptakan video deep-fake yang sangat meyakinkan dari tokoh sejarah, politisi, selebriti, dan hampir semua orang lain, lebih lanjut membingungkan garis antara kenyataan dan penipuan.

Kombinasi teknologi ini menggambarkan gambaran yang cukup mengkhawatirkan. Bayangkan panggilan penipuan di mana AI dapat menyesuaikan percakapannya secara real-time, bersenjata dengan informasi pribadi tentang target, dan bahkan beralih ke panggilan video dengan orang yang tampaknya nyata yang bibirnya bergerak secara sinkron dengan suara yang dihasilkan. Potensi penipuan sungguh sangat besar.

Keperluan untuk Langkah Keamanan yang Ditingkatkan

Ketika penipuan yang ditenagai AI ini menjadi lebih canggih, metode verifikasi identitas dan keaslian harus berlomba dengan kemajuan AI. Akan ada perbaikan regulasi serta kemajuan teknologi untuk menjaga keamanan dunia online.

Perbaikan Regulasi

Hukum Privasi Data yang Lebih Ketat: Mengimplementasikan hukum privasi data yang lebih ketat akan membatasi jumlah informasi pribadi yang tersedia untuk dieksploitasi oleh penipu. Hukum ini dapat mencakup persyaratan yang lebih ketat untuk pengumpulan data, protokol persetujuan pengguna yang ditingkatkan, dan hukuman yang lebih berat untuk pelanggaran data.

Awan Pribadi untuk Model AI Paling Kuat: Regulasi dapat memerintahkan bahwa model AI paling kuat harus dihosting pada infrastruktur awan pribadi dan aman, bukan dibuat tersedia secara terbuka. Ini akan membatasi akses ke teknologi paling canggih, membuatnya lebih sulit bagi aktor jahat untuk menggunakannya untuk penipuan. (misalnya: https://security.apple.com/blog/private-cloud-compute/)

Kolaborasi Internasional pada Regulasi AI: Mengingat sifat global teknologi AI, kolaborasi internasional pada standar regulasi dapat bermanfaat. Membentuk badan global yang bertanggung jawab untuk menciptakan dan menegakkan regulasi AI internasional dapat membantu dalam menangani kejahatan yang terkait dengan AI yang melintasi batas.

Kampanye Kesadaran Publik: Pemerintah dan badan regulasi harus berinvestasi dalam kampanye kesadaran publik untuk mendidik warga tentang risiko potensial dari penipuan AI dan bagaimana melindungi diri mereka sendiri. Kesadaran adalah langkah pertama yang kritis dalam memberdayakan individu dan organisasi untuk mengimplementasikan langkah keamanan yang diperlukan.

Regulasi AI saat ini tidak cukup untuk mencegah penipuan, dan tantangan regulasi di masa depan diperumit oleh sifat open-source dari banyak teknologi kuat. Keterbukaan ini memungkinkan siapa saja untuk mengakses dan memodifikasi teknologi ini untuk tujuan mereka sendiri. Sebagai hasilnya, di samping regulasi yang lebih kuat, kemajuan dalam teknologi keamanan juga diperlukan.

Deteksi Data Sintetis

Deteksi audio sintetis: Ketika penipu menggunakan AI, sehingga kita juga harus melakukannya. Perusahaan seperti Pindrop mengembangkan sistem yang ditenagai AI yang dapat mendeteksi audio sintetis secara real-time selama panggilan telepon. Teknologi mereka menganalisis lebih dari 1.300 fitur audio panggilan untuk menentukan apakah itu berasal dari orang nyata atau sistem AI canggih.

Deteksi video sintetis: Deteksi Video Sintetis: Seperti halnya audio dapat dimanipulasi oleh AI, demikian pula video, yang menimbulkan ancaman signifikan dalam bentuk deep-fake dan konten video sintetis lainnya. Perusahaan seperti Deepware memimpin dalam mengembangkan teknologi untuk mendeteksi video sintetis. Platform Deepware menggunakan algoritma pembelajaran mesin canggih untuk menganalisis inkonsistensi halus dalam data video, seperti gerakan yang tidak wajar, pencahayaan yang tidak teratur, dan anomali piksel yang sering ada dalam konten yang dihasilkan AI. Dengan mengidentifikasi ketidaksesuaian ini, teknologi Deepware dapat menentukan apakah video itu asli atau telah dimanipulasi, membantu melindungi individu dan organisasi dari penipuan dan kampanye desinformasi yang canggih berbasis video.

Pengembangan Otentikasi Identitas

Sedang dikembangkan berbagai cara untuk mengonfirmasi identitas pengguna dan salah satunya akan menjadi mainstream dalam beberapa tahun mendatang untuk membuat internet lebih aman.

Otentikasi dua langkah untuk Percakapan Jarak Jauh: Otentikasi dua faktor (2FA) tetap menjadi komponen dasar komunikasi yang aman. Dalam metode ini, setiap panggilan telepon atau email akan memicu pesan teks dengan kode verifikasi unik, serupa dengan pendaftaran email saat ini. Meskipun 2FA efektif untuk autentikasi dasar, keterbatasannya berarti tidak dapat diandalkan dalam semua konteks, memerlukan pengembangan metode yang lebih canggih untuk memastikan keamanan internet yang komprehensif yang dapat bekerja di latar belakang.

Otentikasi berbasis perilaku multifaktor: Di luar hanya memverifikasi identitas di awal panggilan, sistem keamanan masa depan mungkin secara terus-menerus menganalisis perilaku selama interaksi. Perusahaan seperti BioCatch menggunakan biometrik berbasis perilaku untuk membuat profil pengguna berdasarkan bagaimana individu berinteraksi dengan perangkat mereka. Teknologi ini dapat mendeteksi anomali dalam perilaku yang mungkin menunjukkan bahwa penipu menggunakan informasi yang dicuri, bahkan jika mereka telah melewati pemeriksaan autentikasi awal.

Otentikasi Berbasis Biometrik: Perusahaan seperti Onfido berada di garis depan teknologi verifikasi identitas yang ditenagai AI, menawarkan alat verifikasi identitas yang dapat mendeteksi deep-fake canggih dan bentuk penipuan identitas lainnya. Sistem mereka menggunakan kombinasi verifikasi dokumen dan analisis biometrik untuk memastikan bahwa orang di ujung lain panggilan atau obrolan video benar-benar orang yang mereka klaim.

Otentikasi Berbasis Pengetahuan Canggih: Mengarah ke luar pertanyaan keamanan sederhana, sistem autentikasi masa depan mungkin mengintegrasikan pertanyaan yang dinamis dan dihasilkan AI berdasarkan jejak digital pengguna dan aktivitas terbaru. Misalnya, Prove, sebuah perusahaan yang mengkhususkan diri dalam identitas berbasis telepon, mengembangkan solusi yang memanfaatkan kecerdasan telepon dan analitik berbasis perilaku untuk memverifikasi identitas. Teknologi mereka dapat menganalisis pola bagaimana seseorang menggunakan perangkat mereka untuk membuat “tanda tangan identitas” yang jauh lebih sulit untuk ditiru oleh penipu.

Otentikasi Verifikasi Identitas Berbasis Blockchain: Teknologi blockchain menawarkan metode desentralisasi dan anti-manipulasi untuk verifikasi identitas. Perusahaan seperti Civic mempelopori sistem verifikasi identitas berbasis blockchain yang memungkinkan pengguna untuk mengontrol informasi pribadi mereka sambil menyediakan autentikasi yang aman. Sistem ini menciptakan catatan identitas yang dapat diverifikasi dan tidak dapat diubah, ideal untuk mengelola transaksi berisiko tinggi.

Kesimpulan

Konvergensi LLM, RAG, sintesis audio, sintesis video, dan lip-syncing adalah semacam pedang bermata dua. Sementara kemajuan ini memiliki potensi besar untuk aplikasi positif, mereka juga menimbulkan risiko signifikan ketika digunakan oleh penipu.

Pertarungan terus-menerus antara ahli keamanan dan penjahat siber menekankan kebutuhan akan inovasi dan kewaspadaan terus-menerus di bidang keamanan digital. Kita hanya dapat memanfaatkan keuntungan dari alat-alat kuat ini sambil meminimalkan potensi bahaya mereka dengan mengakui dan mempersiapkan diri untuk risiko-risiko ini.

Regulasi yang komprehensif, pendidikan tentang bentuk-bentuk penipuan baru ini, investasi dalam langkah-langkah keamanan canggih, dan mungkin yang paling penting, dosis sehat skeptisisme dari kita semua ketika berinteraksi dengan entitas yang tidak dikenal secara online atau melalui telepon akan sangat penting dalam menavigasi lanskap baru ini.