Bayangkan ini: Anda sedang bekerja, dengan fokus penuh pada tenggat waktu yang ketat, ketika Anda menerima panggilan dari nomor telepon yang tampaknya milik ibu Anda. Suara di ujung sana jelas-jelas miliknya, tenang dan penuh kasih, tetapi dengan sedikit nada mendesak yang tidak biasa. Dia memberi tahu Anda bahwa dia mengalami masalah serius saat berlibur di Paris dan membutuhkan bantuan keuangan Anda segera untuk menyelesaikan masalah. Anda tahu dia ada di Paris, dan perincian yang dia berikan, hingga nama hotelnya, membuat panggilan itu semakin meyakinkan. Tanpa berpikir dua kali, Anda mentransfer uang, hanya untuk mengetahui kemudian bahwa ibu Anda tidak pernah melakukan panggilan itu; itu adalah sistem AI canggih yang dengan sempurna meniru suaranya dan membuat skenario terperinci. Merinding menjalar di tulang punggung Anda saat Anda menyadari apa yang baru saja terjadi.

Skenario ini, yang dulunya hanya fiksi ilmiah, kini menjadi kenyataan yang baru muncul. Munculnya teknologi AI seperti model bahasa besar (LLM) telah menghasilkan kemajuan yang luar biasa. Namun, ancaman yang signifikan muncul: penipuan yang didukung AI. Potensi penipuan canggih yang didukung oleh kecerdasan buatan merupakan ancaman baru di cakrawala kemajuan teknologi. Meskipun penipuan telepon telah menjadi perhatian sejak penemuan telepon, integrasi luas model bahasa besar (LLM) ke dalam setiap aspek komunikasi digital telah meningkatkan taruhannya secara dramatis. Saat kita merangkul potensi AI, sangat penting bagi kita untuk juga memperkuat pertahanan kita terhadap ancaman yang semakin canggih ini.

Pemandangan Penipuan Telepon Saat Ini

Penjahat telah berupaya menipu orang yang tidak menaruh curiga agar mentransfer uang atau membocorkan informasi sensitif selama bertahun-tahun, tetapi meskipun penipuan telepon marak, banyak dari penipuan ini relatif tidak canggih, mengandalkan operator pembaca naskah manusia. Namun, bahkan dengan keterbatasan ini, penipuan telepon terus menjadi usaha kriminal yang menguntungkan.

Menurut Komisi Perdagangan Federal AS, pada tahun 2022 saja, warga Amerika kehilangan lebih dari $8.8 miliar akibat penipuan, dengan sebagian besar disebabkan oleh penipuan telepon, yang berarti bahwa bahkan dalam bentuknya saat ini yang kurang canggih, banyak dari taktik ini masih berhasil pada individu yang rentan. Apa yang terjadi ketika taktik ini berkembang?

Masa Depan Penipuan yang Didukung AI

Lanskap penipuan telepon akan mengalami perubahan dramatis dengan munculnya beberapa teknologi utama:

Model Bahasa Besar (LLM)

Sistem AI ini dapat menghasilkan teks mirip manusia dan terlibat dalam percakapan alami. Bila diterapkan pada penipuan, LLM dapat membuat skrip yang sangat meyakinkan dan adaptif, sehingga jauh lebih sulit bagi calon korban untuk mengidentifikasi penipuan.

Generasi Augmented Pengambilan (RAG)

Teknologi ini memungkinkan sistem LLM mengakses dan memanfaatkan sejumlah besar informasi secara real time. Penipu dapat membuat profil seseorang berdasarkan informasi yang tersedia untuk umum seperti akun sosial mereka. Mereka juga dapat menggunakan teknik rekayasa sosial pada teman dan keluarga mereka untuk mengumpulkan informasi yang lebih dalam. Ini akan memberi mereka akses ke informasi seperti identitas target, informasi pekerjaan, atau bahkan aktivitas terkini. Mereka kemudian dapat menggunakan RAG untuk menyediakan konteks yang dibutuhkan LLM, membuat pendekatan mereka tampak sangat personal dan sah.

Pembuatan Audio Sintetis

Platform seperti Mirip dengan AI dan Lyrebird memimpin dalam menciptakan suara yang dihasilkan AI yang sangat realistis. Teknologi ini mampu menghasilkan audio yang dipersonalisasi dan mirip manusia, yang dapat digunakan dalam berbagai aplikasi, mulai dari asisten virtual hingga layanan pelanggan otomatis dan pembuatan konten. Perusahaan seperti ElevenLab memperluas batasan lebih jauh dengan memungkinkan pengguna menciptakan suara sintetis yang dapat meniru suara mereka sendiri dengan sangat akurat, sehingga memungkinkan tingkat personalisasi dan keterlibatan baru dalam interaksi digital.

Pembuatan Video Sintetis

Perusahaan seperti Sintesia sudah menunjukkan potensi untuk membuat konten video yang realistis dengan avatar yang dihasilkan AI. Dalam beberapa tahun mendatang, teknologi ini dapat memungkinkan penipu untuk menyamar sebagai teman atau keluarga atau membuat persona fiktif untuk panggilan video, sehingga menghadirkan tingkat realisme fisik yang sebelumnya mustahil untuk penipuan.

Sinkronisasi Bibir AI

Startup seperti Sinkronkan Lab sedang mengembangkan teknologi sinkronisasi bibir canggih yang dapat mencocokkan rekaman audio dengan rekaman video. Teknologi ini dapat digunakan untuk membuat video deep-fake yang sangat meyakinkan dari tokoh sejarah, politisi, selebritas, dan hampir semua orang, sehingga semakin mengaburkan batas antara kenyataan dan tipuan.

Kombinasi teknologi ini menghasilkan gambaran yang cukup mengkhawatirkan. Bayangkan panggilan penipuan di mana AI dapat menyesuaikan percakapannya secara real-time, berbekal informasi pribadi tentang target, dan bahkan beralih ke panggilan video dengan orang yang tampak nyata yang bibirnya bergerak selaras sempurna dengan suara yang dihasilkan. Potensi penipuan benar-benar sangat besar.

Perlunya Peningkatan Langkah Keamanan

Seiring dengan semakin canggihnya penipuan yang menggunakan AI, metode verifikasi identitas dan keaslian harus mengikuti perkembangan AI. Perlu ada regulasi dan kemajuan teknologi untuk menjaga keamanan dunia daring.

Perbaikan Regulasi

Undang-Undang Privasi Data yang Lebih Ketat: Menerapkan undang-undang privasi data yang lebih ketat akan membatasi jumlah informasi pribadi yang tersedia untuk dieksploitasi oleh penipu. Undang-undang ini dapat mencakup persyaratan yang lebih ketat untuk pengumpulan data, protokol persetujuan pengguna yang ditingkatkan, dan hukuman yang lebih berat untuk pelanggaran data.

Awan Pribadi untuk Model AI Tercanggih: Peraturan dapat mewajibkan agar model AI tercanggih dihosting pada infrastruktur awan pribadi yang aman, alih-alih disediakan secara terbuka. Hal ini akan membatasi akses ke teknologi tercanggih, sehingga semakin sulit bagi pelaku kejahatan untuk menggunakannya untuk melakukan penipuan. (misalnya: https://security.apple.com/blog/private-cloud-compute/)

Kolaborasi Internasional dalam Regulasi AI: Mengingat sifat global teknologi AI, kolaborasi internasional dalam standar regulasi dapat bermanfaat. Membentuk badan global yang bertanggung jawab untuk membuat dan menegakkan regulasi AI internasional dapat membantu dalam menangani kejahatan lintas batas yang terkait dengan AI.

Kampanye Kesadaran Publik: Pemerintah dan badan regulasi harus berinvestasi dalam kampanye kesadaran publik untuk mendidik warga negara tentang potensi risiko penipuan AI dan cara melindungi diri mereka sendiri. Kesadaran merupakan langkah awal yang penting dalam memberdayakan individu dan organisasi untuk menerapkan langkah-langkah keamanan yang diperlukan.

Regulasi AI saat ini tidak cukup untuk mencegah penipuan, dan tantangan regulasi di masa mendatang diperparah oleh sifat sumber terbuka dari banyak teknologi canggih. Keterbukaan ini memungkinkan siapa saja untuk mengakses dan memodifikasi teknologi ini untuk tujuan mereka sendiri. Oleh karena itu, di samping regulasi yang lebih kuat, kemajuan dalam teknologi keamanan juga diperlukan.

Deteksi Data Sintetis

Deteksi audio sintetis: Karena penipu menggunakan AI, maka pertahanan kita pun harus demikian. Perusahaan seperti pindrop tengah mengembangkan sistem bertenaga AI yang dapat mendeteksi audio sintetis secara real-time selama panggilan telepon. Teknologi mereka menganalisis lebih dari 1,300 fitur audio panggilan untuk menentukan apakah audio tersebut berasal dari orang sungguhan atau sistem AI yang canggih.

Deteksi video sintetis: Deteksi Video Sintetis: Sama seperti audio yang dapat dimanipulasi oleh AI, video juga dapat dimanipulasi, sehingga menimbulkan ancaman signifikan dalam bentuk deepfake dan konten video sintetis lainnya. Perusahaan seperti Perangkat dalam memimpin pengembangan teknologi untuk mendeteksi video sintetis. Platform Deepware menggunakan algoritma pembelajaran mesin canggih untuk menganalisis ketidakkonsistenan halus dalam data video, seperti gerakan tidak wajar, pencahayaan tidak teratur, dan anomali piksel yang sering muncul dalam konten yang dihasilkan AI. Dengan mengidentifikasi ketidaksesuaian ini, teknologi Deepware dapat menentukan apakah video itu asli atau telah dimanipulasi, membantu melindungi individu dan organisasi agar tidak tertipu oleh penipuan canggih berbasis video dan kampanye misinformasi.

Identifikasi Kemajuan Autentikasi

Ada berbagai cara yang sedang dikembangkan untuk mengonfirmasi identitas pengguna dan satu atau lebih dari cara ini akan menjadi arus utama dalam beberapa tahun mendatang untuk membuat internet lebih aman.

Autentikasi dua langkah untuk Percakapan Jarak Jauh: Autentikasi dua faktor (2FA) tetap menjadi komponen mendasar dari komunikasi yang aman. Dengan metode ini, setiap panggilan telepon atau email akan memicu pesan teks dengan kode verifikasi unik, mirip dengan pendaftaran email saat ini. Meskipun 2FA efektif untuk autentikasi dasar, keterbatasannya berarti tidak dapat diandalkan dalam semua konteks, sehingga memerlukan pengembangan metode yang lebih canggih untuk memastikan keamanan internet yang komprehensif yang dapat berfungsi di latar belakang.

Otentikasi multifaktor berbasis perilaku: Selain sekadar memverifikasi identitas di awal panggilan, sistem keamanan masa depan dapat terus menganalisis perilaku selama interaksi. Perusahaan seperti BioTangkap menggunakan biometrik perilaku untuk membuat profil pengguna berdasarkan cara individu berinteraksi dengan perangkat mereka. Teknologi ini dapat mendeteksi anomali dalam perilaku yang mungkin mengindikasikan penipu menggunakan informasi curian, meskipun mereka telah lolos pemeriksaan autentikasi awal.

Otentikasi Berbasis Biometrik: Perusahaan seperti Onfido berada di garis depan teknologi verifikasi biometrik, menawarkan alat verifikasi identitas bertenaga AI yang mendeteksi deep-fake canggih dan bentuk penipuan identitas lainnya. Sistem mereka menggunakan kombinasi verifikasi dokumen dan analisis biometrik untuk memastikan orang di ujung lain panggilan atau obrolan video benar-benar orang yang mereka klaim.

Autentikasi Berbasis Pengetahuan Tingkat Lanjut: Melampaui pertanyaan keamanan sederhana, sistem autentikasi masa depan dapat menggabungkan pertanyaan dinamis yang dihasilkan AI berdasarkan jejak digital dan aktivitas terkini pengguna. Misalnya, Rasakan itu, sebuah perusahaan yang mengkhususkan diri dalam identitas yang berpusat pada ponsel, tengah mengembangkan solusi yang memanfaatkan kecerdasan ponsel dan analisis perilaku untuk memverifikasi identitas. Teknologi mereka dapat menganalisis pola dalam cara seseorang menggunakan perangkatnya untuk membuat "tanda tangan identitas" unik yang secara signifikan lebih sulit ditiru oleh penipu.

Autentikasi Verifikasi Identitas Berbasis Blockchain: Teknologi Blockchain menawarkan metode verifikasi identitas yang terdesentralisasi dan anti-rusak. Perusahaan seperti Civic adalah pelopor sistem verifikasi identitas berbasis blockchain yang memungkinkan pengguna untuk mengendalikan informasi pribadi mereka sekaligus menyediakan autentikasi yang aman. Sistem ini menciptakan catatan identitas seseorang yang dapat diverifikasi dan tidak dapat diubah, sangat bagus untuk mengelola transaksi berisiko tinggi.

Kesimpulan

Konvergensi LLM, RAG, pembuatan audio sintetis, pembuatan video sintetis, dan teknologi sinkronisasi bibir merupakan pedang bermata dua. Meskipun kemajuan ini memiliki potensi besar untuk aplikasi positif, kemajuan ini juga menimbulkan risiko signifikan jika digunakan sebagai senjata oleh penipu.

Perlombaan senjata yang sedang berlangsung antara pakar keamanan dan penjahat dunia maya ini menggarisbawahi perlunya inovasi dan kewaspadaan berkelanjutan di bidang keamanan digital. Kita dapat berupaya memanfaatkan manfaat dari berbagai alat canggih ini sekaligus mengurangi potensi bahayanya hanya dengan mengakui dan mempersiapkan diri terhadap risiko-risiko ini.

Regulasi yang komprehensif, edukasi tentang bentuk-bentuk penipuan baru, investasi dalam langkah-langkah keamanan yang mutakhir, dan yang terpenting, skeptisisme yang tinggi dari masing-masing pihakSetiap dari kita ketika berinteraksi dengan entitas yang tidak dikenal secara daring atau melalui telepon akan sangat penting dalam menavigasi lanskap baru ini.