Apakah Bank Siap Menghadapi Penipuan Suara AI?

Suara yang dihasilkan AI telah mengubah ekonomi penipuan. Yang dulunya memerlukan seorang pemain yang terampil, skenario yang meyakinkan, atau nomor telepon yang dikompromikan sekarang dapat dilakukan dengan skala besar menggunakan alat yang terdengar sangat manusiawi.

Dan apa yang lebih mengkhawatirkan, mereka telah membidik sektor keuangan secara langsung. Pada awal 2024, seorang pekerja keuangan di perusahaan teknik Arup bergabung dengan apa yang tampak seperti panggilan video rutin dengan CFO perusahaan dan beberapa rekan kerja. Suara-suara tersebut familiar, wajah-wajah tersebut dapat dikenali, dan permintaan tersebut tampak cukup masuk akal untuk melewati pemeriksaan dasar. Pada akhir panggilan, dia telah mengotorisasi $25 juta dalam transfer. Orang-orang yang dia percayai sedang berbicara, termasuk CFO perusahaan, kemudian dilaporkan sebagai deepfake yang dihasilkan AI.

Bagi lembaga keuangan, risiko tidak terbatas pada persetujuan pembayaran internal. Keruntuhan kepercayaan yang sama dapat terjadi di seluruh proses autentikasi pelanggan, eskalasi pusat panggilan, pemeriksaan penipuan, dan proses pemulihan akun.

Penipu telah mengeksploitasi anonimitas relatif dari panggilan telepon untuk melakukan penipuan selama dekade. Dengan AI, namun, upaya yang diperlukan sekarang menjadi sepele, dan hasilnya jauh lebih meyakinkan. Bagi bank dan fintech, konvergensi tersebut menghasilkan peta risiko yang belum dipetakan.

Ada kenyataan yang lebih tidak nyaman di bawah ini. Bahkan ketika penyerang mencari cara untuk masuk, infrastruktur AI yang diterapkan oleh lembaga keuangan untuk memodernisasi dukungan pelanggan mereka membuat penipuan lebih mudah untuk dilakukan secara terbuka.

Panggilan yang terdengar seperti miliknya

Sebelum AI, penipuan suara relatif mudah untuk diidentifikasi. Panggilan robocall terdengar datar dan mengikuti skenario, dan upaya phising mengandalkan operator manusia yang mengikuti lembar panggilan. Dalam sebagian besar kasus, skala terbatas oleh kualitas penipu yang mencoba rekayasa sosial. Dengan pelatihan yang memadai dan sedikit kecerdasan, staf biasanya dapat menemukan tanda-tandanya.

AI telah mengubah itu dengan hampir menghilangkan hambatan teknis untuk impersonasi. Dengan cukup prompting, AI dapat terdengar sangat manusiawi, lengkap dengan intonasi, emosi, dan kelemahan yang Anda harapkan dari orang nyata. Membuat hal-hal lebih buruk, alat-alat AI yang dapat menyalin suara tersedia di platform komersial dan repositori sumber terbuka.

McAfee Labs menemukan bahwa tiga detik audio cukup untuk alat AI untuk menghasilkan klon suara dengan 85% akurasi. Sepuluh detik rekaman dapat mendorong angka tersebut di atas 95%. Bahan sumber ada di mana-mana: postingan media sosial, salam voicemail, rekaman konferensi, panggilan pendapatan, atau video LinkedIn.

Alat konversi suara waktu nyata menjadi tersedia secara luas pada 2024, yang berarti penyerang saat ini tidak perlu lagi klip pra-rekaman. Mereka hanya perlu berbicara ke mikrofon, dan outputnya akan terdengar seperti siapa pun yang mereka coba tiru.

Kasus Arup mengajar: Pekerja keuangan memiliki keraguan, tetapi kehadiran suara dan wajah familiar pada panggilan mengalahkan keraguan tersebut, tetapi memutuskan untuk mempercayai mata dan telinganya. Pada tahun yang sama, penyelidik Hong Kong mengungkapkan operasi terpisah yang telah mengkloning suara manajer keuangan untuk menjalankan $18,5 juta skema penipuan cryptocurrency.

Suara yang familiar, ternyata, adalah suara yang dipercaya, dan AI telah membuat asumsi tersebut menjadi berbahaya untuk dipertahankan.

Kejahatan autentikasi menjadi peluang penipuan

Lembaga keuangan sudah merespons ancaman eksternal. Pengeluaran perusahaan untuk alat tata kelola dan kepatuhan AI diprediksi tumbuh dari $2,2 miliar pada 2025 menjadi $9,5 miliar pada 2035, sebuah sinyal tentang seberapa serius pasar mengambil ini.

Namun, risiko yang lebih konsekuensial tidak muncul dari luar dinding mereka. Bank dan fintech melapis AI ke dalam tumpukan dukungan pelanggan, membangun sistem IVR yang dibantu AI, autentikasi biometrik suara, dan aliran panggilan yang menangani transaksi tanpa agen manusia. Upaya ini ditujukan untuk meningkatkan pengalaman pelanggan dan mengurangi tenaga kerja manusia, tetapi ketika sistem ini gagal, mereka meninggalkan titik lemah yang aktor ancaman temukan terlalu mudah untuk dieksploitasi.

Kesalahan pengalihan, konteks yang hilang antara eskalasi, dan sistem autentikasi yang berperilaku tidak terduga terlihat seperti masalah pengalaman pelanggan, dan dicatat sebagai such.

Namun, masalah CX ini dapat berubah menjadi sesuatu yang lebih buruk di hilir. Pelanggan yang terkunci oleh biometrik suara jarang melaporkannya. Sebaliknya, kemungkinan besar mereka akan menelepon kembali, menemukan cara untuk berbicara dengan agen manusia, dan menekan mereka untuk melewati protokol yang sistem tersebut dibangun untuk menegakkan.

Masalah yang lebih besar adalah penyerang yang meniru pelanggan dapat melakukannya juga. Lembaga keuangan sangat menyadari hal ini. Faktanya, 91% bank AS sedang mempertimbangkan kembali strategi autentikasi biometrik suara mereka dalam cahaya risiko penipuan AI.

Pertimbangan ulang tidak akan menyelesaikan masalah ini. Lembaga yang autentikasi suara secara teratur gagal untuk pelanggan yang sah telah menciptakan kondisi yang penyerang membutuhkan untuk mengeksploitasi sistem. Setelah semua, penyerang tidak perlu menemukan kerentanan teknis ketika friksi dalam perjalanan pelanggan memungkinkan mereka untuk masuk.

Perusahaan perlu mengubah perspektif, bukan tumpukan keamanan

Alat yang dapat mendeteksi suara sintetis yang dihasilkan AI semakin baik, tetapi penyerang yang memeriksa sistem bank untuk kerentanan tidak mencari satu titik kegagalan. Mereka mencari area di mana sistem terjatuh dan melewatkan satu sama lain, di mana sistem autentikasi gagal untuk melewati sinyal dengan jelas. Deteksi yang lebih baik di perbatasan tidak dapat menutup celah tersebut.

Apa yang dapat membantu adalah mempertimbangkan kembali bagaimana pemimpin memperlakukan infrastruktur suara. Seperti dengan bagian lain dari tumpukan perangkat lunak, infrastruktur suara memerlukan tingkat pemeriksaan yang sama dengan pertahanan perbatasan.

Dalam praktik, sikap keamanan seperti itu akan memerlukan baik tes fungsional dan ketahanan di seluruh kondisi yang sistem suara akan hadapi dalam produksi: audio kualitas rendah, aksen yang berbeda dan kebisingan latar, eskalasi tepi, dan skenario batas autentikasi di mana pemanggil yang sah hanya di luar ambang sistem.

Jawabannya bukanlah latihan sertifikasi satu kali. Bank memerlukan validasi terus-menerus dari perjalanan suara penuh, dari pengalihan IVR dan autentikasi biometrik hingga eskalasi, transfer, dan jalur fallback. Tidak peduli seberapa sering sistem suara diperbarui, taktik penipuan akan secara alami berkembang untuk menemukan retakan dalam pertahanan apa pun yang mereka temui. Sistem yang lulus validasi pada penerapan harus diuji secara teratur dan berulang dalam kondisi dunia nyata untuk memastikan bahwa masih aman bahkan jika kinerjanya telah berkembang.

Penting untuk dicatat bahwa pengujian terus-menerus dalam skala besar akan datang dengan pertimbangan anggaran. Ada juga ketegangan bawaan antara bergerak cepat (menerapkan kemampuan baru untuk tetap kompetitif) dan memvalidasi sistem secara menyeluruh sebelum mereka berinteraksi dengan pelanggan yang sebenarnya dan menghadapi upaya penipuan yang sebenarnya.

Sementara sulit untuk menyelesaikan ketegangan tersebut dengan bersih, itu membuat jelas biaya melewati validasi: Kegagalan dalam sistem Anda yang membuat pelanggan frustrasi telah menemukan cara untuk menghindarinya adalah titik lemah, terlepas dari bagaimana perusahaan Anda mengkategorikannya.

Perjalanan pelanggan yang lebih baik menjadi pertahanan penipuan

Risiko eksternal dan internal yang dijelaskan di atas tidak terpisah dengan solusi yang berbeda. Friksi yang dihasilkan oleh perjalanan pelanggan yang tidak dapat diandalkan menciptakan celah perilaku yang rekayasa sosial dirancang untuk mengeksploitasi.

Itu adalah masalah yang dapat dipecahkan, tetapi hanya jika lembaga menyadari bahwa dampak pengalaman pelanggan yang buruk dapat mencapai lebih jauh dari sekadar retensi atau pendapatan. Bank tidak akan menyelesaikan penipuan suara AI dengan mengobatinya sebagai masalah deteksi saja. Mereka juga perlu menghilangkan ketidakjelasan, friksi, dan titik kegagalan di dalam perjalanan suara mereka sendiri. Dalam era di mana suara yang familiar tidak lagi dapat dipercaya secara default, keandalan perjalanan itu sendiri menjadi bagian dari model keamanan.