Penipuan Suara Deepfaked yang Memungkinkan Pencurian Bank $35 Juta pada 2020

Investigasi terhadap penipuan $35 juta USD dari sebuah bank di Uni Emirat Arab pada Januari 2020 telah menemukan bahwa teknologi suara deepfake digunakan untuk meniru direktur perusahaan yang dikenal oleh manajer cabang bank, yang kemudian mengotorisasi transaksi tersebut.

Kejahatan tersebut terjadi pada 15 Januari tahun lalu, dan dijelaskan dalam sebuah permintaan (PDF) oleh UAE kepada otoritas Amerika Serikat untuk membantu melacak sebagian dari dana yang disedot yang dikirim ke Amerika Serikat.

Permintaan tersebut menyatakan bahwa manajer cabang bank korban di UAE menerima panggilan telepon dari suara yang familiar, yang, bersama dengan email dari seorang pengacara bernama Martin Zelner, meyakinkan manajer untuk mengeluarkan dana, yang tampaknya dimaksudkan untuk akuisisi perusahaan.

Permintaan tersebut menyatakan:

‘Menurut otoritas Emirat, pada 15 Januari 2020, manajer cabang Perusahaan Korban menerima panggilan telepon yang mengaku berasal dari kantor pusat perusahaan. Penelepon terdengar seperti Direktur perusahaan, sehingga manajer cabang percaya bahwa panggilan tersebut sah.

‘Manajer cabang juga menerima beberapa email yang diyakini berasal dari Direktur yang terkait dengan panggilan telepon. Penelepon mengatakan kepada manajer cabang melalui telepon dan email bahwa Perusahaan Korban akan mengakuisisi perusahaan lain, dan bahwa seorang pengacara bernama Martin Zelner (Zelner) telah diberi wewenang untuk mengkoordinasikan prosedur akuisisi.’

Manajer cabang kemudian menerima email dari Zelner, bersama dengan surat kuasa dari (yang seharusnya) Direktur, yang suaranya familiar bagi korban.

Penipuan Suara Deepfaked Teridentifikasi

Investigator Emirat kemudian menetapkan bahwa teknologi suara deepfake telah digunakan untuk meniru suara direktur perusahaan:

‘Investigasi Emirat mengungkapkan bahwa terdakwa telah menggunakan teknologi “deep voice” untuk mensimulasikan suara Direktur. Pada Januari 2020, dana dipindahkan dari Perusahaan Korban ke beberapa rekening bank di negara lain dalam skema yang kompleks yang melibatkan setidaknya 17 terdakwa yang diketahui dan tidak diketahui. Otoritas Emirat melacak pergerakan uang melalui banyak rekening dan mengidentifikasi dua transaksi ke Amerika Serikat.

‘Pada 22 Januari 2020, dua transfer sebesar USD 199.987,75 dan USD 215.985,75 dikirim dari dua terdakwa ke rekening Centennial Bank dengan nomor rekening xxxxx7682 dan xxxxx7885, masing-masing, yang terletak di Amerika Serikat.’

Tidak ada detail lebih lanjut tentang kejahatan tersebut, yang hanya merupakan kasus kedua penipuan keuangan deepfaked berbasis suara yang diketahui. Kasus pertama terjadi sembilan bulan sebelumnya, pada Maret 2020, ketika seorang eksekutif di sebuah perusahaan energi Inggris ditekan oleh apa yang terdengar seperti bosnya, menuntut transfer €220.000 ($243.000), yang kemudian dilakukan.

Pengembangan Kloning Suara

Kloning suara deepfaked melibatkan pelatihan model pembelajaran mesin pada ratusan, atau ribuan sampel suara ‘target’ (suara yang akan ditiru). Kesamaan yang paling akurat dapat diperoleh dengan melatih suara target langsung melawan suara orang yang akan berbicara dalam skenario yang diusulkan, meskipun model akan ‘overfitted’ ke orang yang akan meniru suara target.

Komunitas online yang paling aktif dan sah untuk pengembang kloning suara adalah server Discord Audio Fakes, yang menampilkan forum untuk banyak algoritma kloning suara deepfaked seperti Google’s Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS dan Glow-TTS, di antara lainnya.

Deepfakes Waktu Nyata

Karena percakapan telepon secara inheren interaktif, penipuan kloning suara tidak dapat dilakukan dengan ‘baked’ klip suara berkualitas tinggi, dan dalam kedua kasus penipuan kloning suara, kita dapat berasumsi bahwa pembicara menggunakan kerangka kerja deepfaked waktu nyata.

Deepfakes waktu nyata telah menjadi fokus perhatian akhir-akhir ini karena adanya DeepFaceLive, implementasi waktu nyata dari paket deepfaked populer DeepFaceLab, yang dapat menumpangkan identitas selebriti atau identitas lain ke dalam footage webcam langsung. Meskipun pengguna di Discord Audio Fakes dan Discord DeepFaceLab sangat tertarik untuk menggabungkan kedua teknologi menjadi arsitektur deepfaked video+suara waktu nyata, belum ada produk yang muncul secara terbuka hingga saat ini.