Frauda vocală Deepfaked care a permis o jaful de 35 de milioane de dolari la o bancă în 2020

O investigație referitoare la fraudarea a 35 de milioane de dolari americani de la o bancă din Emiratele Arabe Unite în ianuarie 2020 a descoperit că tehnologia de voce deepfake a fost utilizată pentru a imita vocea unui director de companie cunoscut de un manager de bancă, care a autorizat apoi tranzacțiile.

Crima a avut loc pe 15 ianuarie anul trecut și este prezentată într-o cerere (PDF) a Emiratelor Arabe Unite către autoritățile americane pentru a cere ajutorul în urmărirea unei părți a fondurilor deturnate care au fost trimise în Statele Unite.

Cererea menționează că managerul unei bănci victime din Emiratele Arabe Unite a primit un apel telefonic de la o voce familiară, care, împreună cu e-mailurile trimise de un avocat pe nume Martin Zelner, l-a convins pe manager să efectueze tranzacțiile, care aparent erau destinate achiziționării unei companii.

Cererea menționează:

‘Conform autorităților emirateze, la 15 ianuarie 2020, managerul sucursalei companiei a primit un apel telefonic care pretindea a fi de la sediul central al companiei. Apelantul suna ca directorul companiei, așa că managerul a crezut că apelul era legitim.

‘Managerul sucursalei a primit, de asemenea, mai multe e-mailuri pe care le-a crezut a fi de la director, legate de apelul telefonic. Apelantul i-a spus managerului, atât prin telefon, cât și prin e-mail, că Compania Victimă urma să achiziționeze o altă companie și că un avocat pe nume Martin Zelner (Zelner) fusese autorizat să coordoneze procedurile de achiziție.’

Managerul sucursalei a primit apoi e-mailurile de la Zelner, împreună cu o scrisoare de autorizare de la (presupusul) director, a cărui voce îi era familiară victimei.

Frauda vocală Deepfaked identificată

Investigatorii emiratezi au stabilit apoi că tehnologia de voce deepfake a fost utilizată pentru a imita vocea directorului companiei:

‘Investigația emirateză a arătat că inculpații au utilizat tehnologia “deep voice” pentru a simula vocea directorului. În ianuarie 2020, fonduri au fost transferate de la Compania Victimă către mai multe conturi bancare din alte țări, într-un schemă complexă care a implicat cel puțin 17 inculpați cunoscuți și necunoscuți. Autoritățile emirateze au urmărit mișcarea banilor prin numeroase conturi și au identificat două tranzacții către Statele Unite.

‘La 22 ianuarie 2020, două transferuri de 199.987,75 dolari americani și 215.985,75 dolari americani au fost trimise de la doi dintre inculpați către numerele de cont ale Băncii Centenare, xxxxx7682 și, respectiv, xxxxx7885, ambele localizate în Statele Unite.’

Nu sunt disponibile detalii suplimentare despre crimă, care este doar a doua instanță cunoscută de fraudă financiară bazată pe voce deepfake. Prima a avut loc cu nouă luni mai devreme, în martie 2020, când un director executiv al unei companii energetice din Regatul Unit a fost hărțuit la telefon de ceea ce suna ca șeful său, cerându-i transferul urgent de 220.000 de euro (243.000 de dolari americani), pe care angajatul l-a efectuat.

Dezvoltarea clonării vocale

Clonarea vocală deepfake implică antrenarea unui model de învățare automată pe sute sau mii de mostre ale vocii “țintă” (vocea care urmează a fi imitată). Cel mai bun rezultat se poate obține prin antrenarea directă a vocii țintă împotriva vocii persoanei care va vorbi în scenariul propus, deși modelul va fi “supraantrenat” pentru persoana care va imita vocea țintă.

Comunitatea online legitimă cea mai activă pentru dezvoltatorii de clonare vocală este serverul Discord Audio Fakes, care prezintă forumuri pentru numeroase algoritmi de clonare vocală deepfake, cum ar fi Tacotron-2 de la Google, Talknet, ForwardTacotron, Coqui-ai-TTS și Glow-TTS, printre altele.

Deepfakes în timp real

Deoarece o conversație telefonică este, prin definiție, interactivă, frauda de clonare vocală nu poate fi realizată în mod rezonabil prin “clipuri vocale de înaltă calitate” preînregistrate, și în ambele cazuri de fraudă de clonare vocală putem presupune în mod rezonabil că vorbitorul utilizează un cadru deepfake în timp real.

Deepfakes în timp real au intrat în atenție recent datorită apariției DeepFaceLive, o implementare în timp real a pachetului popular de deepfake DeepFaceLab, care poate suprapune identități de celebrități sau alte identități pe imagini video live. Deși utilizatorii de la Audio Fakes Discord și DeepFaceLab Discord sunt foarte interesați să combine cele două tehnologii într-o singură arhitectură de deepfake video+vocal în timp real, niciun astfel de produs nu a apărut încă în mod public.