Frode da voce deepfake abilitata per un furto di 35 milioni di dollari in banca nel 2020

Un’indagine sulla truffa di 35 milioni di dollari USA da una banca negli Emirati Arabi Uniti a gennaio 2020 ha rivelato che la tecnologia di voce deepfake è stata utilizzata per imitare un direttore di società noto a un gestore di filiale di banca, che ha poi autorizzato le transazioni.

Il crimine è avvenuto il 15 gennaio dell’anno scorso e viene descritto in una richiesta (PDF) degli Emirati Arabi Uniti alle autorità statunitensi per aiuto nel rintracciare una parte dei fondi sottratti che sono stati inviati negli Stati Uniti.

La richiesta afferma che il gestore di filiale di una banca vittima non specificata negli Emirati Arabi Uniti ha ricevuto una telefonata da una voce familiare, che, insieme a email da un avvocato di nome Martin Zelner, ha convinto il gestore a disburse i fondi, che apparentemente erano destinati all’acquisto di una società.

La richiesta afferma:

‘Secondo le autorità emiratine, il 15 gennaio 2020, il gestore di filiale della società vittima ha ricevuto una telefonata che sosteneva di provenire dalla sede centrale della società. Il chiamante sembrava il direttore della società, quindi il gestore di filiale ha creduto che la chiamata fosse legittima.

‘Il gestore di filiale ha anche ricevuto diverse email che credeva provenissero dal direttore e che erano relative alla telefonata. Il chiamante ha detto al gestore di filiale per telefono e via email che la società vittima stava per acquisire un’altra società e che un avvocato di nome Martin Zelner (Zelner) era stato autorizzato a coordinare le procedure per l’acquisto.’

Il gestore di filiale ha poi ricevuto le email da Zelner, insieme a una lettera di autorizzazione dal (presunto) direttore, la cui voce era familiare alla vittima.

Frode da voce deepfake identificata

Gli investigatori emiratini hanno poi stabilito che la tecnologia di clonazione di voce deepfake era stata utilizzata per imitare la voce del direttore della società:

‘L’indagine emiratina ha rivelato che gli imputati avevano utilizzato la tecnologia “deep voice” per simulare la voce del direttore. A gennaio 2020, i fondi sono stati trasferiti dalla società vittima a diversi conti bancari in altri paesi in uno schema complesso che coinvolgeva almeno 17 imputati noti e ignoti. Le autorità emiratine hanno tracciato il movimento dei soldi attraverso numerosi conti e hanno identificato due transazioni verso gli Stati Uniti.

‘Il 22 gennaio 2020, due trasferimenti di 199.987,75 dollari USA e 215.985,75 dollari USA sono stati inviati da due degli imputati ai numeri di conto della banca Centennial, rispettivamente xxxxx7682 e xxxxx7885, negli Stati Uniti.’

Non ci sono ulteriori dettagli disponibili riguardo al crimine, che è solo il secondo caso noto di frode finanziaria basata su voci deepfake. Il primo si è verificato nove mesi prima, a marzo 2020, quando un dirigente di una società energetica del Regno Unito è stato contattato al telefono da qualcuno che sembrava il suo capo, che chiedeva il trasferimento urgente di 220.000 euro (243.000 dollari USA), che il dipendente ha poi eseguito.

Sviluppo della clonazione di voce

La clonazione di voce deepfake coinvolge l’addestramento di un modello di apprendimento automatico su centinaia o migliaia di campioni della “voce bersaglio” (la voce che sarà imitata). La corrispondenza più precisa può essere ottenuta addestrando la voce bersaglio direttamente contro la voce della persona che parlerà nello scenario proposto, anche se il modello sarà “sovrapposto” alla persona che impersonerà la voce bersaglio.

La comunità online legittima più attiva per gli sviluppatori di clonazione di voce è il server Discord di Audio Fakes, che presenta forum per molti algoritmi di clonazione di voce deepfake come Tacotron-2 di Google, Talknet, ForwardTacotron, Coqui-ai-TTS e Glow-TTS, tra gli altri.

Deepfake in tempo reale

Poiché una conversazione telefonica è necessariamente interattiva, la frode di clonazione di voce non può essere ragionevolmente eseguita con clip di voce “cotte” di alta qualità, e in entrambi i casi di frode di clonazione di voce, possiamo ragionevolmente supporre che il parlante stia utilizzando un framework di deepfake in tempo reale.

I deepfake in tempo reale sono stati recentemente al centro dell’attenzione a causa dell’avvento di DeepFaceLive, un’implementazione in tempo reale del popolare pacchetto di deepfake DeepFaceLab, che può sovrapporre identità di celebrità o altre identità su riprese live di webcam. Sebbene gli utenti del server Discord di Audio Fakes e del server Discord di DeepFaceLab siano intensamente interessati a combinare le due tecnologie in un’unica architettura di deepfake video+voce live, non è ancora emerso alcun prodotto del genere.