Deepfaked Stemme Aktiverte $35 Million Bankran i 2020

En undersøkelse av svindel av $35 millioner USD fra en bank i De forente arabiske emirater i januar 2020 har funnet ut at deepfake stemmeteknologi ble brukt til å imitere en selskapsdirektørs stemme, som var kjent for en banksjef, som deretter godkjente transaksjonene.

Forbrytelsen skjedde 15. januar i fjor, og er omtalt i en begjæring (PDF) fra UAE til amerikanske myndigheter for å få hjelp til å spore opp en del av de avledede midlene som ble sendt til USA.

Begjæringen sier at banksjefen for en navnløs offerbank i UAE mottok et telefonopppring fra en kjent stemme, som, sammen med tilhørende e-poster fra en advokat ved navn Martin Zelner, overbeviste sjefen om å utbetale midlene, som tilsynelatende var ment for å kjøpe et selskap.

Begjæringen sier:

‘Ifølge emiratiske myndigheter mottok banksjefen for offer­selskapet 15. januar 2020 et telefonopppring som hevdet å være fra selskapets hovedkontor. Oppringeren lød som selskapets direktør, så banksjefen trodde oppringningen var legitim.

‘Banksjefen mottok også flere e-poster som han trodde var fra direktøren og som var relatert til telefonopppringen. Oppringeren fortalte banksjefen over telefon og e-post at offerselskapet skulle kjøpe et annet selskap, og at en advokat ved navn Martin Zelner (Zelner) var autorisert til å koordinere prosedyrer for kjøpet.’

Banksjefen mottok deretter e-postene fra Zelner, sammen med en fullmakt fra (den påståtte) direktøren, hvis stemme var kjent for offeret.

Deepfake Stemme Svindel Identifisert

Emiratiske etterforskere fastslo deretter at deepfake stemmekloningsteknologi var blitt brukt til å imitere selskapsdirektørens stemme:

‘Den emiratiske etterforskningen avdekket at de tiltalte hadde brukt “dyp stemme”-teknologi til å simulere direktørens stemme. I januar 2020 ble midler overført fra offerselskapet til flere bankkontoer i andre land i en kompleks plan som involverte minst 17 kjente og ukjente tiltalte. Emiratiske myndigheter sporet bevegelsen av pengene gjennom flere kontoer og identifiserte to transaksjoner til USA.

’22. januar 2020 ble to overføringer på 199 987,75 USD og 215 985,75 USD sendt fra to av de tiltalte til Centennial Bank-kontonummer xxxxx7682 og xxxxx7885, henholdsvis, i USA.’

Ingen ytterligere detaljer er tilgjengelige om forbrytelsen, som bare er den andre kjente hendelsen med stemmebasert deepfake finansiell svindel. Den første skjedde ni måneder tidligere, i mars 2020, da en sjef i et britisk energiselskap ble ringt opp av noen som lød som sjefens sjef, og som krevde overføring av 220 000 euro (243 000 dollar), som sjefen deretter gjennomførte.

Stemme Kloning Utvikling

Deepfake stemmekloning innebærer å trene en maskinlæringsmodell på hundrevis eller tusenvis av eksempler på “mål”-stemmen (stemmen som skal imiteres). Den mest nøyaktige sammenligningen kan oppnås ved å trene mål-stemmen direkte mot stemmen til personen som skal snakke i den foreslåtte scenariet, selv om modellen vil bli “overfittet” til personen som skal imitere mål-stemmen.

Den mest aktive legitime online-samfunnet for stemmekloning-utviklere er Audio Fakes Discord-serveren, som har forum for mange deepfake stemmekloning-algoritmer som Google’s Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS og Glow-TTS, blant andre.

Sanntids Deepfakes

Ettersom et telefon­samtale nødvendigvis er interaktivt, kan stemmekloning-svindel ikke rimeligvis utføres med “baked” høykvalitets lydklipp, og i begge tilfeller av stemmekloning-svindel kan vi rimeligvis anta at taleren bruker en sanntids deepfake-rammeverk.

Sanntids deepfakes har kommet i fokus nylig på grunn av introduksjonen av DeepFaceLive, en sanntids implementering av den populære deepfake-pakken DeepFaceLab, som kan superimponere kjendis eller andre identiteter på live webcam-opptak. Selv om brukerne på Audio Fakes Discord og DeepFaceLab Discord er sterkt interesserte i å kombinere de to teknologiene i en enkelt video+stemme sanntids deepfake-arkitektur, har ingen slik produkt offentlig kommet frem enda.