Cybersikkerhet
Deepfaked Stemme Aktiverte $35 Million Bankran I 2020
En etterforskning av svindel av $35 millioner USD fra en bank i De forente arabiske emirater i januar 2020 har funnet at deepfake stemmeteknologi ble brukt til å imitere en selskapsdirektør kjent for en bankfilialsjef, som deretter godkjente transaksjonene.
Forbrytelsen skjedde 15. januar i fjor, og er beskrevet i en begjæring (PDF) fra De forente arabiske emirater til amerikanske myndigheter for å få hjelp til å spore opp en del av de avledede midlene som ble sendt til USA.
Begjæringen sier at filialsjefen for en navnløs offerbank i De forente arabiske emirater mottok et telefonopppring fra en kjent stemme, som, sammen med tilhørende e-poster fra en advokat ved navn Martin Zelner, overbeviste sjefen om å utbetale midlene, som tilsynelatende var ment for å kjøpe et selskap.
Begjæringen sier:
‘Ifølge emiratarabisk myndighet, den 15. januar 2020, mottok offerselskapets filialsjef et telefonopppring som hevdet å være fra selskapets hovedkontor. Oppringeren lød som selskapets direktør, så filialsjefen trodde oppringningen var legitim.
‘Filialsjefen mottok også flere e-poster som han trodde var fra direktøren og som var relatert til telefonopppringen. Oppringeren fortalte filialsjefen over telefon og e-post at offerselskapet skulle kjøpe et annet selskap, og at en advokat ved navn Martin Zelner (Zelner) var autorisert til å koordinere prosedyrer for kjøpet.’
Filialsjefen mottok deretter e-poster fra Zelner, sammen med en fullmakt fra (den påståtte) direktøren, hvis stemme var kjent for offeret.
Deepfake Stemme Svindel Identifisert
Emiratarabisk etterforskning etablerte deretter at deepfake stemmekloningsteknologi var brukt til å imitere selskapets direktørs stemme:
‘Emiratarabisk etterforskning avdekket at tiltalte hadde brukt “dyp stemme”-teknologi til å simulere direktørens stemme. I januar 2020 ble midler overført fra offerselskapet til flere bankkontoer i andre land i en kompleks plan som involverte minst 17 kjente og ukjente tiltalte. Emiratarabisk myndighet sporet bevegelsen av pengene gjennom flere kontoer og identifiserte to transaksjoner til USA.
‘Den 22. januar 2020, ble to overføringer på USD 199 987,75 og USD 215 985,75 sendt fra to av tiltalte til Centennial Bank-kontonummer, xxxxx7682 og xxxxx7885, henholdsvis, beliggende i USA.’
Ingen ytterligere detaljer er tilgjengelige om forbrytelsen, som bare er den andre kjente hendelsen av stemmebasert deepfake finansiell svindel. Den første skjedde ni måneder tidligere, i mars 2020, da en direktør i et britisk energiselskap ble trakassert over telefon av hva som lød som ansattes sjef, og krevde umiddelbar overføring av €220 000 ($243 000), som ansatt deretter transaksjonerte.
Stemme Kloning Utvikling
Deepfake stemmekloning innebærer trening av en maskinlæringsmodell på hundrevis eller tusenvis av eksempler på ‘mål’-stemmen (stemmen som skal imiteres). Den mest nøyaktige matchen kan oppnås ved å trene mål-stemmen direkte mot stemmen til personen som skal snakke i den foreslåtte scenariet, selv om modellen vil bli ‘overfittet’ til personen som skal imitere mål-stemmen.
Den mest aktive legitime online-samfunnet for stemmekloning-utviklere er Audio Fakes Discord-serveren, som har forum for mange deepfake stemmekloning-algoritmer som Google’s Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS og Glow-TTS, blant andre.
Sanntids Deepfakes
Ettersom et telefonsamtale nødvendigvis er interaktivt, kan stemmekloning-svindel ikke rimeligvis utføres ved ‘baked’ høykvalitets stemme-klipp, og i begge tilfeller av stemmekloning-svindel, kan vi rimelig anta at taleren bruker en live, sanntids deepfake-rammeverk.
Sanntids deepfakes har kommet i fokus nylig på grunn av introduksjonen av DeepFaceLive, en sanntids implementering av populær deepfake-pakke DeepFaceLab, som kan overføre kjendis eller andre identiteter på live webkamera-film. Selv om brukere på Audio Fakes Discord og DeepFaceLab Discord er intensivt interesserte i å kombinere de to teknologiene i en enkelt video+stemme live deepfake-arkitektur, har ingen slik produkt offentlig dukket opp enda.
