Deepfaked Voice omogućio je pljačku banaka vrijednu 35 milijuna dolara 2020

Istraga prijevare u iznosu od 35 milijuna USD od banke u Ujedinjenim Arapskim Emiratima u siječnju 2020. otkrila je da je tehnologija deepfake glasa korištena za oponašanje direktora tvrtke poznatog upravitelju poslovnice banke, koji je zatim autorizirao transakcije.

Zločin se dogodio 15. siječnja prošle godine, a opisan je u a zatražiti (PDF) UAE američkim državnim vlastima za pomoć u pronalaženju dijela izvučenih sredstava koja su poslana u Sjedinjene Države.

U zahtjevu se navodi da je voditelj podružnice neimenovane žrtve banke u UAE primio telefonski poziv od poznatog glasa, koji je, zajedno s popratnim e-porukama odvjetnika po imenu Martin Zelner, uvjerio upravitelja da isplati sredstva, koja su očito bila namijenjena akvizicija poduzeća.

Korištenje električnih romobila ističe zatražiti navodi:

'Prema emiratskim vlastima, 15. siječnja 2020. voditelj podružnice tvrtke Victim primio je telefonski poziv za koji se tvrdilo da je iz sjedišta tvrtke. Pozivatelj je zvučao kao direktor tvrtke, pa je upravitelj podružnice vjerovao da je poziv bio opravdan.

'Voditelj podružnice također je primio nekoliko e-mailova za koje je vjerovao da su od ravnatelja, a koji su bili povezani s telefonskim pozivom. Pozivatelj je rekao upravitelju podružnice telefonom i e-poštom da se Victim Company sprema preuzeti još jednu tvrtku, te da je odvjetnik po imenu Martin Zelner (Zelner) ovlašten za koordinaciju postupaka za akviziciju.'

Upravitelj poslovnice je zatim primio e-poruke od Zelnera, zajedno s pismom punomoći od (navodnog) direktora, čiji je glas bio poznat žrtvi.

Deepfake glasovna prijevara identificirana

Istražitelji Emirata tada su utvrdili da je korištena tehnologija kloniranja deepfake glasa za oponašanje glasa direktora tvrtke:

'Istraga Emirata otkrila je da su optuženici koristili tehnologiju 'dubokog glasa' kako bi simulirali glas redatelja. U siječnju 2020. sredstva su iz Victim Company prebačena na nekoliko bankovnih računa u drugim zemljama u složenoj shemi koja uključuje najmanje 17 poznatih i nepoznatih optuženika. Vlasti Emirata pratile su kretanje novca kroz brojne račune i identificirale dvije transakcije u Sjedinjenim Državama.

'Dana 22. siječnja 2020. dva su transfera od 199,987.75 USD i 215,985.75 USD poslana od dvojice optuženih na brojeve računa Centennial Bank, xxxxx7682 odnosno xxxxx7885, koji se nalaze u Sjedinjenim Državama.'

Nisu dostupni nikakvi daljnji detalji o zločinu, koji je tek drugi poznati slučaj duboko lažne financijske prijevare temeljene na glasu. Prvi se dogodio devet mjeseci ranije, u ožujku 2020., kada je rukovoditelja britanske energetske tvrtke telefonom prozivao netko tko je zvučao poput šefa zaposlenika, zahtijevajući hitan prijenos 220,000 eura (243,000 dolara), koje je zaposlenik zatim transakcija.

Razvoj kloniranja glasa

Deepfake kloniranje glasa uključuje obuku modela strojnog učenja na stotinama ili tisućama uzoraka 'ciljanog' glasa (glasa koji će se imitirati). Najpreciznije podudaranje može se postići treniranjem ciljanog glasa izravno protiv glasa osobe koja će govoriti u predloženom scenariju, iako će model biti 'prenamješten' osobi koja oponaša metu.

Najaktivnija legitimna online zajednica za programere kloniranja glasa je Audio krivotvorine Poslužitelj Discord, koji sadrži forume za mnoge deepfake algoritme za kloniranje glasa kao što je Googleov Takotron-2, Talknet, NaprijedTacotron, Coqui-ai-TTS i Sjaj-TTS, Među ostalima.

Deepfakes u stvarnom vremenu

Budući da je telefonski razgovor nužno interaktivan, na prijevaru kloniranja glasa ne može se razumno utjecati 'pečenim' visokokvalitetnim glasovnim isječcima, au oba slučaja prijevare kloniranjem glasa, možemo razumno pretpostaviti da govornik koristi live, deepfake u stvarnom vremenu okvir.

Deepfake u stvarnom vremenu u posljednje je vrijeme došao u fokus zbog pojave DeepFaceLivea, implementacije popularnog deepfake paketa DeepFaceLab u stvarnom vremenu, koji može nametnuti identitete slavnih ili drugih osoba na snimke web kamere uživo. Iako su korisnici Audio Fakes Discorda i DeepFaceLab Discorda jako zainteresirani za kombiniranje dviju tehnologija u jednu video+glas live deepfake arhitekturu, nijedan takav proizvod još nije javno izašao.