Deepfaked Voice omogućio je pljačku banaka vrijednu 35 milijuna dolara 2020

Istraga prijevare u iznosu od 35 milijuna USD od banke u Ujedinjenim Arapskim Emiratima u siječnju 2020. otkrila je da je tehnologija deepfake glasa korištena za oponašanje direktora tvrtke poznatog upravitelju poslovnice banke, koji je zatim autorizirao transakcije.

Zločin se dogodio 15. siječnja prošle godine, a opisan je u a zatražiti (PDF) UAE američkim državnim vlastima za pomoć u pronalaženju dijela izvučenih sredstava koja su poslana u Sjedinjene Države.

U zahtjevu se navodi da je voditelj podružnice neimenovane žrtve banke u UAE primio telefonski poziv od poznatog glasa, koji je, zajedno s popratnim e-porukama odvjetnika po imenu Martin Zelner, uvjerio upravitelja da isplati sredstva, koja su očito bila namijenjena akvizicija poduzeća.

The zatražiti navodi:

'Prema emiratskim vlastima, 15. siječnja 2020. voditelj podružnice tvrtke Victim primio je telefonski poziv za koji se tvrdilo da je iz sjedišta tvrtke. Pozivatelj je zvučao kao direktor tvrtke, pa je upravitelj podružnice vjerovao da je poziv bio opravdan.

„Voditelj poslovnice također je primio nekoliko e-poruka za koje je vjerovao da su od direktora, a koje su bile povezane s telefonskim pozivom. Pozivatelj je telefonom i e-poštom obavijestio voditelja poslovnice da će tvrtka žrtva preuzeti drugu tvrtku te da je odvjetnik Martin Zelner (Zelner) ovlašten koordinirati postupke akvizicije.“

Upravitelj poslovnice je zatim primio e-poruke od Zelnera, zajedno s pismom punomoći od (navodnog) direktora, čiji je glas bio poznat žrtvi.

Deepfake glasovna prijevara identificirana

Emiratski istražitelji su potom utvrdili da je tehnologija kloniranja glasa "deepfake" korištena za imitiranje glasa direktora tvrtke:

'Istraga Emirata otkrila je da su optuženici koristili tehnologiju 'dubokog glasa' kako bi simulirali glas redatelja. U siječnju 2020. sredstva su iz Victim Company prebačena na nekoliko bankovnih računa u drugim zemljama u složenoj shemi koja uključuje najmanje 17 poznatih i nepoznatih optuženika. Vlasti Emirata pratile su kretanje novca kroz brojne račune i identificirale dvije transakcije u Sjedinjenim Državama.

'Dana 22. siječnja 2020. dva su okrivljenika izvršila dva transfera od 199,987.75 USD i 215,985.75 USD na brojeve računa Centennial Bank, xxxxx7682 i xxxxx7885, koji se nalaze u Sjedinjenim Državama.'

Nema daljnjih detalja o zločinu, koji je tek drugi poznati slučaj financijske prijevare temeljene na glasu putem deepfakea. Prvi se dogodio devet mjeseci ranije, u ožujku 2020., kada je direktora britanske energetske tvrtke telefonom napadao onaj koji je zvučao kao šef zaposlenika, zahtijevajući hitan prijenos 220,000 eura (243,000 USD), što je zaposlenik zatim transakcija.

Razvoj kloniranja glasa

Duboko lažno kloniranje glasa uključuje obuku modela strojnog učenja na stotinama ili tisućama uzoraka 'ciljnog' glasa (glasa koji će se imitirati). Najtočnije podudaranje može se postići izravnim uspoređivanjem ciljanog glasa s glasom osobe koja će govoriti u predloženom scenariju, iako će model biti 'preprilagođen' osobi koja oponaša metu.

Najaktivnija legitimna online zajednica za programere kloniranja glasa je Audio krivotvorine Discord server, koji sadrži forume za mnoge algoritme za kloniranje lažnog glasa poput Googleovog Takotron-2, Talknet, NaprijedTacotron, Coqui-ai-TTS i Sjaj-TTS, Među ostalima.

Deepfakes u stvarnom vremenu

Budući da je telefonski razgovor nužno interaktivan, prijevara kloniranjem glasa ne može se razumno izvesti 'pečenim' visokokvalitetnim glasovnim isječcima, a u oba slučaja prijevare kloniranjem glasa možemo razumno pretpostaviti da govornik koristi okvir za deepfake u stvarnom vremenu.

Deepfake u stvarnom vremenu u posljednje je vrijeme došao u fokus zbog pojave DeepFaceLivea, implementacije popularnog deepfake paketa DeepFaceLab u stvarnom vremenu, koji može nametnuti identitete slavnih ili drugih osoba na snimke web kamere uživo. Iako su korisnici Audio Fakes Discorda i DeepFaceLab Discorda jako zainteresirani za kombiniranje dviju tehnologija u jednu video+glas live deepfake arhitekturu, nijedan takav proizvod još nije javno izašao.