Deepfaked Ääni Mahdollisti 35 Miljoonan Dollarin Pankkiryöstön Vuonna 2020

Tutkinta, joka koski 35 miljoonan dollarin petosta Yhdistyneiden Arabiemiraattien pankissa tammikuussa 2020, osoitti, että deepfake-ääniTeknologiaa käytettiin matkimaan yhtiön johtajan ääntä, joka oli tuttu pankin konttorin johtajalle, joka sitten hyväksyi transaktiot.

Rikos tapahtui 15. tammikuuta viime vuonna, ja se on kuvattu pyynnössä (PDF) Yhdistyneiden Arabiemiraattien viranomaisilta Yhdysvaltain viranomaisille apua rahan jäljittämiseksi, joka lähetettiin Yhdysvaltoihin.

Pyynnössä todetaan, että pankin konttorin johtaja sai puhelun tutulta ääneltä, joka yhdessä lakimies Martin Zelnerin lähettämien sähköpostien kanssa vakuutti johtajan siirtämään varat, jotka olivat ilmeisesti tarkoitettu yhtiön hankkimiseen.

Pyynnössä todetaan:

‘Yhdistyneiden Arabiemiraattien viranomaisten mukaan 15. tammikuuta 2020 uhriyhtiön konttorin johtaja sai puhelun, joka väitti olevan yhtiön pääkonttorista. Puhuja kuulosti yhtiön johtajalta, joten konttorin johtaja uskoi puhelun olevan aito.

‘Konttorin johtaja sai myös useita sähköposteja, jotka hän uskoi olevan johtajalta ja liittyvän puheluun. Puhuja kertoi konttorin johtajalle puhelimessa ja sähköpostissa, että uhriyhtiö oli hankkimassa toista yhtiötä, ja että lakimies Martin Zelner (Zelner) oli valtuutettu koordinoimaan hankintamenettelyjä.’

Konttorin johtaja sai sitten sähköpostit Zelneriltä yhdessä kirjeen valtakirjalla (väitetysti) johtajalta, jonka ääni oli tuttu uhriksi joutuneelle.

Deepfake Ääni-Petos Tunnistettu

Yhdistyneiden Arabiemiraattien tutkijat osoittivat, että deepfake-ääni-klooni-teknologiaa oli käytetty matkimaan yhtiön johtajan ääntä:

‘Yhdistyneiden Arabiemiraattien tutkimus osoitti, että syytetyt olivat käyttäneet “deep voice” -teknologiaa simuloimaan johtajan ääntä. Tammikuussa 2020 varat siirrettiin uhriyhtiöstä useisiin pankkitileihin eri maissa monimutkaisessa huijauksessa, johon osallistui vähintään 17 tunnettua ja tuntematonta syytettyä. Yhdistyneiden Arabiemiraattien viranomaiset jäljittivät rahan liikkeen useiden tiliten kautta ja tunnistivat kaksi siirtoa Yhdysvaltoihin.

’22. tammikuuta 2020 kaksi siirtoa, 199 987,75 Yhdysvaltain dollaria ja 215 985,75 Yhdysvaltain dollaria, lähetettiin kahden syytetyistä Centennial Bankin tilille, joka sijaitsi Yhdysvalloissa.’

Lisätietoja rikoksesta ei ole saatavilla, ja se on toinen tunnettu tapaus, jossa ääni-pohjainen deepfake-petos on tehty. Ensimmäinen tapaus tapahtui yhdeksän kuukautta aikaisemmin, maaliskuussa 2020, kun Yhdistyneen kuningaskunnan energiayhtiön johtaja sai puhelun, joka kuulosti hänen esimieheltään, joka vaati kiireellistä 220 000 euron ($243 000) siirtoa, jonka työntekijä sitten suoritti.

Äänen Kloonauksen Kehitys

Deepfake-ääni-kloonauksessa käytetään koneoppimismallia, joka on koulutettu satojen tai tuhansien “kohde”-äänen (äänen, joka jäljitellään) näytteiden avulla. Tarkin vastine saadaan kouluttamalla kohdeääntä suoraan henkilön ääntä vasten, joka puhuu ehdotetussa skenaariossa, vaikka malli on “ylikoulutettu” henkilölle, joka jäljittelee kohdeääntä.

Aktiivisin laillinen online-yhteisö äänen kloonauksen kehittäjille on Audio Fakes Discord-palvelin, jossa on foorumeja useille deepfake-ääni-kloonauksen algoritmeille, kuten Googleen Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS ja Glow-TTS, muun muassa.

Reaaliaikaiset Deepfakes

Koska puhelin keskustelu on välttämättä interaktiivinen, äänen klooni-petos ei voida tehdä “valmiiksi” korkealaatuisilla ääni klippeillä, ja molemmissa äänen klooni-petostapauksissa voidaan olettaa, että puhuja käyttää reaaliaikaista deepfake-kehyksen.

Reaaliaikaiset deepfakes ovat tulleet keskustelun aiheeksi viime aikoina DeepFaceLiven myötä, joka on reaaliaikainen toteutus suositusta deepfake-paketti DeepFaceLab, joka voi superimpose julkkisten tai muiden identiteettejä live-webcam-kuvaan. Vaikka Audio Fakes Discord ja DeepFaceLab Discord ovat kiinnostuneita yhdistämään nämä kaksi teknologiaa yhden video+ääni live deepfake arkkitehtuuriin, ei sellaista tuotetta ole vielä julkaistu.