Deepfaked Voice umožnil bankovú lúpež v hodnote 35 miliónov dolárov v roku 2020

Vyšetrovanie podvodu vo výške 35 miliónov USD z banky v Spojených arabských emirátoch v januári 2020 zistilo, že technológia hlbokého falošného hlasu bola použitá na napodobnenie riaditeľa spoločnosti známeho manažérovi pobočky banky, ktorý následne transakcie povolil.

Zločin sa stal 15. januára minulého roku a je opísaný v a požiadať (PDF) Spojenými arabskými emirátmi americkým štátnym orgánom za pomoc pri vystopovaní časti odčerpaných prostriedkov, ktoré boli odoslané do Spojených štátov.

V žiadosti sa uvádza, že manažér pobočky nemenovanej obete banky v Spojených arabských emirátoch dostal telefonát od známeho hlasu, ktorý spolu so sprievodnými e-mailami od právnika Martina Zelnera presvedčil manažéra, aby vyplatil prostriedky, ktoré boli zjavne určené pre akvizície spoločnosti.

požiadať uvádza:

„Podľa emirátskych úradov 15. januára 2020 manažér pobočky Victim Company prijal telefonický hovor, ktorý tvrdil, že bol z ústredia spoločnosti. Volajúci znel ako riaditeľ spoločnosti, takže manažér pobočky považoval hovor za legitímny.

„Vedúci pobočky tiež dostal niekoľko e-mailov, o ktorých sa domnieval, že boli od riaditeľa a ktoré súviseli s telefonátom. Volajúci telefonicky a e-mailom informoval riaditeľa pobočky, že spoločnosť Victim Company sa chystá získať inú spoločnosť a že koordináciou postupov pri akvizícii bol poverený právnik Martin Zelner (Zelner).

Vedúci pobočky potom dostal e-maily od Zelnera spolu so splnomocnením od (údajného) riaditeľa, ktorého hlas bol obeti známy.

Deepfake Voice Fraud Identifikovaný

Emirátski vyšetrovatelia potom zistili, že technológia klonovania hlbokého falošného hlasu bola použitá na napodobnenie hlasu riaditeľa spoločnosti:

„Vyšetrovanie v Emirátoch ukázalo, že obžalovaní použili technológiu „hlbokého hlasu“ na simuláciu hlasu riaditeľa. V januári 2020 boli finančné prostriedky prevedené zo spoločnosti Victim Company na niekoľko bankových účtov v iných krajinách v rámci komplexnej schémy zahŕňajúcej najmenej 17 známych a neznámych obžalovaných. Emirátske úrady sledovali pohyb peňazí cez početné účty a identifikovali dve transakcie do Spojených štátov.

„Dňa 22. januára 2020 boli zaslané dva prevody vo výške 199,987.75 215,985.75 USD a 7682 7885 USD od dvoch obžalovaných na čísla účtov Centennial Bank, xxxxxXNUMX a xxxxxXNUMX, v uvedenom poradí so sídlom v Spojených štátoch.

Nie sú k dispozícii žiadne ďalšie podrobnosti týkajúce sa zločinu, ktorý je len druhým známym výskytom falšovaných finančných podvodov založených na hlase. Prvá sa odohrala o deväť mesiacov skôr, v marci 2020, keď výkonnému pracovníkovi britskej energetickej spoločnosti telefonoval niečo, čo znelo ako šéf zamestnanca, ktorý požadoval okamžitý prevod 220,000 243,000 EUR (XNUMX XNUMX USD), ktoré zamestnanec potom uskutočnené.

Vývoj klonovania hlasu

Deepfake hlasové klonovanie zahŕňa trénovanie modelu strojového učenia na stovkách alebo tisíckach vzoriek „cieľového“ hlasu (hlasu, ktorý bude napodobňovaný). Najpresnejšiu zhodu možno dosiahnuť trénovaním cieľového hlasu priamo proti hlasu osoby, ktorá bude hovoriť v navrhovanom scenári, hoci model bude „prepasovaný“ na osobu, ktorá sa vydáva za cieľ.

Najaktívnejšia legitímna online komunita pre vývojárov hlasového klonovania je Zvukové falzifikáty Discord server, ktorý obsahuje fóra pre mnoho hlboko falošných hlasových klonovacích algoritmov, ako je napríklad Google Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS a Glow-TTS, Medzi ostatnými.

Deepfakes v reálnom čase

Keďže telefonická konverzácia je nevyhnutne interaktívna, podvody s klonovaním hlasu nemožno primerane ovplyvniť „upečenými“ vysokokvalitnými hlasovými klipmi a v oboch prípadoch podvodu s klonovaním hlasu môžeme odôvodnene predpokladať, že hovoriaci používa živé falšovanie v reálnom čase. rámec.

Hlboké fake v reálnom čase sa dostali do centra pozornosti v poslednej dobe vďaka príchodu DeepFaceLive, implementácie populárneho deepfake balíka DeepFaceLab v reálnom čase, ktorý môže prekrývať celebrity alebo iné identity. na živé zábery z webovej kamery. Aj keď sa používatelia v Audio Fakes Discord a DeepFaceLab Discord intenzívne zaujímajú o spojenie týchto dvoch technológií do jedinej video a hlasovej live deepfake architektúry, žiadny takýto produkt sa zatiaľ verejne neobjavil.