Deepfaked Voice umožnil v roce 35 bankovní loupež ve výši 2020 milionů dolarů

Vyšetřování podvodu ve výši 35 milionů USD z banky ve Spojených arabských emirátech v lednu 2020 zjistilo, že technologie deepfake byla použita k napodobení ředitele společnosti známého manažerovi pobočky banky, který poté transakce schválil.

Zločin se stal 15. ledna loňského roku a je popsán v a požádat (PDF) Spojenými arabskými emiráty americkým státním orgánům za pomoc při sledování části vysátých finančních prostředků, které byly odeslány do Spojených států.

V žádosti se uvádí, že vedoucí pobočky nejmenované obětní banky ve Spojených arabských emirátech obdržel telefonát od známého hlasu, který spolu s doprovodnými e-maily od právníka Martina Zelnera přesvědčil manažera k vyplacení finančních prostředků, které byly zřejmě určeny akvizice společnosti.

Jedno požádat uvádí:

„Podle emirátských úřadů obdržel 15. ledna 2020 vedoucí pobočky společnosti Victim Company telefonní hovor, který tvrdil, že byl z ústředí společnosti. Volající zněl jako ředitel společnosti, takže ředitel pobočky považoval hovor za legitimní.

„Ředitel pobočky také obdržel několik e-mailů, o nichž se domníval, že byly od ředitele a které souvisely s telefonátem. Volající telefonicky a e-mailem sdělil vedoucímu pobočky, že společnost Victim Company se chystá získat další společnost a že koordinací postupů pro akvizici byl pověřen právník jménem Martin Zelner (Zelner).

Vedoucí pobočky poté obdržel e-maily od Zelnera spolu s pověřením od (domnělého) ředitele, jehož hlas byl oběti známý.

Deepfake Voice Fraud identifikován

Emirátští vyšetřovatelé pak zjistili, že technologie klonování hlubokého falešného hlasu byla použita k napodobení hlasu ředitele společnosti:

„Vyšetřování v Emirátech odhalilo, že obžalovaní použili technologii „hlubokého hlasu“ k simulaci hlasu ředitele. V lednu 2020 byly finanční prostředky převedeny z Victim Company na několik bankovních účtů v jiných zemích ve složitém schématu zahrnujícím nejméně 17 známých a neznámých obžalovaných. Emirátské úřady sledovaly pohyb peněz přes četné účty a identifikovaly dvě transakce do Spojených států.

"Dne 22. ledna 2020 byly odeslány dva převody ve výši 199,987.75 215,985.75 USD a 7682 7885 USD od dvou obžalovaných na čísla účtů Centennial Bank xxxxxXNUMX a xxxxxXNUMX, v tomto pořadí, se sídlem ve Spojených státech."

Nejsou k dispozici žádné další podrobnosti o zločinu, který je teprve druhým známým výskytem hluboce falešných finančních podvodů založených na hlasu. První se odehrála o devět měsíců dříve, v březnu 2020, kdy vedoucího pracovníka britské energetické společnosti obtěžoval telefonem něco, co znělo jako šéf zaměstnance, a požadoval naléhavý převod 220,000 243,000 EUR (XNUMX XNUMX USD), které zaměstnanec poté provedeny transakce.

Vývoj klonování hlasu

Deepfake klonování hlasu zahrnuje trénování modelu strojového učení na stovkách nebo tisících vzorků „cílového“ hlasu (hlasu, který bude napodobován). Nejpřesnější shody lze dosáhnout trénováním cílového hlasu přímo proti hlasu osoby, která bude mluvit v navrhovaném scénáři, i když model bude „přepastován“ na osobu, která se za cíl vydává.

Nejaktivnější legitimní online komunita pro vývojáře hlasového klonování je Audio padělky Discord server, který obsahuje fóra pro mnoho hluboce falešných hlasových klonovacích algoritmů, jako je Google Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS si Glow-TTS, mezi ostatními.

Deepfakes v reálném čase

Vzhledem k tomu, že telefonní rozhovor je nezbytně interaktivní, nelze podvody s klonováním hlasu přiměřeně ovlivnit „vypečenými“ vysoce kvalitními hlasovými klipy a v obou případech podvodu s klonováním hlasu můžeme rozumně předpokládat, že mluvčí používá živý, hluboký fake v reálném čase. rámec.

Hluboké fake v reálném čase se v poslední době dostaly do centra pozornosti díky příchodu DeepFaceLive, implementace oblíbeného deepfake balíčku DeepFaceLab v reálném čase, který může překrývat celebrity nebo jiné identity. na živé záběry z webové kamery. Ačkoli uživatelé na Audio Fakes Discord a DeepFaceLab Discord mají intenzivní zájem o spojení těchto dvou technologií do jediné video+hlas živé deepfake architektury, žádný takový produkt se zatím veřejně neobjevil.