Deepfaked Voice Enabled $35 Million Bank Heist in 2020

Šetření týkající se podvodu s $35 miliony USD z banky ve Spojených arabských emirátech v lednu 2020 odhalilo, že technologie deepfake hlasu byla použita k imitaci ředitele společnosti, který byl známý manažerovi pobočky banky, který pak autorizoval transakce.

Tento zločin se udál 15. ledna loňského roku a je popsán v žádosti (PDF) Spojených arabských emirátů o pomoc americkým státním orgánům při stopování části odsátých prostředků, které byly odeslány do Spojených států.

Žádost uvádí, že manažer pobočky neznámé oběti banky ve Spojených arabských emirátech obdržel telefonní hovor od známého hlasu, který, spolu s doprovodnými e-maily od právníka Martina Zelnera, přesvědčil manažera, aby uvolnil prostředky, které byly zřejmě určeny pro koupi společnosti.

Žádost uvádí:

‘Podle emirátských orgánů obdržel 15. ledna 2020 manažer pobočky oběti telefonní hovor, který údajně pocházel ze sídla společnosti. Volající zněl jako ředitel společnosti, a proto manažer pobočky věřil, že hovor je legitimní.

‘Manažer pobočky také obdržel několik e-mailů, o kterých věřil, že pocházejí od ředitele, které se týkaly telefonního hovoru. Volající řekl manažerovi pobočky telefonem a e-mailem, že společnost oběti je na konci akvizice jiné společnosti a že právník Martin Zelner (Zelner) byl pověřen koordinovat postupy pro akvizici.’

Manažer pobočky pak obdržel e-maily od Zelnera, spolu s autorizačním dopisem od (údajného) ředitele, jehož hlas byl známý oběti.

Deepfake Voice Fraud Identified

Emirátská vyšetřování poté zjistila, že technologie deepfake hlasu byla použita k imitaci hlasu ředitele společnosti:

‘Emirátské vyšetřování odhalilo, že obvinění použili „deep voice“ technologii k simulaci hlasu ředitele. V lednu 2020 byly převedeny prostředky ze společnosti oběti na několik bankovních účtů v jiných zemích v komplexním schématu, které zahrnovalo nejméně 17 známých a neznámých obviněných. Emirátské orgány stopovaly pohyb peněz prostřednictvím mnoha účtů a identifikovaly dvě transakce do Spojených států.

‘Dne 22. ledna 2020 byly dvě transakce ve výši 199 987,75 USD a 215 985,75 USD odeslány ze dvou obviněných na účty Centennial Bank s čísly xxxxx7682 a xxxxx7885, umístěné ve Spojených státech.’

Nejsou k dispozici žádné další podrobnosti o tomto zločinu, který je pouze druhým známým případem podvodu s deepfake hlasem. První případ se udál devět měsíců dříve, v březnu 2020, kdy byl výkonný ředitel britské energetické společnosti obtěžován telefonním hovorem, který zněl jako jeho šéf, a vyžadoval urgentní převod 220 000 eur (243 000 USD), který zaměstnanec poté provedl.

Voice Cloning Development

Deepfake hlasová klonace zahrnuje školení modelu strojového učení na stovkách nebo tisících vzorcích „cílového“ hlasu (hlasu, který bude imitován). Nejlepší shoda lze získat školením cílového hlasu přímo proti hlasu osoby, která bude mluvit v navrhovaném scénáři, ačkoli model bude „přeceněn“ pro osobu, která bude imitovat cílový hlas.

Nejaktivnější legitimní online komunita pro vývojáře hlasové klonace je Audio Fakes Discord server, který nabízí fóra pro mnoho algoritmů deepfake hlasové klonace, jako je Google Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS a Glow-TTS, mezi jinými.

Real-Time Deepfakes

Pоскольку telefonní hovor je nutně interaktivní, nelze podvod s hlasovou klonací rozumně provést pomocí „upečených“ vysoce kvalitních hlasových klipů, a v obou případech podvodu s hlasovou klonací lze rozumně předpokládat, že mluvčí používá živou, reálnou architekturu deepfake.

Reálné deepfaky se dostaly do popředí pozornosti v důsledku vzniku DeepFaceLive, reálné implementace populárního balíčku deepfake DeepFaceLab, který může superimponovat celebrity nebo jiné identity na živé webové kamery. Ačkoli uživatelé na Audio Fakes Discord a DeepFaceLab Discord jsou intenzivně intéressovaní kombinací obou technologií do jediné video+hlasové živé architektury deepfake, dosud nebyla veřejně představena žádná taková produkce.