Deepfaked Voice het $35 miljoen bankroof in 2020 geaktiveer

'n Ondersoek na die bedrog van $35 miljoen USD van 'n bank in die Verenigde Arabiese Emirate in Januarie 2020 het bevind dat diepvalste stemtegnologie gebruik is om 'n maatskappydirekteur na te boots wat bekend is aan 'n banktakbestuurder, wat toe die transaksies goedgekeur het.

Die misdaad het op 15 Januarie verlede jaar plaasgevind en word uiteengesit in a vra (PDF) deur die VAE aan Amerikaanse staatsowerhede vir hulp met die opsporing van 'n gedeelte van die sifonfondse wat na die Verenigde State gestuur is.

Die versoek lui dat die takbestuurder van 'n naamlose slagofferbank in die VAE 'n telefoonoproep van 'n bekende stem ontvang het, wat, tesame met gepaardgaande e-posse van 'n prokureur genaamd Martin Zelner, die bestuurder oortuig het om die fondse uit te betaal, wat glo bedoel was vir die verkryging van 'n maatskappy.

Die vra lui:

'Volgens Emirati-owerhede het die Slagoffermaatskappy se takbestuurder op 15 Januarie 2020 'n telefoonoproep ontvang wat beweer dat dit van die maatskappy se hoofkwartier was. Die oproeper het soos die direkteur van die maatskappy geklink, so die takbestuurder het geglo die oproep was reg.

'Die takbestuurder het ook verskeie e-posse ontvang wat hy glo van die direkteur af was wat verband hou met die telefoonoproep. Die inbeller het per telefoon en e-pos aan die takbestuurder gesê dat die Slagoffermaatskappy op die punt is om 'n ander maatskappy te bekom, en dat 'n prokureur genaamd Martin Zelner (Zelner) gemagtig is om prosedures vir die verkryging te koördineer.'

Die takbestuurder het toe die e-posse van Zelner ontvang, tesame met 'n magtigingsbrief van die (vermeende) Direkteur wie se stem aan die slagoffer bekend was.

Deepfake Stembedrog geïdentifiseer

Emirati-ondersoekers het toe vasgestel dat diepvalse stemkloningtegnologie gebruik is om die maatskappydirekteur se stem na te boots:

'Die Emirati-ondersoek het aan die lig gebring dat die beskuldigdes “diep stem”-tegnologie gebruik het om die stem van die direkteur te simuleer. In Januarie 2020 is fondse van die Slagoffermaatskappy na verskeie bankrekeninge in ander lande oorgeplaas in 'n komplekse skema waarby ten minste 17 bekende en onbekende beskuldigdes betrokke was. Emirati-owerhede het die beweging van die geld deur middel van talle rekeninge opgespoor en twee transaksies na die Verenigde State geïdentifiseer.

'Op 22 Januarie 2020 is twee oorplasings van USD 199,987.75 215,985.75 en USD 7682 7885 gestuur vanaf twee van die verweerders na Centennial Bank-rekeningnommers, onderskeidelik xxxxxXNUMX en xxxxxXNUMX, geleë in die Verenigde State.'

Geen verdere besonderhede is beskikbaar oor die misdaad nie, wat slegs die tweede bekende voorkoms van stemgebaseerde diepvals finansiële bedrog is. Die eerste het nege maande tevore plaasgevind, in Maart 2020, toe 'n bestuurder by 'n Britse energiemaatskappy oor die foon gebel is deur wat soos die werknemer se baas geklink het, wat die dringende oordrag van € 220,000 243,000 ($ XNUMX XNUMX) geëis het wat die werknemer toe transaksies gedoen.

Ontwikkeling van stemkloning

Deepfake-stemkloning behels die opleiding van 'n masjienleermodel op honderde, of duisende voorbeelde van die 'teiken'-stem (die stem wat nageboots sal word). Die mees akkurate passing kan verkry word deur die teikenstem direk te oefen teen die stem van die persoon wat in die voorgestelde scenario sal praat, alhoewel die model 'oorgepas' sal wees vir die persoon wat die teiken naboots.

Die mees aktiewe wettige aanlyn gemeenskap vir stem kloning ontwikkelaars is die Oudio Fakes Discord-bediener, wat forums bevat vir baie diepvalse stemkloningalgoritmes soos Google s'n Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS en Gloei-TTS, Onder andere.

Real-Time Deepfakes

Aangesien 'n telefoongesprek noodwendig interaktief is, kan stemkloningbedrog redelikerwys nie deur 'gebakte' hoëgehalte stemsnitte bewerkstellig word nie, en in beide gevalle van stemkloningbedrog kan ons redelikerwys aanvaar dat die spreker 'n lewendige, intydse deepfake gebruik raamwerk.

Intydse deepfakes het die afgelope tyd in fokus gekom as gevolg van die koms van DeepFaceLive, 'n intydse implementering van die gewilde deepfake-pakket DeepFaceLab, wat bekendes of ander identiteite kan bo-op op lewendige webcam-materiaal. Alhoewel gebruikers by die Audio Fakes Discord en die DeepFaceLab Discord intens belangstel om die twee tegnologieë te kombineer in 'n enkele video + stem lewendige diepvals argitektuur, het nog nie so 'n produk in die openbaar na vore gekom nie.