Fałszywa mowa włączona w oszustwo bankowe na 35 milionów dolarów w 2020 roku

Śledztwo w sprawie oszustwa na 35 milionów dolarów amerykańskich z banku w Zjednoczonych Emiratach Arabskich w styczniu 2020 roku wykazało, że wykorzystano technologię głosu deepfake, aby naśladować głos dyrektora firmy znanej menedżerowi oddziału banku, który następnie zaakceptował transakcje.

Przestępstwo miało miejsce 15 stycznia ubiegłego roku i jest opisane w wniosku (PDF) Zjednoczonych Emiratów Arabskich do amerykańskich władz stanowych o pomoc w śledzeniu części sfałszowanych funduszy, które zostały przesłane do Stanów Zjednoczonych.

Wnioskujący stwierdzają, że menedżer oddziału nieznanego banku ofiary w Zjednoczonych Emiratach Arabskich otrzymał telefon od znajomej osoby, który wraz z towarzyszącymi e-mailami od prawnika Martina Zelnera, przekonał menedżera do rozwiązania funduszy, które miały być przeznaczone na zakup firmy.

W wniosku stwierdza się:

‘Według władz emirackich, 15 stycznia 2020 roku, menedżer oddziału ofiary otrzymał telefon, który twierdził, że pochodzi z centrali firmy. Osoba dzwoniąca brzmiała jak dyrektor firmy, więc menedżer oddziału uwierzył, że telefon jest autentyczny.

‘Menedżer oddziału otrzymał również kilka e-maili, które uwierzył, że pochodzą od dyrektora i były związane z telefonem. Osoba dzwoniąca powiedziała menedżerowi oddziału przez telefon i e-mail, że firma ofiary ma zamiar nabyć inną firmę i że prawnik Martin Zelner (Zelner) został upoważniony do koordynowania procedur nabycia.’

Menedżer oddziału następnie otrzymał e-maile od Zelnera wraz z listem autoryzacji od (rzekomego) dyrektora, którego głos był znany ofierze.

Oszustwo głosowe Deepfake zidentyfikowane

Śledczy z Emiratów Arabskich ustalili, że wykorzystano technologię głosu deepfake do naśladowania głosu dyrektora firmy:

‘Śledztwo emirackie ujawniło, że oskarżeni wykorzystali technologię „głosu głębokiego” do symulowania głosu dyrektora. W styczniu 2020 roku fundusze zostały przeniesione z firmy ofiary na kilka kont bankowych w innych krajach w ramach złożonego schematu, w którym uczestniczyło co najmniej 17 znanych i nieznanych oskarżonych. Władze emirackie śledziły ruch pieniędzy przez wiele kont i zidentyfikowały dwie transakcje do Stanów Zjednoczonych.

’22 stycznia 2020 roku dwie transakcje o wartości 199 987,75 USD i 215 985,75 USD zostały wysłane z dwóch oskarżonych na konta bankowe Centennial Bank o numerach xxxxx7682 i xxxxx7885, odpowiednio, zlokalizowanych w Stanach Zjednoczonych.’

Nie ma więcej informacji na temat przestępstwa, które jest tylko drugim znanym przypadkiem oszustwa finansowego opartego na głosie deepfake. Pierwszy miał miejsce dziewięć miesięcy wcześniej, w marcu 2020 roku, kiedy menedżer brytyjskiej firmy energetycznej został nakłoniony przez telefon przez osobę, która brzmiała jak jego szef, do pilnego przekazania 220 000 euro (243 000 dolarów), co następnie zrobił.

Rozwój klonowania głosu

Klonowanie głosu deepfake polega na szkoleniu modelu uczenia maszynowego na setkach lub tysiącach próbek „celowego” głosu (głosu, który ma być naśladowany). Najdokładniejszy mecz można uzyskać, szkoląc głos celu bezpośrednio przeciwko głosowi osoby, która będzie mówiła w proponowanym scenariuszu, chociaż model będzie „przeztreningowany” na osobie, która będzie naśladować głos celu.

Najbardziej aktywna legitymistyczna społeczność internetowa dla deweloperów klonowania głosu to serwer Discord Audio Fakes, który zawiera fora dla wielu algorytmów klonowania głosu deepfake, takich jak Tacotron-2 Google, Talknet, ForwardTacotron, Coqui-ai-TTS i Glow-TTS, wśród innych.

Deepfakes w czasie rzeczywistym

Ponieważ rozmowa telefoniczna jest koniecznie interaktywna, oszustwo klonowania głosu nie może być rozsądnie wykonane przez „upieczone” wysokiej jakości klipy głosowe, a w obu przypadkach oszustwa klonowania głosu możemy rozsądnie założyć, że mówca używa ramy deepfake w czasie rzeczywistym.

Deepfakes w czasie rzeczywistym zostały niedawno uwzględnione dzięki pojawieniu się DeepFaceLive, implementacji w czasie rzeczywistym popularnego pakietu deepfake DeepFaceLab, który może nakładać celebrytów lub inne tożsamości na żywo na nagranie z kamery internetowej. Chociaż użytkownicy serwera Discord Audio Fakes i serwera Discord DeepFaceLab są intensywnie zainteresowani połączeniem obu technologii w jedną architekturę deepfake wideo + głos w czasie rzeczywistym, nie pojawił się jeszcze publicznie taki produkt.