Deepfaked Голос Дозволив $35 Міліонний Банкський Напад у 2020 Році

Розслідування щодо шахрайства на суму $35 мільйонів доларів США з банку в Об’єднаних Арабських Еміратах у січні 2020 року показало, що технологія глибокого підміну голосу була використана для імітації голосу директора компанії, відомого керівнику філії банку, який потім авторизував транзакції.

Цей злочин відбувся 15 січня минулого року та описаний у запиті (PDF) від ОАЕ до американських державних органів щодо допомоги у відстеженні частини викрадених коштів, які були надіслані до Сполучених Штатів.

У запиті зазначається, що керівник філії безіменного банку в ОАЕ отримав телефонний дзвінок від знайомого голосу, який, разом з супровідними електронними листами від адвоката Мартина Зельнера, переконав керівника виділити кошти, які, як видається, були призначені для придбання компанії.

У запиті зазначається:

‘За даними еміратських органів влади, 15 січня 2020 року керівник філії компанії отримав телефонний дзвінок, який назвався від головного офісу компанії. Дзвінок звучав, як голос директора компанії, тому керівник філії вважав дзвінок легітимним.

‘Керівник філії також отримав кілька електронних листів, яких він вважав від директора, пов’язаних з телефонним дзвінком. Дзвінок сказав керівнику філії по телефону та електронній пошті, що компанія жертви мала придбати іншу компанію, і що адвокат Марτιν Зельнер (Зельнер) був уповноважений координувати процедури придбання.’

Керівник філії потім отримав електронні листи від Зельнера, разом з листом авторизації від (фальшивого) директора, чий голос був знайомий жертві.

Відкрито Шахрайство з Глибоким Підміною Голосу

Еміратські слідчі потім встановили, що технологія глибокого підміну голосу була використана для імітації голосу директора компанії:

‘Еміратське розслідування показало, що обвинувачені використовували технологію “глибокого голосу”, щоб симулювати голос директора. У січні 2020 року кошти були переведені з компанії жертви на кілька банківських рахунків у інших країнах у складній схемі, яка涉ала щонайменше 17 відомих та невідомих обвинувачених. Еміратські органи влади відстежили рух коштів через численні рахунки та ідентифікували дві транзакції до Сполучених Штатів.

’22 січня 2020 року дві транзакції на суму 199 987,75 доларів США та 215 985,75 доларів США були надіслані від двох обвинувачених на рахунки банку Centennial Bank номери xxxxx7682 та xxxxx7885 відповідно, розташовані у Сполучених Штатах.’

Немає подальших деталей щодо цього злочину, який є лише другим відомим випадком шахрайства з використанням глибокого підміну голосу. Перший випадок відбувся за дев’ять місяців до цього, у березні 2020 року, коли виконавчий директор британської енергетичної компанії був обманутий по телефону тим, хто звучав, як його начальник, вимагаючи термінового переказу 220 000 євро (243 000 доларів США), який працівник тоді здійснив.

Розробка Технології Підміни Голосу

Глибока підміна голосу включає навчання моделі машинного навчання на сотнях або тисячах зразків “цільового” голосу (голосу, який буде імітуватися). Найточніший матч можна отримати шляхом прямого навчання цільового голосу проти голосу людини, яка буде говорити у запропонованому сценарії, хоча модель буде “переобучена” до людини, яка буде імітувати цільовий голос.

Найактивніша легітимна онлайн-спільнота для розробників технології підміни голосу – це сервер Audio Fakes Discord, який містить форуми для багатьох алгоритмів глибокого підміну голосу, таких як Google’s Tacotron-2, Talknet, ForwardTacotron, Coqui-ai-TTS та Glow-TTS, серед інших.

Шахрайство з Глибоким Підміною Голосу в Реальному Часі

Оскільки телефонна розмова є обов’язково інтерактивною, шахрайство з підміною голосу не може бути здійснено за допомогою “запечатаних” високоякісних голосових кліпів, і в обох випадках шахрайства з підміною голосу ми можемо розсудливо припустити, що дзвінок використовує живу, реальну структуру глибокого підміну голосу.

Шахрайство з глибоким підміною голосу у реальному часі стало предметом уваги останнім часом через появу DeepFaceLive, реалізації популярного пакету глибокого підміну DeepFaceLab, який може накладати знаменитості або інші особи на живе відео з веб-камери. Хоча користувачі на сервері Audio Fakes Discord та DeepFaceLab Discord інтенсивно зацікавлені у поєднанні цих двох технологій у єдину відео- та голосову архітектуру глибокого підміну у реальному часі, жодного такого продукту ще не з’явилося публічно.