Deepfakes і штучний інтелект: інформація зі звіту Pindrop про голосову розвідку та безпеку за 2024 рік

Швидкий розвиток штучного інтелекту (ШІ) приніс значні переваги та трансформаційні зміни в різних галузях. Однак це також створило нові ризики та виклики, особливо коли йдеться про шахрайство та безпеку. Deepfakes, продукт генеративний ШІ, стають дедалі складнішими та становлять суттєву загрозу цілісності голосові системи безпеки.

Висновки з Звіт Pindrop про голосову розвідку та безпеку за 2024 рік, висвітлюють вплив глибоких фейків на різні сектори, технологічний прогрес, що спричиняє ці загрози, та інноваційні рішення, які розробляються для боротьби з ними.

Повстання Deepfakes: Палиця з двома кінцями

Deepfakes використовують передові алгоритми машинного навчання створювати дуже реалістичні синтетичний аудіо- та відеоконтент. Незважаючи на те, що ці технології знаходять захоплююче застосування в сфері розваг і медіа, вони також створюють серйозні проблеми з безпекою. Згідно зі звітом Pindrop, споживачі США найбільше стурбовані ризиком дипфейків і голосових клонів у банківському та фінансовому секторі, причому 67.5% висловили серйозне занепокоєння.

Вплив на фінансові установи

Фінансові установи особливо вразливі до атак deepfake. Шахраї використовують створені штучним інтелектом голоси, щоб видавати себе за інших осіб, отримувати несанкціонований доступ до облікових записів і маніпулювати фінансовими операціями. Звіт показує, що у 2023 році була рекордна кількість зламаних даних, загалом 3,205 інцидентів, що на 78% більше, ніж у попередньому році. Середня вартість витоку даних у Сполучених Штатах зараз становить 9.5 мільйона доларів, при цьому контакт-центри несуть основний тягар наслідків безпеки.

Один помітний випадок стосувався використання a deepfake voice, щоб обманом змусити гонконгську фірму переказати 25 мільйонів доларів, підкреслюючи руйнівний потенціал цих технологій при зловмисному використанні.

Ширші загрози ЗМІ та політиці

Крім фінансових послуг, дипфейки також становлять значні ризики для ЗМІ та політичних інституцій. Здатність створювати переконливий фейковий аудіо- та відеоконтент може бути використана для поширення дезінформації, маніпулювання громадською думкою та підриву довіри до демократичних процесів. У звіті зазначається, що 54.9% споживачів стурбовані загрозою дипфейків для політичних інституцій, тоді як 54.5% стурбовані їхнім впливом на ЗМІ.

У 2023 році технологія deepfake була причетна до кількох резонансних інцидентів, зокрема атака robotocall, яка використовувала синтетичний голос президента Байдена. Такі інциденти підкреслюють необхідність розробки надійних механізмів виявлення та запобігання.

Технологічні досягнення, що спричиняють глибокі фейки

Поширення генеративних інструментів ШІ, таких як ChatGPT від OpenAI, Bard від Google і Bing AI від Microsoft, значно знизило бар’єри для створення глибоких фейків. Сьогодні понад 350 генеративних систем штучного інтелекту використовуються для різних програм, включаючи Eleven Labs, Descript, Podcastle, PlayHT і Speechify. Модель Microsoft VALL-E, наприклад, може клонувати голос лише з трисекундного аудіозапису.

Ці технологічні досягнення зробили глибокі фейки дешевшими та легшими у створенні, підвищивши їх доступність як для доброзичливих користувачів, так і для зловмисників. До 2025 року Gartner прогнозує, що 80% розмовних пропозицій ШІ включатимуть генеративний ШІ, порівняно з 20% у 2023 році..

Боротьба з Deepfakes: інновації Pindrop

Щоб протистояти зростаючій загрозі дипфейків, Pindrop представив кілька передових рішень. Одним із найпомітніших є Гарантія Pulse Deepfake, перша в своєму роді гарантія, яка відшкодовує відповідним клієнтам, якщо пакет продуктів Pindrop не зможе виявити deepfake або інше синтетичне голосове шахрайство. Ця ініціатива спрямована на забезпечення спокою клієнтів, одночасно розширюючи можливості виявлення шахрайства.

Технологічні рішення для підвищення безпеки

У звіті Pindrop підкреслюється ефективність його технології виявлення живості, яка аналізує живі телефонні дзвінки на спектрально-часові характеристики, які вказують на те, чи є голос у дзвінку «живим» чи синтетичним. У ході внутрішнього тестування було виявлено, що рішення Pindrop для виявлення живості на 12% точніше, ніж системи розпізнавання голосу, і на 64% точніше, ніж люди, у ідентифікації синтетичних голосів.

Крім того, Pindrop використовує інтегроване багатофакторне запобігання шахрайству та автентифікацію, використовуючи голос, пристрій, поведінку, метадані оператора та сигнали активності для підвищення безпеки. Цей багаторівневий підхід значно підвищує планку для шахраїв, ускладнюючи їм досягнення успіху.

Майбутні тенденції та готовність

Забігаючи вперед, звітні прогнози що шахрайство deepfake продовжуватиме зростати, становлячи ризик у 5 мільярдів доларів лише для контакт-центрів у США. Зростаюча складність систем перетворення тексту в мовлення в поєднанні з недорогою технологією синтетичного мовлення створює постійні виклики.

Щоб випередити ці загрози, Pindrop рекомендує методи раннього виявлення ризиків, такі як виявлення підробки ідентифікатора абонента та безперервне виявлення шахрайства, щоб відстежувати та пом’якшувати шахрайські дії в режимі реального часу. Впроваджуючи ці вдосконалені заходи безпеки, організації можуть краще захистити себе від шахрайства, керованого ШІ.

Висновок

Поява дипфейків і генеративного штучного інтелекту є серйозною проблемою у сфері шахрайства та безпеки. У звіті Pindrop про голосову розвідку та безпеку за 2024 рік підкреслюється нагальна потреба в інноваційних рішеннях для боротьби з цими загрозами. Завдяки прогресу у виявленні живих даних, багатофакторній автентифікації та комплексним стратегіям запобігання шахрайству, Pindrop знаходиться на передньому краї зусиль, спрямованих на забезпечення майбутнього голосової взаємодії. Оскільки технологічний ландшафт продовжує розвиватися, наші підходи до забезпечення безпеки та довіри в епоху цифрових технологій також повинні розвиватися.