Глибфейки та штучний інтелект: висновки з доповіді Pindrop про голосову інтелігентність та безпеку 2024 року

Швидкий розвиток штучного інтелекту (ШІ) приніс значні вигоди та трансформаційні зміни у різних галузях. Однак він також ввів нові ризики та виклики, особливо щодо фроду та безпеки. Глибфейки, продукт генерації ШІ, стають все більш досконалими та становлять суттєву загрозу цілісності голосових систем безпеки.

Висновки з доповіді Pindrop про голосову інтелігентність та безпеку 2024 року підкреслюють вплив глибфейків на різні сектори, технологічні досягнення, які сприяють цим загрозам, та інноваційні рішення, розроблені для боротьби з ними.

Поява глибфейків: двосічний меч

Глибфейки використовують просунуті алгоритми машинного навчання для створення високореалістичних синтетичних аудіо- та відеоконтент. Хоча ці технології мають цікаві застосування в розважальній індустрії та медіа, вони також представляють серйозні виклики безпеки. За даними доповіді Pindrop, споживачі США найбільше турбуються про ризик глибфейків та клонів голосу в банківському та фінансовому секторі, з 67,5% тих, хто висловлює значну турботу.

Вплив на фінансові установи

Фінансові установи особливо вразливі до атак глибфейків. Фродери використовують генеровані ШІ голоси для імітування осіб, отримання несанкціонованого доступу до рахунків та маніпулювання фінансовими транзакціями. Доповідь показує, що у 2023 році було зафіксовано рекордну кількість випадків порушення даних, загалом 3 205 інцидентів, що на 78% більше, ніж у попередньому році. Середня вартість порушення даних у США зараз становить 9,5 мільйона доларів, а контактні центри несуть основний удар безпеки.

Одним із відомих випадків було використання глибфейкового голосу для обману гонконзької фірми з метою переказу 25 мільйонів доларів, що підкреслює руйнівний потенціал цих технологій, коли вони використовуються зловісно.

Ширші загрози медіа та політиці

Поза фінансовими послугами, глибфейки також становлять суттєві ризики для медіа та політичних інститутів. Можливість створення переконливого фальшивого аудіо- та відеоконтенту може бути використана для поширення дезінформації, маніпулювання громадською думкою та підірвання довіри до демократичних процесів. Доповідь зазначає, що 54,9% споживачів турбуються про загрозу глибфейків політичним інститутам, тоді як 54,5% турбуються про їхній вплив на медіа.

У 2023 році технологія глибфейків була залучена до кількох високопрофільних інцидентів, включаючи атаку робокола, який використовував синтетичний голос президента Байдена. Такі інциденти підкреслюють терміновість розробки надійних механізмів виявлення та запобігання.

Технологічні досягнення, які сприяють глибфейкам

Поширення інструментів генерації ШІ, таких як ChatGPT від OpenAI, Bard від Google (GOOGL ) та Bing AI від Microsoft (MSFT ), суттєво знизило бар’єри для створення глибфейків. Сьогодні понад 350 систем генерації ШІ використовуються для різних застосунків, включаючи Eleven Labs, Descript, Podcastle, PlayHT та Speechify. Наприклад, модель VALL-E від Microsoft може клонувати голос з трьохсекундного аудіокліпу.

Ці технологічні досягнення зробили глибфейки дешевшими та легшими у виробництві, збільшуючи їх доступність як для доброзичливих користувачів, так і для зловмисних акторів. До 2025 року Gartner прогнозує, що 80% пропозицій розмовного ШІ будуть включати генерацію ШІ, проти 20% у 2023 році.

Боротьба з глибфейками: інновації Pindrop

Для боротьби з зростаючою загрозою глибфейків Pindrop представила кілька передових рішень. Одним із найвідоміших є гарантія Pulse Deepfake, перший у галузі гарантійний продукт, який компенсує клієнтам кошти, якщо продукт Pindrop не виявить глибфейк чи інші синтетичні голосові шахрайства. Ця ініціатива спрямована на забезпечення спокою клієнтів, а також на розвиток можливостей виявлення шахрайств.

Технологічні рішення для підвищення безпеки

Доповідь Pindrop підкреслює ефективність технології виявлення живих голосів, яка аналізує телефонні дзвінки в режимі реального часу для пошуку спектро-часових ознак, які свідчать про те, чи є голос на дзвінку “живим” чи синтетичним. У внутрішніх тестах рішення Pindrop про виявлення живих голосів виявилося на 12% більш точним, ніж системи розпізнавання голосу, та на 64% більш точним, ніж люди, при визначенні синтетичних голосів.

Крім того, Pindrop використовує інтегровану багатофакторну профілактику шахрайств та автентифікацію, використовуючи голос, пристрій, поведінку, метадані оператора та ознаки живих голосів для підвищення безпеки. Цей багатошаровий підхід суттєво підвищує планку для фродерів, роблячи все складніше для них досягти успіху.

Майбутні тенденції та підготовка

Оглядаючи майбутнє, доповідь прогнозує, що шахрайство з глибфейками продовжить зростати, становлячи ризик у 5 мільярдів доларів для контактних центрів у США. Розвиток систем текст-у-голос та низькобюджетних синтетичних систем голосу представляє постійні виклики.

Для протидії цим загрозам Pindrop рекомендує раннє виявлення ризиків, таке як виявлення підміни ідентифікатора дзвінка та безперервне виявлення шахрайств, для моніторингу та пом’якшення шахрайських дій в режимі реального часу. Реалізуючи ці передові заходи безпеки, організації можуть краще захистити себе від еволюції ШІ-підтримуваного шахрайства.

Висновок

Поява глибфейків та генерації ШІ представляє суттєвий виклик у сфері шахрайства та безпеки. Доповідь Pindrop про голосову інтелігентність та безпеку 2024 року підкреслює терміновість розробки інноваційних рішень для боротьби з цими загрозами. З досягненнями у виявленні живих голосів, багатофакторній автентифікації та комплексних стратегіях профілактики шахрайств Pindrop перебуває на передовій лінії зусиль з забезпечення майбутнього голосових взаємодій. По мірі розвитку технологічного ландшафту наші підходи до забезпечення безпеки та довіри в цифрову добу також повинні еволюціонувати.