Чи готові банки до шахрайства з використанням штучного інтелекту?

Штучний інтелект змінив економіку шахрайства. Що раніше вимагало досвідченого актора, переконливого сценарію або компрометованого телефонного номера, тепер можна здійснити у великому масштабі за допомогою інструментів, які звучать досить людсько.

І що ще більше турбує, вони мають фінансовий сектор прямо в своїй цілі. На початку 2024 року фінансист компанії Arup приєднався до того, що здавалося звичайним відеозв’язком з фінансовим директором компанії та кількома колегами. Голоси були знайомі, обличчя впізнавані, а запит здавався досить правдоподібним, щоб пройти базову перевірку. До кінця дзвінка він авторизував 25 мільйонів доларів у переказах. Люди, яких він вважав, що говорить, включаючи фінансового директора компанії, пізніше були повідомлені як штучні інтелектуальні глибокі підробки.

Для фінансових установ ризик не обмежується внутрішніми платежами. Те ж саме зниження довіри може відбутися в процесах автентифікації клієнтів, ескалації зв’язків, перевірках на шахрайство та відновленні облікових записів.

Шахраї використовували відносну анонімність телефонних дзвінків для здійснення шахрайства протягом десятиліть. Однак із штучним інтелектом зусилля, необхідні для цього, тепер стали тривіальними, а результати набагато переконливішими. Для банків і фінтех-компаній це збігається з картиною ризиків.

Є одна незручна реальність під цим. Навіть коли нападники шукають способи проникнути всередину, штучний інтелект, який фінансові установи розгортають для модернізації своєї підтримки клієнтів, робить шахрайство легшим для здійснення на виду.

Дзвінок, який звучить як той, що належить

До штучного інтелекту голосове шахрайство було відносно легко визначити. Робоколи звучали плоско і слідували сценарію, а спроби фішингу залежали від людських операторів, які слідували листам дзвінків. У більшості випадків масштаб був обмежений якістю шахрая, який намагався здійснити соціальну інженерію. З достатньою підготовкою і здоровим глуздом співробітники могли зазвичай помітити ознаки.

Штучний інтелект змінив це, майже знищивши технічний бар’єр для імітації. За достатньої кількості підказок штучний інтелект може звучати дуже людсько, з інтонацією, емоціями і помилками, яких можна очікувати від справжньої людини. Ще гірше, інструменти штучного інтелекту, які можуть копіювати голоси, легко доступні на комерційних платформах і відкритих репозиторіях.

Лабораторії McAfee виявили, що трьох секунд аудіо достатньо для інструменту штучного інтелекту створити голосовий клон з 85% точністю. Десять секунд запису можуть підвищити цю цифру вище 95%. Джерельний матеріал знаходиться всюди: публікації в соціальних мережах, привітання на голосовій пошті, записи конференцій, звіти про прибуток або відео на LinkedIn.

Інструменти реального часу для перетворення голосу стали широко доступними у 2024 році, що означає, що нападники тепер не потребують попередньо записаного кліпу. Їм просто потрібно говорити у мікрофон, і вихід буде звучати як той, кого вони намагаються імітувати.

Справа Arup інструктивна: фінансист мав сумніви, але присутність знайомих голосів і облич на дзвінку перевершило їх, але вирішив довіряти своїм очам і вухам. Того ж року гонконгські слідчі виявили окрему операцію, яка скопіювала голос фінансового менеджера, щоб провести 18,5 мільйонів доларів криптовалютної афери.

Знайомий голос, як виявилося, є довірливим, і штучний інтелект зробив це припущення небезпечним для прийняття.

Автентифікаційні невдачі стають можливостями для шахрайства

Фінансові установи вже реагують на зовнішні загрози. Корпоративні витрати на інструменти управління та відповідності штучного інтелекту прогнозується зростати з 2,2 мільярдів доларів у 2025 році до 9,5 мільярдів доларів до 2035 року, що є ознакою того, як серйозно ринок ставиться до цього.

Але більш суттєвий ризик не виникає поза їхніми стінами. Банки та фінтех-компанії шарують штучний інтелект у свій стек підтримки клієнтів, створюючи системи IVR, допоміжні біометричною автентифікацією, і агентними потоками дзвінків, які обробляють транзакції без участі людини. Ці зусилля спрямовані на поліпшення досвіду клієнтів та зменшення людської праці, але коли ці системи виходять з ладу, вони залишають слабке місце, яке нападники знаходять надто легким для використання.

Помилки маршрутизації, контекст, втрачений між ескалаціями, і системи автентифікації, які поводяться непередбачувано, виглядають як проблеми досвіду клієнтів і реєструються як такі.

Але ці проблеми досвіду клієнтів можуть перетворитися на щось гірше вниз по течії. Клієнт, який заблокований біометричною автентифікацією, рідко повідомить про це. Натомість високі шанси, що він викличе знову, знайде спосіб поговорити з людським агентом і тиснути на нього, щоб він обійшов самі протоколи, які ці системи були створені для забезпечення.

Більша проблема полягає в тому, що нападник, який імітує клієнта, також може зробити це. Фінансові установи досить добре знають про це. Насправді, 91% банків США переглядають свою стратегію біометричної автентифікації у світлі ризиків клонування штучного інтелекту.

Перегляд не вирішить цих проблем. Установа, чия система автентифікації регулярно виходить з ладу для законних клієнтів, вже створила самі умови, які рішучий хакер потребує для використання системи. Після всього, хакеру не потрібно знаходити технічну уразливість, коли тертя в досвіді клієнта дозволяє йому проникнути всередину.

Компанії повинні змінити свою перспективу, а не свій стек безпеки

Інструменти, які можуть виявити штучні голоси, покращуються, але нападник, який шукає уразливості в системах банку, не шукає окрему точку невдачі. Він шукає області, де системи спотикаються і пропускають один одного, де системи автентифікації не передають сигнали чітко. Краще виявлення на периметрі не може закрити цю прогалину.

Що може допомогти, це перегляд того, як лідери ставляться до голосової інфраструктури. Як і будь-яка частина вашого програмного стека, голосова інфраструктура потребує такого самого рівня уваги, як і периметральна оборона.

На практиці такий підхід до безпеки вимагатиме як функціональних, так і тестів на стійкість по всім умовам, з якими системи IVR, біометричної автентифікації та інші голосові системи будуть зустрічатися в умовах експлуатації: низька якість аудіо, різні акценти та фонові шуми, крайні випадки ескалації та сценарії автентифікації, де законні дзвінки знаходяться просто поза межами прийняття системи.

Відповідь не полягає в одноразовому сертифікаційному процесі. Банкам потрібно безперервна перевірка повного голосового шляху, від маршрутизації IVR та біометричної автентифікації до ескалації, передачі та rezervних шляхів. Незалежно від того, як часто оновлюються голосові системи, тактика шахрайства природно еволюціонує, щоб знайти тріщини в будь-якій обороні, з якою вони зустрічаються. Система, яка проходить перевірку під час розгортання, повинна бути протестована часто і повторно в реальних умовах, щоб забезпечити її безпеку, навіть якщо її продуктивність еволюціонувала.

Варто зазначити, що безперервне тестування у великому масштабі буде супроводжуватися бюджетними обмеженнями. Є також внутрішній конфлікт між швидким рухом (розгортанням нових можливостей для підтримки конкурентоспроможності) і ретельною перевіркою систем до їх взаємодії з реальними клієнтами та зустрічі з реальними спробами шахрайства.

Хоча це складно вирішити цей конфлікт чисто, це робить зрозумілим вартість пропуску перевірки: невдача в вашій системі, яку розчаровані клієнти вже знайшли спосіб обійти, є слабким місцем, незалежно від того, як ваша компанія класифікує його.

Кращі клієнтські шляхи стають захистом від шахрайства

Зовнішні та внутрішні ризики, описані вище, не є окремими проблемами з різними рішеннями. Тертя, створене ненадійними клієнтськими шляхами, створює поведінкові пробіли, які соціальна інженерія призначена для використання.

Це розв’язувана проблема, але тільки якщо установи розуміють, що вплив поганого досвіду клієнта може виходити за рамки простого збереження або доходу. Банки не вирішать проблему шахрайства з використанням штучного інтелекту, ставлячи її лише як проблему виявлення. їм також потрібно усунути неоднозначність, тертя та точки невдачі всередині своїх власних голосових шляхів. У епоху, коли знайомий голос вже не може бути довірливим за замовчуванням, надійність самого шляху стає частиною моделі безпеки.