Гонка озброєнь штучного інтелекту: чому безпека споживачів вимагає захисту в реальному часі

Якщо шахрай може використати великомасштабну мовну модель (LLM), щоб згенерувати мільйон досконалих і унікальних фішингових електронних листів за годину, чому ми все ще ведемо війну з штучним інтелектом за допомогою оновлень підписів з людською швидкістю?

Походження генеративного штучного інтелекту вже не є абстрактною загрозою; це незаперечна реальність, яку організовані кіберзлочинці використали для автоматизації та вдосконалення старого мистецтва соціальної інженерії. Для споживача цей зсув мав фінансово катастрофічні наслідки: Федеральна торгова комісія США (FTC) повідомила, що збитки споживачів від шахрайств зросли до понад 12,5 мільярдів доларів у 2024 році, це на 25% більше, ніж у 2023 році. Ця приголомшлива цифра підтверджує тривожну нову епоху, в якій традиційні, залежні від людини заходи безпеки не справляються з загрозами, створеними штучним інтелектом.

Складність цих нових шахрайств вимагає нової стратегії на полі бою. Ми повинні вийти за рамки реактивної моделі безпеки, сканування на основі підписів, простих фільтрів ключових слів і “bolt-on” рішень безпеки, і прийняти той же реальний, поведінковий штучний інтелект, який вже захищає нашу найкритичнішою цифрову інфраструктуру.

Нова реальність шахрайств, підтримуваних штучним інтелектом

Генеративний штучний інтелект знизив планку для кіберзлочинності, одночасно підвищуючи переконливість шкідливого вмісту. Шахраї тепер можуть здійснювати гіперперсоналізовані, високовтомні кампанії, які досконало імітують довірених осіб і установ.

Найбільш помітні приклади цього ескалації включають:

Імітація глибоких фейків і клонування голосу

Класична шахрайська схема, коли злочинець видає себе за близьку особу в біді або високопоставленого виконавчого директора, була вдосконалена штучним інтелектом.

• Глибокі фейки виконавчих директорів і CEO: У високопрофільних корпоративних шахрайствах глибокі фейкові відео і аудіо використовувалися для імітації старших виконавчих директорів під час відеоконференцій, переконуючи фінансових клерків авторизувати перекази на суму мільйонів доларів. Навчаючи штучний інтелект на короткому кліпі голосу виконавчого директора або публічному відео, злочинці можуть створити майже досконале аудіо і відео в реальному часі, яке обходить найнадійніші захисти жертви: очі і вуха.
• Шахрайства з глибокими фейками криптовалюти: На споживчих платформах глибокі фейки знаменитостей, таких як Ілон Маск, часто використовуються в “подвій-біточко” шахрайствах. Глибокі фейкові відео, часто транслюються в прямому ефірі на компрометованій платформі, показують знаменитість, яка “підтримує” шахрайську акцію з криптовалютою, що призвело до значних заявлених збитків у мільйонах. Ці глибокі фейки настільки переконливі, що обманюють жертв, підтримуючи з ними зіткнення під час звернення.

Гіперперсоналізована фішингова атака на розмови

Генеративний штучний інтелект ліквідував класичні ознаки “NİГЕРІЙСЬКОГО принца” шахрайства: погану граматику, іноземну фразу і загальні привітання.

• Поліморфна фішингова атака в масштабі: Нападники використовують LLM (включаючи незаконні, такі як FraudGPT), щоб скопіювати публічні дані, профіль LinkedIn, публікації в соціальних мережах і веб-сайти компаній, щоб створити детальну справу на ціль. Штучний інтелект потім створює електронний лист, який імітує конкретний тон і словниковий запас колеги або начальника, посилаючись на реальні проекти або спільних контактів. Це часто називається поліморфною фішингом, оскільки штучний інтелект може створити мільйони трохи змінених, унікальних і контекстно досконалих електронних листів, що робить їх майже неможливими для традиційних, заснованих на підписах фільтрів електронної пошти.
• Штучний інтелект, підтримуваний романтичними шахрайствами (Pig Butchering): Використання штучного інтелекту чат-ботів дозволяє шахраям одночасно керувати сотнями фальшивих профілів у датінгу. Штучний інтелект підтримує нюансовані, емоційно маніпулятивні розмови протягом тривалого періоду, щоб створити довіру, техніка, відома як “pig butchering”. Бездоганна комунікація і можливість мостити мовні розриви дозволяють шахраям залучати жертв набагато глибше, перш ніж перевести розмову на шахрайські інвестиційні схеми, що призводить до деяких з найбільших середніх фінансових збитків на жертву.

Смертельна вада традиційної безпеки

Причина того, що ці шахрайства, підтримувані штучним інтелектом, настільки успішні, полягає в тому, що традиційні заходи кібербезпеки не були розроблені для середовища високошвидкісних, низьковтомних загроз. Вони працюють на основі застарілих припущень:

1. Залежність від підписів і відомих загроз

Традиційні антивіруси та програмне забезпечення безпеки залежать від бази даних відомих загроз, або “підписів”. Коли нападник використовує штучний інтелект, щоб створити зовсім новий, унікальний електронний лист, нову варіант шкідливого ПО або зовсім нове відео глибокого фейка, система безпеки не має попередньо існуючого підпису, щоб позначити його. До того часу, як створюється і розповсюджується новий підпис, шахрайство вже перейшло до своєї наступної поліморфної варіації. Ця реактивна модель просто занадто повільна для темпу генеративного штучного інтелекту.

2. Брак поведінкової та контекстної осведомленості

Багато спадкових систем розглядають безпеку як ізольовану, транзакційну перевірку. Наприклад, базовий фільтр може перевірити, чи містить електронний лист слово “інвойс” або “терміново”. Штучний інтелект, підтримуваний соціальною інженерією, успішний саме тому, що він зосереджується на поведінці, а не тільки на ключових словах. Софістікований фішинговий електронний лист виглядає легітимним, а відео глибокого фейка виглядає і звучить як людина, якої воно претендує бути. Традиційні інструменти не мають можливості встановити поведінковий базовий рівень для користувача або мережі, що становить “норму” і, отже, не можуть позначити тонкі, аномальні поведінки, які сигналізують про те, що шахрайство відбувається.

3. Людська помилка як основна слабкість

Останнім захистом традиційної безпеки часто є сам користувач, який саме того, чого соціальна інженерія штучного інтелекту намагається використати. Навчання користувачів виявляти шахрайство є ефективним заходом мінімізації, але це не система виявлення. Коли глибокий фейковий голос, який звучить точно як їх дитина, просить про допомогу, або електронний лист, який виглядає так, як ніби він надійшов від їхнього виконавчого директора, навчання користувачів не є рівним для емоційної та контекстної маніпуляції, створеної штучним інтелектом.

Продуктивна альтернатива: детекція загроз у реальному часі, підтримувана штучним інтелектом

Рішенням є боротьба з штучним інтелектом за допомогою штучного інтелекту. Як і генеративний штучний інтелект був інтегрований у процес атаки, так і моделі машинного навчання в реальному часі вже розгортаються та інтегруються в основні споживчі та корпоративні платформи для проактивного виявлення поведінкових аномалій. Ця інтегрована, реальна оборона пропонує план наступного покоління споживчої безпеки.

Основні компанії та платформи використовують ці моделі штучного інтелекту для:

• Виявлення фінансових шахрайств: Великі фінансові установи використовують аналіз поведінки, підтримуваний штучним інтелектом, для моніторингу моделей входу, аномалій транзакцій і відбитків пристроїв в реальному часі. Якщо користувач раптом ініціює великий, нетиповий переказ з нового, незареєстрованого пристрою або місця, штучний інтелект позначає аномалію для негайного огляду, часто зупиняючи шахрайство, перш ніж втрачаються кошти.
• Фільтрація електронної пошти та вмісту: Gmail від Google, наприклад, обробляє та блокує мільйони фішингових електронних листів щодня, використовуючи моделі машинного навчання для аналізу вмісту повідомлення, історії відправника та навіть стилю письма. Ці моделі не засновані на підписах; вони вчаться, яким повинен бути вигляд і звук легітимного електронного листа, що робить їх дуже ефективними для позначення тонких, контекстно-специфічних спроб фішингу.
• Модерація вмісту в соціальних мережах: Платформи, такі як Meta, використовують обробку природної мови (NLP) та машинне навчання для виявлення та реагування на шкідливий вміст та фальшиві акаунти в реальному часі, виходячи за рамки простих пошуків ключових слів для розуміння контексту та намірів спілкування.

Загальним елементом цих прикладів є перехід від пасивної, заснованої на підписах оборони до активного, реального поведінкового аналізу. Це критично відсутній шар для загальної споживчої та сімейної екосистеми, яка залишається переважно залежною від застарілих інструментів.

Рішенням не є ще один цифровий засув, встановлений після того, як будинок був пограбований. Це інтегрована система сигналізації, яка вчиться звучання ваших власних кроків. Вона прийде з розумної безпеки; систем, які використовують штучний інтелект у реальному часі для встановлення “нормального” базового рівня для поведінки користувача, моделей спілкування та цифрових взаємодій. Це єдиний спосіб позначити тонкі, але важливі аномалії, створені імітацією глибокого фейка або гіперперсоналізованою фішинговою спробою, перш ніж шахрайство вдасться. Інтегруючи штучний інтелект для безперервного, реального аналізу, ми можемо нарешті створити захист споживача, який масштабується до страшної нової складності еволюційних атак, підтримуваних штучним інтелектом.