Гонка озброєнь штучного інтелекту: Чому безпека споживачів вимагає захисту в реальному часі

Якщо шахрай може використати велику мовну модель (LLM), щоб створити мільйон досконалих, унікальних фішингових електронних листів за годину, чому ми все ще ведемо війну з штучним інтелектом із оновленнями підписів із швидкістю людини?

Зростання генерації штучного інтелекту вже не є абстрактною загрозою; це невідворотна реальність, яку організовані кіберзлочинці використали інструменти глибокого навчання, щоб автоматизувати та вдосконалити старий звичай соціальної інженерії. Для споживача цей зсув мав фінансово руйнівні наслідки: Федеральна торгова комісія США (FTC) повідомила, що втрати споживачів через шахрайство зросли до понад 12,5 млрд доларів у 2024 році, що на 25% більше, ніж у 2023 році. Ця приголомшлива цифра підтверджує тривожну нову епоху, в якій традиційні заходи безпеки, що залежать від людини, не справляються з загрозами, керованими штучним інтелектом.

Складність цих нових шахрайств вимагає нової стратегії битви. Ми повинні вийти за рамки реактивного моделі безпеки, сканування на основі підписів, простих фільтрів ключових слів і “bolt-on” рішень безпеки, і прийняти той же захист штучного інтелекту в реальному часі, який вже захищає нашу найкритичнішу цифрову інфраструктуру.

Нова реальність шахрайств, керованих штучним інтелектом

Генерація штучного інтелекту знизила планку для кіберзлочинності, одночасно підвищуючи правдоподібність шкідливого контенту. Шахраї тепер можуть виконувати гіперперсоналізовані, високовольтні кампанії, які досконало імітують довірених осіб і установ.

Найбільш помітні приклади цього ескалації включають:

Імперсонація Deepfake та клонування голосу

Класична афера-імпостор, коли злочинець видає себе за близьку особу в біді або високопоставленого виконавчого директора, була вдосконалена штучним інтелектом.

• Імпостори CEO та виконавчих директорів: У високопрофільних корпоративних випадках шахрайства використовувалися відео та аудіо deepfake для імітації високопоставлених виконавчих директорів під час відеодзвінків, переконуючи клерків фінансового відділу авторизувати переводи грошей на суму мільйонів доларів. Навчаючи штучний інтелект на короткому кліпі голосу виконавчого директора або публічного відео, злочинці можуть створити майже досконалу аудіо- та відеозапис у реальному часі, яка обходить найнадійніші захисти жертви: очі та вуха.
• Шахрайства з криптовалютою Deepfake: На споживчих платформах deepfake відомих осіб, таких як Ілон Маск, часто використовуються в “подвійних-біткоїн” шахрайствах. Відео deepfake, часто транслюється в прямому ефірі на компрометованій платформі, показує знаменитість, яка “підтримує” шахрайську розігрування криптовалюти, що призвело до значних заявлених втрат у мільйонах. Ці deepfake такі переконливі, що обманюють жертв, підтримуючи з ними зоровий контакт під час звернення.

Гіперперсоналізована фішинг-розмова

Генерація штучного інтелекту ліквідувала класичні ознаки шахрайства “Нігерійський принц”: погану граматику, іноземну фразу та загальні привітання.

• Поліморфний фішинг у масштабі: Нападники використовують LLM (включаючи незаконні, такі як FraudGPT), щоб зібрати публічні дані, профіль LinkedIn, публікації в соціальних мережах та веб-сайти компанії, щоб створити детальну справу про ціль. Штучний інтелект потім створює електронний лист, який імітує тон і словниковий запас колеги чи начальника, посилаючись на реальні проекти чи спільних контактів. Це часто називається поліморфним фішингом, оскільки штучний інтелект може створити мільйони трохи змінених, унікальних і контекстно досконалих електронних листів, що робить їх майже неможливими для традиційних фільтрів електронної пошти на основі підписів.
• Штучний інтелект, що керує романтичними шахрайствами (Pig Butchering): Використання чат-ботів штучного інтелекту дозволяє шахраям одночасно керувати сотнями фальшивих профілів у датінгу. Штучний інтелект підтримує нюансировані, емоційно маніпулятивні розмови протягом тривалого часу, щоб створити довіру, техніку, відому як “pig butchering”. Безпомильна комунікація та можливість мостити мовні розриви дозволяють шахраям залучати жертв набагато глибше, перш ніж перейти до розмови про шахрайські інвестиційні схеми, що призводить до деяких з найбільших середніх фінансових втрат на одну жертву.

Смертельна вада традиційної безпеки

Причина, по якій ці шахрайства, керовані штучним інтелектом, так успішні, полягає в тому, що традиційні заходи кібербезпеки не були розроблені для середовища загроз високої швидкості та низького обсягу. Вони працюють на основі застарілих припущень:

1. Залежність від підписів і відомих загроз

Традиційне антивірусне та програмне забезпечення безпеки залежать від бази даних відомих загроз або “підписів”. Коли нападник використовує штучний інтелект, щоб створити абсолютно новий, унікальний електронний лист, нову варіацію шкідливого ПО або невидану раніше відеозапис deepfake, система безпеки не має попередньо існуючого підпису, щоб позначити його. До того часу, як створюється новий підпис і розподіляється, шахрайство вже перейшло до свого наступного поліморфного варіанту. Ця реакційна модель просто занадто повільна для темпу генерації штучного інтелекту.

2. Недостатність поведінкової та контекстної осведомленості

Багато спадкових систем розглядають безпеку як ізольовану, транзакційну перевірку. Наприклад, базовий фільтр може перевірити, чи містить електронний лист слово “інвойс” або “терміново”. Шахрайство, кероване штучним інтелектом, успішне саме тому, що воно зосереджується на поведінці, а не тільки на ключових словах. Софістікований фішинг-електронний лист виглядає легітимним, а відео deepfake виглядає і звучить як особа, за яку себе видає. Традиційні інструменти не мають можливості встановити поведінкову базову лінію для користувача або мережі, що становить “норму” і, отже, не можуть позначити тонкі, аномальні поведінки, які сигналізують про те, що шахрайство відбувається.

3. Людська помилка як основна слабкість

Останнім захистом традиційної безпеки часто є людський користувач, який саме того, проти чого спрямована соціальна інженерія штучного інтелекту. Навчання користувачів виявляти шахрайство є ефективним заходом пом’якшення, але це не система виявлення. Коли deepfake-голос, який звучить точно як їх дитина, просить про допомогу, або електронний лист, який здається надісланим від їхнього виконавчого директора, навчання людини не є рівним для емоційної та контекстної маніпуляції, створеної штучним інтелектом.

Прогресивна альтернатива: Виявлення загроз штучним інтелектом у реальному часі

Рішенням є боротьба з штучним інтелектом за допомогою штучного інтелекту. Як і генерація штучного інтелекту була інтегрована в процес атаки, так і моделі машинного навчання в реальному часі вже розгортаються та впроваджуються в основні споживчі та корпоративні платформи для проактивного виявлення поведінкових аномалій. Цей вбудований захист у реальному часі пропонує план наступного покоління безпеки споживачів.

Основні компанії та платформи використовують ці моделі штучного інтелекту для:

• Виявлення фінансового шахрайства: Великі фінансові установи використовують аналіз поведінки штучного інтелекту для моніторингу моделей входу, аномалій транзакцій та відбитків пристроїв у реальному часі. Якщо користувач раптом ініціює великий, нетиповий перехід з нового, незареєстрованого пристрою або місця, штучний інтелект позначає аномалію для негайного перегляду, часто зупиняючи шахрайство, перш ніж втрачаються фонди.
• Фільтрація електронної пошти та контенту: Наприклад, Gmail від Google обробляє та блокує мільйони фішинг-електронних листів щодня, використовуючи моделі машинного навчання для аналізу вмісту повідомлення, історії відправника та навіть стилю письма. Ці моделі не засновані на підписах; вони вчаться, яким виглядає і звучить легітимний електронний лист, що робить їх дуже ефективними для позначення тонких, контекстно-специфічних спроб фішингу.
• Модерація контенту соціальних мереж: Платформи, такі як Meta, використовують обробку природної мови (NLP) та машинне навчання для виявлення та реагування на шкідливий контент і фальшиві акаунти в реальному часі, виходячи за рамки простих пошуків ключових слів, щоб зрозуміти контекст і намір спілкування.

Загальним елементом цих прикладів є перехід від пасивної, заснованої на підписах оборони до активної, поведінкової аналітики в реальному часі. Це критично відсутній шар для загальної споживчої та сімейної екосистеми, яка залишається переважно залежною від застарілих інструментів.

Рішенням не є ще один цифровий засув, встановлений після того, як будинок був пограбований. Це інтегрована система сигналізації, яка вчиться звучання ваших власних кроків. Вона прийде з розумною безпекою; системами, які використовують штучний інтелект у реальному часі для встановлення “нормальної” базової лінії для поведінки користувача, моделей комунікації та цифрових взаємодій. Це єдиний спосіб позначити тонкі, але важливі аномалії, створені deepfake-імпостором або гіперперсоналізованим фішинг-спробою, перш ніж шахрайство вдасться. Вбудовуючи штучний інтелект для безперервної аналітики в реальному часі, ми можемо нарешті створити захист споживача, який масштабується до страшної нової складності еволюційних атак, керованих штучним інтелектом.