Кібербезпека

AI у фішингу: хто більше виграє – нападники чи захисники?

Zac Amos
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиФішингові електронні листи, згенеровані штучним інтелектом, перевершують написані…
Показати більше
  • Фішингові електронні листи, згенеровані штучним інтелектом, перевершують написані людьми за показниками кліків
  • Зловмисники використовують людські помилки, тоді як захисники покладаються на інструменти, якими працівники повинні фактично користуватися
  • Лише інструменти захисту від фішингу на основі штучного інтелекту не можуть зупинити фішинг, оскільки люди залишаються найслабшою ланкою

Оскільки кіберзлочинність зростала, галузь кібербезпеки мала прийняти передові технології, щоб не відставати. Штучний інтелект (AI) швидко став одним із найбільш корисних інструментів у зупиненні кібератак, але нападники також можуть використовувати його. Останні тенденції фішингу добре ілюструють обидва боки цього питання.

Фішинг – це найпоширеніший тип кіберзлочинності сьогодні. Оскільки більше компаній стали обізнані про цю зростаючу загрозу, більше компаній ввели інструменти AI, щоб зупинити її. Однак кіберзлочинці також збільшують використання AI у фішингу. Ось ближче поглянути на те, як обидві сторони використовують цю технологію та хто більше виграє від неї.

Як AI допомагає боротися з фішингом

Атаки фішингу використовують природну схильність людей до цікавості та страху. Оскільки цей соціальний інжиніринг так ефективний, одним із найкращих способів захисту проти нього є забезпечення того, щоб ви не бачили його спочатку. Саме тут вступає в дію AI.

Інструменти анти-фішингу AI зазвичай приймають форму просунутих фільтрів електронної пошти. Ці програми сканують ваші вхідні повідомлення на предмет ознак спроб фішингу та автоматично відправляють підозрілі електронні листи у папку спаму. Деякі новіші рішення можуть виявити фішингові електронні листи з точністю 99,9%, генеруючи різні версії шахрайських повідомлень на основі реальних прикладів, щоб навчити себе виявляти варіації.

Коли дослідники безпеки виявляють більше фішингових електронних листів, вони можуть надати цим моделям більше даних, роблячи їх ще більш точними. Безперервні можливості навчання AI також допомагають вдосконалити моделі, щоб зменшити кількість помилкових спрацьовувань.

AI також може допомогти зупинити атаки фішингу, коли ви натискаєте на шкідливе посилання. Автоматизоване програмне забезпечення моніторингу може встановити базовий рівень нормальної поведінки, щоб виявити аномалії, які, ймовірно, виникнуть, коли хтось інший використовуватиме ваш обліковий запис. Вони можуть потім заблокувати профіль та повідомити команди безпеки до того, як зловмисник завдасть багато шкоди.

Як нападники використовують AI у фішингу

Потенціал AI для зупинення атак фішингу вражаючий, але це також потужний інструмент для генерації фішингових електронних листів. Оскільки генеративний AI, такий як ChatGPT, став більш доступним, він робить атаки фішингу більш ефективними.

Цільовий фішинг (spearphishing) – це один із найбільш ефективних типів фішингу, який використовує особисті дані для створення повідомлень, спеціально розроблених для користувача. Електронний лист, який правильно вказує всі ваші особисті дані, природно буде набагато більш переконливим. Однак такі повідомлення традиційно були складними та трудомісткими у створенні, особливо у великих масштабах. Це вже не так з генеративним AI.

AI може генерувати величезну кількість спеціально розроблених фішингових повідомлень за якусь частку часу, яку знадобився б людині. Він також краще людей у створенні переконливих фейків. У дослідженні 2021 року електронні листи про фішинг, згенеровані AI, мали значно вищі показники клікування, ніж ті, які написали люди – і це було до випуску ChatGPT.

Так само, як маркетологи використовують AI для персоналізації кампаній звернення до клієнтів, кіберзлочинці можуть використовувати його для створення ефективних, спеціально розроблених фішингових повідомлень. Коли генеративний AI покращується, ці фейки стануть ще більш переконливими.

Нападники залишаються лідерами завдяки людським слабкостям

З огляду на те, що нападники та захисники користуються перевагами AI, яка сторона бачить найбільш видатні вигоди? Якщо ви подивитесь на недавні тенденції кіберзлочинності, ви побачите, що кіберзлочинці процвітають, незважаючи на більш складні засоби захисту.

Атаки на компрометацію бізнес-пошти зросли на 81% у другій половині 2022 року, а працівники відкрили 28% цих повідомлень. Це частина тривалої тенденції зростання на 175% за останні два роки, що свідчить про те, що фішинг зростає швидше, ніж будь-коли. Ці атаки ефективні, викрадаючи 17 700 доларів за хвилину, що, ймовірно, є причиною того, чому вони стоять за 91% кібератак.

Чому фішинг зростає так сильно, незважаючи на те, що AI покращує засоби захисту від фішингу? Це, ймовірно, відбувається через людський фактор. Працівники повинні фактично використовувати ці інструменти, щоб вони були ефективними. Окрім того, працівники можуть займатися іншими небезпечними діями, які роблять їх схильними до спроб фішингу, наприклад, входження у свої робочі облікові записи на несанкціонованих, незахищених особистих пристроях.

У згаданому раніше опитуванні також виявилося, що працівники повідомляють лише про 2,1% атак. Ця відсутність спілкування може зробити складним побачити, де та як заходи безпеки повинні покращуватися.

Як захиститися від зростаючих атак фішингу

Враховуючи цю тривожну тенденцію, бізнес та окремі користувачі повинні вжити заходів для захисту. Реалізація інструментів анти-фішингу AI – це хороший початок, але це не може бути вашим єдиним заходом. Лише 7% команд безпеки не використовують AI і не планують його використовувати, проте домінування фішингу триває, тому компанії повинні звернути увагу на людський фактор.

Оскільки люди є найслабшою ланкою проти атак фішингу, вони повинні бути основним напрямком заходів мінімізації. Організації повинні зробити найкращі практики безпеки більш помітною частиною навчання працівників та подальшої освіти. Ці програми повинні включати інформацію про те, як виявити атаки фішингу, чому це проблема та симуляції для перевірки їхніх знань після навчання.

Використання сильніших інструментів керування ідентифікацією та доступом також важливо, оскільки вони допомагають зупинити успішні порушення після того, як вони потрапляють до облікового запису. Навіть досвідчені працівники можуть допускати помилки, тому ви повинні мати змогу виявити та зупинити зломлені облікові записи до того, як вони завдають великої шкоди.

AI – потужний інструмент для добра та зла

AI – одна з найбільш трансформаційних технологій в історії. Чи це добре чи погано, залежить від його використання.

Важливо визнати, що AI може допомогти кіберзлочинцям не менше, а можливо, й більше, ніж фахівцям із кібербезпеки. Коли організації визнають ці ризики, вони можуть вжити більш ефективних заходів для протидії зростаючим атакам фішингу.

Зак Амос — автор матеріалів про технології, який спеціалізується на штучному інтелекті. Він також є редактором тематичних матеріалів у ReHack, де ви можете прочитати більше його робіт.