AI у фішингу: хто більше виграє – нападники чи захисники?

Оскільки кіберзлочинність зростала, галузь кібербезпеки мала прийняти передові технології, щоб не відставати. Штучний інтелект (AI) швидко став одним із найбільш корисних інструментів у зупиненні кібератак, але нападники також можуть використовувати його.

Фішинг – це найпоширеніший тип кіберзлочинності сьогодні. Оскільки більше компаній стали обізнані про цю зростаючу загрозу, більше компаній ввели інструменти AI, щоб зупинити її. Однак кіберзлочинці також збільшують використання AI у фішингу. Ось ближче поглянути на те, як обидві сторони використовують цю технологію та хто більше виграє від неї.

Як AI допомагає боротися з фішингом

Атаки фішингу використовують природну схильність людей до цікавості та страху. Оскільки цей соціальний інжиніринг так ефективний, одним із найкращих способів захисту проти нього є забезпечення того, щоб ви не бачили його спочатку. Саме тут вступає в дію AI.

Інструменти анти-фішингу AI зазвичай приймають форму просунутих фільтрів електронної пошти. Ці програми сканують ваші вхідні повідомлення на предмет ознак спроб фішингу та автоматично відправляють підозрілі електронні листи у папку спаму. Деякі новіші рішення можуть виявити фішингові електронні листи з точністю 99,9%, генеруючи різні версії повідомлень про шахрайство на основі реальних прикладів, щоб навчити себе виявляти варіації.

Когда дослідники безпеки виявляють більше електронних листів про фішинг, вони можуть надати цим моделям більше даних, роблячи їх ще більш точними. Безперервні можливості навчання AI також допомагають вдосконалити моделі, щоб зменшити кількість помилкових спрацьовувань.

AI також може допомогти зупинити атаки фішингу, коли ви натискаєте на зловмисний посилання. Автоматизоване програмне забезпечення моніторингу може встановити базовий рівень нормальної поведінки, щоб виявити аномалії, які, ймовірно, виникнуть, коли хтось інший використовуватиме ваш обліковий запис. Вони можуть потім заблокувати профіль та повідомити команди безпеки до того, як зловмисник завдасть багато шкоди.

Як нападники використовують AI у фішингу

Потенціал AI для зупинення атак фішингу вражаючий, але це також потужний інструмент для генерації електронних листів про фішинг. Оскільки генеративний AI, такий як ChatGPT, став більш доступним, він робить атаки фішингу більш ефективними.

СPEAR-фішинг – це один із найбільш ефективних типів фішингу, який використовує особисті дані для створення повідомлень, спеціально розроблених для користувача. Електронний лист, який правильно вказує всі ваші особисті дані, природно буде набагато більш переконливим. Однак такі повідомлення традиційно були складними та трудомісткими у створенні, особливо у великих масштабах. Це вже не так з генеративним AI.

AI може генерувати величезну кількість спеціально розроблених повідомлень про фішинг за якусь частку часу, яку потребував би людина. Він також краще людей у створенні переконливих фейків. У дослідженні 2021 року електронні листи про фішинг, згенеровані AI, мали значно вищі показники клікування, ніж ті, які написали люди – і це було до випуску ChatGPT.

Так само, як маркетологи використовують AI для персоналізації кампаній звернення до клієнтів, кіберзлочинці можуть використовувати його для створення ефективних, спеціально розроблених повідомлень про фішинг. Коли генеративний AI покращується, ці фейки стануть ще більш переконливими.

Нападники залишаються лідерами завдяки людським слабкостям

З огляду на те, що нападники та захисники користуються перевагами AI, яка сторона бачить найбільш видатні вигоди? Якщо ви подивитесь на недавні тенденції кіберзлочинності, ви побачите, що кіберзлочинці процвітають, незважаючи на більш складні засоби захисту.

Атаки на компрометацію бізнес-пошти зросли на 81% у другій половині 2022 року, а працівники відкрили 28% цих повідомлень. Це частина тривалої тенденції зростання на 175% за останні два роки, що свідчить про те, що фішинг зростає швидше, ніж будь-коли. Ці атаки ефективні, викрадаючи 17 700 доларів за хвилину, що, ймовірно, є причиною того, чому вони стоять за 91% кібератак.

Чому фішинг зростає так сильно, незважаючи на те, що AI покращує засоби захисту від фішингу? Це, ймовірно, відбувається через людський фактор. Працівники повинні фактично використовувати ці інструменти, щоб вони були ефективними. Окрім того, працівники можуть займатися іншими небезпечними діями, які роблять їх схильними до спроб фішингу, наприклад, входження у свої робочі облікові записи на несанкціонованих, незахищених особистих пристроях.

У згаданому раніше опитуванні також виявилося, що працівники повідомляють лише про 2,1% атак. Ця відсутність спілкування може зробити складним побачити, де та як заходи безпеки повинні покращуватися.

Як захиститися від зростаючих атак фішингу

Враховуючи цю тривожну тенденцію, бізнес та окремі користувачі повинні вжити заходів для захисту. Реалізація інструментів анти-фішингу AI – це хороший початок, але це не може бути вашим єдиним заходом. Лише 7% команд безпеки не використовують чи не планують використовувати AI, проте домінування фішингу триває, тому компанії повинні звернути увагу на людський фактор.

Оскільки люди є найбільш слабким звеном проти атак фішингу, вони повинні бути основним напрямком заходів мінімізації. Організації повинні зробити найкращі практики безпеки більш помітною частиною навчання працівників та подальшої освіти. Ці програми повинні включати інформацію про те, як виявити атаки фішингу, чому це проблема та симуляції для перевірки їхніх знань після навчання.

Використання сильніших інструментів керування ідентифікацією та доступом також важливо, оскільки вони допомагають зупинити успішні порушення після того, як вони потрапляють до облікового запису. Навіть досвідчені працівники можуть допускати помилки, тому ви повинні能够 виявити та зупинити зломлені облікові записи до того, як вони завдають великої шкоди.

AI – потужний інструмент для добра та зла

AI – одна з найбільш деструктивних технологій в історії. Чи це добре чи погано, залежить від його використання.

Важливо визнати, що AI може допомогти кіберзлочинцям так само, як і фахівцям з кібербезпеки. Коли організації визнають ці ризики, вони можуть вжити більш ефективних заходів для протидії зростаючим атакам фішингу.