Чи може штучний інтелект створити більш переконливі фішингові електронні листи, ніж люди?

Обробка природної мови та передові можливості перекладу роблять генеративний штучний інтелект невід’ємним інструментом для хакерів. Фішингові електронні листи, створені штучним інтелектом, можуть не бути більш небезпечними, ніж фішинговий контент, створений людиною. Що повинні знати користувачі та спеціалісти з безпеки про роль штучного інтелекту у фішингу та кібератаках?

Як штучний інтелект створює фішингові електронні листи

Згідно повідомлень, фішинговий контент зросла на 61% з 2021 по 2022 рік. Від шкідливих URL-адрес до електронних афер фішинг стає все більш поширеним щороку. Штучний інтелект – це останній інструмент, який приймають хакери для вдосконалення фішингових кампаній. Хоча природна обробка мови штучного інтелекту є корисною, хакери можуть використовувати її для створення більш ефективного фішингового контенту.

Доступність платформ штучного інтелекту як сервісу, таких як ChatGPT, робить простим створення контенту для будь-кого. Хакер може показати великому мовному моделю штучного інтелекту тисячі прикладів легітимних електронних листів, а потім попросити його створити оригінальні електронні листи на основі цих прикладів. Обробка природної мови (NLP) дозволяє штучному інтелекту зрозуміти та відтворити реалістичний написаний контент – ідеальний інструмент у фішингових атаках.

Ідеально, штучний інтелект генерує оригінальний електронний лист, який імітує людський написаний електронний лист. Хакер може попросити штучний інтелект налаштувати повідомлення, щоб включити деталі про конкретну компанію, особу чи місце. Штучний інтелект навіть може перекласти повідомлення на іншу мову. Хакери можуть ефективно створювати повністю оригінальні, персоналізовані фішингові електронні листи за лічені хвилини, що дозволяє їм перейти від повторного використання однієї шкідливої електронної листа серед багатьох цілей.

Чи є фішингові електронні листи, створені штучним інтелектом, ефективними?

Можливості фішингу, підтримуваного штучним інтелектом, можуть здатися страшними, але чи вони більш небезпечні, ніж фішинговий контент, створений людиною? Переваги фішингових електронних листів, створених штучним інтелектом, в основному полягають у більш ефективних робочих процесах для хакерів.

Ранні дослідження показали, що фішингові електронні листи, створені штучним інтелектом, приблизно так же переконливі, як фішингові електронні листи, створені людиною. Хакери також обмежені у своєму доступі до платформ штучного інтелекту як сервісу. Більшість великих розробників – включаючи OpenAI – мають заходи безпеки, щоб запобігти незаконному застосуванню моделей штучного інтелекту.

Основні переваги штучного інтелекту для фішингових хакерів полягають у ефективності та мові. Використання штучного інтелекту для генерації шкідливих електронних листів швидше, ніж ручне написання їх, що дозволяє хакерам створювати більший різноманітність фішингових електронних листів. Крім того, вони можуть націлюватися на жертв у будь-якій точці світу, завдяки легко доступним інструментам перекладу штучного інтелекту з можливостями NLP.

Таким чином, фішингові електронні листи, створені штучним інтелектом, збільшують ризик фішингових атак, але можуть не бути більш переконливими, ніж контент, створений людиною.

Як захиститися від фішингових електронних листів, створених штучним інтелектом

Штучний інтелект – це корисний інструмент для хакерів, але він не безпомилковий. Технологія безпеки та користувачі також можуть вдосконалити свої стратегії захисту, оскільки фішингові атаки стають розумнішими. Користувачі повинні почати з ознайомлення з червоними прапорами фішингового контенту, оскільки ці прапори залишаються актуальними навіть для електронних листів, створених штучним інтелектом.

Хоча може стати складніше визначити фішингові електронні листи на перший погляд, певні заходи безпеки можуть мінімізувати або ліквідувати потенційну шкоду від фішингу. Крім того, нові технології виявлення можуть виявляти як електронні листи, створені штучним інтелектом, так і написані людиною.

Перейти на хмарне сховище

Зміна на хмарне сховище – це чудовий спосіб мінімізувати загрозу фішингових електронних листів та кібератак. Відокремлена природа традиційного сховища даних робить його дуже вразливим до експлуатації хакерами. Все, що потрібно зробити хакеру, – це отримати контроль над одним жорстким диском або сервером, і він зможе утримувати всі дані людини в заручниках.

Хмарне сховище уникає цю загрозу. Оскільки дані не прив’язані до конкретного пристрою, значно складніше для хакерів видалити або пошкодити будь-яку інформацію. Хмарна кібербезпека також може покращити стійкість до спроб хакінгу.

Наприклад, користувачі можуть реалізувати автоматичні сканиування на вразливість, щоб знайти слабкості у своїй хмарній безпеці. Це чудово для запобігання спробам хакерів використовувати бекдори або вкрадені дані для доступу до даних у хмарі. Навіть якщо їм це вдасться, буде складно їм повністю контролювати будь-які дані, оскільки хмарне сховище дуже розосереджене.

Створити систему верифікації DIY

Одним із способів захисту від фішингових повідомлень будь-якого типу є створення кодової системи серед довірених кореспондентів. Це можуть бути люди, такі як сім’я, друзі та колеги. Кожен раз, коли ці люди надсилають електронні листи один одному, вони можуть написати певний кодовий вираз, щоб підтвердити, що повідомлення дійсно від них.

Ця кодова система не повинна бути надто складною. Ідея полягає просто у додаванні фактору до електронних листів, який хакер або штучний інтелект не міг би надійно знати заздалегідь. Зробіть кодовий вираз чимось незвичайним, щоб він був малоймовірно знайшовся у тренувальних електронних листах штучного інтелекту.

Наприклад, кодом міг би бути назва фантомного поселення, такого як “Agloe, Нью-Йорк”. Фантомні поселення малоймовірно з’являться часто в електронних листах, оскільки вони є вигаданими місцями, які просто додаються до карт для цілей копірайту.

Використовувати виявлення фішингу штучним інтелектом

Хакери не єдині, хто використовує штучний інтелект для вдосконалення своєї методології. Користувачі та спеціалісти з безпеки можуть використовувати моделі штучного інтелекту для виявлення фішингового контенту, незалежно від того, хто його написав – людина чи штучний інтелект.

Наприклад, розробники можуть використовувати машинне навчання, щоб моніторити та відстежувати природні комунікаційні моделі легітимних електронних кореспондентів. Якщо штучний інтелект міг би швидко вивчити унікальний стиль спілкування окремої особи, він міг би розпізнавати фальшиві електронні листи, які не відповідають цьому стилю. Це застосовується незалежно від того, хто написав електронний лист – людина чи штучний інтелект.

Одна з найбільших переваг фішингу, підтримуваного штучним інтелектом, також є великою слабкістю. Хакери можуть ефективно створювати переконливі фальшиві електронні листи за допомогою штучного інтелекту, але стиль спілкування цих електронних листів не може бути ефективно персоналізованим. Хакер зазвичай не має технічних знань чи ресурсів, щоб навчити штучний інтелект точно відтворювати стиль письма конкретної особи. Моделі виявлення фішингу штучним інтелектом можуть використовувати цю слабкість для захисту користувачів.

Поняття про ризик фішингу, підтримуваного штучним інтелектом

Штучний інтелект може бути цінним інструментом для хакерів при створенні фішингових електронних листів. Однак електронні листи, створені штучним інтелектом, не обов’язково більш переконливі, ніж фішинговий контент, створений людиною. Основні червоні прапори фішингу – такі як термінові дії – залишаються актуальними незалежно від того, хто або що створює фішинговий електронний лист. Користувачі та спеціалісти з безпеки можуть采用 інноваційні техніки та технології для захисту своїх даних від кампаній фішингу, підтримуваних штучним інтелектом.