Лідери думок
Генеративний ШІ в кібербезпеці: поле битви, загроза, а тепер і захист

Ключові моментиГенеративний ШІ дозволяє здійснювати складні багатомовні фішингові атаки, які обходять…
Показати більше
- Генеративний ШІ дозволяє здійснювати складні багатомовні фішингові атаки, які обходять традиційну безпеку електронної пошти.
- Протистояння машина-машина з використанням передових платформ виявлення є необхідним для протидії соціальній інженерії, створеній ШІ.
- Фейкова реклама в LinkedIn із зображеннями Dall-E демонструє, що генеративний ШІ тепер використовується для цілеспрямованої кіберзлочинності.
Поле битви
Те, що почалося як захоплення можливостями генеративного ШІ, швидко перетворилося на занепокоєння. Інструменти генеративного ШІ, такі як ChatGPT, Google Bard, Dall-E тощо, продовжують бути в центрі уваги через проблеми безпеки та конфіденційності. Це навіть призводить до питань про те, що є реальним, а що ні. Генеративний ШІ може створювати дуже правдоподібний і переконливий контент. Наприкінці нещодавнього сюжету про ШІ у програмі «60 Minutes» ведучий Скотт Пеллі звернувся до глядачів із такими словами: «Ми завершимо зауваженням, яке ніколи раніше не звучало у програмі „60 Minutes“, але яке в ході революції ШІ ви, можливо, чутимете часто: весь попередній матеріал на 100% створено людьми».
Генеративна війна в кібербезпеці починається з цього правдоподібного та реалістичного контенту, а поле битви – це місце, де хакери використовують Генеративний ШІ, використовуючи інструменти, такі як ChatGPT тощо. Це дуже легко для кіберзлочинців, особливо тих, хто має обмежені ресурси та нульові технічні знання, здійснювати свої злочини через соціальну інженерію, фішинг та атаки з видаванням себе за іншу особу.
Загроза
Генеративний ШІ має можливість підживлювати все більш складні кібератаки.
Через те, що технологія може створювати такий правдоподібний і схожий на створений людиною контент з легкістю, нові кібератаки, що використовують ШІ, стають складнішими для виявлення командами безпеки. Атаки, створені ШІ, можуть набувати форми атак соціальної інженерії, наприклад багатоканальні фішингові атаки, проведені через електронну пошту та програми повідомлень. Реальний приклад міг би бути електронним листом або повідомленням, що містить документ, надісланий керівникові компанії від стороннього постачальника через Outlook (електронна пошта) або Slack (програма повідомлень). Електронний лист або повідомлення пропонує керівникові натиснути на документ, щоб переглянути рахунок. З Генеративним ІІ, розрізнити підроблений і справжній електронний лист або повідомлення може бути майже неможливо. Саме тому це так небезпечно.
Одним з найбільш тривожних прикладів, однак, є те, що з Генеративним ІІ, кіберзлочинці можуть проводити атаки кількома мовами – незалежно від того, чи володіє хакер цією мовою. Метою є закинути широку сітку, і кіберзлочинці не обмежуватимуть вибір жертв за мовною ознакою.
Прогрес генеративного ШІ сигналізує про те, що масштаб і ефективність цих атак продовжуватимуть зростати.
Захист
Кіберзахист для генеративного ШІ довгий час був відсутньою частиною головоломки. Тепер ситуація змінюється. Використовуючи боротьбу машини з машиною, або протиставляючи ШІ іншому ШІ, ми можемо захиститися від цієї нової та зростаючої загрози. Але як має бути визначена ця стратегія та як вона виглядає?
По-перше, галузь повинна діяти, щоб протиставити комп’ютер комп’ютеру, а не людину комп’ютеру. Для реалізації цього зусилля, ми повинні розглянути передові платформи виявлення, які можуть виявити загрози, створені ШІ, зменшити час, необхідний для виявлення та усунення атаки соціальної інженерії, створеної за допомогою генеративного ШІ. Людина цього зробити не може.
Ми нещодавно провели тест, щоб побачити, як це може виглядати. Ми попросили ChatGPT створити кількома мовами фішинговий лист, текст якого переконує одержувача зателефонувати, щоб побачити, чи може платформа розуміння природної мови або передова платформа виявлення виявити це. Ми дали ChatGPT запит, “написати терміновий електронний лист, який закликає когось зателефонувати про остаточне повідомлення про угоду про ліцензування програмного забезпечення”. Ми також наказали йому написати це англійською та японською.
Передова платформа виявлення була одразу здатна позначити електронні листи як соціальну інженерну атаку. Проте вбудовані засоби захисту електронної пошти, такі як платформа виявлення фішингу Outlook, не могли. Навіть до випуску ChatGPT, соціальна інженерія, проведена через розмовні, мовні атаки, довела свою ефективність, оскільки вони могли уникнути традиційних засобів контролю, потрапляючи в поштові скриньки без посилання або шкідливого вмісту. Так, для захисту потрібне протистояння машини машині, але ми повинні також бути впевнені, що ми використовуємо ефективну артилерію, таку як передова платформа виявлення. Хто має ці інструменти в своєму розпорядженні, має перевагу в боротьбі проти генеративного ШІ.
Коли мова йде про масштаб і правдоподібність соціальних інженерних атак, забезпечених ChatGPT та іншими формами генеративного ШІ, захист машини проти машини також може бути вдосконалений. Наприклад, цей захист може бути розгорнутий кількома мовами. Він також не обмежується лише безпекою електронної пошти, але може бути використаний для інших каналів зв’язку, таких як програми типу Slack, WhatsApp, Teams тощо.
Залишатися насторожі
Переглядаючи LinkedIn, один із наших працівників натрапив на спробу соціальної інженерії з використанням генеративного ШІ. Він побачив рекламу завантаження аналітичного звіту з ілюстрацією, яку можна було назвати лише дивною. При ближчому розгляді працівник побачив характерний кольоровий візерунок у правому нижньому куті, накладений на зображення, створені Dall-E, моделлю ШІ, яка генерує зображення з текстових підказок.
Зустріч з цим фальшивим оголошенням на LinkedIn була суттєвим нагадуванням про нові небезпеки соціальної інженерії, що з’являються при поєднанні з Генеративним ІІ. Зараз як ніколи важливо бути пильними та ставитися до підозрілих повідомлень із недовірою.
Ера генеративного ШІ, використовуваного для кіберзлочинності, вже тут, і нам потрібно залишатися насторожі та бути готовими боротися всіма інструментами, які є в нашому розпорядженні.












