Генеративний ІІ в кібербезпеці: Поле битви, Загроза, Захист та залишаються насторожі

Поле битви

Що почалося як захоплення можливостями Генеративного ІІ, швидко перетворилося на занепокоєння. Інструменти Генеративного ІІ, такі як ChatGPT, Google Bard, Dall-E тощо, продовжують бути в центрі уваги через проблеми безпеки та конфіденційності. Це навіть призводить до питань про те, що є реальним, а що ні. Генеративний ІІ може створювати дуже правдоподібний і переконливий контент. Такий, що на закінчення недавнього сегменту 60 хвилин про ІІ, ведучий Скотт Пеллі залишив глядачів з таким висловом: “Ми закінчуємо з зауваженням, яке ніколи не з’являлося на 60 хвилин, але одне, в революції ІІ, ви можете часто чути: попереднє було створено з 100% людським контентом”.

Генеративна війна в кібербезпеці починається з цього правдоподібного та реального контенту, а поле битви – це місце, де хакери використовують Генеративний ІІ, використовуючи інструменти, такі як ChatGPT тощо. Це дуже легко для кіберзлочинців, особливо тих, хто має обмежені ресурси та нульові технічні знання, здійснювати свої злочини через соціальну інженерію, фішинг та атаки на особистість.

Загроза

Генеративний ІІ має можливість підживлювати все більш складні кібератаки.

Через те, що технологія може створювати такий правдоподібний і людський контент з легкістю, нові кібератаки, що використовують ІІ, стають складнішими для виявлення командами безпеки. Атаки, створені ІІ, можуть приймати форму соціальної інженерії, таких як багатоканальні фішингові атаки, проведені через електронну пошту та програми повідомлень. Реальний приклад міг би бути електронним листом або повідомленням, що містить документ, надісланий корпоративному виконавцю від третього постачальника через Outlook (електронна пошта) або Slack (програма повідомлень). Електронний лист або повідомлення спрямовує їх на натискання на нього, щоб переглянути рахунок. З Генеративним ІІ, це може бути майже неможливо розрізнити між фальшивим і реальним електронним листом або повідомленням. Що робить це так небезпечним.

Одним з найбільш тривожних прикладів, однак, є те, що з Генеративним ІІ, кіберзлочинці можуть проводити атаки на декілька мов – незалежно від того, чи володіє хакер цією мовою. Метою є закинути широку сітку, і кіберзлочинці не будуть дискримінувати жертв залежно від мови.

Прогрес Генеративного ІІ сигналізує про те, що масштаб і ефективність цих атак продовжуватимуть зростати.

Захист

Кіберзахист для Генеративного ІІ довгий час був відсутнім. До тепер. Використовуючи боротьбу машини з машиною, або протиставляючи ІІ ІІ, ми можемо захиститися від цієї нової та зростаючої загрози. Але як має бути визначена ця стратегія та як вона виглядає?

По-перше, галузь повинна діяти, щоб протиставити комп’ютер комп’ютеру, а не людину комп’ютеру. Для реалізації цього зусилля, ми повинні розглянути передові платформи виявлення, які можуть виявити загрози, створені ІІ, зменшити час, необхідний для підняття та часу, необхідного для вирішення соціальної інженерії, що походила від Генеративного ІІ. Що людина не може зробити.

Ми нещодавно провели тест, щоб побачити, як це може виглядати. Ми попросили ChatGPT створити мовний колбек-фішинговий електронний лист кількома мовами, щоб побачити, чи може платформа розуміння природної мови або передова платформа виявлення виявити це. Ми дали ChatGPT提示, “написати терміновий електронний лист, який закликає когось зателефонувати про остаточне повідомлення про угоду про ліцензування програмного забезпечення”. Ми також наказали йому написати це англійською та японською.

Передова платформа виявлення була негайно 能на прапорити електронні листи як соціальну інженерну атаку. АЛЕ, рідні засоби контролю електронної пошти, такі як платформа виявлення фішингу Outlook, не могли. Навіть до випуску ChatGPT, соціальна інженерія, проведена через розмовні, мовні атаки, довела свою ефективність, оскільки вони могли уникнути традиційних засобів контролю, потрапляючи в поштові скриньки без посилання або вантажу. Так, це потрібно машині проти машини, щоб захиститися, але ми повинні також бути впевнені, що ми використовуємо ефективну артилерію, таку як передова платформа виявлення. Хто має ці інструменти в своєму розпорядженні, має перевагу в боротьбі проти Генеративного ІІ.

Коли мова йде про масштаб і правдоподібність соціальних інженерних атак, забезпечених ChatGPT та іншими формами Генеративного ІІ, захист машини проти машини також може бути вдосконалений. Наприклад, цей захист може бути розгорнутий кількома мовами. Він також не обмежується лише безпекою електронної пошти, але може бути використаний для інших каналів зв’язку, таких як програми типу Slack, WhatsApp, Teams тощо.

Залишатися насторожі

Коли ми прокручували LinkedIn, один з наших працівників натрапив на спробу соціальної інженерії Генеративного ІІ. Дивний “біл” рекламний оголошення з’явився з тим, що можна назвати “бізаро” рекламним твором. При ближчому розгляді працівник побачив характерний коліровий малюнок у правому нижньому куті, накладений на зображення, створені Dall-E, моделлю ІІ, яка генерує зображення з текстових підказок.

Зустріч з цим фальшивим оголошенням на LinkedIn була суттєвим нагадуванням про нові небезпеки соціальної інженерії, що з’являються при поєднанні з Генеративним ІІ. Це ще критичніше, ніж будь-коли, бути насторожим та підозріливим.

Ера Генеративного ІІ, використовуваного для кіберзлочинності, вже тут, і нам потрібно залишатися насторожі та бути готовими протистояти всім інструментам, які в нашому розпорядженні.