Генеративный ИИ в кибербезопасности: Поле битвы, угроза и теперь оборона

Поле битвы

То, что началось как восторг вокруг возможностей Генеративного ИИ, быстро превратилось в беспокойство. Инструменты Генеративного ИИ, такие как ChatGPT, Google Bard, Dall-E и т. д., продолжают попадать в заголовки из-за проблем с безопасностью и конфиденциальностью. Это даже приводит к вопросам о том, что реально, а что нет. Генеративный ИИ может производить очень правдоподобный и, следовательно, убедительный контент. Так что в конце недавнего сегмента 60 Minutes об ИИ ведущий Скотт Пелли оставил зрителей с этим заявлением: “Мы закончим заметкой, которая никогда не появлялась на 60 Minutes, но одна, в революции ИИ, вы можете слышать часто: предыдущее было создано с 100% человеческим контентом.”

Генеративная война в кибербезопасности начинается с этого убедительного и реалистичного контента, и поле битвы – это где хакеры используют Генеративный ИИ, используя инструменты, такие как ChatGPT и т. д. Это чрезвычайно легко для киберпреступников, особенно тех, у кого ограниченные ресурсы и нулевые технические знания, совершать преступления через социальную инженерию, фишинг и атаки на личность.

Угроза

Генеративный ИИ имеет силу подогревать все более сложные кибератаки.

Поскольку технология может производить такой убедительный и похожий на человеческий контент с легкостью, новые киберскамы, использующие ИИ, труднее для команд безопасности легко обнаружить. AI-генерируемые скамы могут принимать форму социальной инженерии, такой как многоканальные фишинговые атаки, проводимые по электронной почте и приложениям для обмена сообщениями. Реальный пример может быть электронным письмом или сообщением, содержащим документ, отправленным корпоративному руководителю от третьего поставщика через Outlook (электронная почта) или Slack (приложение для обмена сообщениями). Электронное письмо или сообщение направляет их на клик, чтобы просмотреть счет-фактуру. С Генеративным ИИ почти невозможно отличить фальшивое электронное письмо или сообщение от реального. Это именно поэтому это так опасно.

Одним из самых тревожных примеров, однако, является то, что с Генеративным ИИ киберпреступники могут производить атаки на несколько языков – независимо от того, говорит ли хакер на языке. Цель – бросить широкую сеть, и киберпреступники не будут дискриминировать жертв на основе языка.

Продвижение Генеративного ИИ сигнализирует о том, что масштаб и эффективность этих атак будут продолжать расти.

Оборона

Киберзащита для Генеративного ИИ была печально известной пропущенной частью пазла. До сих пор. Используя машину для борьбы с машиной или противопоставляя ИИ ИИ, мы можем защититься от этой новой и растущей угрозы. Но как должна быть определена эта стратегия и как она выглядит?

Сначала отрасль должна действовать, противопоставляя компьютер компьютеру, а не человека компьютеру. Чтобы выполнить эту работу, мы должны рассмотреть продвинутые платформы обнаружения, которые могут обнаружить угрозы, сгенерированные ИИ, уменьшить время, необходимое для флагирования, и время, необходимое для решения социальной инженерии, возникшей из Генеративного ИИ. Что-то, что человек не может сделать.

Мы недавно провели тест, как это может выглядеть. У нас был ChatGPT, который создал языковую обратную фишинговую электронную почту на нескольких языках, чтобы увидеть, может ли платформа понимания естественного языка или продвинутая платформа обнаружения обнаружить ее. Мы дали ChatGPT подсказку “напишите срочное электронное письмо, побуждающее кого-то позвонить о окончательном уведомлении о соглашении о лицензии на программное обеспечение”. Мы также командовали ему написать его на английском и японском языках.

Продвинутая платформа обнаружения смогла сразу же обнаружить электронные письма как социальную инженерию. НО, родные контролы электронной почты, такие как платформа обнаружения фишинга Outlook, не смогли. Даже до выпуска ChatGPT социальная инженерия, выполненная через разговорные, языковые атаки, оказалась успешной, потому что они могли избежать традиционных контролей, приземляясь в почтовых ящиках без ссылки или полезной нагрузки. Итак, да, для защиты требуется машина против машины, но мы также должны убедиться, что мы используем эффективную артиллерию, такую как продвинутая платформа обнаружения. Ктоever имеет эти инструменты в своем распоряжении имеет преимущество в борьбе против Генеративного ИИ.

Когда речь идет о масштабе и правдоподобности социальной инженерии, обеспечиваемой ChatGPT и другими формами Генеративного ИИ, защита машины против машины также может быть усовершенствована. Например, эта защита может быть развернута на нескольких языках. Она также не ограничивается только безопасностью электронной почты, но может быть использована для других каналов связи, таких как приложения, такие как Slack, WhatsApp, Teams и т. д.

Оставаться бдительным

Когда один из наших сотрудников просматривал LinkedIn, он наткнулся на попытку социальной инженерии Генеративного ИИ. Странная “белая книга” появилась с тем, что можно описать только как “бизарро” рекламным творчеством. При ближайшем рассмотрении сотрудник увидел характерный цветовой узор в правом нижнем углу, напечатанный на изображениях, сгенерированных Dall-E, моделью ИИ, которая генерирует изображения из текстовых подсказок.

Встреча с этой фальшивой рекламой LinkedIn была значительным напоминанием о новых опасностях социальной инженерии, которые теперь появляются при сочетании с Генеративным ИИ. Это еще более важно быть бдительным и подозрительным.

Эра Генеративного ИИ, используемого для киберпреступности, здесь, и мы должны оставаться бдительными и готовыми бороться со всеми инструментами, которые у нас есть.