Генеративный ИИ в кибербезопасности: Поле битвы, угроза и защита

Поле битвы

Воодушевление возможностями Генеративного ИИ быстро превратилось в беспокойство. Инструменты Генеративного ИИ, такие как ChatGPT, Google Bard, Dall-E и т. д., продолжают попадать в заголовки из-за проблем с безопасностью и конфиденциальностью. Это даже приводит к вопросам о том, что реально, а что нет. Генеративный ИИ может производить очень правдоподобный и убедительный контент. В конце недавнего сюжета об ИИ в программе «60 Minutes» ведущий Скотт Пелли обратился к зрителям с таким заявлением: «Мы завершим оговоркой, которая никогда раньше не звучала в программе „60 Minutes“, но которую в ходе революции ИИ вы, возможно, будете слышать часто: весь предшествующий материал на 100% создан людьми».

Генеративная война в кибербезопасности начинается с этого правдоподобного и реалистичного контента, и поле битвы – это место, где хакеры используют Генеративный ИИ, используя инструменты, такие как ChatGPT и т. д. Это очень легко для киберпреступников, особенно тех, у кого ограниченные ресурсы и нет технических знаний, совершать преступления через социальную инженерию, фишинг и атаки с выдачей себя за другого.

Угроза

Генеративный ИИ имеет силу подогревать все более сложные кибератаки.

Поскольку технология может производить такой правдоподобный и похожий на человеческий контент с легкостью, новые кибер-аферы, использующие ИИ, труднее обнаружить для команд безопасности. Мошенничество с использованием ИИ может принимать форму атак социальной инженерии, например многоканальные фишинговые атаки, проводимые по электронной почте и приложениям для обмена сообщениями. Реальный пример может быть электронным письмом или сообщением, содержащим документ, отправленным корпоративному руководителю от стороннего поставщика через Outlook (электронная почта) или Slack (приложение для обмена сообщениями). Электронное письмо или сообщение предлагает руководителю нажать на документ, чтобы просмотреть счет. С Генеративным ИИ почти невозможно отличить фальшивое электронное письмо или сообщение от реального. Это и делает его так опасным.

Одним из наиболее тревожных примеров, однако, является то, что с Генеративным ИИ киберпреступники могут проводить атаки на нескольких языках – независимо от того, говорит ли хакер на языке или нет. Цель – бросить широкую сеть, и киберпреступники не будут ограничивать выбор жертв по языковому признаку.

Развитие Генеративного ИИ сигнализирует о том, что масштаб и эффективность этих атак будут продолжать расти.

Защита

Киберзащита для Генеративного ИИ долгое время оставалась недостающим элементом головоломки. Теперь ситуация меняется. Используя машину против машины, или противопоставляя ИИ ИИ, мы можем защититься от этой новой и растущей угрозы. Но как должна быть определена эта стратегия и как она выглядит?

Во-первых, отрасль должна действовать, противопоставляя компьютер компьютеру, а не человека компьютеру. Чтобы выполнить эту работу, мы должны рассмотреть передовые платформы обнаружения, которые могут обнаружить угрозы, сгенерированные ИИ, уменьшить время, необходимое для выявления и устранения атаки социальной инженерии, созданной с помощью генеративного ИИ. Это то, что человек не может сделать.

Мы недавно провели тест, чтобы увидеть, как это может выглядеть. Мы попросили ChatGPT создать на нескольких языках фишинговое письмо, в котором текст убеждает получателя перезвонить, чтобы увидеть, может ли платформа понимания естественного языка или передовая платформа обнаружения обнаружить ее. Мы дали ChatGPT подсказку “напишите срочное электронное письмо, побуждающее кого-то позвонить по поводу окончательного уведомления о лицензионном соглашении на программное обеспечение”. Мы также приказали ему написать его на английском и японском языках.

Передовая платформа обнаружения смогла сразу же пометить электронные письма как атаку социальной инженерии. Однако встроенные средства защиты электронной почты, такие как платформа обнаружения фишинга Outlook, не смогли. Даже до выпуска ChatGPT социальная инженерия, проведенная через разговорные, языковые атаки, оказалась успешной, потому что она могла обойти традиционные средства защиты и попасть в почтовые ящики без ссылки или вредоносного содержимого. Итак, да, для защиты требуется борьба машины против машины, но мы также должны убедиться, что мы используем эффективную артиллерию, такую как передовая платформа обнаружения. Тот, у кого есть такие инструменты, имеет преимущество в борьбе против Генеративного ИИ.

Когда речь идет о масштабе и правдоподобности атак социальной инженерии, обеспечиваемых ChatGPT и другими формами Генеративного ИИ, защита машины против машины также может быть усовершенствована. Например, эта защита может быть развернута на нескольких языках. Она также не ограничивается только безопасностью электронной почты, но может быть использована для других каналов связи, таких как приложения, такие как Slack, WhatsApp, Teams и т. д.

Сохраняйте бдительность

Когда один из наших сотрудников просматривал LinkedIn, он наткнулся на попытку социальной инженерии с использованием Генеративного ИИ. Ему показали необычную рекламу скачивания аналитического доклада с изображением, которое иначе как странным назвать было нельзя. При ближайшем рассмотрении сотрудник увидел характерный цветовой узор в правом нижнем углу, напечатанный на изображениях, сгенерированных Dall-E, моделью ИИ, которая генерирует изображения из текстовых подсказок.

Встреча с этой фальшивой рекламой LinkedIn была значительным напоминанием о новых опасностях социальной инженерии, которые теперь появляются при сочетании с Генеративным ИИ. Более чем когда-либо важно быть бдительным и подозрительным.

Эра использования генеративного ИИ для киберпреступлений уже наступила, и мы должны оставаться бдительными и быть готовыми бороться со всеми имеющимися в нашем распоряжении инструментами.