Генеративный ИИ в кибербезопасности: Поле битвы, угроза и защита

Поле битвы

Возбуждение вокруг возможностей Генеративного ИИ быстро превратилось в беспокойство. Инструменты Генеративного ИИ, такие как ChatGPT, Google Bard, Dall-E и т. д., продолжают попадать в заголовки из-за проблем с безопасностью и конфиденциальностью. Это даже приводит к вопросам о том, что реально, а что нет. Генеративный ИИ может производить очень правдоподобный и убедительный контент. Так что в конце недавнего сегмента 60 Minutes об ИИ ведущий Скотт Пелли оставил зрителей с этим заявлением: “Мы закончим на заметке, которая никогда не появлялась на 60 Minutes, но одна, в революции ИИ, вы можете слышать часто: предыдущее было создано с 100% человеческим контентом.”

Генеративная война в кибербезопасности начинается с этого правдоподобного и реалистичного контента, и поле битвы – это место, где хакеры используют Генеративный ИИ, используя инструменты, такие как ChatGPT и т. д. Это очень легко для киберпреступников, особенно тех, у кого ограниченные ресурсы и нет технических знаний, совершать преступления через социальную инженерию, фишинг и атаки на личность.

Угроза

Генеративный ИИ имеет силу подогревать все более сложные кибератаки.

Поскольку технология может производить такой правдоподобный и похожий на человеческий контент с легкостью, новые кибер-аферы, использующие ИИ, труднее обнаружить для команд безопасности. Аферы, сгенерированные ИИ, могут принимать форму социальной инженерии, таких как многоканальные фишинговые атаки, проводимые по электронной почте и приложениям для обмена сообщениями. Реальный пример может быть электронным письмом или сообщением, содержащим документ, отправленным корпоративному руководителю от третьего поставщика через Outlook (электронная почта) или Slack (приложение для обмена сообщениями). Электронное письмо или сообщение направляет их на клик, чтобы просмотреть счет. С Генеративным ИИ почти невозможно отличить фальшивое электронное письмо или сообщение от реального. Это и делает его так опасным.

Одним из наиболее тревожных примеров, однако, является то, что с Генеративным ИИ киберпреступники могут производить атаки на несколько языков – независимо от того, говорит ли хакер на языке или нет. Цель – бросить широкую сеть, и киберпреступники не будут дискриминировать жертв на основе языка.

Развитие Генеративного ИИ сигнализирует о том, что масштаб и эффективность этих атак будут продолжать расти.

Защита

Киберзащита для Генеративного ИИ долгое время была недостающим куском пазла. До сих пор. Используя машину против машины, или противопоставляя ИИ ИИ, мы можем защититься от этой новой и растущей угрозы. Но как должна быть определена эта стратегия и как она выглядит?

Во-первых, отрасль должна действовать, противопоставляя компьютер компьютеру, а не человека компьютеру. Чтобы выполнить эту работу, мы должны рассмотреть передовые платформы обнаружения, которые могут обнаружить угрозы, сгенерированные ИИ, уменьшить время, необходимое для флагирования, и время, необходимое для решения атаки социальной инженерии, которая возникла из Генеративного ИИ. Это то, что человек не может сделать.

Мы недавно провели тест, чтобы увидеть, как это может выглядеть. Мы попросили ChatGPT создать языковую фишинговую электронную почту с обратным вызовом на нескольких языках, чтобы увидеть, может ли платформа понимания естественного языка или передовая платформа обнаружения обнаружить ее. Мы дали ChatGPT подсказку “напишите срочное электронное письмо, побуждающее кого-то позвонить по поводу окончательного уведомления о лицензионном соглашении на программное обеспечение”. Мы также приказали ему написать его на английском и японском языках.

Передовая платформа обнаружения смогла сразу же пометить электронные письма как атаку социальной инженерии. НО родные средства контроля электронной почты, такие как платформа обнаружения фишинга Outlook, не смогли. Даже до выпуска ChatGPT социальная инженерия, проведенная через разговорные, языковые атаки, оказалась успешной, потому что она могла избежать традиционных средств контроля, приземляясь в почтовых ящиках без ссылки или полезной нагрузки. Итак, да, для защиты требуется борьба машины против машины, но мы также должны убедиться, что мы используем эффективную артиллерию, такую как передовая платформа обнаружения. Ктоever имеет эти инструменты в своем распоряжении имеет преимущество в борьбе против Генеративного ИИ.

Когда речь идет о масштабе и правдоподобности атак социальной инженерии, обеспечиваемых ChatGPT и другими формами Генеративного ИИ, защита машины против машины также может быть усовершенствована. Например, эта защита может быть развернута на нескольких языках. Она также не ограничивается только безопасностью электронной почты, но может быть использована для других каналов связи, таких как приложения, такие как Slack, WhatsApp, Teams и т. д.

Оставаться бдительным

Когда один из наших сотрудников просматривал LinkedIn, он наткнулся на попытку социальной инженерии с использованием Генеративного ИИ. Странная реклама “белой книги” появилась с тем, что можно назвать только “странной” рекламой. При ближайшем рассмотрении сотрудник увидел характерный цветовой узор в правом нижнем углу, напечатанный на изображениях, сгенерированных Dall-E, моделью ИИ, которая генерирует изображения из текстовых подсказок.

Встреча с этой фальшивой рекламой LinkedIn была значительным напоминанием о новых опасностях социальной инженерии, которые теперь появляются при сочетании с Генеративным ИИ. Более чем когда-либо важно быть бдительным и подозрительным.

Эра Генеративного ИИ, используемого для киберпреступности, здесь, и мы должны оставаться бдительными и быть готовыми бороться со всеми имеющимися в нашем распоряжении инструментами.