AI в фишинге: кто больше выигрывает – атакующие или защитники?

По мере роста киберпреступности отрасль кибербезопасности была вынуждена принять передовые технологии, чтобы не отстать. Искусственный интеллект (ИИ) быстро стал одним из наиболее полезных инструментов в предотвращении кибератак, но атакующие также могут использовать его. Недавние тенденции фишинга являются отличным примером обеих сторон этой проблемы.

Фишинг является наиболее распространенным типом киберпреступности сегодня, и по мере того, как больше компаний осознают эту растущую угрозу, больше из них реализуют инструменты ИИ, чтобы остановить ее. Однако киберпреступники также увеличивают использование ИИ в фишинге. Давайте посмотрим, как обе стороны используют эту технологию и кто больше выигрывает от нее.

Как ИИ помогает бороться с фишингом

Атаки фишинга используют естественную склонность людей к любопытству и страху. Поскольку это социальное инжиниринг так эффективно, одним из лучших способов защититься от него является обеспечение того, чтобы вы не видели его в первую очередь. Вот где ИИ приходит на помощь.

Инструменты ИИ против фишинга обычно представляют собой передовые фильтры электронной почты. Эти программы сканируют входящие сообщения на предмет признаков попыток фишинга и автоматически отправляют подозрительные электронные письма в папку со спамом. Некоторые новые решения могут определить фишинговые электронные письма с точностью 99,9%, генерируя разные версии мошеннических сообщений на основе реальных примеров, чтобы обучить себя распознавать вариации.

По мере того, как исследователи безопасности обнаруживают больше фишинговых электронных писем, они могут предоставить этим моделям больше данных, что делает их еще более точными. Способность ИИ к непрерывному обучению также помогает усовершенствовать модели, чтобы уменьшить количество ложных положительных результатов.

ИИ также может помочь остановить атаки фишинга, когда вы кликаете на вредоносную ссылку. Автоматическое программное обеспечение для мониторинга может установить базовый уровень нормального поведения, чтобы обнаружить аномалии, которые, скорее всего, возникнут, когда кто-то другой будет использовать вашу учетную запись. Затем они могут заблокировать профиль и предупредить команды безопасности, прежде чем злоумышленник сможет нанести слишком много ущерба.

Как атакующие используют ИИ в фишинге

Потенциал ИИ для предотвращения атак фишинга впечатляет, но он также является мощным инструментом для генерации фишинговых электронных писем. По мере того, как генеративный ИИ, такой как ChatGPT, становится более доступным, он делает атаки фишинга более эффективными.

СPEAR-фишинг – это один из наиболее эффективных типов фишинга, который использует личные данные для создания индивидуальных сообщений. Электронное письмо, которое содержит все ваши личные данные, будет естественно более убедительным. Однако эти сообщения традиционно были трудными и耗чивыми в создании, особенно в большом масштабе. Это не так с генеративным ИИ.

ИИ может генерировать огромное количество индивидуальных фишинговых сообщений за долю времени, необходимую человеку. Он также лучше, чем люди, пишет убедительные подделки. В исследовании 2021 года фишинговые электронные письма, сгенерированные ИИ, имели значительно более высокие показатели кликов, чем те, которые написали люди – и это было до выпуска ChatGPT.

Как и маркетологи используют ИИ для персонализации своих кампаний по привлечению клиентов, киберпреступники могут использовать его для создания эффективных, индивидуальных фишинговых сообщений. По мере улучшения генеративного ИИ эти подделки будут только более убедительными.

Атакующие остаются лидерами благодаря человеческим слабостям

С учетом того, что атакующие и защитники используют ИИ, какая сторона получила наибольшую выгоду? Если вы посмотрите на недавние тенденции киберпреступности, вы увидите, что киберпреступники процветают, несмотря на более сложные меры защиты.

Атаки на бизнес-электронную почту увеличилась на 81% во втором полугодии 2022 года, и сотрудники открыли 28% этих сообщений. Это часть более длительного увеличения на 175% за последние два года, что говорит о том, что фишинг растет быстрее, чем когда-либо. Эти атаки эффективны, крадя 17 700 долларов в минуту, что, вероятно, является причиной того, что они стоят за 91% кибератак.

Почему фишинг вырос так сильно, несмотря на улучшение мер защиты с помощью ИИ? Это, вероятно, связано с человеческим фактором. Сотрудники должны фактически использовать эти инструменты, чтобы они были эффективными. Кроме того, работники могут заниматься другими опасными действиями, которые делают их уязвимыми для попыток фишинга, такими как вход в свою рабочую учетную запись на неавторизованных, незащищенных личных устройствах.

Упомянутый ранее опрос также показал, что работники сообщают только о 2,1% атак. Этот недостаток коммуникации может затруднить понимание того, где и как меры безопасности должны быть улучшены.

Как защититься от растущих атак фишинга

Учитывая эту тревожную тенденцию, бизнес и отдельные пользователи должны принять меры для обеспечения своей безопасности. Реализация инструментов ИИ против фишинга – это хорошее начало, но этого недостаточно. Только 7% команд безопасности не используют или не планируют использовать ИИ, но доминирование фишинга сохраняется, поэтому компании должны решить проблему человеческого фактора.

Поскольку люди являются слабейшим звеном в защите от атак фишинга, они должны быть основным направлением усилий по смягчению. Организации должны сделать лучшие практики безопасности более заметной частью процесса адаптации сотрудников и постоянной подготовки. Эти программы должны включать обучение тому, как распознавать атаки фишинга, почему это проблема и симуляции для проверки их знаний после обучения.

Использование более сильных инструментов управления идентификацией и доступом также важно, поскольку они помогают предотвратить успешные взломы после того, как они получили доступ к учетной записи. Даже опытные сотрудники могут совершать ошибки, поэтому вы должны быть в состоянии обнаружить и остановить скомпрометированные учетные записи, прежде чем они смогут нанести значительный ущерб.

ИИ – мощный инструмент и для добра, и для зла

ИИ – одна из наиболее разрушительных технологий в недавней истории. Будет ли это хорошо или плохо, зависит от его использования.

Важно признать, что ИИ может помочь киберпреступникам так же, если не больше, чем специалистам по кибербезопасности. Когда организации признают эти риски, они могут принять более эффективные меры для решения растущих атак фишинга.