ИИ в фишинге: кто больше выигрывает от злоумышленников или защитников?

По мере роста киберпреступности индустрия кибербезопасности должна была использовать передовые технологии, чтобы идти в ногу со временем. Искусственный интеллект (ИИ) быстро стал одним из самых полезных инструментов для предотвращения кибератак, но злоумышленники также могут его использовать. Недавние тенденции фишинга — отличный пример обеих сторон проблемы.

Фишинг – это самый распространенный вид киберпреступлений на сегодняшний день далеко. По мере того, как все больше компаний узнают об этой растущей угрозе, все больше внедряют инструменты ИИ, чтобы остановить ее. Однако киберпреступники также наращивают использование ИИ для фишинга. Вот более подробный взгляд на то, как обе стороны используют эту технологию и кто получает от нее больше выгоды.

Как ИИ помогает бороться с фишингом

Фишинговые атаки используют естественную склонность людей к любопытству и страху. Поскольку эта социальная инженерия настолько эффективна, один из лучших способов защититься от нее — убедиться, что вы ее не видите. Вот где в дело вступает ИИ.

Инструменты искусственного интеллекта для защиты от фишинга обычно представляют собой расширенные фильтры электронной почты. Эти программы сканируют входящие сообщения на наличие признаков попыток фишинга и автоматически отправляют подозрительные электронные письма в папку нежелательной почты. Некоторые новые решения могут обнаруживать фишинговые письма с точностью 99.9% путем создания различных версий мошеннических сообщений на основе реальных примеров, чтобы научиться замечать варианты.

По мере того, как исследователи безопасности обнаруживают больше фишинговых писем, они могут предоставлять этим моделям больше данных, что делает их еще более точными. Возможности непрерывного обучения ИИ также помогают совершенствовать модели, чтобы уменьшить количество ложных срабатываний.

ИИ также может помочь остановить фишинговые атаки, когда вы нажимаете на вредоносную ссылку. Программное обеспечение для автоматизированного мониторинга может установить базовый уровень нормального поведения для обнаружения аномалий, которые могут возникнуть, когда кто-то другой использует вашу учетную запись. Затем они могут заблокировать профиль и предупредить службы безопасности до того, как злоумышленник нанесет слишком большой ущерб.

Как злоумышленники используют ИИ в фишинге

Потенциал ИИ для предотвращения фишинговых атак впечатляет, но он также является мощным инструментом для создания фишинговых электронных писем. По мере того, как генеративный ИИ, такой как ChatGPT, становится более доступным, фишинговые атаки становятся более эффективными.

Целевой фишинг, который использует личные данные для создания пользовательских сообщений, является одним из наиболее эффективных видов фишинга. Электронное письмо, в котором правильно представлена ​​вся ваша личная информация, естественно, будет намного более убедительным. Тем не менее, эти сообщения традиционно были сложными и трудоемкими для создания, особенно в больших масштабах. Это больше не относится к генеративному ИИ.

ИИ может генерировать огромное количество адаптированных фишинговых сообщений за долю времени, которое потребовалось бы человеку. Это также лучше, чем люди при написании убедительных подделок. В исследовании 2021 года фишинговые электронные письма, созданные искусственным интеллектом увидели значительно более высокие показатели кликов чем написали эти люди — и это было до выпуска ChatGPT.

Точно так же, как маркетологи используют ИИ для настройки своих кампаний по привлечению клиентов, киберпреступники могут использовать его для создания эффективных фишинговых сообщений для конкретных пользователей. По мере совершенствования генеративного ИИ эти подделки будут становиться только убедительнее.

Злоумышленники остаются в лидерах благодаря человеческим слабостям

Когда атакующие и защитники используют преимущества ИИ, какая сторона получила наиболее заметные преимущества? Если вы посмотрите на последние тенденции киберпреступности, вы увидите, что киберпреступники процветают, несмотря на более совершенные средства защиты.

Компрометация корпоративной электронной почты вырос на 81% во втором полугодии 2022 года, и сотрудники открыли 28% этих сообщений. Это часть долгосрочного увеличения на 175% за последние два года, что говорит о том, что фишинг растет быстрее, чем когда-либо. Эти атаки также эффективны, кража 17,700 XNUMX долларов в минуту, вероятно, поэтому они стоят за 91% кибератак.

Почему фишинг так сильно вырос, несмотря на то, что искусственный интеллект улучшил защиту от фишинга? Скорее всего, дело в человеческом факторе. Сотрудники должны на самом деле использовать эти инструменты, чтобы они были эффективными. Помимо этого, работники могут заниматься другими небезопасными действиями, которые делают их уязвимыми для попыток фишинга, например входом в свои рабочие учетные записи с несанкционированных и незащищенных личных устройств.

Упомянутый ранее опрос также показал, что работники сообщают лишь о 2.1% атак. Это отсутствие связи может затруднить понимание того, где и как должны быть улучшены меры безопасности.

Как защититься от растущих фишинговых атак

Учитывая эту тревожную тенденцию, предприятия и отдельные пользователи должны принять меры для обеспечения безопасности. Внедрение антифишинговых инструментов ИИ — хорошее начало, но оно не может быть вашей единственной мерой. Только 7% команд безопасности не используют и не планируют использовать ИИ, но доминирование фишинга сохраняется, поэтому компании также должны учитывать человеческий фактор.

Поскольку люди являются самым слабым звеном в борьбе с фишинговыми атаками, меры по смягчению последствий должны быть сосредоточены на них. Организации должны сделать передовые методы обеспечения безопасности более заметной частью адаптации и постоянного обучения сотрудников. Эти программы должны включать в себя то, как обнаруживать фишинговые атаки, почему это проблема, а также симуляции для проверки сохранения знаний после обучения.

Также важно использовать более надежные инструменты управления идентификацией и доступом, поскольку они помогают остановить успешные взломы после того, как они попадут в учетную запись. Даже опытные сотрудники могут совершать ошибки, поэтому вы должны уметь обнаруживать и останавливать взломанные учетные записи до того, как они нанесут серьезный ущерб.

ИИ — мощный инструмент как для хорошего, так и для плохого

ИИ — одна из самых прорывных технологий в новейшей истории. Хорошо это или плохо, зависит от его использования.

Крайне важно признать, что ИИ может помочь киберпреступникам не меньше, если не больше, чем профессионалам в области кибербезопасности. Когда организации признают эти риски, они могут предпринять более эффективные шаги для борьбы с растущими фишинговыми атаками.