ИИ в фишинге: Кто получает больше пользы – атакующие или защитники?

Поскольку киберпреступность выросла, отрасль кибербезопасности должна была принять передовые технологии, чтобы идти в ногу. Искусственный интеллект (ИИ) быстро стал одним из наиболее полезных инструментов в предотвращении кибератак, но им также могут воспользоваться атакующие. Недавние тенденции фишинга являются отличным примером обеих сторон этого вопроса.

Фишинг является самым распространенным типом киберпреступности сегодня, и это не удивительно. Поскольку больше компаний стали осведомлены об этой растущей угрозе, больше компаний реализовали инструменты ИИ, чтобы остановить ее. Однако киберпреступники также увеличили использование ИИ в фишинге. Вот более близкий взгляд на то, как обе стороны используют эту технологию и кто извлекает из нее больше пользы.

Как ИИ помогает бороться с фишингом

Фишинг-атаки пользуются естественной склонностью людей к любопытству и страху. Поскольку это социальное инжиниринг так эффективно, одним из лучших способов защититься от него является обеспечение того, чтобы вы не видели его вообще. Вот где ИИ приходит на помощь.

Инструменты ИИ против фишинга обычно представляют собой передовые фильтры электронной почты. Эти программы сканируют входящие сообщения на предмет признаков попыток фишинга и автоматически отправляют подозрительные электронные письма в папку со спамом. Некоторые новые решения могут определить фишинг-электронные письма с точностью 99,9%, генерируя разные версии мошеннических сообщений на основе реальных примеров, чтобы научиться распознавать вариации.

По мере того, как исследователи безопасности обнаруживают больше фишинг-электронных писем, они могут предоставить этим моделям больше данных, что делает их еще более точными. Способность ИИ к непрерывному обучению также помогает усовершенствовать модели, чтобы уменьшить количество ложных срабатываний.

ИИ также может помочь остановить фишинг-атаки, когда вы кликаете на вредоносную ссылку. Программное обеспечение для автоматического мониторинга может установить базовый уровень нормального поведения, чтобы обнаружить аномалии, которые, скорее всего, возникнут, когда кто-то другой использует ваш аккаунт. Затем они могут заблокировать профиль и предупредить команды безопасности, прежде чем злоумышленник сможет нанести слишком много ущерба.

Как атакующие используют ИИ в фишинге

Потенциал ИИ для предотвращения фишинг-атак впечатляет, но он также является мощным инструментом для генерации фишинг-электронных писем. Поскольку генеративный ИИ, такой как ChatGPT, стал более доступным, он делает фишинг-атаки более эффективными.

СPEAR-фишинг — который использует личные данные для создания индивидуальных сообщений — является одним из наиболее эффективных типов фишинга. Электронное письмо, которое точно указывает все ваши личные данные, естественно, будет более убедительным. Однако такие сообщения традиционно были трудными и耗чивыми в создании, особенно в большом масштабе. Это больше не является проблемой с генеративным ИИ.

ИИ может генерировать огромное количество индивидуальных фишинг-сообщений за долю времени, которую потребовало бы человеку. Он также лучше людей в написании убедительных фейков. В одном из исследований 2021 года фишинг-электронные письма, сгенерированные ИИ, имели значительно более высокие показатели кликов, чем те, которые написали люди — и это было до выпуска ChatGPT.

Как и маркетологи используют ИИ для персонализации своих кампаний по привлечению клиентов, киберпреступники могут использовать его для создания эффективных, индивидуальных фишинг-сообщений. По мере улучшения генеративного ИИ эти фейки будут только более убедительными.

Атакующие остаются в лидерах благодаря человеческим слабостям

С учетом того, что атакующие и защитники используют ИИ, какая сторона получила наибольшую пользу? Если вы посмотрите на недавние тенденции киберпреступности, вы увидите, что киберпреступники процветают, несмотря на более сложные защиты.

Атаки на бизнес-электронную почту выросли на 81% во второй половине 2022 года, и сотрудники открыли 28% этих сообщений. Это часть более длительного увеличения на 175% за последние два года, что говорит о том, что фишинг растет быстрее, чем когда-либо. Эти атаки эффективны, крадя 17 700 долларов в минуту, что, вероятно, является причиной того, что они стоят за 91% кибератак.

Почему фишинг вырос так много, несмотря на то, что ИИ улучшил защиту от фишинга? Это, вероятно, связано с человеческим фактором. Сотрудники должны фактически использовать эти инструменты, чтобы они были эффективными. Кроме того, работники могут заниматься другими небезопасными действиями, которые делают их уязвимыми для фишинг-атак, такими как вход в свои рабочие аккаунты на неавторизованных, незащищенных личных устройствах.

Упомянутый ранее опрос также показал, что работники сообщают только о 2,1% атак. Этот недостаток коммуникации может затруднить понимание того, где и как меры безопасности должны быть улучшены.

Как защититься от растущих фишинг-атак

Учитывая эту тревожную тенденцию, бизнес и отдельные пользователи должны принять меры, чтобы остаться в безопасности. Реализация инструментов ИИ против фишинга — это хорошее начало, но это не может быть вашим единственным мерой. Только 7% команд безопасности не используют и не планируют использовать ИИ, но доминирование фишинга сохраняется, поэтому компании должны решить проблему человеческого фактора.

Поскольку люди являются слабейшим звеном в борьбе с фишинг-атаками, они должны быть основным направлением мер по смягчению. Организации должны сделать лучшие практики безопасности более заметной частью процесса адаптации сотрудников и постоянной подготовки. Эти программы должны включать информацию о том, как обнаружить фишинг-атаки, почему это проблема и симуляции для проверки их знаний после обучения.

Использование более сильных инструментов управления идентификацией и доступом также важно, поскольку они помогают предотвратить успешные взломы после проникновения в аккаунт. Даже опытные сотрудники могут совершать ошибки, поэтому вы должны быть в состоянии обнаружить и остановить взломанные аккаунты, прежде чем они нанесут значительный ущерб.

ИИ — мощный инструмент как для добра, так и для зла

ИИ — одна из наиболее разрушительных технологий в недавней истории. Будет ли это хорошо или плохо, зависит от его использования.

Важно признать, что ИИ может помочь киберпреступникам так же, как и специалистам по кибербезопасности. Когда организации признают эти риски, они могут принять более эффективные меры для решения проблемы растущих фишинг-атак.