Может ли ИИ написать более убедительное фишинговое письмо, чем человек?

Обработка естественного языка и передовые возможности перевода делают генеративный ИИ бесценным инструментом для хакеров. Фишинговые письма, сгенерированные ИИ, могут не быть более опасными, чем фишинговый контент, созданный человеком. Что должны знать пользователи и специалисты по безопасности о роли ИИ в фишинге и кибератаках?

Как ИИ пишет фишинговые письма

Согласно сообщениям, фишинговый контент увеличился на 61% с 2021 по 2022 год. От вредоносных URL-адресов до электронных мошенничеств фишинг становится все более распространенным каждый год. ИИ – это последний инструмент, который хакеры используют для совершенствования фишинговых кампаний. Хотя обработка естественного языка ИИ полезна, хакеры могут использовать ее для создания более эффективного фишингового контента.

Доступность платформ ИИ в качестве сервиса, таких как ChatGPT, делает проще, чем когда-либо, для любого человека создавать контент. Хакер может показать большую языковую модель ИИ тысячи примеров законных электронных писем, а затем попросить его создать оригинальные электронные письма на основе этих примеров. Обработка естественного языка (NLP) позволяет ИИ понимать и воссоздавать реалистичный письменный контент – идеальный инструмент в фишинговых атаках.

Идеально, ИИ генерирует оригинальное электронное письмо, которое имитирует электронное письмо, написанное человеком. Хакер может попросить его настроить сообщение так, чтобы оно включало детали о конкретной компании, человеке или месте. ИИ даже может перевести сообщение на другой язык. Хакеры могут эффективно создавать совершенно оригинальные, персонализированные фишинговые электронные письма всего за несколько мгновений, что позволяет им отказаться от повторного использования одного и того же вредоносного электронного письма среди многих целей.

Эффективны ли фишинговые письма, сгенерированные ИИ?

Возможности фишинга, основанного на ИИ, могут показаться устрашающими, но они более опасны, чем фишинговый контент, созданный человеком? Преимущества фишинговых писем, сгенерированных ИИ, в основном заключаются в более эффективных рабочих процессах для хакеров.

Ранние исследования показали, что фишинговые письма, сгенерированные ИИ, примерно так же убедительны, как фишинговые письма, созданные человеком. Хакеры также ограничены в доступе к платформам ИИ в качестве сервиса. Большинство крупных разработчиков – включая OpenAI – имеют меры безопасности, чтобы предотвратить незаконное использование моделей ИИ.

Основные преимущества ИИ для фишинговых хакеров заключаются в эффективности и языке. Использование ИИ для генерации мошеннических электронных писем быстрее, чем ручное написание их, что позволяет хакерам создавать большее разнообразие фишинговых электронных писем. Кроме того, они могут нацеливаться на жертв где угодно в мире, благодаря легко доступным инструментам перевода ИИ с возможностями NLP.

Таким образом, фишинговые письма, сгенерированные ИИ, увеличивают риск фишинговых атак, но могут не быть более убедительными, чем контент, созданный человеком.

Как защититься от фишинга, сгенерированного ИИ

ИИ – это полезный инструмент для хакеров, но он не безупречен. Технология безопасности и пользователи также могут улучшить свои стратегии защиты по мере того, как фишинговые атаки становятся более умными. Пользователи должны начать с того, что будут оставаться в курсе красных флагов фишингового контента, поскольку они останутся актуальными даже с электронными письмами, сгенерированными ИИ.

Хотя может стать труднее обнаружить фишинговые электронные письма на первый взгляд, определенные меры безопасности могут минимизировать или исключить потенциал для фишинга, чтобы нанести ущерб. Кроме того, новые технологии обнаружения могут поймать как электронные письма, написанные человеком, так и сгенерированные ИИ.

Перейти на облачное хранилище

Изменение на облачное хранилище – это отличный способ минимизировать угрозу фишинговых электронных писем и кибератак. Изолированная природа традиционного хранения данных делает его очень уязвимым для эксплуатации хакерами. Всего лишь нужно хакеру получить контроль над одним жестким диском или сервером, и он может удерживать все данные пользователя в заложниках.

Облачное хранилище избегает этой угрозы. Поскольку данные не привязаны к конкретному устройству, гораздо труднее хакерам удалить или повредить любую информацию. Облачная кибербезопасность также может улучшить устойчивость к попыткам взлома.

Например, пользователи могут реализовать автоматические сканирования на уязвимости, чтобы найти слабости в своей облачной безопасности. Это отлично подходит для предотвращения использования хакерами бэкдоров или украденных учетных данных для доступа к данным в облаке. Даже если они это сделают, будет трудно им полностью контролировать какие-либо данные, поскольку облачное хранилище так распределено.

Создать систему верификации DIY

Одним из DIY-решений, чтобы помочь отпугнуть фишинговые сообщения любого рода, является создание кодовой системы среди доверенных корреспондентов. Это может включать людей, таких как семья, друзья и коллеги. Каждый раз, когда люди в группе отправляют электронные письма друг другу, они могли бы написать определенную кодовую фразу, чтобы подтвердить, что сообщение действительно от них.

Эта кодовая система не должна быть слишком сложной. Идея заключается просто в добавлении фактора к электронным письмам, который хакер или ИИ не смог бы надежно знать заранее. Сделайте кодовую фразу чем-то необычным, чтобы она была маловероятно найдена в тренировочных электронных письмах ИИ.

Например, кодом могла бы быть название фантомного поселения, такое как “Agloe, New York”. Фантомные поселения вряд ли часто появляются в электронных письмах, поскольку они являются вымышленными местами, просто добавленными на карты для целей копирования.

Использовать обнаружение фишинга ИИ

Хакеры не единственные, кто использует ИИ для совершенствования своей методологии. Пользователи и специалисты по безопасности могут использовать модели ИИ для обнаружения фишингового контента, будь то человек или ИИ.

Например, разработчики могут использовать машинное обучение, чтобы мониторить и отслеживать естественные закономерности общения легитимных электронных корреспондентов. Если ИИ может быстро выучить уникальный стиль общения человека, он может распознавать фальшивые электронные письма, которые не соответствуют. Это применимо независимо от того, написал ли электронное письмо человек или ИИ.

Одна из величайших сил фишинга, основанного на ИИ, также является серьезным недостатком. Хакеры могут эффективно создавать правдоподобные фальшивые электронные письма с помощью ИИ, но стиль общения этих электронных писем не может быть эффективно персонализирован. Хакеру обычно не хватает технической экспертизы или ресурсов, чтобы обучить ИИ точно воспроизводить стиль письма конкретного человека. Модели обнаружения фишинга ИИ могут использовать эту слабость, чтобы защитить пользователей.

Понимание риска фишинга, основанного на ИИ

ИИ может быть ценным инструментом для хакеров при создании фишинговых электронных писем. Однако фишинговые письма, сгенерированные ИИ, не обязательно более убедительны, чем фишинговый контент, созданный человеком. Основные красные флаги фишинга – такие как срочные призывы к действию – остаются актуальными независимо от того, кто или что создает фишинговое электронное письмо. Пользователи и специалисты по безопасности могут принять инновационные техники и технологии, чтобы защитить свои данные от кампаний фишинга, основанного на ИИ.