Растущее влияние ИИ на избирательные аферы в этом сезоне

В 2022 году злонамеренные электронные письма, нацеленные на работников избирательных комиссий в Пенсильвании, резко возросли вокруг первичных выборов 17 мая, увеличившись более чем на 546% за шесть месяцев. В сочетании с потенциалом злонамеренных больших языковых моделей (LLM) поверх традиционных фишинговых атак существует высокая вероятность того, что обычный американец станет целью еще более реалистичной аферы в этом избирательном сезоне.

Правительства начинают обращать внимание, особенно когда ИИ становится неотъемлемой частью нашей повседневной жизни. Например, Управление кибербезопасности и инфраструктурной безопасности США запустило программу для повышения безопасности выборов – демонстрируя растущий спрос со стороны правительства и общества защитить себя и свои данные от потенциальных злоумышленников в этом избирательном сезоне.

И даже более недавно, на Мюнхенской конференции по безопасности 2024 года, 20 технологических и ИИ-компаний подписали “Технологический пакт о борьбе с обманным использованием ИИ на выборах 2024 года”, который подчеркивает руководящие принципы защиты выборов и избирательного процесса, включая предотвращение, происхождение, обнаружение, реагирование и общественную осведомленность. Состоящий из крупных технологических игроков, включая Microsoft (MSFT ), Amazon (AMZN ) и Google, это означает важный сдвиг в отрасли, когда даже за пределами политических предпочтений безопасность данных является темой, которая будет беспокоить граждан и кибер-экспертов на протяжении всего этого избирательного года. Кроме того, генеративный ИИ существенно повлияет на то, как злоумышленники могут осуществлять свои атаки, делая их более реалистичными.

Типы избирательных афер

Хотя избирательный сезон не является единственным временем, когда мы видим увеличение афер, когда приходит время голосовать, либо на праймериз, либо на всеобщих выборах, мы склонны видеть увеличение нескольких методов и техник. Каждый из них используется с типичной целью получения доступа к учетной записи человека или финансовой выгоды, и последствия попадания под них могут иметь серьезные последствия. Фактически, одна только афера с глубокими подделками стоила США более 3,4 миллиарда долларов в убытках.

Некоторые примеры афер, которые мы видим в избирательный сезон, включают:

• Фишинг: Фишинг включает в себя использование фальшивых ссылок, электронных писем и веб-сайтов для получения доступа к конфиденциальной информации потребителей – обычно путем установки вредоносного ПО на целевую систему. Эти данные затем используются для кражи других идентификаторов, получения доступа к ценным активам и переполнения почтовых ящиков электронной почтой-спамом. В избирательный сезон фишинговые электронные письма могут быть замаскированы под электронные письма с просьбой о пожертвовании, заставляя гражданина кликнуть на ссылку, думая, что он жертвует кандидату, но на самом деле играя в схему злоумышленника.
• Робоколлы, имитации и ИИ-генерируемые голосовые или чат-боты: Как видно в Нью-Гэмпшире, когда робоколл имитировал президента Байдена, призывая граждан не голосовать, в избирательный сезон мы увидим рост имитаций опросников или политических кандидатов для ложного завоевания доверия и получения конфиденциальной информации.
• Глубокие подделки: С ростом ИИ глубокие подделки стали невероятно реалистичными сегодня и могут быть использованы для имитации начальника или даже вашего любимого знаменитости. Глубокие подделки – это видео или изображения, которые используют ИИ для замены лиц или манипулирования выражениями лица или речью. Многие из глубоких подделок, с которыми мы сталкиваемся ежедневно, будут в виде видео, с поддельным клипом, изображающим человека, говорящего или делающего что-то, чего он никогда не делал. Это ожидается особенно распространенным в этом избирательном сезоне, с риском создания глубоких подделок для имитации кандидатов. Даже за пределами США, например, в Великобритании, есть опасения, что глубокие подделки могут быть использованы для фальсификации выборов.

Влияние ИИ на выборы

Помимо этих афер, алгоритмы ИИ используются для создания более убедительных и привлекательных фальшивых сообщений, электронных писем и постов в социальных сетях, чтобы обмануть пользователей и заставить их раскрыть конфиденциальную информацию.

Microsoft и OpenAI опубликовали угрозу безопасности, “Навигация по киберугрозам и укрепление оборонных сооружений в эпоху ИИ“, в котором было отмечено, что пять угрозующих акторов из России, Северной Кореи, Ирана и Китая уже используют GenAI для новых и инновационных способов улучшения своих операций против мягких целей.

Аферы, такие как чат-боты, голосовое клонирование и многое другое, доводятся до нового уровня с помощью ИИ как инструмента для распространения дезинформации, разработки вредоносного ПО и имитации людей. Инструменты голосового клонирования могут создавать почти идеальные реплики голоса или лица избирательного деятеля, например. ИИ также может быть использован для наводнения центров обработки звонков фальшивыми звонками избирателей, перегружая их дезинформацией.

На высшем уровне бдительности будут социальные сети, поскольку они являются основным средством для кампаний в этом избирательном сезоне. Избиратели будут делиться информацией о том, что они проголосовали, и, возможно, даже покажут поддержку своего любимого кандидата на своих страницах. Однако в этом году возникает новая угроза, поскольку мы видим новый рост афер с фишингом (включая смishing и vishing) с использованием ИИ.

Представьте, что кто-то опубликовал на своей странице в социальной сети поддержку конкретного кандидата. Через несколько минут он получает электронное письмо, которое кажется исходящим от менеджера кампании, благодарящего его за поддержку. Этот потенциальный жертва может взаимодействовать с этим электронным письмом, кликая на ссылку, что открывает его учетные данные, финансовые потери или установку вредоносного ПО. Поскольку ИИ может отслеживать, создавать и доставлять нацеленные фишинговые кампании в режиме реального времени, казалось бы, безобидные посты в социальных сетях теперь открывают пользователей для нового уровня реалистичных фишинговых схем.

Оставаться бдительным в этом избирательном сезоне

Атаки, такие как фишинг, будут продолжать быть распространенным способом, которым злоумышленники создают реалистичные аферы, которые могут обмануть даже самых знающих, и в эпоху генеративного ИИ потенциальное влияние этих афер было только ускорено, чтобы дать злоумышленникам более быстрый доступ к конфиденциальной информации.

Поскольку бизнес развертывает технологии для защиты своих данных и сотрудников, потребителям также необходимо быть осведомленными о методах обнаружения и избегания афер. Некоторые из них включают:

• Бдительность при случайных или опечатках в гиперссылках или темах электронных писем
• Не кликайте на ссылку от неизвестного отправителя
• Использование двухфакторной аутентификации или биометрической аутентификации, где это возможно
• Сделайте свои аккаунты в социальных сетях приватными
• Сообщите о злонамеренной деятельности
• Образование других коллег или членов семьи
• Ищите веб-сайт с доменом .gov, чтобы проверить подлинность избирательного кандидата
• Если у вас есть ИТ на вашем рабочем месте, вы также можете спросить о:
• Сетях с нулевым доверием
• Фишинго-устойчивой двухфакторной аутентификации
• Инструментах безопасности электронной почты (DMARC, DKIM, SPF)
• Методах цифровой подписи контента (или другом криптографическом способе верификации ваших коммуникаций)

Хотя избирательные сезоны являются временем повышенной бдительности, атаки могут произойти в любое время, поэтому важно обеспечить, чтобы ваши основы кибербезопасности были сильными и надежными круглый год.