Зростаючий вплив штучного інтелекту на виборчі афери цього сезону

У 2022 році зловмисні електронні листи, спрямовані проти працівників виборчих комісій округу Пенсільванія, зросли навколо первинних виборів 17 травня, збільшившись більш ніж на 546% за шість місяців. У поєднанні з потенціалом підступних великомасштабних мовних моделей (LLM) на вершині цих традиційних фішингових атак існує висока ймовірність того, що звичайний американець стане об’єктом ще більш реалістичної афери цього виборчого сезону.

Уряди починають звертати увагу, особливо коли штучний інтелект інтегрується в нашу повсякденну життя. Наприклад, Управління кібербезпеки та інфраструктури США запустило програму для підвищення безпеки виборів – демонструючи зростаючий попит як з боку уряду, так і з боку громадськості щодо захисту себе та своїх даних від потенційних зловмисників цього виборчого сезону.

І навіть недавно, на Мюнхенській конференції з безпеки 2024 року, 20 технологічних та штучно-інтелектуальних компаній підписали “Технологічний пакт щодо боротьби з обманним використанням штучного інтелекту на виборах 2024 року”, який підкреслює керівні принципи захисту виборів та виборчого процесу, включаючи запобігання, походження, виявлення, реактивну оборону, оцінку та громадську осведомленість. Складається з великих технологічних гравців, включаючи Microsoft (MSFT ), Amazon (AMZN ) та Google, це свідчить про важливий зсув у галузі, який навіть за межами політичних приналежностей питання безпеки даних буде турбувати громадян та кіберекспертів протягом усього цього виборчого року. Крім того, генераційна модель штучного інтелекту суттєво вплине на те, як зловмисники можуть здійснювати свої атаки, роблячи їх ще більш реалістичними.

Типи виборчих афер

Хоча виборчий сезон не є єдиним часом, коли ми бачимо зростання афер, коли настав час голосування, або на первинних, або на загальних виборах, ми зазвичай бачимо зростання кількох методів і технік. Кожна з них використовується з типовою метою отримання доступу до облікового запису особи або фінансової вигоди, а наслідки того, що ви піддалися їм, можуть мати серйозні наслідки. Насправді, глибокі підробки самі по собі коштували США понад 3,4 мільярда доларів у вигляді збитків.

Наприклад, афери, яких ми бачимо під час виборчого сезону, включають:

• Фішинг: Фішинг включає використання фальшивих посилань, електронної пошти та веб-сайтів для отримання доступу до конфіденційних даних споживачів – зазвичай шляхом установки зловмисного програмного забезпечення на цільову систему. Ці дані потім використовуються для крадіжки інших ідентифікаторів, отримання доступу до цінних активів та навантаження поштових скриньок електронним спамом. Під час виборчого сезону фішингові електронні листи можуть маскуватися під електронні листи з проханням про пожертви, щоб громадянин клікнув на посилання, думаючи, що він жертвує кандидату, але насправді грає у схему зловмисника.
• Робоколи, підробки та штучно-інтелектуальні голосові чи чат-боти: Як бачимо у Нью-Гемпширі, коли робокол підробив президента Байдена, закликаючи громадян не голосувати, виборчий сезон принесе зростання підробок опитувачів або політичних кандидатів, щоб помилково здобути довіру та отримати конфіденційну інформацію.
• Глибокі підробки: З ростом штучного інтелекту глибокі підробки стали надзвичайно реалістичними сьогодні та можуть використовуватися для підробки керівника або навіть вашого улюбленого знаменитості. Глибокі підробки – це відео чи зображення, які використовують штучний інтелект для заміни облич або маніпулювання виразами обличчя чи мовленням. Багато з глибоких підробок, яких ми зустрічаємо щодня, будуть у вигляді відео з підробленим кліпом, який зображує людину, яка говорить або робить щось, чого вона ніколи не робила. Очікується, що це буде особливо поширене цього виборчого сезону з ризиком створення глибоких підробок для підробки кандидатів. Навіть поза США, наприклад у Великій Британії, існують побоювання, що глибокі підробки можуть використовуватися для маніпулювання виборами.

Вплив штучного інтелекту на вибори

Позбавлення цих афер, алгоритми штучного інтелекту використовуються для генерації більш переконливих та привабливих фальшивих повідомлень, електронної пошти та публікацій у соціальних мережах для обману користувачів та отримання конфіденційної інформації.

Microsoft та OpenAI опублікували звіт про загрози, “Навігація у кіберзагрозах та зміцнення оборони в епоху штучного інтелекту“, який зазначив, що п’ять учасників загроз з Росії, Північної Кореї, Ірану та Китаю вже використовували генерацію штучного інтелекту для нових та інноваційних способів посилення своїх операцій проти м’яких цілей.

Афери, такі як чат-боти, голосові підробки та інші, ще більше посилюються штучним інтелектом як інструментом для поширення дезінформації, розробки зловмисного програмного забезпечення та підробки осіб. Інструменти для підробки голосу можуть створити майже досконалі репліки голосу чи обличчя виборчої фігури, наприклад. Штучний інтелект також може використовуватися для навантаження центрів прийому дзвінків фальшивими дзвінками виборців, що перевантажує їх дезінформацією.

На найвищому рівні нагляду будуть соціальні медіа, оскільки вони є основним засобом для кампаній цього виборчого сезону. Виборці будуть ділитися інформацією про те, що вони проголосували, і, можливо, навіть висловлюватимуть підтримку своєму улюбленому кандидату на своїх сторінках. Однак цього року існує нова загроза, оскільки ми бачимо зростання афер з фішингом (включаючи смішинг та вішинг) за допомогою штучного інтелекту.

Розгляньте ситуацію, коли хтось опублікував на своїй сторінці у соціальних медіа підтримку конкретного кандидата. Через кілька хвилин вони отримують електронний лист, який видається за лист від менеджера кампанії, який дякує їм за підтримку. Ця потенційна жертва може взаємодіяти з цим електронним листом, клікаючи на посилання, що відкриє їм доступ до збору облікових даних, фінансових втрат або установки зловмисного програмного забезпечення. Через здатність штучного інтелекту моніторити, створювати та доставляти націлені фішингові кампанії в режимі майже реального часу, здавалося б, невинні публікації у соціальних медіа тепер відкривають користувачів до нового рівня реалістичних схем фішингу.

Залишатися пильними цього виборчого сезону

Атаки, такі як фішинг, будуть продовжувати бути поширеним способом, яким зловмисники створюють реалістичні афери, які можуть обманути навіть найбільш обізнаних, а в епоху генерації штучного інтелекту потенційний вплив цих афер тільки прискорився, щоб дати зловмисникам швидкий доступ до конфіденційної інформації.

Хоча підприємства розгортають технології для захисту своїх даних та працівників, споживачі також повинні бути обізнані про техніки виявлення та уникнення афер. До них належать:

• Нагляд за випадковими або помилковими гіперпосиланнями чи темами електронної пошти
• Не клікати на посилання від невідомого відправника
• Використання двофакторної автентифікації або біометричної автентифікації, якщо це можливо
• Зроблення соціальних медіа-акаунтів приватними
• Повідомлення про шкідливу діяльність
• Освіта колег чи членів родини
• Пошук домену веб-сайту .gov для підтвердження автентичності виборчого кандидата
• Якщо у вас є ІТ на вашому робочому місці, ви також можете запитати про:
  • Мережі з нульовим довірою
  • Фішингово-стійку двофакторну автентифікацію
  • Інструменти безпеки електронної пошти (DMARC, DKIM, SPF)
  • Методи цифрового підпису вмісту (або іншого криптографічного способу верифікації ваших комунікацій)

Хоча виборчі сезони є часом підвищеної нагляду, атаки можуть відбуватися в будь-який час, тому важливо забезпечити, щоб ваші основи кібербезпеки були сильними та надійними протягом усього року. інструменти (DMARC, DKIM, SPF) Методи цифрового підпису вмісту (або іншого криптографічного способу верифікації ваших комунікацій) Хоча виборчі сезони є часом підвищеної нагляду, атаки можуть відбуватися в будь-який час, тому важливо забезпечити, щоб ваші основи кібербезпеки були сильними та надійними протягом усього року.