Зростаючий вплив штучного інтелекту на шахрайство на виборах цього сезону

У 2022 році шкідливі електронні листи були націлені на працівників округу Пенсільванія підскочив перед первинними виборами 17 травня, піднявшись більш ніж на 546% за шість місяців. У поєднанні з потенціалом для мерзенних великих мовних моделей (LLM) на додачу до цих традиційних фішингових атак існує висока ймовірність того, що звичайний американець стане мішенню ще більш реалістичного шахрайства цього сезону виборів.

Уряди починають помічати це, особливо коли штучний інтелект стає інтегрованим у наше повсякденне життя. Наприклад, Агентство з кібербезпеки та безпеки інфраструктури США запущений програму посилення безпеки виборів, демонструючи зростаючий запит як з боку уряду, так і громадськості щодо захисту себе та своїх даних від потенційних зловмисників цього виборчого сезону.

А ще нещодавно, на Мюнхенській конференції з безпеки 2024 року, 20 технологічних компаній та компаній зі штучним інтелектом підписали «Технічна угода щодо боротьби з оманливим використанням ШІ на виборах 2024 року» який висвітлює керівні принципи захисту виборів і виборчого процесу, включаючи запобігання, походження, виявлення, оперативний захист, оцінку та інформування громадськості. У складі великих технологічних гравців, включаючи Microsoft, Amazon і Google, це означає важливий зрушення в галузі, що навіть поза політичними пристрастями безпека даних є темою, яка хвилюватиме громадян і кіберекспертів протягом решти року виборів. Крім того, генеративний штучний інтелект значною мірою вплине на те, як зловмисники можуть здійснювати свої атаки, що полегшить здійснення дуже реалістичних шахрайств.

Види шахрайства на виборах

Хоча передвиборчий період — не єдиний час, коли ми бачимо збільшення кількості шахрайств, коли приходить час голосувати, чи то на праймеріз, чи то на загальних виборах, ми, як правило, бачимо збільшення кількох методів і технік. Кожне з них використовується з типовою метою отримати доступ до облікового запису особи або отримати грошову вигоду, і наслідки потрапляння на них можуть мати значні наслідки. Насправді лише шахрайство з глибокими фейками обійшлося США дорожче 3.4 млрд доларів у втратах.

Деякі приклади шахрайства, які ми спостерігаємо під час виборів, включають:

• Фішинг: Фішинг передбачає використання фальшивих посилань, електронних листів і веб-сайтів для отримання доступу до конфіденційної інформації споживача – зазвичай шляхом встановлення зловмисного програмного забезпечення в цільовій системі. Потім ці дані використовуються для викрадення інших осіб, отримання доступу до цінних активів і перевантаження вхідних повідомлень електронною поштою спамом. Під час виборів фішингові електронні листи можна замаскувати під електронні листи про пожертви, які спонукають громадянина натиснути посилання, думаючи, що вони роблять пожертву кандидату, але насправді грають у схему поганого актора.
• Роботизовані дзвінки, уособлення та голосові або чат-боти, згенеровані ШІ: Як видно в Нью-Гемпширі коли автоматичний дзвінок видавав себе за президента Байдена, який закликав громадян не голосувати, сезон виборів призведе до збільшення кількості видань за опитувальників чи політичних кандидатів, щоб неправдиво заслужити довіру та отримати конфіденційну інформацію.
• Deepfakes: З розвитком штучного інтелекту дипфейки сьогодні стали неймовірно реалістичними, і їх можна використовувати, щоб імітувати боса чи навіть вашу улюблену знаменитість. Deepfakes — це відео або зображення, які використовують штучний інтелект для заміни облич або маніпулювання виразом обличчя чи мовою. Багато дипфейків, з якими ми стикаємося щодня, будуть у формі відео з підробленим роликом, на якому зображено людину, яка говорить або робить те, чого вона, можливо, ніколи не робила. Очікується, що це буде особливо поширеним у цей сезон виборів із ризиком створення дипфейків, щоб видати себе за кандидатів. Навіть за межами США, наприклад у Великобританії, існують побоювання, що дипфейки можуть бути використані для фальсифікації виборів.

Вплив ШІ на вибори

Крім цих шахрайств, алгоритми штучного інтелекту використовуються для створення більш переконливих і привабливих підроблених повідомлень, електронних листів і публікацій у соціальних мережах, щоб обманом змусити користувачів надати конфіденційну інформацію.

Microsoft і OpenAI опублікували брифінг щодо загроз, “Боротьба з кіберзагрозами та зміцнення захисту в епоху ШІ”, в якому зазначено, що п’ять загрозливих акторів із Росії, Північної Кореї, Ірану та Китаю вже використовують GenAI для нових інноваційних способів покращення своїх операцій проти легких цілей.

Шахрайство, як-от чат-боти, клонування голосу тощо, робить ще один крок далі завдяки штучному інтелекту як інструменту для поширення дезінформації, розробки зловмисного програмного забезпечення та видавання себе за інших. Інструменти клонування голосу можуть створювати майже ідеальні копії голосу чи обличчя виборчого діяча, наприклад. Штучний інтелект також можна використовувати для заповнення кол-центрів фальшивими дзвінками виборців, переповнюючи їх дезінформацією.

Найбільшою пильністю будуть соціальні мережі, оскільки вони є основним засобом кампанії цього виборчого сезону. Виборці поділяться, чи проголосували вони, і, можливо, навіть підтримають свого улюбленого кандидата на своїх сторінках. Однак цей рік створює нову загрозу, оскільки ми спостерігаємо нове збільшення шахрайства, пов’язаного з фішингом штучного інтелекту (включаючи смішинг і вішинг).

Подумайте, чи хтось опублікував у своєму акаунті в соціальних мережах повідомлення про підтримку конкретного кандидата. Через кілька хвилин вони отримують електронний лист, нібито від менеджера кампанії, з подякою за підтримку. Ця потенційна жертва може перейти до електронної пошти, натиснувши посилання, відкривши для неї доступ до збору облікових даних, фінансових втрат або встановлення зловмисного програмного забезпечення. Завдяки здатності штучного інтелекту відстежувати, створювати та проводити цільові фішингові кампанії майже в реальному часі, здавалося б, невинні публікації в соціальних мережах тепер відкривають користувачам новий рівень реалістичних схем фішингу.

Залишайтеся пильними в цей сезон виборів

Такі атаки, як фішинг, і надалі залишатимуться звичайним способом для зловмисників створювати реалістичні шахрайства, які можуть проскочити навіть найобізнанішим, і в епоху генеративного штучного інтелекту їхній потенційний вплив лише прискорився, щоб надати зловмисникам швидший доступ до конфіденційних інформації.

У той час як компанії впроваджують технології для захисту своїх даних і співробітників, споживачі також повинні знати про методи виявлення та уникнення шахрайства. Деякі з них включають:

• Пошук випадкових або неправильно написаних гіперпосилань або рядків теми електронних листів
• Не натискання посилання від невідомого відправника
• Застосування двофакторної автентифікації або біометричної автентифікації, де це можливо
• Зробити облікові записи соціальних мереж приватними
• Повідомлення про зловмисну ​​діяльність
• Навчання інших колег або членів родини
• Знайдіть домен веб-сайту .gov, щоб перевірити автентичність кандидата на виборах
• Якщо у вас на роботі є ІТ, ви також можете запитати про:
  • Мережі нульової довіри
  • Двофакторна автентифікація, стійка до фішингу
  • Інструменти безпеки електронної пошти (DMARC, DKIM, SPF)
  • Методи цифрового підпису вмісту (або інший спосіб криптографічного підтвердження вашого зв’язку)

Незважаючи на те, що сезони виборів – це час, коли потрібно бути у стані підвищеної готовності, атаки можуть статися будь-коли, тому важливо переконатися, що ваша основа кібербезпеки є міцною та надійною протягом усього року.