Як штучний інтелект, який використовує глибокі підробки, загрожує цілісності виборів — і що з цим робити

Рекламні оголошення кампаній вже можуть бути досить заплутаними і суперечливими.

Тепер уявіть, що ви стали ціллю для рекламного оголошення кампанії, в якому кандидат висловлює сильні позиції, які впливають на ваш голос — і оголошення навіть не справжнє. Це глибока підробка.

Це не якийсь футуристичний гіпотетичний сценарій; глибокі підробки — реальна, поширена проблема. Ми вже бачили штучно створені “відгуки”, які роблять заголовки, і те, що ми чули, тільки поверхнево торкається проблеми.

Під час підходу до президентських виборів у США в 2024 році ми вступаємо в невідкриту територію в галузі кібербезпеки та цілісності інформації. Я працював на перетині кібербезпеки та штучного інтелекту з тих пір, як ці концепції були ще в зародку, і я ніколи не бачив нічого подібного до того, що відбувається зараз.

Швидка еволюція штучного інтелекту — зокрема генеративного штучного інтелекту і, звичайно, легкості створення реалістичних глибоких підробок — змінила ландшафт загроз виборам. Ця нова реальність вимагає зміни базових припущень щодо безпеки виборів і освіти виборців.

Збройовий штучний інтелект

Вам не потрібно приймати моший особистий досвід як доказ; є багато доказів того, що кібербезпеки, з якою ми стикаємося сьогодні, розвиваються з безпрецедентною швидкістю. За кілька років ми стали свідками драматичної трансформації можливостей і методологій потенційних загроз. Ця еволюція віддзеркалює прискорену розробку штучного інтелекту, але з тривожним поворотом.

Наприклад:

• Швидка збройовість уразливостей. Сьогодні атакувальники можуть швидко використати нововиявлені уразливості, часто швидше, ніж патчі можуть бути розроблені та розгорнуті. Інструменти штучного інтелекту ще більше прискорюють цей процес, зменшуючи час між відкриттям уразливості та її використанням.
• Розширення поверхні атаки. Широке впровадження технологій хмарних обчислень суттєво розширило потенційну поверхню атаки. Розподілена інфраструктура та спільна модель відповідальності між постачальниками хмарних послуг і користувачами створюють нові вектори для експлуатації, якщо вони не керуються належним чином.
• Застарілі традиційні заходи безпеки. Традиційні засоби безпеки, такі як брандмауери та антивірусне програмне забезпечення, борються за те, щоб跟ати за цими еволюціонуючими загрозами, особливо коли справа досягає виявлення та пом’якшення штучно створеного контенту.

Хто говорить

У цьому новому ландшафті загроз глибокі підробки представляють особливо хитрую проблему для цілісності виборів. Нещодавнє дослідження компанії Ivanti надає деякі цифри щодо загрози: понад половина працівників офісу (54%) не знають, що просунутий штучний інтелект може імітувати голос будь-кого. Це відсутність усвідомлення серед потенційних виборців дуже тривожно, оскільки ми наближаємося до критичного виборчого циклу.

Стільки чого залежить.

Складність сучасних технологій глибоких підробок дозволяє загрозливим акторам, як іноземним, так і внутрішнім, створювати переконливий фальшивий аудіо-, відео- та текстовий контент з мінімальними зусиллями. Проста текстова підказка зараз може генерувати глибоку підробку, яку все важче відрізнити від справжнього контенту. Ця здатність має серйозні наслідки для поширення дезінформації та маніпулювання громадською думкою.

Виклики атрибуції та пом’якшення

Атрибуція — одна з найбільш значущих викликів, з якими ми стикаємося при штучно створеному втручанні у вибори. Хоча ми історично асоціювали втручання у вибори з акторами-націями, демократизація інструментів штучного інтелекту означає, що внутрішні групи, керуючись різними ідеологічними мотивами, тепер можуть використовувати ці технології для впливу на вибори.

Ця дифузія потенційних загрозливих акторів ускладнює нашу здатність ідентифікувати та пом’якшувати джерела дезінформації. Це також підкреслює необхідність багатовимірного підходу до безпеки виборів, який виходить за рамки традиційних заходів кібербезпеки.

Координовані зусилля для підтримки цілісності виборів

Вирішення проблеми штучно створених глибоких підробок на виборах вимагатиме координованих зусиль у кількох секторах. Ось ключові галузі, на яких нам потрібно зосередитися:

• Безпека зрушення вліво для систем штучного інтелекту. Нам потрібно застосувати принципи безпеки “зрушення вліво” до розробки самих систем штучного інтелекту. Це означає включення питань безпеки з самих ранніх стадій розробки моделей штучного інтелекту, включаючи питання потенційного зловживання при втручанні у вибори.
• Впровадження безпечних конфігурацій. Системи штучного інтелекту та платформи, які потенційно можуть бути використані для створення глибоких підробок, повинні мати безпечні конфігурації за замовчуванням. Це включає сильні засоби аутентифікації та обмеження на типи контенту, який може бути створений.
• Захист ланцюга постачання штучного інтелекту. Як ми зосереджуємося на забезпеченні безпеки ланцюга постачання програмного забезпечення, нам потрібно розширити цю пильність на ланцюг постачання штучного інтелекту. Це включає перевірку наборів даних, використаних для навчання моделей штучного інтелекту, та алгоритмів, використаних у генеративних системах штучного інтелекту.
• Покращені можливості виявлення. Нам потрібно інвестувати в розвиток передових інструментів виявлення, які можуть ідентифікувати штучно створений контент, особливо в контексті інформації, пов’язаної з виборами. Це, ймовірно, буде включати використання самого штучного інтелекту для боротьби з штучно створеною дезінформацією.
• Освіта виборців та підвищення усвідомлення. Критично важливим компонентом нашої оборони проти глибоких підробок є інформований електорат. Нам потрібно комплексні освітні програми, щоб допомогти виборцям зрозуміти існування та потенційний вплив штучно створеного контенту, а також надати їм інструменти для критичної оцінки інформації, з якою вони стикаються.
• Співробітництво між секторами. Сектор технологій, особливо компанії з інформаційних технологій та кібербезпеки, повинні тісно співпрацювати з урядовими агентствами, офіційними особами виборів та медіа-організаціями, щоб створити єдиний фронт проти штучно створеного втручання у вибори.

Що зараз, і що далі

Під час реалізації цих стратегій важливо постійно вимірювати їхню ефективність. Це буде вимагати нових метрик та інструментів моніторингу, спеціально розроблених для відстеження впливу штучно створеного контенту на дискурс виборів та поведінку виборців.

Нам також потрібно бути готовими швидко адаптувати свої стратегії. Область штучного інтелекту розвивається з неймовірною швидкістю, і наші захисні заходи повинні розвиватися з такою ж швидкістю. Це може включати використання самого штучного інтелекту для створення більш міцних та адаптивних заходів безпеки.

Виклик штучно створених глибоких підробок на виборах представляє новий розділ у кібербезпеці та цілісності інформації. Щоб вирішити цю проблему, нам потрібно мислити за рамками традиційних парадигм безпеки та розвивати співробітництво між секторами та дисциплінами. Мета: використовувати силу штучного інтелекту на користь демократичних процесів, одночасно пом’якшуючи його потенціал для шкоди. Це не тільки технічний виклик, але й суспільний, який буде вимагати постійної пильності, адаптації та співробітництва.

Цілісність наших виборів — і, поширення, здоров’я нашої демократії — залежить від нашої здатності впоратися з цим викликом. Це відповідальність, яка лежить на всіх нас: технологах, політиках та громадянах.