Как ИИ-генерируемые дипфейки угрожают целостности выборов — и что с этим делать

Рекламные ролики кампаний уже могут быть довольно запутанными и противоречивыми.

Теперь представьте, что вы стали целью рекламного ролика кампании, в котором кандидат выражает сильные позиции, которые влияют на ваш голос — и этот ролик даже не реален. Это дипфейк.

Это не какой-то гипотетический сценарий из будущего; дипфейки — реальная и повсеместная проблема. Мы уже видели, как ИИ-генерируемые “одобрения” попадают в заголовки, и то, что мы слышим, — это только верхушка айсберга.

Когда мы приближаемся к выборам президента США в 2024 году, мы вступаем в неизведанную территорию кибербезопасности и целостности информации. Я работал на пересечении кибербезопасности и ИИ с тех пор, как эти концепции были еще в зачаточном состоянии, и я никогда не видел ничего подобного тому, что происходит сейчас.

Быстрое развитие искусственного интеллекта — в частности, генеративного ИИ и, конечно же, легкости создания реалистичных дипфейков — изменило ландшафт угроз выборов. Эта новая реальность требует изменения базовых предположений относительно безопасности выборов и образования избирателей.

Военизированный ИИ

Вам не нужно принимать мою личный опыт как доказательство; есть множество доказательств того, что кибербезопасные проблемы, с которыми мы сталкиваемся сегодня, развиваются с беспрецедентной скоростью. За несколько лет мы стали свидетелями драматического преобразования возможностей и методов потенциальных злоумышленников. Эта эволюция отражает ускоренное развитие, которое мы наблюдаем в технологиях ИИ, но с тревожным поворотом.

Примером этого служит:

• Быстрая военизация уязвимостей. Сегодня атакующие могут быстро использовать только что обнаруженные уязвимости, часто быстрее, чем можно разработать и развернуть патчи. Инструменты ИИ еще больше ускоряют этот процесс, сокращая время между обнаружением уязвимости и ее использованием.
• Расширенная поверхность атаки. Широкое внедрение облачных технологий существенно расширило потенциальную поверхность атаки. Распределенная инфраструктура и модель совместной ответственности между облачными провайдерами и пользователями создают новые векторы для эксплуатации, если их не управлять должным образом.
• Устаревшие традиционные меры безопасности. Наследственные инструменты безопасности, такие как брандмауэры и антивирусное программное обеспечение, борются за то, чтобы идти в ногу с этими развивающимися угрозами, особенно когда речь идет о обнаружении и смягчении ИИ-генерируемого контента.

Кто говорит

В этом новом ландшафте угроз дипфейки представляют собой особенно хитрую проблему для целостности выборов. Недавние исследования компании Ivanti дают некоторые цифры этой угрозе: более половины сотрудников офисов (54%) не знают, что продвинутый ИИ может имитировать голос любого человека. Это отсутствие осведомленности среди потенциальных избирателей очень тревожно, когда мы приближаемся к критическому циклу выборов.

Ставки очень высоки.

Современность сегодняшних технологий дипфейков позволяет злоумышленникам, как иностранным, так и внутренним, создавать убедительный фальшивый аудио-, видео- и текстовый контент с минимальными усилиями. Простой текстовый запрос может теперь сгенерировать дипфейк, который все труднее отличить от настоящего контента. Эта способность имеет серьезные последствия для распространения дезинформации и манипулирования общественным мнением.

Проблемы атрибуции и смягчения

Атрибуция — одна из наиболее значительных проблем, с которыми мы сталкиваемся при ИИ-генерируемом вмешательстве в выборы. Хотя мы исторически ассоциировали вмешательство в выборы с акторами-нациями, демократизация инструментов ИИ означает, что внутренние группы, движимые различными идеологическими мотивами, могут теперь использовать эти технологии для влияния на выборы.

Эта диффузия потенциальных злоумышленников усложняет нашу способность выявить и смягчить источники дезинформации. Она также подчеркивает необходимость многофакторного подхода к безопасности выборов, который выходит за рамки традиционных мер кибербезопасности.

Координированные усилия по поддержанию целостности выборов

Решение проблемы ИИ-генерируемых дипфейков на выборах потребует координированных усилий по нескольким секторам. Вот ключевые области, на которые нам нужно сосредоточить наши усилия:

• Безопасность ИИ-систем сдвигом влево. Нам нужно применить принципы безопасности сдвигом влево к разработке самих ИИ-систем. Это означает включение соображений безопасности на ранних стадиях разработки ИИ-моделей, включая соображения потенциального неправильного использования в вмешательстве в выборы.
• Принудительное обеспечение безопасных конфигураций. ИИ-системы и платформы, которые потенциально могут быть использованы для создания дипфейков, должны иметь по умолчанию безопасные конфигурации. Это включает в себя сильные меры аутентификации и ограничения на типы контента, который может быть сгенерирован.
• Обеспечение безопасности цепочки поставок ИИ. Как и мы фокусируемся на безопасности цепочки поставок программного обеспечения, нам нужно расширить это бдительность на цепочку поставок ИИ. Это включает в себя тщательный осмотр наборов данных, используемых для обучения ИИ-моделей, и алгоритмов, используемых в генеративных ИИ-системах.
• Улучшенные возможности обнаружения. Нам нужно инвестировать в и разрабатывать передовые инструменты обнаружения, которые могут выявить ИИ-генерируемый контент, особенно в контексте информации, связанной с выборами. Это, вероятно, потребует использования самого ИИ для борьбы с ИИ-генерируемой дезинформацией.
• Образование избирателей и осведомленность. Критически важным компонентом нашей защиты от дипфейков является информированный электорат. Нам нужно комплексные программы образования, чтобы помочь избирателям понять существование и потенциальное влияние ИИ-генерируемого контента и предоставить им инструменты для критической оценки информации, с которой они сталкиваются.
• Сотрудничество между секторами. Технологический сектор, особенно ИТ- и кибербезопасные компании, должны тесно работать с государственными агентствами, избирательными чиновниками и медиа-организациями, чтобы создать единный фронт против ИИ-генерируемого вмешательства в выборы.

Что сейчас и что дальше

Когда мы реализуем эти стратегии, важно, чтобы мы непрерывно измеряли их эффективность. Это потребует новых метрик и инструментов мониторинга, специально разработанных для отслеживания влияния ИИ-генерируемого контента на дискурс выборов и поведение избирателей.

Нам также следует быть готовыми быстро адаптировать наши стратегии. Область ИИ развивается с беспрецедентной скоростью, и наши оборонительные меры должны развиваться с той же скоростью. Это может включать использование самого ИИ для создания более прочных и адаптируемых мер безопасности.

Проблема ИИ-генерируемых дипфейков на выборах представляет собой новую главу в кибербезопасности и целостности информации. Чтобы решить эту проблему, нам нужно думать за пределами традиционных парадигм безопасности и способствовать сотрудничеству между секторами и дисциплинами. Цель: использовать силу ИИ для пользы демократических процессов, смягчая его потенциал для вреда. Это не только техническая проблема, но и социальная проблема, которая потребует постоянной бдительности, адаптации и сотрудничества.

Целостность наших выборов — и, следовательно, здоровье нашей демократии — зависит от нашей способности решить эту проблему напрямую. Это ответственность, которая лежит на всех нас: технологах, политиках и гражданах.