Этика
Microsoft расширяет инструменты обеспечения целостности контента для поддержки глобальных выборов на фоне проблем, связанных с генеративным искусственным интеллектом
2024 год станет важным годом для выборов во всем мире: этим летом в Европейском Союзе пройдут парламентские выборы, а примерно половина европейских стран готовится к национальным или региональным выборам. По мере реализации этого демократического упражнения быстрое развитие генеративного искусственного интеллекта подняло вопросы о его потенциальном влиянии на выборы и более широкую информационную экосистему. Возникли опасения по поводу способности технологии генерировать разнообразный контент с высокой скоростью и ее потенциального использования для распространения дезинформации.
Объявление Microsoft
В свете этих событий Microsoft объявила расширение возможностей частного предварительного просмотра инструментов Content Integrity для политических партий и кампаний в Европейском Союзе, а также для новостных организаций по всему миру. Компания заявила, что эти инструменты призваны помочь организациям информировать избирателей о происхождении контента, с которым они сталкиваются в Интернете.
Инструменты обеспечения целостности контента позволяют организациям прикреплять защищенные «учетные данные контента» к своим исходным носителям, предоставляя информацию о том, кто создал или опубликовал контент, где и когда он был создан, был ли он создан искусственным интеллектом, а также был ли носитель отредактирован или изменено с момента его создания. Поддерживая широко распространенное Стандарт учетных данных контентаMicrosoft стремится сделать эти инструменты доступными и совместимыми на разных платформах.
Как работают инструменты обеспечения целостности контента
Инструменты Microsoft Content Integrity состоят из трех основных компонентов. Во-первых, существует веб-приложение, доступное политическим кампаниям, новостным организациям и должностным лицам, ответственным за выборы, которое позволяет им добавлять учетные данные контента к своему контенту. Во-вторых, частное мобильное приложение, разработанное в сотрудничестве с Трупик, позволяет пользователям делать безопасные и аутентифицированные фотографии, видео и аудио, добавляя учетные данные контента в режиме реального времени со своих смартфонов. В-третьих, для специалистов по проверке фактов и широкой общественности доступен общедоступный веб-сайт, на котором можно проверить изображения, аудио и видео на наличие учетных данных контента.
Стандарт Content Credentials предоставляет средства для аутентификации носителя и информирования пользователей о его происхождении. Однако стоит отметить, что этот стандарт подвергся критике из-за относительной простоты удаления метаданных из контента. Кроме того, в настоящее время не существует надежного метода обнаружения текста, сгенерированного ИИ, что представляет собой постоянную проблему в борьбе с дезинформацией.
К первому из трех изображений применены учетные данные контента. (Источник: Microsoft)
Расширение усилий Microsoft по защите выборов
Microsoft признала, что одни только инструменты Content Integrity не являются полным решением проблемы обманных СМИ на выборах. Компания подчеркнула, что эти инструменты являются частью более широкой стратегии защиты от неправомерного использования контента, созданного ИИ.
Ранее в этом году Microsoft присоединилась к Техническое соглашение по борьбе с мошенническим использованием ИИ наряду с 20 другими компаниями. Эта инициатива направлена на борьбу со злоупотреблением видео, аудио и изображениями, которые изменяют внешний вид, голос или действия политических кандидатов и должностных лиц избирательных комиссий. Microsoft также сотрудничает с политическими партиями по всему миру, предоставляя поддержку и обучение по решению проблем, возникающих при использовании ИИ на выборах. Кроме того, компания предлагает помощь в области кибербезопасности через свою команду успеха кампании и программу AccountGuard, чтобы помочь защититься от кибератак на уровне национальных государств, направленных на выборы.
Важный шаг в защите честности выборов
По мере приближения глобальных выборов 2024 года расширение инструментов Microsoft Content Integrity представляет собой важнейший шаг в обеспечении целостности демократических процессов перед лицом развивающихся технологических проблем. Предоставляя политическим партиям, кампаниям и новостным организациям средства аутентификации их средств массовой информации и информирования избирателей о происхождении онлайн-контента, Microsoft способствует созданию более прозрачной и заслуживающей доверия информационной экосистемы.
Однако важно осознавать, что инструменты обеспечения целостности контента — это лишь одна часть головоломки в борьбе с потенциальным неправомерным использованием генеративного ИИ на выборах. Легкость, с которой метаданные могут быть удалены из контента, и отсутствие в настоящее время надежных методов обнаружения текста, сгенерированного ИИ, подчеркивают необходимость постоянных исследований, сотрудничества и бдительности в этой области.
Приверженность Microsoft защите выборов во всем мире посредством таких инициатив, как Техническое соглашение, поддержка политических партий и помощь в области кибербезопасности, демонстрирует признание компанией многогранного характера проблемы. Поскольку технологии продолжают развиваться, а ландшафт угроз развивается, лидерам отрасли, политикам и гражданскому обществу будет крайне важно работать вместе над разработкой и реализацией комплексных стратегий по защите целостности демократических процессов в эпоху цифровых технологий.
