Этика
Microsoft Расширяет Инструменты Интегритета Контента для Поддержки Глобальных Выборов на Фоне Забот о Генеративном ИИ
Добавьте Unite.AI в избранные источники в Google
Год 2024 обещает стать значимым для выборов во всем мире, поскольку Европейский Союз проведет парламентские выборы этим летом, а примерно половина европейских стран готовится к национальным или региональным голосованиям. По мере того, как это демократическое упражнение разворачивается, быстрый прогресс генеративного ИИ вызвал вопросы о его потенциальном влиянии на выборы и более широкую информационную экосистему. Возникли опасения по поводу способности технологии генерировать разнообразный контент на высокой скорости и ее потенциального использования в распространении дезинформации.
Объявление Microsoft
В свете этих событий Microsoft (MSFT ) объявила о расширении частной предварительной версии инструментов Интегритета Контента для политических партий и кампаний в Европейском Союзе, а также для новостных организаций по всему миру. Компания заявила, что эти инструменты предназначены для того, чтобы помочь организациям информировать избирателей о происхождении контента, с которым они сталкиваются в Интернете.
Инструменты Интегритета Контента позволяют организациям присоединять безопасные “Удостоверения Контента” к своей исходной медиа, предоставляя информацию о том, кто создал или опубликовал контент, где и когда он был создан, был ли он сгенерирован ИИ, и был ли медиа отредактировано или изменено с момента его создания. Поддерживая широко принятый стандарт Удостоверений Контента, Microsoft стремится сделать эти инструменты доступными и совместимыми на разных платформах.
Как Работают Инструменты Интегритета Контента
Инструменты Интегритета Контента Microsoft состоят из трех основных компонентов. Первый – это веб-приложение, доступное политическим кампаниям, новостным организациям и избирательным чиновникам, которое позволяет им добавлять Удостоверения Контента к своему контенту. Второй – это частное мобильное приложение, разработанное в партнерстве с Truepic, которое позволяет пользователям захватывать безопасные и аутентифицированные фотографии, видео и аудио, добавляя Удостоверения Контента в режиме реального времени с их смартфонов. Третий – это публичный веб-сайт, доступный для проверки фактов и широкой общественности, для просмотра изображений, аудио и видео на наличие Удостоверений Контента.
Стандарт Удостоверений Контента предоставляет средство для аутентификации медиа и информирования пользователей о его происхождении. Однако стоит отметить, что этот стандарт подвергся критике за относительную легкость, с которой метаданные могут быть удалены из контента. Кроме того, в настоящее время нет надежного метода обнаружения текста, сгенерированного ИИ, что представляет собой постоянную проблему в борьбе с дезинформацией.
Первое из трех изображений имеет примененные Удостоверения Контента. (Источник: Microsoft)
Более Широкие Усилия Microsoft по Защите Выборов
Microsoft признала, что инструменты Интегритета Контента сами по себе не являются полным решением проблемы обманного медиа на выборах. Компания подчеркнула, что эти инструменты являются частью более широкой стратегии защиты против злоупотребления контентом, сгенерированным ИИ.
Ранее в этом году Microsoft присоединилась к Технологическому Соглашению о Борьбе с Обманом ИИ вместе с 20 другими компаниями. Эта инициатива направлена на решение проблемы злоупотребления видео, аудио и изображениями, которые изменяют внешность, голос или действия политических кандидатов и избирательных чиновников. Microsoft также работает с глобальными политическими партиями, чтобы предоставить поддержку и обучение по навигации в проблемах, связанных с ИИ на выборах. Кроме того, компания предлагает помощь в области кибербезопасности через свою команду Campaign Success и программу AccountGuard, чтобы помочь защититься от кибератак на выборах.
Критический Шаг в Защите Интегритета Выборов
По мере приближения глобальных выборов 2024 года, расширение инструментов Интегритета Контента Microsoft представляет собой критический шаг в защите целостности демократических процессов перед лицом эволюционирующих технологических проблем. Предоставляя политическим партиям, кампаниям и новостным организациям средства для аутентификации своего медиа и информирования избирателей о происхождении онлайн-контента, Microsoft вносит свой вклад в создание более прозрачной и заслуживающей доверия информационной экосистемы.
Однако важно признать, что инструменты Интегритета Контента являются лишь одной частью головоломки в борьбе с потенциальным злоупотреблением генеративным ИИ на выборах. Легкость, с которой метаданные могут быть удалены из контента, и отсутствие надежных методов обнаружения текста, сгенерированного ИИ, подчеркивают необходимость постоянных исследований, сотрудничества и бдительности в этой области.
Компания Microsoft признала многогранную природу проблемы. По мере того, как технологии продолжают развиваться и ландшафт угроз эволюционирует, будет крайне важно, чтобы лидеры отрасли, политические деятели и гражданское общество работали вместе, чтобы разработать и реализовать комплексные стратегии защиты целостности демократических процессов в цифровую эпоху.
