Кто защитит нас от дезинформации, сгенерированной ИИ?

Генеративный ИИ за менее чем год прошел путь от нуля до ста. Хотя это еще рано, он уже показал свой потенциал трансформировать бизнес. В этом мы все можем согласиться. Но где мы расходимся, так это в вопросе, как сдержать опасности, которые он представляет.

Чтобы быть ясным, я являюсь сторонником инноваций и далек от страхов. Но recent рост дезинформации – в основном направленной на поляризацию вокруг спорных вопросов момента – сделал ясным, что, если оставить без контроля, генеративный ИИ может нанести огромный ущерб обществам.

Мы уже видели это в случае с социальными сетями, но на то, чтобы проснуться и увидеть их недостатки, у нас ушло годы и тяжелые уроки. Мы (предположительно) чему-то научились. Вопрос сейчас в том, кто поможет сдержать поток искажения реальности от генеративного ИИ, и как?

Предсказуемо, правительства начинают действовать. Европа ведет за собой, как они все чаще демонстрируют в регулировании технологий. США идут прямо за ними, с Президентом Байденом, издавшим исполнительный приказ в прошлом октябре.

Но для этого потребуется глобальная村, действующая вместе, чтобы “держать генеративный ИИ честным”. И прежде чем правительство сможет помочь, оно должно понять ограничения доступных подходов.

Проблема идентичности стала намного хуже

В этом новом мире истина становится иголкой в стоге сена мнений, маскирующихся под факты. Знание откуда исходит контент имеет значение больше, чем когда-либо.

И это не так просто, как декретировать, что каждая учетная запись в социальных сетях должна быть верифицирована по идентичности. Есть яростное сопротивление этому, и в некоторых случаях анонимность необходима для оправданной защиты держателей учетных записей. Более того, многие потребители худшего контента не заботятся о том, является ли он достоверным, ни откуда он исходит.

Несмотря на эти оговорки, потенциальная роль идентичности в борьбе с генеративным ИИ недооценена. Септики, послушайте меня.

Давайте представим, что регулирование или социальная совесть заставляют платформы дать каждому держателю учетной записи эти варианты:

1. Верифицировать свою идентичность или нет, и
2. Открыто раскрыть свою верифицированную идентичность или просто быть помеченным как “Верифицировано”
   

Тогда аудитория социальных сетей сможет лучше решить, кто достоверен. Не менее важно, если не более, идентичность поддерживает подотчетность. Платформы могут решить, какие действия предпринять против серийных “дезинформаторов” и повторных злоупотреблений контентом, сгенерированным ИИ, даже если они появляются под разными именами учетных записей.

С генеративным ИИ, повышающим ставки, я считаю, что идентичность – знание точно кто опубликовал что – имеет решающее значение. Некоторые будут противостоять этому, и идентичность не является всесторонним ответом. На самом деле, нет решения, которое удовлетворит всех заинтересованных сторон. Но если регулирование заставит платформы предложить верификацию идентичности всем учетным записям, я убежден, что влияние будет огромным положительным.

Дилемма модерации

Модерация контента – автоматическая и человеческая – является последней линией обороны против нежелательного контента. Человеческая модерация – это трудная работа, с риском психологического вреда от воздействия худшего, что может предложить человечество. Это также дорого и часто обвиняется в предвзятой цензуре, которую платформы стремятся сократить.

Автоматическая модерация масштабируется за пределы человеческой способности справиться с потоками нового контента, но она не понимает контекст (мемы являются распространенным примером) и культурные нюансы. Оба вида модерации важны и необходимы, но они являются только частью ответа.

Часто слышимый, традиционный рецепт контроля над генеративным ИИ: “Сотрудничество между лидерами технологий, правительством и гражданским обществом необходимо.” Конечно, но что конкретно?

Правительства, в свою очередь, могут заставить социальные и медиа-платформы предложить верификацию идентичности и проминентно отображать ее во всех публикациях. Регуляторы также могут проложить путь к метрикам достоверности, которые действительно помогают оценить, является ли источник достоверным. Сотрудничество необходимо для разработки универсальных стандартов, которые дают конкретные рекомендации и направление, чтобы частный сектор не должен угадывать.

Наконец, должно ли быть незаконным создавать злонамеренный контент ИИ? Законодательство, запрещающее контент, предназначенный для незаконной деятельности, может уменьшить объем токсичного контента и облегчить нагрузку на модераторов. Я не вижу регулирования и законов как способных победить дезинформацию, но они необходимы в противостоянии угрозе.

Солнечная сторона улицы: инновации

Обещание инноваций делает меня оптимистом здесь. Мы не можем ожидать, что политики или владельцы платформ полностью защитят нас от обмана, сгенерированного ИИ. Они оставляют большой пробел, и это именно то, что вдохновит изобретение новых технологий для аутентификации контента и обнаружения фальсификаций.

Поскольку мы теперь знаем о недостатках социальных сетей, мы быстро поняли, что генеративный ИИ может оказаться огромным отрицательным для человечества, с его способностью поляризовать и ввести в заблуждение.

Оптимистически, я вижу выгоды от многосторонних подходов, где методы контроля работают вместе, сначала на источнике, ограничивая создание контента, предназначенного для незаконного использования. Затем, до публикации, верифицируя идентичность тех, кто отказывается от анонимности. Далее, четкая маркировка, чтобы показать рейтинги достоверности и идентичность автора или ее отсутствие. Наконец, автоматическая и человеческая модерация могут фильтровать некоторые из худших. Я ожидаю, что новые технологии аутентификации скоро появятся.

Сложив все вместе, у нас будет намного лучше, хотя и не идеальное, решение. Тем временем мы должны развивать свои навыки, чтобы понять, что реально, кто говорит правду, и кто пытается обмануть нас.