Facebook Удалил Аккаунты, Сгенерированные ИИ И Используемые Для Распространения Конспирологических Теорий

Компании социальных сетей стремятся контролировать дезинформацию в преддверии избирательного сезона 2020 года различными способами. В то время как Twitter недавно запретил политическую рекламу на своей платформе, Facebook (META ) только что объявил, что закрыл сотни фальшивых аккаунтов, групп и страниц. Многие из этих аккаунтов, кажется, имеют профильные изображения, сгенерированные искусственным интеллектом, и многие, как сообщается, были использованы для распространения дезинформации и конспирологических теорий.

Как сообщает Forbes, Facebook заявил, что заблокированные аккаунты и страницы были связаны с сетью “Красота жизни” или “TheBL”, которую Facebook связал с консервативной группой издания новостей Epoch Times. Согласно Facebook, Epoch Media Group потратил почти 9,5 миллиона долларов на рекламу через многие из теперь заблокированных страниц и групп, многие из которых содержали теории заговора в поддержку Трампа. Хотя Epoch Media Group отрицает обвинения, Facebook заявил, что работал в тесном сотрудничестве с независимыми исследователями, такими как Graphika и Лаборатория цифровых исследований Atlantic Council (DFRLab), чтобы определить характер аккаунтов и страниц перед тем, как принять против них меры.

Согласно Facebook, аккаунты были удалены за “координированное неаутентичное поведение”, намеренно вводящее других в заблуждение относительно их личностей, и за попытки политического вмешательства. Согласно CNET, Facebook заявил, что аккаунты часто публиковали контент, продвигающий определенных политических кандидатов и идеологию, фокусируясь на консервативных выборах, консервативных политиках и сильной поддержке президента Трампа.

Facebook опубликовал 39-страничный отчет о событии, в котором изложил многие из своих находок. Одним из заметных аспектов отчета Facebook было то, что многие из заблокированных аккаунтов были созданы с помощью ИИ. Исследователи Facebook заявили в отчете:

“Десятки этих фальшивых аккаунтов имели профильные изображения, сгенерированные искусственным интеллектом, в первом крупномасштабном развертывании фальшивых лиц, известном авторам этого отчета.”

Согласно выводам отчета, изображения, сгенерированные ИИ, не были идеальными, с деталями, часто выдающими их истинную природу. Смежные элементы изображения, такие как очки или волосы человека, часто были асимметричными. Кроме того, фоновые детали часто были размытыми и искаженными. Однако эти элементы могут не быть заметны на первый взгляд, особенно учитывая небольшие размеры изображений профилей в цепочке комментариев Facebook. Многие из фальшивых профилей также, казалось, имели фальшивую информацию о профиле и даже фальшивые посты, потенциально сгенерированные ИИ.

Как сообщает NBC, глава политики безопасности Facebook, Натаниэль Глейхер, заявил, что поведение аккаунтов было тем, что выдало их как неаутентичные, и что попытки использовать фальшивые изображения и информацию о профиле не помогают защитить аккаунты от обнаружения. Глейхер заявил, что изображения, сгенерированные ИИ, на самом деле делают аккаунты более вероятными для обнаружения. Глейхер заявил:

“Мы обнаружили эти аккаунты, потому что они занимались фальшивым поведением. Использование профилей, сгенерированных ИИ, в качестве способа сделать себя более реальными, не помогает им. Самое главное здесь – это возмутительность сети в использовании фальшивых идентификаторов… Что нового здесь – это якобы американская медиакомпания, использующая иностранных актеров, выдающих себя за американцев, для продвижения политического контента. Мы видели это много раз у государственных акторов в прошлом.”

Тем не менее, независимые исследователи из Graphika и Atlantic Council заявили, что легкость, с которой злоумышленники смогли создать так много изображений и придать своим аккаунтам кажущуюся аутентичность, “вызывает беспокойство”. Facebook и другие компании социальных сетей находятся под давлением, чтобы усилить усилия по борьбе с распространением политической дезинформации, задача, которая требует оставаться на шаг впереди тех, кто стремится распространить дезинформацию.

До того, как Facebook удалил аккаунты, страницы и группы, контент, опубликованный этими сущностями, достиг миллионов людей. Согласно сообщениям, как минимум 55 миллионов аккаунтов подписались на одну из 89 заблокированных страниц. Большинство подписчиков были неамериканскими аккаунтами. Всего было удалено около 600 аккаунтов, 90 страниц и 150 групп с Facebook. Приблизительно 70 аккаунтов также были удалены с Instagram.

Эта новость появилась как раз в тот момент, когда Facebook запускает вызов по обнаружению DeepFake, который продлится до марта 2020 года. Twitter также недавно заблокировал почти 6000 аккаунтов, которые, как подозревают, возникли в Саудовской Аравии и опубликовали намеренно вводящий в заблуждение контент.