Инструменты браузера на основе ИИ направлены на распознавание Deepfakes и другой фейковой медиа

Усилия технологических компаний по борьбе с дезинформацией и фейковым контентом переходят на новый уровень в последнее время, поскольку технологии создания фейкового контента, такие как DeepFakes, становятся более доступными и совершенными. Одним из предстоящих попыток помочь людям обнаружить и бороться с Deepfakes является RealityDefender, разработанный Фондом ИИ, который посвятил себя разработке этических агентов и помощников ИИ, которые пользователи могут обучать для выполнения различных задач.

Самым заметным проектом Фонда ИИ является платформа, которая позволяет людям создавать свои собственные цифровые персоны, похожие на них и представляющие их в виртуальных пространствах. Фонд ИИ находится под наблюдением Глобального совета ИИ, и в рамках своего мандата они должны предвидеть возможные негативные последствия платформ ИИ, а затем попытаться опередить эти проблемы. По сообщениям VentureBeat, одним из инструментов, созданных Фондом ИИ для помощи в обнаружении Deepfakes, является Reality Defender. Reality Defender – это инструмент, который человек может использовать в своем браузере, который будет анализировать видео, изображения и другие типы медиа, чтобы обнаружить признаки того, что медиа были фальсифицированы или изменены каким-либо образом. Надеются, что этот инструмент поможет противостоять растущему потоку Deepfakes в интернете, который, по некоторым оценкам, примерно удвоился за последние шесть месяцев.

Reality Defender работает, используя различные алгоритмы на основе ИИ, которые могут обнаружить подсказки, предполагающие, что изображение или видео могут быть фальсифицированы. Модели ИИ обнаруживают тонкие признаки обмана и манипуляции, и ложные положительные результаты, обнаруженные моделью, помечаются как неверные пользователями инструмента. Данные затем используются для повторной тренировки модели. Компании ИИ, создающие необманывающие Deepfakes, имеют свой контент, помеченный тегом “честный ИИ” или водяным знаком, который позволяет людям легко идентифицировать фейковые медиа, сгенерированные ИИ.

Reality Defender – это только один из набора инструментов и всей платформы ответственности ИИ, которую Фонд ИИ пытается создать. Фонд ИИ работает над созданием Guardian AI, платформы ответственности, построенной на принципе, что у людей должна быть возможность получить доступ к личным агентам ИИ, которые работают на них и могут помочь защитить их от эксплуатации злоумышленниками. По сути, Фонд ИИ стремится как расширить сферу применения ИИ в обществе, сделав его более доступным для людей, так и защитить от рисков ИИ.

Reality Defender – не единственный новый продукт на основе ИИ, направленный на снижение дезинформации в США. Аналогичный продукт – SurfSafe, созданный двумя студентами Университета Калифорнии в Беркли, Роханом Фадте и Эшем Бхатом. По сообщениям The Verge, SurfSafe работает, позволяя пользователям кликнуть на медиа, которое их интересует, и программа выполняет обратный поиск изображений и пытается найти подобный контент из различных доверенных источников в интернете, помечая изображения, которые известны как фальсифицированные.

Неясно, насколько эффективными будут эти решения в долгосрочной перспективе. Профессор колледжа Дартмута и эксперт по судебной экспертизе Хани Фарид был процитирован The Verge как сказавший, что он “чрезвычайно скептичен” относительно планов систем, таких как Reality Defender, которые будут работать осмысленно. Фарид объяснил, что одной из ключевых проблем при обнаружении фейкового контента является то, что медиа не является чисто фейковым или реальным. Фарид объяснил:

“Есть континуум; невероятно сложный диапазон проблем, с которыми необходимо справиться. Некоторые изменения бессмысленны, а некоторые фундаментально изменяют природу изображения. Предполагать, что мы можем обучить ИИ обнаружить разницу, является невероятно наивным. И предполагать, что мы можем использовать краудсорсинг, еще более наивно.”

Кроме того, сложно включать элементы краудсорсинга, такие как пометка ложных положительных результатов, потому что люди обычно очень плохи в выявлении фейковых изображений. Люди часто совершают ошибки и пропускают тонкие детали, которые маркируют изображение как фейковое. Также неясно, как справиться с злоумышленниками, которые троллят, когда они помечают контент.

Кажется вероятным, что для максимальной эффективности инструменты обнаружения фейков будут должны быть объединены с усилиями по цифровой грамотности, которые учат людей, как рассуждать о контенте, с которым они взаимодействуют в интернете.