Глубокие подделки и навигация в новую эру синтетических медиа

Помните “фейковые новости”? Этот термин был использован (и злоупотреблен) настолько широко, что теперь трудно вспомнить, к чему он изначально относился. Но концепция имеет очень конкретное происхождение. Десять лет назад журналисты начали звонить тревогу об наплыве предполагаемых “новостных” сайтов, бросающих ложные, часто нелепые утверждения о политиках и знаменитостях. Многие могли сразу сказать, что эти сайты являются нелегитимными.

Но многие другие не имели критических инструментов, чтобы распознать это. Результатом было первое начало эпистемологического кризиса, который теперь охватывает интернет – один, который достиг своего самого страшного проявления с подъемом глубоких подделок.

Рядом с даже посредственной глубокой подделкой “фейковые новостные” сайты прошлого кажутся безобидными. Хуже того, даже те, кто считает себя обладателями относительно высоких уровней медиа-грамотности, находятся под угрозой обмана. Синтетические медиа, созданные с помощью алгоритмов глубокого обучения и генеративного ИИ, имеют потенциал нанести ущерб основам нашего общества. Согласно Deloitte, в этом году alone они могут стоить бизнесу более 250 миллионов долларов через фальшивые транзакции и другие виды мошенничества. Тем временем Всемирный экономический форум назвал глубокие подделки “одним из самых тревожных использований ИИ”, указывая на потенциал “целевых, реальных ИИ-чатботов и аватаров” для облегчения новых видов ультраперсонализированного (и ультраэффективного) манипулирования.

Предложенный ВЭФ ответ на эту проблему является разумным: они выступают за “ноль-доверительный настрой“, который приносит степень скептицизма к каждому взаимодействию с цифровыми медиа. Если мы хотим различать аутентичное и синтетическое в будущем – особенно в иммерсивных онлайн-средах – такой настрой будет все более необходим.

Два подхода к борьбе с кризисом глубоких подделок

Борьба с распространенным дезинформацией, выращенной синтетическими медиа, потребует, на мой взгляд, двух различных подходов.

Первый включает верификацию: предоставление простого способа для повседневных пользователей интернета определить, является ли видео, которое они смотрят, действительно аутентичным. Такие инструменты уже широко распространены в отраслях, таких как страхование, учитывая потенциал плохих акторов подать ложные претензии, подтвержденные поддельными видео, фотографиями и документами. Демократизация этих инструментов – сделать их бесплатными и легко доступными – является важным первым шагом в этой борьбе, и мы уже видим значительное движение на этом фронте.

Второй шаг менее технологичен по своей природе, и поэтому более сложен: а именно, повышение осведомленности и развитие критического мышления. После исходного скандала с “фейковыми новостями” в 2015 году некоммерческие организации по всей стране разработали программы медиа-грамотности и работали над распространением лучших практик, часто объединяясь с местными гражданскими учреждениями для наделения повседневных граждан способностью распознавать ложь. Конечно, старомодные “фейковые новости” – это детская игра по сравнению с наиболее продвинутыми глубокими подделками, поэтому нам нужно усилить наши усилия на этом фронте и инвестировать в образование на каждом уровне.

Продвинутые глубокие подделки требуют продвинутого критического мышления

Конечно, эти образовательные инициативы были несколько легче осуществить, когда дезинформация в вопросе была текстовой. С фейковыми новостными сайтами признаки мошенничества часто были очевидными: нелепый дизайн сайта, распространенные опечатки, странные источники. С глубокими подделками признаки намного более тонкие – и часто невозможно заметить на первый взгляд.

Соответственно, пользователям интернета всех возрастов необходимо эффективно переобучиться, чтобы осмотреть цифровое видео на индикаторы глубоких подделок. Это означает внимание к ряду факторов. Для видео это может означать нереалистично-неясные области и тени; неестественно выглядящие движения лица и выражения; слишком идеальные тона кожи; несоответствующие узоры в одежде и движениях; ошибки синхронизации губ; и так далее. Для аудио это может означать голоса, которые звучат слишком идеально (или очевидно цифровые), отсутствие человеческого чувства эмоционального тона, странные речевые модели или необычная фразеология.

В краткосрочной перспективе такое самообучение может быть очень полезным. Запрашивая себя, снова и снова, Похоже ли это на подозрение?, мы повышаем не только нашу способность обнаруживать глубокие подделки, но и наше критическое мышление в целом. Однако мы быстро приближаемся к моменту, когда даже лучшее обученное око не сможет различить факты и вымысел без внешней помощи. Визуальные признаки – нерегулярности, упомянутые выше, – будут технологически сглажены, так что полностью изготовленные клипы будут неотличимы от настоящих. То, что у нас останется, – это наше ситуационное чутье – наша способность задавать себе вопросы, такие как Сказал бы такой-то политик или знаменитость это на самом деле? Является ли содержание этого видео правдоподобным?

В этом контексте платформы обнаружения ИИ становятся крайне важными. Когда голый глаз становится нерелевантным для целей обнаружения глубоких подделок, эти платформы могут служить окончательными арбитрами реальности – ограждениями от эпистемологической пропасти. Когда видео выглядит реальным, но как-то кажется подозрительным – как будет происходить все чаще в ближайшие месяцы и годы – эти платформы могут сохранить нас в фактах, подтверждая базовую достоверность того, что мы смотрим. В конечном итоге, с технологией такой мощной, единственное, что может спасти нас, – это сам ИИ. Нам нужно бороться огнем с огнем – что означает использование хорошего ИИ для искоренения худших злоупотреблений технологией.

На самом деле, приобретение этих навыков ни в коем случае не должно быть циничным или негативным процессом. Содействие ноль-доверительному настроению можно рассматривать как возможность улучшить свое критическое мышление, интуицию и осведомленность. Запрашивая себя, снова и снова, определенные ключевые вопросы – Имеет ли это смысл? Похоже ли это на подозрение? – вы повышаете свою способность противостоять не только фейковым медиа, но и миру в целом. Если есть серебряная подкладка в эпоху глубоких подделок, это оно. Нас заставляют думать самостоятельно и становиться более эмпирическими в нашей повседневной жизни – и это может быть только хорошим.