Глубокие подделки и навигация в новую эру синтетических медиа

Помните “фейковые новости”? Этот термин был использован (и злоупотреблен) настолько широко, что может быть трудно вспомнить, что он изначально означал. Но концепция имеет очень конкретное происхождение. Десять лет назад журналисты начали звонить тревогу о наплыве якобы “новостных” сайтов, распространяющих ложные, часто нелепые утверждения о политиках и знаменитостях. Многие могли сразу же определить, что эти сайты являются незаконными.

Но многие другие не имели критических инструментов, чтобы распознать это. В результате получился первый зародыш эпистемологического кризиса, который теперь охватывает интернет – кризис, достигший своего самого страшного проявления с появлением глубоких подделок.

По сравнению даже с посредственной глубокой подделкой, “фейковые новостные” сайты прошлого кажутся безобидными. Хуже того, даже те, кто считает себя обладателями относительно высокого уровня медиаграмотности, находятся в группе риска быть обманутыми. Синтетические медиа, созданные с помощью алгоритмов глубокого обучения и генеративного ИИ, имеют потенциал нанести ущерб основам нашего общества. Согласно Deloitte, в этом году alone они могут стоить бизнесу более 250 миллионов долларов через фальшивые транзакции и другие виды мошенничества. Между тем, Всемирный экономический форум назвал глубокие подделки “одним из наиболее тревожных применений ИИ”, указывая на потенциал “целевых, реальных ИИ-чатботов и аватаров” для облегчения новых форм ультраперсонализированной (и сверхэффективной) манипуляции.

Предлагаемый ВЭФ ответ на эту проблему является разумным: они выступают за “ноль-достоверный подход“, который приносит определенный скептицизм в каждую встречу с цифровыми медиа. Если мы хотим различать аутентичное и синтетическое в будущем – особенно в иммерсивных онлайн-средах – такой подход будет все более необходим.

Два подхода к борьбе с кризисом глубоких подделок

Борьба с распространенным дезинформацией, порожденной синтетическими медиа, потребует, на мой взгляд, двух различных подходов.

Первый включает верификацию: предоставление простого способа для обычных пользователей интернета определить, является ли видео, которое они смотрят, действительно аутентичным. Такие инструменты уже широко распространены в отраслях, таких как страхование, учитывая потенциал злоумышленников подать ложные претензии, подтвержденные подделанными видео, фотографиями и документами. Демократизация этих инструментов – сделать их бесплатными и легко доступными – является важным первым шагом в этой борьбе, и мы уже видим значительное движение на этом фронте.

Второй шаг менее технологичен по своей природе и, следовательно, более сложен: а именно, повышение осведомленности и развитие критического мышления. После исходного скандала с “фейковыми новостями” в 2015 году некоммерческие организации по всей стране разработали программы медиаграмотности и работали над распространением лучших практик, часто объединяясь с местными гражданскими учреждениями, чтобы дать обычным гражданам возможность распознавать ложь. Конечно, старомодные “фейковые новости” кажутся детской игрой по сравнению с самыми передовыми глубокими подделками, поэтому нам нужно удвоить наши усилия на этом фронте и инвестировать в образование на каждом уровне.

Продвинутые глубокие подделки требуют продвинутого критического мышления

Конечно, эти образовательные инициативы были несколько легче реализовать, когда дезинформация в вопросе была текстовой. С фейковыми новостными сайтами признаки мошенничества часто были очевидны: неуклюжий дизайн сайта, многочисленные опечатки, странные источники. С глубокими подделками признаки намного более тонкие – и часто невозможно заметить на первый взгляд.

Соответственно, пользователям интернета всех возрастов необходимо эффективно переобучить себя, чтобы проверять цифровое видео на наличие индикаторов глубоких подделок. Это означает внимание к ряду факторов. Для видео это может означать нереалистично размытые области и тени; неестественные движения лица и выражения; слишком идеальные тона кожи; несоответствующие узоры в одежде и движениях; ошибки синхронизации губ; и так далее. Для аудио это может означать голоса, которые звучат слишком чисто (или явно оцифрованные), отсутствие человеческого эмоционального тона, странные речевые модели или необычная фразеология.

В краткосрочной перспективе такое самообучение может быть очень полезным. Задавая себе вопросы снова и снова, Это выглядит подозрительно?, мы не только повышаем свою способность обнаруживать глубокие подделки, но и наши критические навыки мышления в целом. Однако мы быстро приближаемся к моменту, когда даже лучшее обученное око не сможет различить факты и вымысел без внешней помощи. Визуальные признаки – нерегулярности, упомянутые выше – будут технологически сгладены, так что полностью изготовленные клипы будут неразличимы от настоящих. То, что у нас останется, – это наша ситуационная интуиция – наша способность задавать себе вопросы типа Сказал бы такой-то политик или знаменитость это на самом деле? Является ли содержание этого видео правдоподобным?

В этом контексте платформы обнаружения ИИ становятся крайне важными. Когда невооруженный глаз становится нерелевантным для обнаружения глубоких подделок, эти платформы могут служить окончательными арбитрами реальности – ограждениями от эпистемологической бездны. Когда видео выглядит реальным, но как-то кажется подозрительным – как это будет происходить все чаще в ближайшие месяцы и годы – эти платформы могут держать нас на земле, подтверждая базовую достоверность того, что мы смотрим. В конечном итоге, с технологией такой мощной, единственное, что может спасти нас, – это сам ИИ. Нам нужно бороться огнем с огнем – использовать хороший ИИ, чтобы искоренить худшие злоупотребления технологией.

На самом деле, приобретение этих навыков ни в коем случае не должно быть циничным или негативным процессом. Формирование ноль-достоверного подхода можно рассматривать как возможность улучшить свое критическое мышление, интуицию и осведомленность. Задавая себе вопросы снова и снова, Это имеет смысл? Это подозрительно?, вы повышаете свою способность противостоять не только фейковым медиа, но и миру в целом. Если есть серебряная подкладка эпохи глубоких подделок, это оно. Нас заставляют думать самостоятельно и становиться более эмпирическими в нашей повседневной жизни – и это может быть только хорошим.