Дипфейки и навигация в новую эру синтетических медиа

Помните «фейковые новости»? Этот термин использовался (и злоупотреблялся) так широко в настоящее время, что может быть трудно вспомнить, что он изначально означал. Но у этой концепции очень конкретное происхождение. Десять лет назад журналисты начали бить тревогу по поводу наплыва якобы «новостных» сайтов, выбрасывающих ложные, часто нелепые заявления о политиках и знаменитостях. Многие могли сразу сказать, что эти сайты нелегитимны.

Но у многих других людей не было необходимых инструментов, чтобы признать это. Результатом стали первые признаки эпистемологического кризиса, который сейчас приближается к Интернету, и который достиг своего самого пугающего проявления с появлением Интернета. deepfakes.

По сравнению даже с сносным дипфейком сайты «фейковых новостей» прошлого кажутся скучными. Хуже того, даже те, кто считает, что обладают относительно высоким уровнем медиаграмотности, рискуют быть обманутыми. Синтетические медиа созданный с использованием алгоритмы глубокого обучения и генеративный ИИ потенциально могут нанести ущерб основам нашего общества. По данным Deloitte, только в этом году они могут стоить бизнесу более 250 миллионов долларов из-за фиктивных транзакций и других видов мошенничества. Тем временем Всемирный экономический форум назвал дипфейки «одним из самых тревожных способов применения ИИ», указав на потенциал «управляемых повесткой дня чат-ботов и аватаров с искусственным интеллектом, работающих в режиме реального времени», которые будут способствовать появлению новых разновидностей ультраперсонализированных (и ультра- эффективная) манипуляция.

Предложенный ВЭФ ответ на эту проблему является разумным: они выступают за «мышление нулевого доверия», который привносит долю скептицизма в каждое столкновение с цифровыми медиа. Если мы хотим различать аутентичное и синтетическое в движении вперед, особенно в иммерсивной онлайн-среде, такой образ мышления будет приобретать все большее значение.

Два подхода к борьбе с кризисом дипфейков

Борьба с безудержным распространением дезинформация По моему мнению, разведение на синтетических средах потребует двух различных подходов.

Первый вариант предполагает верификацию: предоставление простого способа обычным интернет-пользователям определить подлинность просматриваемого ими видео. Подобные инструменты уже широко распространены в таких отраслях, как страхование, учитывая потенциальную возможность мошенников подавать ложные заявления с использованием поддельных видео, фотографий и документов. Демократизация этих инструментов — обеспечение их бесплатности и лёгкого доступа — является важнейшим первым шагом в этой борьбе, и мы уже видим значительные подвижки на этом фронте.

Второй шаг менее технологичен и, следовательно, более сложен: а именно, повышение осведомлённости и развитие навыков критического мышления. После скандала с фейковыми новостями в 2015 году некоммерческие организации по всей стране разработали программы медиаграмотности и работали над распространением передового опыта, часто сотрудничая с местными общественными организациями, чтобы помочь рядовым гражданам распознавать ложь. Конечно, традиционные фейковые новости — это просто детская игра по сравнению с самыми передовыми дипфейками, поэтому нам необходимо удвоить усилия на этом фронте и инвестировать в образование на всех уровнях.

Продвинутые дипфейки требуют развитого критического мышления

Конечно, эти образовательные инициативы было несколько легче реализовать, когда рассматриваемая дезинформация была основана на текстах. На сайтах фейковых новостей явные признаки мошенничества часто были очевидны: неумелый веб-дизайн, многочисленные опечатки, странные источники. В случае с дипфейками признаки гораздо более тонкие, и зачастую их невозможно заметить с первого взгляда.

Соответственно, интернет-пользователям любого возраста необходимо эффективно переобучаться, чтобы тщательно проверять цифровое видео на наличие индикаторов дипфейков. Это означает, что необходимо уделять пристальное внимание ряду факторов. Для видео это может означать нереальные размытые области и тени; неестественные движения и выражения лица; слишком идеальные тона кожи; непоследовательность в одежде и движениях; ошибки синхронизации губ; снова и снова. Для аудио это может означать голоса, которые звучат слишком чисто (или явно оцифрованы), отсутствие человеческого эмоционального тона, странные речевые модели или необычные фразировки.

В краткосрочной перспективе такого рода самообучение может оказаться весьма полезным. Снова и снова спрашивая себя: «Выглядит ли это подозрительно?», мы оттачиваем не только нашу способность обнаруживать дипфейки, но и наши навыки критического мышления в целом. Тем не менее, мы быстро приближаемся к моменту, когда даже самый тренированный глаз не сможет отличить факты от вымысла без посторонней помощи. Визуальные особенности — упомянутые выше неровности — будут технологически сглажены, так что полностью изготовленные клипсы будут неотличимы от оригинала. Что у нас останется, так это наша ситуационная интуиция — наша способность задавать себе вопросы типа: Действительно ли такой-то политик или знаменитость сказал бы это? Правдоподобно ли содержание этого видео?

Именно в этом контексте платформы обнаружения искусственного интеллекта становятся столь важными. Поскольку невооруженный глаз становится нерелевантным для целей обнаружения дипфейков, эти платформы могут служить окончательными арбитрами реальности — ограждениями от эпистемологической пропасти. Когда видео выглядит реальным, но почему-то кажется подозрительным — что будет происходить все чаще и чаще в ближайшие месяцы и годы — эти платформы могут помочь нам опираться на факты, подтверждая базовую достоверность всего, на что мы смотрим. В конечном счете, с такой мощной технологией единственное, что может нас спасти, — это сам ИИ. Нам нужно тушить огонь огнем, а это означает использование хорошего искусственного интеллекта для искоренения худших злоупотреблений в области технологий.

На самом деле, приобретение этих навыков ни в коем случае не должно быть циничным или негативным процессом. Развитие мышления нулевого доверия можно рассматривать как возможность отточить критическое мышление, интуицию и бдительность. Задавая себе снова и снова определённые ключевые вопросы — «Есть ли в этом смысл?», «Подозрительно ли это?» — вы повышаете свою способность противостоять не только фейковым медиа, но и миру в целом. Если и есть что-то хорошее в эпохе дипфейков, то это оно. Нас вынуждают думать самостоятельно и становиться более эмпиричными в повседневной жизни, и это не может не радовать.