Что такое Deepfakes?

Поскольку глубокие подделки становятся проще в изготовлении и более распространенными, им уделяется больше внимания. Глубокие подделки стали центральной темой обсуждений, связанных с этикой ИИ, дезинформацией, открытостью информации и интернета, а также регулированием. Полезно быть осведомленным о глубоких подделках и иметь интуитивное понимание того, что они представляют собой. Эта статья прояснит определение глубокой подделки, рассмотрит их варианты использования, обсудит, как можно обнаружить глубокие подделки, и рассмотрит последствия глубоких подделок для общества.

Что такое Deepfakes?

Прежде чем приступить к дальнейшему обсуждению глубоких подделок, было бы полезно потратить некоторое время на разъяснение того, что на самом деле представляют собой “глубокие подделки”. Существует значительное количество путаницы относительно термина Deepfake, и часто этот термин неправильно применяется к любой фальсифицированной медиа, независимо от того, является ли она настоящей глубокой подделкой или нет. Чтобы квалифицироваться как Deepfake, фальсифицированная медиа должна быть сгенерирована с помощью системы машинного обучения, в частности, глубокой нейронной сети.

Ключевым ингредиентом глубоких подделок является машинное обучение. Машинное обучение сделало возможным для компьютеров автоматически генерировать видео и аудио относительно быстро и легко. Глубокие нейронные сети обучаются на кадрах реального человека, чтобы сеть могла научиться, как люди выглядят и движутся в целевых средах. Обученная сеть затем используется на изображениях другого человека и дополняется дополнительными компьютерными графиками для объединения нового человека с исходным видео. Алгоритм кодирования используется для определения сходств между исходным лицом и целевым лицом. Как только общие черты лиц будут выделены, второй алгоритм ИИ, называемый декодером, используется. Декодер анализирует закодированные (сжатые) изображения и восстанавливает их на основе функций исходных изображений. Используются два декодера, один на лице исходного субъекта и второй на лице целевого человека. Чтобы сделать замену, декодер, обученный на изображениях человека X, подается изображениями человека Y. В результате лицо человека Y восстанавливается над выражениями лица и ориентацией человека X.

На данный момент создание глубокой подделки все еще занимает значительное количество времени. Создатель подделки должен тратить много времени на ручное регулирование параметров модели, поскольку оптимальные параметры могут привести к заметным несовершенствам и глюкам изображения, которые выдают истинную природу подделки.

Хотя часто предполагается, что большинство глубоких подделок создаются с помощью типа нейронной сети, называемой генеративной противостоящей сетью (GAN), многие (возможно, большинство) глубокие подделки, созданные в последнее время, не полагаются на GAN. Хотя GAN сыграл значительную роль в создании ранних глубоких подделок, большинство глубоких видео создаются альтернативными методами, согласно Siwei Lyu из SUNY Buffalo.

Для чего используются Deepfakes?

Многие глубокие подделки, найденные в Интернете, имеют порнографический характер. Согласно исследованиям, проведенным компанией Deeptrace, фирмой ИИ, из выборки примерно 15 000 глубоких видео, взятых в сентябре 2019 года, примерно 95% из них были порнографического характера. Тревожным последствием этого факта является то, что по мере того, как технология становится проще в использовании, могут возрасти случаи фальшивой мести-порнографии.

Однако не все глубокие подделки имеют порнографический характер. Существуют более законные применения технологии глубоких подделок. Аудио-технология глубоких подделок может помочь людям транслировать свои обычные голоса после того, как они были повреждены или потеряны из-за болезни или травмы. Глубокие подделки также могут быть использованы для сокрытия лиц людей, которые находятся в чувствительных, потенциально опасных ситуациях, при этом позволяя их губам и выражениям быть прочитанными. Технология глубоких подделок может быть использована для улучшения дубляжа на иностранных языках, помощи в ремонте старых и поврежденных медиа, и даже создания новых стилей искусства.

Невидео Deepfakes

Хотя большинство людей думают о фальшивых видео, когда слышат термин “глубокая подделка”, фальшивые видео не являются единственным типом фальсифицированной медиа, созданной с помощью технологии глубоких подделок. Технология глубоких подделок используется для создания фальшивых фотографий и аудио.

Как обнаружить Deepfakes

По мере того, как глубокие подделки становятся все более и более сложными, различие между ними и настоящей медиа станет все более и более сложным. В настоящее время существуют некоторые признаки, на которые люди могут обратить внимание, чтобы определить, является ли видео потенциальной глубокой подделкой, такие как плохая синхронизация губ, неестественные движения, мерцание вокруг края лица и искажение мелких деталей, таких как волосы, зубы или отражения.

Хотя эти признаки могут помочь обнаружить глубокую подделку в настоящее время, по мере улучшения технологии глубоких подделок единственным вариантом для надежного обнаружения может быть другой тип ИИ, обученный различать фальшивые и настоящие медиа.

Последствия Deepfakes

Каковы опасности, связанные с тем, что глубокие подделки распространяются без контроля?

Одной из самых больших проблем, создаваемых глубокими подделками, является непорнографическая порнография, созданная путем объединения лиц людей с порнографическими видео и изображениями. Этики ИИ боятся, что глубокие подделки будут использоваться для создания фальшивой мести-порнографии. Кроме того, глубокие подделки могут быть использованы для запугивания и нанесения ущерба репутации几乎 любого человека, поскольку они могут быть использованы для помещения людей в противоречивые и компрометирующие ситуации.