Эксперт говорит: “Идеально реальные” DeepFakes появятся уже через 6 месяцев

Впечатляющие, но спорные DeepFakes, изображения и видео, манипулируемые или генерируемые глубокими нейронными сетями, скорее всего, станут еще более впечатляющими и спорными в ближайшем будущем, согласно Хао Ли, директору лаборатории зрения и графики Университета Южной Калифорнии. Ли – эксперт в области компьютерного зрения и DeepFakes, и в недавнем интервью с CNBC он сказал, что “идеально реальные” DeepFakes, скорее всего, появятся в течение полугода.

Ли объяснил, что большинство DeepFakes все еще узнаваемы как фальшивые человеческим глазом, и даже более убедительные DeepFakes все еще требуют значительных усилий со стороны создателя, чтобы они казались реалистичными. Однако Ли убежден, что в течение шести месяцев DeepFakes, которые кажутся идеально реальными, скорее всего, появятся, поскольку алгоритмы становятся более сложными.

Ли изначально думал, что потребуется два-три года, чтобы чрезвычайно убедительные DeepFakes стали более распространенными, сделав это прогноз на недавней конференции, проведенной в Массачусетском технологическом институте. Однако Ли пересмотрел свой прогноз после раскрытия недавнего китайского приложения Zao и других недавних разработок, связанных с технологией DeepFakes. Ли объяснил CNBC, что методы, необходимые для создания реалистичных DeepFakes, более или менее являются методами, которые в настоящее время используются, и что основным ингредиентом, который создаст реалистичные DeepFakes, является больше тренировочных данных.

Ли и его коллеги-исследователи работали над технологией обнаружения DeepFakes, предвидя прибытие чрезвычайно убедительных DeepFakes. Ли и его коллеги, такие как Хани Фарид из Калифорнийского университета в Беркли, экспериментировали с современными алгоритмами DeepFakes, чтобы понять, как работает технология, создающая их.

Ли объяснил CNBC:

“Если вы хотите быть в состоянии обнаружить DeepFakes, вы должны также увидеть, какие есть пределы. Если вам нужно создать рамки ИИ, которые способны обнаруживать вещи, которые чрезвычайно реальны, эти рамки должны быть обучены с помощью этих типов технологий, поэтому в некотором смысле это невозможно обнаружить, если вы не знаете, как они работают.”

Ли и его коллеги инвестируют в создание инструментов для обнаружения DeepFakes, признавая потенциальные проблемы и опасности, которые представляет эта технология. Ли и его коллеги далеко не единственная группа исследователей ИИ, обеспокоенных возможными последствиями DeepFakes и заинтересованных в создании контрмер против них.

Недавно Facebook (META ) начал совместное партнерство с MIT, Microsoft (MSFT ) и Оксфордским университетом для создания вызова обнаружения DeepFakes, целью которого является создание инструментов, которые можно использовать для обнаружения измененных изображений или видео. Эти инструменты будут открытыми и доступными для компаний, средств массовой информации и правительств. Тем временем исследователи из Института информационных наук Университета Южной Калифорнии недавно создали ряд алгоритмов, которые могли различать фальшивые видео с точностью около 96%.

Однако Ли также объяснил, что проблема с DeepFakes заключается не в самой технологии, а в том, как ее можно неправильно использовать. Ли отметил несколько законных возможных применений технологии DeepFakes, включая использование в индустрии развлечений и моды.

Техники DeepFakes также использовались для репликации выражений лица людей с закрытыми лицами на изображениях. Исследователи использовали сети с генеративным соперничеством для создания совершенно нового лица, которое имело то же выражение, что и лицо субъекта на исходном изображении. Техники, разработанные Норвежским университетом естественных наук и технологий, могут помочь восстановить выражения лица во время интервью с чувствительными людьми, которые нуждаются в конфиденциальности, такими как информаторы. Кто-то другой мог бы использовать свое лицо в качестве замены для человека, который нуждается в анонимности, но выражения лица все равно можно было бы прочитать.

По мере того, как технология DeepFakes становится более сложной, законные случаи использования DeepFakes также будут увеличиваться. Однако опасность также будет увеличиваться, и поэтому работа по обнаружению DeepFakes, проводимая Ли и другими, становится еще более важной.