В 2024 году глубокие фейки станут мейнстримом. Вот как бизнес может защитить себя

С момента выборов 2016 года, когда опасения по поводу дезинформации всплыли в общественное сознание, эксперты предупреждали о глубоких фейках. Последствия этой технологии были – и остаются – ужасающими. Неограниченное распространение сверхреалистичных синтетических медиа представляет угрозу для каждого – от политиков до обычных людей. В уже взрывоопасной среде, характеризующейся широко распространенным недоверием, глубокие фейки обещали только разжечь пламя дальше.

Однако оказалось, что наши страхи были преждевременными. Техническая экспертиза, необходимая для создания глубоких фейков, в сочетании с их часто низким качеством, означала, что в течение как минимум двух последних президентских избирательных циклов они оставались минимальной проблемой.

Но все это вот-вот изменится – уже меняется. За последние два года технология генеративного ИИ вошла в мейнстрим, радикально упростив процесс создания глубоких фейков для среднего потребителя. Эти же инновации значительно увеличили качество глубоких фейков, так что в слепом тесте большинство людей не смогли бы отличить поддельное видео от настоящего.

В этом году, особенно, мы начали видеть признаки того, как эта технология может повлиять на общество, если не будут приняты меры для борьбы с ней. Например, в прошлом году фотография Папы Франциска в необычно стильном пальто, сгенерированная ИИ, стала вирусной и была принята многими за подлинную. Хотя это может показаться, на одном уровне, безобидной шуткой, это раскрывает опасную потенцию этих глубоких фейков и то, насколько трудно остановить дезинформацию, как только она начинает распространяться. Мы можем ожидать найти гораздо менее забавные – и гораздо более опасные – примеры такого рода вирусной фальсификации в ближайшие месяцы и годы.

По этой причине крайне важно, чтобы организации всех видов – от средств массовой информации до финансов, правительств и социальных платформ – заняли активную позицию по обнаружению глубоких фейков и проверке подлинности контента. Культура доверия посредством гарантий должна быть установлена сейчас, прежде чем волна глубоких фейков может смыть наше общее понимание реальности.

Понимание угрозы глубоких фейков

Прежде чем приступить к тому, что могут сделать организации для борьбы с этой волной глубоких фейков, стоит подробнее рассказать о том, почему необходимы инструменты безопасности. Обычно те, кто обеспокоен глубокими фейками, ссылаются на их потенциальное влияние на политику и общественное доверие. Эти потенциальные последствия крайне важны и не должны быть упущены в любом разговоре о глубоких фейках. Однако, как оказалось, рост этой технологии имеет потенциально катастрофические последствия для различных секторов экономики США.

Возьмем, к примеру, страхование. Сейчас страховой мошенничество в США составляет 308,6 миллиарда долларов – сумма, примерно равная одной четверти всей отрасли. В то же время, задние операции большинства страховых компаний все более автоматизированы, и 70% стандартных претензий, как ожидается, будут без участия человека к 2025 году. Это означает, что решения принимаются с минимальным вмешательством человека: самообслуживание на переднем конце и автоматизация с помощью ИИ на заднем конце.

Иронично, что та же технология, которая позволила увеличить автоматизацию – т. е. машинное обучение и искусственный интеллект – гарантировала ее эксплуатацию злоумышленниками. Теперь проще, чем когда-либо, для среднего человека манипулировать претензиями – например, используя программы генеративного ИИ, такие как Dall-E, Midjourney или Stable Diffusion, чтобы сделать машину выглядеть более поврежденной, чем она есть. Уже существуют приложения, специально созданные для этой цели, такие как Dude Your Car!, которые позволяют пользователям искусственно создавать вмятины на фотографиях своих транспортных средств.

То же самое относится к официальным документам, которые теперь можно легко манипулировать – с измененными или выдуманными счетами, оценками, подписями и т. д. Эта способность является проблемой не только для страховщиков, но и для всей экономики. Это проблема для финансовых учреждений, которые должны проверять подлинность широкого спектра документов. Это проблема для розничных торговцев, которые могут получить жалобу о том, что продукт прибыл дефектным, сопровождаемую поддельным изображением.

Бизнес просто не может функционировать с таким уровнем неопределенности. Некоторый уровень мошенничества, вероятно, всегда неизбежен, но с глубокими фейками мы не говорим о мошенничестве на окраинах – мы говорим о потенциальной эпистемологической катастрофе, в которой бизнес не имеет четкого способа различать правду и вымысел и в итоге теряет миллиарды долларов из-за этой путаницы.

Борьба с огнем с помощью огня: как ИИ может помочь

Итак, что можно сделать, чтобы бороться с этим? Может быть, не удивительно, что ответ лежит в самой технологии, которая облегчает глубокие фейки. Если мы хотим остановить это бедствие, прежде чем оно наберет больше импульса, нам нужно бороться с огнем с помощью огня. ИИ может помочь создавать глубокие фейки – но он также, к счастью, может помочь выявлять их автоматически и в масштабе.

Используя правильные инструменты ИИ, бизнес может автоматически определить, была ли данная фотография, видео или документ изменена. Применяя десятки различных моделей к задаче выявления фейков, ИИ может автоматически сообщить бизнесу о том, что данная фотография или видео подозрительны. Как и инструменты, которые бизнес уже использует для автоматизации повседневных операций, эти инструменты могут работать в фоновом режиме без нагрузки на уже перегруженный персонал или отнимания времени у важных проектов.

Если и когда фотография выявлена как потенциально измененная, человеческий персонал может быть оповещен и может оценить проблему напрямую, с помощью информации, предоставленной ИИ. Используя глубокий анализ, он может сообщить бизнесу почему он считает, что фотография, вероятно, была изменена – указывая, например, на измененные метаданные, существование идентичных изображений в Интернете, различные фотографические нерегулярности и т. д.

Ничто из этого не умаляет невероятных достижений, которых мы стали свидетелями в технологии генеративного ИИ за последние несколько лет, которые действительно имеют полезные и продуктивные применения в различных отраслях. Но самая потенция – не говоря уже о простоте – этой возникающей технологии几乎 гарантирует ее злоупотребление теми, кто хочет манипулировать организациями, будь то для личной выгоды или для посева социальной суматохи.

Организации могут иметь лучшее из обоих миров: производственные преимущества ИИ без недостатков повсеместных глубоких фейков. Но для этого требуется новый уровень бдительности, особенно учитывая тот факт, что выходы генеративного ИИ становятся все более убедительными, подробными и похожими на жизнь с каждым днем. Чем раньше организации обратят внимание на эту проблему, тем раньше они смогут воспользоваться полными преимуществами автоматизированного мира.