Что фальшивые победы Polymarket раскрывают о созданном консенсусе в эпоху ИИ

В июне Wall Street Journal сообщил, что Polymarket платил создателям, в основном студентам колледжа, за то, чтобы они снимали себя, размещая ставки на веб-сайтах, построенных так, чтобы выглядеть точно как реальная платформа, и некоторые из этих видеороликов показывали победы, которые на самом деле никогда не происходили.

Затем Polymarket нанял сеть “клипперов”, чтобы повторно размещать эти видеоролики, пока это не выглядело как органическая волна людей, которые становятся богатыми на платформе. В наборе из 118 видеороликов создатели праздновали почти 900 000 долларов в выигрышах, которые, если бы ставки были действительно сделаны, потеряли бы более 166 000 долларов, и вся кампания охватила 1105 видеороликов, ни один из которых не отражал реальную сделку.

Большая часть реакции была сосредоточена на идее ложной рекламы, и это справедливое описание, но оно не доходит до более полезных вопросов о том, как Polymarket был пойман, и будет ли такой тип кампании оставаться незамеченным в будущем. Компания в конечном итоге была поймана, потому что такая кампания полагалась на людей, и люди оставляют след. Но ИИ меняет это. Стоимость создания убедительной онлайн-нарративы быстро падает, и наша способность поймать ее падает вместе с ней.

Модель, которая работала на людях, против той, которая не нуждается в них

Кампания Polymarket работала, потому что она выглядела органической. Создатели размещали видеоролики со своих собственных аккаунтов, как будто они записывали свой собственный опыт, и клипы распространялись, пока это не казалось настоящей волной энтузиазма, а не оплаченной операцией. Оплаченные создатели составляют только половину того, что сделало это работой, хотя, и другая половина, менее заметная, но не менее важная, была фальшивым взаимодействием.

Это не совпадение, что эти видеоролики собрали 140 миллионов просмотров на TikTok, YouTube и Instagram от создателей, которые в противном случае в среднем получали несколько сотен просмотров за пост. Такой охват обычно требует накачки видеоролика искусственными лайками, комментариями и просмотрами, обычно через ботов или координированные аккаунты, пока алгоритм рекомендаций платформы не ошибется и не примет его за что-то, что люди действительно хотят смотреть. Оплаченные создатели редко производят такой подъем, поэтому Polymarket, скорее всего, запустил обе игры одновременно.

Что сделало это дорогостоящим и в конечном итоге обнаруживаемым, так это то, что оно проходило через людей на каждом шаге. Фальшивые сайты должны были быть построены и размещены, создателям должны были быть заплачены, и фирма должна была быть нанята для управления сетью повторного размещения, и каждый из этих шагов оставил запись, которую следователи были в состоянии отследить до источника.

ИИ удаляет это ограничение, поскольку синтетические персоны, сгенерированное видео и клонированные голоса могут производить то же самое иллюзию органического энтузиазма без зарплаты, контракта или бумажного следа. Механика остается такой же. Что исчезает, так это необходимость для кого-либо подписать что-либо или получить банковский перевод, чтобы сделать это.

Этот сдвиг также меняет масштаб проблемы. Объем онлайн-динамических подделок вырос с примерно 500 000 в 2023 году до примерно 8 миллионов в 2025 году, и как только фабрикованный контент растет так быстро, он перестает быть случайным вторжением в ленту и начинает становиться значительной частью того, что составляет ленту.

Граница между сценарием и реальностью не держится

Большинство руководителей все еще думают об онлайн-нарративах в бинарных терминах, где это либо сценарий, либо настоящее. Но предложение Polymarket, что любой может выиграть много, торгуя на их платформе, началось как созданное и все же приобрело популярность у реальных пользователей, как только достаточно людей увидели это, поверили в это и действовали на основе этого. В этот момент происхождение нарратива перестает быть важным фактом, и история, которая начинается как фабрикация, все же может произвести совершенно реальные последствия, как только она набирает обороты. Недавние исследования показали, что люди могут различать контент, сгенерированный ИИ, и аутентичный контент только 51% времени, близко к подбрасыванию монеты, что означает, что для большинства людей увидеть что-то на своей ленте все еще достаточно, чтобы поверить в это.

Polymarket превратил сконструированную путаницу в торговые комиссии. Направив те же механизмы на выборы или любую спорную общественную проблему, ИИ делает этот тип манипуляции легко запускаемым в масштабе, и ставки переходят от потерянных доходов к тому, кому общественность доверяет и как они голосуют.

Почему обычные инструменты мониторинга пропускают это

Большинство инструментов мониторинга репутации было построено для отслеживания текстового интернета, наблюдая за упоминаниями, ключевыми словами и хэштегами, но восприятие теперь формируется внутри коротких видеороликов и внутри систем рекомендаций, которые решают, что будет видно. Инструменты, построенные для сканирования подписей и комментариев, никогда не были построены для чтения тона, визуального контекста или достоверности человека на экране, и ни одна из этих вещей не является необязательной информацией. Это история, рассказанная внутри видео.

Генерация видео ИИ также стала достаточно хорошей, достаточно быстрой, что производство убедительного клипа почти всего не требует студии или производственного бюджета. Любой, кто запускает одну из этих кампаний, уже знает лучше, чем тегировать бренд или использовать поисковый язык, что означает, что сигналы, которые на самом деле несут нарратив, тон, достоверность создателя, реакция сообщества, остаются невидимыми для систем, основанных на ключевых словах, по设计у.

Старый подход к расследованию после факта, следуя за бумажным следом, как это сделала Wall Street Journal с Polymarket, не будет работать, потому что такой тип реконструкции зависит от того, что люди оставляют след в первую очередь. Удалите людей из цикла, и не останется следа, который можно было бы отследить, поэтому обнаружение этого требует наблюдения за образованием закономерности, а не реконструкции мошенничества после его распространения.

Polymarket был пойман, потому что он все еще нуждался в людях

Никто не должен быть шокирован, что компания создала свой собственный ажиотаж. Это стандартный дезинформационный игровой процесс, который использовался в течение лет, и Polymarket был пойман конкретно потому, что его версия игрового процесса все еще работала на людях, оставляя след, который репортер мог отследить.

Следующая версия этой кампании не будет нуждаться в этом. Как только стоимость создания консенсуса упадет почти до нуля, способность различать реальное и созданное перестанет быть приятной возможностью и станет тем, на что каждое последующее решение, о том, кому доверять, во что верить и как реагировать, зависит.