Що фальшиві перемоги Polymarket відкривають про вироблену згоду в епоху штучного інтелекту

У червні Wall Street Journal повідомив, що Polymarket платив творцям, переважно студентам, за зйомку себе під час ставок на сайтах, які виглядали точно як реальна платформа, а деякі відео показували перемоги, яких насправді не відбулося.

Polymarket потім найняв мережу “кліперів”, щоб перепости цю відео, поки воно не виглядало як органічна хвиля людей, які розбагатіли на платформі. Усього за 118 відео творці святкували близько 900 тисяч доларів перемог, які, якби ставки були справжніми, втратили б понад 166 тисяч доларів, а вся кампанія охопила 1105 відео, жодне з яких не відображало реальну торгівлю.

Більшість реакції зосередилася на ідеї фальшивої реклами, і це справедливо, але це зупиняється перед більш корисними питаннями про те, як Polymarket потрапила під суд, і чи така кампанія пройде непоміченою в майбутньому. Компанія зрештою потрапила під суд, оскільки така кампанія залежала від людей, і люди залишають слід. Але штучний інтелект змінює це. Вартість виготовлення переконливої онлайн-оповіді падає швидко, і наша здатність її виявити падає разом з нею.

Модель, яка працювала на людей, проти тієї, яка не потребує їх

Кампанія Polymarket працювала, оскільки виглядала органічною. Творці публікували з власних акаунтів, як ніби вони записували свій власний досвід, а кліпи поширювалися, поки це не почуватися справжньою хвилею ентузіазму, а не платною операцією. Платні творці становили лише половину того, що зробило це можливим, а інша половина, менш помітна, але не менш важлива, була фальшивою взаємодією.

Це не випадково, що ці відео зібрали 140 мільйонів переглядів на TikTok, YouTube та Instagram від творців, які в середньому мали кілька сотень переглядів за публікацію. Такий охват зазвичай вимагає накачування відео штучними лайками, коментарями та переглядами, зазвичай через ботів або координовані акаунти, поки рекомендаційна система платформи не сприймає це за щось, чого люди дійсно хочуть дивитися. Платні творці рідко виробляють такий підйом, тому Polymarket майже напевно проводив обидві дії одночасно.

Що зробило це дорогим і в кінцевому підсумку видимим, це те, що воно проходило через людей на кожному етапі. Фальшиві сайти мали бути побудовані та розміщені, творцям мали платити, і фірмі мали бути найманої для управління мережею перепостів, і кожен із цих етапів залишив запис, який слід могли слідчі журналісти.

Штучний інтелект усуває це обмеження, оскільки синтетичні персони, згенеровані відео та клонові голоси можуть створити той же самий ілюзорний ентузіазм без зарплати, контракту чи паперового сліду. Механіка залишається тією самою. Що зникає, це потреба в тому, щоб хтось підписував щось або приймав банківський переказ, щоб зробити це можливим.

Ця зміна також змінює масштаб проблеми. Онлайн-об’єм глибоких фейків зріс з приблизно 500 тисяч у 2023 році до близько 8 мільйонів у 2025 році, і коли фабрикований контент зростає так швидко, він перестає бути випадковим вторгненням у стрім і починає становити значну частку того, що складає стрім.

Межа між постановочним і реальним не витримує

Більшість керівників все ще думають про онлайн-оповіді в двійкових термінах, де це або постановочне, або справжнє. Але пропозиція Polymarket, що будь-хто може виграти великі гроші, торгується на їхній платформі, почалася як вироблена і все ж здобула популярність серед реальних користувачів, коли достатньо людей побачили це, повірили в це і діяли відповідно. На цьому етапі походження оповіді перестає бути суттєвим фактом, і історія, яка починається як фабрикація, все ж може мати цілком реальні наслідки, коли вона набуває популярності. Недавні дослідження показали, що люди можуть відрізнити контент, згенерований штучним інтелектом, від справжнього контенту лише 51% часу, близького до підкидання монети, що означає, що для більшості людей побачити щось на своїй стрічці все ще достатньо, щоб повірити в це.

Polymarket перетворила інженерну плутаність на торговельні комісії. Направте ті самі механіки на вибори або будь-яке спірне публічне питання, і штучний інтелект робить такий тип маніпуляції легким для виконання у великому масштабі, а ставки переходять від втрачених доходів до того, кому публіка довіряє і як вона голосує.

Чому звичайні інструменти моніторингу не помічають цього

Більшість інструментів моніторингу репутації були створені для відстежування текстового Інтернету, спостерігаючи за згадками, ключовими словами та хештегами, але сприйняття тепер формується всередині короткометражного відео та всередині рекомендаційних систем, які визначають, що буде видно. Інструменти, створені для сканування підписок і коментарів, ніколи не були створені для читання тону, візуального контексту чи достовірності людини на екрані, і жодна з цих інформації не є необов’язковою зараз. Це сама історія, розказана всередині відео.

Генерація відео штучним інтелектом також стала достатньо хорошою, достатньо швидко, щоб виробляти переконливу кліп про майже все, що більше не потребує студії чи виробничого бюджету. Хтось, хто проводить одну з цих кампаній, вже знає краще, ніж не використовувати бренд або пошукові мови, що означає, що сигнали, які насправді несуть оповідь, тон, достовірність творця, реакція спільноти, залишаються невидимими для систем, заснованих на ключових словах, за конструкцією.

Старий підхід до розслідування після факту, слідуючи за паперовим слідом, як це зробила Wall Street Journal з Polymarket, також не буде масштабуватися, оскільки такий тип реконструкції залежить від того, що люди залишають слід в першу чергу. Видаліть людей з циклу, і немає сліду, який залишається для слідування, тому виявлення цього вимагає спостереження за закономірністю, коли вона формується, а не реконструкції шахрайства після його поширення.

Polymarket потрапила під суд, оскільки вона все ще потребувала людей

Ніхто не повинен бути шокованим тим, що компанія виготовила自己的 гіп. Це стандартна книга дезінформації, яка використовується роками, і Polymarket потрапила під суд конкретно тому, що її версія книги все ще працювала на людях, залишаючи слід, який слідчий журналіст міг слідувати до джерела.

Наступна версія цієї кампанії не потребуватиме жодного з цього. Як тільки вартість виготовлення згоди впаде майже до нуля, здатність розрізняти справжнє та вироблене перестане бути приємною можливістю і стане тим, на чому залежить кожне подальше рішення про те, кому довіряти, що вірити та як реагувати.