Apa yang Dibongkar oleh Kemenangan Palsu Polymarket tentang Konsensus Buatan di Era AI

Pada bulan Juni, Wall Street Journal melaporkan bahwa Polymarket telah membayar kreator, sebagian besar berusia kuliah, untuk merekam diri mereka sendiri memasang taruhan pada situs web yang dibangun untuk terlihat persis seperti platform asli, dengan beberapa video menunjukkan kemenangan yang sebenarnya tidak pernah terjadi.

Polymarket kemudian merekrut jaringan “klipper” untuk memposting ulang footage sampai terlihat seperti gelombang organik orang yang menjadi kaya dari platform. Di seluruh 118 video, kreator merayakan hampir $900.000 dalam kemenangan yang, jika taruhan sebenarnya ditempatkan, akan kehilangan lebih dari $166.000, dan kampanye penuh mencakup 1.105 video, tidak satu pun yang mencerminkan perdagangan yang sebenarnya.

Sebagian besar reaksi telah berfokus pada gagasan iklan palsu, dan itu adalah deskripsi yang adil, tetapi itu berhenti sebelum pertanyaan yang lebih berguna tentang bagaimana Polymarket tertangkap, dan jika kampanye semacam itu akan tetap tidak terdeteksi di masa depan. Perusahaan akhirnya tertangkap karena kampanye semacam itu bergantung pada manusia, dan manusia meninggalkan jejak. Tetapi AI sedang mengubah itu. Biaya pembuatan narasi online yang meyakinkan semakin rendah, dan kemampuan kita untuk menangkapnya juga semakin rendah.

Sebuah model yang berjalan pada orang, berhadapan dengan yang tidak membutuhkan mereka

Kampanye Polymarket berhasil karena terlihat organik. Kreator memposting dari akun mereka sendiri seolah-olah mereka merekam pengalaman mereka sendiri, dan klip tersebut menyebar sampai terasa seperti gelombang antusiasme yang nyata daripada operasi bayaran. Kreator bayaran hanya menyumbang setengah dari apa yang membuat ini berhasil, dan setengah lainnya, kurang terlihat tetapi sama pentingnya, adalah interaksi palsu.

Tidaklah kebetulan bahwa video tersebut menarik 140 juta tampilan di TikTok, YouTube, dan Instagram dari kreator yang biasanya rata-rata hanya beberapa ratus tampilan per posting. Jangkauan seperti itu biasanya memerlukan memompa video dengan likes, komentar, dan tampilan palsu, biasanya melalui bot atau akun yang terkoordinasi, sampai mesin rekomendasi platform salah mengira itu sebagai sesuatu yang orang benar-benar ingin tonton. Kreator bayaran saja jarang menghasilkan dorongan seperti itu, yang mengapa Polymarket hampir pasti menjalankan kedua strategi tersebut sekaligus.

Apa yang membuat ini mahal, dan akhirnya dapat dilacak, adalah bahwa itu berjalan melalui orang di setiap langkah. Situs palsu harus dibangun dan dihosting, kreator harus dibayar, dan perusahaan harus direkrut untuk mengelola jaringan posting ulang, dan setiap langkah tersebut meninggalkan catatan yang dapat diikuti oleh reporter investigasi kembali ke sumber.

AI menghilangkan kendala itu, karena persona sintetis, video yang dihasilkan, dan suara yang dikloning dapat menghasilkan ilusi antusiasme organik tanpa gaji, kontrak, atau jejak kertas. Mekaniknya tetap sama. Apa yang menghilang adalah kebutuhan bagi siapa pun untuk menandatangani apa pun atau menerima transfer kawat untuk membuat itu terjadi.

Perubahan itu juga mengubah skala masalah. Volume deepfake online bertumbuh dari sekitar 500.000 pada 2023 menjadi sekitar 8 juta pada 2025, dan sekali konten fabrikasi tumbuh dengan cepat, itu berhenti menjadi intrusi sesekali ke dalam umpan dan mulai menjadi bagian yang signifikan dari apa yang membentuk umpan.

Garisan antara yang dipentaskan dan nyata tidak berlaku

Sebagian besar eksekutif masih berpikir tentang narasi online dalam istilah biner, di mana itu baik dipentaskan atau asli. Tetapi pitch Polymarket, bahwa siapa pun dapat memenangkan besar dengan berdagang di platform mereka, dimulai sebagai yang dibuat dan masih mendapatkan traksi dengan pengguna nyata sekali cukup banyak orang melihatnya, percaya, dan bertindak berdasarkan itu. Pada titik itu, asal narasi berhenti menjadi fakta yang relevan, dan cerita yang dimulai sebagai fabrikasi masih dapat menghasilkan konsekuensi yang sepenuhnya nyata sekali itu mendapatkan traksi. Penelitian baru menemukan bahwa manusia dapat membedakan konten yang dihasilkan AI dari konten asli hanya 51% dari waktu, dekat dengan lemparan koin, yang berarti bagi sebagian besar orang, melihat sesuatu di umpan mereka masih cukup untuk mempercayainya.

Polymarket mengubah kebingungan yang direkayasa menjadi biaya perdagangan. Arahkan mekanik yang sama ke pemilihan atau masalah publik yang diperebutkan, dan AI membuat manipulasi semacam itu mudah dijalankan dalam skala besar, dengan taruhan bergerak dari pendapatan yang hilang ke siapa yang dipercaya publik dan bagaimana mereka memilih.

Mengapa alat pemantauan biasa melewatkan ini

Sebagian besar pemantauan reputasi dibangun untuk melacak internet berbasis teks, menonton untuk menyebutkan, kata kunci, dan hashtag, tetapi persepsi sekarang terbentuk di dalam video pendek dan di dalam sistem rekomendasi yang menentukan apa yang dilihat. Alat yang dibangun untuk memindai caption dan thread komentar tidak pernah dibangun untuk membaca nada, konteks visual, atau kredibilitas orang di layar, dan tidak satu pun dari itu adalah informasi opsional lagi. Itu adalah cerita itu sendiri yang diceritakan dalam video.

Generasi video AI juga telah menjadi cukup baik, cukup cepat, sehingga menghasilkan klip yang meyakinkan hampir semua tidak lagi memerlukan studio atau anggaran produksi. Siapa pun yang menjalankan kampanye semacam ini sudah tahu lebih baik untuk tidak menandai merek atau menggunakan bahasa yang dapat dicari, yang berarti sinyal yang sebenarnya membawa narasi, nada, kredibilitas kreator, reaksi komunitas, tetap tidak terlihat oleh sistem berbasis kata kunci oleh desain.

Pendekatan lama untuk menyelidiki setelah fakta, mengikuti jejak kertas seperti yang dilakukan Wall Street Journal dengan Polymarket, tidak akan berskala juga, karena rekonstruksi semacam itu bergantung pada manusia yang meninggalkan jejak di tempat pertama. Ambil manusia dari loop, dan tidak ada jejak yang tersisa untuk diikuti, yang mengapa mendeteksi ini memerlukan menonton pola saat terbentuk daripada merekonstruksi penipuan setelah sudah menyebar.

Polymarket tertangkap karena masih membutuhkan orang

Tidak seharusnya ada yang terkejut bahwa perusahaan membuat sendiri hype. Itu adalah buku petunjuk desinformasi standar yang telah digunakan selama bertahun-tahun, dan Polymarket tertangkap secara khusus karena versi buku petunjuk mereka masih berjalan pada manusia, meninggalkan jejak yang dapat diikuti oleh reporter.

Versi berikutnya dari kampanye ini tidak akan membutuhkan apa pun dari itu. Sekali biaya pembuatan konsensus turun hampir mendekati nol, kemampuan untuk membedakan yang nyata dari yang dibuat berhenti menjadi kemampuan yang enak untuk dimiliki dan menjadi hal yang setiap keputusan hilir, tentang siapa yang dipercaya, apa yang dipercaya, dan bagaimana merespons, bergantung pada.