Τι αποκαλύπτουν οι ψευδείς νίκες της Polymarket για τη συντηρημένη συναίνεση στην εποχή του AI

Τον Ιούνιο, το Wall Street Journal ανέφερε ότι η Polymarket είχε πληρώσει δημιουργούς, κυρίως φοιτητές, να γυρίσουν βίντεο όπου themselves τοποθετούσαν στοιχήματα σε ιστοσελίδες που είχαν κατασκευαστεί για να μοιάζουν ακριβώς με την πραγματική πλατφόρμα, με κάποια από τα βίντεο να δείχνουν κέρδη που δεν είχαν πραγματοποιηθεί ποτέ.

Η Polymarket στη συνέχεια雇ο了一 δίκτυο “clipper” για να αναπαράγει τα βίντεο μέχρι να φαίνονται σαν μια οργανική κυματική κίνηση ανθρώπων που πλουτίζουν με την πλατφόρμα. Σε ένα σύνολο 118 βίντεο, οι δημιουργοί εορτάζουν σχεδόν 900.000 δολάρια σε κέρδη που, αν τα στοιχήματα είχαν πραγματοποιηθεί, θα είχαν χάσει περισσότερα από 166.000 δολάρια, και η πλήρης εκστρατεία κάλυψε 1.105 βίντεο, κανένα από τα οποία δεν αντανακλούσε μια πραγματική συναλλαγή.

Η większość της αντίδρασης έχει επικεντρωθεί στην ιδέα της ψευδούς διαφήμισης, και αυτό είναι ένα δίκαιο περιγραφή, αλλά σταματάει πριν από τις πιο χρήσιμες ερωτήσεις σχετικά με το πώς η Polymarket πιάστηκε και αν ένα τέτοιο είδος εκστρατείας θα παραμείνει ανιχνεύσιμο στο μέλλον. Η εταιρεία τελικά πιάστηκε γιατί αυτό το είδος εκστρατείας βασίζεται σε ανθρώπους, και οι άνθρωποι αφήνουν ένα ίχνος. Αλλά το AI αλλάζει αυτό. Το κόστος κατασκευής μιας πειστικής online αφηγηματικής πέφτει γρήγορα, και η ικανότητά μας να το πιάσουμε πέφτει μαζί με αυτό.

Ένα μοντέλο που λειτουργούσε με ανθρώπους, ενάντια σε ένα που δεν χρειάζεται

Η εκστρατεία της Polymarket λειτουργούσε γιατί φαινόταν οργανική. Οι δημιουργοί δημοσίευσαν από τους δικούς τους λογαριασμούς ως будто ηχογραφούσαν την δική τους εμπειρία, και τα κλιπ εξαπλώθηκαν μέχρι να φαίνονταν σαν μια γνήσια κυματική κίνηση ενθουσιασμού παρά μια πληρωμένη επιχείρηση. Οι πληρωμένοι δημιουργοί αντιπροσωπεύουν μόνο το μισό του τι έκανε αυτό να λειτουργήσει, και το άλλο μισό, λιγότερο ορατό αλλά εξίσου απαραίτητο, ήταν η ψευδής συμμετοχή.

Δεν είναι τυχαίο ότι αυτά τα βίντεο drew 140 εκατομμύρια προβολές στο TikTok, YouTube και Instagram από δημιουργούς που διαφορετικά είχαν μέσο όρο quelques εκατοντάδες προβολές ανά δημοσίευση. Μια τέτοια εμβέλεια συνήθως απαιτεί την αντίσταση ενός βίντεο με τεχνητές λайκ, σχόλια και προβολές, συνήθως μέσω bot ή συντονισμένων λογαριασμών, μέχρι το σύστημα συστάσεων της πλατφόρμας να πιστεύει ότι είναι κάτι που οι άνθρωποι πραγματικά θέλουν να δουν. Οι πληρωμένοι δημιουργοί μόνοι τους σπάνια παράγουν τέτοια ανύψωση, γι’ αυτό η Polymarket几乎 σίγουρα έτρεξε και τα δύο παιχνίδια ταυτόχρονα.

Τι έκανε αυτό ακριβό και τελικά ανιχνεύσιμο, είναι ότι λειτουργούσε μέσω ανθρώπων σε κάθε βήμα. Ψευδείς ιστοσελίδες έπρεπε να κατασκευαστούν και να φιλοξενηθούν, οι δημιουργοί έπρεπε να πληρωθούν, και μια εταιρεία έπρεπε να雇ο了一 για να διαχειριστεί το δίκτυο αναπαραγωγής, και κάθε ένα από αυτά τα βήματα άφησε ένα ίχνος που οι ερευνητές δημοσιογράφοι μπορούσαν να ακολουθήσουν πίσω στην πηγή.

Το AI αφαιρεί αυτό το περιορισμό,既然 συνθετικά πρόσωπα, γεννημένα βίντεο και κλωνοποιημένες φωνές μπορούν να παράγουν την ίδια ψευδή εικόνα οργανικής συμμετοχής χωρίς μισθό, σύμβαση ή χαρτογράφηση. Η μηχανική παραμένει η ίδια. Τι εξαφανίζεται είναι η ανάγκη για κανέναν να υπογράψει κάτι ή να λάβει μια τραπεζική μεταφορά για να το κάνει να συμβεί.

Αυτή η μετατόπιση αλλάζει επίσης την κλίμακα του προβλήματος. Το online deepfake όγκο πέρασε από περίπου 500.000 το 2023 σε περίπου 8 εκατομμύρια το 2025, και όταν η κατασκευασμένη περιεχόμενο αυξάνεται τόσο γρήγορα, σταματάει να είναι μια περιστασιακή εισβολή σε μια ροή και αρχίζει να γίνεται ένα σημαντικό μέρος του τι συνθέτει την ροή.

Η γραμμή μεταξύ σκηνοθετημένου και πραγματικού δεν κρατάει

Οι περισσότεροι διευθυντές vẫn σκέφτονται τις online αφηγηματικές σε δυαδικές όρους, όπου είναι είτε σκηνοθετημένο είτε γνήσιο. Αλλά η πρόταση της Polymarket, ότι ο καθένας μπορεί να κερδίσει πολύ με το trading στην πλατφόρμα, ξεκίνησε ως κατασκευασμένο και ακόμη κέρδισε δράση με πραγματικούς χρήστες μια φορά που αρκετοί άνθρωποι το είδαν, το πίστεψαν και ενήργησαν πάνω του. Σε εκείνο το σημείο, η προέλευση της αφηγηματικής σταματάει να είναι το σχετικό γεγονός, και μια ιστορία που αρχίζει ως κατασκευή μπορεί ακόμη να παράγει εντελώς πραγματικές συνέπειες μια φορά που παίρνει गतί.
Πρόσφατη έρευνα βρήκε ότι οι άνθρωποι μπορούν να διακρίνουν το AI-γεννημένο περιεχόμενο από το αυθεντικό περιεχόμενο μόνο 51% της φοράς, κοντά σε μια ρίψη κέρματος, το οποίο σημαίνει ότι για τους περισσότερους ανθρώπους, το να δουν κάτι στην ροή τους είναι ακόμη αρκετό για να το πιστέψουν.

Η Polymarket μετέτρεψε την κατασκευασμένη σύγχυση σε trading fees. Να δείξετε τα ίδια μηχανικά σε μια εκλογή ή οποιοδήποτε αμφισβητούμενο δημόσιο ζήτημα, και το AI κάνει αυτό το είδος χειραγώγησης εύκολο να τρέξει σε κλίμακα, με τα στοιχήματα να μετακινούνται από χαμένα έσοδα σε ποιον ο κόσμος εμπιστεύεται και πώς ψηφίζουν.

Γιατί τα συνήθη εργαλεία παρακολούθησης χάνουν αυτό

Η większość της παρακολούθησης της φήμης κατασκευάστηκε για να παρακολουθήσει ένα text-first internet, παρακολουθώντας για αναφορές, λέξεις-κλειδιά και hashtags, αλλά η αντίληψη σχηματίζεται τώρα μέσα σε βίντεο και μέσα στα συστήματα συστάσεων που quyếtίζουν τι θα δουν. Τα εργαλεία που κατασκευάστηκαν για να σαρώσουν τις legendes και τα threads σχολίων δεν κατασκευάστηκαν για να διαβάσουν τον τόνο, το οπτικό контекст ή την πιστότητα του προσώπου στην οθόνη, και κανένα από αυτά δεν είναι προαιρετικό. Είναι η ίδια η ιστορία που αφηγείται μέσα στο βίντεο.

Η AI γεννήτρια βίντεο έχει επίσης γίνει αρκετά καλή, αρκετά γρήγορη, ώστε η παραγωγή ενός πειστικού κλιπ σχεδόν οτιδήποτε δεν απαιτεί πλέον ένα στούντιο ή ένα προϋπολογισμό παραγωγής. Ο καθένας που τρέχει μια τέτοια εκστρατεία ήδη γνωρίζει καλύτερα από το να ετικέτει την μάρκα ή να χρησιμοποιήσει αναζητήσιμη γλώσσα, το οποίο σημαίνει ότι τα σήματα που μεταφέρουν πραγματικά την αφηγηματική, τον τόνο, την πιστότητα του δημιουργού, την κοινότητα αντίδραση, παραμένουν αόρατα σε ένα σύστημα βασισμένο σε λέξεις-κλειδιά με σχεδιασμό.

Η παλιά προσέγγιση της διερεύνησης μετά το γεγονός, ακολουθώντας το χαρτογράφηση που η Wall Street Journal έκανε με την Polymarket, δεν θα κλιμακωθεί επίσης, γιατί αυτό το είδος ανακατασκευής εξαρτάται από τους ανθρώπους να αφήνουν ένα ίχνος στο πρώτο μέρος. Βγάλτε τους ανθρώπους από το loop, και δεν υπάρχει ίχνος που να παραμείνει για να ακολουθήσετε, το οποίο είναι γιατί η ανίχνευση απαιτεί να παρακολουθείτε το πρότυπο καθώς σχηματίζεται παρά να ανακατασκευάζετε την απάτη μετά το γεγονός.

Η Polymarket πιάστηκε γιατί ακόμη χρειαζόταν ανθρώπους

Κανείς δεν πρέπει να είναι shocked ότι μια εταιρεία κατασκεύασε τη δική της φήμη. Αυτό είναι ένα τυποικό playbook της παραπληροφόρησης που έχει χρησιμοποιηθεί για χρόνια, και η Polymarket πιάστηκε συγκεκριμένα γιατί η εκδοχή του playbook vẫn τρέχει με ανθρώπους, αφήνοντας ένα ίχνος που ένας δημοσιογράφος μπορούσε να ακολουθήσει.

Η επόμενη εκδοχή αυτής της εκστρατείας δεν θα χρειαστεί κανένα από αυτά. Μόλις το κόστος κατασκευής συναίνεσης πέσει κοντά στο μηδέν, η ικανότητα να πειράξετε το πραγματικό από το κατασκευασμένο σταματάει να είναι μια καλή να έχετε ικανότητα και γίνεται το πράγμα που κάθε κατωτέρω απόφαση, σχετικά με ποιον να εμπιστεύεστε, τι να πιστεύετε, και πώς να ανταποκριθείτε, εξαρτάται από αυτό.