Σον Γκούρλεϊ, Διευθύνων Σύμβουλος & Ιδρυτής της Primer – Σειρά Συνεντεύξεων

Ο Σον Γκούρλεϊ είναι ο Διευθύνων Σύμβουλος & Ιδρυτής της Primer, μιας επιχείρησης που παρέχει βιομηχανικής ποιότητας εφαρμογές Προcessing Φυσικής Γλώσσας (NLP) για κυβερνητικές υπηρεσίες, χρηματοοικονομικές ιδρύματα, εταιρείες Fortune 50 και πολλές άλλες οργανώσεις.

Μια από τις основικές περιπτώσεις χρήσης της Primer είναι να βοηθήσει τους ανθρώπους να ανιχνεύουν, να κατανοούν και να ανταποκρίνονται σε εκστρατείες παραπληροφόρησης. Σε μια προσπάθεια να ενισχύσει αυτές τις υπηρεσίες, η Primer απέκτησε πρόσφατα την Yonder για να ενισχύσει την ικανότητά της να καταπολεμήσει τις επιθέσεις παραπληροφόρησης.

Καθίσαμε με τον Σον για να συζητήσουμε την παραπληροφόρηση στην πρόσφατη συνέλευση Ai4 που πραγματοποιήθηκε στο Λας Βέγκας. Ο Σον είναι ένας θησαυρός πληροφοριών σχετικά με τις εκστρατείες παραπληροφόρησης και την κυβερνητική προπαγάνδα. Παρακάτω είναι η συνέντευξή μας.

Τι σας έκανε να ενδιαφερθείτε να μάθετε και να κατανοήσετε το σύνολο του οικοσυστήματος της παραπληροφόρησης;

Μίλησα λίγο για το εμπόριο υψηλής συχνότητας και ήταν ενδιαφέρον. Ψάχναμε σε αυτόν τον χώρο των αλγορίθμων, που προσπαθούσαν να κατανοήσουν αν είχε συμβεί κάτι στον κόσμο και στη συνέχεια να το εμπορευτούν. Και ήταν πρωτόγονο. Αυτό ήταν το 2012 και πήραμε θόρυβο.

Λάθαναν πράγματα όταν τα διάβαζαν ή τα ερμήνευαν λάθος. Και τότε υπήρχε ένα tweet που δημοσιεύθηκε, υποτιθέμενο ότι η AP είχε διαρρηχθεί. Και το λογαριασμό τους στο Twitter είπε: “Βreaking: Έκρηξη στο Λευκό Οίκο, ο Μπαράκ Ομπάμα τραυματίστηκε”. Και η αγορά έχασε αυτό το ποσό, περίπου 130 δισεκατομμύρια δολάρια, από αυτό το tweet. Τώρα δεν ξέρω αν ήταν προγραμματισμένο να οδηγήσει την αγορά, αν ήταν προγραμματισμένο να δημιουργήσει χάος, ή αν ήταν προγραμματισμένο να κάνει κάτι, αλλά ήταν απλά αυτή η σύνδεση πίσω στο χρόνο, που με έκανε να σκεφτώ: “Ωω”. Είναι σαν το φτερό της πεταλούδας που χτυπά και δημιουργεί αυτό το είδος επιπτώσεων, επειδή εκμεταλλεύεται το σύνολο των αλγοριθμικών ηθοποιών που δεν είναι πραγματικά έξυπνοι.

Το είδα αυτό και άρχισα να ψάχνω και είδα ότι υπήρχε ένας όλος χώρος με μεξικανικά bots, μεξικανικά λογαριασμούς που ισχυρίζονταν ότι οι δημοσιογράφοι δεν είχαν σκοτωθεί από καρτέλ ναρκωτικών. Και αυτό ήταν το 2013. Και σκέφτηκα: “Ω Θεέ μου, έχουμε μη κρατικούς ηθοποιούς, καρτέλ ναρκωτικών, που εμπλέκονται σε αυτή τη μάχη αφηγήματος. Και φαίνεται ότι κερδίζουν”. Και σκέφτηκα: “Αυτοί δεν είναι ακόμη κρατικοί ηθοποιοί”. Και σε εκείνο το σημείο είπα: “Τι θα γίνει αν ένας κρατικός ηθοποιός πάρει στα χέρια του αυτό; Τι θα γίνει και τι θα κάνει;” Και τότε δημοσίευσα ένα άρθρο στο Wired το 2015. Γράφτηκε πραγματικά στο τέλος του 2014, αλλά ήταν για προβλέψεις για το 2015. Και είπα: “Αυτή θα είναι η χρονιά που τα bots θα πάρουν τον έλεγχο και θα ελέγξουν τις εκλογές”.

Και έγινε απίστευτα προφητικό, καθώς αυτό το κομμάτι ήρθε, vielleicht ακόμη περισσότερο από ό,τι αρχικά σκέφτηκα. Αλλά ήταν απλά το να δω αυτή τη καμπύλη της τεχνολογίας. Από την άλλη πλευρά, είδαμε επίσης πόσο πρωτόγονα ήταν αυτές οι τεχνολογίες. Ήταν αρκετά πρωτόγονο. Όλα αυτά άρχισαν να έρχονται μαζί και στη συνέχεια βρεθήκαμε σε αυτό το χώρο που τελικά καταλήξαμε, που είναι ωω, μπορείτε να ελέγχετε αφηγήματα απλά μέσω της επαναλαμβανόμενης έκθεσης σε πληροφορίες από τα feeds που καταναλώνετε τώρα.

Πιστεύετε ότι έχει υπάρξει μια εκλογή που έχει επηρεαστεί ή ότι μια μελλοντική εκλογή μπορεί να επηρεαστεί από αυτό το είδος παραπληροφόρησης;

Σχηματίζοντας αυτό πίσω σε μια έννοια. Πρώτα είναι ότι έχουμε πάρει μια πολύ στενή μέτρηση σε αυτό, η οποία είναι η παραπληροφόρηση δεν είναι πραγματική. Και νομίζω ότι αυτό είναι πολύ στενό. Χρειαζόμαστε να το επεκτείνουμε σε ποιος ελέγχει τα αφηγήματα. Τώρα, το αφήγημα μπορεί πολύ καλά να είναι πραγματικό, αλλά μπορεί να μην είναι τόσο σημαντικό.

Μπορούμε να πάρουμε μια ιστορία αν σας ενδιαφέρει το έγκλημα, και μπορούμε να το μεταδώσουμε σε όλα τα κανάλια, και θα επιστρέψετε μέσω αυτού και θα σκεφτείτε ότι η πόλη σας έχει περάσει από την πιο φριχτή έγκληματική έκρηξη που έχει δει ποτέ. Και όλα που κάνατε ήταν να πάρτε κάθε einzelνο έγκλημα που έγινε ποτέ, που προηγουμένως δεν ήταν στο ραντάρ σας, και να το βάλουμε στο σύστημα σας.

Τώρα θα αρχίσετε να πιστεύετε ότι το έγκλημα είναι πολύ υψηλότερο από ό,τι είναι πραγματικά. Δεν έχει αλλάξει, αλλά είστε εκτεθειμένοι περισσότερο σε αυτό. Έτσι, αυτό δεν είναι αν το έγκλημα συνέβη ή όχι, είναι αν ήταν αγωνιζόμενο για την προσοχή σας. Έτσι, αυτό είναι ένα κομμάτι. Παίρνουμε να ενδιαφερόμαστε σε αυτό αν συνέβη ή όχι; Όπως να πούμε ότι αυτό είναι η μάχη. Αλλά η μάχη είναι πραγματικά για τις κοσμοθεωρίες των ανθρώπων. Έτσι, αυτό είναι η μια πλευρά του.

Το δεύτερο κομμάτι εδώ είναι, πόσο μπορείτε να επηρεάσετε αυτά τα πράγματα; Καλά, αν δεν έχετε μια αντίληψη για το αν τα εμβόλια προκαλούν απώλεια 37 πόντων IQ, ή αν δεν είχατε προηγουμένως μια πίστη ότι τα εμβόλια και η νοημοσύνη ήταν συνδεδεμένα. Αν σας είπα ότι τα εμβόλια αυξάνουν το IQ σας, θα ήταν τώρα τρεις φορές πιο πιθανό να πιστεύετε ότι, από ότι αν κάποιος ήρθε και σας είπε ότι τα εμβόλια προκαλούν απώλεια IQ. Έτσι, όποιος έρχεται με το πρώτο μήνυμα έχει την καλύτερη ευκαιρία να κρατήσετε αυτή τη πίστη, αν προηγουμένως δεν είχατε γνώμη για κάτι.

Είναι αυτό προκατάληψη στο ανθρώπινο εγκέφαλο που είναι ευάλωτο σε αυτό;

Είναι προκατάληψη στο ανθρώπινο εγκέφαλο. Το δεύτερο κομμάτι, ακόμη και αν ξέρετε ότι η πληροφορία είναι ψευδής, αν είστε εκτεθειμένοι σε αυτή, είστε πιο πιθανό να πιστεύετε ότι, ακόμη και αν ξέρετε ότι είναι ψευδής. Έτσι, υπάρχει αυτή η επανάληψη της πληροφορίας. Υπάρχει το πρώτο κομμάτι της πληροφορίας όταν προηγουμένως δεν είχατε γνώμη. Και το άλλο κομμάτι που γνωρίζουμε, είναι αν το έχετε από ανεξάρτητες πηγές, το εμπιστεύεστε περισσότερο. Και αν το έχετε από ανθρώπους που είναι στο δίκτυο φίλων σας, το εμπιστεύεστε περισσότερο, γίνεται μια μεθοδολογία συσχετισμού. Και γνωρίζουμε ότι γύρω στο 25% είναι ένα σημείο καμπής, αν 25% των ανθρώπων αρχίσουν να πιστεύουν κάτι, δημιουργεί ένα τεράστιο σημείο καμπής με το οποίο θα είναι πολύ πιθανό ότι 75% ή 80% των ανθρώπων θα αρχίσουν να πιστεύουν ότι.

Έτσι, όλα αυτά καταλήγουν στο χώρο της σχηματίζωσης γνώμης και των μηχανισμών με τους οποίους οι ομάδες φτάνουν σε συναίνεση. Υπάρχει ένα υπο-κλάδος της φυσικής, που είναι η υπολογιστική φυσική, που έχει μελετήσει αυτό, και μπορείτε να πάτε στη βιβλιογραφία και να κατανοήσετε αυτά τα μοντέλα της σχηματίζωσης γνώμης, της διάδοσης και της υιοθέτησης.

Μπορείτε να σχεδιάσετε αυτά τα συστήματα αν το επιθυμείτε, και αυτό είναι αυτό που οι άνθρωποι αρχίζουν να κάνουν. Δεν νομίζω ότι έχουν sido πολύ sophistici. Αλλά δείτε, η Κίνα είναι μια υπερδύναμη του AI. Ξέρουν ότι ο νικητής αυτού θα έχει μια πολύ κυρίαρχη στρατιωτική υπεροχή έναντι όποιου είναι δεύτερος σε αυτή τη διοργάνωση. Έτσι, η Κίνα θα καταδιώξει τα συστατικά του τεχνητού νοού, πολύ επιθετικά. Το δεύτερο κομμάτι αυτού είναι η προεξοχή της παραγωγής chip και των προηγμένων GPU που έχει η Ταϊβάν. Και νομίζω ότι αν η Κίνα κοιτάζει αυτό, και θα μπορούσε να έχει τα εργαστήρια, τις εγκαταστάσεις και τις βιομηχανίες της Ταϊβάν, θα ήταν σε μια πολύ, πολύ κυρίαρχη θέση σε μια διοργάνωση AI.

Τώρα, αν η Κίνα πάρει αυτό με τη βία, υπάρχει μια καλή ευκαιρία ότι θα καταστρέψουν αυτές τις ικανότητες, ή θα καταστραφούν από την Ταϊβάν και κανείς δεν τις έχει. Αυτό θα ήταν εντάξει σε κάποιο επίπεδο για την Κίνα. Θα υπήρχε μια τεράστια διαταραχή παγκοσμίως, αλλά δεν θα δημιουργούσε απαραίτητα τόσο μεγάλο πρόβλημα για την Κίνα αν συνέβαινε αυτό.

Ωστόσο, αν μπορέσουν να το πάρουν ολόκληρο, τότε αυτό είναι ένα τεράστιο πλεονέκτημα για αυτούς. Και ο τρόπος με τον οποίο θα το κάνουν είναι όπως έχουμε δει στο Χονγκ Κονγκ, είναι πώς, “Είστε πραγματικά μέρος μας”. Και πείθουν τον υπόλοιπο κόσμο ότι είναι πραγματικά μέρος μας. Και αν προσπαθήσετε να διαφωνήσετε με αυτή τη πίστη ή γνώμη, τότε θα υπάρξουν οικονομικά ή άλλα προβλήματα. Έτσι, αυτό είναι κάτι που θα παλέψουμε μέσω αυτού. Και είναι πρώτα ένα πρωτόκολλο, και είναι γρήγορα να αναγνωρίσετε αν μια επιχείρηση πληροφοριών εκτελείται στην πλατφόρμα, να ειδοποιήσετε αυτά τα συστήματα, τουλάχιστον να περιορίσετε τον τύπο της διάχυσης αυτής της πληροφορίας, αλλά επίσης, αν υπάρχουν μη-βοτ δίκτυα, να τα κατεβάσετε γρήγορα. Η πλευρά της σύστασης αυτού… Αυτό δεν έχει, θα έλεγα, χρησιμοποιηθεί κακόβουλα από τις εταιρείες των ΗΠΑ. Δεν νομίζω ότι αυτό είναι όπου είναι. Μπορεί να χρησιμοποιηθεί κακόβουλα από μια εξωτερική εταιρεία; Ναι, πιθανώς. Αν ήσαστε σε πόλεμο με κάποιον και είχαν τον έλεγχο ενός δικτύου πληροφοριών που τροφοδοτούσε αφηγήματα στο πληθυσμό σας, θα τους εμπιστευόσασταν να είναι δίκαιοι και αμερόληπτοι;

Λέτε, δεν ξέρω τι έχει συμβεί με το VK και τη Ρωσία, που είναι το κοινωνικό δίκτυο. Είπαν, “Λάβετε, δεν θα βάλετε εικόνες νεκρών ανθρώπων που σκοτώσαμε στην Ουκρανία. Αυτό απαγορεύεται. Και θα βάλουμε ένα τείχος πληροφοριών για να σταματήσουμε τη διάχυση της πληροφορίας από τα δυτικά δίκτυα στα δικά μας δίκτυα”. Έτσι, τι συμβαίνει όταν αρχίζει ένας πόλεμος, είναι οι άνθρωποι που βάζουν μπαράζ που λέει, “Δεν θα έχετε τον έλεγχο του πληθυσμού μας”.

Νομίζω ότι το εγχειρίδιο αυτό, πήρε vielleicht τρεις ή τέσσερις εβδομάδες για να το κάνει. Υπήρχε ένα παράθυρο όπου νομίζω ότι ήταν σχετικά ανοιχτό, αλλά στη συνέχεια το έκλεισαν, επειδή συνειδητοποίησαν ότι αν δεν ελέγχετε το αφήγημα στο πληθυσμό σας, και αν αφήσετε να δουν την ζημιά που οι πύραυλοι και οι επιθέσεις έχουν στις πολιτικές πληθυσμούς της Ουκρανίας, μπορεί να μην θέλουν να πολεμήσουν πλέον.

Νομίζω ότι ένα από τα πράγματα που μας άφησαν όλους έκπληκτους με την Ουκρανία ήταν πόσο ισχυρά επέστρεψαν. Και δεν νομίζω ότι ήμασταν λάθος να σκεφτόμαστε ότι θα μπορούσε να ήταν ένας πολύ γρήγορος πόλεμος, αν οι άνθρωποι της Ουκρανίας είχαν παρατήσει τα όπλα τους. Αλλά τι συνέβη ήταν το αντίθετο. Επέστρεψαν στη χώρα, πήραν τα Kalashnikov και άρχισαν να πολεμούν. Και αυτό ήταν επειδή το αφήγημα γύρισε, και γύρισε σε κάποια κλειδιά. Το Φάντασμα του Κιέβου, το Νησί της Όφιδος, η γυναίκα με τα σποράκια του ηλίου στις τσέπες του στρατιώτη και λέει, “Όταν πεθάνεις, τα σποράκια του ηλίου θα έρθουν”. Αυτά τα moments, τα memes, αντήχησαν μέσω αυτού του πληθυσμού.

Τώρα, πολλά από αυτά δεν ήταν πραγματικά αληθινά. Ή ήταν κατασκευασμένα. Το Φάντασμα του Κιέβου και το Νησί της Όφιδος ήταν ενισχυμένα. Επέζησαν, αλλά ήταν κατηγοριοποιημένα ως μάρτυρες που είπαν, “Φ*** σας”, και σκοτώθηκαν. Αυτή ήταν μια πληροφοριακή πόλεμος par excellence που δημιούργησε ένα πνεύμα μάχης, όχι μόνο στην Ουκρανία, αλλά και στις χώρες του ΝΑΤΟ και στις ΗΠΑ για να έχουν σημαίες της Ουκρανίας να κυματίζουν γύρω και να λένε, “Πρέπει να φροντίσουμε για αυτό”. Αυτό δεν ήταν απαραίτητο. Ο πιο εύκολος πόλεμος για να κερδίσετε είναι εκείνος όπου η αντίπαλη πλευρά δεν θέλει να πολεμήσει. Και αυτό ήταν η στοίχημα και το παιχνίδι που έκανε η Ρωσία και ο Πούτιν, και ήταν λάθος. Και ήταν λάθος επειδή δεν είχαμε δει ποτέ μια επιχείρηση πληροφοριών που είχε επιστρέψει για να κερδίσει einen ναρατίβο πόλεμο όπως είχαμε δει με την Ουκρανία πριν.

Νομίζω ότι υποτιμούμε την δύναμη των επιχειρήσεων πληροφοριών. Νομίζω ότι η Κίνα έχει πληρώσει πολύ προσοχή. Και νομίζω ότι θα το δούμε να παίζεται. Και το βλέπουμε να παίζεται, σε σχέση με την Ταϊβάν, και τι σκέφτεται ο υπόλοιπος κόσμος γι’ αυτό. Και οι ΗΠΑ, νομίζω ότι αν θέλουν να εμπλακούν, πρέπει να έχουν τις ίδιες ικανότητες, για να καταπολεμήσουν τις επιχειρήσεις πληροφοριών.

Υπάρχουν κάποιες τελευταίες λέξεις που θέλετε να μοιραστείτε για την Primer;

Είμαστε εμπλεγμένοι σε αυτή την αποστολή για να βοηθήσουμε την υποστήριξη των ΗΠΑ και των συμμάχων τους να φέρουν την καλύτερη τεχνολογία στα χέρια των πολεμιστών, και νομίζω ότι θέλουμε περισσότερες εταιρείες τεχνολογίας να έρθουν και να ενταχθούν σε αυτή τη μάχη.

Ευχαριστούμε για αυτή τη διαφωτιστική συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα ενθαρρύνονται να επισκεφθούν την Primer.