Πώς το Facebook Sử dụng το AI για τη Διασπορά των Ψευδών Πληροφοριών και την Απειλή της Δημοκρατίας

Ο Dan Tunkelang, ο οποίος επόπτευε την έρευνα για το AI στο LinkedIn, δήλωσε: «Την στιγμή που οι συστάσεις έχουν τη δύναμη να επηρεάσουν τις αποφάσεις, γίνονται στόχος για spammers, scammers και άλλους ανθρώπους με λιγότερο ευγενείς προθέσεις.»

Αυτή είναι η δίλημμα που αντιμετωπίζουν οι εταιρείες κοινωνικών μέσων όπως το Facebook. Το Facebook χρησιμοποιεί συστάσεις για να παρακολουθήσει τα κλικ, τις προβολές και άλλες μετρήσιμες συμπεριφορές των χρηστών. Αυτό χρησιμοποιείται για να σχεδιαστεί ένα σύστημα συστάσεων, ένα σύστημα AI που έχει τη δύναμη να αποφασίσει ποιος βλέπει ποιο περιεχόμενο και πότε.

Το Facebook έχει βελτιστοποιήσει το σύστημα συστάσεων για να μεγιστοποιήσει την εμπλοκή του χρήστη, η οποία μετράται από το χρόνο που περνάει ο χρήστης στο Facebook. Η μεγιστοποίηση του χρόνου έχει προτεραιότητα έναντι οποιασδήποτε άλλης μεταβλητής, συμπεριλαμβανομένης της ποιότητας ή της ακρίβειας του συσταμένου περιεχομένου.

Το σύστημα είναι σχεδιασμένο για να ανταμείβει τους αισθησιακούς τίτλους που εμπλέκουν τους χρήστες εκμεταλλευόμενοι τις γνωστικές προκαταλήψεις, ακόμη και αν αυτοί οι τίτλοι γράφονται από Ρώσους trolls με σκοπό να διαιρέσουν την κοινωνία ή να επηρεάσουν τις πολιτικές εκλογές.

Πώς το Facebook Χρησιμοποιεί το AI

Υπάρχει έλλειψη ευαισθητοποίησης σχετικά με το πώς το Facebook χρησιμοποιεί το AI για να αποφασίσει τι θα δουν και θα αλληλεπιδράσουν οι χρήστες. Πρέπει πρώτα να κατανοήσουμε τι είναι η επιβεβαίωση προκατάληψης. Η Psychology Today περιγράφει αυτό ως:

Η επιβεβαίωση προκατάληψης είναι η τάση να αναζητάμε, να ερμηνεύουμε, να ευνοούμε και να θυμόμαστε πληροφορίες με τρόπο που επιβεβαιώνει ή υποστηρίζει τις προηγούμενες πιστεύω ή αξίες μας.

Το Facebook καταλαβαίνει ότι οι χρήστες είναι πιο πιθανό να κάνουν κλικ σε ειδήσεις που ταιριάζουν στην ανθρώπινη τάση να αναζητάμε επιβεβαίωση προκατάληψης. Αυτό θέτει ένα επικίνδυνο προηγούμενο για τη διάδοση θεωριών συνωμοσίας και για τη δημιουργία εχο-θαλάμων όπου οι χρήστες τρέφονται αποκλειστικά με αυτό που θέλουν να δουν, ανεξάρτητα από την ακρίβεια ή την κοινωνική επίδραση του περιεχομένου.

Μια μελέτη του MIT ήταν σε θέση να αποδείξει ότι τα ψευδή νέα στο Twitter διαδίδονται 6 φορές πιο γρήγορα από τα αληθινά νέα.

Αυτό σημαίνει ότι και το Twitter και το Facebook μπορούν να χρησιμοποιηθούν ως όπλα. Ενώ το Twitter επιτρέπει σε οποιονδήποτε να ακολουθήσει σκόπιμα ροές με στενές ή προκατειλημμένες απόψεις, το Facebook πηγαίνει ένα βήμα παραπέρα. Ένας χρήστης στο Facebook δεν έχει κανέναν τρόπο να ελέγξει ή να μετρήσει τι βλέπει, αυτό ελέγχεται αποκλειστικά από το σύστημα συστάσεων του Facebook, τον τρόπο με τον οποίο μετρά την εμπλοκή του χρήστη και τον τρόπο με τον οποίο βελτιστοποιεί αυτήν την εμπλοκή.

Το Facebook προσπαθεί να διαμορφώσει και να προβλέψει τις επιθυμίες των χρηστών. Το Facebook εκτιμά το βαθμό με τον οποίο ένας χρήστης θα喜欢 ή δεν θα喜欢 ένα άρθρο που δεν έχει ακόμη δει. Για να αποφευχθεί η απώλεια της εμπλοκής του χρήστη, το Facebook επιλέγει να παραλείψει άρθρα που μπορεί να μειώσουν το επίπεδο της εμπλοκής και να επιλέξει να εμπλέξει τον χρήστη με άρθρα που ταιριάζουν στην επιβεβαίωση προκατάληψης, εξασφαλίζοντας περισσότερα κλικ, σχόλια, likes και shares.

Το Facebook χρησιμοποιεί επίσης αυτόματο συνεργατικό φιλτράρισμα ιστορικών ενεργειών και γνώμών χρηστών για να ταιριάξει αυτόματα τους συμμετέχοντες (φίλους) με παρόμοιες γνώμες. Το Facebook χρησιμοποιεί μια χρησιμότητα που προβλέπει και κατατάσσει μαθηματικά τις προτιμήσεις σας για αντικείμενα που θέλετε να δείτε.

Αυτό προκαλεί στους χρήστες να πέσουν σε einen λαβύρινθο, είναι παγιδευμένοι σε ψευδή νέα, τρέφονται με περιεχόμενο που ενισχύει τις προκαταλήψεις τους. Το περιεχόμενο που παρουσιάζεται είναι εγγενώς σχεδιασμένο με στόχο να επηρεάσει τι κάνετε κλικ.

Όπως αν αυτό δεν ήταν αρκετό, το Facebook επίσης εμπλέκει το λεγόμενο “κοινωνικό απόδειξη”. Το κοινωνικό απόδειξη είναι η концепция ότι οι άνθρωποι θα ακολουθήσουν τις ενέργειες των μαζών. Η ιδέα είναι ότι既然 τόσοι άλλοι άνθρωποι συμπεριφέρονται με έναν bestimmμένο τρόπο, πρέπει να είναι η σωστή συμπεριφορά.

Το Facebook παρέχει αυτήν την κοινωνική απόδειξη στο контέκστ των likes, σχολίων ή shares.既然 μόνο κάποιοι φίλοι μπορεί να δουν το άρθρο (εκτός αν ψάξουν συγκεκριμένα τον χρήστη), η κοινωνική απόδειξη απλά ενισχύει την επιβεβαίωση προκατάληψης.

Το Facebook επίσης χρησιμοποιεί φίλτρα φυσαλίδων για να περιορίσει την έκθεση σε αντικρουόμενες, αντίθετες και προκλητικές απόψεις.

Διαφημίσεις στο Facebook

Ανυποψίαστοι χρήστες του Facebook μπορεί να κάνουν κλικ σε διαφημίσεις χωρίς να είναι vědomοι ότι βλέπουν διαφημίσεις. Ο λόγος για αυτό είναι απλός, αν υπάρχει μια διαφήμιση, μόνο ο πρώτος χρήστης που την δει θα δει την διαφήμιση. Αν ο χρήστης μοιράζεται τη διαφήμιση, όλοι οι φίλοι του βλέπουν τη “μοιρασιά” ως άρθρο ροής, το Facebook σκόπιμα παραλείπει την διαφήμιση. Αμέσως, οι χρήστες αφαιρούν την προσοχή τους, δεν μπορούν να διακρίνουν τι είναι διαφήμιση και τι θα είχε εμφανιστεί οργανικά στη ροή τους.

Μοιρασίες στο Facebook

Δυστυχώς, τα πράγματα χειροτερεύουν. Αν ένας χρήστης έχει 1000 φίλους που ταυτόχρονα μοιράζονται περιεχόμενο, το σύστημα συστάσεων του Facebook θα προτιμήσει το περιεχόμενο από την μειοψηφία που μοιράζεται τις ίδιες απόψεις, ακόμη και αν αυτές συχνά αποτελούν ανεπιβεβαίωτες θεωρίες συνωμοσίας. Ο χρήστης θα είναι υπό την ψευδή εντύπωση ότι αυτά τα άρθρα της ροής βλέπονται από όλους.

Αν ένας χρήστης προσπαθήσει να ενημερώσει έναν άλλο χρήστη για ένα παραπλανητικό ή ψευδές άρθρο, η ίδια η ενέργεια της σχολιαστικής ή της αλληλεπίδρασης με το άρθρο της ροής αυξάνει einfach τον χρόνο εμπλοκής του αρχικού χρήστη. Αυτή η ανάδραση προκαλεί το Facebook να ενισχύσει την αλληλεπίδραση με αυτόν τον χρήστη με επιπλέον ψευδή νέα.

Αυτό προκαλεί einen εχο-θάλαμο, einen φίλτρο φυσαλίδων όπου ένας χρήστης εκπαιδεύεται να πιστεύει μόνο σε αυτό που βλέπει. Η αλήθεια είναι απλά μια ψευδαίσθηση.

Σοβαρότητα του Ζητήματος

Περισσότεροι από 10 εκατομμύρια άνθρωποι συνδέθηκαν με μια ροή που ισχυρίστηκε ότι ο Πάπας Φραγκίσκος εξέφρασε την υποστήριξή του για την εκλογή του Trump το 2016. Δεν υπήρχε απόδειξη για αυτό, ήταν απλά ένα ψευδές άρθρο που προήλθε από τη Ρωσία, αλλά αυτό ήταν το πιο κοινοποιημένο άρθρο στο Facebook στα τρία μήνες πριν από τις εκλογές του 2016.

Το άρθρο της ροής δημιουργήθηκε από μια ρωσική φάρμα trolls που ονομάζεται “Internet Research Agency”. Αυτή η ίδια οργάνωση ήταν υπεύθυνη για την προώθηση και τη μοιρασιά σε Twitter και Facebook άρθρων που προκαλούσαν ρατσισμό, υπέρ της δαιμονοποίησης του Black Lives Matter, και όπλα ψευδών άρθρων που εξαπλώναν ψευδείς ισχυρισμούς για Αμερικανούς πολιτικούς.

Η Επιτροπή Επιλογής για την Πληροφόρηση εξέδωσε μια 85-σελίδων αναφορά που περιγράφει τις Ρωσικές Ενεργές Μέτρας και Παρεμβάσεις, το μεγαλύτερο μέρος των οποίων αφορούσε τη διάδοση διαιρετικών ψευδών άρθρων και προπαγάνδας που είχαν ως único σκοπό την επίδραση στις εκλογές του 2016 στις Ηνωμένες Πολιτείες.

Συνεχίζοντας στις εκλογές του 2020, το πρόβλημα έχει ενταθεί. Τον Σεπτέμβριο του 2020, μετά από μια συμβουλή του FBI, το Facebook και το Twitter τερμάτισαν τους λογαριασμούς κοινωνικών μέσων για einen οργανισμό που ονομάζεται PeaceData, ο οποίος συνδέεται με τις κρατικές προπαγανδιστικές προσπάθειες της Ρωσίας.

Δυστυχώς, η διακοπή των λογαριασμών είναι μια προσωρινή και αναποτελεσματική λύση. Οι ρωσικοί λογαριασμοί συχνά λαμβάνουν τη μορφή αιτήσεων φιλίας, συχνά με γυναικείες προφίλ που στοχεύουν τους άνδρες, ή με καταληφθέντες λογαριασμούς χρηστών με ιστορία κανονικών αναρτήσεων. Αυτοί οι καταληφθέντες λογαριασμοί μετατρέπονται σιγά-σιγά σε πολιτικές αναρτήσεις, μέχρι που κυριαρχούν από προπαγάνδα ή θεωρίες συνωμοσίας.

Ένας ανυποψίαστος χρήστης μπορεί να μην είναι vědomος ότι ο λογαριασμός ενός φίλου έχει καταληφθεί. Αν ο χρήστης είναι ευάλωτος σε θεωρίες συνωμοσίας, μπορεί να αλληλεπιδράσει με το ψευδές άρθρο της ροής, ο ρωσικός troll, ο οποίος είναι συχνά ένας bot, τότε παρέχει επιπλέον κοινωνική απόδειξη με τη μορφή likes ή σχολίων.

Οι ευάλωτοι χρήστες είναι συχνά εκείνοι που λιγότερο κατανοούν πώς λειτουργούν η τεχνολογία και το AI. Η ηλικιακή ομάδα των 65 ετών και άνω, η οποία είναι η πληθυσμιακή ομάδα που είναι πιο πιθανό να ψηφίσει, είναι επίσης η πιο πιθανό να διαδώσει ψευδή νέα, όπως αναφέρθηκε από τους New York Times.

Σύμφωνα με τη μελέτη, οι χρήστες του Facebook ηλικίας 65 ετών και άνω δημοσίευσαν επτά φορές περισσότερα άρθρα από ψευδείς ιστοσελίδες από ότι οι ενήλικες ηλικίας 29 ετών και νεότεροι. Η έλλειψη ψηφιακής μεディア γραμματικής έχει αυτήν την ηλικιακή ομάδα ανεπηρέαστη για μια ροή που δεν βασίζεται σε γεγονότα ή ακρίβεια, αλλά αποκλειστικά στην εμπλοκή του χρήστη.

Οι κακόβουλοι ηγέτες επωφελούνται από το σύστημα συστάσεων του Facebook, το οποίο εκμεταλλεύεται τις γνωστικές προκαταλήψεις μας. Αυτές οι ίδιες οργανώσεις έχουν βελτιστοποιήσει την κακοποίηση του AI του Facebook για τη διάδοση θεωριών συνωμοσίας και προπαγάνδας. Οι θεωρίες συνωμοσίας που μπορεί να φαίνονται αθώες στην αρχή, συχνά χρησιμοποιούνται ως καναλιές για την υπερεθνικιστική, την ακροδεξιά εθνικιστική ιδεολογία ή την QAnon μια παράξενη θεωρία συνωμοσίας που αφορά τον Trump να προσπαθεί να σώσει τον κόσμο από λιβεραλιστές πενταπραγματιακούς.

Περίληψη

Το Facebook είναι σαφώς vědomό ότι υπάρχει ένα πρόβλημα και έχει δημόσια ανακοινώσει μια στρατηγική που επικεντρώνεται στην αφαίρεση περιεχομένου που παραβιάζει τους κανονισμούς της κοινότητας του Facebook. Το πρόβλημα είναι ότι η διαγραφή λογαριασμών είναι μια προσωρινή λύση που είναι αναποτελεσματική όταν οι λογαριασμοί δημιουργούνται σε bulk από bots ή όταν γίνεται μαζική κατάληψη λογαριασμών χρηστών. Επίσης, δεν λύνει το πρόβλημα ότι η większość της μοιρασιάς γίνεται από κανονικούς χρήστες που δεν είναι vědomοι ότι διαδίδουν ψευδείς πληροφορίες.

Η προσθήκη προειδοποιητικών ετικετών απλά ενισχύει τις θεωρίες συνωμοσίας ότι οι κολοσσοί των κοινωνικών μέσων είναι προκατειλημμένοι κατά των συντηρητικών, οι οποίοι είναι οι πιο ευάλωτοι στα ψευδείς νέα.

Η λύση πρέπει να είναι ένα νέο σύστημα συστάσεων που μετράει όχι μόνο την εμπλοκή του χρήστη, αλλά είναι βελτιστοποιημένο για την ευτυχία του χρήστη, παρέχοντας αλήθεια και προωθώντας την αυξημένη αυτοσυνειδητοποίηση.

Εν τω μεταξύ, το Facebook πρέπει να ακολουθήσει τον δρόμο που ακολούθησε το Twitter για να απαγορεύσει τις πολιτικές διαφημίσεις.

Τέλος, μια σημαντική ερώτηση πρέπει να τεθεί. Αν οι άνθρωποι δεν έχουν πλέον την επιλογή για τα νέα που βλέπουν, πότε σταματά να είναι μια σύσταση και πότε γίνεται έλεγχος του νου;

Συστήνεται ανάγνωση:

Ρωσικές Ενεργές Μέτρας και Παρεμβάσεις – Αναφορά από την Επιτροπή Επιλογής για την Πληροφόρηση της Γερουσίας των Ηνωμένων Πολιτειών.

Το Σοκαριστικό Έγγραφο που Προβλέπει το Τέλος της Δημοκρατίας – Από τον Rick Shenkman, ιδρυτή του History News Network του Πανεπιστημίου Τζορτζ Ουάσινγκτον.

Οι Ηλικιωμένοι Μοιράζονται Ψευδείς Νέα στο Facebook Περισσότερο – Από τους New York Times.