Η Facebook Καταργεί Λογαριασμούς που Δημιουργήθηκαν από AI και Χρησιμοποιήθηκαν για τη Διατήρηση Θεωριών Συνωμοσίας

Οι εταιρείες κοινωνικών μέσων έχουν στοχεύσει να ελέγξουν τις ψευδείς πληροφορίες πριν από την εποχή των εκλογών του 2020 με διάφορους τρόπους. Ενώ το Twitter πρόσφατα απαγόρευσε τις πολιτικές διαφημίσεις από την πλατφόρμα του, η Facebook (META ) ανακοίνωσε ότι έχει κλείσει εκατοντάδες ψεύτικους λογαριασμούς, ομάδες και σελίδες. Πολλοί από αυτούς τους λογαριασμούς φαίνεται να έχουν προφίλ που δημιουργήθηκαν από τεχνητή νοημοσύνη και πολλοί έχουν αναφερθεί ότι χρησιμοποιήθηκαν για τη διάδοση ψευδών πληροφοριών και θεωριών συνωμοσίας.

Όπως αναφέρθηκε από το Forbes, η Facebook δήλωσε ότι οι απαγορευμένοι λογαριασμοί και σελίδες ήταν συνδεδεμένοι με το δίκτυο “Beauty of Life” ή “TheBL”, το οποίο η Facebook ανέφερε ότι ήταν συνδεδεμένο με την συντηρητική εφημερίδα Epoch Times. Σύμφωνα με την Facebook, η Epoch Media Group είχε δαπανήσει σχεδόν 9,5 εκατομμύρια δολάρια για διαφήμιση μέσω πολλών από τις τώρα απαγορευμένες σελίδες και ομάδες, με πολλές από τις αναρτήσεις να περιέχουν θεωρίες συνωμοσίας υπέρ του Trump. Ενώ η Epoch Media Group αρνείται τις κατηγορίες, η Facebook έχει δηλώσει ότι συνεργάστηκε στενά με ανεξάρτητους ερευνητές όπως η Graphika και το Ψηφιακό Εργαστήριο Έρευνας του Atlantic Council (DFRLab) για να καθορίσει τη φύση των λογαριασμών και των σελίδων πριν λάβει ενέργειες εναντίον τους.

Σύμφωνα με την Facebook, οι λογαριασμοί αφαιρέθηκαν για “συντονισμένη μη αυθεντική συμπεριφορά”, με σκόπο να εξαπατήσουν τους άλλους σχετικά με τις ταυτότητές τους, και για την απόπειρα πολιτικής παρέμβασης. Σύμφωνα με το CNET, η Facebook ανέφερε ότι οι λογαριασμοί συχνά δημοσίευαν περιεχόμενο που προώθει συγκεκριμένους πολιτικούς υποψήφιους και ιδεολογία, επικεντρωμένοι στις συντηρητικές εκλογές, τις συντηρητικές πολιτικές και την ισχυρή υποστήριξη του Προέδρου Trump.

Η Facebook δημοσίευσε μια 39-σελίδων αναφορά για το γεγονός, καλύπτοντας πολλά από τα ευρήματά της. Ένα από τα αξιοσημείωτα χαρακτηριστικά της αναφοράς της Facebook ήταν ότι πολλοί από τους απαγορευμένους λογαριασμούς δημιουργήθηκαν με τη βοήθεια της τεχνητής νοημοσύνης. Οι ερευνητές της Facebook αναφέρουν στην αναφορά:

«Δεκάδες από αυτούς τους ψεύτικους λογαριασμούς είχαν προφίλ που δημιουργήθηκαν από τεχνητή νοημοσύνη, στην πρώτη μεγάλης κλίμακας ανάπτυξη ψευδών προσώπων που είναι γνωστή στους συγγραφείς αυτής της αναφοράς.»

Σύμφωνα με τα ευρήματα της αναφοράς, οι AI-γεννημένες εικόνες δεν ήταν τέλειες, με λεπτομέρειες που συχνά έδιναν την αληθινή τους φύση. Συνεχόμενα στοιχεία μιας εικόνας, όπως τα γυαλιά ή τα μαλλιά ενός ατόμου, ήταν συχνά ασύμμετρα. Επιπλέον, τα στοιχεία του φόντου ήταν συχνά θολά και παραμορφωμένα. Ωστόσο, αυτά τα στοιχεία μπορεί να μην είναι ορατά στην πρώτη ματιά, ιδιαίτερα με τις μικρές διαστάσεις των προφίλ σε μια αλυσίδα σχολίων της Facebook. Πολλοί από τους ψεύτικους λογαριασμούς φαίνεται επίσης να είχαν ψευδή προφίλ και ακόμη και ψευδείς αναρτήσεις, πιθανότατα δημιουργημένες από την τεχνητή νοημοσύνη.

Όπως ανέφερε το NBC, ο επικεφαλής της ασφάλειας της Facebook, Nathaniel Gleicher, ανέφερε ότι η συμπεριφορά των λογαριασμών ήταν αυτό που τους έκανε να φανερωθούν ως μη αυθεντικοί και ότι οι προσπάθειες να χρησιμοποιηθούν ψευδείς εικόνες και προφίλ δεν βοηθούν στην προστασία των λογαριασμών από την ανακάλυψη. Ο Gleicher ανέφερε ότι οι AI-γεννημένες εικόνες ήταν στην πραγματικότητα πιο πιθανό να οδηγήσουν τους λογαριασμούς στην ανακάλυψη. Ο Gleicher ανέφερε:

«Ανίχνευσα αυτούς τους λογαριασμούς επειδή ήταν ενεργοί σε ψευδείς συμπεριφορές. Η χρήση AI-γεννημένων προφίλ ως τρόπος να φαίνονται πιο αληθινά στην πραγματικότητα δεν τους βοηθά. Η μεγαλύτερη λήψη εδώ είναι η εγκληματικότητα του δικτύου στη χρήση ψευδών ταυτοτήτων… Τι είναι νέο εδώ είναι ότι αυτό είναι υποτιθέμενο αμερικανικό μέσο ενημέρωσης που χρησιμοποιεί ξένους ηθοποιούς που παρουσιάζονται ως Αμερικανοί για να προωθήσουν πολιτικό περιεχόμενο. Το έχουμε δει πολλές φορές με κρατικούς ηθοποιούς στο παρελθόν.»

Παρά ταύτα, οι ανεξάρτητοι ερευνητές από την Graphika και το Ψηφιακό Εργαστήριο Έρευνας του Atlantic Council ανέφεραν ότι η ευκολία με την οποία οι κακοί ηθοποιοί μπορούσαν να δημιουργήσουν τόσο πολλές εικόνες και να δώσουν στους λογαριασμούς μια αίσθηση αυθεντικότητας «είναι ένα πρόβλημα». Η Facebook και άλλες εταιρείες κοινωνικών μέσων είναι υπό πίεση να ενισχύσουν τις προσπάθειές τους για την καταπολέμηση της διάδοσης των πολιτικών ψευδών πληροφοριών, μια εργασία που θα απαιτήσει να παραμείνουν τεχνολογικά μπροστά από εκείνους που επιδιώκουν να διαδώσουν ψευδείς πληροφορίες.

Πριν η Facebook κατέβει τους λογαριασμούς, τις σελίδες και τις ομάδες, το περιεχόμενο που δημοσιεύθηκε από αυτές τις οντότητες έφτασε σε εκατομμύρια ανθρώπους. Αναφέρθηκε ότι τουλάχιστον 55 εκατομμύρια λογαριασμοί είχαν ακολουθήσει μια από τις 89 διαφορετικές απαγορευμένες σελίδες. Οι περισσότεροι από τους ακολουθούντες ήταν μη-αμερικανικοί λογαριασμοί. Συνολικά, περίπου 600 λογαριασμοί, 90 σελίδες και 150 ομάδες αφαιρέθηκαν από την Facebook. Περίπου 70 λογαριασμοί αφαιρέθηκαν επίσης από το Instagram.

Τα νέα έρχονται就在 την Facebook ξεκινά μια πρόκληση ανίχνευσης DeepFake, η οποία θα διαρκέσει μέχρι τον Μάρτιο του 2020. Το Twitter έχει επίσης πρόσφατα απαγορεύσει σχεδόν 6000 λογαριασμούς που υποψιάζεται ότι προέρχονται από τη Σαουδική Αραβία και δημοσίευσαν σκόπιμα παραπλανητικό περιεχόμενο.