Το μοντέλο AI μπορεί να αναγνωρίσει τους διαδότες ψευδείς πληροφορίες πριν από την ενέργειά τους

Ένα μοντέλο AI που δημιουργήθηκε από ερευνητές του Πανεπιστημίου του Σέφιλντ μπορεί να καθορίσει ποιοι χρήστες του Twitter θα δημοσιεύσουν ψευδείς πληροφορίες πριν από την πραγματική δημοσίευσή τους. Αν το μοντέλο αποδειχθεί αξιόπιστο, μπορεί να χρησιμοποιηθεί για να συμπληρώσει τις υπάρχουσες μεθόδους καταπολέμησης των ψευδών πληροφοριών στα μέσα κοινωνικής δικτύωσης.

Σύμφωνα με το TechXplore, η μελέτη ηγήθηκε από ερευνητές του Τμήματος Πληροφορικής του Πανεπιστημίου του Σέφιλντ, συμπεριλαμβανομένων των Dr. Nikos Aletras και Yida Mu. Η μελέτη δημοσιεύθηκε στο περιοδικό PeerJ και περιγράφει τις μεθόδους που χρησιμοποιήθηκαν για να προβλεφθεί αν ένας χρήστης των μέσων κοινωνικής δικτύωσης είναι πιθανό να διαδώσει ψευδείς πληροφορίες δημοσιεύοντας περιεχόμενο από αξιόπιστες πηγές ενημέρωσης.

Η ερευνητική ομάδα συλλέγησε πάνω από 1 εκατομμύριο tweets από πάνω από 6000 χρήστες του Twitter, όλα δημόσια διαθέσιμα. Η ομάδα εφαρμόσε τεχνικές επεξεργασίας φυσικής γλώσσας για να προετοιμάσει τα δεδομένα για την εκπαίδευση του μοντέλου AI. Το μοντέλο AI ήταν ένα δυαδικό μοντέλο ταξινόμησης, που κατηγοριοποιούσε τους χρήστες ως πιθανό να μοιράζονται πληροφορίες από αξιόπιστες πηγές ή όχι. Μετά την εκπαίδευση του μοντέλου στα δεδομένα, κατάφερε να επιτύχει περίπου 79,7% ακρίβεια ταξινόμησης.

Κατά την ανάλυση των αποτελεσμάτων της απόδοσης του μοντέλου, οι ερευνητές βρήκαν ότι οι χρήστες που χρησιμοποιούσαν έντονα απρεπή γλώσσα και συνεχώς tweeted για θρησκεία και πολιτική ήταν πιο πιθανό να δημοσιεύσουν πληροφορίες από αξιόπιστες πηγές. Συγκεκριμένα, υπήρχε έντονη χρήση λέξεων όπως “liberal”, “media”, “government”, “Israel” και “Islam”. Εν τω μεταξύ, οι χρήστες που δημοσίευαν πληροφορίες από αξιόπιστες πηγές είχαν την τάση να χρησιμοποιούν λέξεις όπως “I’ll”, “gonna”, “wanna”, “mood”, “excited” και “birthday”. Πέρα από αυτό, μοιράζονταν ιστορίες για την προσωπική τους ζωή, όπως αλληλεπιδράσεις με φίλους, τα συναισθήματά τους ή πληροφορίες για τα χόμπι τους.

Τα αποτελέσματα της μελέτης μπορούν να βοηθήσουν τις εταιρείες μέσων κοινωνικής δικτύωσης όπως το Facebook (META ), το Reddit και το Twitter να σχεδιάσουν νέους τρόπους καταπολέμησης της διάδοσης των ψευδών πληροφοριών στο διαδίκτυο. Η έρευνα μπορεί επίσης να βοηθήσει τους ψυχολόγους και τους κοινωνικούς επιστήμονες να κατανοήσουν καλύτερα τη συμπεριφορά που οδηγεί στη διάδοση των ψευδών πληροφοριών σε ένα κοινωνικό δίκτυο.

Όπως εξήγησε ο Aletras σύμφωνα με το TechXplore, τα μέσα κοινωνικής δικτύωσης έχουν μεταμορφωθεί σε einen από τους κυριότερους τρόπους με τους οποίους οι άνθρωποι λαμβάνουν τις ειδήσεις. Εκατομμύρια χρήστες σε όλο τον κόσμο λαμβάνουν τις ειδήσεις τους μέσω του Facebook και του Twitter κάθε μέρα, αλλά αυτά τα μέσα έχουν επίσης γίνει εργαλεία για τη διάδοση των ψευδών πληροφοριών στην κοινωνία. Ο Aletras συνέχισε να εξηγήσει ότι η αξιόπιστη ταυτοποίηση ορισμένων τάσεων στη συμπεριφορά των χρηστών μπορεί να βοηθήσει στην καταπολέμηση των ψευδών πληροφοριών. Όπως εξήγησε ο Aletras, υπήρχε “συσχέτιση μεταξύ της χρήσης απρεπής γλώσσας και της διάδοσης αξιόπιστου περιεχομένου μπορεί να αποδοθεί σε υψηλή πολιτική εχθρότητα στο διαδίκτυο”.

Σύμφωνα με τον Mu, η ανάλυση της συμπεριφοράς των χρηστών που μοιράζονται αξιόπιστες πληροφορίες μπορεί να βοηθήσει τα μέσα κοινωνικής δικτύωσης να προληψουν τη διάδοση των ψευδών ειδήσεων σε επίπεδο χρήστη, συμπληρώνοντας τις υπάρχουσες μεθόδους ελέγχου των γεγονότων. Όπως είπε ο Mu μέσω του TechXplore:

“Η μελέτη και η ανάλυση της συμπεριφοράς των χρηστών που μοιράζονται περιεχόμενο από αξιόπιστες πηγές ενημέρωσης μπορεί να βοηθήσει τα μέσα κοινωνικής δικτύωσης να προληψουν τη διάδοση των ψευδών ειδήσεων σε επίπεδο χρήστη, συμπληρώνοντας τις υπάρχουσες μεθόδους ελέγχου των γεγονότων που λειτουργούν σε επίπεδο δημοσίευσης ή πηγής ενημέρωσης.”

Η έρευνα που διεξήχθη από τους Aletras και Mu μπορεί να είναι ένα παράδειγμα χρήσης του AI για την καταπολέμηση των ψευδών πληροφοριών που παράγονται από το AI. Τα τελευταία μήνες έχουν δει μια αύξηση στις ψευδείς πληροφορίες σχετικά με την τοπική και εθνική πολιτική, με μεγάλο μέρος του περιεχομένου να παράγεται και να διαδίδεται από αλγόριθμους AI. Τα βαθιά νευρωνικά δίκτυα έχουν χρησιμοποιηθεί για να κατασκευάσουν ρεαλιστικές φωτογραφίες και προφίλ για ψευδείς λογαριασμούς που χρησιμεύουν ως διαδότες ψευδών ειδήσεων. Η έρευνα των Aletras και Mu μπορεί να βοηθήσει τις εταιρείες μέσων κοινωνικής δικτύωσης να κατανοήσουν ποιοι λογαριασμοί είναι ψευδείς, λογαριασμοί bot που δημιουργήθηκαν με σκοπό τη διάδοση επικίνδυνων προπαγανδών και ψευδών πληροφοριών.