Στατιστικό Μοντέλο Βοηθά στην Ανίχνευση Ψευδών Πληροφοριών στα Κοινωνικά Μέσα

Ένας καθηγητής μαθηματικών από το Αμερικανικό Πανεπιστήμιο, μαζί με την ομάδα συνεργατών του, ανέπτυξε ένα στατιστικό μοντέλο που μπορεί να ανιχνεύσει ψευδείς πληροφορίες σε αναρτήσεις στα κοινωνικά μέσα.

Η μηχανική μάθηση χρησιμοποιείται όλο και περισσότερο για να σταματήσει η διάδοση των ψευδών πληροφοριών, αλλά vẫn υπάρχει ένα σημαντικό εμπόδιο που σχετίζεται με το πρόβλημα των “μαύρων κουτιών” που εμφανίζονται. Αυτό αναφέρεται στο γεγονός ότι οι ερευνητές δεν κατανοούν πώς μια μηχανή φτάνει στο ίδιο αποτέλεσμα με τους ανθρώπινους εκπαιδευτές.

Ανιχνεύοντας Ψευδείς Πληροφορίες με Στατιστικά Μοντέλα

Ο Ζόης Μπουκουβάλας, βοηθός καθηγητής στο Τμήμα Μαθηματικών και Στατιστικής του AU, χρησιμοποίησε ένα σύνολο δεδομένων του Twitter με ψευδείς αναρτήσεις σχετικά με τον COVID-19 για να δείξει πώς τα στατιστικά μοντέλα μπορούν να ανιχνεύσουν ψευδείς πληροφορίες στα κοινωνικά μέσα κατά τη διάρκεια σημαντικών γεγονότων όπως μια πανδημία ή μια καταστροφή.

Ο Μπουκουβάλας και οι συνεργάτες του, οι οποίοι περιλαμβάνουν την φοιτήτρια του AU Κάιτλιν Μόρονη και τον καθηγητή Επιστήμης Υπολογιστών Наталі Τζαπκόβιτς, έδειξαν πώς οι αποφάσεις του μοντέλου συμφωνούν με αυτές των ανθρώπων στην νέες έρευνες.

“Θα ήθελα να ξέρω τι σκέφτεται μια μηχανή όταν λαμβάνει αποφάσεις και πώς και γιατί συμφωνεί με τους ανθρώπους που την εκπαίδευσαν”, είπε ο Μπουκουβάλας. “Δεν θέλουμε να μπλοκάρουμε το λογαριασμό κάποιου στα κοινωνικά μέσα επειδή το μοντέλο λαμβάνει μια προκατειλημμένη απόφαση.”

Η μέθοδος που χρησιμοποιήθηκε από την ομάδα είναι ένα είδος μηχανικής μάθησης που βασίζεται στη στατιστική. Τα στατιστικά μοντέλα είναι αποτελεσματικά και παρέχουν έναν άλλο τρόπο για την καταπολέμηση των ψευδών πληροφοριών.

Το μοντέλο πέτυχε υψηλή απόδοση πρόβλεψης και κατηγοριοποίησε ένα σύνολο 112 πραγματικών και ψευδών αναρτήσεων με ακρίβεια σχεδόν 90%.

“Αυτό που είναι σημαντικό σε αυτήν την ανακάλυψη είναι ότι το μοντέλο μας πέτυχε ακρίβεια προσφέροντας διαφάνεια σχετικά με το πώς ανίχνευσε τις αναρτήσεις που ήταν ψευδείς”, συνέχισε ο Μπουκουβάλας. “Οι μεθόδοι του βαθιά μάθησης δεν μπορούν να επιτύχουν αυτήν την ακρίβεια με διαφάνεια.”

Εκπαίδευση και Προετοιμασία του Μοντέλου

Οι ερευνητές προετοίμασαν το μοντέλο πριν το δοκιμάσουν σε ένα σύνολο δεδομένων,既然 η πληροφορία που παρέχεται από τους ανθρώπους μπορεί να εισαγάγει προκαταλήψεις και “μαύρα κουτιά”.

Οι αναρτήσεις κατηγοριοποιήθηκαν από τους ερευνητές ως ψευδείς ή πραγματικές με βάση ένα σύνολο προκαθορισμένων κανόνων σχετικά με τη γλώσσα που χρησιμοποιείται στις ψευδείς πληροφορίες. Η ομάδα έλαβε υπόψη και τις νюανς της ανθρώπινης γλώσσας και τα γλωσσικά χαρακτηριστικά που συνδέονται με τις ψευδείς πληροφορίες.

Πριν την εκπαίδευση του μοντέλου, ο καθηγητής γλωσσικής Σοσιολογίας Κριστίν Μαλίνσον του Πανεπιστημίου του Μеріλαντ Μπάλτιμορ κατηγοριοποίησε τις αναρτήσεις με βάση το στυλ γραφής που σχετίζεται με τις ψευδείς πληροφορίες, τις προκαταλήψεις και τις λιγότερο αξιόπιστες πηγές στα μέσα ενημέρωσης.

“Όταν προσθέσουμε αυτές τις εισόδους στο μοντέλο, προσπαθεί να κατανοήσει τους υποκείμενους παράγοντες που οδηγούν στην分离ση της καλής και της κακής πληροφορίας”, είπε η Τζαπκόβιτς. “Μαθαίνει το контέκστ και πώς οι λέξεις αλληλεπιδρούν.”

Οι ερευνητές θα προσπαθήσουν τώρα να βελτιώσουν τη διεπαφή χρήστη για το μοντέλο, καθώς και την ικανότητά του να ανιχνεύει ψευδείς πληροφορίες σε αναρτήσεις στα κοινωνικά μέσα που περιλαμβάνουν εικόνες ή άλλα πολυμέσα. Το στατιστικό μοντέλο θα πρέπει να μάθει πώς μια ποικιλία διαφορετικών στοιχείων αλληλεπιδρούν μεταξύ τους για να δημιουργήσουν ψευδείς πληροφορίες.

Ο Μπουκουβάλας και η Τζαπκόβιτς λένε ότι η ανθρώπινη νοημοσύνη και η γνώση των μέσων ενημέρωσης είναι κλειδιά για την καταπολέμηση της διάδοσης των ψευδών πληροφοριών.

“Μέσω της δουλειάς μας, σχεδιάζουμε εργαλεία βασισμένα στη μηχανική μάθηση για να ενημερώσουμε και να εκπαιδεύσουμε το κοινό για την εξάλειψη των ψευδών πληροφοριών, αλλά πιστεύουμε ότι οι άνθρωποι πρέπει να παίξουν einen ενεργό ρόλο στην μη διάδοση των ψευδών πληροφοριών από την αρχή”, είπε ο Μπουκουβάλας.