Οι Μηχανικοί του AI Ανάπτυσσαν Μέθοδο που Μπορεί να Αναγνωρίσει τη Πρόθεση των Ατόμων που Διαδίδουν Λανθασμένες Πληροφορίες

Η αντιμετώπιση των λανθασμένων πληροφοριών στην ψηφιακή εποχή είναι ένα σύνθετο πρόβλημα. Όχι μόνο οι λανθασμένες πληροφορίες πρέπει να αναγνωριστούν, να επισημανθούν και να διορθωθούν, αλλά η πρόθεση των ατόμων που ευθύνονται για την κατασκευή της αξίωσης πρέπει επίσης να διακρίνεται. Ένας άνθρωπος μπορεί να διαδίδει λανθασμένες πληροφορίες χωρίς να το γνωρίζει, ή απλώς να εκφράζει την γνώμη του για ένα ζήτημα, ακόμη και αν αργότερα αναφέρεται ως γεγονός. Πρόσφατα, μια ομάδα ερευνητών και μηχανικών του AI στο Dartmouth δημιούργησε ένα πλαίσιο που μπορεί να χρησιμοποιηθεί για να εξαγάγει γνώμη από “ψευδείς ειδήσεις”.

Όπως αναφέρει το ScienceDaily, η μελέτη της ομάδας του Dartmouth δημοσιεύθηκε πρόσφατα στο Περιοδικό Πειραματικής και Θεωρητικής Τεχνητής Νοημοσύνης. Ενώ προηγούμενες μελέτες έχουν προσπαθήσει να αναγνωρίσουν τις ψευδείς ειδήσεις και να καταπολεμήσουν την απάτη, αυτή μπορεί να είναι η πρώτη μελέτη που στοχεύει στην αναγνώριση της πρόθεσης του ομιλητή σε ένα ειδησεογραφικό άρθρο. Ενώ μια αληθινή ιστορία μπορεί να παραμορφωθεί σε διάφορες απάτες, είναι σημαντικό να διακρίνεται εάν η απάτη ήταν προθέσεων. Η ερευνητική ομάδα υποστηρίζει ότι η πρόθεση έχει σημασία όταν ληφθεί υπόψη η λανθασμένη πληροφοριοδότηση, καθώς η απάτη είναι δυνατή μόνο εάν υπήρχε πρόθεση να εξαπατήσει. Εάν ένα άτομο δεν συνειδητοποιούσε ότι διαδίδει λανθασμένες πληροφορίες ή εάν απλώς εκφράζει την γνώμη του, δεν μπορεί να υπάρξει απάτη.

Ο Eugene Santos Jr., καθηγητής μηχανικής στο Thayer School of Engineering του Dartmouth, εξήγησε στο ScienceDaily γιατί το μοντέλο τους προσπαθεί να διακρίνει την απάτη πρόθεση:

“Η απάτη πρόθεση για να εξαπατήσει τους ακροατές με πρόθεση αποτελεί μια πολύ μεγαλύτερη απειλή από τις ανεπιθύμητες λάθη. Κατά τη γνώμη μας, ο αλγόριθμος μας είναι η μόνη μέθοδος που ανιχνεύει την απάτη και ταυτόχρονα διακρίνει τις κακόβουλες πράξεις από τις αθώες πράξεις.”

Για να κατασκευάσουν το μοντέλο τους, η ερευνητική ομάδα ανάλυσε τα χαρακτηριστικά της απάτης. Ο αλγόριθμος που προέκυψε μπορούσε να διακρίνει την πρόθεση να εξαπατήσει από άλλες μορφές επικοινωνίας, εστιάζοντας στις ανισότητες μεταξύ των προηγούμενων επιχειρημάτων ενός ατόμου και των τρεχουσών δηλώσεών του. Το μοντέλο που κατασκευάστηκε από την ερευνητική ομάδα χρειάζεται μεγάλες ποσότητες δεδομένων που μπορούν να χρησιμοποιηθούν για να μετρηθεί πώς ένα άτομο απομακρύνεται από τα προηγούμενα επιχειρήματά του. Τα δεδομένα εκπαίδευσης που χρησιμοποιήθηκαν από την ομάδα για να εκπαιδεύσουν το μοντέλο τους αποτελούνταν από δεδομένα που λήφθηκαν από μια έρευνα για τις γνώμες σε αμφιλεγόμενα θέματα. Περισσότεροι από 100 άνθρωποι έδωσαν την γνώμη τους για αυτά τα αμφιλεγόμενα ζητήματα. Δεδομένα λήφθηκαν επίσης από κριτικές 20 διαφορετικών ξενοδοχείων, αποτελούμενα από 400 πλαστές κριτικές και 800 πραγματικές κριτικές.

Σύμφωνα με τον Santos, το πλαίσιο που αναπτύχθηκε από τους ερευνητές μπορεί να βελτιωθεί και να εφαρμοστεί από τους οργανισμούς ειδήσεων και τους αναγνώστες, για να τους επιτρέψει να αναλύσουν το περιεχόμενο των “ψευδών ειδήσεων”. Οι αναγνώστες θα μπορούσαν να εξετάσουν τα άρθρα για την παρουσία γνώμης και να καθορίσουν εάν έχει χρησιμοποιηθεί một λογική επιχείρημα. Ο Santos também δήλωσε ότι η ομάδα θέλει να εξετάσει την επίδραση των λανθασμένων πληροφοριών και τις κυματικές επιπτώσεις που έχει.

Η λαϊκή κουλτούρα συχνά απεικονίζει μη λεκτικές συμπεριφορές, όπως οι εκφράσεις του προσώπου, ως δείκτες ότι κάποιος ψεύδεται, αλλά οι συγγραφείς της μελέτης σημειώνουν ότι αυτές οι συμπεριφορικές ενδείξεις δεν είναι πάντα αξιόπιστες δείκτες ψευδούς. Ο Deqing Li, συν-συγγραφέας της μελέτης, εξήγησε ότι η έρευνά τους βρήκε ότι τα μοντέλα που βασίζονται στην πρόθεση του λόγου είναι καλύτερα δείκτες ψευδούς από τις συμπεριφορικές και λεκτικές διαφορές. Ο Li εξήγησε ότι τα μοντέλα πρόθεσης “είναι καλύτερα στο να διακρίνουν τις προθέσεις ψευδούς από άλλους τύπους παραμόρφωσης της πληροφοριοδότησης”.

Το έργο των ερευνητών του Dartmouth δεν είναι η μόνη πρόσφατη πρόοδος όταν πρόκειται για την καταπολέμηση των λανθασμένων πληροφοριών με το AI. Τα άρθρα ειδήσεων με τίτλους clickbait συχνά κρύβουν λανθασμένες πληροφορίες. Για παράδειγμα, συχνά υπονοούν ότι συνέβη κάτι άλλο όταν στην πραγματικότητα συνέβη ένα άλλο γεγονός.

Όπως αναφέρει το AINews, μια ομάδα ερευνητών από το Arizona State University και το Penn State University συνεργάστηκαν για να δημιουργήσουν ένα AI που μπορεί να ανιχνεύσει clickbait. Οι ερευνητές ζήτησαν από τους ανθρώπους να γράψουν τους δικούς τους τίτλους clickbait και επίσης έγραψαν ένα πρόγραμμα για να δημιουργήσουν τίτλους clickbait. Και οι δύο μορφές τίτλων χρησιμοποιήθηκαν για να εκπαιδεύσουν ένα μοντέλο που μπορεί να ανιχνεύσει αποτελεσματικά τίτλους clickbait, ανεξάρτητα από το εάν γράφτηκαν από μηχανές ή ανθρώπους.

Σύμφωνα με τους ερευνητές, ο αλγόριθμος τους ήταν περίπου 14,5% πιο ακριβής στην ανίχνευση τίτλων clickbait από άλλα AI στο παρελθόν. Ο επικεφαλής ερευνητής του έργου και αναπληρωτής καθηγητής στο Κολλέγιο Επιστημών και Τεχνολογίας του Penn State, Dongwon Lee, εξήγησε πώς το πείραμα τους δείχνει τη χρησιμότητα της δημιουργίας δεδομένων με AI και της επαναεισαγωγής τους σε μια διαδικασία εκπαίδευσης.

“Αυτό το αποτέλεσμα είναι khá ενδιαφέρον, καθώς επιτυχώς επέδειξαν ότι τα δεδομένα εκπαίδευσης clickbait που παράγονται από μηχανές μπορούν να επαναεισαχθούν σε μια διαδικασία εκπαίδευσης για να εκπαιδεύσουν eine ποικιλία μοντέλων μηχανικής μάθησης για να βελτιώσουν την απόδοσή τους”, εξήγησε ο Lee.