Ηθική
Το AI μπορεί να καταπολεμήσει τις ψευδείς πληροφορίες και τις προκαταλήψεις στις ειδήσεις
Οι ψευδείς πληροφορίες και οι προκαταλήψεις στις ειδήσεις έχουν γίνει μια από τις μεγαλύτερες προκλήσεις που έχει αντιμετωπίσει η κοινωνία τα τελευταία χρόνια. Πράγματα όπως οι επιχειρήσεις πληροφοριών, οι deepfakes, η οικονομική επιρροή και η εκμετάλλευση των κοινωνικών εντάσεων είναι νέα εργαλεία που χρησιμοποιούνται από άτομα και κρατικά πρόσωπα σε όλο τον κόσμο.
Οι ψευδείς πληροφορίες είναι ένας γενικός όρος για τις ψευδείς πληροφορίες, και παίζουν σημαντικό ρόλο στη χειραγώγηση της δημόσιας γνώμης. Ταυτόχρονα, χρησιμοποιούνται ως επίθεση εναντίον των πολιτικών ηγετών και επιδεινώνονται οι διαιρέσεις μεταξύ των ομάδων σε διάφορες χώρες. Περισσότερο από ποτέ, οι ψευδείς πληροφορίες επηρεάζουν την ψηφοφορία, και έχουν γίνει απίστευτα αποτελεσματικές.
Η δυσπληροφόρηση, η οποία είναι ελαφρώς διαφορετική από τις ψευδείς πληροφορίες, είναι εσκεμμένα παραπλανητική ή προκατειλημμένη πληροφόρηση. Μπορεί να περιλαμβάνει παραποιημένες αφηγήσεις και γεγονότα. Με άλλα λόγια, είναι προπαγάνδα.
Μια έκθεση του 2019 από ερευνητές στο Πανεπιστήμιο της Οξφόρδης περιέγραψε οργανωμένες εκστρατείες δυσπληροφόρησης σε 70 διαφορετικές χώρες, συμπεριλαμβανομένης της Ρωσίας, της Κίνας, του Βιετνάμ και της Γουατεμάλας.
Η ψηφιακή οικονομία έχει οδηγήσει σε αύξηση των ψευδών πληροφοριών και των προκαταλήψεων στις ειδήσεις, με τις τεχνολογίες του AI και τις πλατφόρμες των κοινωνικών μέσων να γίνονται τρόποι για να τις διαδώσουν στο ευρύ κοινό.
Έχουμε δει πολλά παραδείγματα αυτού. Για παράδειγμα, οι δύο προηγούμενες προεδρικές εκλογές στις Ηνωμένες Πολιτείες ήταν γεμάτες ψευδείς πληροφορίες και προκαταλήψεις, και αυτό είναι βέβαιο ότι θα συνεχιστεί στο μέλλον. Οι χρηματαγορές έχουν επίσης υποβληθεί σε βραχυπρόθεσμη χειραγώγηση μέσω ψευδών πληροφοριών και προκαταλήψεων, και οι εξωτερικές υποθέσεις γίνονται πιο τεταμένες ως αποτέλεσμα της χρήσης τους. Οι κοινωνικές εντάσεις προκαλούνται από ψευδείς πληροφορίες εναντίον υποστηρικτών και αντιπάλων συγκεκριμένων αιτημάτων, και οι ψευδείς ειδήσεις είναι πανταχού παρούσες σε σχεδόν κάθε έθνος.
Η εξάρτησή μας από τα κοινωνικά μέσα και τους αλγόριθμους έχει κάνει τους ανθρώπους εξαιρετικά ευάλωτους στις ψευδείς πληροφορίες και τις προκαταλήψεις, και έχει γίνει εύκολο να χειραγωγηθούν μεγάλες ομάδες ανθρώπων.
Σύμφωνα με ένα δοκίμιο με τίτλο “Οι προκαταλήψεις κάνουν τους ανθρώπους ευάλωτους στις ψευδείς πληροφορίες που διαδίδονται από τα κοινωνικά μέσα“, που δημοσιεύθηκε από το The Conversation, ένα δίκτυο μη κερδοσκοπικών μέσων ενημέρωσης, υπάρχουν τρεις τύποι προκαταλήψεων που κάνουν το οικοσύστημα των κοινωνικών μέσων ευάλωτο σε εσκεμμένες και ακούσιες ψευδείς πληροφορίες. Είναι σημαντικό να αναγνωρίσουμε ότι η większość των ειδήσεων μας έρχεται τώρα από τα κοινωνικά μέσα.
Οι τρεις τύποι προκαταλήψεων είναι:
- Προκατάληψη στο Μυαλό: “Οι γνωστικές προκαταλήψεις προέρχονται από τον τρόπο που ο εγκέφαλος επεξεργάζεται τις πληροφορίες που κάθε άνθρωπος συναντά κάθε μέρα.”
- Προκατάληψη στην Κοινωνία: “Όταν οι άνθρωποι συνδέονται trực tiếp με τους ομοτίμους τους, οι κοινωνικές προκαταλήψεις που οδηγούν την επιλογή τους για φίλους επηρεάζουν τις πληροφορίες που βλέπουν.”
- Προκατάληψη στη Μηχανή: “Η τρίτη ομάδα προκαταλήψεων προέρχεται απευθείας από τους αλγόριθμους που χρησιμοποιούνται για να καθορίσουν τι βλέπουν οι άνθρωποι στο διαδίκτυο. Και τα κοινωνικά μέσα και οι μηχανές αναζήτησης τις χρησιμοποιούν.”
Αυτή η συνδυασμένη προκατάληψη έχει δημιουργήσει το ιδανικό περιβάλλον για κακούς ηθοποιούς να χρησιμοποιήσουν τις τρέχουσες πλατφόρμες ειδήσεων ως τρόπο να διαδώσουν ψευδείς πληροφορίες. Αλλά είναι σημαντικό να αναγνωρίσουμε ότι η προκατάληψη είναι επίσης παρόντα έξω από αυτό το πεδίο. Τακτικές ειδησεογραφικές αναφορές και άρθρα κινδυνεύουν να είναι προκατειλημμένα λόγω των ιδιαίτερων προκαταλήψεων του συγγραφέα ή της έκδοσης. Αυτό δεν είναι καινούργιο.
Λύσεις του AI για τις Ψευδείς Πληροφορίες και τις Προκαταλήψεις
Η άνοδος του τεχνητού νοημοσύνου έχει παρέχει πολλά νέα και καινοτόμα εργαλεία που μπορούν να χρησιμοποιηθούν για να καταπολεμήσουν τις ψευδείς πληροφορίες και τις προκαταλήψεις στις ειδήσεις.
Για παράδειγμα, όταν σχεδιαστούν σωστά, το AI μπορεί να ανιχνεύσει και να αφαιρέσει αποτελεσματικά ορισμένες ψευδείς πληροφορίες και άλλες προβληματικές περιεχομένου στο διαδίκτυο. Ήδη χρησιμοποιείται για να αναγνωρίσει ψευδείς bots από εταιρείες όπως η Google, το Twitter και το Facebook. Και οι ψευδείς bots χρησιμοποιούνται συχνά για να διαδώσουν ψευδείς πληροφορίες και προκατειλημμένες ειδήσεις.
Νέα πλαίσια του AI πρέπει να εξερευνηθούν για να καταπολεμήσουν αυτό το πρόβλημα, και τα υπάρχοντα πρέπει να βελτιωθούν, καθώς πολλά έχουν αποδειχθεί προβληματικά. Αυτά τα προβλήματα αρχίζουν να γίνονται ακόμη πιο επικίνδυνα όταν υπάρχουν συγκρούσεις. Για παράδειγμα, οι στρατιωτικές συγκρούσεις, όπως η τρέχουσα σύγκρουση μεταξύ Ρωσίας και Ουκρανίας, οδηγούν στη διάδοση των ψευδών πληροφοριών με απίστευτο ρυθμό.
Υπάρχουν διάφορα εργαλεία του AI που έρχονται στο πεδίο. Για παράδειγμα, η NT CONNECT, một διεθνής ανάπτυξη τεχνολογίας, έχει ανακοινώσει πρόσφατα την εκκίνηση της εφαρμογής συλλογής ειδήσεων, NOOZ.AI. Το εργαλείο ανάλυσης γλώσσας του AI αποσκοπεί να φέρει διαφάνεια στις πολωμένες προκαταλήψεις που βρίσκονται σε όλα τα σημερινά μέσα ενημέρωσης. Προσπαθεί να το πετύχει αυτό διατηρώντας τους αναγνώστες ενήμερους για την επίδραση των μέσων ενημέρωσης πριν από την ανάγνωση ενός άρθρου.
“Οι συγγραφείς ή οι δημοσιογράφοι έχουν την τάση να προκαταλαμβάνονται από μια συγκεκριμένη προκατάληψη – συχνά χωρίς τη γνώση του αναγνώστη”, λέει η ανακοίνωση τύπου της εταιρείας. “Γνωρίζοντας την ιστορική προκατάληψη του συγγραφέα και των πηγών των ειδήσεων, οι καταναλωτές μπορούν να εξετάσουν το άρθρο με πιο αντικειμενικό μυαλό και να αντισταθούν στην χειραγώγηση για να σκεφτούν με συγκεκριμένο τρόπο για ένα συγκεκριμένο θέμα.”
Το εργαλείο NOOZ.AI βασίζεται σε τέσσερις βασικούς πυλώνες:
- Ανάλυση Γνώμης: Βοηθά τους αναγνώστες να καθορίσουν την παρουσία προσωπικών συναισθημάτων, απόψεων, πιστεύω ή κρίσεων στη γραφή του δημοσιογράφου.
- Ανάλυση Συναισθήματος: Το εργαλείο χρησιμοποιεί ανάλυση συναισθήματος για να βοηθήσει τους αναγνώστες να μετρήσουν την υποστήριξη ή την αντίθεση του συγγραφέα σε γενικές ειδήσεις ή συγκεκριμένα θέματα.
- Ανάλυση Προπαγάνδας: Μπορεί να ανιχνεύσει πιθανή δυσπληροφόρηση αναγνωρίζοντας τη χρήση μέχρι και 18 πιθανών τεχνικών πειθούς.
- Ανάλυση Αναθεώρησης: Οι αναγνώστες μπορούν να ερευνήσουν την εξέλιξη μιας ιστορίας ειδήσεων και τη χειραγώγηση της γνώμης και του συναισθήματος με τον καιρό.
Η εφαρμογή παρέχει βαθμολογίες για κάθε άρθρο, με βαθμολογίες γνώμης που κυμαίνονται από 0 έως 100 και βαθμολογίες συναισθήματος που κυμαίνονται από -100 έως 100. Επίσης, παρακολουθεί όλες τις επεξεργασίες κειμένου για κάθε αναθεώρηση και δίνει στους αναγνώστες τη δυνατότητα να συγκρίνουν διαφορετικές εκδόσεις.
Σύμφωνα με τον Garry Paxinos, Διευθυντή Τεχνολογίας στην NT CONNECT:
“Η προκατειλημμένη αναφορά είναι ένα σημαντικό πρόβλημα στην κοινωνία μας. Οι ψευδείς πληροφορίες είναι το πιο συχνά (λανθασμένα) χρησιμοποιούμενο buzzword. Αλλά η πραγματικότητα είναι ότι η γλώσσα μπορεί να χρησιμοποιηθεί για να χειραγωγήσει και να πείσει τον καθημερινό αναγνώστη. Με αντικειμενική ανάλυση της γλώσσας, αποφεύγουμε την υποκειμενική προκατάληψη που βρίσκεται σε άλλες προσεγγίσεις. Αντί να προκαταλαμβάνουμε τις ψευδείς πληροφορίες, η προσέγγισή μας είναι να φωτίζουμε πώς μπορεί κανείς να χειραγωγηθεί με υπερβολικές επικεφαλίδες, ιστορικό αναθεώρησης και κείμενο των άρθρων.”
