Σύστημα Προηγμένης Προειδοποίησης για Ψευδείς Πληροφορίες Ανεπτυγμένο με Τεχνητή Νοημοσύνη

Ερευνητές στο Πανεπιστήμιο του Νότρε Νταμ εργάζονται σε ένα проект για την καταπολέμηση των ψευδών πληροφοριών στο διαδίκτυο, συμπεριλαμβανομένων των μέσων ενημέρωσης που προωθούν βία, σπέρνουν διχόνοια και παρεμβαίνουν στις δημοκρατικές εκλογές.

Η ομάδα των ερευνητών βασίστηκε στην τεχνητή νοημοσύνη (ΤΝ) για την ανάπτυξη ενός συστήματος προηγμένης προειδοποίησης. Το σύστημα θα είναι σε θέση να αναγνωρίσει τις παραποιημένες εικόνες, τα deepfake βίντεο και τις ψευδείς πληροφορίες στο διαδίκτυο. Είναι ένα ευέλικτο, αυτοματοποιημένο σύστημα που χρησιμοποιεί αναζήτηση εικόνων με βάση το περιεχόμενο. Μετά, μπορεί να εφαρμόσει τεχνικές με βάση την όραση υπολογιστή για να αναγνωρίσει πολιτικά meme σε πολλαπλά κοινωνικά δίκτυα.

Ο Tim Weninger είναι αναπληρωτής καθηγητής στο Τμήμα Επιστήμης και Μηχανικής Υπολογιστών στο Νότρε Νταμ.

«Τα meme είναι εύκολο να δημιουργηθούν και ακόμη πιο εύκολο να μοιραστούν», είπε ο Weninger. «Όταν πρόκειται για πολιτικά meme, αυτά μπορούν να χρησιμοποιηθούν για να βοηθήσουν στην κινητοποίηση των ψηφοφόρων, αλλά επίσης μπορούν να χρησιμοποιηθούν για να διαδώσουν ανακριβείς πληροφορίες και να προκαλέσουν ζημιά».

Ο Weninger συνεργάστηκε με τον Walter Scheirer, αναπληρωτή καθηγητή στο Τμήμα Επιστήμης και Μηχανικής Υπολογιστών στο Νότρε Νταμ, μαζί με μέλη της ερευνητικής ομάδας.

Γενικές Εκλογές του 2019 στην Ινδονησία

Η ομάδα δοκιμάζει το σύστημα με τις γενικές εκλογές του 2019 στην Ινδονησία. Συγκέντρωσαν πάνω από δύο εκατομμύρια εικόνες και περιεχόμενο, προερχόμενο από διάφορες πηγές στο Twitter και το Instagram σχετικά με τις εκλογές.

Στις εκλογές, ο αριστερός, κεντρώος εν ενεργεία νίκησε τον συντηρητικό, λαϊκιστή υποψήφιο. Μετά τις εκλογές, ξέσπασαν βίαιες διαμαρτυρίες, στις οποίες eight άνθρωποι σκοτώθηκαν και εκατοντάδες άλλοι τραυματίστηκαν. Η μελέτη της ομάδας βρήκε ότι υπήρχαν αυθόρμητες και συντονισμένες εκστρατείες που εκκινήθηκαν στα κοινωνικά δίκτυα με στόχο την επιρροή των εκλογών και την προκλήση βίας.

Οι συντονισμένες εκστρατείες χρησιμοποίησαν παραποιημένες εικόνες, οι οποίες προέβαλλαν ψευδείς ισχυρισμούς και παρέπρατταν certains γεγονότα. Ιστορίες και meme κατασκευάστηκαν με τη χρήση legítimων λογότυπων ειδήσεων, με στόχο την προκλήση των πολιτών και των υποστηρικτών και των δύο πλευρών.

Ο Rest του Κόσμου

Οι γενικές εκλογές του 2019 στην Ινδονησία είναι μια αναπαράσταση του τι μπορεί να συμβεί στον υπόλοιπο κόσμο. Οι ψευδείς πληροφορίες, ιδιαίτερα αυτές που διαδίδονται μέσω των κοινωνικών μέσων, μπορούν να απειλήσουν τις δημοκρατικές διαδικασίες.

Η ερευνητική ομάδα στο Νότρε Νταμ περιελάμβανε ειδικούς ψηφιακής forensics και ειδικούς σε μελέτες ειρήνης. Σύμφωνα με την ομάδα, το σύστημα αναπτύσσεται για να σηματοδοτήσει το παραποιημένο περιεχόμενο, με στόχο την πρόληψη της βίας και την προειδοποίηση των δημοσιογράφων ή των παρατηρητών των εκλογών για πιθανές απειλές.

Το σύστημα βρίσκεται ακόμη στη φάση έρευνας και ανάπτυξης, αλλά θα είναι最終ικά ευέλικτο και προσωπικοποιημένο για τους χρήστες να παρακολουθούν το περιεχόμενο. Một από τις μεγαλύτερες προκλήσεις στην ανάπτυξη του συστήματος είναι η καθορισμός του καλύτερου τρόπου για την κλιμάκωση της εισαγωγής και επεξεργασίας δεδομένων. Σύμφωνα με τον Scheirer, το σύστημα αξιολογείται αυτή τη στιγμή, με το επόμενο βήμα να είναι η μετάβαση σε λειτουργική χρήση.

Υπάρχει η πιθανότητα το σύστημα να χρησιμοποιηθεί για την παρακολούθηση των γενικών εκλογών του 2020 στις Ηνωμένες Πολιτείες, οι οποίες αναμένεται να δουν τεράστιες ποσότητες ψευδών πληροφοριών και παραποίησης.

«Η εποχή των ψευδών πληροφοριών είναι εδώ», είπε ο Scheirer. «Ένα deepfake που αντικαθιστά ηθοποιούς σε μια δημοφιλή ταινία μπορεί να φαίνεται διασκεδαστικό και ελαφρύ, αλλά φανταστείτε ένα βίντεο ή ένα meme που δημιουργήθηκε για τον seul σκοπό της πίτασης ενός ηγέτη του κόσμου ενάντια σε έναν άλλον — λέγοντας λόγια που δεν είπαν πραγματικά. Φανταστείτε πόσο γρήγορα αυτό το περιεχόμενο θα μπορούσε να μοιραστεί και να διαδοθεί σε διάφορα πλατφόρμες. Σκεφτείτε τις συνέπειες αυτών των ενεργειών».