Οι ερευνητές αρχίζουν να εκπαιδεύουν την τεχνητή νοημοσύνη για την καταπολέμηση του μίσους λόγου στο διαδίκτυο

Τα ψευδή νέα και ο μίσος λόγος στο διαδίκτυο γίνονται όχι μια καθημερινή, αλλά μια λεπτό-λεπτό πρόβλημα στο διαδίκτυο. Το IkigaiLab αναφέρει ότι το Facebook (META ) και το Twitter μόλις πρόσφατα έκλεισαν περισσότερες από 1,5 δισεκατομμύρια και 70 εκατομμύρια λογαριασμούς αντίστοιχα, προκειμένου να περιορίσουν την εξάπλωση των ψευδών ειδήσεων και του μίσους λόγου σε όλο τον κόσμο.

Ωστόσο, ακόμη, αυτή η εργασία απαιτεί τεράστια ανθρώπινη δύναμη και σχεδόν συνεχείς ωρες εργασίας για να αντιμετωπίσουμε μόνο την άκρη του παγόβουνου του μίσους λόγου. Για να λυθεί το πρόβλημα, ερευνητές σε πολλά εργαστήρια αρχίζουν να εκπαιδεύουν την τεχνητή νοημοσύνη (AI) για να βοηθήσουν σε αυτή τη τεράστια εργασία.

Το Ikigai αναφέρει το σύστημα Rosetta που χρησιμοποιεί το Facebook για να κατανοήσει την αυθεντικότητα των ειδήσεων, εικόνων ή άλλου περιεχομένου που ανεβάζεται σε αυτό το κοινωνικό μέσο. Όπως εξηγείται, το Rosetta σκανάρει “τις λέξεις, εικόνες, γλώσσα, γραμματοσειρά, ημερομηνία της ανάρτησης μεταξύ άλλων μεταβλητών και προσπαθεί να δει αν η παρουσιαζόμενη πληροφορία είναι γνήσια ή όχι.” Μετά το σύστημα να συλλέξει τις πληροφορίες και να έχει υπόψη του ότι η AI δεν είναι ακόμη πλήρως “ικανή να κατανοήσει τις υπαινιγμούς, αναφορές, πτώσεις και τους контекστούς στους οποίους το περιεχόμενο ανεβάζεται,” οι ανθρώπινοι επιμελητές αναλαμβάνουν και οδηγούν το σύστημα AI να ανακαλύψουν τον μίσος λόγο και τα ψευδή νέα.

Προκειμένου να αναπτύξουν περαιτέρω την ικανότητα των συστημάτων AI να καλύψουν όλες τις πιθανές νюανς που χαρακτηρίζουν τον μίσος λόγο, μια ομάδα ερευνητών στο UC Santa Barbara και Intel (INTC ), όπως αναφέρει το TheNextWeb (TNW), “έλαβαν χιλιάδες συζητήσεις από τις πιο αισχρές κοινότητες στο Reddit και Gab και τις χρησιμοποίησαν για να αναπτύξουν και να εκπαιδεύσουν την AI για την καταπολέμηση του μίσους λόγου.”

Σύμφωνα με την αναφορά τους, για να το κάνουν αυτό, η κοινή ομάδα ερευνητών δημιούργησε ένα συγκεκριμένο σύνολο δεδομένων με “χιλιάδες συζητήσεις που έχουν επιλεγεί ειδικά για να διασφαλίσουν ότι θα είναι γεμάτες με μίσος λόγο.” Επίσης, χρησιμοποίησαν μια λίστα ομάδων στο Reddit που χαρακτηρίζονται κυρίως από τη χρήση μίσους λόγου, που έχει συνταχθεί από Justin Caffier of Vox.

Οι ερευνητές κατέληξαν να συλλέξουν “περισσότερες από 22.000 σχόλια από το Reddit και πάνω από 33.000 από το Gab.” Ανακάλυψαν ότι οι δύο ιστοτόποι εμφανίζουν παρόμοιους δημοφιλείς λέξεις μίσους, αλλά οι κατανομές είναι πολύ διαφορετικές.

Σημείωσαν ότι λόγω αυτών των διαφορών είναι πολύ δύσκολο για τα κοινωνικά μέσα να παρέμβουν σε πραγματικό χρόνο, поскольку η ροή του μίσους λόγου είναι τόσο υψηλή που θα απαιτούσε αμέτρητους πραγματικούς ανθρώπους για να την ακολουθήσουν.

Για να αντιμετωπίσουν το πρόβλημα, η ερευνητική ομάδα άρχισε να εκπαιδεύει την AI για να παρέμβει. Η αρχική τους βάση δεδομένων στάλθηκε στους εργαζόμενους του Amazon (AMZN ) Turk για να επισημανθούν. Μετά την ταυτοποίηση των μεμονωμένων περιπτώσεων μίσους λόγου, οι εργαζόμενοι ήρθαν με φράσεις που η AI θα χρησιμοποιούσε ” για να αποτρέψει τους χρήστες από το να ανεβάζουν παρόμοιο μίσος λόγο στο μέλλον.”

Βάσει αυτού, η ομάδα ” τρέξε το σύνολο δεδομένων και τη βάση δεδομένων παρεμβάσεων μέσω διαφόρων συστημάτων μηχανικής μάθησης και επεξεργασίας φυσικής γλώσσας και δημιούργησε ένα είδος πρωτοτύπου για μια AI παρέμβασης μίσους λόγου στο διαδίκτυο.”

Τα αποτελέσματα που παράχθηκαν ήταν εξαιρετικά, αλλά既然 η ανάπτυξη είναι ακόμη σε πρώιμο στάδιο, το σύστημα δεν είναι ακόμη έτοιμο για ενεργό χρήση. Όπως εξηγείται, ” το σύστημα, σε θεωρία, πρέπει να ανιχνεύσει τον μίσος λόγο και να στείλει αμέσως ένα μήνυμα στον ανεβάζοντα, ενημερώνοντάς τον γιατί δεν πρέπει να ανεβάζει πράγματα που προφανώς αντιπροσωπεύουν μίσος λόγο. Αυτό εξαρτάται από περισσότερα από την απλή ανίχνευση λέξεων – για να λειτουργήσει η AI, πρέπει να πάρει τον контекστο σωστά.”