Η τεχνητή νοημοσύνη μπορεί να βοηθήσει στην αναγνώριση των “ροζ σλαϊμ” ειδήσεων

Οι μηχανισμοί απόψεων με προγραμματισμένο σκοπό, που έχουν σχεδιαστεί για να επηρεάσουν την κοινή γνώμη παρά να υπηρετήσουν το κοινό, μπορεί να είναι πιο δύσκολο να αναγνωριστούν εάν η τεχνητή νοημοσύνη χρησιμοποιηθεί για να τους κάνει να ακούγονται πιο πρωτότυποι και λογικοί. Έτσι, η διεκδίκηση για να μείνει μπροστά στο παιχνίδι της “ανίχνευσης του ροζ σλαϊμ” είναι σε εξέλιξη.

Η αποχέτευση των παραδοσιακών τοπικών μέσων ενημέρωσης τα τελευταία είκοσι χρόνια, τόσο λόγω της εξέλιξης των μέσων ενημέρωσης όσο και λόγω της πολιτικής των ΗΠΑ, έχει αφήσει ένα κενό στην τοπική αναφορά που έχει αναληφθεί από μεροληπτικές οργανώσεις που χρησιμοποιούν την τεχνητή νοημοσύνη για να προωθήσουν τους στόχους τους.

Για να τοποθετήσουμε τον όρο “μεροληπτικός” σε контέκστ (καθώς δεν υπάρχει κανένα μέσο ενημέρωσης χωρίς πολιτικές τάσεις κάποιου είδους), μιλάμε για πετρελαϊκές εταιρείες που λειτουργούν τοπικά μέσα ενημέρωσης από μακρινές τοποθεσίες, χωρίς πραγματικές τοπικές πηγές, αλλά με εντολή να υπερασπιστούν τη δημόσια εικόνα της εταιρείας· πολιτικά κινητοποιημένα μέσα ενημέρωσης στερήματα από οποιαδήποτε πηγή εσόδων που προετοιμάζονται πριν από τις εκλογές· και ολόκληρα δίκτυα προ-Ρεπουμπλικανικών μέσων ενημέρωσης που εμφανίζονται από το πουθενά, κοντά στη διεξαγωγή των εκλογών.

Το 2024, εκτιμήθηκε ότι οι ειδήσεις “ροζ σλαϊμ” που οδηγούνται από την τεχνητή νοημοσύνη είχαν τελικά ξεπεράσουν τα γνήσια μέσα ενημέρωσης· εκείνη την εποχή, μια αυστραλιανή έρευνα βρήκε ότι το 41% των καταναλωτών προτίμησαν τις πηγές “ροζ σλαϊμ” από τις “πραγματικές” πηγές.

Είδος κρυφής προεκλογικής δραστηριότητας, θα μπορούσε να υποστηριχθεί ότι έχει εξελιχθεί από ένα απλό σκοτεινό τέχνασμα σε μια υποστατική απειλή για τη δημοκρατία (σε σχέση με τα πολιτικά κινητοποιημένα μέσα ενημέρωσης) και στην εμπιστοσύνη του κοινού στις λογικές προδιαγραφές της ενημέρωσης.

Λόγω αυτού, οι μέθοδοι για να διακρίνουν την χαρακτηριστική έξοδο των εκδόσεων “ροζ σλαϊμ” και των ραδιοτηλεοπτικών οργανισμών από πιο παραδοσιακά μέσα ενημέρωσης θα ήταν πολύ χρήσιμες, τουλάχιστον για να κατανοήσουμε ποιοι είναι οι παίκτες και οι κινητήριες δυνάμεις στο τρέχον κλίμα της ενημέρωσης.

Όπως είναι τώρα, τα κλισέ και τα πρότυπα των γνήσιων μέσων ενημέρωσης είναι πολύ εύκολο να μιμηθούν, και η τεχνητή νοημοσύνη κάνει τη μαζική δημοσίευση μια τρέχουσα και προσιτή πραγματικότητα, χρησιμοποιώντας πολλά από τα ίδια τέχνες που υιοθετούνται από τους πτωχούς “παλιούς” εκδότες και ραδιοτηλεοπτικούς οργανισμούς.

Σήμα και Θόρυβος

Μια νέα μελέτη από τις ΗΠΑ αντιμετωπίζει αυτό το ζήτημα, ερευνώντας τη χρήση των Μεγάλων Μοντέλων Γλώσσας για να κάνουν τις ιστοσελίδες “ροζ σλαϊμ” να ακούγονται λιγότερο γενικές και εύκολες να ανιχνευτούν, και δημιουργώντας ένα πλαίσιο μάθησης που σχεδιάζεται για να跟νει τις εξελισσόμενες αλλαγές στην έξοδο του “ροζ σλαϊμ” (PS).

Με τίτλο Αποκάλυψη του Ροζ Σλαϊμ Journalism: Γλωσσικά Σημάδια και Ρομποτική Ανίχνευση κατά των Aπειλών LLM, η νέα εργασία προέρχεται από πέντε ερευνητές στο Πανεπιστήμιο του Τέξας.

Η νέα εργασία ερευνά πώς οι μαζικά παραγόμενοι τοπικοί άρθρα ειδήσεων PS διαφέρουν από τη γνήσια αναφορά, εστιάζοντας στην εξάρτησή τους από σύντομες, επαναλαμβανόμενες δομές και προτυποποιημένη φράση με ελάχιστη παραλλαγή· και οι συγγραφείς σημειώνουν ότι τα άρθρα PS tend να ξαναχρησιμοποιούν ταυτόσημα πρότυπα σχεδιασμένα για να χειραγωγούν την κοινή γνώμη, με έμφαση στην эмоциональность πάνω από το περιεχόμενο:

Από το νέο έγγραφο – πολλά κανάλια δημοσιεύουν σχεδόν ταυτόσημα άρθρα με μόνο τις τοπικές λεπτομέρειες που αλλάζουν, αποκαλύπτοντας μια στρατηγική αντίγραφου-επικόλλησης που χρησιμοποιείται για τη μαζική παραγωγή περιεχομένου που μιμείται γνήσια τοπική ενημέρωση. Πηγή

Τα παραδοσιακά μοντέλα ανίχνευσης που εκπαιδεύονται σε αυτά τα χαρακτηριστικά λειτουργούν καλά ενάντια σε τέτοιο περιεχόμενο, αλλά αποτυγχάνουν όταν τα άρθρα ξαναγράφονται χρησιμοποιώντας AI chatbots για να φαίνονται πιο φυσικά ή περίπλοκα.

Οι δικοί τους тестες δείχνουν ότι ακόμη και μικρές στιλιστικές αλλαγές που εισάγονται από τα μεγάλα μοντέλα γλώσσας μπορούν να μειώσουν την ακρίβεια ανίχνευσης μέχρι και 40%. Για να μετριάσει αυτό, προτείνουν ένα συνεχές πλαίσιο μάθησης που επανακαθορίζει τα μοντέλα ανίχνευσης σε και τα αυθεντικά και τα AI-ξαναγραμμένα άρθρα, για να προσαρμοστούν στις μεταβαλλόμενες γλωσσικές μοτίβα.

Μέθοδος

Για να καθορίσουν δεδομένα για το έργο, οι συγγραφείς χρησιμοποίησαν το Δεδομένο Σετ Ροζ Σλαϊμ, που περιλαμβάνει 7,9 εκατομμύρια άρθρα που καλύπτουν 1.093 κανάλια κατά τη διάρκεια του 2021-2023, από τα οποία απέκτησαν 9.472 άρθρα ροζ σλαϊμ μετά από φιλτράρισμα. Χρησιμοποίησαν επίσης το Δεδομένο Σετ LIAR, που περιλαμβάνει αναγνωρισμένες ψευδείς ειδήσεις, καθώς και τη Συλλογή NELA-GT-2021, που περιλαμβάνει μόνο άρθρα των ΗΠΑ*.

Για να προετοιμάσουν τα σετ εκπαίδευσης και δοκιμής, οι συγγραφείς πρώτα χρησιμοποίησαν τον αλγόριθμο t-SNE για να μειώσουν τις εμφανίσεις των άρθρων σε δύο διαστάσεις. Στη συνέχεια, χρησιμοποίησαν τον αλγόριθμο DBSCAN για να απομονώσουν κλάστερ άρθρων ροζ σλαϊμ.

Κάθε κλάστερ αντιμετωπίστηκε ως μια ομάδα συναφών ιστοριών, πολλές από τις οποίες ακόμη ακολουθούσαν το ίδιο πρότυπο, παρά την προσπάθεια να αντιμετωπιστούν οι διπλότυπες.

Για να αποφευχθεί η εμφάνιση παρόμοιων άρθρων και στα σετ εκπαίδευσης και στα σετ δοκιμής, οι κλάστερ επιλέχθηκαν τυχαία, με το 80% να χρησιμοποιείται για εκπαίδευση και το 20% για δοκιμή. Επειδή τα γνήσια άρθρα ειδήσεων δεν σχημάτιζαν σαφείς κλάστερ, εφαρμόστηκε μια τυχαία διαίρεση αντί για αυτό.

Αυτή η διαδικασία επαναλήφθηκε τρεις φορές, για να διασφαλιστεί η συνεχή, και για να μειώσει την παρωχημένη προκατάληψη.

Χαρακτηριστικά του Ροζ Σλαϊμ

Σχολιάζοντας τα διακριτικά χαρακτηριστικά του Ροζ Σλαϊμ σε σχέση με τα κανονικά νέα, οι ερευνητές δηλώνουν ότι τα άρθρα τοπικής ειδήσεως τύπου Ροζ Σλαϊμ είναι σημαντικά πιο σύντομα και απλούστερα από τη γνήσια αναφορά, με μέσο όρο λιγότερες από εννέα προτάσεις ανά άρθρο.

Μια υψηλότερη αναλογία απλών προτάσεων και μια μεγαλύτερη εξάρτηση από επιθέματα είναι περαιτέρω διακριτικά χαρακτηριστικά του ροζ σλαϊμ, σύμφωνα με το έγγραφο, και υποδεικνύουν μια τάση προς επαναλαμβανόμενη, συναισθηματικά φορτισμένη γλώσσα.

Η λεξική πλούτος μετρήθηκε χρησιμοποιώντας το Root-Type-Token Ratio (RTTR), και βρέθηκε να είναι αξιοσημείωτα χαμηλότερος στα άρθρα Ροζ Σλαϊμ, τα οποία εξέφραζαν επίσης πολύ λιγότερες μοναδικές φράσεις ονομάτων.

Αυτά τα μοτίβα υποδεικνύουν μια περιορισμένη λεξιλόγιο και προτυποποιημένο στυλ, σε αντίθεση με τα γνήσια τοπικά νέα, τα οποία χαρακτηρίζονται από σύνθετα μοτίβα συνταγμάτων που構ονται γύρω από βοηθητικά ρήματα, αντωνυμίες και συνδέσμους. Αντίθετα, τα ψευδείς άρθρα προτιμούν βασικές δομές ουσίας-προθέσεων, με συχνή χρήση στίξης-βασισμένων τριγμών, υποδεικνύοντας ένα λιγότερο επίσημο, πιο θραυσματικό στυλ γραφής.

Δοκιμές

Για να εξετάσουν τις συσχετίσεις μεταξύ διαφόρων τύπων άρθρων ειδήσεων, με βάση γλωσσικά και δομικά χαρακτηριστικά, δημιουργήθηκαν εμφανίσεις χρησιμοποιώντας το μοντέλο stella_en_400M_v5 435 εκατομμυρίων παραμέτρων, και μειώθηκαν με PCA και t-SNE για οπτικοποίηση.

Όταν προβλήθηκαν σε δύο διαστάσεις, τα ψευδείς άρθρα τοπικής ειδήσεως形成σαν μικρά, πυκνά κλάστερ, κάθε ένας από τους οποίους αντιστοιχούσε σε στενά εστιασμένα θέματα, όπως στατιστικά εγκλημάτων, ενημερώσεις μετοχών ή δωρεές:

Μοτίβα κλάστερ από μια προβολή t-SNE αποκαλύπτουν ότι τα άρθρα ροζ σλαϊμ形成σαν στενά, επαναλαμβανόμενα ομάδες, ενώ τα γνήσια νέα εμφανίζουν ευρύτερη, πιο ποικίλη κατανομή που ευθυγραμμίζεται με τη ποικιλία θεμάτων και στυλ.

Όπως μπορούμε να δούμε, σε κάποιο βαθμό, στην οπτικοποίηση παραπάνω, αυτό το μοτίβα υποδεικνύει ένα σκληρό, προτυποποιημένο φορμάτ, με ελάχιστη παραλλαγή μεταξύ άρθρων.

Ενδιαφέρον είναι ότι τα άρθρα που χαρακτηρίζονται ως “ψευδείς ειδήσεις” απομακρύνθηκαν από το ψευδές τοπικό περιεχόμενο, εμφανίζοντας μια κατανομή που ευθυγραμμίζεται με τα γνήσια νέα, υποδεικνύοντας ότι μαζικά παραγόμενα τοπικά ψευδείς μπορεί να μην είναι απλά λιγότερο αληθινά, αλλά μπορεί επίσης να είναι μηχανικά διαφορετικά σε μορφή και σύνθεση.

Αντίθετα, τα “γνήσια” τοπικά νέα形成σαν λιγότερα και πιο μακρινά κλάστερ, που ευθυγραμμίζονται με πιο ποικίλη γλώσσα και θέματα, ενώ τα εθνικά άρθρα ειδήσεων εμφανίζουν ακόμη μεγαλύτερη διάχυση, που αντικατοπτρίζει ευρύτερη θεματική εμβέλεια και χαλαρότερη συντακτική συνέπεια.

Συγκρίσεις χαρακτηριστικών μεταξύ γνήσιων τοπικών ειδήσεων και περιεχομένου ροζ σλαϊμ, που υποδεικνύουν ότι τα άρθρα ροζ σλαϊμ είναι πιο σύντομα, χρησιμοποιούν απλούστερες δομές προτάσεων, περιέχουν περισσότερα επιθέματα, εμφανίζουν χαμηλότερο λεξικό πλούτο, προτιμούν βασικές συντακτικές τριγμούς και περιέχουν λιγότερες μοναδικές φράσεις ονομάτων.

Ανίχνευση

Οι ερευνητές αξιολόγησαν δύο βασικές προσεγγίσεις για την ανίχνευση περιεχομένου ροζ σλαϊμ: ταξινόμηση, με βάση χειροποίητα γλωσσικά χαρακτηριστικά· και μετασχηματιστής-βασισμένη εξευγενισμός.

Για την χειροποίητη προσέγγιση, δομικά παρά γλωσσικά χαρακτηριστικά τόνισαν, χρησιμοποιώντας τον αριθμό προτάσεων· λεξικό πλούτο· συντακτικό βάθος· συνδυασμούς συντακτικών πιθανοτήτων· πιθανοτήτων συνδυασμών ετικετών εξάρτησης· αναγνώσιμη γραφή· και αριθμό συντακτικών κατηγοριών.

Τρεις μοντέλα δοκιμάστηκαν σε αυτό το σύνολο χαρακτηριστικών: XGBoost· Random Forest· και Support Vector Machine (SVM) – με το Random Forest να δείχνει ελαφρώς ισχυρότερα αποτελέσματα συνολικά.

Και το XGBoost και το Random Forest έδωσαν υψηλή προβλεπτική σημασία σε χαρακτηριστικά όπως ο αριθμός προτάσεων και ο αριθμός μοναδικών φράσεων ονομάτων. Η αναγνώσιμη γραφή και ο λεξικός πλούτος μετρήθηκαν επίσης ισχυρά, αν και τα μοντέλα βάρη αυτών των μετρήσεων διαφορετικά, με το XGBoost να προτιμά το Flesch και το RTTR, ενώ το Random Forest να προτιμά το CTTR:

Σκορ σημασίας χαρακτηριστικών με βάση το SHAP (SHapley Additive exPlanations) υπογραμμίζουν πώς κάθε είσοδος χαρακτηριστικού επηρεάζει την έξοδο του μοντέλου σε δείγματα. Σε αυτή την περίπτωση, οι τιμές SHAP αποκαλύπτουν ότι και το XGBoost και το Random Forest βασίζονταν περισσότερο στον αριθμό προτάσεων και τις μοναδικές φράσεις ονομάτων για να διακρίνουν το ροζ σλαϊμ από τα γνήσια νέα, ενώ έδιναν διαφορετικά βάρη σε μετρήσεις λεξικού πλούτου και αναγνώσιμης γραφής.

Όπως φαίνεται στις προηγούμενες συγκρίσεις χαρακτηριστικών (παραπάνω), τα άρθρα ροζ σλαϊμ προτιμούν τον σενσασιοναλισμό έναντι του λεπτομέρειου, με χαμηλότερο λεξικό πλούτο, και με λιγότερες διαφορετικές φράσεις ονομάτων – ενισχύοντας το συμπέρασμα ότι αυτό το είδος περιεχομένου είναι υψηλά προτυποποιημένο και επαναλαμβανόμενο.

Μοτίβα τριγμών συντακτικών κατηγοριών επιβεβαιώνουν ότι τα γνήσια τοπικά νέα tend να χρησιμοποιούν πιο σύνθετες μορφές, που περιλαμβάνουν βοηθητικά ρήματα, αντωνυμίες και συνδέσμους, ενώ το ροζ σλαϊμ προτιμά βασικές δομές ουσίας-προθέσεων, με συχνή χρήση στίξης-βασισμένων τριγμών, υποδεικνύοντας ένα λιγότερο επίσημο, πιο θραυσματικό στυλ γραφής.

Μια δεύτερη γύρα δοκιμών αφορούσε την εξευγενισμό μοντέλων μετασχηματιστή σε πλήρες κείμενο άρθρων, για να καταγράψουν τόσο το σημασιολογικό περιεχόμενο όσο και τη συντακτική δομή.

BERT, XLNet, και Flan-T5 δοκιμάστηκαν, με το BERT να επιτυγχάνει το υψηλότερο F1-σκορ στο 89,31% – αν και το έγγραφο σημειώνει ότι οι διαφορές απόδοσης δεν ήταν στατιστικά σημαντικές. Αντιθέτως με τα χειροποίητα ταξινομητές, αυτά τα μοντέλα ενημερώνουν όλα τα βάρη κατά τη διάρκεια της εκπαίδευσης, επιτρέποντάς τους να μάθουν αναπαραστάσεις ειδικές για την εργασία απευθείας από τα δεδομένα.

Μια επιπλέον μεθοδολογία με βάση τις εμφανίσεις χρησιμοποίησε einen πλήρως συνδεδεμένο κατηγοριοποιητή που εκτελέστηκε καλύτερα από τα χειροποίητα μοντέλα, αλλά δεν έφτασε την ακρίβεια του πλήρους εξευγενισμού.

Αυτές οι προσεγγίσεις ωφελήθηκαν από ευρύτερο γλωσσικό контέκστ – ευνοϊκό, δεδομένου ότι τα άρθρα ροζ σλαϊμ συχνά ανακυκλώνουν περιεχόμενο σε διάφορα κανάλια. Τα χειροποίητα χαρακτηριστικά, από την άλλη πλευρά, βασίζονται μόνο στη سطحική σύνταξη, περιορίζοντας την ικανότητά τους να γενικεύσουν σε διάφορες πηγές.

Ενίσχυση του Ροζ Σλαϊμ με LLMs

Για να δοκιμάσουν αν τα άρθρα ροζ σλαϊμ θα μπορούσαν να γίνουν πιο δύσκολα στην ανίχνευση, οι ερευνητές ξαναέγραψαν τα άρθρα χρησιμοποιώντας μεγάλα μοντέλα γλώσσας. Οι προτροπές σχεδιάστηκαν για να βελτιώσουν το στυλ γραφής, επεκτείνοντας το περιεχόμενο, προσθέτοντας σύνθεξη προτάσεων, μειώνοντας την υπερβολική χρήση επιθεμάτων, επιβάλλοντας einen ουδέτερο τόνο, χρησιμοποιώντας πιο ποικίλο λεξιλόγιο, και αυξάνοντας τον αριθμό μοναδικών φράσεων ονομάτων, με σκοπό να κρύψουν τα επιφανειακά χαρακτηριστικά που περισσότερα συστήματα ανίχνευσης βασίζονται.

Τα μοντέλα που δοκιμάστηκαν ήταν Gemma‑2B· Mistral‑7B· Llama‑1B· Llama‑3B· Llama‑8B· Qwen‑7B· GPT‑4o mini· και Claude‑3.5‑Haiku.

Απόδοση ανίχνευσης (F1) ενός εξευγενισμένου ταξινομητή BERT όταν τα άρθρα ροζ σλαϊμ ξαναγράφονται από διάφορα LLMs. Χαμηλότερες βαθμολογίες υποδεικνύουν πιο επιτυχημένη απόκρυψη.

Από αυτά τα αποτελέσματα, οι συγγραφείς σχολιάζουν:

‘[Μεταξύ] ανοικτών μοντέλων, το Qwen ήταν το πιο αποτελεσματικό στην απόκρυψη: όταν δοκιμάστηκε ενάντια σε einen προηγουμένως εξευγενισμένο ταξινομητή BERT (βασική βαθμολογία F1: 89%), οδήγησε σε μια πτώση της απόδοσης ανίχνευσης 28,34%.

‘Τα κλειστά μοντέλα ήταν σημαντικά πιο ισχυρά, με το GPT-4o-mini και το Claude-3.5-Haiku να μειώνουν τη βαθμολογία F1 κατά μέσο όρο 40%, υπογραμμίζοντας την πρόκληση που θέτουν τα υψηλής ποιότητας LLM-γεννημένα αποκρύψεις.’

Αυτά τα αποτελέσματα, οι συγγραφείς υποστηρίζουν, δείχνουν πώς εύκολα τα LLMs μπορούν να κρύψουν το περιεχόμενο ροζ σλαϊμ, καθιστώντας το πολύ πιο δύσκολο για τα τρέχοντα εργαλεία να το πιάσουν**.

Συμπέρασμα

Γνώμη Αυτή η γραμμή έρευνας περιέχει κάποια ενδιαφέροντα προβλήματα, όχι το λιγότερο από τα οποία είναι ότι τόσοι πολλοί άνθρωποι (κατά μια έρευνα, που αναφέρθηκε νωρίτερα) υποστηρίζουν το περιεχόμενο ροζ σλαϊμ, γνωρίζοντας τι είναι, ότι φέρνει την περιφρόνηση σε αμφισβήτηση. Είναι σαν να ξέρουν ότι “το Σόυλεντ Γκριν είναι άνθρωποι”, αλλά κουνάνε τους ώμους και συνεχίζουν να τρώνε· ή έτσι μπορεί να φαίνεται, από μια φιλελεύθερη οπτική.

Ένα άλλο πράγμα που με χτύπησε, διαβάζοντας το έγγραφο, ήταν ο τρόπος με τον οποίο η απλούστερη γραφή και η μείωση του ροζ σλαϊμ αντιμετωπίστηκαν ως ελάττωμα με μια πιθανή τεχνολογική λύση, όταν ο μινιμαλισμός, ο συναισθηματισμός και η περιορισμένη λεξιλόγιο είναι πιθανώς جميع διαθέσιμοι.

Εάν οι διάφοροι ενδιαφερόμενοι που βρίσκονται πίσω από το ροζ σλαϊμ θέλουν να επεκτείνουν την εμβέλεια τους σε ένα πιο διανοουμενικό ή φιλελεύθερο κοινό (αν και αυτό μπορεί να μην είναι το πλεονέκτημά τους), φαίνεται πιο πιθανό ότι θα εγκαταστήσουν μια βάση κοντά στο στόχο τους, παρά να αλλάξουν ένα στυλ γλώσσας και ένα τόνο που ήδη φαίνεται να επιτυγχάνουν τους στόχους τους, σε υπάρχοντα κανάλια.

* Λόγω κάποιας άτυχης μορφοποίησης στο έγγραφο, η πρόσθετη πηγή τοπικών άρθρων δεν έχει σαφή απόδοση. Παρακαλούμε ανατρέξτε στο έγγραφο και υποθέστε ποια από τις αναφορές “Horne” ισχύει.

** Εδώ αναφερόμαστε τον αναγνώστη στο έγγραφο για λεπτομέρειες των δευτερευόντων, συμπληρωματικών πειραμάτων που κλείνουν την ενότητα αποτελεσμάτων της νέας εργασίας.

Δημοσιεύθηκε για πρώτη φορά την Παρασκευή, 12 Δεκεμβρίου 2025