Generazione e identificazione di propaganda con l’apprendimento automatico

Una nuova ricerca condotta negli Stati Uniti e in Qatar offre un metodo innovativo per identificare le notizie false scritte nel modo in cui gli esseri umani effettivamente scrivono notizie false – incorporando affermazioni inaccurate in un contesto prevalentemente veritiero e utilizzando tecniche di propaganda popolari come appelli all’autorità e linguaggio carico.

Il progetto ha portato alla creazione di un nuovo set di dati di addestramento per la rilevazione di notizie false chiamato PropaNews, che incorpora queste tecniche. Gli autori dello studio hanno scoperto che i rilevatori addestrati sul nuovo set di dati sono più precisi del 7,3-12% nel rilevare la disinformazione scritta da esseri umani rispetto ai precedenti approcci di stato dell’arte.

Dallo studio, esempi di ‘appello all’autorità’ e ‘linguaggio carico’. Fonte: https://arxiv.org/pdf/2203.05386.pdf

Gli autori affermano che, per quanto ne sappiano, il progetto è il primo a incorporare tecniche di propaganda (piuttosto che semplice inaccurazione fattuale) in esempi di testo generati da macchina destinati a alimentare i rilevatori di notizie false.

La maggior parte dei lavori recenti in questo campo, sostengono, ha studiato il pregiudizio o ha riformulato i dati di “propaganda” nel contesto del pregiudizio (probabilmente perché il pregiudizio è diventato un settore di apprendimento automatico molto finanziato nell’era post-Analytica).

Gli autori affermano:

‘In contrasto, il nostro lavoro genera notizie false incorporando tecniche di propaganda e preservando la maggior parte delle informazioni corrette. Pertanto, il nostro approccio è più adatto per studiare la difesa contro le notizie false scritte da esseri umani.’

Essi illustrano ulteriormente l’urgente necessità di tecniche di rilevamento della propaganda più sofisticate*:

‘La disinformazione scritta da esseri umani, che viene spesso utilizzata per manipolare determinate popolazioni, ha avuto un impatto catastrofico su eventi come le elezioni presidenziali statunitensi del 2016, il Brexit, la pandemia di COVID-19 e l’attacco recente della Russia all’Ucraina. Pertanto, abbiamo bisogno urgentemente di un meccanismo di difesa contro la disinformazione scritta da esseri umani.’

Lo studio è intitolato Faking Fake News for Real Fake News Detection: Propaganda-loaded Training Data Generation e proviene da cinque ricercatori dell’Università dell’Illinois Urbana-Champaign, della Columbia University, dell’Università Hamad Bin Khalifa del Qatar, dell’Università di Washington e dell’Istituto Allen per l’intelligenza artificiale.

Definizione della non verità

La sfida di quantificare la propaganda è in gran parte una questione logistica: è molto costoso assumere esseri umani per riconoscere e annotare materiale del mondo reale con caratteristiche simili alla propaganda per includerlo in un set di dati di addestramento, e potenzialmente molto più economico estrarre e utilizzare funzionalità di alto livello che sono probabilmente destinate a funzionare su ‘dati non visti’, futuri.

Al fine di ottenere una soluzione più scalabile, i ricercatori hanno inizialmente raccolto articoli di disinformazione creati da esseri umani da fonti di notizie ritenute a bassa accuratezza fattuale, tramite il sito Media Bias Fact Check.

Hanno scoperto che il 33% degli articoli studiati utilizzavano tecniche di propaganda disoneste, tra cui termini che scatenano emozioni, fallacie logiche e appelli all’autorità. Un ulteriore 55% degli articoli conteneva informazioni inaccurate mescolate con informazioni accurate.

Generazione di appelli all’autorità

L’appello all’autorità ha due casi d’uso: la citazione di affermazioni inaccurate e la citazione di affermazioni completamente fittizie. La ricerca si concentra sul secondo caso d’uso.

Dallo studio, ulteriori esempi di appello all’autorità e linguaggio carico.

Con l’obiettivo di creare propaganda generata da macchina per il nuovo set di dati, i ricercatori hanno utilizzato l’architettura seq2seq pre-addestrata BART per identificare frasi salienti che potevano successivamente essere modificate in propaganda. Poiché non esisteva un set di dati pubblicamente disponibile relativo a questo compito, gli autori hanno utilizzato un modello di riassunto estrattivo proposto nel 2019 per stimare la salienza delle frasi.

Per un articolo di ogni testata giornalistica studiata, i ricercatori hanno sostituito queste frasi ‘marcate’ con argomenti falsi di ‘autorità’ derivati sia dal servizio di query Wikidata che dalle autorità menzionate negli articoli (cioè persone e/o organizzazioni).

Generazione di linguaggio carico

Il linguaggio carico include parole, spesso avverbi e aggettivi sensazionalizzati (come nell’esempio sopra illustrato), che contengono giudizi di valore impliciti intessuti nel contesto della comunicazione di un fatto.

Per derivare dati riguardanti il linguaggio carico, gli autori hanno utilizzato un set di dati di uno studio del 2019 contenente 2.547 istanze di linguaggio carico. Poiché non tutti gli esempi nel set di dati del 2019 includevano avverbi o aggettivi che scatenano emozioni, i ricercatori hanno utilizzato SpaCy per eseguire l’analisi delle dipendenze e il tagging delle parti del discorso (PoS), conservando solo esempi appropriati per l’inclusione nel framework.

Il processo di filtraggio ha portato a 1.017 campioni di linguaggio carico valido. Un’altra istanza di BART è stata utilizzata per mascherare e sostituire frasi salienti nei documenti di origine con linguaggio carico.

Set di dati PropaNews

Dopo un addestramento intermedio condotto sul set di dati CNN/DM del 2015 di Google Deep Mind e dell’Università di Oxford, i ricercatori hanno generato il set di dati PropaNews, convertendo articoli non banali da fonti ‘affidabili’ come The New York Times e The Guardian in versioni ‘modificate’ che contengono propaganda algoritmica artificiale.

L’esperimento è stato modellato su uno studio del 2013 di Hanover, che ha generato automaticamente riassunti di cronologie di notizie su 17 eventi di notizie e un totale di 4.535 storie.

La disinformazione generata è stata sottoposta a 400 lavoratori unici di Amazon Mechanical Turk (AMT), coprendo 2000 compiti di intelligenza umana (HIT). Sono stati inclusi nel set di dati finale di PropaNews solo gli articoli di propaganda ritenuti accurati dai lavoratori. Le decisioni su eventuali disaccordi sono state valutate con il metodo Worker Agreement With Aggregate (WAWA).

La versione finale di PropaNews contiene 2.256 articoli, equilibrati tra output falso e reale, il 30% dei quali sfrutta l’appello all’autorità, con un ulteriore 30% che utilizza il linguaggio carico. Il resto contiene semplicemente informazioni inaccurate del tipo che ha popolato in gran parte i set di dati precedenti in questo campo di ricerca.

I dati sono stati suddivisi in 1.256:500:500 per le distribuzioni di addestramento, testing e convalida.

Set di dati HumanNews

Per valutare l’efficacia delle routine di rilevamento della propaganda addestrate, i ricercatori hanno compilato 200 articoli di notizie scritte da esseri umani, tra cui articoli smentiti da Politifact e pubblicati tra il 2015 e il 2020.

Questi dati sono stati integrati con articoli smentiti aggiuntivi da testate giornalistiche non affidabili e il totale è stato verificato da uno studente laureato in scienze informatiche.

Il set di dati finale, intitolato HumanNews, include anche 100 articoli del Los Angeles Times.

Test

Il processo di rilevamento è stato messo a confronto con framework precedenti in due forme: PN-Silver, che ignora la convalida dell’annotatore AMT, e PN-Gold, che include la convalida come criterio.

I framework di confronto includevano l’offerta del 2019 Grover-GEN, il 2020 Fact-GEN e FakeEvent, in cui gli articoli di PN-Silver sono sostituiti con documenti generati da questi metodi più vecchi.

Varianti di Grover e RoBERTa si sono rivelate le più efficaci quando addestrate sul nuovo set di dati PropaNews, con i ricercatori che concludono che ‘i rilevatori addestrati su PROPANEWS performano meglio nell’identificazione della disinformazione scritta da esseri umani rispetto all’addestramento su altri set di dati’.

I ricercatori osservano anche che persino il set di dati di ablazione semi-danneggiato PN-Silver supera i metodi più vecchi su altri set di dati.

Fuori data?

Gli autori ribadiscono la mancanza di ricerche fino ad oggi riguardo la generazione e l’identificazione automatica di notizie false centrate sulla propaganda, e avvertono che l’uso di modelli addestrati su dati precedenti eventi critici (come COVID o, argomentano, la situazione attuale in Europa orientale) non può essere considerato ottimale:

‘Circa il 48% delle disinformazioni scritte da esseri umani classificate in modo errato sono causate dall’incapacità di acquisire conoscenze dinamiche da nuove fonti di notizie. Ad esempio, gli articoli relativi a COVID sono solitamente pubblicati dopo il 2020, mentre ROBERTA è stato pre-addestrato su articoli di notizie pubblicati prima del 2019. È molto difficile per ROBERTA rilevare la disinformazione su tali argomenti a meno che il rilevatore non sia dotato della capacità di acquisire conoscenze dinamiche da articoli di notizie.’

Gli autori notano inoltre che RoBERTa raggiunge un’accuratezza del 69,0% per la rilevazione di articoli di notizie false pubblicati prima del 2019, ma scende al 51,9% di accuratezza quando applicato ad articoli di notizie pubblicati dopo questa data.

Paltering e contesto

Sebbene lo studio non affronti direttamente questo argomento, è possibile che questo tipo di approfondimento sull’effetto semantico potrebbe eventualmente affrontare un’ulteriore militarizzazione del linguaggio, come il paltering – l’uso selettivo e auto-servente di affermazioni veritiere al fine di ottenere un risultato desiderato che può essere in contrasto con lo spirito e l’intento percepito delle prove utilizzate.

Una linea di ricerca correlata e leggermente più sviluppata nel campo del NLP, della visione artificiale e della ricerca multimodale è lo studio del contesto come ausilio del significato, in cui la riorganizzazione selettiva e auto-servente o la ri-contestualizzazione di fatti veri diventa equivalente a un tentativo di evocare una reazione diversa da quella che i fatti potrebbero avere normalmente, se presentati in modo più chiaro e lineare.

* La mia conversione delle citazioni in linea degli autori in collegamenti ipertestuali diretti.

Pubblicato per la prima volta l’11 marzo 2022.