Modello Statistico Aiuta a Rilevare le Informazioni Errate sui Social Media

Un professore di matematica dell’American University, insieme al suo team di collaboratori, ha sviluppato un modello statistico in grado di rilevare le informazioni errate nei post dei social media.

L’apprendimento automatico viene utilizzato sempre più spesso per fermare la diffusione delle informazioni errate, ma esiste ancora un grande ostacolo legato al problema delle “scatole nere” che si verificano. Ciò si riferisce al fatto che i ricercatori non comprendono come una macchina arrivi alle stesse decisioni degli allenatori umani.

Rilevamento delle Informazioni Errate con Modelli Statistici

Zois Boukouvalas, assistente professore nel Dipartimento di Matematica e Statistica dell’AU, ha utilizzato un set di dati di Twitter con tweet contenenti informazioni errate su COVID-19 per dimostrare come i modelli statistici possano rilevare le informazioni errate sui social media durante eventi importanti come una pandemia o un disastro.

Boukouvalas e i suoi colleghi, tra cui la studentessa dell’AU Caitlin Moroney e la professoressa di Informatica Nathalie Japkowics, hanno dimostrato come le decisioni del modello siano allineate con quelle umane nella ricerca appena pubblicata.

“Vorremmo sapere cosa pensa una macchina quando prende decisioni e come e perché concorda con gli esseri umani che l’hanno addestrata”, ha detto Boukouvalas. “Non vogliamo bloccare l’account di social media di qualcuno perché il modello prende una decisione distorta.”

Il metodo utilizzato dal team è un tipo di apprendimento automatico che si basa sulla statistica. I modelli statistici sono efficaci e offrono un altro modo per combattere le informazioni errate.

Il modello ha raggiunto un alto rendimento predittivo e ha classificato un set di test di 112 tweet reali e di informazioni errate con un’accuratezza del 90%.

“Ciò che è significativo in questo risultato è che il nostro modello ha raggiunto l’accuratezza offrendo trasparenza su come ha rilevato i tweet che erano informazioni errate”, ha continuato Boukouvalas. “I metodi di apprendimento profondo non possono raggiungere questo tipo di accuratezza con trasparenza.”

Allenamento e Preparazione del Modello

I ricercatori hanno preparato il modello per l’allenamento prima di testarlo su un set di dati, poiché le informazioni fornite dagli esseri umani possono introdurre distorsioni e “scatole nere”.

I tweet sono stati etichettati dai ricercatori come informazioni errate o reali in base a un set di regole predefinite sul linguaggio utilizzato nelle informazioni errate. Il team ha anche considerato le sfumature del linguaggio umano e le caratteristiche linguistiche legate alle informazioni errate.

Prima di allenare il modello, la professoressa di socio-linguistica Christine Mallinson dell’Università del Maryland Baltimore County ha identificato i tweet per gli stili di scrittura associati alle informazioni errate, alle distorsioni e alle fonti meno affidabili nei media.

“Una volta che aggiungiamo questi input nel modello, esso cerca di comprendere i fattori sottostanti che portano alla separazione delle informazioni buone e cattive”, ha detto Japkowics. “Sta imparando il contesto e come le parole interagiscono.”

I ricercatori cercheranno ora di migliorare l’interfaccia utente del modello, nonché la sua capacità di rilevare le informazioni errate nei post dei social media che includono immagini o altri media. Il modello statistico dovrà imparare come una varietà di elementi diversi interagiscono tra loro per creare informazioni errate.

Sia Boukouvalas che Japkowics affermano che l’intelligenza umana e l’alfabetizzazione dei media sono fondamentali per fermare la diffusione delle informazioni errate.

“Attraverso il nostro lavoro, progettiamo strumenti basati sull’apprendimento automatico per allertare e educare il pubblico al fine di eliminare le informazioni errate, ma crediamo fortemente che gli esseri umani debbano svolgere un ruolo attivo nel non diffondere le informazioni errate in primo luogo”, ha detto Boukouvalas.