Gli ingegneri di intelligenza artificiale sviluppano un metodo in grado di rilevare l’intento di coloro che diffondono informazioni false

Occuparsi di informazioni false nell’era digitale è un problema complesso. Non solo le informazioni false devono essere identificate, etichettate e corrette, ma anche l’intento di coloro che sono responsabili dell’affermazione deve essere distinto. Una persona può diffondere informazioni false senza saperlo o può semplicemente esprimere la propria opinione su un argomento, anche se in seguito viene riportata come fatto. Recentemente, un team di ricercatori e ingegneri di intelligenza artificiale di Dartmouth ha creato un framework che può essere utilizzato per derivare l’opinione da “notizie false”.

Come riporta ScienceDaily, lo studio del team di Dartmouth è stato recentemente pubblicato sulla rivista Journal of Experimental & Theoretical Artificial Intelligence. Mentre precedenti studi hanno tentato di identificare le notizie false e combattere l’inganno, questo potrebbe essere il primo studio che ha tentato di identificare l’intento del parlante in un articolo di notizie. Mentre una storia vera può essere distorta in varie forme ingannevoli, è importante distinguere se l’inganno era intenzionale. Il team di ricerca sostiene che l’intento è importante quando si considerano le informazioni false, poiché l’inganno è possibile solo se c’è l’intento di ingannare. Se un individuo non si rende conto di diffondere informazioni false o se sta semplicemente esprimendo la propria opinione, non c’è inganno.

Eugene Santos Jr., professore di ingegneria alla Thayer School of Engineering di Dartmouth, ha spiegato a ScienceDaily perché il loro modello tenta di distinguere l’intento ingannevole:

“L’intento ingannevole di ingannare gli ascoltatori di proposito rappresenta una minaccia molto più grande degli errori involontari. Per quanto ne sappiamo, il nostro algoritmo è l’unico metodo che rileva l’inganno e allo stesso tempo discrimina gli atti maliziosi da quelli benigni.”

Per costruire il loro modello, il team di ricerca ha analizzato le caratteristiche del ragionamento ingannevole. L’algoritmo risultante poteva distinguere l’intento di ingannare da altre forme di comunicazione concentrandosi sulle discrepanze tra gli argomenti passati di una persona e le sue affermazioni attuali. Il modello costruito dal team di ricerca necessita di grandi quantità di dati che possono essere utilizzati per misurare come una persona si discosta dagli argomenti passati. I dati di training utilizzati dal team per addestrare il loro modello consistevano di dati raccolti da un sondaggio di opinioni su argomenti controversi. Oltre 100 persone hanno espresso la loro opinione su questi argomenti controversi. I dati sono stati anche raccolti da recensioni di 20 diversi alberghi, consistendo in 400 recensioni fittizie e 800 recensioni reali.

Secondo Santos, il framework sviluppato dai ricercatori potrebbe essere raffinato e applicato da organizzazioni di notizie e lettori, in modo da consentire loro di analizzare il contenuto degli articoli di “notizie false”. I lettori potrebbero esaminare gli articoli per la presenza di opinioni e determinare se è stato utilizzato un argomento logico. Santos ha anche detto che il team vuole esaminare l’impatto delle informazioni false e gli effetti a catena che esse hanno.

La cultura popolare spesso rappresenta comportamenti non verbali come espressioni facciali come indicatori del fatto che qualcuno sta mentendo, ma gli autori dello studio notano che questi indizi comportamentali non sono sempre indicatori affidabili dell’inganno. Deqing Li, coautore del documento, ha spiegato che la loro ricerca ha scoperto che i modelli basati sull’intento di ragionamento sono migliori indicatori dell’inganno rispetto alle differenze comportamentali e verbali. Li ha spiegato che i modelli di intento di ragionamento “sono migliori nel distinguere le bugie intenzionali da altri tipi di distorsione delle informazioni”.

Il lavoro dei ricercatori di Dartmouth non è l’unico recente progresso nella lotta contro le informazioni false con l’intelligenza artificiale. Gli articoli di notizie con titoli clickbait spesso mascherano informazioni false. Ad esempio, implicano che una cosa sia successa quando in realtà è successo un altro evento.

Come riporta AINews, un team di ricercatori delle università di Arizona State e Penn State ha collaborato per creare un’intelligenza artificiale in grado di rilevare i titoli clickbait. I ricercatori hanno chiesto alle persone di scrivere i propri titoli clickbait e hanno anche scritto un programma per generare titoli clickbait. Entrambe le forme di titoli sono state utilizzate per addestrare un modello che potesse rilevare efficacemente i titoli clickbait, indipendentemente dal fatto che siano stati scritti da macchine o persone.

Secondo i ricercatori, il loro algoritmo era circa il 14,5% più preciso nel rilevare i titoli clickbait rispetto ad altri algoritmi di intelligenza artificiale del passato. Il ricercatore principale del progetto e professore associato alla College of Information Sciences and Technology di Penn State, Dongwon Lee, ha spiegato come il loro esperimento dimostri l’utilità di generare dati con un’intelligenza artificiale e di riutilizzarli in un pipeline di addestramento.

“Questo risultato è abbastanza interessante, poiché abbiamo dimostrato con successo che i dati di addestramento di clickbait generati da macchine possono essere riutilizzati in un pipeline di addestramento per addestrare una vasta gamma di modelli di apprendimento automatico a migliorare le prestazioni”, ha spiegato Lee.