La ricerca suggerisce che ChatGPT abbia un’elevata credibilità come fornitore di notizie

Una nuova ricerca suggerisce che le etichette di controllo dei fatti di ChatGPT superino i like, le condivisioni e persino i marchi di notizie di fiducia quando si tratta di plasmare ciò che le persone credono e vogliono condividere online.

Uno studio su 1.000 persone ha scoperto che quando ChatGPT assegna un punteggio di credibilità alle notizie politiche, spesso cambia ciò che le persone credono e se vogliono condividerle – indipendentemente dalle loro opinioni politiche iniziali. I fattori di influenza più tradizionali come i like o le condivisioni non hanno avuto molto effetto, ma il giudizio dell’AI ha fortemente plasmato quanto le notizie sembravano attendibili:

Dalla nuova carta, un’illustrazione di come le persone valutano un titolo di notizie, basato su tre segnali interagenti: se la storia si allinea con la loro identità politica; quanto è l’engagement che sembra avere sui social media; e i segnali di credibilità forniti da istituzioni o sistemi AI. Queste influenze si combinano per plasmare sia l’accuratezza percepita che la probabilità di condivisione del contenuto. Fonte

L’estensione in cui le sintesi dell’AI sono considerate fonti di notizie credibili è forse uno degli argomenti più importanti nei media per molti anni, non solo perché le sintesi dell’AI di Google hanno drenato il traffico dalla maggior parte dei principali siti di notizie online nel 2025, con nessuna certezza su dove questo trasferimento di potere potrebbe essere diretto nel lungo o anche nel medio termine.

Gli autori del nuovo lavoro affermano:

‘Questi risultati evidenziano sia il potenziale che il rischio del feedback algoritmico nel plasmare la comprensione pubblica. I segnali generati dall’AI possono aiutare a mitigare i pregiudizi e a migliorare la discernimento della credibilità, ma la loro influenza varia in base all’identità politica e comporta rischi etici legati alla eccessiva dipendenza […]

‘…L’influenza sproporzionata di ChatGPT evidenzia un trade-off critico: mentre persuasivo, il feedback dell’AI può sostituire il pensiero critico se non viene formulato con cura.’

Gli autori suggeriscono che le future ricerche dovrebbero concentrarsi su interventi di credibilità dell’AI migliorati che siano più indipendenti e supportati da fatti noti, e osservano che ciò è particolarmente importante in argomenti polarizzanti.

Oltre all’apparente ascesa di ChatGPT come “autorità” e all’influenza inaspettatamente bassa dei segnali di condivisione nei test (che gli autori pensano possa essere attribuita alle condizioni di test leggermente sterili), un altro risultato interessante dai test dei ricercatori riguarda le demografie e il genere:

‘Le donne e i partecipanti minoritari razziali (in particolare gli utenti neri e latini) hanno risposto più positivamente al feedback basato sull’AI rispetto alle etichette istituzionali.’

Il nuovo lavoro è intitolato Segnali di credibilità dell’AI superano le istituzioni e l’engagement nel plasmare la percezione delle notizie sui social media, e proviene da tre ricercatori dell’Università di Notre Dame.

Vediamo più da vicino i metodi e le conclusioni del documento.

Metodo

Quattro ipotesi sono state testate: che le persone valutino i titoli come più precisi quando riflettono le loro opinioni politiche; che i punteggi di credibilità generati dall’AI siano più influenti dei segnali provenienti da istituzioni stabilite; che i titoli con alto engagement (ad esempio, misurato attraverso like, condivisioni o commenti) siano considerati più attendibili; e che gli utenti tendano ad accettare il giudizio dell’AI sulla precisione di un titolo, anche quando è in conflitto con le loro convinzioni.

I partecipanti allo studio sono stati selezionati dalla piattaforma Prolific e dovevano essere fluenti in inglese, nonché consumatori regolari di notizie; e un processo di randomizzazione ha garantito che i partecipanti rappresentassero una diversità di prospettive razziali e di genere.

Nel corso dell’esperimento*, i partecipanti sono stati divisi in quattro gruppi, ciascuno mostrato un tipo diverso di feedback accanto ai titoli di notizie.

Il primo gruppo (la condizione di controllo) non ha ricevuto alcuna informazione aggiuntiva sulla credibilità del titolo; nel secondo gruppo, i titoli sono stati etichettati con un punteggio di bias da GroundNews, un servizio che classifica le fonti di notizie come di sinistra, centro o destra.

Un terzo gruppo ha visto le stesse etichette di GroundNews, ma intenzionalmente capovolte, creando un mismatch volto a testare se gli utenti avrebbero rilevato la distorsione.

L’ultimo gruppo ha visto le valutazioni di credibilità scritte da ChatGPT, offrendo una breve spiegazione e un punteggio come ‘probabilmente inaccurato’:

Schema concettuale per l’esperimento: ogni partecipante ha visto titoli di notizie politiche con diverse combinazioni di etichette di credibilità e segnali di engagement social. Le risposte sono state raccolte su quanto precisi sembravano i titoli e quanto probabile fosse condividerli, con la sequenza completa ripetuta su 21 elementi.

Dati e test

Ogni partecipante ha visto una sequenza di 21 titoli di notizie politiche. Per ogni titolo, il livello di engagement social è stato variato; a volte mostrava nessun like o condivisione, a volte molti. Questi segnali di engagement sono stati randomizzati per evitare pattern fissi.

I titoli stessi provenivano da una miscela di prospettive politiche e sono stati etichettati come di sinistra, di destra o centristi.

Dopo ogni titolo, i partecipanti sono stati chiesti di valutare quanto preciso pensavano che fosse e se lo avrebbero condiviso. Poiché ogni partecipante aveva già dichiarato la propria affiliazione politica, è stato possibile analizzare se i titoli provenienti dallo stesso lato dello spettro politico sono stati valutati più favorevolmente.

I partecipanti hanno valutato ogni titolo due volte: una volta per quanto sembrava preciso e una volta per quanto probabile fosse condividerlo, con le risposte misurate su una scala da 0 a 10.

I ricercatori hanno poi combinato queste risposte con dati aggiuntivi: informazioni demografiche e sull’uso dei media da parte di ogni partecipante; etichette politiche per ogni titolo; il tipo di segnale di credibilità mostrato; e il livello di engagement sociale assegnato.

Influenza dell’identità politica

Nel primo test, che ha indagato se le persone valutano i titoli come più precisi quando la posizione politica del titolo corrisponde alle loro opinioni, i risultati hanno indicato che i partecipanti erano più propensi a credere ai titoli che corrispondevano alle loro opinioni politiche – ma che ciò dipendeva dal gruppo.

I moderati hanno mostrato il pregiudizio più forte verso il loro stesso lato, mentre i liberali e i conservatori tendevano a fidarsi dei titoli centristi più di tutti; e nel complesso, i titoli neutrali sono stati valutati come più precisi di quelli di sinistra o di destra.

Un’illustrazione di come le valutazioni di accuratezza e condivisione sono cambiate in base alla posizione politica del titolo e all’affiliazione politica del partecipante. I moderati erano più propensi a valutare i titoli ‘del loro gruppo’ come precisi, mentre i liberali e i conservatori favorivano i titoli allineati al centro. Il comportamento di condivisione ha seguito un modello simile, con un pregiudizio di gruppo limitato al di fuori del gruppo moderato.

Nel risultato di questo primo esperimento, è stato trovato un modesto effetto di gruppo sulla condivisione; ma solo per i moderati, che erano più inclini a condividere titoli politicamente allineati (cioè neutrali). I liberali e i conservatori non hanno mostrato questa tendenza.

L’analisi della varianza (ANOVA), un metodo utilizzato per rilevare le differenze tra i gruppi, ha mostrato che l’allineamento ha influenzato la condivisione solo quando interagiva con l’identità politica. La credibilità e la condivisione erano collegate, ma solo i moderati hanno mostrato un modello chiaro in entrambi.

Credibilità istituzionale vs. credibilità dell’AI

Il prossimo test ha chiesto se le persone fidino più nei punteggi dell’AI rispetto a fonti tradizionali come i siti di valutazione delle notizie – specialmente quando i punteggi potrebbero essere in conflitto con le loro opinioni politiche:

Valutazioni di credibilità e condivisione attraverso fonti di feedback: tutti e tre i segnali hanno aumentato l’accuratezza rispetto al controllo, con GroundNews che ha prodotto le valutazioni più elevate. Tuttavia, ChatGPT ha prodotto i maggiori guadagni nella condivisione, suggerendo un impatto più ampio.

Tutti i feedback hanno aumentato la precisione percepita; ma GroundNews è stato più efficace quando si allineava con la politica dell’utente.

ChatGPT ha aumentato le valutazioni di accuratezza in generale, indicando che è stato considerato più neutrale. I conservatori sono stati meno influenzati da GroundNews, ma hanno risposto a ChatGPT in modo simile agli altri gruppi:

Qui possiamo vedere gli effetti del feedback di ChatGPT sulla precisione percepita. I risultati indicano che la fiducia nei segnali istituzionali dipende dall’allineamento, mentre la fiducia nei segnali algoritmici non lo fa. ChatGPT ha aumentato sia la credibilità che la condivisione in tutti i gruppi – specialmente per i conservatori.

I metriche sociali hanno poco impatto

La terza analisi ha testato se i segnali di engagement visibili come like, condivisioni e commenti avrebbero aumentato la credibilità o la condivisione agendo come prova sociale; ma non è stato osservato alcun effetto del genere.

I test hanno scoperto che i livelli di engagement, come i like o le condivisioni, non hanno avuto alcun effetto reale su quanto i titoli sembravano precisi e solo un effetto debole e instabile su quanto fossero condivisibili; a differenza dei segnali algoritmici o istituzionali, questi segnali sociali non sembravano influenzare i giudizi in questo contesto, per le ragioni menzionate in precedenza nel articolo.

Il feedback dell’AI influenza ciò che le persone fidano

Il quarto e ultimo esperimento ha testato se gli utenti avrebbero aggiustato le loro valutazioni di credibilità e condivisione in risposta alle etichette generate dall’AI: preciso; abbastanza preciso; non verificato; o inaccurato, tutti assegnati da ChatGPT.

I partecipanti hanno risposto fortemente alle etichette di credibilità generate dall’AI. Le valutazioni di accuratezza sono aumentate o diminuite in linea con il feedback di ChatGPT, con gli effetti più grandi quando i titoli sono stati etichettati come precisi o inaccurati:

Il feedback di ChatGPT ha influenzato sia le valutazioni di accuratezza che di condivisione. In alto: le valutazioni di accuratezza sono aumentate con etichette più positive, specialmente quando i titoli sono stati etichettati come ‘Precisi’, e sono diminuite quando etichettati come ‘Inaccurati’. In basso: la condivisione ha seguito un modello simile, ma ha mostrato una maggiore variazione per gruppo: i liberali hanno risposto più fortemente ai segnali negativi, mentre i conservatori hanno mostrato cambiamenti più attenuati.

L’identità politica ha plasmato questi effetti, con gli utenti che fidavano di più nel feedback di ChatGPT quando si allineava con le loro opinioni.

Il comportamento di condivisione ha seguito un modello simile: i titoli del gruppo di appartenenza etichettati come precisi sono stati condivisi più spesso, specialmente sotto etichette ambigue come abbastanza preciso.

Questi risultati, sostiene la carta, suggeriscono che il feedback dell’AI possa spostare il comportamento degli utenti; e che rischia anche di rafforzare le divisioni partigiane o di scoraggiare il pensiero critico.

Chi fidano di più nell’AI?

Un’analisi successiva ha esaminato come le demografie degli utenti abbiano plasmato le reazioni alle etichette di credibilità. Il feedback di ChatGPT ha aumentato le valutazioni di accuratezza in generale, ma l’effetto è stato più debole tra gli utenti altamente istruiti e i frequenti consumatori di social media, che hanno mostrato più scetticismo.

Questi stessi gruppi hanno reagito negativamente alle etichette di GroundNews e ai segnali capovolti, suggerendo, secondo la carta, che i segnali di bias espliciti possano allontanare gli utenti più alfabetizzati ai media.

Al contrario, le donne e i partecipanti minoritari razziali, in particolare gli utenti neri e latini, hanno risposto più positivamente al feedback di ChatGPT rispetto ai segnali istituzionali:

Risposte demografiche ai tipi di feedback, con ogni pannello che mostra come un particolare gruppo ha risposto ai diversi segnali di credibilità. Le valutazioni di ChatGPT hanno avuto l’influenza più forte e più coerente sull’accuratezza, mentre gli effetti sulla condivisione sono stati meno uniformi, con variazioni per razza, genere e uso dei media.

Il comportamento di condivisione ha eco questo divario: GroundNews ha ridotto la condivisione più nettamente tra gli utenti dei social media e gli appassionati di notizie, mentre gli effetti di ChatGPT sono stati più misti, addirittura aumentando la condivisione in alcuni gruppi, con i titolari di laurea magistrale particolarmente sensibili a tutti i tipi di feedback.

Gli autori concludono:

‘Questi risultati hanno implicazioni dirette per la progettazione di interventi di credibilità nei sistemi sociotecnici. Gli utenti sono sempre più influenzati dal feedback algoritmico, che può sovrastare i segnali istituzionali e moderare i pregiudizi partigiani – ma rischia anche di promuovere la dipendenza eccessiva.

‘I segnali istituzionali rimangono efficaci per alcuni utenti, ma il loro impatto si riduce in ambienti politicamente polarizzati o a bassa fiducia. Nel frattempo, le metriche di engagement come i like e le condivisioni sono state in gran parte ignorate, suggerendo un valore persuasivo ridotto quando presentate senza contesto sociale.

‘Per supportare una valutazione delle notizie equa e informata, gli interventi guidati dall’AI devono essere trasparenti, esplicativi e progettati per aumentare l’agenzia dell’utente.

‘I lavori futuri dovrebbero esaminare questi meccanismi in contesti più ecologicamente validi, valutare cornici di credibilità dell’AI alternative e sviluppare sistemi adattivi che favoriscano l’engagement critico attraverso pubblici politicamente diversi.’

Conclusione

Considerata la tendenza di tutti i sistemi di intelligenza artificiale generativa attuali a hallucinare e distortare la verità, è forse di qualche preoccupazione che l’adozione su larga scala (anche se si sta un po’ rallentando) di ChatGPT rappresenti anche un enorme salto di fede che le architetture di tali sistemi non possono giustificare né sostenere.

Un problema nel fidarsi della rappresentazione delle notizie dell’AI è la mancanza di sistemi efficaci che possano contestualizzare le fonti di notizie come ‘affiliate politicamente’ o inclini verso un’estremità o l’altra dello spettro politico.

Anche tra le fonti di notizie più rispettabili della quarta estate, la scelta di ciò che e cosa non viene coperto è di per sé una dichiarazione politica. Né ChatGPT né i suoi simili sono attualmente in grado di navigare questi strati di bias interpretativo, e l’argomento stesso invita alla discussione piuttosto che a conclusioni solide.

Un altro problema è che sistemi di questo tipo sono arrivati sulla scena in uno dei periodi più polarizzati e divisivi della storia umana degli ultimi 80 anni, e in un momento in cui la società è più disposta ad ascoltare ‘voci alternative’ – come un intero nuovo genere di tecnologia che viene presentato come un filtro essenziale della verità del mondo, piuttosto che ciò che realmente è: un predittore di probabilità statistiche, alimentato da grandi quantità di informazioni partigiane.

* I dettagli dei quali gli autori hanno reso disponibili online (vedi carta sorgente, fondo di P2, per gli URL). Tuttavia, questi dati richiedono la registrazione per essere visualizzati, e poiché non ho portato oltre la questione in quel momento, non posso confermare che possano essere visualizzati interamente senza pagamento e/o specifici tipi di credenziali.

Pubblicato per la prima volta mercoledì, 5 novembre 2025