Cercetările sugerează că ChatGPT are o credibilitate ridicată ca furnizor de știri

Noi cercetări sugerează că etichetele de verificare a faptelor ChatGPT depășesc like-urile, distribuirile și chiar brandurile de știri de încredere atunci când vine vorba de modelarea a ceea ce oamenii cred și vor să împărtășească online.

Un nou studiu efectuat pe 1.000 de persoane a constatat că atunci când ChatGPT oferă un scor de credibilitate pentru știrile politice, acesta adesea schimbă ceea ce oamenii cred și dacă vor să le împărtășească – indiferent de opiniile politice inițiale. Factorii de influență mai tradiționali, cum ar fi like-urile sau distribuirile, nu au avut un efect semnificativ, dar judecata AI-ului a modelat puternic în ce măsură știrile păreau de încredere:

Din noua lucrare, o ilustrare a modului în care oamenii evaluează un titlu de știri, pe baza a trei semnale interacționate: dacă povestea se aliniază cu identitatea lor politică; cât de multă implicare pare să aibă pe rețelele sociale; și semnalele de credibilitate oferite de instituții sau sisteme AI. Aceste influențe combină pentru a modela atât acuratețea percepută, cât și probabilitatea de a împărtăși conținutul. Sursă

Măsura în care rezumatele AI sunt luate ca surse de știri credibile este poate unul dintre cele mai importante subiecte din mass-media de mulți ani, nu în ultimul rând pentru că rezumatele AI ale Google au drenat traficul de la majoritatea marilor publicații online în 2025, fără nicio certitudine unde s-ar putea îndrepta acest transfer de putere pe termen lung sau chiar mediu.

Autorii noii lucrări afirmă:

‘Aceste constatări subliniază atât potențialul, cât și riscul feedback-ului algoritmic în modelarea înțelegerii publice. Semnalele generate de AI pot ajuta la mitigarea prejudecăților și la îmbunătățirea discernământului credibilității, dar influența lor variază în funcție de identitatea politică și prezintă riscuri etice legate de dependența excesivă […]

‘…Influența deosebită a ChatGPT subliniază un compromis critic: în timp ce este convingător, feedback-ul AI poate înlocui gândirea critică, dacă nu este formulat cu atenție.’

Autorii sugerează că cercetările viitoare ar trebui să se concentreze pe intervenții de credibilitate AI îmbunătățite, care să fie mai independente și mai susținătoare pentru fapte cunoscute, și observă că acest lucru este deosebit de important în subiecte polarizante.

Pe lângă ascendența aparentă a ChatGPT ca “autoritate” și influența neașteptat de scăzută a semnalelor de distribuire în testele (pe care autorii le consideră a fi atribuibile condițiilor de testare ușor sterile), o altă rezultat interesant din testele cercetătorilor se referă la demografie și gen:

Femeile și participanții minoritari rasiali (în special utilizatorii negri și latini) au răspuns mai pozitiv la feedback-ul bazat pe AI decât la etichetele instituționale.’

Noua lucrare, intitulată Semnalele de credibilitate AI depășesc instituțiile și implicarea în modelarea percepției știrilor pe rețelele sociale, provine de la trei cercetători de la Universitatea Notre Dame.

Să examinăm mai îndeaproape metodele și concluziile lucrării.

Metodă

Au fost testate patru ipoteze: că oamenii vor evalua titlurile ca fiind mai precise atunci când acestea reflectă opiniile lor politice; că scorurile de credibilitate generate de AI vor fi mai influente decât semnalele de la instituții stabilite; că titlurile cu o implicare ridicată (adică, măsurată prin like-uri, distribuiri sau comentarii) vor fi considerate mai de încredere; și că utilizatorii vor tendența să accepte judecata AI-ului despre acuratețea unui titlu, chiar și atunci când este în contradicție cu propriile lor convingeri.

Participanții la studiu au fost selectați de pe platforma Prolific și trebuiau să fie fluenti în limba engleză, precum și consumatori regulati de știri; și un proces de randomizare a asigurat că participanții reprezentau o diversitate de perspective rasiale și de gen.

În experiment*, participanții au fost împărțiți în patru grupuri, fiecare fiind prezentat cu un tip diferit de feedback alături de titlurile de știri.

În primul grup (condiția de control), nu s-a oferit nicio informație suplimentară despre cât de credibil ar putea fi titlul;

În al doilea grup, titlurile au fost etichetate cu o notă de bias de la GroundNews, un serviciu care clasifică sursele de știri ca fiind de stânga, centru sau dreapta;

Un al treilea grup a văzut aceleași etichete GroundNews, dar intenționat răsturnate, creând un decalaj menit să testeze dacă utilizatorii vor detecta distorsionarea;

Ultimul grup a fost prezentat cu evaluări de credibilitate scrise de ChatGPT, oferind o scurtă explicație și un rating, cum ar fi ‘probabil inexact’:

Schemă conceptuală pentru experiment: fiecare participant a fost prezentat cu titluri de știri politice cu diverse combinații de etichete de credibilitate și semnale de implicare socială. Răspunsurile au fost colectate cu privire la cât de precis părea fiecare titlu și cât de probabil era să fie distribuit, cu secvența completă repetată pe 21 de articole.

Date și teste

Fiecare participant a fost prezentat cu o secvență de 21 de titluri de știri politice. Pentru fiecare titlu, nivelul de implicare socială a fost variat; uneori a arătat fără like-uri sau distribuiri, alteori multe. Aceste semnale de implicare au fost randomizate pentru a evita modele fixe.

Titlurile însele proveneau dintr-un amestec de perspective politice și au fost etichetate ca de stânga, de dreapta sau centrist.

După fiecare titlu, participanților li s-a cerut să spună cât de precis credeau că este și dacă ar dori să îl distribuie. Deoarece fiecare participant și-a declarat deja afilierea politică, a fost posibil să se analizeze dacă titlurile din aceeași parte a spectrului politic au fost evaluate mai favorabil.

Participanții au evaluat fiecare titlu de două ori: o dată pentru cât de precis părea și o dată pentru cât de probabil era să îl distribuie, cu răspunsurile măsurate pe o scară de la 0 la 10.

Cercetătorii au combinat apoi aceste răspunsuri cu date suplimentare: informații demografice și despre utilizarea mass-media de la fiecare participant; etichete politice pentru fiecare titlu; tipul de semnal de credibilitate prezentat; și nivelul de implicare socială atribuit.

Influența identității politice

În primul test, care a examinat dacă oamenii evaluează titlurile ca fiind mai precise atunci când poziția politică a titlului se potrivește cu propriile lor opinii, rezultatele au indicat că participanții au fost mai predispuși să creadă titlurile care se potriveau cu opiniile lor – dar că acest lucru a depins de grup.

Moderații au arătat cea mai puternică prejudecată în favoarea propriei părți, în timp ce liberalii și conservatorii au tendența să încredințeze titlurile centriste cel mai mult; și, în general, titlurile neutre au fost evaluate ca fiind mai precise decât cele de stânga sau de dreapta.

O ilustrare a modului în care evaluările de acuratețe și distribuire au variat în funcție de poziția politică a titlului și de afilierea politică a participantului. Moderații au fost cei mai predispuși să evalueze titlurile ‘din grup’ ca fiind precise, în timp ce liberalii și conservatorii au favorizat titlurile centriste. Comportamentul de distribuire a urmat un model similar, cu o prejudecată limitată în favoarea grupului, în afara grupului moderaților.

În rezultatele acestui prim experiment, s-a constatat o prejudecată modestă în favoarea grupului în ceea ce privește distribuirea; dar numai pentru moderați, care au fost mai predispuși să distribuie titluri aliniate politic (adică, neutre). Liberalii și conservatorii nu au arătat o astfel de tendință.

Analiza varianței (ANOVA), o metodă utilizată pentru a detecta diferențele între grupuri, a arătat că alinierea a afectat distribuirea numai atunci când a interacționat cu identitatea politică. Credibilitatea și distribuirea au fost legate, dar numai moderații au arătat un model clar pe ambele.

Credibilitatea instituțională versus cea a IA

Următorul test a examinat dacă oamenii au mai multă încredere în evaluările de credibilitate ale IA decât în sursele tradiționale, cum ar fi site-urile de evaluare a știrilor – în special atunci când evaluările ar putea fi în contradicție cu opiniile lor politice:

Evaluări de credibilitate și distribuire pe surse de feedback: toate trei semnalele au crescut acuratețea în comparație cu controlul, GroundNews obținând cele mai ridicate evaluări. Cu toate acestea, ChatGPT a produs cele mai mari câștiguri în ceea ce privește distribuirea, sugerând un impact mai larg asupra convingerii. Barele de eroare arată intervale de încredere de 95%, iar asteriscurile marchează diferențe semnificative între perechi.

Toate feedback-urile au crescut percepția acurateței; dar GroundNews a fost cel mai eficient atunci când s-a aliniat cu politica utilizatorului.

ChatGPT a ridicat evaluările de acuratețe în general, indicând faptul că a fost considerat mai neutru. Conservatorii au fost mai puțin influențați de GroundNews, dar au răspuns la ChatGPT în mod similar cu celelalte grupuri:

Aici putem vedea efectele feedback-ului ChatGPT asupra percepției acurateței. Rezultatele confirmă faptul că încrederea în semnalele instituționale depinde de aliniere, în timp ce încrederea în semnalele algoritmului nu depinde. ChatGPT a îmbunătățit atât credibilitatea, cât și distribuirea în toate grupurile, în special pentru conservatori.

Metricile sociale au un impact mic

A treia analiză a testat dacă semnalele de implicare socială vizibile, cum ar fi like-urile, distribuirile și comentariile, ar putea crește credibilitatea sau distribuirea prin acțiunea de dovadă socială; dar nu s-a observat niciun astfel de efect.

Testele au arătat că nivelurile de implicare, cum ar fi like-urile sau distribuirile, nu au avut niciun efect semnificativ asupra acurateței percepute a titlurilor și numai un efect slab și nesigur asupra distribuirii; în contrast cu semnalele instituționale sau algoritmului, aceste semnale sociale nu au părut să influențeze judecățile în acest context, din motivele menționate anterior în articol.

Feedback-ul IA influențează ceea ce oamenii cred

Ultimul test a examinat dacă utilizatorii ar ajusta evaluările de credibilitate și distribuire în funcție de etichetele generate de IA:

Participanții au răspuns puternic la etichetele de credibilitate generate de IA. Evaluările de acuratețe au crescut sau scăzut în funcție de feedback-ul ChatGPT, cu cele mai mari efecte observate atunci când titlurile au fost etichetate ca exacte sau inexacte:

Feedback-ul ChatGPT a influențat atât evaluările de acuratețe, cât și de distribuire. Sus: evaluările de acuratețe au crescut odată cu etichetele mai pozitive, în special atunci când titlurile au fost marcate ‘Exact’, și au scăzut atunci când au fost etichetate ‘Inexact’. Jos: distribuirea a urmat un model similar, dar a prezentat o variație mai mare între grupuri: liberalii au răspuns mai puternic la cue-urile negative, în timp ce conservatorii au arătat schimbări mai moderate.

Identitatea politică a modelat aceste efecte, cu utilizatorii care au încredere mai mult în ChatGPT atunci când feedback-ul său se alinia cu propriile lor opinii.

Comportamentul de distribuire a urmat un model similar: titlurile din grup, etichetate ca fiind exacte, au fost distribuite cel mai frecvent, în special sub etichete ambigue, cum ar fi somewhat accurate.

Aceste rezultate, conform lucrării, sugerează că feedback-ul IA poate schimba comportamentul utilizatorilor; și că, de asemenea, prezintă riscul de a întări diviziunile partizane sau de a descuraja gândirea critică.

Cine are cea mai mare încredere în IA?

Analiza ulterioară a examinat modul în care demografia utilizatorilor a influențat reacțiile la etichetele de credibilitate. Feedback-ul ChatGPT a ridicat evaluările de acuratețe în general, dar efectul a fost mai slab printre utilizatorii cu nivel de educație ridicat și consumatori frecvenți de mass-media, care au arătat mai multă scepticism.

Aceiași grupuri au reacționat negativ la GroundNews și la etichetele răsturnate, sugerând, conform lucrării, că markerii de prejudecată evidentă pot aliena utilizatorii mai avansați în mass-media.

În schimb, femeile și participanții minoritari rasiali, în special utilizatorii negri și latini, au răspuns mai pozitiv la ChatGPT decât la semnalele instituționale:

Răspunsuri demografice la tipurile de feedback, cu fiecare panou arătând cum a răspuns un anumit grup la diferite semnale de credibilitate. Evaluările ChatGPT au avut cea mai puternică și mai consistentă influență asupra acurateței, în timp ce efectele asupra distribuirii au fost mai neuniforme, cu variații în funcție de rasă, gen și utilizarea mass-media.

Comportamentul de distribuire a reflectat această diviziune: GroundNews a redus distribuirea cel mai puternic printre utilizatorii de mass-media și pasionații de știri, în timp ce efectele ChatGPT au fost mai mixte, chiar și crescând distribuirea în unele grupuri, cu deținătorii de diplome universitare fiind deosebit de receptivi la toate tipurile de feedback.

Autorii concluzionează:

Aceste constatări au implicații directe pentru proiectarea intervențiilor de credibilitate în sistemele sociotehnice. Utilizatorii sunt din ce în ce mai influențați de feedback-ul algoritmic, care poate suplini semnalele instituționale și modera prejudecățile partizane – dar prezintă și riscul de a promova dependența excesivă.

‘Semnalele instituționale rămân eficiente pentru unii utilizatori, dar impactul lor scade în medii polarizate sau cu nivel scăzut de încredere. Între timp, metricile de implicare, cum ar fi like-urile și distribuirile, au fost în mare măsură ignorate, sugerând o valoare persuasivă redusă atunci când sunt prezentate fără context social.

‘Pentru a sprijini o evaluare echitabilă și informată a știrilor, intervențiile conduse de IA trebuie să fie transparente, explicative și proiectate pentru a îmbunătăți agenția utilizatorului.

‘Lucrările viitoare ar trebui să examineze aceste mecanisme în medii mai ecologice, să evalueze cadrul alternativ de credibilitate IA și să dezvolte sisteme adaptive care să promoveze implicarea critică în rândul audiențelor politice diverse.’

Concluzie

Având în vedere tendința tuturor sistemelor actuale de inteligență artificială generativă de a halucina și de a distorsiona adevărul, este de îngrijorare faptul că adoptarea pe scară largă a ChatGPT (chiar dacă încetinește puțin) reprezintă un salt imens de încredere că arhitecturile acestor sisteme nu pot justifica sau susține.

Unul dintre problemele încrederii în reprezentarea știrilor de către IA este lipsa sistemelor eficiente care pot contextualiza sursele de știri ca fiind ‘afiliate politic’, sau îndreptate spre unul sau altul din capetele spectrului politic.

Chiar și printre cele mai reputate surse de presă, alegerea a ceea ce și ce nu este acoperit este în sine o declarație politică. Nici ChatGPT, nici omologii săi nu sunt în prezent în măsură să navigheze aceste straturi de prejudecăți interpretative, iar subiectul în sine invită la discuție, mai degrabă decât la concluzii solide.

Altă problemă este că sisteme de acest tip au apărut pe scena într-unul dintre cele mai polarizate și divisive perioade din istoria omenirii din ultimii 80 de ani, și într-un moment în care societatea este mai dispusă să asculte ‘voci alternative’ – cum ar fi un întreg gen de tehnologie care este promovat ca un filtru esențial al adevărului lumii, mai degrabă decât ceea ce este în realitate: un predictor de probabilități statistice, alimentat de volume mari de informații partizane.

* Detalii despre care autorii le-au făcut disponibile online (a se vedea lucrarea sursă, partea de jos a paginii 2, pentru URL-uri). Cu toate acestea, aceste date necesită înregistrare pentru a fi vizualizate, și deoarece nu am continuat să investighez la acel moment, nu pot confirma că pot fi vizualizate în întregime fără plată și/sau anumite tipuri de credențiale.

Publicat pentru prima dată miercuri, 5 noiembrie 2025