Výzkum naznačuje, že ChatGPT má vysokou důvěryhodnost jako poskytovatel zpráv

Nový výzkum naznačuje, že faktické štítky ChatGPT překonávají líbí se, sdílí a dokonce i důvěryhodné zpravodajské značky, pokud jde o formování toho, co lidé věří a chtějí sdílet online.

Nová studie 1 000 lidí zjistila, že když ChatGPT přiděluje důvěryhodnostní skóre politickým zprávám, často mění to, co lidé věří, a zda chtějí sdílet je – bez ohledu na jejich počáteční politické názory. Více tradiční vlivy, jako je počet líbí se nebo sdílení, neměly velký vliv, ale soud AI silně formoval, jak důvěryhodné zprávy vypadají:

Z nové práce, ilustrace toho, jak lidé hodnotí zpravodajský titulek, založený na třech interagujících signálech: zda příběh souhlasí s jejich politickou identitou; jakou měrou se zdá mít na sociálních médiích; a důvěryhodnost signálů poskytnutých institucemi nebo systémy AI. Tyto vlivy kombinují, aby formovaly jak vnímanou přesnost, tak pravděpodobnost sdílení obsahu. Zdroj

Rozsah, v jakém jsou AI souhrny považovány za důvěryhodné zpravodajské zdroje, je možná jedním z nejvýznamnějších témat v médiích za mnoho let, nejméně proto, že AI souhrny Google odčerpaly provoz z většiny hlavních online médií v roce 2025, bez jistoty, kam by tento přenos moci mohl vést v dlouhodobém nebo střednědobém horizontu.

Autoři nové práce uvádějí:

‘Tato zjištění zdůrazňují jak potenciál, tak riziko algoritmického zpětného vazebního signálu při formování veřejného pochopení. AI generované signály mohou pomoci zmírnit předpojatost a zlepšit rozlišení důvěryhodnosti, ale jejich vliv se liší podle politické identity a nese etická rizika související s nadměrnou závislostí […]

‘…Nadměrný vliv ChatGPT zdůrazňuje kritický kompromis: zatímco přesvědčivé, zpětné vazby AI mohou nahradit kritické myšlení, pokud nejsou pečlivě formulovány.’

Autoři navrhují, že budoucí výzkum by se měl zaměřit na zlepšené AI intervenční strategie, které jsou více nezávislé a podporují známé skutečnosti, a poznamenávají, že je to obzvláště důležité v polarizujících tématech.

Kromě zdánlivého vzestupu ChatGPT jako “autority” a neočekávaně nízkého vlivu sdílení signálů v testech (které autoři považují za možná způsobené trochu sterilními testovacími podmínkami) je další zajímavý výsledek z testů výzkumníků související s demografií a pohlavím:

‘Ženy a rasově minoritní účastníci (zejména černí a latinskoameričtí uživatelé) reagovali pozitivněji na zpětnou vazbu založenou na AI než na institucionální štítky.’

Nová práce se nazývá Signály důvěryhodnosti AI překonávají instituce a zapojení v formování vnímání zpráv na sociálních médiích a pochází od tří výzkumníků z University of Notre Dame.

Pojedneme o metodách a závěrech práce.

Metoda

Byly testovány čtyři hypotézy: že lidé budou hodnotit titulky jako přesnější, když tyto titulky odrážejí jejich politické názory; že AI generované důvěryhodnostní skóre budou mít větší vliv než signály zavedených institucí; že titulky s vysokým zapojením (tj. měřeno prostřednictvím líbí se, sdílení nebo komentářů) budou považovány za důvěryhodnější; a že uživatelé budou tendovat k přijetí soudu AI o přesnosti titulku, i když to bude odporovat jejich vlastním názorům.

Účastníci studie byli získáni z Prolific platformy a museli být熟í v angličtině, jakož i pravidelní spotřebitelé zpráv; a proces randomizace zajistil, že účastníci reprezentovali rozmanitost rasových a genderových pohledů.

V experimentu* byli účastníci rozděleni do čtyř skupin, z nichž každá byla ukázána jiný typ zpětné vazby vedle zpravodajských titulků.

V první skupině (kontrolní podmínka) nebyla poskytnuta žádná další informace o tom, jak důvěryhodné titulky mohou být; ve druhé skupině byly titulky označeny ratingem předpojatosti ze GroundNews, služby, která klasifikuje zpravodajské zdroje jako levicové, centristické nebo pravicové.

Třetí skupina viděla stejné štítky GroundNews, ale úmyslně otočené, vytvářející nesoulad určený k testování, zda uživatelé detekují deformaci.

Poslední skupina byla ukázána hodnocení důvěryhodnosti napsaná ChatGPT, nabízející krátké vysvětlení a rating, jako je ‘pravděpodobně nepřesné’:

Konceptuální schéma experimentu: každému účastníkovi byly ukázány politické titulky s různými kombinacemi důvěryhodnostních štítků a sociálních signálů zapojení. Byly shromážděny odpovědi na to, jak přesné každá titulek vypadala, a jak pravděpodobné bylo, že by ji sdíleli, s plnou sekvencí opakovanou napříč 21 položkami.

Data a testy

Každý účastník byl ukázán sekvenci 21 politických zpravodajských titulků. Pro každý titulek byla úroveň sociálního zapojení variabilní; někdy ukazovala žádné líbí se nebo sdílení, jindy mnoho. Tyto signály zapojení byly randomizovány, aby se zabránilo pevným vzorcům.

Titulky samy pocházely z mixu politických perspektiv a byly označeny jako levicově orientované, pravicově orientované nebo centristické.

Po každém titulu byli účastníci požádáni, jak přesné si myslí, že je, a zda by jej chtěli sdílet. Protože každý účastník již uvedl svou vlastní politickou afiliaci, bylo možné analyzovat, zda titulky ze stejné strany politického spektra byly hodnoceny více příznivě.

Účastníci ohodnotili každý titulek dvakrát: jednou pro to, jak přesné si myslí, že je, a jednou pro to, jak pravděpodobné je, že by jej sdíleli, s jejich odpověďmi měřenými na škále 0-10.

Výzkumníci pak kombinovali tyto odpovědi s dalšími daty: demografickými a informacemi o médiích z každého účastníka; politickými štítky pro každý titulek; typem důvěryhodnostního signálu zobrazeného; a úrovní sociálního zapojení přiřazeného.

Vliv politické identity

V prvním testu, který zkoumal, zda lidé hodnotí titulky jako přesnější, když politická stanoviska titulku souhlasí s jejich vlastními názory, výsledky ukazovaly, že účastníci byli více pravděpodobně věřit titulkům, které souhlasí s jejich politickými názory – ale to záviselo na skupině.

Moderáti ukázali nejsilnější předpojatost ve prospěch své vlastní strany, zatímco liberálové a konzervativci tendovali důvěřovat centristickým titulkům nejvíce; a celkově, neutrální titulky byly hodnoceny jako přesnější než levicově nebo pravicově orientované.

Ilustrace toho, jak se hodnocení přesnosti a sdílení změnily v závislosti na politickém stanovisku titulu a účastníkovi politické afiliaci. Moderáti byli nejvíce pravděpodobně ohodnotit ‘vnitřní’ titulky jako přesné, zatímco liberálové a konzervativci favorizovali centristické titulky. Chování sdílení následovalo podobný vzorec, s omezenou vnitřní předpojatostí mimo moderátní skupinu.

V výsledcích tohoto prvního experimentu byla nalezena mírná vnitřní předpojatost ve sdílení; ale pouze pro moderáty, kteří byli více inklinováni sdílet politicky zarovnané (tj. neutrální) titulky. Liberálové a konzervativci ukázali žádnou takovou tendenci.

Analýza rozptylu (ANOVA), metoda používaná k detekci rozdílů mezi skupinami, ukázala, že zarovnání ovlivnilo sdílení pouze tehdy, když interagovalo s politickou identitou. Důvěryhodnost a sdílení byly propojeny, ale pouze moderáti ukázali jasný vzorec napříč oběma.

Institucionální vs. AI důvěryhodnost

Následující test se zeptal, zda lidé důvěřují AI hodnocení více než tradičním zdrojům, jako jsou webové stránky hodnocení zpráv – zejména když hodnocení mohou nesouhlasit s jejich politikou:

Hodnocení důvěryhodnosti a sdílení napříč zdroji zpětné vazby: všechny tři signály zvýšily přesnost ve srovnání s kontrolou, s GroundNews poskytujícími nejvyšší hodnocení. Nicméně, ChatGPT produkoval největší zisky ve sdílení, naznačující širší přesvědčivý dopad. Červené pruhy ukazují 95% intervaly spolehlivosti, a hvězdičky označují významné párové rozdíly.

Všechny zpětné vazby zvýšily vnímanou přesnost; ale GroundNews byl nejúčinnější, když souhlasil s politikou uživatele.

ChatGPT zvýšil hodnocení přesnosti napříč všemi, ukazující, že byl považován za více neutrální. Konzervativci byli méně ovlivněni GroundNews, ale reagovali na ChatGPT podobně jako ostatní skupiny:

Zde můžeme vidět účinky zpětné vazby ChatGPT na vnímanou přesnost. Výsledky ukazují, že důvěra v institucionální signály závisí na zarovnání, zatímco důvěra v algoritmické signály ne. ChatGPT zvýšil obě důvěryhodnost a sdílení napříč všemi skupinami – zejména pro konzervativce.

Sociální metriky mají malý vliv

Třetí analýza testovala, zda viditelné sociální signály zapojení, jako jsou líbí se, sdílení a komentáře, by zvýšily důvěryhodnost nebo sdílení, působením jako sociální důkaz; ale žádný takový účinek nebyl pozorován.

Testy nalezly, že úrovně zapojení, jako je počet líbí se nebo sdílení, neměly žádný skutečný účinek na to, jak přesné titulky vypadaly, a pouze slabý, nespolehlivý účinek na to, jak sdílitelné se cítily; na rozdíl od algoritmických nebo institucionálních signálů, tyto sociální signály se nezdály ovlivňovat úsudky v tomto nastavení, z důvodů uvedených dříve v článku.

AI zpětná vazba ovlivňuje, co lidé důvěřují

Čtvrtý a poslední experiment testoval, zda uživatelé upraví svá hodnocení důvěryhodnosti a sdílení v reakci na AI generovaná štítky: přesné; částečně přesné; neověřené; nebo nepřesné, všechny přiřazeny ChatGPT.

Účastníci reagovali silně na AI generovaná důvěryhodnostní štítky. Hodnocení přesnosti stoupala nebo klesala v souladu se zpětnou vazbou ChatGPT, s největšími účinky, když titulky byly označeny precise nebo nepřesné:

Zpětná vazba ChatGPT ovlivnila obě hodnocení přesnosti a sdílení. Nahoře: Hodnocení přesnosti stoupala s více pozitivními štítky, zejména když titulky byly označeny ‘přesné’, a klesala, když byly označeny ‘nepřesné’. Dole: Sdílení následovalo podobný vzorec, ale ukázalo větší variaci napříč skupinami: liberálové reagovali nejvíce na negativní signály, zatímco konzervativci ukázali více umírněné posuny.

Politická identita formovala tyto účinky, s uživateli, kteří důvěřovali ChatGPT více, když jeho zpětná vazba souhlasila s jejich vlastními názory.

Chování sdílení následovalo podobný vzorec: titulky označené jako ‘přesné’ byly sdíleny nejčastěji, zejména pod ambivalentními štítky, jako je částečně přesné.

Tyto výsledky, podle práce, naznačují, že AI zpětná vazba může měnit chování uživatelů; a že také riskuje posílit stranické rozdíly nebo odrazovat kritické myšlení.

Kdo důvěřuje AI nejvíce?

Následující analýza prozkoumala, jak uživatelské demografie formovaly reakce na důvěryhodnostní štítky. Zpětná vazba ChatGPT zvýšila hodnocení přesnosti celkově, ale účinek byl slabší mezi vysoce vzdělanými uživateli a častými spotřebiteli sociálních médií, kteří ukázali více skepticismu.

Tito stejní skupiny reagovaly negativně na GroundNews a Reversed signály, naznačující, že práce navrhuje, že zjevné předpojaté značky mohou odradit více médiálně gramotné uživatele.

Naproti tomu ženy a rasově minoritní účastníci, zejména černí a latinskoameričtí uživatelé, reagovali pozitivněji na ChatGPT než na institucionální signály:

Demografické reakce na typy zpětné vazby, s každým panelem ukazujícím, jak konkrétní skupina reagovala na různé důvěryhodnostní signály. Hodnocení ChatGPT měla nejsilnější a nejvíce konzistentní vliv na přesnost, zatímco účinky na sdílení byly méně jednotné, s variací napříč rasou, pohlavím a médií.

Chování sdílení odráželo tento rozpor: GroundNews snížilo sdílení nejvíce mezi uživateli sociálních médií a news junkies, zatímco účinky ChatGPT byly více smíšené, dokonce zvyšující sdílení v některých skupinách, s držitelkami vysokoškolského diplomu obzvláště citlivými na všechny typy zpětné vazby.

Autoři uzavírají:

‘Tato zjištění mají přímé důsledky pro návrh intervenčních strategií důvěryhodnosti v sociotechnických systémech. Uživatelé jsou stále více ovlivňováni algoritmickou zpětnou vazbou, která může nahradit institucionální signály a umírněné stranické předpojatosti – ale také riskuje podporovat nadměrnou závislost.

‘Institucionální signály zůstávají účinné pro některé uživatele, ale jejich dopad se snižuje v politicky polarizovaných nebo [nízkodůvěryhodných] prostředích. Mezitím, metriky zapojení, jako je počet líbí se a sdílení, byly z velké části ignorovány, naznačující sníženou přesvědčivou hodnotu, když jsou prezentovány bez sociálního kontextu.

‘Pro podporu spravedlivého a informovaného hodnocení zpráv musí být AI poháněné intervenční strategie transparentní, vysvětlovatelné a navržené tak, aby posílily uživatelskou agenturu.

‘Budoucí práce by měla prozkoumat tyto mechanismy v více ekologicky platných nastaveních, vyhodnotit alternativní rámce důvěryhodnosti AI a vyvinout adaptivní systémy, které podporují kritické zapojení napříč politicky různorodými publikami.’

Závěr

Vzhledem k tendenci všech současných generativních systémů AI hallucinovat a deformovat pravdu, je zřejmě jisté znepokojení, že divoké přijetí (i když je to zpomalující se trochu) ChatGPT také představuje enormní skok víry, že architektury těchto systémů nemohou ospravedlnit ani podpořit.

Jeden problém s důvěřováním AI reprezentaci zpráv je nedostatek účinných systémů, které mohou kontextualizovat zpravodajské zdroje jako ‘politicky afilované’, nebo nakloněné k jedné nebo druhé straně politického spektra.

Dalším problémem je, že systémy tohoto typu přišly na scénu v jednom z nejvíce polarizovaných a rozdělených období lidské historie za 80 let, a v době, kdy společnost je nejvíce ochotná naslouchat ‘alternativním hlasům’ – jako je zcela nový žánr technologie, který je prezentován jako nezbytný filtr pravdy světa, spíše než to, co skutečně je: prediktor statistických pravděpodobností, krmený velkými objemy stranických informací.

* Podrobnosti, které autoři zpřístupnili online (viz zdroj, spodní část P2, pro URL). Nicméně, tato data vyžadují registraci k zobrazení, a jelikož jsem tuto záležitost neřešil dále v daném okamžiku, nemůžu potvrdit, zda lze je zobrazit zcela bezplatně a/nebo s určitými typy pověření.

Poprvé zveřejněno ve středu, 5. listopadu 2025