Badania sugerują, że ChatGPT ma wysoką wiarygodność jako dostawca wiadomości

Nowe badania sugerują, że etykiety sprawdzania faktów ChatGPT są skuteczniejsze niż polubienia, udostępnienia i nawet zaufane marki wiadomości w kształtowaniu tego, co ludzie wierzą i chcą udostępnić w sieci.

Nowe badanie na grupie 1000 osób wykazało, że gdy ChatGPT przydziela ocenę wiarygodności wiadomościom politycznym, często zmienia to, co ludzie wierzą, oraz czy chcą je udostępnić – niezależnie od ich początkowych poglądów politycznych. Bardziej tradycyjne czynniki wpływające, takie jak polubienia lub udostępnienia, nie miały dużego wpływu, ale osąd AI silnie kształtował, jak godne zaufania wydawały się wiadomości:

Z nowego artykułu, ilustracja tego, jak ludzie oceniają nagłówek wiadomości, oparty na trzech wzajemnie powiązanych sygnałach: czy historia jest zgodna z ich tożsamością polityczną; jak dużo zaangażowania wydaje się mieć w mediach społecznościowych; oraz sygnały wiarygodności dostarczane przez instytucje lub systemy AI. Te wpływy łączą się, aby ukształtować zarówno postrzeganą dokładność, jak i prawdopodobieństwo udostępnienia treści. Źródło

Stopień, w jakim podsumowania AI są traktowane jako godne zaufania źródła wiadomości, jest być może jednym z najważniejszych tematów w mediach przez wiele lat, nie tylko dlatego, że podsumowania AI Google’ a odciągnęły ruch od większości głównych serwisów internetowych w 2025 roku, bez pewności, gdzie ten transfer mocy może się udać w długim lub nawet średnim terminie.

Autorzy nowej pracy stwierdzają:

‘Te wyniki podkreślają zarówno potencjał, jak i ryzyko algorytmicznego sprzężenia zwrotnego w kształtowaniu publicznego zrozumienia. Sygnały generowane przez AI mogą pomóc w złagodzeniu uprzedzeń i poprawie oceny wiarygodności, ale ich wpływ różni się w zależności od tożsamości politycznej i niesie ze sobą etyczne ryzyka związane z nadmierną zależnością […]

‘…Nadmierny wpływ ChatGPT podkreśla krytyczną wymianę: chociaż przekonywujący, sprzężenie zwrotne AI może zastąpić myślenie krytyczne, jeśli nie zostanie starannie sformułowane.’

Autorzy sugerują, że przyszłe badania powinny koncentrować się na udoskonalonych interwencjach wiarygodności AI, które są bardziej niezależne i wspierające znanych faktów, oraz zauważają, że jest to szczególnie ważne w tematach, które są spolaryzowane.

Oprócz oczywistego wzrostu ChatGPT jako „autorytetu” oraz nieoczekiwanie niskiego wpływu sygnałów udostępniania w testach (które autorzy uważają za przypisywalne nieco sterylnym warunkom testowym), kolejny interesujący wynik z badań dotyczy demografii i płci:

‘Kobiety i mniejszości rasowe (szczególnie czarni i Latynosi) reagowały bardziej pozytywnie na opinie oparte na AI niż na etykiety instytucjonalne.’

Nowa praca tytuł to Sygnały wiarygodności AI przewyższają instytucje i zaangażowanie w kształtowaniu percepcji wiadomości w mediach społecznościowych, i pochodzi od trzech badaczy z Uniwersytetu Notre Dame.

Zobaczmy bliżej metody i wnioski z tego artykułu.

Metoda

Zbadano cztery hipotezy: że ludzie oceniają nagłówki jako bardziej dokładne, gdy odzwierciedlają ich poglądy polityczne; że oceny wiarygodności generowane przez AI są bardziej wpływowe niż sygnały od uznanych instytucji; że nagłówki z wysokim zaangażowaniem (tj. mierzone za pomocą polubień, udostępnień lub komentarzy) są postrzegane jako bardziej godne zaufania; oraz że użytkownicy skłonni są zaakceptować osąd AI co do dokładności nagłówka, nawet gdy jest to sprzeczne z ich własnymi przekonaniami.

Uczestnicy badania zostali pozyskani z platformy Prolific, i musieli być biegle znający język angielski, a także regularnymi konsumentami wiadomości; i proces losowania zapewnił, że uczestnicy reprezentowali różnorodność rasowych i płciowych punktów widzenia.

W eksperymencie* uczestnicy zostali podzieleni na cztery grupy, z których każda została pokazana inny typ informacji obok nagłówków wiadomości.

W pierwszej grupie (warunku kontrolnym) nie podano żadnych dodatkowych informacji o wiarygodności nagłówka; w drugiej grupie nagłówki zostały oznaczone oceną biasu z GroundNews, usługi, która klasyfikuje źródła wiadomości jako lewicowe, centrowe lub prawicowe.

Trzecia grupa zobaczyła te same etykiety GroundNews, ale celowo odwrócone, tworząc niezgodność mającą na celu przetestowanie, czy użytkownicy wykryją deformację.

Ostateczna grupa została pokazana ocenom wiarygodności napisanym przez ChatGPT, oferującym krótkie wyjaśnienie i ocenę, taką jak ‘prawdopodobnie niedokładne’:

Schemat koncepcyjny eksperymentu: każdy uczestnik został pokazany nagłówki polityczne z różnymi kombinacjami etykiet wiarygodności i sygnałów zaangażowania społecznego. Zapisano odpowiedzi na to, jak dokładne wydawały się nagłówki i jak prawdopodobne było ich udostępnienie, z pełną sekwencją powtórzoną dla 21 pozycji.

Dane i testy

Każdy uczestnik został pokazany sekwencję 21 nagłówków wiadomości politycznych. Dla każdego nagłówka poziom zaangażowania społecznego został zmieniony; czasami nie wykazywał żadnych polubień ani udostępnień, czasami wielu. Te sygnały zaangażowania zostały zlosowane, aby uniknąć stałych wzorców.

Nagłówki same pochodziły z mieszanki perspektyw politycznych i zostały oznaczone jako lewicowe, prawicowe lub centrowe.

Po każdym nagłówku uczestnicy zostali poproszeni o ocenę, jak dokładne wydawały się im te nagłówki, oraz czy chcieliby je udostępnić. Ponieważ każdy uczestnik już wcześniej podał swoje przynależność polityczną, było możliwe przeanalizowanie, czy nagłówki z tej samej strony spektrum politycznego były oceniane bardziej korzystnie.

Uczestnicy oceniali każdy nagłówek dwa razy: raz pod kątem dokładności, a raz pod kątem udostępnienia, z odpowiedziami mierzone na skali 0-10.

Następnie badacze połączyli te odpowiedzi z dodatkowymi danymi: informacjami demograficznymi i medialnymi od każdego uczestnika; tagami politycznymi dla każdego nagłówka; typem sygnału wiarygodności wyświetlanego; oraz poziomem zaangażowania społecznego przydzielonym.

Wpływ tożsamości politycznej

W pierwszym teście, który badał, czy ludzie oceniają nagłówki jako bardziej dokładne, gdy ich stanowisko polityczne jest zgodne z ich własnymi poglądami, wyniki wskazały, że uczestnicy byli bardziej skłonni wierzyć nagłówkom, które odzwierciedlały ich poglądy polityczne – ale że zależało to od grupy.

Umiarkowani wykazali najmocniejszy bias w kierunku swojej własnej strony, podczas gdy liberałowie i konserwatyści tendencję do ufania nagłówkom centrowym najbardziej; i ogólnie, nagłówki neutralne były oceniane jako bardziej dokładne niż lewicowe lub prawicowe.

Ilustracja tego, jak oceny dokładności i udostępnienia zmieniały się w zależności od stanowiska politycznego nagłówka i przynależności politycznej uczestnika. Umiarkowani byli najbardziej skłonni oceniać nagłówki ‘własnej grupy’ jako dokładne, podczas gdy liberałowie i konserwatyści faworyzowali nagłówki centrowe. Zachowanie udostępniania podążało za podobnym wzorcem, z ograniczonym biasem wewnątrzgrupowym poza grupą umiarkowaną.

W wynikach tego pierwszego eksperymentu stwierdzono umiarkowany efekt wewnątrzgrupowy na udostępnianie; ale tylko w przypadku umiarkowanych, którzy byli bardziej skłonni udostępnić nagłówki politycznie zgodne (tj. neutralne). Liberałowie i konserwatyści nie wykazali takiej tendencji.

Analiza wariancji (ANOVA), metoda używana do wykrywania różnic między grupami, wykazała, że zgodność wpłynęła na udostępnianie tylko wtedy, gdy wchodziła w interakcję z tożsamością polityczną. Wiarygodność i udostępnianie były powiązane, ale tylko umiarkowani wykazali wyraźny wzorzec w obu przypadkach.

Wiarygodność instytucjonalna a AI

Następny test sprawdził, czy ludzie ufają ocenom AI bardziej niż tradycyjnym źródłom, takim jak strony oceny wiadomości – szczególnie gdy oceny mogą się nie zgadzać z ich polityką:

Oceny wiarygodności i udostępnienia w zależności od źródła informacji: wszystkie trzy sygnały zwiększyły dokładność w porównaniu z kontrolą, z GroundNews dając najwyższe oceny. Jednak ChatGPT wygenerował największe zyski w udostępnieniu, co sugeruje, że miał szerszy wpływ perswazyjny. Paski błędu pokazują 95% przedział ufności, i gwiazdki oznaczają istotne różnice parami.

Wszystkie informacje zwrotne zwiększyły postrzeganą dokładność; ale GroundNews był najbardziej skuteczny, gdy zgadzał się z polityką użytkownika.

ChatGPT zwiększył oceny dokładności we wszystkich przypadkach, co wskazuje, że był postrzegany jako bardziej neutralny. Konserwatyści byli mniej podatni na GroundNews, ale reagowali na ChatGPT podobnie jak inne grupy:

Widoczne są tu efekty informacji zwrotnej ChatGPT na postrzeganą dokładność. Wyniki potwierdzają, że zaufanie do sygnałów instytucjonalnych zależy od zgodności, podczas gdy zaufanie do sygnałów algorytmicznych nie. ChatGPT zwiększył zarówno wiarygodność, jak i udostępnianie we wszystkich grupach – szczególnie wśród konserwatystów.

Sygnalizacja społeczna ma niewielki wpływ

Trzecia analiza sprawdziła, czy widoczne sygnalizacje zaangażowania społecznego, takie jak polubienia, udostępnienia i komentarze, zwiększyłyby wiarygodność lub udostępnianie, działając jako dowód społeczny; ale nie zaobserwowano takiego efektu.

Testy wykazały, że poziomy zaangażowania, takie jak polubienia lub udostępnienia, nie miały realnego wpływu na to, jak dokładne wydawały się nagłówki, i tylko słaby, niepewny wpływ na to, jak udostępnialne wydawały się; w przeciwieństwie do sygnałów algorytmicznych lub instytucjonalnych, te sygnalizacje społeczne nie wydawały się wpływać na osądy w tym kontekście, z powodów wymienionych wcześniej w artykule.

Informacje zwrotne AI wpływają na to, co ludzie ufają

Czwarty i ostatni eksperyment sprawdził, czy użytkownicy dostosują swoje osądy wiarygodności i udostępniania w odpowiedzi na etykiety generowane przez AI:

Uczestnicy silnie zareagowali na etykiety wiarygodności generowane przez AI. Oceny dokładności rosły lub spadały w zależności od informacji zwrotnej ChatGPT, z największymi efektami, gdy nagłówki były oznaczone jako dokładne lub niedokładne:

Informacje zwrotne ChatGPT wpłynęły na oceny dokładności i udostępnienia. Góra: Oceny dokładności rosły wraz z bardziej pozytywnymi etykietami, szczególnie gdy nagłówki były oznaczone jako ‘dokładne’, i spadały, gdy były oznaczone jako ‘niedokładne’. Dół: Udostępnianie podążało za podobnym wzorcem, ale wykazywało większą zmienność w zależności od grupy: liberałowie reagowali najsilniej na negatywne sygnały, podczas gdy konserwatyści wykazywali bardziej stonowane przesunięcia.

Tożsamość polityczna kształtowała te efekty, z użytkownikami ufającymi ChatGPT bardziej, gdy jego informacje zwrotne zgadzały się z ich własnymi poglądami.

Zachowanie udostępniania podążało za podobnym wzorcem: nagłówki własnej grupy oznaczone jako dokładne były udostępniane najczęściej, szczególnie pod niejasnymi etykietami, takimi jak somewhat accurate.

Te wyniki, jak stwierdza artykuł, sugerują, że informacje zwrotne AI mogą zmieniać zachowanie użytkowników; i że również ryzykują wzmocnienie podziałów partyjnych lub zniechęcenie do myślenia krytycznego.

Kto najbardziej ufa AI?

Dalsza analiza sprawdziła, jak demografia użytkowników kształtowała ich reakcje na etykiety wiarygodności. Informacje zwrotne ChatGPT zwiększyły oceny dokładności ogólnie, ale efekt ten był słabszy wśród użytkowników wykształconych i często korzystających z mediów społecznościowych, którzy wykazywali więcej sceptycyzmu.

Te same grupy reagowały negatywnie na GroundNews i odwrócone sygnały, co, jak sugeruje artykuł, może wskazywać, że jawne markery uprzedzeń mogą zrazić użytkowników bardziej medialnych.

Natomiast kobiety i mniejszości rasowe, szczególnie czarne i latynoskie użytkowniczki, reagowały bardziej pozytywnie na ChatGPT niż na sygnały instytucjonalne:

Odpowiedzi demograficzne na typy informacji zwrotnej, z każdą sekcją pokazującą, jak konkretna grupa reagowała na różne sygnały wiarygodności. Oceny ChatGPT miały najmocniejszy i najbardziej spójny wpływ na dokładność, podczas gdy efekty na udostępnianie były mniej jednolite, z wahaniem w zależności od rasy, płci i użytkowania mediów.

Zachowanie udostępniania odzwierciedlało ten podział: GroundNews najbardziej zmniejszał udostępnianie wśród użytkowników mediów społecznościowych i miłośników wiadomości, podczas gdy efekty ChatGPT były bardziej mieszane, nawet zwiększając udostępnianie w niektórych grupach, z posiadaczami tytułów magisterskich szczególnie wrażliwymi na wszystkie typy informacji zwrotnej.

Autorzy kończą:

‘Te wyniki mają bezpośrednie implikacje dla projektowania interwencji wiarygodności w systemach socjotechnicznych. Użytkownicy są coraz bardziej wpływani przez informacje zwrotne AI, które mogą zastąpić sygnały instytucjonalne i umiarkować partyjne uprzedzenia – ale również ryzykują promowanie nadmiernej zależności.

‘Sygnały instytucjonalne pozostają skuteczne dla niektórych użytkowników, ale ich wpływ maleje w środowiskach spolaryzowanych lub o niskim zaufaniu. Tymczasem wskaźniki zaangażowania, takie jak polubienia i udostępnienia, były w dużej mierze ignorowane, co sugeruje zmniejszoną wartość perswazyjną, gdy są prezentowane bez kontekstu społecznego.

‘Aby wspierać równy i poinformowany wybór wiadomości, interwencje napędzane przez AI muszą być przejrzyste, wyjaśniające i zaprojektowane tak, aby wzmacniać agencyjność użytkownika.

‘Przyszłe badania powinny badać te mechanizmy w bardziej ekologicznie ważnych ustawieniach, oceniać alternatywne ramy wiarygodności AI i rozwijać adaptacyjne systemy, które promują zaangażowanie krytyczne wśród politycznie zróżnicowanych publiczności.’

Wnioski

Uwzględniając tendencję wszystkich obecnych systemów AI do halucynacji i zniekształcania prawdy, jest to może trochę niepokojące, że gwałtowne przyjęcie ChatGPT (nawet jeśli spowalnia trochę) reprezentuje ogromny skok wiary, że architektury takich systemów nie mogą uzasadnić ani wesprzeć.

Jednym z problemów z ufaniem reprezentacji wiadomości AI jest brak skutecznych systemów, które mogą kontekstualizować źródła wiadomości jako ‘związane politycznie’ lub nachylone ku jednej lub drugiej stronie spektrum politycznego.

Nawet wśród najbardziej renomowanych źródeł czwartej władzy wybór tego, co jest pokazywane, a co nie, jest sam w sobie oświadczeniem politycznym. Ani ChatGPT, ani jego odpowiedniki nie są obecnie w stanie nawigować te warstwy interpretacyjnych uprzedzeń, a sam temat zaprasza do dyskusji raczej niż do solidnych wniosków.

Kolejnym problemem jest to, że systemy tego rodzaju pojawiły się w jednym z najbardziej spolaryzowanych i podzielonych okresów w historii ludzkości w ciągu 80 lat, i w czasie, gdy społeczeństwo jest najbardziej skłonne słuchać ‘alternatywnych głosów’ – takich jak nowy rodzaj technologii, który jest promowany jako niezbędny filtr prawdy świata, zamiast tego, czym naprawdę jest: predyktorem prawdopodobieństwa statystycznego, zasilanym dużymi ilościami informacji o charakterze partyjnym.

* Szczegóły, których autorzy udostępnili online (zobacz artykuł źródłowy, dół strony 2, dla adresów URL). Jednak te dane wymagają rejestracji do wyświetlenia, a ponieważ nie kontynuowałem tej sprawy w tym momencie, nie mogę potwierdzić, że można je wyświetlić w całości bez opłat i/lub określonych typów poświadczeń.

Pierwotnie opublikowane w środę, 5 listopada 2025