Efektowne wykresy mogą sprawić, że nawet “złe” badania wydadzą się godne zaufania

Naukowcy odkryli, że stosowanie skomplikowanych i efektownych wykresów może sprawić, że ludzie zaufają podejrzanym decyzjom sztucznej inteligencji, nawet jeśli są one wyraźnie niesprawiedliwe.

Mimo że praktyka ‘zawracania głowy nauką’ znacznie poprzedza obecny wiek sztucznej inteligencji, można powiedzieć, że jest ona doskonalona w tym okresie – nie tylko ze względu na niedawny wzrost zgłoszeń prac naukowych, co sprawiło, że stosunek sygnału do szumu jest niekorzystny, a “tanie sztuczki” są prawdopodobnie częstsze.

Zgodnie ze starym powiedzeniem ‘kłamstwa, potworne kłamstwa i statystyka‘, centralnym narzędziem używanym do oszukiwania czy wprowadzania w błąd czytelników, przy prezentowaniu nowych systemów i dowodów naukowych, które wyjaśniają lub uzasadniają twierdzenia na ich temat, są wykresy i wizualizacje danych.

W badaniu z 2019 roku badacze obserwowali efekt wykresów na uczestnikach w ruralnej Pensylwanii:

‘Ludzie, którzy byli dotknięci przez nadużycia lub uzależnienia, byli przyciągani przez wykresy, które przedstawiały te substancje. Ludzie często oceniali jakość wykresu zawierającego informacje geograficzne na podstawie tego, jak łatwo było znaleźć ich stan.

‘Inni ludzie cenili wykresy nie na podstawie własnego zrozumienia, ale na podstawie percepcyjnej skuteczności w komunikowaniu się z innymi ludźmi.

‘Wreszcie, jeden z uczestników zasugerował, że zwróciłby większą uwagę na wizualizacje z lokalnych źródeł informacji niż z ogólnokrajowych.’

Niektóre z wykresów pokazanych mieszkańcom ruralnej Pensylwanii w badaniu z 2019 roku. Źródło

Hipnotyzujący efekt wykresów danych staje się szczególnie istotny w nowej erze sztucznej inteligencji, gdzie zaufanie jest kluczowe dla utrzymania gospodarki opartej na sztucznej inteligencji (i, można powiedzieć, opóźnienia kryzysu).

Współpraca amerykańsko-brytyjska z 2024 roku przedstawiła pojęcie Trust Junk: wizualizacji XAI ‘która nie ma żadnego znaczącego związku z podstawowym modelem lub danymi [i] jest używana do zwiększenia zaufania’:

Z pracy ‘Trust Junk and Evil Knobs: Calibrating Trust in AI Visualization’, przykład danych, które są wykorzystywane do służenia wcześniej określonemu celowi (po prawej), zamiast być wyświetlane w sposób jawny (po lewej). Tego rodzaju podejście ‘zachęca do nadmiernego zaufania i przytłacza użytkownika, jednocześnie zapewniając iluzję kontroli’, według pracy. Źródło

Szybkie badanie

Od czasu gdy pojęcie Trust Junk zostało wprowadzone, nie zostało ono jeszcze przetestowane – co zostało naprawione przez nową pracę z USA, w której uczestnicy zostali zaprezentowani wynikami rzekomego badania sztucznej inteligencji, dotyczącego tego, który z kandydatów ma największe szanse na zdanie egzaminu prawniczego w USA.

Jeśli się dokładnie przyjrzeć, można zauważyć, że kryteria wyboru to a) wszyscy czarni mężczyźni i b) wszyscy inni – z przewidywaniem, że wszyscy czarni mężczyźni nie zdadzą egzaminu:

Z nowej pracy: anotowany bodziec użyty w eksperymentach autorów, pokazujący decyzję modelu (C) o tym, czy kandydat (B) zda egzamin, wraz z komponentami wyjaśniającymi, które funkcjonują jako ‘trust junk’ (A, D, E, F). Model jest dyskryminujący, ale coraz więcej nieistotnych informacji wyjaśniających powoduje, że uczestnicy zgadzają się bardziej z jego wynikami i uważają go za sprawiedliwy. Źródło

Większość uczestników zgodziła się z przewidywaniami modelu i oceniła go jako uczciwy i godny zaufania, przy czym zgoda, zaufanie i postrzegana uczciwość rosły wraz ze wzrostem liczby nieistotnych wykresów i szczegółów – nawet wtedy, gdy mniej osób zauważyło oczywistą i jawny rasistowski bias.

Niektórzy użytkownicy sprzeciwiali się badaniu, ale nie z powodów związanych z głównym problemem:

‘Zauważyliśmy 19 przypadków, w których uczestnicy opisali nasz model jako uczciwy (np. [uczestnik] powiedział: „Jest uczciwy, ponieważ nie ma żadnych rasowych lub płciowych uprzedzeń.”). Uczestnicy okazjonalnie wyrazili niepokój z powodu modelu. [Jeden z uczestników] powiedział, że obawia się, „jakiego rodzaju ciemności ludzie mogliby go używać”.’

Jednak wśród trzech grup badawczych wśród uczestników, z których każda była poddawana coraz większym ilościom Trust Junk, nie jeden nie zidentyfikował prawdziowego problemu.

Autorzy wnioskują*:

‘Stwierdziliśmy, że Trust Junk działa: uczestnicy byli albo „uspokojeni” przez nieistotne informacje lub „ogłuszeni” przez ogromną ilość danych w wyjaśnieniach.

‘Wszystko to manipulowanie i perswazja miało miejsce w kontekście modelu, który był powierzchowny i głęboko niesprawiedliwy, właśnie w tym przypadku, kiedy powinniśmy oczekiwać, że XAI pozwoli laikom na dokonywanie dokładnych osądów.’

Ponieważ jesteśmy coraz częściej radzeni, aby sprawdzić, co sztuczna inteligencja nam mówi (czy to z powodu podejrzanych motywów, czy przez błędne dane wyjściowe), możemy być skłonni zagłębić się głębiej w nagłówki i analizować materiały źródłowe prac badawczych, sprawozdań kwartalnych firm i innych formatów przekazu informacji, które są dalekie od neutralności.

Ale czy jesteśmy przygotowani, aby zwrócić większą uwagę na ‘uspokajające’ wykresy, które zapewniają nam o dokładności – lub przynajmniej, aby zlekceważyć ‘mgłę prawdziwości’, którą może wywołać lawina wykresów?

Nowa praca tytułowana “Trust Junk prowadzi do nieuzasadnionego poparcia dla wysoko dyskryminujących modeli predykcyjnych” pochodzi od trzech badaczy z Northeastern University w Bostonie, Massachusetts. Strona uzupełniająca również została udostępniona.

Metoda

Autorzy przeprowadzili eksperyment między-subiektowy (tj. różni uczestnicy byli przydzielani do różnych warunków) na ‘trust junk’ w wyjaśnieniach XAI, testując, czy coraz większa ilość technicznie poprawnych, ale nieistotnych szczegółów, mogłaby przekonać użytkowników, że tendencyjny model jest uczciwy i użyteczny.

Stymulacja oparta była na wcześniejszych badaniach, a wynikowe panele XAI łączyły wiele technik wyjaśniających w jednym interfejsie.

Dla powyższego, wyraźnie tendencyjnego modelu, badacze opracowali ‘śmieciowe’ wyjaśnienia, z wyjaśnieniami celowo opracowanymi wokół ‘mylących’ technik prezentacji danych:

‘Świadomie zapewniliśmy nadmiar informacji dla naszego binarnego zadania klasyfikacji. Nasze uwzględnienie dużej ilości skomplikowanych, ale ostatecznie nieistotnych szczegółów miało na celu przytłoczenie uczestników badań, a nie dostarczenie im prawdziwie użytecznych danych.

‘Ta technika [metaforycznie] ogłusza użytkownika, powodując, że akceptuje swoją własną niezdolność do pełnego zrozumienia danych […].’

Badanie opiera się na wcześniejszych kontrowersjach wokół ocen sztucznej inteligencji w międzynarodowym bacalaureacie i egzaminach na poziomie zaawansowanym, wykorzystując zestaw danych Law School Admissions Bar Passage dataset, który zawiera dane demograficzne, akademickie i wynikowe dla 20 000 kandydatów z lat 1991-1997.

Ten zestaw danych został wykorzystany do skonstruowania celowo tendencyjnego modelu, który przewidywał niezdanie egzaminu przez czarnych mężczyzn, podczas gdy wszyscy inni zdawali go; jednak model osiągał 93,7% dokładności, ze względu na niesymetryczność klas w rasie i płci.

Próbowano również strategii ‘odwołania do autorytetu’, z powierzchownie imponującymi sygnałami, takimi jak prestiżowa afiliacja uniwersytecka, rozmiar zestawu danych i myląca dokładność.

Ponadto pomińmy środki, które mogłyby ujawnić uzależnienie modelu od rasy i płci, a przedstawiono tylko korzystne wyniki. Niewielką grupę podobnych kandydatów przedstawiono wraz z ich rzeczywistymi wynikami egzaminu, a nie przewidywaniami modelu – co pomogło zamaskować stały wzorzec niezdania przypisywany czarnym mężczyznom.

Aby dalej kształtować, jak uczestnicy interpretowali system, informacje były przedstawiane w sposób, który zachęcał ich do tworzenia prostych, ale mylących wyjaśnień, jak działa model. Szczegóły dotyczące wszystkich dostępnych cech były wyświetlane, tworząc wrażenie, że wiele czynników wpływa na decyzję, chociaż tylko rasa i płeć były używane. Cyniczny nacisk na atrybuty indywidualne również zachęcał uczestników do konstruowania prawdopodobnych, ale nieprawidłowych historii o tym, dlaczego kandydat mógł zdać lub nie zdać egzaminu.

‘Ofiary’

W grupie testowej każde wyjaśnienie zostało przypisane do jednego z trzech poziomów Trust Junk w trzech warunkach badawczych: uczestnicy w warunku Podstawowym widzieli tylko podstawowe pochodzenie, profil kandydata i decyzję modelu; ci w warunku Model widzieli również statystyki dokładności; a ci w warunku Wszystko widzieli dodatkowo histogramy cech i profile podobnych kandydatów wybranych z zestawu danych szkoleniowych.

Badanie zostało zatwierdzone przez instytucjonalną radę przeglądową i przeprowadzone na Prolific, z uczestnikami, którzy otrzymali 15 dolarów za godzinę, i losowo przydzielonymi do warunków.

Każdy uczestnik przejrzał osiem profili kandydatów na egzamin prawniczy w losowej kolejności i ocenił, czy każdy z nich zda egzamin, przy czym zgoda została użyta jako miara zaufania, po której nastąpiły ankiety, aby ocenić zaufanie i ostateczna próba 28, 27 i 28 uczestników w warunkach Podstawowym, Model i Wszystko.

Autorzy postawili tezę, że dodanie coraz większej ilości pozornie bogatych, ale ostatecznie nieistotnych lub niepełnych informacji mogłoby zmylić model, tworząc nieuzasadnioną pewność co do jego wyników. Oczekiwali, że uczestnicy w warunkach Model i Wszystko będą miały wyższą zgodność i silniejsze postrzeganie uczciwości, godności zaufania i użyteczności niż ci w warunku Podstawowym. Oni również przeanalizowali pisemne wyjaśnienia uczestników, aby zobaczyć, jak oni robili sens z decyzji modelu, koncentrując się na tym, czy zauważyli jego bias, czy luki w informacjach.

Wyniki badań

W kwestii zgody modelu uczestnicy ludzcy prawidłowo identyfikowali wynik 66,6% czasu, ale zgadzali się z modelem 73,9% czasu – co wskazuje na tendencję do podążania za decyzjami modelu, nawet gdy były one błędne. Ten efekt zwiększał się wraz z dodaniem coraz większej ilości wyjaśnień, przy czym najbardziej szczegółowa kondycja zwiększała zgodność do 82,6%, i zwiększała prawdopodobieństwo, że uczestnicy niepoprawnie powierzą modelowi:

Wyniki agregatowe dla zgody (po lewej), zaufania (w środku) i satysfakcji (po prawej); uczestnicy w warunku ‘Wszystko’, narażeni na dodatkowe treści wyjaśniające nieistotne dla uczciwości, zgłaszali znacznie wyższe wyniki we wszystkich miarach, pomimo że model pozostał identyczny i wyraźnie niesprawiedliwy.

Oceny zaufania różniły się znacznie w zależności od warunku, przy czym uczestnicy w warunku Wszystko zgłaszali wyższe zaufanie (M = 25,3) niż ci w warunku Podstawowym (M = 16,8), podczas gdy warunek Model (M = 20,1) nie różnił się znacznie od żadnego z nich.

Satysfakcja z wyjaśnieniem różniła się znacznie w zależności od warunku, przy czym uczestnicy w warunku Wszystko zgłaszali wyższą satysfakcję (M = 34,2) niż ci w pozostałych dwóch warunkach (M = 26,4).

Uczestnicy oceniali uczciwość przy użyciu czterech pytań na skali siedmiopunktowej, obejmujących uprzedzenia płciowe, ogólne uprzedzenia i etykę, bez znaczących różnic między warunkami w tych miarach:

Rozkład ocen uczestników w warunkach dla postrzeganej uczciwości w rasie i płci, braku uprzedzeń i ogólnej etyki. Wyższe poziomy szczegółowych wyjaśnień są skorelowane ze znacznie wyższymi ocenami uczciwości i braku uprzedzeń, pomimo że podstawowy model pozostał niezmieniony i niesprawiedliwy.

Różnica pojawiła się w przypadku uczciwości w rasie, gdzie grupa Podstawowa oceniła model jako najmniej uczciwy (M = 3,9), podczas gdy grupy Model i Wszystko oceniły go wyżej (M = 4,8). Co więcej, największy odsetek uczestników, którzy uznali wyraźnie niesprawiedliwy model za uczciwy, pochodził z dwóch grup, które zobaczyły najwięcej wyjaśnień – które były również najmniej skłonne do zauważenia jego uprzedzeń.

Kontrola jakości

Odpowiedzi jakościowe pokazały, że uczestnicy, którzy otrzymali najmniej informacji, byli bardziej skłonni do zauważenia problemów z modelem – szczególnie jego zależności od rasy i płci. Byli również bardziej skłonni do stwierdzenia, że istotne szczegóły brakują.

Odwrotnie, ci, którzy zobaczyli więcej szczegółowych wyjaśnień, zgłaszali te obawy rzadziej. Jednak tylko trzech uczestników we wszystkich warunkach wykazało choć częściowe zrozumienie kluczowych czynników napędzających decyzje modelu; i żaden z nich nie zidentyfikował w pełni, jak model działał.

Wykresy pokazujące, jak często uczestnicy zgłaszali możliwe uprzedzenia rasowe lub płciowe i brakujące informacje wyjaśniające w warunkach, przy czym wyższe poziomy szczegółowych wyjaśnień były skorelowane z mniejszą liczbą uczestników, którzy zauważali uprzedzenia lub zgłaszali brak informacji – pomimo że model opierał się wyłącznie na rasie i płci.

Wielu uczestników opisało model jako uczciwy, z 19 takimi odpowiedziami zarejestrowanymi, pomimo jego oczywistego uprzedzenia.

Jednocześnie pewien niepokój się pojawił, z kilkoma uczestnikami wyrażającymi obawy dotyczące tego, jak taki system mógłby być użyty, i 15 odpowiedziami kwestionującymi, czy model mógłby w sposób znaczący uchwycić złożoność poszczególnych kandydatów.

Autorzy stwierdzają:

‘Tylko niewielka część uczestników opisała model jako niesprawiedliwy lub uprzedzony. Nieliczni uczestnicy, którzy zgłaszali obawy dotyczące modelu, nie byli w stanie dokładnie wyjaśnić, dlaczego model był wadliwy, i – wobec braku kluczowych informacji o modelu – posługiwali się nieformalnymi, często błędnymi sposobami myślenia, aby wyjaśnić, dlaczego model mógł być błędny lub niesprawiedliwy.’

Praca kończy się*^†:

‘Chociaż niektóre z tych problemów można rozwiązać poprzez zwiększenie umiejętności analitycznych wśród odbiorców, sama edukacja nie jest wystarczająca (nawet samozwańczy eksperci sztucznej inteligencji rutynowo niepoprawnie interpretują lub nie rozumieją techniki XAI).

‘Popieramy twierdzenie Hullman et al.: sukces wyjaśnień sztucznej inteligencji może być uczciwie oceniony tylko wtedy, gdy uwzględnimy cele takich wyjaśnień.

‘Nalegamy, aby społeczność zwróciła uwagę na retoryczne cele wyjaśnień XAI i ich manipulacyjną moc jako intrinsicznie perswazyjne artefakty.’

Wnioski

Ponieważ staje się coraz bardziej jasne, że modele z przodu są skłonne do ‘ozdabiania’ oświadczeń fałszywymi wykresami, staje się coraz bardziej oczywiste, że nie tylko nie powinniśmy polegać na wykresach sztucznej inteligencji, aby umocnić autorytet, ale także, że ogólny ‘atmosferyczny’ efekt towarzyszących wizualizacji jest czymś, czego powinniśmy zacząć dyskontować – tak jak wiara w fotografię została podważona przez pojawienie się głębokich fałszerstw.

To jest prawdopodobnie niepokojący rozwój, ponieważ stanowi to kolejny ‘punkt zmęczenia’ w gotowości publicznej do rygorystycznego oceniania tego, co widzi i słyszy w mediach, i naraża na rodzaj ‘terminalnej rezygnacji’ z dezinformacją.

* Moja substytucja cytatów autorów za hiperłącza.

^† Formatowanie oryginalne autorów, a nie moje.

Pierwotnie opublikowane w poniedziałek, 20 lipca 2026