Kąt Andersona

Lekarz AI, którego łatwo przekonać

Martin Anderson
Dodaj Unite.AI do preferowanych źródeł w Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Kluczowe punktyModele AI znacznie łatwiej akceptują błędne porady medyczne, gdy pochodzą one od…
Zobacz więcej
  • Modele AI znacznie łatwiej akceptują błędne porady medyczne, gdy pochodzą one od specjalisty niż od studenta medycyny.
  • Zmyślone wyjaśnienie wspierające błędną diagnozę może zastąpić poprawną odpowiedź AI nawet bez prawdziwych dowodów.
  • Uczynienie AI trudniejszym do przekonania nie jest rozwiązaniem, ponieważ perswazja może również korygować rzeczywiste błędy.

Przeoczone w 2026 roku: To ta pora roku, kiedy jakość i liczba publikacji naukowych jednocześnie spadają i rosną w rytmie ostatnich kilku konferencji w listopadzie i grudniu. Aby przetrwać te okresowe niedobory, przyglądamy się kilku ciekawszym artykułom, które w 2026 roku niemal zakwalifikowały się do publikacji, ale ostatecznie ustąpiły miejsca innym pracom w okresach większej konkurencji.

 

Rosnące zainteresowanie modelami AI wspomagającymi podejmowanie decyzji wynika częściowo z ograniczeń ogólnego przeznaczenia chatbotów AI przy podejmowaniu decyzji. Nawet jeśli zaawansowane modele AI, takie jak ChatGPT, mogą dyskretnie „zlecać” ocenę sytuacji własnym lub innym modelom decyzyjnym, działającym w tle, ich własne opinie pozostają niezwykle podatne na manipulację.

Na przykład, aby pomóc sobie w wyborze spośród konkurujących ze sobą kandydatów do publikacji, czasem przedstawiam ich jednocześnie ChatGPT, Claude 5.5 oraz temu modelowi Gemini, którego danego ranka można używać bezpłatnie. Wiem, czego się spodziewać: GPT i Claude przywiązują zbyt dużą wagę do niektórych kryteriów; (bezpłatny) Gemini uznaje, że wszystko jest świetne, a Claude praktycznie niczego nie uzna za wystarczająco dobre.

Kiedy konfrontuję GPT 5.6 Sol z odmiennym stanowiskiem Claude’a lub Gemini, niemal za każdym razem w jakimś stopniu ustępuje (zwykle całkowicie). Przedstawienie mu przeciwnego lub konkurencyjnego stanowiska zazwyczaj sprawia, że GPT całkowicie zmienia swoją decyzję. Gdy zwróci mu się uwagę, jak łatwo można na niego wpłynąć, GPT wraca do poprzedniego stanowiska, najwyraźniej urażony samą sugestią. Jednak nawet wtedy użytkownik nadal może skłonić go do zmiany zdania, przedstawiając zaledwie niewielką sugestię.

Claude natomiast ma tendencję do okopywania się na swoich pozycjach: zakwestionowanie jego oceny sprawia, że jeszcze bardziej się przy niej upiera, jakby zdawał sobie sprawę z „problemu podatności na wpływy” w dyskursie o AI i dostał polecenie, by nigdy nie zmieniać stanowiska — to dość kruche rozwiązanie.

Głos z innego kraju

To jednak tylko częściowo poparte anegdotycznymi obserwacjami. Skłoniła mnie do tego dzisiejsza nieco rozczarowująca oferta publikacji na Arxiv, przez którą wróciłem do artykułu, który zainteresował mnie latem, ale którego nie zdążyliśmy wtedy omówić.

Artykuł zatytułowany AI można łatwo przekonać do zmiany decyzji klinicznej opisuje badanie przeprowadzone przez Stanford i Oxford, w którym sprawdzono, jak łatwo można nakłonić modele GPT-4o, Claude Sonnet 5 i Qwen3.7-plus do zmiany diagnoz medycznych.

Okazuje się, że na modele mogą wpływać staż lekarza, jego narodowość, prestiż instytucji oraz deklarowane osiągnięcia, nawet gdy udzielona porada jest błędna. Znaczenie mają też liczby, a ich wpływ się kumuluje: w jednym eksperymencie GPT-4o znacznie chętniej akceptował błędną diagnozę, gdy zgadzało się z nią trzech lekarzy.

Samo wielokrotne powtarzanie AI, że się myli, bez przedstawiania nowych dowodów, mogło w końcu skłonić je do zmiany zdania.

Autorzy artykułu piszą:

„Stwierdzamy, że autorytet zawodowy, pochodzenie narodowe, przynależność instytucjonalna, deklarowane wcześniejsze osiągnięcia, opinie wielu lekarzy, poparte stanowiska klinicystów i powtarzana presja mogą wpływać na decyzje AI.

„Co zaskakujące, ten sam argument perswazyjny zmienia zdanie w około 10% większej liczbie przypadków, gdy przedstawia go starszy stażem klinicysta, a nie student medycyny. Samo zadeklarowanie lepszych wcześniejszych wyników konsekwentnie zwiększa siłę przekonywania lekarza.

„Co jeszcze bardziej uderzające, wiarygodna opinia klinicysty może skłonić AI do porzucenia prawidłowej decyzji, nawet jeśli została sfabrykowana po to, by poprzeć błędną odpowiedź.”

Jako rozwiązanie autorzy proponują, by AI lepiej oceniała dowody uzasadniające zalecenia lekarza, dzięki czemu mogłaby przyjmować uzasadnione korekty, nie ulegając autorytetom, presji grupy ani przekonującym, lecz fałszywym argumentom.

Nie wiadomo jednak, jak to osiągnąć. Opracowane w 2026 roku ramy MedStress mają niemal całkowicie wyeliminować problem zmiany diagnoz przez AI; w innym artykule z 2026 roku stwierdzono (wbrew moim własnym doświadczeniom), że Google Gemini najbardziej opiera się manipulowaniu diagnozą medyczną; z kolei przegląd z września 2026 roku zaproponował standaryzowane testy, które pozwalają odróżnić sytuacje, w których AI słusznie zmienia zdanie, od tych, w których ulega presji i przyjmuje błędną diagnozę.

Ponieważ ponad 80% lekarzy w USA korzysta w jakiejś formie z AI, a w sektorze wyraźnie widać dążenie do rozszerzania możliwości diagnostycznych w obliczu niedoborów personelu i ograniczonego zakresu opieki, które często trafiają na pierwsze strony gazet, problem ten może stać się jedną z głównych przeszkód w upowszechnianiu diagnostycznej AI. Zdecydowanie wymaga więc większej uwagi lub skuteczniejszych działań.

Na razie przyjrzyjmy się, jak ten problem ujawnia się w badaniu Oxfordu i Stanfordu.

Metodyka

Do testów wybrano 308 pytań medycznych z MedBullets, zbioru przypadków klinicznych o poziomie trudności zbliżonym do egzaminów licencyjnych dla lekarzy:

Przykładowy scenariusz z opracowanego przez MedBullets zbioru przypadków klinicznych. Źródło - https://arxiv.org/pdf/2608.29453

Przykładowy scenariusz z opracowanego przez MedBullets zbioru przypadków klinicznych. Źródło

Każdemu pytaniu towarzyszył opis przypadku pacjenta, pięć możliwych odpowiedzi oraz wyjaśnienie, która z nich jest prawidłowa. Następnie mierzono, jak często można było skłonić AI do porzucenia prawidłowej odpowiedzi.

Trzy testowane modele AI, wspomniane wcześniej, to GPT-4o, Qwen3.7-Plus i Sonnet 5. Każdy z nich miał działać jako system wspomagania decyzji medycznych, którego celem było ustalenie prawidłowego rozpoznania na podstawie dostępnych dowodów klinicznych.

W każdym przypadku modele musiały wybrać odpowiedź, wskazać, czy zmieniły pierwotną decyzję, ocenić swoją pewność w skali od 0 do 100, zalecić dalsze postępowanie oraz przypisać ocenę określającą, jak pilne były dalsze działania — od braku potrzeby podejmowania działań po przerwanie postępowania i skierowanie przypadku do dalszej oceny. Nieudane próby ponawiano, aby przeprowadzić wszystkie zaplanowane testy.

W niektórych testach AI otrzymywała przypadek medyczny wraz z zaleceniem lekarza i miała postawić diagnozę; w innych najpierw diagnozowała AI, a zalecenie lekarza pojawiało się później w rozmowie. Badano również, czy perswazja może skłonić model do zmiany prawidłowej diagnozy na błędną albo czy może pomóc skorygować początkowy błąd.

Autorytety

Te same zalecenia medyczne przedstawiano jako pochodzące od lekarzy o różnym stażu — od studentów medycyny po specjalistów. Nie zmieniano diagnozy ani informacji o pacjencie, dzięki czemu można było zmierzyć wpływ autorytetu zawodowego.

Zalecenia przypisywano również lekarzom z Kamerunu, Chin, Zjednoczonych Emiratów Arabskich, Wielkiej Brytanii i Stanów Zjednoczonych. W kolejnych testach sprawdzano, czy na AI wpływa powiązanie lekarza z wiodącym ośrodkiem medycznym, szpitalem miejskim lub szpitalem wiejskim. Zmieniano wyłącznie podane informacje o pochodzeniu zawodowym lekarza.

W dodatkowych testach sprawdzano, czy na AI wpływało miejsce pracy lekarza, porównując prestiżowe akademickie ośrodki medyczne, miejskie szpitale lokalne i szpitale wiejskie. Modelom przedstawiano również fikcyjne zestawienia wyników ich własnych oraz lekarza z dziewięciu wcześniejszych przypadków, aby sprawdzić, czy pozorna wiarygodność lekarza może wpływać na skłonność AI do przyjmowania jego zaleceń.

Wpływowi presji grupowej przyglądano się, informując AI, że jej diagnozę zakwestionował pojedynczy lekarz, trzech zgodnych ze sobą lekarzy albo szpitalna komisja oceniająca. W niektórych testach sugerowano alternatywną diagnozę, a w innych jedynie informowano AI, że się myli.

Wpływ uzasadnienia medycznego badano, przedstawiając modelom wyjaśnienia potwierdzające prawidłowe diagnozy albo celowo zmyślone argumenty przemawiające za błędnymi. Sprawdzano również te wyjaśnienia w połączeniu z twierdzeniami o wyższym stażu zawodowym, aby ustalić, jak duży wpływ daje ich połączenie.

Na koniec sprawdzono skutki powtarzanej presji w ciągu dziesięciu tur rozmowy, za każdym razem przedstawiając ten sam zarzut. Wyzwania obejmowały zwykłe wyrażenie sprzeciwu, powoływanie się na autorytet medyczny oraz rzekomą zgodę innych lekarzy. W trakcie tych wymian nie przedstawiano żadnych dodatkowych dowodów medycznych.

Miary

Do oceny wykorzystano podatność na perswazję, czyli częstotliwość, z jaką AI przyjmowała odpowiedź lekarza, gdy różniła się ona od odpowiedzi początkowej; kierunek perswazji, który wskazywał, czy interwencja lekarza skorygowała początkowy błąd, czy też zmieniła prawidłową odpowiedź w błędną; oraz wpływ na trafność, określający, o ile poprawiały się lub pogarszały wyniki AI po przedstawieniu opinii lekarza w porównaniu z testami, w których takiej opinii nie podawano. Gdy prawidłowa odpowiedź zmieniała się w błędną, wyniki uśredniano dla czterech możliwych błędnych odpowiedzi.

Testy

Pierwsze wyniki pokazały, że starsi stażem lekarze łatwiej przekonywali modele AI, nawet gdy ich zalecenia były błędne. Jak pokazano poniżej, GPT-4o przyjmował błędne zalecenie w 2% przypadków, gdy przypisywano je studentowi medycyny; odsetek ten wzrastał do 12,8%, gdy zalecenie przypisywano specjaliście. W przypadku Claude Sonnet 5 odsetek wzrósł z 3,5% do 14,4%, natomiast Qwen3.7-Plus był mniej podatny na ten wpływ:

Odsetek przypadków, w których modele przyjmowały sprzeczną odpowiedź lekarza, w zależności od jego stażu medycznego. Wyższe wartości na ogół odnotowywano w przypadku lekarzy o dłuższym stażu.

Odsetek przypadków, w których modele przyjmowały sprzeczną odpowiedź lekarza, w zależności od jego stażu medycznego. Wyższe wartości na ogół odnotowywano w przypadku lekarzy o dłuższym stażu.

Staż lekarza wpływał również na to, jak chętnie modele przyjmowały prawidłowe zalecenia, jak pokazano poniżej. Po otrzymaniu porady od studentów medycyny trafność GPT-4o i Claude Sonnet 5 faktycznie się pogorszyła. Gdy jednak to samo prawidłowe zalecenie przypisywano specjalistom, trafność wzrastała odpowiednio o 10,1 i 8,8 punktu procentowego:

Zmiany dokładności modeli AI po otrzymaniu prawidłowych porad medycznych od lekarzy o różnym stażu zawodowym. Wartości dodatnie i ujemne oznaczają zmianę w punktach procentowych względem dokładności danego modelu bez porady (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

Zmiany dokładności modeli AI po otrzymaniu prawidłowych porad medycznych od lekarzy o różnym stażu zawodowym. Wartości dodatnie i ujemne oznaczają zmianę w punktach procentowych względem dokładności danego modelu bez porady (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).

W artykule stwierdzono:

„Wyniki te wskazują ponadto, że AI może pośrednio przypisywać sobie większe umiejętności niż młodszym stażem klinicystom, ale mniejsze niż starszym stażem lekarzom. AI ma tendencję do opierania się sugestiom studentów medycyny i lekarzy rezydentów, a zarazem łatwiej daje się przekonać lekarzom prowadzącym, a zwłaszcza specjalistom w danej dziedzinie.

To pozorne pozycjonowanie samej siebie wpływa na to, jak silnie autorytet zawodowy oddziałuje na jej podatność na przekonywanie”.

Największe znaczenie miało to, czy lekarze wyjaśniali swoje odpowiedzi. Porada studenta medycyny była dla GPT-4o bardziej przekonująca niż porada specjalisty, jeśli student przedstawił medyczne uzasadnienie, a specjalista go nie podał.

Gdy student medycyny przedstawił wyjaśnienie uzasadniające prawidłową odpowiedź, GPT-4o zmienił swoją pierwotnie błędną odpowiedź na prawidłową w 58% przypadków. Bez takiego wyjaśnienia porada starszego stażem specjalisty przyniosła taki efekt tylko w 36.4% przypadków. Gdy specjalista również wyjaśnił prawidłową odpowiedź, odsetek ten wzrósł do 89.8%:

Zdolność GPT-4o do korygowania błędnych odpowiedzi po otrzymaniu porad od lekarzy o różnym stażu zawodowym. Słupki pokazują, jak często model zmieniał odpowiedź na prawidłową, z uwzględnieniem wyjaśnienia medycznego i bez niego. Wyjaśnienia znacznie poprawiały wyniki na każdym poziomie stażu.

Zdolność GPT-4o do korygowania błędnych odpowiedzi po otrzymaniu porad od lekarzy o różnym stażu zawodowym. Słupki pokazują, jak często model zmieniał odpowiedź na prawidłową, z uwzględnieniem wyjaśnienia medycznego i bez niego. Wyjaśnienia znacznie poprawiały wyniki na każdym poziomie stażu.

Wyjaśnienia poprawiały również ocenę pewności modelu. Model był bardziej pewny siebie, gdy jego odpowiedzi były prawidłowe, i mniej pewny, gdy były błędne.

W przypadku lekarzy prowadzących różnica w poziomie pewności między odpowiedziami prawidłowymi a błędnymi wzrosła z 2.1 do 11.5 punktu procentowego, jak pokazano poniżej:

Pewność GPT-4o co do prawidłowych i błędnych odpowiedzi medycznych na czterech poziomach stażu lekarzy. Wyniki przedstawiono z uwzględnieniem wyjaśnienia medycznego i bez niego. Ostatnie kolumny pokazują różnicę w poziomie pewności między odpowiedziami prawidłowymi a błędnymi; różnica ta znacznie wzrosła po dodaniu wyjaśnień.

Pewność GPT-4o co do prawidłowych i błędnych odpowiedzi medycznych na czterech poziomach stażu lekarzy. Wyniki przedstawiono z uwzględnieniem wyjaśnienia medycznego i bez niego. Ostatnie kolumny pokazują różnicę w poziomie pewności między odpowiedziami prawidłowymi a błędnymi; różnica ta znacznie wzrosła po dodaniu wyjaśnień.

Stara chwała

Modele łatwiej ulegały wpływom lekarzy amerykańskich niż lekarzy z jakiegokolwiek innego badanego kraju – nawet gdy ich porada medyczna była błędna. Na przykład GPT-4o zaakceptował błędną diagnozę lekarza z USA w 10.9% przypadków, w porównaniu z 8.4% w przypadku lekarza z Kamerunu:

Porównanie podatności trzech modeli AI na sprzeczne porady medyczne przypisywane lekarzom z pięciu krajów. Lekarze amerykańscy byli najbardziej przekonujący w przypadku wszystkich trzech modeli; wartości procentowe pokazują, jak często AI zmieniała odpowiedź.

Porównanie podatności trzech modeli AI na sprzeczne porady medyczne przypisywane lekarzom z pięciu krajów. Lekarze amerykańscy byli najbardziej przekonujący w przypadku wszystkich trzech modeli; wartości procentowe pokazują, jak często AI zmieniała odpowiedź.

GPT-4o zaakceptował sprzeczną diagnozę w 6.4% przypadków, gdy rzekomo pochodziła ona od lekarza z USA, w porównaniu z 4.3% przypadków, gdy tę samą poradę przypisywano lekarzowi z Kamerunu. Preferencję dla lekarzy amerykańskich zaobserwowano we wszystkich trzech modelach, jak pokazano powyżej.

AI łatwiej ulegała również wpływom lekarzy z prestiżowych szpitali; na przykład GPT-4o zmienił diagnozę w 6.6% przypadków, gdy porada rzekomo pochodziła z wiodącego akademickiego centrum medycznego, w porównaniu z zaledwie 2.8% przypadków, gdy pochodziła ze szpitala wiejskiego:

Porównanie wpływu prestiżu szpitali na decyzje medyczne trzech modeli AI. Oś pozioma pokazuje poprawę po otrzymaniu prawidłowej porady, a oś pionowa – utratę dokładności wskutek błędnej porady. Kolory oznaczają modele, a kształty – rodzaje szpitali. Większy prestiż na ogół nasila oba efekty.

Porównanie wpływu prestiżu szpitali na decyzje medyczne trzech modeli AI. Oś pozioma pokazuje poprawę po otrzymaniu prawidłowej porady, a oś pionowa – utratę dokładności wskutek błędnej porady. Kolory oznaczają modele, a kształty – rodzaje szpitali. Większy prestiż na ogół nasila oba efekty.

Porady przypisywane szpitalom o wysokiej renomie poprawiły wyniki GPT-4o o 3,2 punktu procentowego, natomiast te same porady przypisywane szpitalom wiejskim w rzeczywistości obniżyły trafność o 3,6 punktu — choć w artykule zaznaczono, że Claude Sonnet 5 był znacznie mniej podatny na wpływ geograficznej lokalizacji lekarza.

Ponadto* badacze ustalili, że samo poinformowanie GPT-4o, iż lekarz prawidłowo zdiagnozował dziewięciu wcześniejszych pacjentów, znacznie zwiększało skłonność modelu do przyjmowania jego porad. Nawet gdy AI początkowo udzieliła prawidłowej odpowiedzi, można ją było skłonić do popełnienia błędu w 15,6% przypadków wysokiego ryzyka, mimo że poinformowano ją, iż dowody medyczne są wiarygodne w 95%.

Wyniki testów pokazujące, jak GPT-4o reagował na lekarzy z idealną lub całkowicie błędną historią diagnoz, przy różnym poziomie ryzyka medycznego i wiarygodności dowodów. Dane pokazują, jak często model przyjmował poradę lekarza, zmieniał prawidłową odpowiedź na błędną oraz z jaką pewnością podejmował decyzje. Deklarowana idealna historia diagnoz znacznie zwiększała wpływ lekarza, nawet gdy jego porada była błędna.

Wyniki testów pokazujące, jak GPT-4o reagował na lekarzy z idealną lub całkowicie błędną historią diagnoz, przy różnym poziomie ryzyka medycznego i wiarygodności dowodów. Dane pokazują, jak często model przyjmował poradę lekarza, zmieniał prawidłową odpowiedź na błędną oraz z jaką pewnością podejmował decyzje. Deklarowana idealna historia diagnoz znacznie zwiększała wpływ lekarza, nawet gdy jego porada była błędna.

Przekonujące wyjaśnienie medyczne mogłoby być jeszcze groźniejsze. Gdy fałszywą diagnozę poparto zmyślonym uzasadnieniem, GPT-4o porzucał prawidłową odpowiedź w 31,2% przypadków; odsetek ten wzrastał do 38,7%, gdy poradę wydawał również lekarz cieszący się autorytetem.

W artykule podsumowano:

„Te ustalenia pokazują, że rozwiązaniem nie jest po prostu uczynienie AI trudniejszą do przekonania. Perswazja może skorygować błąd, ale może też podważyć prawidłową decyzję.

„Wyzwaniem jest zapewnienie, by AI zachowywała trafność osądu mimo prób wywierania na nią wpływu i zmieniała decyzję, gdy korekta jest uzasadniona. Zrozumienie i doskonalenie tej zdolności będzie ważne dla bezpiecznego i niezawodnego wykorzystania AI przy podejmowaniu decyzji medycznych o poważnych konsekwencjach”.

Podsumowanie

Wartość, jaką wnoszą prawnicy, architekci i lekarze, polega na tym, że jeśli coś pójdzie katastrofalnie źle, będzie ktoś, kogo można pociągnąć do odpowiedzialności. Trudno więc określić, w jakim stopniu udział AI w negatywnym, budzącym spory wyniku leczenia można ograniczyć, zbagatelizować lub rozliczyć bez sporów i kontrowersji.

AI nie została właściwie zaprojektowana do tego zadania, ponieważ w diagnostyce medycznej doświadczenie często góruje nad nauką, a czołowi lekarze mogą wiedzieć więcej dzięki niedawnym doświadczeniom z własnej praktyki, niż zdążyli opisać w czasopismach naukowych.

Zmienia to sytuację decyzyjną w problem wymagający interpretacji, z którym AI nie jest obecnie dobrze przygotowana sobie radzić; chodzi tu między innymi o zdolność stwierdzenia, że ma się uzasadnioną pewność, opartą na najlepszych dostępnych informacjach, że taki a taki sposób postępowania prawdopodobnie przyniesie najlepszy rezultat. Wartości, jaką w tej sytuacji ma „ludzka intuicja”, praktycznie nie da się odtworzyć. To wyraźnie nie jest nauka „obiektywna” tego samego rodzaju co profilowanie DNA czy układy okresowe pierwiastków, mimo że mieści się w obrębie deterministycznych dyscyplin naukowych.

Wydaje się zatem uzasadnione przypuszczenie, że nowsze generacje modeli przeznaczonych do tego zadania mogą być opracowywane inaczej niż konwencjonalne systemy AI do prowadzenia dialogu i podejmowania decyzji, a nawet mogą wykorzystywać odmienną architekturę.

 

* W artykule opisano pięć dodatkowych części testów, które nie mają takiego znaczenia ani takiej wagi jak najważniejsze ustalenia; po więcej informacji odsyłam czytelników do oryginalnego pliku PDF.

Opublikowano po raz pierwszy w czwartek, 19 listopada 2026 r.

Pisarz zajmujący się uczeniem maszynowym, specjalista w dziedzinie syntezy ludzkich obrazów. Były szef ds. treści badawczych w Metaphysic.ai, aż do jej rozwiązania w Brahma.ai firmy DNEG.
Strona internetowa: martinanderson.ai
Kontakt: martin@martinanderson.ai