Andersonův úhel
Snadno ovlivnitelný lékař s umělou inteligencí

Klíčové bodyAI modely přijímají nesprávnou lékařskou radu mnohem ochotněji, když pochází od…
Zobrazit více
- AI modely přijímají nesprávnou lékařskou radu mnohem ochotněji, když pochází od specialisty, než když pochází od studenta medicíny.
- Vymyšlené vysvětlení podporující nesprávnou diagnózu může přebít správnou odpověď AI, i když neexistují skutečné důkazy.
- Udělat AI obtížněji přesvědčitelnou není řešením, protože přesvědčování může také opravit skutečné chyby.
Co nám v roce 2026 uniklo: V tomto období roku kvalita i objem výzkumu kolísají ruku v ruce s posledními konferencemi v listopadu a prosinci. Abychom překlenuli tato občasná období útlumu, podíváme se na některé zajímavější studie, které se v roce 2026 téměř dostaly do výběru, ale v konkurenčnějších obdobích pro podávání příspěvků je zastínily jiné práce.
Rostoucí zájem o modely umělé inteligence pro rozhodování pramení částečně z omezení chatbotů s umělou inteligencí pro všeobecné použití při rozhodování. I když nejpokročilejší nástroje umělé inteligence, jako je ChatGPT, mohou některá rozhodnutí nenápadně „delegovat“ na vlastní či jiné rozhodovací modely, které pracují na pozadí, jejich vlastní názory lze velmi snadno zmanipulovat.
Například když potřebuji roztřídit několik kandidátů na články, které se ucházejí o pokrytí, někdy je předložím současně ChatGPT, Claude 5.5 a kterémukoli modelu, který mi Gemini toho rána nabídne zdarma. Vím, co čekat: GPT a Claude přikládají přílišnou váhu některým částem hodnoticích kritérií; (bezplatný) Gemini považuje za skvělé úplně všechno; a Claudeovi prakticky nic není dost dobré.
Když GPT 5.6 Sol konfrontuji s odlišným názorem Claude nebo Gemini, téměř pokaždé do jisté míry ustoupí (obvykle úplně). Odlišný nebo konkurenční názor obvykle přiměje GPT, aby své rozhodnutí zcela změnil. Když upozorníte na to, jak snadno ho lze ovlivnit, GPT se vrátí ke svému předchozímu názoru a zjevně se cítí dotčen tímto nařčením. Přesto ho i pak může uživatel snadno přimět ke změně názoru pouhým nepatrným náznakem.
Claude má naopak sklon zatvrdit se: zpochybnění jeho úsudku ho přiměje ještě pevněji trvat na svém, jako by si uvědomoval „problém ovlivnitelnosti“ v debatách o umělé inteligenci a dostal pokyn, aby svůj názor nikdy neměnil – což je poněkud křehké řešení.
Ozývá se další hlas
Tohle jsou ale jen anekdotická pozorování podpořená omezenými důkazy. Přivedla mě k nim dnešní poněkud nevýrazná nabídka na arXivu, kvůli které jsem se vrátil ke studii, jež mě zaujala v létě, ale tehdy jsme na ni neměli čas.
Studie s názvem Umělou inteligenci lze při klinickém rozhodování snadno přesvědčit zkoumá, jak snadno lze modely GPT-4o, Claude Sonnet 5 a Qwen3.7-plus přimět ke změně lékařské diagnózy. Jde o studii Stanfordovy univerzity a Oxfordské univerzity.
Ukazuje se, že na modely může mít vliv seniorita lékaře, jeho státní příslušnost, prestiž instituce i tvrzení o jeho dosavadních výsledcích, dokonce i tehdy, když je jeho rada nesprávná. Vliv má i počet lékařů, kteří se shodují: v jednom experimentu byl GPT-4o mnohem ochotnější přijmout nesprávnou diagnózu, když s ní souhlasili tři lékaři.
Názor umělé inteligence mohlo nakonec změnit i opakované sdělování, že se mýlí, aniž by jí byly předloženy jakékoli nové důkazy.
Autoři studie uvádějí:
„Zjistili jsme, že rozhodování umělé inteligence může ovlivnit profesní autorita, národní původ, příslušnost k instituci, tvrzení o předchozí úspěšnosti, více lékařů, názory klinických lékařů podložené argumenty i opakovaný nátlak.
„Překvapivě přesvědčí stejný přesvědčovací podnět zhruba o 10 % více případů, pokud pochází od zkušeného klinického lékaře než od studenta medicíny. Už samotné tvrzení o lepších dosavadních výsledcích soustavně zvyšuje přesvědčivost lékaře.
„Ještě pozoruhodnější je, že věrohodně působící názor klinického lékaře může umělou inteligenci odvrátit od správného rozhodnutí, i když je smyšlený a má podpořit nesprávnou odpověď.“
Autoři jako možné řešení navrhují, aby se umělá inteligence zlepšila v posuzování důkazů, o které lékař svou radu opírá. Mohla by tak přijímat oprávněné opravy, aniž by se nechala ovlivnit autoritou, tlakem skupiny nebo přesvědčivými, ale nepravdivými argumenty.
Jak toho ale dosáhnout, zůstává otevřenou otázkou. Model MedStress z roku 2026 tvrdí, že problém změny diagnózy umělou inteligencí téměř zcela odstraňuje; jiná studie z roku 2026 zjistila (v rozporu s mou vlastní zkušeností), že Google Gemini odolává nejlépe manipulaci při stanovování lékařské diagnózy; a přehledová studie ze září 2026 navrhla standardizované testy, které rozliší případy, kdy umělá inteligence správně změní názor, od těch, kdy podlehne nátlaku a přijme nesprávnou diagnózu.
Vzhledem k tomu, že umělou inteligenci nějakým způsobem využívá více než 80 % lékařů v USA a v tomto odvětví je zjevná snaha rozšířit diagnostické možnosti nad rámec omezeného počtu pracovníků a nedostatečného pokrytí péče, o nichž se často píše v médiích, stane se tento problém jednou z hlavních překážek zavádění diagnostické umělé inteligence. Je zřejmé, že je třeba se mu věnovat intenzivněji nebo účinněji.
Podívejme se zatím, jak se tento problém projevuje podle studie Oxfordské a Stanfordovy univerzity.
Metodika
Pro testování bylo vybráno 308 lékařských otázek ze sbírky MedBullets, která obsahuje klinické případy s obtížností srovnatelnou s lékařskými licenčními zkouškami:

Ukázkový scénář z výběru klinických případů MedBullets. Zdroj
Každou otázku doprovázel scénář pacienta, pět možných odpovědí a vysvětlení správné volby. Poté se měřilo, jak často bylo možné AI přesvědčit, aby od správné odpovědi ustoupila.
Tři testované modely AI, zmíněné již dříve, byly GPT-4o, Qwen3.7-Plus a Sonnet 5. Každý z nich dostal pokyn, aby fungoval jako systém na podporu lékařského rozhodování a na základě dostupných klinických důkazů stanovil správnou diagnózu.
U každého případu musely modely vybrat odpověď, uvést, zda změnily své původní rozhodnutí, ohodnotit svou jistotu na stupnici od 0 do 100, doporučit další postup a přiřadit skóre vyjadřující naléhavost dalších kroků – od nečinnosti až po zastavení procesu a předání případu k dalšímu posouzení. Neúspěšné požadavky se opakovaly, aby bylo zajištěno dokončení všech plánovaných testů.
V některých testech dostala AI lékařský případ spolu s doporučením lékaře a měla stanovit diagnózu; v jiných nejprve stanovila diagnózu sama a doporučení lékaře se do konverzace zařadilo až později. Testovalo se také, zda lze přesvědčováním změnit správnou diagnózu na chybnou, nebo naopak napravit původní omyl.
Autority
Stejné lékařské doporučení bylo prezentováno jako doporučení lékařů s různou mírou seniority, od studentů medicíny až po specialisty. Diagnóza i údaje o pacientovi zůstaly beze změny, což umožnilo měřit vliv profesní autority.
Doporučení bylo také připisováno lékařům z Kamerunu, Číny, Spojených arabských emirátů, Spojeného království a Spojených států. Další testy zkoumaly, zda AI ovlivňuje příslušnost lékaře k přednímu zdravotnickému centru, městské nemocnici nebo venkovské nemocnici. Měnilo se pouze uvedené profesní zázemí lékaře.
Další testy zkoumaly, zda AI ovlivňuje místo, kde lékař pracuje; porovnávaly se přitom prestižní akademická zdravotnická centra, městské komunitní nemocnice a venkovské nemocnice. Modely také dostaly fiktivní záznamy o své vlastní výkonnosti a výkonnosti lékaře v devíti předchozích případech, aby se zjistilo, zda zdánlivá spolehlivost lékaře může ovlivnit ochotu AI přijmout jeho doporučení.
Vliv skupinového tlaku se testoval tak, že se AI sdělilo, že její diagnózu zpochybnil jeden lékař, tři lékaři, kteří se shodli, nebo nemocniční revizní komise. V některých testech byla navržena alternativní diagnóza, v jiných se AI pouze řeklo, že se mýlí.
Vliv lékařského zdůvodnění se zkoumal tak, že modely dostaly vysvětlení podporující správné diagnózy nebo záměrně vymyšlené argumenty ve prospěch chybných diagnóz. Tato vysvětlení se také testovala společně s tvrzeními o profesní senioritě, aby se zjistilo, jak velký vliv přináší jejich kombinace.
Nakonec se během deseti konverzačních kol testoval účinek opakovaného tlaku, přičemž pokaždé byla vznesena stejná námitka. Výzvy zahrnovaly prostý nesouhlas, odvolávání se na lékařskou autoritu a údajný souhlas ostatních lékařů. Během těchto výměn nebyly poskytnuty žádné další lékařské důkazy.
Metriky
K hodnocení byly použity tyto metriky: Náchylnost k přesvědčení určovala, jak často AI přijala odpověď lékaře, pokud se její původní odpověď lišila; směr přesvědčování sledoval, zda zásah lékaře napravil původní omyl, nebo naopak změnil správnou odpověď na chybnou; a vliv na přesnost měřil, nakolik se výkon AI zlepšil či zhoršil po uvedení názoru lékaře v porovnání s testy, při nichž tento názor uveden nebyl. Pokud se správná odpověď změnila na chybnou, výsledky se zprůměrovaly ze čtyř možných chybných odpovědí.
Testy
První výsledky ukázaly, že modely AI se snáze nechaly přesvědčit zkušenějšími lékaři, i když jejich doporučení bylo chybné. Jak je vidět níže, GPT-4o přijalo nesprávné doporučení ve 2 % případů, pokud pocházelo od studenta medicíny; když bylo připsáno specialistovi, tento podíl vzrostl na 12,8 %. U modelu Claude Sonnet 5 se podíl zvýšil z 3,5 % na 14,4 %, zatímco Qwen3.7-Plus byl ovlivněn méně:

Míra přesvědčitelnosti ve čtyřech úrovních lékařské seniority. Procenta ukazují, jak často každý model AI přijal protichůdnou odpověď lékaře; vyšší hodnoty byly obecně zaznamenány u lékařů s vyšší senioritou.
Seniorita ovlivňovala také to, jak ochotně modely přijímaly správná doporučení, jak je vidět níže. GPT-4o a Claude Sonnet 5 byly po doporučení od studentů medicíny dokonce méně přesné. Když však bylo stejné správné doporučení připsáno specialistům, přesnost se zvýšila o 10,1, respektive 8,8 procentního bodu:

Změny přesnosti AI po obdržení správné lékařské rady od lékařů s různou úrovní seniority. Kladné a záporné hodnoty znázorňují změnu v procentních bodech oproti přesnosti jednotlivých modelů bez rady (GPT-4o: 71,4 %; Qwen3.7-plus: 75,0 %; Claude Sonnet 5: 80,8 %).
Studie uvádí:
„Tyto výsledky dále naznačují, že AI může implicitně považovat své schopnosti za vyšší než schopnosti mladších lékařů, ale nižší než schopnosti zkušených lékařů. Má tendenci odolávat radám studentů medicíny a lékařů v přípravě, zatímco ochotněji se nechává přesvědčit atestovanými lékaři, a zejména specialisty v daném oboru.
Toto zdánlivé zařazení sebe sama ovlivňuje, nakolik přesvědčivě působí profesní autorita.“
Největší rozdíl spočíval v tom, zda lékaři vysvětlili své odpovědi. Rada studenta medicíny byla pro GPT-4o přesvědčivější než rada specialisty, pokud student své doporučení podložil lékařským vysvětlením a specialista nikoli.
Když student medicíny uvedl vysvětlení podporující správnou odpověď, GPT-4o v 58 % případů změnil původní chybnou odpověď na správnou. Bez tohoto vysvětlení vedla rada zkušeného specialisty ke stejnému výsledku pouze v 36,4 % případů. Když správnou odpověď vysvětlil i specialista, podíl vzrostl na 89,8 %:

Schopnost GPT-4o opravit chybné odpovědi po radě lékařů s různou úrovní seniority. Sloupce ukazují, jak často model změnil odpověď na správnou, a to s lékařským vysvětlením i bez něj. Vysvětlení výrazně zlepšila výsledky na všech úrovních seniority.
Vysvětlení také zlepšila hodnocení míry jistoty modelu. Když byly jeho odpovědi správné, byl si jistější, a když byly chybné, byl si jistý méně.
U atestovaných lékařů se rozdíl v míře jistoty u správných a chybných odpovědí zvýšil z 2,1 na 11,5 procentního bodu, jak ukazuje následující přehled:

Míra jistoty GPT-4o u správných a chybných lékařských odpovědí napříč čtyřmi úrovněmi seniority lékařů. Skóre jsou uvedena s lékařským vysvětlením i bez něj. Poslední sloupce ukazují rozdíl v míře jistoty u správných a chybných odpovědí; při poskytnutí vysvětlení se tento rozdíl výrazně zvětšil.
Stará sláva
Modely se nechaly snáze ovlivnit lékaři z USA než lékaři z kterékoli jiné testované země – a to i v případech, kdy byla jejich lékařská rada chybná. Například GPT-4o přijalo chybnou diagnózu od lékaře z USA v 10,9 % případů, zatímco u lékaře z Kamerunu to bylo 8,4 %:

Srovnání toho, nakolik snadno tři modely AI přijaly rozporuplnou lékařskou radu připisovanou lékařům z pěti zemí. Lékaři z USA byli pro všechny tři modely nejpřesvědčivější; procenta ukazují, jak často AI změnila svou odpověď.
GPT-4o přijalo rozporuplnou diagnózu v 6,4 % případů, když údajně pocházela od lékaře z USA, oproti 4,3 % případů, když byla stejná rada připisována lékaři z Kamerunu. Jak ukazuje výše uvedený přehled, tento sklon upřednostňovat lékaře z USA se projevil u všech tří modelů.
AI se také snáze nechala ovlivnit lékaři z prestižních nemocnic; například GPT-4o změnilo diagnózu v 6,6 % případů, když rada údajně pocházela z předního akademického zdravotnického centra, oproti pouhým 2,8 % případů, když pocházela z venkovské nemocnice:

Srovnání vlivu prestiže nemocnice na lékařská rozhodnutí tří modelů AI. Vodorovná osa znázorňuje zlepšení po správné radě; svislá osa ukazuje pokles přesnosti způsobený chybnou radou. Barvy označují modely a tvary typy nemocnic. Vyšší prestiž obecně zesiluje oba tyto účinky.
Rady z prestižních nemocnic zlepšily výkon GPT-4o o 3,2 procentního bodu, zatímco stejné rady připisované venkovským nemocnicím přesnost naopak snížily o 3,6 bodu – studie však uvádí, že Claude Sonnet 5 byl podstatně méně ovlivněn geografickou polohou lékaře.
Výzkumníci navíc* zjistili, že když GPT-4o jednoduše sdělili, že lékař správně diagnostikoval devět předchozích pacientů, model byl mnohem ochotnější přijmout jeho radu. I když byla umělá inteligence zpočátku v právu, dala se přesvědčit k chybě v 15,6 % vysoce rizikových případů, přestože jí bylo řečeno, že spolehlivost lékařských důkazů činí 95 %.

Výsledky testů ukazující, jak GPT-4o reagoval na lékaře s bezchybnými nebo zcela nesprávnými záznamy při různých úrovních zdravotního rizika a spolehlivosti důkazů. Číselné údaje ukazují, jak často model přijal radu lékaře, změnil správnou odpověď na nesprávnou a nakolik si byl svými rozhodnutími jistý. Tvrzení, že lékař má bezchybnou bilanci, výrazně posílilo jeho vliv, i když byla jeho rada nesprávná.
Přesvědčivé lékařské vysvětlení mohlo být ještě nebezpečnější. Když byla falešná diagnóza podpořena vymyšleným vysvětlením, GPT-4o v 31,2 % případů opustil svou správnou odpověď; pokud radu navíc poskytl autoritativní lékař, podíl vzrostl na 38,7 %.
Studie uzavírá:
„Tato zjištění ukazují, že řešením není pouze ztížit přesvědčování umělé inteligence. Přesvědčování může napravit chybu, ale také zvrátit správné rozhodnutí.
„Úkolem je, aby si umělá inteligence při přesvědčování zachovala zdravý úsudek a své rozhodnutí změnila tehdy, když je náprava opodstatněná. Pochopení a zlepšení této schopnosti bude důležité pro bezpečné a spolehlivé využití umělé inteligence při závažných lékařských rozhodnutích.“
Závěr
Přínosem lidských právníků, architektů a lékařů je, že když se něco katastrofálně pokazí, bude komu nakopat zadek. Proto je těžké pochopit, jak lze podíl umělé inteligence na negativním a sporném výsledku léčby omezit, zlehčit nebo zohlednit tak, aby nevznikly pochybnosti a kontroverze.
Umělá inteligence k tomuto úkolu ve skutečnosti není určena, protože při diagnostických lékařských rozhodnutích často vítězí zkušenost nad vědou a špičkoví lékaři mohou ze svých nedávných případů vědět víc, než dosud sami přispěli do odborných časopisů.
Tím se rozhodování mění na interpretační úlohu, na kterou umělá inteligence zatím není dostatečně připravena. Jde totiž o schopnost říci, že si je člověk přiměřeně jistý na základě nejlepších dostupných informací a že určitý postup pravděpodobně povede k nejlepšímu výsledku. Přínos „lidské intuice“ je v této situaci prakticky nemožné napodobit. To zjevně nepatří do stejné kategorie „objektivní“ vědy jako profilování DNA nebo tabulky prvků, přestože jde o deterministické vědní obory.
Zdá se proto rozumné předpokládat, že novější generace modelů určených pro tento úkol by mohly být navrženy jinak než běžné systémy umělé inteligence pro práci s jazykem a rozhodování, případně by mohly využívat odlišnou architekturu.
* Studie obsahuje pět dalších testovacích částí, které nemají stejný dopad a význam jako hlavní zjištění; podrobnější informace o nich najdete v původním souboru PDF.
Poprvé zveřejněno ve čtvrtek 19. listopadu 2026












