Andersons vinkel
Den letpåvirkelige AI-læge

NøglepunkterAI-modeller accepterer forkert medicinsk rådgivning langt lettere, når den kommer fra…
Vis mere
- AI-modeller accepterer forkert medicinsk rådgivning langt lettere, når den kommer fra en specialist, end når den kommer fra en medicinstuderende.
- En opdigtet forklaring, der støtter en forkert diagnose, kan tilsidesætte et korrekt AI-svar, selv uden ægte beviser.
- At gøre AI sværere at overbevise er ikke løsningen, fordi overbevisning også kan rette ægte fejl.
Overset i 2026: Det er den tid på året, hvor forskningsmiljøets kvalitet og omfang falder og stiger i takt med de sidste konferencer i november og december. For at komme igennem disse sporadiske perioder med få publikationer ser vi nærmere på nogle af de mere interessante artikler, der næsten kom med i 2026, men blev fravalgt i perioder med hårdere konkurrence om pladserne.
Den voksende interesse for AI-beslutningsmodeller skyldes til dels de begrænsninger, som generelle AI-chatbots har når de skal træffe beslutninger. Selv om avancerede AI-tjenester som ChatGPT måske diskret overlader beslutningstagningen til deres egne eller andre beslutningsmodeller i baggrunden, er deres egne vurderinger stadig utroligt lette at manipulere.
For eksempel præsenterer jeg nogle gange flere mulige emner samtidig for ChatGPT, Claude 5.5 og den model, Gemini nu gratis tilbyder den morgen, for at få hjælp til at prioritere, hvilke kandidater jeg skal dække. Jeg ved, hvad jeg kan forvente: GPT og Claude vægter dele af vurderingskriterierne for højt; (gratis) Gemini synes, at alt er fantastisk; og næsten intet er godt nok til Claude.
Når jeg udfordrer GPT 5.6 Sol med en afvigende vurdering fra Claude eller Gemini, giver den næsten altid efter i større eller mindre grad (som regel fuldstændigt). Hvis man præsenterer den for et modstridende eller konkurrerende synspunkt, får det som regel GPT til at ændre sin beslutning fuldstændigt. Når man påpeger, hvor let den lader sig påvirke, vender GPT tilbage til sin tidligere holdning, tilsyneladende fornærmet over beskyldningen. Men selv da kan brugeren stadig få den til at skifte mening efter forgodtbefindende med blot et lille vink.
Claude reagerer omvendt ved at grave sig ned: Hvis man udfordrer dens vurdering, holder den endnu mere fast i den, som om den var bevidst om »formbarhedsproblemet« i AI-debatten og havde fået besked på aldrig at skifte holdning – en temmelig skrøbelig løsning.
En anden stemme melder sig
Men dette er kun delvist underbygget anekdotisk evidens. Anledningen til, at jeg tager det op, er dagens lidt matte udbud på Arxiv, som har fået mig til at vende tilbage til en artikel, der fangede min interesse hen over sommeren, men som vi ikke havde tid til at dække dengang.
Artiklen har titlen AI kan let overtales i kliniske beslutninger. Denne Stanford/Oxford-undersøgelse ser på, hvor let GPT-4o, Claude Sonnet 5 og Qwen3.7-plus kan overtales til at ændre medicinske diagnoser.
Det viser sig, at en læges anciennitet, nationalitet, institutionens prestige og påståede resultater alle kan påvirke modellerne, selv når rådet er forkert. Tal påvirker også modellerne kumulativt: I et forsøg var GPT-4o langt mere tilbøjelig til at acceptere en forkert diagnose, når tre læger var enige om den.
Selv gentagne gange at fortælle AI’en, at den tog fejl, uden at fremlægge nye beviser, kunne til sidst få den til at ændre mening.
I artiklen står der:
‘Vi finder, at faglig autoritet, national baggrund, institutionelt tilhørsforhold, påståede tidligere resultater, flere læger, støttede klinikervurderinger og gentaget pres alle kan påvirke AI-beslutninger.
‘Overraskende nok ændrer den samme overbevisende påvirkning omkring 10 % flere sager, når den kommer fra en erfaren kliniker end fra en medicinstuderende. En simpel påstand om bedre resultater tidligere gør konsekvent lægen mere overbevisende.
‘Endnu mere påfaldende er det, at en plausibel klinikervurdering kan få AI til at opgive en korrekt beslutning, selv når den er opdigtet for at støtte et forkert svar.’
Som en mulig løsning foreslår forfatterne, at AI skal blive bedre til at vurdere evidensen bag en læges råd, så den kan acceptere gyldige korrektioner uden at lade sig påvirke af autoritet, gruppepres eller overbevisende, men falske argumenter.
Hvordan dette skal opnås, er dog stadig et åbent spørgsmål. I 2026 hævder MedStress-rammeværket næsten helt at kunne eliminere problemet med, at AI ændrer diagnoser; en anden publikation fra 2026 fandt (i modstrid med min egen erfaring), at Google Gemini er mest modstandsdygtig over for manipulation af medicinske diagnoser; og en gennemgang fra september 2026 foreslog standardiserede test til at skelne mellem tilfælde, hvor AI med rette ændrer mening, og tilfælde, hvor den giver efter for pres og stiller en forkert diagnose.
Når mere end 80 % af de amerikanske læger bruger AI på en eller anden måde, og branchen tydeligvis er ivrig efter at udvide de diagnostiske muligheder ud over de begrænsede personaleressourcer og den begrænsede dækning, der ofte får overskrifterne, står dette til at blive en af de store hindringer for indførelsen af diagnostisk AI, og spørgsmålet kræver tydeligvis større eller mere effektiv opmærksomhed.
Lad os i mellemtiden se på, hvordan problemet viser sig ifølge Oxford/Stanford-undersøgelsen.
Metode
Til testene blev 308 medicinske spørgsmål hentet fra MedBullets, en samling kliniske cases, der er lige så svære som spørgsmål ved lægelige autorisationseksamener:

Et eksempelscenarie fra MedBullets’ samling af kliniske cases. Kilde
Hvert spørgsmål blev ledsaget af et patientscenarie, fem mulige svar og en forklaring på det korrekte svar. Derefter målte man, hvor ofte AI’en kunne overtales til at opgive et korrekt svar.
De tre AI-modeller, der blev testet, som nævnt tidligere, var GPT-4o, Qwen3.7-Plus og Sonnet 5. De blev hver især instrueret i at fungere som et system til klinisk beslutningsstøtte med det formål at nå frem til den korrekte diagnose på grundlag af de tilgængelige kliniske oplysninger.
I hver case skulle modellerne vælge et svar, angive, om de havde ændret deres oprindelige beslutning, vurdere deres sikkerhed på en skala fra 0 til 100, anbefale det næste skridt og tildele en score for, hvor hurtigt der var behov for yderligere handling. Skalaen gik fra ingen handling til at standse processen og henvise casen til yderligere vurdering. Mislykkede anmodninger blev gentaget for at sikre, at alle planlagte test blev gennemført.
I nogle test fik AI’en en medicinsk case sammen med en læges råd og blev bedt om at stille en diagnose. I andre stillede AI’en først en diagnose, hvorefter lægens råd blev introduceret senere i samtalen. Testene undersøgte også, om det var muligt at overtale modellen til at ændre en korrekt diagnose til en forkert, eller om en indledende fejl kunne rettes.
Autoritetspersoner
De samme lægefaglige råd blev præsenteret som råd fra læger med forskellig anciennitet, fra medicinstuderende til speciallæger. Diagnosen og patientoplysningerne blev holdt uændrede, så man kunne måle indflydelsen fra den faglige autoritet.
Rådene blev også tilskrevet læger fra Cameroun, Kina, De Forenede Arabiske Emirater, Storbritannien og USA. Yderligere test undersøgte, om AI’en blev påvirket af, om en læge var tilknyttet et førende medicinsk center, et byhospital eller et hospital i et landområde. Kun oplysningerne om lægens baggrund blev ændret.
Yderligere test undersøgte, om AI’en blev påvirket af hvor en læge arbejdede, ved at sammenligne anerkendte akademiske lægecentre, lokale hospitaler i byområder og hospitaler i landområder. Modellerne fik også fiktive optegnelser over deres egen og lægens præstation i ni tidligere cases for at undersøge, om lægens tilsyneladende pålidelighed kunne påvirke AI’ens villighed til at følge rådene.
Indflydelsen fra gruppepres blev undersøgt ved at fortælle AI’en, at dens diagnose var blevet anfægtet af én læge, tre læger, der var enige, eller et hospitalsudvalg. I nogle tests blev der foreslået en alternativ diagnose; i andre fik AI’en blot at vide, at den tog fejl.
Indflydelsen fra lægefaglige begrundelser blev undersøgt ved at give modellerne forklaringer, der understøttede korrekte diagnoser, eller bevidst opdigtede argumenter, der støttede forkerte diagnoser. Forklaringerne blev også testet sammen med påstande om høj faglig anciennitet for at fastslå, hvor stor indflydelse kombinationen havde.
Til sidst blev virkningen af gentaget pres testet over ti samtalerunder, hvor den samme indvending blev fremsat hver gang. Udfordringerne omfattede simpel uenighed, påberåbelse af lægefaglig autoritet og påstået enighed blandt andre læger. Der blev ikke fremlagt yderligere lægefaglige oplysninger under disse udvekslinger.
Målinger
Som måleparametre blev modtagelighed for overtalelse brugt til at vurdere, hvor ofte AI’en overtog en læges svar, når det afveg fra AI’ens oprindelige svar; overtalelsens retning til at undersøge, om lægens indblanding rettede en indledende fejl eller fik et korrekt svar til at blive forkert; og effekt på nøjagtigheden til at måle, hvor meget AI’ens præstation blev forbedret eller forringet, når en læges vurdering blev introduceret (sammenlignet med test uden denne vurdering). Når et korrekt svar blev ændret til et forkert, blev resultaterne beregnet som gennemsnittet af de fire mulige forkerte svar.
Test
De første resultater viste, at AI-modellerne lettere lod sig overtale af læger med højere anciennitet, selv når deres råd var forkerte. Som vist nedenfor accepterede GPT-4o forkerte råd i 2 % af tilfældene, når rådene kom fra en medicinstuderende. Andelen steg til 12,8 %, når rådene blev tilskrevet en speciallæge. For Claude Sonnet 5 steg andelen fra 3,5 % til 14,4 %, mens Qwen3.7-Plus var mindre påvirket:

Overtalelsesrater for fire niveauer af lægefaglig anciennitet. Procenterne viser, hvor ofte hver AI-model accepterede et modstridende svar fra en læge. Raterne var generelt højere for læger med større anciennitet.
Anciennitet påvirkede også, hvor let korrekte råd blev accepteret, som vist nedenfor. GPT-4o og Claude Sonnet 5 blev faktisk mindre nøjagtige, når de fik råd fra medicinstuderende. Men når de samme korrekte råd blev tilskrevet speciallæger, blev nøjagtigheden henholdsvis 10,1 og 8,8 procentpoint højere:

Ændringer i AI’ens nøjagtighed, når den får korrekt lægefaglig rådgivning fra læger på forskellige erfaringsniveauer. Positive og negative værdier viser ændringen i procentpoint i forhold til hver models nøjagtighed uden rådgivning (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).
Artiklen fastslår:
‘Disse resultater tyder desuden på, at AI implicit kan vurdere sine egne evner som bedre end yngre klinikeres, men dårligere end erfarne lægers. Den har en tendens til at afvise råd fra medicinstuderende og yngre læger under uddannelse, mens den i højere grad lader sig overbevise af speciallæger og især specialister inden for det pågældende fagområde.
‘Denne tilsyneladende selvplacering påvirker, hvor stærkt faglig autoritet virker overbevisende.’
Den største forskel afhang af, om lægerne forklarede deres svar. Selv en medicinstuderendes råd overbeviste GPT-4o mere end en specialists, hvis den studerende gav en lægefaglig forklaring, og specialisten ikke gjorde det.
Når en medicinstuderende forklarede, hvorfor det korrekte svar var rigtigt, ændrede GPT-4o sit oprindeligt forkerte svar til det rigtige i 58% af tilfældene. Uden forklaringen førte råd fra en erfaren speciallæge kun til dette i 36.4% af tilfældene. Når specialisten også forklarede det korrekte svar, steg andelen til 89.8%:

GPT-4o’s evne til at rette forkerte svar efter råd fra læger på forskellige erfaringsniveauer. Søjlerne viser, hvor ofte modellen ændrede sit svar til det korrekte, med og uden en understøttende lægefaglig forklaring. Forklaringer forbedrede resultaterne markant på alle erfaringsniveauer.
Forklaringerne forbedrede også modellens vurdering af sin egen sikkerhed. Den blev mere sikker, når dens svar var korrekte, og mindre sikker, når de var forkerte.
For speciallæger steg forskellen i sikkerhed mellem korrekte og forkerte svar fra 2.1 til 11.5 procentpoint, som vist nedenfor:

GPT-4o’s sikkerhed i korrekte og forkerte lægefaglige svar på tværs af fire erfaringsniveauer blandt læger. Resultaterne vises med og uden en understøttende lægefaglig forklaring. De sidste kolonner viser forskellen i sikkerhed mellem korrekte og forkerte svar, som steg markant, når der blev givet forklaringer.
Old Glory
Modellerne lod sig lettere påvirke af amerikanske læger end af læger fra noget andet testet land – selv når deres lægefaglige råd var forkerte. GPT-4o accepterede for eksempel en forkert diagnose fra en læge fra USA i 10.9% af tilfældene mod 8.4% for en læge fra Cameroun:

Sammenligning af, hvor let tre AI-modeller lod sig påvirke af modstridende lægefaglige råd, der blev tilskrevet læger fra fem lande. Amerikanske læger var mest overbevisende for alle tre modeller; procenterne viser, hvor ofte AI’en ændrede sit svar.
GPT-4o accepterede en modstridende diagnose i 6.4% af tilfældene, når den angiveligt kom fra en læge fra USA, mod 4.3%, når det samme råd blev tilskrevet en læge fra Cameroun. Alle tre modeller foretrak amerikanske læger, som vist ovenfor.
AI’en lod sig også lettere påvirke af læger fra prestigefyldte hospitaler; GPT-4o ændrede for eksempel sin diagnose i 6.6% af tilfældene, når rådet angiveligt kom fra et førende universitetsmedicinsk center, mod blot 2.8%, når det kom fra et hospital i et landområde:

Sammenligning af, hvordan hospitalers prestige påvirker de tre AI-modellers lægefaglige beslutninger. Den vandrette akse viser forbedringer som følge af korrekte råd; den lodrette akse viser tab af nøjagtighed som følge af forkerte råd. Farverne angiver modellerne, og symbolerne angiver hospitalstyperne. Større prestige øger generelt begge effekter.
Råd fra hospitaler med høj prestige forbedrede GPT-4o’s præstation med 3,2 procentpoint, mens de samme råd, når de blev tilskrevet hospitaler i landdistrikter, faktisk sænkede nøjagtigheden med 3,6 point – selvom artiklen bemærker, at Claude Sonnet 5 i betydeligt mindre grad blev påvirket af lægens geografiske placering.
Derudover* fandt forskerne, at GPT-4o var langt mere tilbøjelig til at følge en læges råd, hvis den blot fik at vide, at lægen tidligere havde stillet korrekte diagnoser hos ni patienter. Selv når AI’en i første omgang havde ret, kunne den overtales til at begå en fejl i 15,6 % af højrisikotilfældene, selvom den fik at vide, at den medicinske evidens var 95 % pålidelig.

Testresultater, der viser, hvordan GPT-4o reagerede på læger med enten fejlfri eller helt ukorrekte journaler ved forskellige niveauer af medicinsk risiko og evidensens pålidelighed. Tallene viser, hvor ofte modellen fulgte lægens råd, ændrede et korrekt svar til et forkert og hvor sikker den var på sine beslutninger. En påstået fejlfri journal øgede lægens indflydelse markant, selv når rådet var forkert.
En overbevisende medicinsk forklaring kunne være endnu farligere. Når en falsk diagnose blev understøttet af en opdigtet forklaring, opgav GPT-4o sit korrekte svar i 31,2 % af tilfældene. Andelen steg til 38,7 %, når rådet også kom fra en læge med autoritet.
Artiklen konkluderer:
‘Disse resultater viser, at løsningen ikke blot er at gøre AI sværere at overtale. Overtalelse kan rette en fejl, men den kan også få en korrekt beslutning til at blive ændret.
‘Udfordringen er at få AI til at bevare sin sunde dømmekraft, når den bliver forsøgt overtalt, og ændre sin beslutning, når det er berettiget at korrigere den. Det bliver vigtigt at forstå og forbedre denne evne, hvis AI skal anvendes sikkert og pålideligt i medicinske beslutninger med store konsekvenser.’
Konklusion
Værdien af menneskelige advokater, arkitekter og læger er, at der er nogen at holde ansvarlig, hvis noget går katastrofalt galt. Det er derfor svært at forstå, i hvilket omfang AI’s medvirken i et negativt, omstridt medicinsk udfald kan begrænses, nedtones eller tages højde for uden uenighed og kontrovers.
AI er ikke rigtig udviklet til denne opgave, eftersom medicinske diagnostiske beslutninger ofte er en sejr for erfaringen over videnskaben, og læger i frontlinjen muligvis ved mere fra deres seneste patientforløb, end de endnu har bidraget med til tidsskrifter.
Det gør beslutningssituationen fortolkende – en type opgave, som AI i øjeblikket ikke er særlig godt rustet til at håndtere. Det vil sige, at den indebærer evnen til at sige, at man med rimelig sikkerhed, ud fra de bedst tilgængelige oplysninger, kan fastslå, at en given handlingsplan sandsynligvis vil føre til det bedste resultat. Værdien af ‘menneskelig intuition’ er i praksis umulig at efterligne i denne situation. Dette er tydeligvis ikke samme slags ‘objektive’ videnskab som DNA-profilering eller tabeller over grundstoffer, selvom den hører hjemme i deterministiske videnskabsdiscipliner.
Derfor virker det rimeligt at tro, at nyere generationer af modeller, der er rettet mod denne opgave, måske vil blive udformet på en anden måde eller endda have en anden arkitektur end konventionelle AI-baserede tilgange og beslutningsmotorer.
* Artiklen indeholder fem yderligere testafsnit, som ikke har samme betydning og relevans som de mest fremtrædende resultater. Jeg henviser læseren til den oprindelige PDF for flere detaljer om disse.
Først offentliggjort torsdag den 19. november 2026












