Andersons vinkel
Den lett påvirkelige KI-legen

Viktige punkterAI-modeller godtar feil medisinsk råd langt lettere når det kommer fra en spesialist…
Vis mer
- AI-modeller godtar feil medisinsk råd langt lettere når det kommer fra en spesialist enn fra en medisinstudent.
- En oppdiktet forklaring som støtter en feil diagnose kan overstyre et korrekt AI-svar selv uten ekte bevis.
- Å gjøre AI vanskeligere å overtale er ikke løsningen, fordi overtalelse også kan rette opp ekte feil.
Gikk under radaren i 2026: Det er den tiden på året da forskningsmiljøet får svingninger i både kvalitet og omfang, i takt med de siste konferansene i november og desember. For å komme oss gjennom disse sporadiske tørkeperiodene ser vi nærmere på noen av de mer interessante artiklene som nesten kom med i 2026, men som ble forbigått av andre arbeider i perioder med hardere konkurranse om plassene.
Den økende interessen for KI-beslutningsmodeller skyldes delvis begrensningene ved KI-chatboter for allmenn bruk når de skal ta beslutninger. Selv når banebrytende KI-tjenester som ChatGPT diskret kan «sette bort» beslutningsoppgaver til egne eller andre beslutningsmodeller i bakgrunnen, er tjenestens egne vurderinger fortsatt svært lette å villede.
For eksempel presenterer jeg av og til flere aktuelle kandidater samtidig for ChatGPT, Claude 5.5 og den modellen Gemini tilbyr gratis den morgenen, for å få hjelp til å prioritere dem. Jeg vet hva jeg kan vente meg: GPT og Claude legger for stor vekt på enkelte deler av vurderingskriteriene; (gratisversjonen av) Gemini synes alt er bra; og praktisk talt ingenting er godt nok for Claude.
Når jeg utfordrer GPT 5.6 Sol med Claude eller Geminis avvikende standpunkt, gir den etter nesten hver gang, i større eller mindre grad (som regel fullstendig). Et motstridende eller konkurrerende standpunkt får vanligvis GPT til å snur helt om på beslutningen. Når man påpeker hvor lett den lar seg påvirke, går GPT tilbake til sitt tidligere standpunkt, tilsynelatende fornærmet over beskyldningen. Likevel kan den fortsatt fås til å skifte standpunkt etter ønske, selv da, med bare et lite hint fra brukeren.
Claude gjør derimot gjerne det motsatte og holder fast ved sitt standpunkt: Hvis man utfordrer vurderingen, graver den seg enda dypere ned, som om den var klar over «påvirkelighetsproblemet» i KI-debatten og hadde fått beskjed om aldri å skifte standpunkt – en ganske skjør løsning.
Et annet land melder seg på
Men dette er bare anekdotiske erfaringer med begrenset støtte. Bakgrunnen for at jeg tar det opp, er dagens litt skuffende arXiv-publikasjoner, som har fått meg til å vende tilbake til en artikkel jeg syntes var interessant i sommer, men som vi ikke rakk å dekke da.
Artikkelen har tittelen KI lar seg lett overtale i kliniske beslutninger. Denne studien fra Stanford og Oxford undersøker hvor lett GPT-4o, Claude Sonnet 5 og Qwen3.7-plus kan overtales til å endre medisinske diagnoser.
Det viser seg at legens ansiennitet, nasjonalitet, institusjonens prestisje og oppgitte meritter alle kan påvirke modellene, selv når rådet er feil. Tall har også en kumulativ innvirkning: I ett eksperiment var GPT-4o langt mer villig til å godta en feilaktig diagnose når tre leger var enige om den.
Selv gjentatte ganger å fortelle KI-en at den tok feil, uten å legge fram nye bevis, kunne til slutt få den til å ombestemme seg.
I artikkelen står det:
«Vi finner at faglig autoritet, nasjonal bakgrunn, institusjonstilknytning, oppgitte tidligere resultater, flere leger, støttende klinikervurderinger og gjentatt press alle kan påvirke KI-beslutninger.
«Overraskende nok endrer det samme overtalelsesforsøket utfallet i rundt 10 % flere tilfeller når det kommer fra en erfaren kliniker enn fra en medisinstudent. Det å hevde at man har bedre resultater fra tidligere, gjør konsekvent legen mer overbevisende.
«Enda mer påfallende er det at en plausibel vurdering fra en kliniker kan overtale KI-en til å gå bort fra en riktig beslutning, selv når vurderingen er fabrikert for å støtte et feilaktig svar.»
Som et mulig tiltak foreslår forfatterne at KI må bli bedre til å vurdere dokumentasjonen som ligger bak en leges råd, slik at den kan godta gyldige korrigeringer uten å la seg påvirke av autoritet, gruppepress eller overbevisende, men uriktige argumenter.
Hvordan dette skal oppnås, er imidlertid fortsatt et åpent spørsmål. MedStress-rammeverket fra 2026 hevder å nesten fullstendig eliminere problemet med at KI endrer diagnoser. Et annet arbeid fra 2026 fant, i motsetning til min egen erfaring, at Google Gemini er mest motstandsdyktig mot manipulering av medisinske diagnoser. Og en gjennomgang fra september 2026 foreslo standardiserte tester for å skille mellom tilfeller der KI med rette ombestemmer seg, og tilfeller der den gir etter for press og stiller en feilaktig diagnose.
Når mer enn 80 % av amerikanske leger bruker KI på en eller annen måte, og bransjen tydelig ønsker å utvide de diagnostiske mulighetene utover den begrensede bemanningen og dekningen som ofte får overskrifter, ligger dette an til å bli en av de største hindringene for innføringen av diagnostisk KI. Det er tydelig at problemet krever mer oppmerksomhet eller mer effektive tiltak.
I mellomtiden kan vi se nærmere på hvordan problemet kommer til uttrykk, ifølge studien fra Oxford og Stanford.
Metode
Til testene hentet man 308 medisinske spørsmål fra MedBullets, en samling kliniske kasus som er omtrent like vanskelige som spørsmålene på medisinske autorisasjonsprøver:

Et eksempel fra MedBullets’ samling av kliniske kasus. Kilde
Hvert spørsmål ble ledsaget av et pasientscenario, fem mulige svar og en forklaring på det riktige svaret. Deretter målte man hvor ofte AI-en kunne overtales til å oppgi et riktig svar.
De tre AI-modellene som ble testet, som nevnt tidligere, var GPT-4o, Qwen3.7-Plus og Sonnet 5. Alle fikk beskjed om å fungere som beslutningsstøtte for medisinske vurderinger, med mål om å stille riktig diagnose ut fra de tilgjengelige kliniske bevisene.
I hvert kasus måtte modellene velge et svar, oppgi om de hadde endret sin opprinnelige vurdering, vurdere egen sikkerhet på en skala fra 0 til 100, anbefale hva som burde gjøres videre og tildele en skår for hvor raskt det var behov for ytterligere tiltak – fra ingen tiltak til å stanse prosessen og henvise kasuset til videre vurdering. Forespørsler som mislyktes, ble gjentatt for å sikre at alle planlagte tester ble gjennomført.
I noen tester fikk AI-en et medisinsk kasus sammen med råd fra en lege og ble bedt om å stille en diagnose. I andre stilte AI-en først en diagnose, før legens råd ble introdusert senere i samtalen. Testene undersøkte også om overtalelse kunne få AI-en til å endre en riktig diagnose til en feil diagnose, eller om en opprinnelig feil kunne rettes.
Autoritetspersoner
De samme medisinske rådene ble presentert som om de kom fra leger med ulik ansiennitet, fra medisinstudenter til spesialister. Diagnosen og pasientopplysningene ble holdt uendret, slik at man kunne måle hvilken innflytelse faglig autoritet hadde.
Rådene ble også tilskrevet leger fra Kamerun, Kina, De forente arabiske emirater, Storbritannia og USA. I ytterligere tester undersøkte man om AI-en ble påvirket av legens tilknytning til et ledende medisinsk senter, et bysykehus eller et sykehus på landsbygda. Det var bare den oppgitte bakgrunnen til legen som ble endret.
Ytterligere tester undersøkte om AI-en ble påvirket av hvor legen arbeidet, ved å sammenligne prestisjefylte akademiske medisinske sentre, lokale sykehus i byer og sykehus på landsbygda. Modellene fikk også fiktive journaler over sine egne og legens resultater i ni tidligere kasus, for å undersøke om legens tilsynelatende pålitelighet kunne påvirke hvor villig AI-en var til å følge rådene.
Innflytelsen fra gruppepress ble testet ved å fortelle AI-en at diagnosen var blitt bestridt av én lege, tre leger som var enige, eller en sykehuskomité for vurdering. I noen tester ble en alternativ diagnose foreslått; i andre fikk AI-en bare beskjed om at den tok feil.
Innflytelsen fra medisinsk resonnement ble undersøkt ved å gi modellene forklaringer som støttet riktige diagnoser, eller bevisst oppdiktede argumenter som støttet feil diagnoser. Forklaringene ble også testet sammen med påstander om høyere faglig ansiennitet, for å fastslå hvor stor innflytelse kombinasjonen av disse hadde.
Til slutt ble virkningen av gjentatt press testet gjennom ti samtalerunder, der den samme innvendingen ble presentert hver gang. Utfordringene besto av enkel uenighet, påstander om medisinsk autoritet og påstått enighet blant andre leger. Det ble ikke lagt fram ytterligere medisinsk dokumentasjon under disse samtalene.
Måleparametere
Som måleparametere brukte man mottakelighet for overtalelse for å vurdere hvor ofte AI-en tok i bruk legens svar når det var forskjellig fra AI-ens opprinnelige svar; retningen på påvirkningen for å undersøke om legens innspill rettet en opprinnelig feil eller fikk et riktig svar til å bli feil; og effekt på nøyaktigheten for å måle hvor mye AI-ens ytelse ble forbedret eller forverret da en leges vurdering ble lagt til (sammenlignet med tester uten denne vurderingen). Når et riktig svar ble endret til et feil svar, ble resultatene gjennomsnittsberegnet på tvers av de fire mulige feilaktige svarene.
Tester
De første resultatene viste at AI-modellene lettere lot seg overtale av leger med høyere ansiennitet, selv når rådene deres var feil. Som vist nedenfor godtok GPT-4o feilaktige råd i 2 % av tilfellene når rådene kom fra en medisinstudent, og i 12,8 % når de ble tilskrevet en spesialist. For Claude Sonnet 5 økte andelen fra 3,5 % til 14,4 %, mens Qwen3.7-Plus var mindre påvirket:

Overtalelsesrater for fire nivåer av medisinsk ansiennitet. Prosentene viser hvor ofte hver AI-modell godtok et motstridende svar fra en lege. Generelt var ratene høyere når rådene kom fra klinikere med lengre ansiennitet.
Ansiennitet påvirket også hvor lett modellene godtok riktige råd, som vist nedenfor. GPT-4o og Claude Sonnet 5 ble faktisk mindre nøyaktige når de fikk råd fra medisinstudenter. Da de samme riktige rådene ble tilskrevet spesialister, økte imidlertid nøyaktigheten med henholdsvis 10,1 og 8,8 prosentpoeng:

Endringer i KI-enes treffsikkerhet når de får riktige medisinske råd fra leger med ulik ansiennitet. Positive og negative verdier viser endringer i prosentpoeng sammenlignet med hver modells treffsikkerhet uten råd (GPT-4o: 71.4 %; Qwen3.7-plus: 75.0 %; Claude Sonnet 5: 80.8 %).
I artikkelen står det:
‘Disse resultatene tyder også på at KI-en kanskje implisitt vurderer sine egne evner som bedre enn yngre legers, men dårligere enn seniorlegers. Den har en tendens til å stå imot medisinstudenter og leger i spesialisering, samtidig som den lettere lar seg overbevise av overleger og særlig fagspesialister.
‘Denne tilsynelatende selvposisjoneringen påvirker hvor sterkt faglig autoritet virker overbevisende.’
Den største forskjellen kom av om legene forklarte svarene sine. Rådene fra en medisinstudent var mer overbevisende for GPT-4o enn rådene fra en spesialist, dersom studenten ga en medisinsk forklaring og spesialisten ikke gjorde det.
Når en medisinstudent ga en forklaring som støttet det riktige svaret, endret GPT-4o det opprinnelige gale svaret til det riktige i 58 % av tilfellene. Uten denne forklaringen førte råd fra en erfaren spesialist til dette i bare 36.4 % av tilfellene. Når spesialisten også forklarte det riktige svaret, steg andelen til 89.8 %:

GPT-4o-modellens evne til å rette gale svar etter råd fra leger med ulik ansiennitet. Stolpene viser hvor ofte modellen endret svaret til det riktige, med og uten en medisinsk forklaring som støttet rådet. Forklaringer ga betydelig bedre resultater på alle ansiennitetsnivåer.
Forklaringene forbedret også modellens vurdering av egen sikkerhet. Den ble sikrere når svarene var riktige, og mindre sikker når de var gale.
For overleger økte forskjellen i sikkerhet mellom riktige og gale svar fra 2.1 til 11.5 prosentpoeng, som vist nedenfor:

GPT-4o-modellens sikkerhet på riktige og gale medisinske svar på fire nivåer av legeansiennitet. Skårene vises med og uten en medisinsk forklaring som støtter rådet. De siste kolonnene viser forskjellen i sikkerhet mellom riktige og gale svar, som økte betydelig når forklaringer ble gitt.
Old Glory
Modellene lot seg lettere påvirke av amerikanske leger enn av leger fra noe annet land som ble undersøkt – selv når de medisinske rådene deres var gale. GPT-4o godtok for eksempel en feilaktig diagnose fra en amerikansk lege i 10.9 % av tilfellene, sammenlignet med 8.4 % for en lege fra Kamerun:

Sammenligning av hvor lett tre KI-modeller godtok motstridende medisinske råd som ble tilskrevet leger fra fem land. Amerikanske leger var mest overbevisende for alle tre modellene; prosentene viser hvor ofte KI-en endret svaret sitt.
GPT-4o godtok en motstridende diagnose i 6.4 % av tilfellene når den angivelig kom fra en amerikansk lege, sammenlignet med 4.3 % når det samme rådet ble tilskrevet en lege fra Kamerun. Preferansen for amerikanske leger ble observert for alle tre modellene, som vist ovenfor.
KI-en lot seg også lettere påvirke av leger fra prestisjetunge sykehus; GPT-4o endret for eksempel diagnosen sin i 6.6 % av tilfellene når rådet angivelig kom fra et ledende akademisk medisinsk senter, sammenlignet med bare 2.8 % når det kom fra et sykehus på landsbygda:

Sammenligning av hvordan sykehusenes prestisje påvirker de medisinske beslutningene til de tre KI-modellene. Den vannrette aksen viser forbedringer etter riktige råd; den loddrette aksen viser hvor mye treffsikkerheten sank etter gale råd. Fargene viser modellene, og formene viser sykehustypene. Høyere prestisje øker som regel begge effektene.
Råd fra prestisjetunge sykehus forbedret GPT-4os resultater med 3,2 prosentpoeng, mens de samme rådene, når de ble tilskrevet sykehus på landsbygda, faktisk reduserte nøyaktigheten med 3,6 prosentpoeng – selv om artikkelen påpeker at Claude Sonnet 5 i betydelig mindre grad lot seg påvirke av legens geografiske plassering.
I tillegg* fant forskerne at GPT-4o var langt mer tilbøyelig til å følge legens råd bare ved å få vite at legen hadde stilt riktig diagnose hos ni tidligere pasienter. Selv når KI-en i utgangspunktet hadde rett, kunne den overtales til å gjøre en feil i 15,6 % av tilfellene med høy risiko, til tross for at den fikk vite at de medisinske bevisene var 95 % pålitelige.

Testresultater som viser hvordan GPT-4o reagerte på leger med plettfrie eller fullstendig feilaktige journaler ved ulike nivåer av medisinsk risiko og pålitelighet i bevisgrunnlaget. Tallene viser hvor ofte modellen fulgte legens råd, endret et riktig svar til et feil svar, og hvor sikker den var på beslutningene sine. En oppgitt plettfri journal økte legens innflytelse betydelig, selv når rådet var feil.
En overbevisende medisinsk forklaring kunne være enda farligere. Når en falsk diagnose ble underbygget med en oppdiktet forklaring, forkastet GPT-4o det riktige svaret sitt i 31,2 % av tilfellene. Andelen økte til 38,7 % når rådet i tillegg kom fra en autoritativ lege.
Artikkelen konkluderer:
‘Disse funnene viser at løsningen ikke er å gjøre KI vanskeligere å overtale. Overbevisning kan rette opp en feil, men den kan også få en korrekt beslutning til å bli forkastet.
‘Utfordringen er at KI må opprettholde et godt skjønn når den blir forsøkt overtalt, og endre beslutningen sin når det er grunn til å korrigere den. Det vil være viktig å forstå og forbedre denne evnen for å sikre trygg og pålitelig bruk av KI i medisinske beslutninger med store konsekvenser.’
Konklusjon
Verdien av menneskelige advokater, arkitekter og leger er at det finnes noen å sparke i baken hvis noe går katastrofalt galt. Det er derfor vanskelig å forstå i hvilken grad KIs medvirkning i et negativt og omstridt medisinsk utfall kan begrenses, tillegges mindre vekt eller tas med i vurderingen uten uenighet og kontrovers.
KI er egentlig ikke utviklet for denne oppgaven, ettersom diagnostiske medisinske beslutninger ofte handler mer om erfaring enn om vitenskap, og ledende leger kanskje vet mer fra sine egne nylige erfaringer enn de ennå har rukket å bidra med til faglitteraturen.
Dette gjør beslutningssituasjonen til en fortolkningsoppgave som KI foreløpig ikke er godt rustet til å håndtere. Det vil si at den krever evnen til å si at man er rimelig sikker, basert på den beste tilgjengelige informasjonen, og at en bestemt handlingsmåte sannsynligvis vil føre til det beste utfallet. Verdien av «menneskelig intuisjon» er praktisk talt umulig å gjenskape i denne situasjonen. Dette er åpenbart ikke samme type «objektiv» vitenskap som DNA-profilering eller tabeller over grunnstoffer, selv om det hører hjemme innenfor deterministiske vitenskapelige fagområder.
Derfor virker det rimelig å tro at nyere modellgenerasjoner utviklet for denne oppgaven kan bli utformet på en annen måte, eller til og med få en annen arkitektur, enn konvensjonelle KI-diskurser og beslutningsmotorer.
* Artikkelen inneholder fem ytterligere testdeler som ikke har samme betydning og relevans som hovedfunnene. Jeg viser til original-PDF-en for flere detaljer om disse.
Først publisert torsdag 19. november 2026












