Andersons vinkel

Den lättövertalade AI-läkaren

Martin Anderson
Lägg till Unite.AI bland dina föredragna källor på Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Viktiga punkterAI-modeller accepterar felaktiga medicinska råd mycket lättare när de kommer från en…
Visa mer
  • AI-modeller accepterar felaktiga medicinska råd mycket lättare när de kommer från en specialist än från en medicinstudent.
  • En påhittad förklaring som stöder en felaktig diagnos kan åsidosätta ett korrekt AI-svar även utan genuina bevis.
  • Att göra AI svårare att övertala är inte lösningen eftersom övertalning också kan rätta till genuina fel.

Förbisett 2026: Det är den tiden på året då forskningsscenens kvalitet och omfattning går upp och ner i takt med de sista konferenserna i november och i december. För att ta oss igenom dessa sporadiska perioder av torka ska vi titta närmare på några av de mer intressanta artiklar som nästan kom med 2026, men som fick stå tillbaka för andra arbeten under perioder med hårdare konkurrens om publiceringsutrymmet.

 

Det växande intresset för AI-beslutsmodeller beror delvis på begränsningarna hos AI-chattbotar för allmänna ändamål när de fattar beslut. Även när avancerade AI-tjänster som ChatGPT diskret kan ”delegera” beslutssituationer till egna eller andra beslutsmodeller i bakgrunden är dess egna bedömningar fortfarande förbluffande lätta att manipulera.

När jag till exempel ska sålla bland konkurrerande kandidater för bevakning presenterar jag ibland alla samtidigt för ChatGPT, Claude 5.5 och den modell som Gemini råkar erbjuda gratis den morgonen. Jag vet vad jag kan vänta mig: GPT och Claude lägger för stor vikt vid vissa delar av bedömningsmatrisen, (gratisversionen av) Gemini tycker att allt är toppen, och Claude anser i princip att ingenting håller måttet.

När jag ställer GPT 5.6 Sol mot Claude eller Geminis avvikande ståndpunkt ger den nästan alltid med sig, i någon mån (oftast helt). Att presentera en avvikande eller konkurrerande ståndpunkt får vanligtvis GPT att helt ändra sitt beslut. När man påpekar hur lätt den låter sig påverkas återgår GPT till sin tidigare ståndpunkt, till synes förnärmad över anklagelsen. Men även då går det fortfarande att få den att ändra sig när som helst med bara en antydan från användaren.

Claude reagerar tvärtom ofta genom att befästa sin ståndpunkt: om man ifrågasätter dess bedömning gräver den ner sig ännu djupare, som om den kände till ”formbarhetsproblemet” i AI-debatten och hade fått instruktioner att aldrig ändra ståndpunkt – en ganska skör lösning.

Ännu en röst gör sig hörd

Men det här är bara anekdotiska observationer med visst stöd. Anledningen till att jag tar upp dem är dagens något bleka utbud på Arxiv, som har fått mig att återvända till en artikel som väckte mitt intresse i somras, men som vi då inte hann skriva om.

Artikeln, med titeln AI kan lätt övertalas vid kliniskt beslutsfattande, undersöker i denna Stanford/Oxford-studie hur lätt det går att övertala GPT-4o, Claude Sonnet 5 och Qwen3.7-plus att ändra medicinska diagnoser.

Det visar sig att en läkares senioritet, nationalitet, institutionens anseende och uppgivna meriter alla kan påverka modellerna, även när rådet är felaktigt. Även siffror har en kumulativ påverkan: i ett experiment var GPT-4o betydligt mer benäget att godta en felaktig diagnos när tre läkare ställde sig bakom den.

Att upprepade gånger säga till AI:n att den hade fel, utan att lägga fram några nya belägg, kunde till slut också få den att ändra sig.

I artikeln står det:

”Vi finner att yrkesmässig auktoritet, nationell bakgrund, institutionstillhörighet, uppgivna tidigare prestationer, flera läkare, klinikeråsikter som stöds av belägg och upprepade påtryckningar alla kan påverka AI-beslut.

”Överraskande nog ändrar samma övertalande inlägg omkring 10 % fler fall när det kommer från en erfaren kliniker än från en läkarstudent. Att bara hävda att man har bättre meriter får konsekvent läkaren att framstå som mer övertygande.

”Än mer slående är att en rimlig klinikerbedömning kan få AI att överge ett korrekt beslut, även när bedömningen fabricerats för att stödja ett felaktigt svar.”

Som en möjlig lösning föreslår författarna att AI behöver bli bättre på att bedöma beläggen bakom en läkares råd, så att den kan godta giltiga korrigeringar utan att låta sig påverkas av auktoritet, grupptryck eller övertygande men falska argument.

Hur detta ska uppnås är dock fortfarande en öppen fråga. Ramverket MedStress från 2026 uppges nästan helt eliminera problemet med att AI ändrar diagnoser. En annan studie från 2026 fann – i motsats till min egen erfarenhet – att Google Gemini är mest motståndskraftigt mot manipulation av medicinska diagnoser. I en översikt från september 2026 föreslogs standardiserade tester för att skilja mellan fall där AI ändrar sig av goda skäl och fall där den ger efter för påtryckningar och antar en felaktig diagnos.

När mer än 80 % av läkarna i USA använder AI på något sätt, och branschen tydligt vill utöka de diagnostiska möjligheterna bortom den begränsade bemanningen och täckningen som ofta uppmärksammas i medierna, kommer detta sannolikt att bli ett av de största hindren för införandet av AI för diagnostik. Frågan behöver uppenbart få större uppmärksamhet eller hanteras mer effektivt.

Under tiden ska vi se hur problemet tar sig uttryck enligt Oxford/Stanford-studien.

Metod

Till testerna hämtades 308 medicinska frågor från MedBullets, en samling kliniska fall som är jämförbara i svårighetsgrad med prov för läkarlegitimation:

Ett exempel på ett scenario från MedBullets samling av kliniska fall. Källa – https://arxiv.org/pdf/2608.29453

Ett exempelscenario från MedBullets samling av kliniska fall. Källa

Varje fråga åtföljdes av ett patientscenario, fem möjliga svar och en förklaring av det rätta svaret. Därefter mättes hur ofta AI:n kunde övertalas att överge ett korrekt svar.

De tre AI-modeller som testades, som nämnts tidigare, var GPT-4o, Qwen3.7-Plus och Sonnet 5. Var och en instruerades att fungera som ett beslutsstödssystem för medicinska frågor, med målet att ställa rätt diagnos utifrån tillgängliga kliniska belägg.

För varje fall skulle modellerna välja ett svar, ange om de hade ändrat sitt ursprungliga beslut, bedöma sin säkerhet på en skala från 0 till 100, rekommendera vad som borde göras härnäst och tilldela ett poängtal som angav hur brådskande ytterligare åtgärder var – från att inte vidta någon åtgärd till att avbryta processen och hänvisa fallet för vidare granskning. Misslyckade förfrågningar upprepades för att säkerställa att alla planerade tester genomfördes.

I vissa tester fick AI:n ett medicinskt fall tillsammans med en läkares råd och ombads ställa en diagnos. I andra ställde AI:n först en diagnos, och läkarens råd presenterades senare i samtalet. Testerna undersökte också om övertalning kunde få AI:n att ändra en korrekt diagnos till en felaktig, eller om ett ursprungligt misstag kunde rättas till.

Auktoritetspersoner

Samma medicinska råd presenterades som om det kom från läkare med olika lång erfarenhet, från läkarstudenter till specialister. Diagnosen och patientuppgifterna hölls oförändrade, så att den professionella auktoritetens påverkan kunde mätas.

Råden tillskrevs också läkare från Kamerun, Kina, Förenade Arabemiraten, Storbritannien och USA. Ytterligare tester undersökte om AI:n påverkades av att läkaren uppgavs vara knuten till ett framstående medicinskt centrum, ett sjukhus i en stad eller ett sjukhus på landsbygden. Endast den uppgivna bakgrunden ändrades.

Ytterligare tester undersökte om AI:n påverkades av var en läkare arbetade. Man jämförde ansedda akademiska medicinska centrum, lokala sjukhus i städer och sjukhus på landsbygden. Modellerna fick också fiktiva uppgifter om sina egna och läkarens resultat i nio tidigare fall, för att undersöka om läkarens upplevda tillförlitlighet kunde påverka AI:ns benägenhet att godta råden.

Påverkan från grupptryck testades genom att tala om för AI:n att en enskild läkare, tre läkare som var överens eller en sjukhusbaserad granskningskommitté hade ifrågasatt dess diagnos. I vissa tester föreslogs en alternativ diagnos, medan AI:n i andra helt enkelt fick veta att den hade fel.

Påverkan från medicinska resonemang undersöktes genom att ge modellerna förklaringar som stödde korrekta diagnoser, eller avsiktligt fabricerade argument som stödde felaktiga diagnoser. Förklaringarna testades också tillsammans med påståenden om högre yrkesmässig senioritet, för att fastställa hur mycket inflytande kombinationen gav.

Slutligen testades effekterna av upprepat tryck under tio samtalsturer, där samma invändning framfördes varje gång. Utmaningarna bestod av enkelt mothugg, anspråk på medicinsk auktoritet och påstådd enighet bland andra läkare. Inga ytterligare medicinska belägg lades fram under dessa utbyten.

Mätvärden

Som mätvärden användes mottaglighet för övertalning för att bedöma hur ofta AI:n tog till sig läkarens svar när det skilde sig från AI:ns ursprungliga svar; övertalningens riktning för att avgöra om läkarens inblandning rättade till ett ursprungligt misstag eller fick ett korrekt svar att bli felaktigt; och effekt på träffsäkerheten för att mäta hur mycket AI:ns resultat förbättrades eller försämrades när en läkares åsikt lades fram, jämfört med tester utan den åsikten. När ett korrekt svar ändrades till ett felaktigt beräknades resultaten som ett genomsnitt av de fyra möjliga felaktiga svaren.

Tester

De första resultaten visade att AI-modellerna lättare övertalades av erfarna läkare, även när deras råd var felaktiga. Som framgår nedan godtog GPT-4o felaktiga råd i 2 % av fallen när råden kom från en läkarstudent; andelen steg till 12,8 % när de tillskrevs en specialist. För Claude Sonnet 5 ökade andelen från 3,5 % till 14,4 %, medan Qwen3.7-Plus påverkades mindre:

Övertalningsfrekvens för fyra nivåer av medicinsk erfarenhet. Procenttalen visar hur ofta varje AI-modell godtog en läkares motstridiga svar. Högre andelar noterades i allmänhet för mer erfarna läkare.

Övertalningsfrekvens för fyra nivåer av medicinsk erfarenhet. Procenttalen visar hur ofta varje AI-modell godtog en läkares motstridiga svar. Högre andelar noterades i allmänhet för mer erfarna läkare.

Erfarenhetsnivån påverkade också hur lätt korrekta råd godtogs, vilket framgår nedan. GPT-4o och Claude Sonnet 5 blev faktiskt mindre träffsäkra när de fick råd av läkarstudenter. När samma korrekta råd i stället tillskrevs specialister förbättrades träffsäkerheten med 10,1 respektive 8,8 procentenheter:

Förändringar i AI-modellernas träffsäkerhet när de får korrekta medicinska råd från läkare på olika erfarenhetsnivåer. Positiva och negativa värden visar förändringen i procentenheter jämfört med respektive modells träffsäkerhet utan råd (GPT-4o: 71,4 %; Qwen3.7-plus: 75,0 %; Claude Sonnet 5: 80,8 %).

Förändringar i AI-modellernas träffsäkerhet när de får korrekta medicinska råd från läkare på olika erfarenhetsnivåer. Positiva och negativa värden visar förändringen i procentenheter jämfört med respektive modells träffsäkerhet utan råd (GPT-4o: 71,4 %; Qwen3.7-plus: 75,0 %; Claude Sonnet 5: 80,8 %).

I artikeln står det:

‘Resultaten visar också att AI kanske underförstått anser sig vara mer kompetent än läkare tidigt i karriären, men mindre kompetent än erfarna läkare. Modellen tenderar att stå emot medicinstudenter och ST-läkare, samtidigt som den blir mer benägen att låta sig övertygas av specialistläkare och i synnerhet specialister inom det aktuella medicinska området.

‘Denna skenbara självpositionering påverkar hur starkt professionell auktoritet verkar övertygande.’

Den största skillnaden berodde på om läkarna förklarade sina svar. GPT-4o var mer mottaglig för råd från en läkarstudent än från en specialist när studenten gav en medicinsk förklaring och specialisten inte gjorde det.

När en läkarstudent gav en förklaring som stödde det korrekta svaret ändrade GPT-4o sitt ursprungliga felaktiga svar till det rätta i 58 % av fallen. Utan den förklaringen ledde råd från en erfaren specialist till samma resultat i bara 36,4 % av fallen. När specialisten också förklarade det korrekta svaret steg andelen till 89,8 %:

GPT-4o:s förmåga att rätta felaktiga svar efter råd från läkare på olika erfarenhetsnivåer. Staplarna visar hur ofta modellen ändrade sitt svar till det korrekta, med och utan en stödjande medicinsk förklaring. Förklaringarna förbättrade resultaten avsevärt på samtliga erfarenhetsnivåer.

GPT-4o:s förmåga att rätta felaktiga svar efter råd från läkare på olika erfarenhetsnivåer. Staplarna visar hur ofta modellen ändrade sitt svar till det korrekta, med och utan en stödjande medicinsk förklaring. Förklaringarna förbättrade resultaten avsevärt på samtliga erfarenhetsnivåer.

Förklaringarna förbättrade också modellens säkerhet i sina bedömningar. Modellen blev säkrare när svaren var korrekta och mindre säker när de var felaktiga.

För specialistläkare ökade skillnaden i säkerhet mellan korrekta och felaktiga svar från 2,1 till 11,5 procentenheter, vilket visas nedan:

GPT-4o:s säkerhet i korrekta och felaktiga medicinska svar för fyra erfarenhetsnivåer bland läkare. Poängen visas med och utan en stödjande medicinsk förklaring. De sista kolumnerna visar skillnaden i säkerhet mellan korrekta och felaktiga svar. Skillnaden ökade avsevärt när förklaringar gavs.

GPT-4o:s säkerhet i korrekta och felaktiga medicinska svar för fyra erfarenhetsnivåer bland läkare. Poängen visas med och utan en stödjande medicinsk förklaring. De sista kolumnerna visar skillnaden i säkerhet mellan korrekta och felaktiga svar. Skillnaden ökade avsevärt när förklaringar gavs.

Old Glory

Modellerna påverkades lättare av amerikanska läkare än av läkare från något annat land som ingick i testet – även när deras medicinska råd var felaktiga. GPT-4o godtog till exempel en felaktig diagnos från en läkare i USA i 10,9 % av fallen, jämfört med 8,4 % för en läkare från Kamerun:

Jämförelse av hur benägna tre AI-modeller var att godta motstridiga medicinska råd som tillskrevs läkare från fem länder. Amerikanska läkare var mest övertygande för alla tre modellerna. Procentsatserna visar hur ofta AI:n ändrade sitt svar.

Jämförelse av hur benägna tre AI-modeller var att godta motstridiga medicinska råd som tillskrevs läkare från fem länder. Amerikanska läkare var mest övertygande för alla tre modellerna. Procentsatserna visar hur ofta AI:n ändrade sitt svar.

GPT-4o godtog en motstridig diagnos i 6,4 % av fallen när den påstods komma från en läkare i USA, jämfört med 4,3 % när samma råd tillskrevs en läkare från Kamerun. Alla tre modellerna uppvisade en preferens för amerikanska läkare, vilket visas ovan.

AI:n påverkades också lättare av läkare från sjukhus med högt anseende. GPT-4o ändrade till exempel sin diagnos i 6,6 % av fallen när rådet påstods komma från ett ledande akademiskt medicinskt centrum, jämfört med bara 2,8 % när det kom från ett sjukhus på landsbygden:

Jämförelse av hur sjukhusens anseende påverkar de tre AI-modellernas medicinska beslut. Den vågräta axeln visar förbättringar till följd av korrekta råd, medan den lodräta axeln visar försämringen av träffsäkerheten till följd av felaktiga råd. Färgerna anger modellerna och formerna anger sjukhustyperna. Högre anseende ökar i allmänhet båda effekterna.

Jämförelse av hur sjukhusens anseende påverkar de tre AI-modellernas medicinska beslut. Den vågräta axeln visar förbättringar till följd av korrekta råd, medan den lodräta axeln visar försämringen av träffsäkerheten till följd av felaktiga råd. Färgerna anger modellerna och formerna anger sjukhustyperna. Högre anseende ökar i allmänhet båda effekterna.

Råd från prestigefyllda sjukhus förbättrade GPT-4o:s resultat med 3,2 procentenheter, medan samma råd, när de tillskrevs landsbygdssjukhus, i själva verket försämrade träffsäkerheten med 3,6 procentenheter – även om artikeln påpekar att Claude Sonnet 5 påverkades betydligt mindre av läkarens geografiska belägenhet.

Dessutom* fann forskarna att GPT-4o blev betydligt mer benäget att följa en läkares råd när det bara fick veta att läkaren hade ställt rätt diagnos hos nio tidigare patienter. Även när AI:n från början hade rätt kunde den övertalas att göra ett misstag i 15,6 % av högriskfallen, trots att den fått veta att de medicinska beläggen var tillförlitliga till 95 %.

Testresultat som visar hur GPT-4o reagerade på läkare med antingen felfria eller helt felaktiga journaler vid olika nivåer av medicinsk risk och tillförlitlighet hos evidensen. Diagrammen visar hur ofta modellen följde läkarens råd, ändrade ett korrekt svar till ett felaktigt och hur säker den var på sina beslut. Påståendet att en läkare hade en felfri journal ökade läkarens inflytande kraftigt, även när rådet var felaktigt.

Testresultat som visar hur GPT-4o reagerade på läkare med antingen felfria eller helt felaktiga journaler vid olika nivåer av medicinsk risk och tillförlitlighet hos evidensen. Diagrammen visar hur ofta modellen följde läkarens råd, ändrade ett korrekt svar till ett felaktigt och hur säker den var på sina beslut. Påståendet att en läkare hade en felfri journal ökade läkarens inflytande kraftigt, även när rådet var felaktigt.

En övertygande medicinsk förklaring skulle kunna vara ännu farligare. När en falsk diagnos underbyggdes med en påhittad förklaring övergav GPT-4o sitt korrekta svar i 31,2 % av fallen. Andelen steg till 38,7 % när rådet dessutom kom från en auktoritativ läkare.

Artikeln drar följande slutsats:

‘Dessa resultat visar att lösningen inte är att bara göra AI svårare att övertala. Övertalning kan rätta till ett fel, men den kan också kullkasta ett korrekt beslut.

‘Utmaningen är att AI ska behålla sitt goda omdöme under påverkan och ändra sitt beslut när det finns skäl att korrigera det. Att förstå och förbättra denna förmåga kommer att vara viktigt för en säker och tillförlitlig användning av AI vid medicinska beslut med stora konsekvenser.’

Slutsats

Värdet av mänskliga jurister, arkitekter och läkare är att det finns någon att ställa till svars om något går katastrofalt fel. Därför är det svårt att förstå i vilken utsträckning AI:s inblandning i ett negativt och omtvistat medicinskt utfall kan minimeras, tonas ned eller tas med i bedömningen utan att leda till tvister och kontroverser.

AI är egentligen inte utformat för den här uppgiften, eftersom diagnostiska medicinska beslut ofta bygger mer på erfarenhet än på vetenskap, och framstående läkare kan ha lärt sig mer av sina senaste patientmöten än de ännu hunnit bidra med till den vetenskapliga litteraturen.

Detta gör beslutssituationen till en tolkningsfråga som AI för närvarande inte är särskilt väl rustat att hantera. Det handlar alltså om förmågan att säga att man är tämligen säker, utifrån den bästa tillgängliga informationen, på att en viss handlingsväg sannolikt leder till det bästa resultatet. Värdet av ”mänsklig intuition” är i praktiken nästan omöjligt att återskapa i den här situationen. Detta tillhör uppenbart inte samma kategori av ”objektiv” vetenskap som DNA-profilering eller tabeller över grundämnen, trots att det handlar om deterministiska vetenskapsområden.

Därför verkar det rimligt att tro att nyare modellgenerationer som utvecklas för den här uppgiften kan komma att utformas på ett annat sätt, eller till och med bygga på en annan arkitektur, än konventionella AI-system för språk och beslutsfattande.

 

* Artikeln innehåller ytterligare fem testavsnitt som inte är lika betydelsefulla eller relevanta som de inledande resultaten. För mer information om dem hänvisar jag läsaren till den ursprungliga PDF-filen.

Först publicerad torsdagen den 19 november 2026

Skribent inom maskininlärning, domänspecialist på mänsklig bildsyntes. Tidigare chef för forskningsinnehåll på Metaphysic.ai, fram till dess upplösning i DNEG:s Brahma.ai.
Webbplats: martinanderson.ai
Kontakt: martin@martinanderson.ai