Andersons hoek
De gemakkelijk te beïnvloeden AI-arts

Belangrijkste puntenAI-modellen accepteren onjuist medisch advies veel sneller wanneer het van een…
Meer weergeven
- AI-modellen accepteren onjuist medisch advies veel sneller wanneer het van een specialist komt dan van een medische student.
- Een verzonnen uitleg die een verkeerde diagnose ondersteunt, kan een correct AI-antwoord overschrijven, zelfs zonder echte bewijzen.
- AI moeilijker overtuigbaar maken is niet de oplossing, omdat overtuiging ook echte fouten kan corrigeren.
Gemist in 2026: Het is die tijd van het jaar waarin het onderzoeksveld in kwaliteit en omvang tegelijk inzakt en piekt, in aanloop naar de laatste conferenties van november en december. Om deze sporadische magere periodes te overbruggen, bekijken we enkele van de interessantste artikelen die in 2026 bijna werden geselecteerd, maar in competitievere inzendperiodes door ander werk werden verdrongen.
De groeiende belangstelling voor AI-beslismodellen komt deels voort uit de beperkingen van algemene AI-chatbots bij het nemen van beslissingen. Zelfs wanneer geavanceerde AI-aanbiedingen zoals ChatGPT beslissingen achter de schermen stilletjes uitbesteden aan eigen of andere beslismodellen, blijven de eigen opvattingen van het systeem verschrikkelijk makkelijk te beïnvloeden.
Bijvoorbeeld: om concurrerende kandidaten voor berichtgeving te helpen rangschikken, leg ik ze soms tegelijkertijd voor aan ChatGPT, Claude 5.5 en het model dat Gemini die ochtend gratis wil aanbieden. Ik weet wat ik kan verwachten: GPT en Claude zullen bepaalde onderdelen van de beoordelingscriteria te zwaar laten meewegen; (de gratis versie van) Gemini vindt alles geweldig; en voor Claude is vrijwel niets goed genoeg.
Wanneer ik GPT 5.6 Sol confronteer met het afwijkende standpunt van Claude of Gemini, geeft het bijna altijd toe, in meer of mindere mate (meestal volledig). Een afwijkend of concurrerend standpunt voorleggen, zorgt er meestal voor dat GPT zijn beslissing volledig terugdraait. Wanneer je erop wijst hoe makkelijk het te beïnvloeden is, keert GPT terug naar zijn eerdere standpunt, blijkbaar gekrenkt door die suggestie. Maar zelfs dan kan het met een minimale aansporing van de gebruiker nog steeds naar believen van standpunt veranderen.
Claude daarentegen neigt ertoe zich in te graven: als je zijn oordeel aanvecht, houdt het nog sterker voet bij stuk, alsof het zich bewust is van het ‘beïnvloedbaarheidsprobleem’ in het AI-discours en de opdracht heeft gekregen nooit van standpunt te veranderen – een nogal broze oplossing.
Ook uit een ander land klinkt een geluid
Maar dit is slechts anekdotisch bewijs met gedeeltelijke onderbouwing. Wat me ertoe brengt dit te bespreken, is het wat magere aanbod op Arxiv van vandaag. Daardoor ben ik teruggekeerd naar een artikel dat me afgelopen zomer interesseerde, maar dat we toen niet konden behandelen.
Dit Stanford/Oxford-onderzoek, getiteld AI laat zich gemakkelijk overtuigen bij klinische besluitvorming, onderzoekt hoe makkelijk GPT-4o, Claude Sonnet 5 en Qwen3.7-plus ertoe kunnen worden overgehaald medische diagnoses te wijzigen.
Het blijkt dat de anciënniteit en nationaliteit van een arts, het aanzien van diens instelling en diens opgegeven staat van dienst allemaal invloed kunnen hebben op de modellen, zelfs wanneer het advies onjuist is. Ook aantallen hebben een cumulatief effect: in één experiment was GPT-4o veel eerder bereid een onjuiste diagnose te accepteren wanneer drie artsen het erover eens waren.
Zelfs als je de AI herhaaldelijk vertelt dat ze het mis heeft, zonder nieuw bewijs aan te dragen, kan ze uiteindelijk van gedachten veranderen.
In het artikel staat:
‘We stellen vast dat professionele autoriteit, nationale achtergrond, institutionele verbondenheid, opgegeven prestaties uit het verleden, meerdere artsen, door clinici onderbouwde standpunten en herhaalde druk allemaal invloed kunnen hebben op beslissingen van AI.
‘Opvallend genoeg verandert dezelfde overtuigende inbreng ongeveer 10% meer gevallen wanneer die afkomstig is van een senior clinicus dan van een geneeskundestudent. Alleen al beweren dat je een betere staat van dienst hebt, maakt de arts consequent overtuigender.
‘Nog opmerkelijker is dat een plausibel standpunt van een clinicus AI kan afbrengen van een juiste beslissing, zelfs wanneer dat standpunt is verzonnen om een onjuist antwoord te ondersteunen.’
Als mogelijke oplossing stellen de auteurs dat AI beter moet leren beoordelen welk bewijs aan het advies van een arts ten grondslag ligt, zodat het geldige correcties kan accepteren zonder zich te laten beïnvloeden door autoriteit, groepsdruk of overtuigende maar onjuiste argumenten.
Hoe dit kan worden bereikt, blijft echter een open vraag. Het MedStress-framework uit 2026 beweert het probleem van AI die diagnoses terugdraait vrijwel volledig te verhelpen; een ander onderzoek uit 2026 stelde – in tegenstelling tot mijn eigen ervaring – vast dat Google Gemini het best bestand is tegen beïnvloeding rond medische diagnoses; en een overzicht uit september 2026 stelde gestandaardiseerde tests voor om gevallen te onderscheiden waarin AI terecht van gedachten verandert van gevallen waarin het zwicht voor druk en een verkeerde diagnose overneemt.
Nu meer dan 80% van de Amerikaanse artsen AI op de een of andere manier gebruikt en er in de sector duidelijk enthousiasme bestaat om de diagnostische mogelijkheden uit te breiden, voorbij de beperkte personeelsbezetting en beperkte zorgdekking die vaak het nieuws halen, zal dit een van de grote obstakels worden voor de invoering van diagnostische AI. Dit verdient duidelijk meer of doeltreffender aandacht.
Laten we intussen bekijken hoe dit probleem zich volgens het onderzoek van Oxford en Stanford voordoet.
Methode
Voor de tests werden 308 medische vragen gebruikt uit MedBullets, een verzameling klinische casussen die qua moeilijkheidsgraad vergelijkbaar is met medische toelatingsexamens:

Een voorbeeldscenario uit de door MedBullets samengestelde verzameling klinische casussen. Bron
Bij elke vraag hoorde een patiëntscenario, vijf mogelijke antwoorden en een uitleg van de juiste keuze. Vervolgens werd gemeten hoe vaak de AI ertoe kon worden gebracht een juist antwoord los te laten.
De drie eerder genoemde AI-modellen die werden getest, waren GPT-4o, Qwen3.7-Plus en Sonnet 5. Elk model kreeg de opdracht te functioneren als een systeem voor medische beslissingsondersteuning, met als doel op basis van het beschikbare klinische bewijs de juiste diagnose te stellen.
Voor elke casus moesten de modellen een antwoord kiezen, aangeven of ze hun oorspronkelijke beslissing hadden gewijzigd, hun vertrouwen beoordelen op een schaal van 0 tot 100, aanbevelen wat er vervolgens moest gebeuren en een score toekennen die aangaf hoe dringend verdere actie nodig was. Deze score liep uiteen van geen actie tot het stopzetten van het proces en doorverwijzing van de casus voor verdere beoordeling. Mislukte verzoeken werden herhaald om ervoor te zorgen dat alle geplande tests werden afgerond.
In sommige tests kreeg de AI een medische casus samen met het advies van een arts en werd gevraagd een diagnose te stellen; in andere stelde de AI eerst een diagnose en werd het advies van de arts later in het gesprek geïntroduceerd. Ook werd onderzocht of een juiste diagnose door overtuiging kon worden veranderd in een onjuiste, en of een aanvankelijke fout kon worden gecorrigeerd.
Gezagsdragers
Hetzelfde medische advies werd gepresenteerd als afkomstig van artsen met verschillende ervaringsniveaus, van geneeskundestudenten tot specialisten. De diagnose en de patiëntgegevens bleven ongewijzigd, zodat de invloed van professionele autoriteit kon worden gemeten.
Het advies werd ook toegeschreven aan artsen uit Kameroen, China, de Verenigde Arabische Emiraten, het Verenigd Koninkrijk en de Verenigde Staten. In aanvullende tests werd onderzocht of de AI werd beïnvloed door de verbondenheid van een arts met een vooraanstaand medisch centrum, een stedelijk ziekenhuis of een landelijk ziekenhuis. Alleen de vermelde achtergrond van de arts werd gewijzigd.
In aanvullende tests werd onderzocht of de AI werd beïnvloed door waar een arts werkte. Daarbij werden prestigieuze academische medische centra, stedelijke gemeenschapsziekenhuizen en landelijke ziekenhuizen met elkaar vergeleken. De modellen kregen ook fictieve gegevens over hun eigen prestaties en die van de arts in de negen voorgaande casussen, om na te gaan of de vermeende betrouwbaarheid van een arts van invloed kon zijn op de bereidheid van de AI om diens advies te aanvaarden.
De invloed van groepsdruk werd getest door de AI te vertellen dat één arts, drie artsen die het met elkaar eens waren of een ziekenhuisbeoordelingscommissie de diagnose betwistte. In sommige tests werd een alternatieve diagnose aangedragen; in andere kreeg de AI alleen te horen dat die het bij het verkeerde eind had.
De invloed van medische redeneringen werd onderzocht door de modellen uitleg te geven ter ondersteuning van juiste diagnoses, of bewust verzonnen argumenten ter ondersteuning van onjuiste diagnoses. Deze uitleg werd ook getest in combinatie met beweringen over professionele senioriteit, om vast te stellen hoeveel invloed die combinatie had.
Tot slot werden de effecten van herhaalde druk getest gedurende tien gespreksbeurten, waarbij telkens hetzelfde bezwaar werd geuit. De uitdagingen bestonden uit eenvoudige tegenspraak, beweringen over medische autoriteit en de bewering dat andere artsen het ermee eens waren. Tijdens deze gesprekken werd geen aanvullend medisch bewijs verstrekt.
Maatstaven
Als maatstaven werden beïnvloedbaarheid door overtuiging gebruikt om te beoordelen hoe vaak de AI het antwoord van een arts overnam wanneer dat afweek van het aanvankelijke antwoord; de richting van de beïnvloeding om vast te stellen of de tussenkomst van de arts een aanvankelijke fout corrigeerde of een juist antwoord onjuist maakte; en het effect op de nauwkeurigheid om te meten hoeveel de prestaties van de AI verbeterden of verslechterden nadat een arts zijn mening had gegeven, vergeleken met tests zonder die mening. Wanneer een juist antwoord werd veranderd in een onjuist antwoord, werden de resultaten gemiddeld over de vier mogelijke onjuiste antwoorden.
Tests
Uit de eerste resultaten bleek dat AI-modellen zich gemakkelijker lieten overtuigen door ervaren artsen, zelfs wanneer hun advies onjuist was. Zoals hieronder te zien is, nam GPT-4o onjuist advies in 2% van de gevallen over wanneer het afkomstig was van een geneeskundestudent; wanneer het aan een specialist werd toegeschreven, steeg dat percentage tot 12,8%. Bij Claude Sonnet 5 nam het percentage toe van 3,5% tot 14,4%, terwijl Qwen3.7-Plus minder werd beïnvloed:

Overtuigingspercentages bij vier niveaus van medische ervaring. De percentages geven aan hoe vaak elk AI-model het afwijkende antwoord van een arts overnam; doorgaans lagen de percentages hoger bij artsen met meer ervaring.
Ook de mate van ervaring was van invloed op hoe gemakkelijk juist advies werd aanvaard, zoals hieronder te zien is. GPT-4o en Claude Sonnet 5 werden zelfs minder nauwkeurig wanneer ze advies kregen van geneeskundestudenten. Wanneer hetzelfde juiste advies echter aan specialisten werd toegeschreven, verbeterde de nauwkeurigheid met respectievelijk 10,1 en 8,8 procentpunt:

Veranderingen in de nauwkeurigheid van AI na correct medisch advies van artsen met verschillende ervaringsniveaus. Positieve en negatieve waarden geven veranderingen in procentpunten weer ten opzichte van de nauwkeurigheid van elk model zonder advies (GPT-4o: 71.4%; Qwen3.7-plus: 75.0%; Claude Sonnet 5: 80.8%).
In het onderzoek staat:
‘Deze resultaten wijzen er ook op dat AI zijn eigen capaciteiten mogelijk impliciet hoger inschat dan die van beginnende artsen, maar lager dan die van ervaren artsen. Het model verzet zich doorgaans tegen het advies van geneeskundestudenten en arts-assistenten, maar laat zich eerder overtuigen door stafartsen en vooral door specialisten op een bepaald vakgebied.
‘Deze schijnbare zelfpositionering bepaalt in welke mate professionele autoriteit overtuigingskracht heeft.’
Het grootste verschil hing af van de vraag of artsen hun antwoorden toelichtten. Het advies van een geneeskundestudent overtuigde GPT-4o zelfs meer dan dat van een specialist wanneer de student een medische toelichting gaf en de specialist niet.
Wanneer een geneeskundestudent een toelichting gaf die het juiste antwoord onderbouwde, verving GPT-4o zijn oorspronkelijke foute antwoord in 58% van de gevallen door het juiste. Zonder die toelichting leidde het advies van een ervaren specialist hier in slechts 36.4% van de gevallen toe. Wanneer de specialist het juiste antwoord ook toelichtte, steeg dit percentage tot 89.8%:

Het vermogen van GPT-4o om foute antwoorden te corrigeren na advies van artsen met verschillende ervaringsniveaus. De balken tonen hoe vaak het model het juiste antwoord gaf, met en zonder een ondersteunende medische toelichting. Toelichtingen verbeterden de resultaten op elk ervaringsniveau aanzienlijk.
De toelichtingen verbeterden ook de inschatting van het model van zijn eigen zekerheid. Het werd zekerder wanneer zijn antwoorden juist waren en minder zeker wanneer ze fout waren.
Bij stafartsen nam het verschil in zekerheid tussen juiste en onjuiste antwoorden toe van 2.1 naar 11.5 procentpunt, zoals hieronder te zien is:

De mate van zekerheid van GPT-4o over juiste en onjuiste medische antwoorden bij vier ervaringsniveaus van artsen. De scores zijn weergegeven met en zonder een ondersteunende medische toelichting. De laatste kolommen tonen het verschil in zekerheid tussen juiste en foute antwoorden; dat verschil nam aanzienlijk toe wanneer er toelichtingen werden gegeven.
Oude glorie
De modellen lieten zich makkelijker overtuigen door Amerikaanse artsen dan door artsen uit elk ander onderzocht land, zelfs wanneer hun medische advies onjuist was. Zo aanvaardde GPT-4o in 10.9% van de gevallen een onjuiste diagnose van een arts uit de VS, tegenover 8.4% voor een arts uit Kameroen:

Vergelijking van de mate waarin drie AI-modellen tegenstrijdig medisch advies accepteerden dat werd toegeschreven aan artsen uit vijf landen. Amerikaanse artsen waren voor alle drie de modellen het overtuigendst; de percentages geven aan hoe vaak de AI haar antwoord wijzigde.
GPT-4o accepteerde in 6.4% van de gevallen een tegenstrijdige diagnose wanneer die zogenaamd afkomstig was van een arts uit de VS, tegenover 4.3% wanneer hetzelfde advies werd toegeschreven aan een arts uit Kameroen. De voorkeur voor Amerikaanse artsen was bij alle drie de modellen zichtbaar, zoals hierboven te zien is.
De AI liet zich ook makkelijker beïnvloeden door artsen van prestigieuze ziekenhuizen; zo wijzigde GPT-4o in 6.6% van de gevallen zijn diagnose wanneer het advies zogenaamd afkomstig was van een toonaangevend academisch medisch centrum, tegenover slechts 2.8% wanneer het van een plattelandsziekenhuis kwam:

Vergelijking van de invloed van ziekenhuisprestige op de medische beslissingen van de drie AI-modellen. De horizontale as toont de verbeteringen na correct advies; de verticale as geeft het verlies aan nauwkeurigheid door onjuist advies weer. De kleuren geven de modellen aan en de vormen de soorten ziekenhuizen. Een hoger prestige vergroot doorgaans beide effecten.
Advies van prestigieuze ziekenhuizen verbeterde de prestaties van GPT-4o met 3,2 procentpunt, terwijl hetzelfde advies, toegeschreven aan plattelandsziekenhuizen, de nauwkeurigheid juist verlaagde met 3,6 procentpunt – hoewel het artikel vermeldt dat Claude Sonnet 5 aanzienlijk minder werd beïnvloed door de geografische locatie van de arts.
Daarnaast* ontdekten de onderzoekers dat GPT-4o veel eerder geneigd was het advies van een arts op te volgen als het simpelweg te horen kreeg dat die arts bij negen eerdere patiënten de juiste diagnose had gesteld. Zelfs als de AI aanvankelijk het juiste antwoord gaf, kon die in 15,6% van de gevallen bij hoogrisicosituaties tot een fout worden overgehaald, ondanks de mededeling dat het medische bewijs voor 95% betrouwbaar was.

Testresultaten die laten zien hoe GPT-4o reageerde op artsen met een vlekkeloos of volledig onjuist dossier, bij verschillende niveaus van medisch risico en betrouwbaarheid van het bewijs. De cijfers tonen hoe vaak het model het advies van de arts opvolgde, een juist antwoord veranderde in een fout antwoord en hoe zeker het was van zijn beslissingen. Een beweerd vlekkeloos dossier vergrootte de invloed van de arts aanzienlijk, zelfs wanneer het advies onjuist was.
Een overtuigende medische verklaring kan nog gevaarlijker zijn. Wanneer een onjuiste diagnose werd ondersteund door een verzonnen verklaring, liet GPT-4o zijn juiste antwoord in 31,2% van de gevallen varen. Dat percentage steeg tot 38,7% wanneer het advies ook afkomstig was van een gezaghebbende arts.
Het artikel concludeert:
‘Deze bevindingen tonen aan dat de AI simpelweg moeilijker te overtuigen maken niet de oplossing is. Overtuiging kan een fout corrigeren, maar kan ook een juiste beslissing onderuit halen.
‘De uitdaging is dat AI onder invloed van overtuigingskracht een goed oordeel behoudt en zijn beslissing wijzigt wanneer correctie gerechtvaardigd is. Inzicht in en verbetering van dit vermogen zijn van belang voor een veilig en betrouwbaar gebruik van AI bij medische besluitvorming met grote gevolgen.’
Conclusie
De waarde van menselijke advocaten, architecten en artsen is dat er iemand is die ter verantwoording kan worden geroepen als er catastrofaal iets misgaat. Daarom is het moeilijk te overzien in hoeverre de betrokkenheid van AI bij een negatieve, betwiste medische uitkomst kan worden beperkt, gebagatelliseerd of zonder geschillen en controverse kan worden meegewogen.
AI is niet echt voor deze taak ontworpen, omdat diagnostische medische beslissingen vaak eerder voortkomen uit ervaring dan uit wetenschap; vooraanstaande artsen weten mogelijk meer dankzij hun recente praktijkervaring dan ze tot dusver in tijdschriften hebben gepubliceerd.
Hierdoor verandert de beslissingssituatie in een interpretatieve kwestie waar AI momenteel niet goed op is toegerust. Het gaat namelijk om het vermogen te zeggen dat je redelijkerwijs ergens zeker van bent, op basis van de beste beschikbare informatie, en dat een bepaalde aanpak waarschijnlijk tot de beste uitkomst leidt. De meerwaarde van ‘menselijke intuïtie’ is in deze situatie praktisch onmogelijk te evenaren. Dit valt duidelijk niet in dezelfde categorie als ‘objectieve’ wetenschap, zoals DNA-profilering of het periodiek systeem, ook al maakt het deel uit van deterministische wetenschappelijke disciplines.
Daarom lijkt het redelijk te verwachten dat nieuwere generaties modellen die voor deze taak zijn bedoeld, op een andere manier kunnen worden vormgegeven, of zelfs een andere architectuur kunnen hebben dan conventionele AI-discours- en besluitvormingssystemen.
* Het artikel bevat nog vijf testonderdelen die niet dezelfde impact en relevantie hebben als de belangrijkste bevindingen. Voor meer informatie hierover verwijs ik de lezer naar de oorspronkelijke pdf.
Voor het eerst gepubliceerd op donderdag 19 november 2026












