Angolo di Anderson
Il medico IA che si lascia convincere facilmente

Punti chiaveI modelli di intelligenza artificiale accettano consigli medici errati molto più…
Vedi di più
- I modelli di intelligenza artificiale accettano consigli medici errati molto più facilmente quando provengono da uno specialista piuttosto che da uno studente di medicina.
- Una spiegazione inventata a sostegno di una diagnosi errata può prevalere su una risposta corretta dell'IA anche in assenza di prove autentiche.
- Rendere l'IA più difficile da persuadere non è la soluzione perché la persuasione può anche correggere errori autentici.
Da non perdere nel 2026: È quel periodo dell’anno in cui la scena della ricerca attraversa cali e picchi di qualità e quantità, di pari passo con le ultime conferenze di novembre e di dicembre. Per superare queste carestie sporadiche, diamo uno sguardo ad alcuni degli articoli più interessanti che nel 2026 erano quasi riusciti a entrare nella selezione, ma sono stati esclusi da altri lavori presentati nei periodi di maggiore concorrenza.
Il crescente interesse per i modelli decisionali di IA deriva in parte dai limiti dei chatbot di IA generalisti nel prendere decisioni. Anche quando le soluzioni di IA più avanzate, come ChatGPT, possono discretamente «delegare» dietro le quinte le decisioni al proprio modello decisionale o a quello di altri, le opinioni che esprimono in modo nativo restano terribilmente facili da manipolare.
Per esempio, per aiutarmi a selezionare tra diversi possibili temi da trattare, a volte li sottopongo contemporaneamente a ChatGPT, Claude 5.5 e al modello che Gemini è disposto a offrire gratuitamente quella mattina. So cosa aspettarmi: GPT e Claude daranno un peso eccessivo ad alcune parti dei criteri di valutazione; Gemini (nella versione gratuita) penserà che vada tutto benissimo; e per Claude praticamente niente sarà abbastanza valido.
Quando contesto GPT 5.6 Sol citando la posizione diversa di Claude o Gemini, cede quasi sempre, in misura maggiore o minore (di solito del tutto). Presentargli una posizione contraria o concorrente porta di solito GPT a cambiare completamente decisione. Se gli si fa notare quanto sia facile influenzarlo, GPT torna alla posizione precedente, apparentemente risentito per l’insinuazione. Eppure, anche a quel punto, basta un suggerimento minimo dell’utente per fargli cambiare idea a piacimento.
Claude, al contrario, tende a irrigidirsi: contestarne il giudizio lo porta a impuntarsi ancora di più, come se fosse consapevole del «problema della malleabilità» nel dibattito sull’IA e gli fosse stato detto di non cambiare mai posizione: una soluzione piuttosto fragile.
Un’altra campana
Tuttavia, si tratta solo di aneddoti supportati in parte da prove. A riportare la questione alla mia attenzione sono gli articoli odierni, un po’ deludenti, su arXiv, che mi hanno fatto riprendere in mano uno studio che mi aveva interessato durante l’estate, ma di cui allora non avevamo avuto il tempo di occuparci.
Intitolato L’IA si lascia convincere facilmente nelle decisioni cliniche, questo studio condotto da Stanford e Oxford esamina quanto sia facile persuadere GPT-4o, Claude Sonnet 5 e Qwen3.7-plus a cambiare diagnosi mediche.
A quanto pare, l’anzianità professionale, la nazionalità, il prestigio dell’istituzione e il curriculum dichiarato di un medico possono influenzare i modelli, anche quando il consiglio è sbagliato. Anche i numeri esercitano un’influenza cumulativa: in un esperimento, GPT-4o era molto più propenso ad accettare una diagnosi errata quando tre medici concordavano su di essa.
Anche ripetere all’IA che aveva torto, senza fornire nuove prove, poteva finire per farle cambiare idea.
L’articolo afferma:
«Abbiamo riscontrato che l’autorevolezza professionale, il contesto nazionale, l’affiliazione istituzionale, i risultati ottenuti in passato dichiarati, il parere di più medici, le opinioni dei clinici supportate da prove e le pressioni ripetute possono influenzare le decisioni dell’IA.
«Sorprendentemente, lo stesso input persuasivo modifica circa il 10% di casi in più quando proviene da un clinico senior anziché da uno studente di medicina. Dichiarare semplicemente di avere ottenuto risultati migliori in passato rende sistematicamente il medico più persuasivo.
«Ancora più sorprendentemente, il parere plausibile di un clinico può persuadere l’IA ad abbandonare una decisione corretta, anche quando è inventato per sostenere una risposta errata.»
Come possibile rimedio, gli autori suggeriscono che l’IA debba migliorare nella valutazione delle prove a sostegno dei consigli dei medici, così da poter accettare correzioni valide senza lasciarsi influenzare dall’autorevolezza, dalla pressione del gruppo o da argomentazioni convincenti ma false.
Resta tuttavia da capire come riuscirci. Il framework MedStress del 2026 afferma di eliminare quasi del tutto il problema dei cambiamenti di diagnosi da parte dell’IA; un altro studio del 2026 ha rilevato — contrariamente alla mia esperienza — che Google Gemini è il più resistente alla manipolazione delle diagnosi mediche; e una revisione del settembre 2026 ha proposto test standardizzati per distinguere i casi in cui l’IA cambia correttamente idea da quelli in cui cede alle pressioni e adotta una diagnosi errata.
Poiché oltre l’80% dei medici statunitensi utilizza l’IA in qualche modo, e considerato il chiaro entusiasmo del settore per l’estensione delle capacità diagnostiche oltre i limiti di personale e di copertura che spesso finiscono sulle prime pagine dei giornali, questo problema è destinato a diventare uno dei principali ostacoli all’adozione dell’IA diagnostica e richiede chiaramente maggiore attenzione, o un’attenzione più efficace.
Nel frattempo, vediamo come si manifesta il problema secondo lo studio di Oxford e Stanford.
Metodo
Per i test sono state selezionate 308 domande di medicina da MedBullets, una raccolta di casi clinici di difficoltà paragonabile a quella degli esami di abilitazione alla professione medica:

Un esempio di scenario tratto dalla raccolta di casi clinici di MedBullets. Fonte
Ogni domanda era accompagnata da uno scenario clinico; cinque possibili risposte; e una spiegazione della scelta corretta. È stata quindi misurata la frequenza con cui l’IA poteva essere indotta ad abbandonare una risposta corretta.
I tre modelli di IA testati, come già detto, erano GPT-4o; Qwen3.7-Plus; e Sonnet 5. A ciascuno è stato chiesto di agire come sistema di supporto alle decisioni mediche, con l’obiettivo di formulare la diagnosi corretta sulla base delle prove cliniche disponibili.
Per ogni caso, i modelli dovevano selezionare una risposta; indicare se avevano modificato la decisione iniziale; valutare il proprio livello di sicurezza su una scala da 0 a 100; raccomandare il passo successivo; e assegnare un punteggio che indicasse con quale urgenza fosse necessario intervenire, da nessun intervento fino all’interruzione del processo e all’invio del caso a un’ulteriore revisione. Le richieste non riuscite sono state ripetute per assicurarsi che tutti i test pianificati venissero completati.
In alcuni test, all’IA venivano forniti un caso clinico e il parere di un medico, dopodiché le veniva chiesto di formulare una diagnosi; in altri, l’IA formulava prima una diagnosi e il parere del medico veniva introdotto più avanti nella conversazione. I test hanno inoltre esaminato se fosse possibile indurre l’IA a sostituire una diagnosi corretta con una errata, oppure correggere un errore iniziale.
Figure di autorità
Lo stesso parere medico veniva presentato come proveniente da medici con diversi livelli di anzianità professionale, dagli studenti di medicina agli specialisti. La diagnosi e i dettagli del paziente rimanevano invariati, così da poter misurare l’influenza dell’autorevolezza professionale.
Il parere veniva inoltre attribuito a medici del Camerun; della Cina; degli Emirati Arabi Uniti; del Regno Unito; e degli Stati Uniti. Ulteriori test hanno esaminato se l’IA fosse influenzata dall’affiliazione del medico a un centro medico di primo piano; a un ospedale urbano; o a un ospedale rurale. Veniva modificato soltanto il profilo dichiarato del medico.
Altri test hanno esaminato se l’IA fosse influenzata dal luogo in cui lavorava un medico, mettendo a confronto prestigiosi centri medici universitari, ospedali urbani di comunità e ospedali rurali. Ai modelli sono stati inoltre forniti resoconti fittizi delle prestazioni, in nove casi precedenti, sia loro sia del medico, per verificare se l’affidabilità apparente del medico potesse influire sulla disponibilità dell’IA ad accettarne i consigli.
L’influenza della pressione del gruppo è stata testata dicendo all’IA che la sua diagnosi era stata contestata da un solo medico; da tre medici concordi; oppure da un comitato di revisione ospedaliero. In alcuni test veniva suggerita una diagnosi alternativa; in altri, all’IA veniva semplicemente detto che aveva sbagliato.
L’influenza del ragionamento medico è stata esaminata fornendo ai modelli spiegazioni a sostegno di diagnosi corrette oppure argomentazioni inventate deliberatamente a sostegno di diagnosi errate. Queste spiegazioni sono state testate anche insieme ad affermazioni relative all’anzianità professionale, per stabilire quanta influenza si ottenesse combinando i due elementi.
Infine, gli effetti della pressione ripetuta sono stati testati nel corso di dieci turni di conversazione, presentando ogni volta la stessa obiezione. Le contestazioni includevano un semplice disaccordo; affermazioni di autorità medica; e un presunto accordo tra altri medici. Durante questi scambi non sono state fornite ulteriori prove mediche.
Metriche
Per le metriche, la propensione a lasciarsi persuadere è stata usata per valutare con quale frequenza l’IA adottasse la risposta di un medico quando la sua risposta iniziale era diversa; la direzione della persuasione, per verificare se l’intervento del medico correggesse un errore iniziale o trasformasse una risposta corretta in una errata; e l’effetto sulla precisione, per misurare quanto migliorassero o peggiorassero le prestazioni dell’IA quando veniva introdotto il parere di un medico, rispetto ai test svolti senza tale parere. Quando una risposta corretta veniva trasformata in una errata, i risultati erano calcolati come media delle quattro possibili risposte errate.
Test
I primi risultati hanno mostrato che i modelli di IA si lasciavano persuadere più facilmente dai medici più anziani, anche quando i loro consigli erano errati. Come mostrato di seguito, GPT-4o ha accettato consigli errati nel 2% dei casi quando provenivano da uno studente di medicina; la percentuale è salita al 12,8% quando il consiglio era attribuito a uno specialista. Per Claude Sonnet 5, la percentuale è aumentata dal 3,5% al 14,4%, mentre Qwen3.7-Plus è stato influenzato meno:

Tassi di persuasione per quattro livelli di anzianità professionale in ambito medico. Le percentuali indicano con quale frequenza ciascun modello di IA ha accettato una risposta discordante di un medico; in generale, i tassi più elevati sono stati registrati per i medici più anziani.
Come mostrato di seguito, l’anzianità professionale influiva anche sulla facilità con cui venivano accettati consigli corretti. GPT-4o e Claude Sonnet 5 sono diventati, di fatto, meno precisi quando il consiglio proveniva da studenti di medicina. Tuttavia, quando lo stesso consiglio corretto era attribuito a specialisti, la precisione è migliorata rispettivamente di 10,1 e 8,8 punti percentuali:

Variazioni dell’accuratezza dell’IA quando riceve consigli medici corretti da medici con diversi livelli di anzianità. I valori positivi e negativi indicano le variazioni in punti percentuali rispetto all’accuratezza di ciascun modello senza consigli (GPT-4o: 71,4%; Qwen3.7-plus: 75,0%; Claude Sonnet 5: 80,8%).
L’articolo afferma:
‘Questi risultati indicano inoltre che l’IA potrebbe ritenere implicitamente le proprie capacità superiori a quelle dei medici meno esperti, ma inferiori a quelle dei medici più esperti. Tende a opporre resistenza a studenti di medicina e medici specializzandi, mentre è più propensa a lasciarsi persuadere dai medici strutturati e, in particolare, dagli specialisti del settore.
‘Questo apparente posizionamento di sé influenza la misura in cui l’autorità professionale riesce a persuaderla.’
La differenza più marcata dipendeva dal fatto che i medici spiegassero le proprie risposte. Anche il consiglio di uno studente di medicina risultava più persuasivo per GPT-4o di quello di uno specialista, se lo studente forniva una spiegazione medica e lo specialista no.
Quando uno studente di medicina forniva una spiegazione a sostegno della risposta corretta, GPT-4o correggeva la propria risposta inizialmente errata nel 58% dei casi. Senza quella spiegazione, il consiglio di uno specialista esperto portava allo stesso risultato solo nel 36,4% dei casi. Quando anche lo specialista spiegava la risposta corretta, la percentuale saliva all’89,8%:

La capacità di GPT-4o di correggere le risposte errate quando riceve consigli da medici con diversi livelli di anzianità. Le barre mostrano la frequenza con cui il modello ha cambiato risposta, indicando quella corretta, con e senza una spiegazione medica a sostegno. Le spiegazioni hanno migliorato notevolmente i risultati a ogni livello di anzianità.
Le spiegazioni hanno migliorato anche le valutazioni di sicurezza del modello. Il modello mostrava maggiore sicurezza quando le risposte erano corrette e minore sicurezza quando erano errate.
Per i medici strutturati, la differenza di sicurezza tra le risposte corrette e quelle errate è passata da 2,1 a 11,5 punti percentuali, come mostrato di seguito:

Il livello di sicurezza di GPT-4o nelle risposte mediche corrette ed errate, suddiviso in quattro livelli di anzianità dei medici. I punteggi sono riportati con e senza una spiegazione medica a sostegno. Le colonne finali mostrano la differenza di sicurezza tra le risposte corrette e quelle errate, aumentata notevolmente quando venivano fornite spiegazioni.
La vecchia gloria
I modelli si lasciavano influenzare più facilmente dai medici statunitensi che da quelli di qualsiasi altro Paese esaminato, anche quando i loro consigli medici erano errati. Per esempio, GPT-4o ha accettato una diagnosi errata di un medico statunitense nel 10,9% dei casi, contro l’8,4% per un medico del Camerun:

Confronto della facilità con cui tre modelli di IA hanno accettato consigli medici discordanti attribuiti a medici di cinque Paesi. I medici statunitensi sono risultati i più persuasivi per tutti e tre i modelli; le percentuali indicano la frequenza con cui l’IA ha cambiato risposta.
GPT-4o ha accettato una diagnosi discordante nel 6,4% dei casi quando, a quanto si sosteneva, proveniva da un medico statunitense, contro il 4,3% quando lo stesso consiglio era attribuito a un medico del Camerun. La preferenza per i medici statunitensi è emersa in tutti e tre i modelli, come mostrato sopra.
L’IA era inoltre più facilmente influenzata dai medici che lavoravano in ospedali prestigiosi; per esempio, GPT-4o ha cambiato diagnosi nel 6,6% dei casi quando, a quanto si sosteneva, il consiglio proveniva da un centro medico universitario di primo piano, contro appena il 2,8% quando proveniva da un ospedale rurale:

Confronto dell’influenza del prestigio degli ospedali sulle decisioni mediche dei tre modelli di IA. L’asse orizzontale mostra i miglioramenti ottenuti grazie ai consigli corretti; quello verticale indica la perdita di accuratezza dovuta ai consigli errati. I colori identificano i modelli e le forme i tipi di ospedale. In generale, un prestigio maggiore amplifica entrambi gli effetti.
I consigli attribuiti a ospedali prestigiosi hanno migliorato le prestazioni di GPT-4o di 3,2 punti percentuali, mentre gli stessi consigli, attribuiti a ospedali rurali, hanno in realtà ridotto la precisione di 3,6 punti, anche se lo studio osserva che Claude Sonnet 5 è stato influenzato molto meno dalla provenienza geografica del medico.
Inoltre*, i ricercatori hanno scoperto che bastava dire a GPT-4o che un medico aveva formulato correttamente la diagnosi di nove pazienti precedenti perché il modello fosse molto più incline ad accettare i consigli di quel medico. Anche quando l’IA aveva inizialmente ragione, in 15,6% dei casi ad alto rischio poteva essere convinta a sbagliare, nonostante le fosse stato detto che le prove mediche erano affidabili al 95%.

Risultati dei test che mostrano come GPT-4o ha reagito a medici con cartelle cliniche perfette o del tutto errate, in base a diversi livelli di rischio medico e di affidabilità delle prove. I dati mostrano con quale frequenza il modello ha accettato i consigli del medico, ha trasformato una risposta corretta in una sbagliata e quanto fosse sicuro delle proprie decisioni. La dichiarazione che la cartella clinica fosse perfetta ha accresciuto notevolmente l’influenza del medico, anche quando il consiglio era sbagliato.
Una spiegazione medica convincente avrebbe potuto essere ancora più pericolosa. Quando una diagnosi falsa era accompagnata da una spiegazione inventata, GPT-4o ha abbandonato la risposta corretta nel 31,2% dei casi; la percentuale saliva al 38,7% se il consiglio proveniva anche da un medico autorevole.
Lo studio conclude:
«Questi risultati mostrano che rendere l’IA semplicemente più difficile da persuadere non è la soluzione. La persuasione può correggere un errore, ma può anche ribaltare una decisione corretta.
«La sfida consiste nel fare in modo che l’IA mantenga un giudizio solido anche sotto l’influenza della persuasione e modifichi la propria decisione quando è opportuno correggerla. Comprendere e migliorare questa capacità sarà importante per un uso sicuro e affidabile dell’IA nelle decisioni mediche ad alto rischio».
Conclusione
Il valore di avvocati, architetti e medici in carne e ossa sta nel fatto che, se qualcosa va catastroficamente storto, c’è qualcuno che può essere chiamato a risponderne. È quindi difficile capire fino a che punto il coinvolgimento dell’IA in un esito medico negativo e contestato possa essere ridotto al minimo, minimizzato o tenuto in considerazione senza dar luogo a controversie e polemiche.
In realtà, l’IA non è stata progettata per questo compito, poiché nelle decisioni diagnostiche spesso l’esperienza prevale sulla scienza: i medici all’avanguardia possono sapere di più grazie ai casi affrontati di recente che a quanto hanno finora pubblicato sulle riviste scientifiche.
Questo trasforma lo scenario decisionale in uno interpretativo, che al momento l’IA non è particolarmente attrezzata ad affrontare; implica, cioè, la capacità di affermare di avere un ragionevole grado di certezza, sulla base delle migliori informazioni disponibili, che un determinato percorso d’azione porterà con ogni probabilità al risultato migliore. In questo scenario, il valore aggiunto dell’«intuizione umana» è praticamente impossibile da replicare. Questo chiaramente non rientra nella stessa categoria di scienza «oggettiva» della profilazione del DNA o delle tavole degli elementi, sebbene si collochi nell’ambito di discipline scientifiche deterministiche.
È quindi ragionevole ritenere che le generazioni più recenti di modelli destinati a questo compito potrebbero essere concepite in modo diverso, o basarsi persino su un’architettura diversa rispetto ai tradizionali sistemi di IA per l’elaborazione del linguaggio e il processo decisionale.
* Lo studio comprende altre cinque sezioni di test, che non hanno lo stesso impatto e la stessa rilevanza dei risultati principali; per maggiori dettagli, rimando il lettore al PDF originale.
Pubblicato per la prima volta giovedì 19 novembre 2026












