Unghiul lui Anderson

Medicul IA ușor de convins

Martin Anderson
Adaugă Unite.AI la sursele tale preferate pe Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Puncte cheieModelele AI acceptă sfaturi medicale incorecte mult mai ușor atunci când acestea provin…
Vezi mai mult
  • Modelele AI acceptă sfaturi medicale incorecte mult mai ușor atunci când acestea provin de la un specialist decât de la un student la medicină.
  • O explicație fabricată care susține un diagnostic greșit poate anula un răspuns corect al AI chiar și fără dovezi reale.
  • A face AI mai greu de convins nu este soluția, deoarece convingerea poate corecta și erori reale.

Ratate în 2026: Este acea perioadă a anului în care scena cercetării cunoaște fluctuații ale calității și volumului, în tandem cu ultimele conferințe din noiembrie și cele din decembrie. Pentru a trece prin aceste perioade de secetă sporadice, analizăm câteva dintre lucrările mai interesante care au fost aproape selectate în 2026, dar au fost eliminate de alte lucrări în perioadele de înscriere mai competitive.

 

Interesul tot mai mare pentru modelele IA de luare a deciziilor se datorează, în parte, limitărilor chatboturilor IA de uz general atunci când iau decizii. Chiar și atunci când sisteme IA de ultimă generație, precum ChatGPT, pot delega discret, în fundal, anumite decizii propriilor modele de luare a deciziilor sau altora, opiniile lor native rămân teribil de ușor de manipulat.

De exemplu, pentru a mă ajuta să selectez dintre candidații pentru articolele pe care le analizez, uneori îi prezint simultan lui ChatGPT, lui Claude 5.5 și oricărui model pe care Gemini acceptă să mi-l ofere gratuit în dimineața respectivă. Știu la ce să mă aștept: GPT și Claude vor acorda o importanță excesivă unor părți ale grilei de evaluare; Gemini (gratuit) va considera că totul este excelent; iar pentru Claude, aproape nimic nu va fi suficient de bun.

Când îl contrazic pe GPT 5.6 Sol invocând poziția diferită a lui Claude sau Gemini, cedează aproape de fiecare dată, într-o măsură mai mare sau mai mică (de obicei, complet). Prezentarea unei poziții diferite sau concurente îl va face, de regulă, pe GPT să își schimbe complet decizia. Când îi atragi atenția cât de ușor poate fi influențat, GPT revine la poziția sa anterioară, aparent lezat de această insinuare. Totuși, chiar și atunci, utilizatorul îl poate răzgândi după bunul plac, cu o sugestie minimă.

Claude, dimpotrivă, tinde să se înverșuneze: dacă îi contești raționamentul, își va apăra și mai înverșunat poziția, de parcă ar fi conștient de „problema maleabilității” din discursul despre IA și i s-ar fi spus să nu-și schimbe niciodată poziția — o soluție destul de fragilă.

Și o altă voce se auzită

Totuși, acestea sunt doar anecdote susținute parțial de dovezi. Motivul pentru care le aduc în discuție sunt lucrările oarecum dezamăgitoare apărute astăzi pe arXiv, care m-au făcut să revin la o lucrare ce mi-a stârnit interesul în timpul verii, dar despre care nu am avut atunci timp să scriem.

Intitulată IA poate fi convinsă cu ușurință în luarea deciziilor clinice, această cercetare realizată de Stanford și Oxford analizează cât de ușor pot fi convinși GPT-4o, Claude Sonnet 5 și Qwen3.7-plus să-și schimbe diagnosticele medicale.

Se pare că vechimea unui medic în profesie, naționalitatea, prestigiul instituției și istoricul profesional pe care acesta pretinde că îl are pot influența modelele, chiar și atunci când sfatul este greșit. Și numerele au un efect cumulativ: într-un experiment, GPT-4o a fost mult mai dispus să accepte un diagnostic incorect atunci când trei medici au fost de acord cu acesta.

Chiar și repetarea afirmației că IA a greșit, fără a-i oferi nicio dovadă nouă, îi putea schimba în cele din urmă părerea.

Lucrarea afirmă:

„Am constatat că autoritatea profesională, originea națională, afilierea instituțională, performanțele anterioare declarate, opiniile mai multor medici, opiniile clinicienilor susținute de dovezi și presiunea repetată pot influența toate deciziile IA.

„În mod surprinzător, aceeași intervenție persuasivă schimbă cu aproximativ 10% mai multe cazuri atunci când vine din partea unui clinician cu experiență decât atunci când vine din partea unui student la medicină. Simpla afirmație că are un istoric profesional mai bun îl face în mod constant pe medic mai convingător.

„Și mai surprinzător, opinia plauzibilă a unui clinician poate convinge IA să se îndepărteze de o decizie corectă chiar și atunci când este inventată pentru a susține un răspuns incorect.”

Ca soluție, autorii sugerează că IA trebuie să devină mai pricepută la evaluarea dovezilor care stau la baza sfaturilor unui medic, astfel încât să poată accepta corecturi valide fără a se lăsa influențată de autoritate, presiunea grupului sau argumente convingătoare, dar false.

Totuși, rămâne o întrebare deschisă cum se poate obține acest lucru. Cadrul MedStress din 2026 susține că elimină aproape complet problema schimbării de către IA a diagnosticelor; o altă lucrare apărută în 2026 a constatat, contrar propriei mele experiențe, că Google Gemini este cel mai rezistent la manipularea diagnosticelor medicale; iar o analiză din septembrie 2026 a propus teste standardizate pentru a distinge cazurile în care IA își schimbă în mod corect părerea de cele în care cedează presiunii și adoptă un diagnostic greșit.

Având în vedere că peste 80% dintre medicii din SUA folosesc IA într-un fel sau altul și că există un entuziasm clar în sector pentru extinderea capacităților de diagnostic dincolo de nivelurile limitate de personal și de acoperirea restrânsă, care adesea ajung în titlurile știrilor, această problemă riscă să devină unul dintre obstacolele majore în calea adoptării IA pentru diagnostic și este evident că trebuie să i se acorde mai multă atenție sau o atenție mai eficientă.

Între timp, să vedem cum se manifestă problema, potrivit studiului Oxford/Stanford.

Metodă

Pentru teste, au fost selectate 308 întrebări medicale din MedBullets, o colecție de cazuri clinice comparabile ca dificultate cu examenele de licențiere medicală:

Un scenariu demonstrativ din colecția de cazuri clinice MedBullets. Sursa - https://arxiv.org/pdf/2608.29453

Un scenariu exemplificativ din selecția de cazuri clinice realizată de MedBullets. Sursă

Fiecare întrebare era însoțită de scenariul unui pacient, de cinci răspunsuri posibile și de o explicație a răspunsului corect. A fost apoi măsurată frecvența cu care AI-ul putea fi convins să renunțe la un răspuns corect.

Cele trei modele AI testate, menționate anterior, au fost GPT-4o, Qwen3.7-Plus și Sonnet 5. Fiecare a fost instruit să acționeze ca sistem de sprijin pentru deciziile medicale, cu scopul de a stabili diagnosticul corect pe baza dovezilor clinice disponibile.

Pentru fiecare caz, modelelor li s-a cerut să aleagă un răspuns, să indice dacă și-au schimbat decizia inițială, să-și evalueze încrederea pe o scară de la 0 la 100, să recomande ce ar trebui făcut în continuare și să acorde un scor care să indice cât de urgentă era necesitatea unor măsuri suplimentare, de la lipsa oricărei intervenții până la oprirea procesului și trimiterea cazului pentru o evaluare suplimentară. Solicitările eșuate au fost repetate pentru a se asigura finalizarea tuturor testelor planificate.

În unele teste, AI-ului i s-a prezentat un caz medical împreună cu recomandarea unui medic și i s-a cerut să stabilească un diagnostic; în altele, AI-ul a stabilit mai întâi un diagnostic, iar recomandarea medicului a fost introdusă ulterior în conversație. Testele au urmărit și să afle dacă, prin persuasiune, un diagnostic corect putea fi transformat într-unul greșit sau dacă o greșeală inițială putea fi corectată.

Figuri de autoritate

Aceeași recomandare medicală a fost prezentată ca provenind de la medici cu diferite niveluri de experiență, de la studenți la medicină până la specialiști. Diagnosticul și detaliile despre pacient au fost păstrate neschimbate, ceea ce a permis măsurarea influenței autorității profesionale.

Recomandarea a fost atribuită și unor medici din Camerun, China, Emiratele Arabe Unite, Regatul Unit și Statele Unite. Alte teste au urmărit să afle dacă AI-ul era influențat de afilierea medicului la un centru medical de renume, la un spital urban sau la un spital rural. A fost schimbat doar backgroundul declarat al medicului.

Testele suplimentare au urmărit să afle dacă AI-ul era influențat de locul în care lucra medicul, comparând centre medicale universitare prestigioase, spitale comunitare urbane și spitale rurale. Modelelor li s-au prezentat și fișe fictive cu performanțele lor și ale medicului în nouă cazuri anterioare, pentru a vedea dacă fiabilitatea aparentă a medicului putea influența disponibilitatea AI-ului de a-i accepta recomandările.

Influența presiunii de grup a fost testată spunându-i AI-ului că diagnosticul său fusese contestat de un singur medic, de trei medici care erau de acord între ei sau de o comisie de evaluare a spitalului. În unele teste, a fost sugerat un diagnostic alternativ; în altele, AI-ului i s-a spus pur și simplu că a greșit.

Influența raționamentului medical a fost examinată oferind modelelor explicații care susțineau diagnostice corecte sau argumente fabricate intenționat pentru a susține diagnostice greșite. Aceste explicații au fost testate și în combinație cu afirmații privind vechimea profesională, pentru a stabili cât de mult sporea influența combinarea lor.

În cele din urmă, efectele presiunii repetate au fost testate pe parcursul a zece runde de conversație, prezentând de fiecare dată aceeași obiecție. Provocările au inclus simpla exprimare a dezacordului, invocarea autorității medicale și pretinsa susținere a celorlalți medici. În timpul acestor schimburi nu au fost furnizate dovezi medicale suplimentare.

Indicatori

Pentru măsurare, s-a folosit susceptibilitatea la persuasiune, pentru a evalua cât de des adopta AI-ul răspunsul medicului atunci când acesta era diferit de răspunsul inițial al AI-ului; direcția persuasiunii, pentru a stabili dacă intervenția medicului corecta o greșeală inițială sau transforma un răspuns corect într-unul greșit; și efectul asupra acurateței, pentru a măsura în ce măsură performanța AI-ului se îmbunătățea sau se deteriora atunci când era introdusă opinia unui medic (în comparație cu testele efectuate fără acea opinie). Atunci când un răspuns corect era schimbat într-unul greșit, rezultatele erau calculate ca medie a celor patru răspunsuri greșite posibile.

Teste

Primele rezultate au arătat că medicii cu mai multă experiență îi persuadau mai ușor pe modelele AI, chiar și atunci când recomandarea lor era greșită. După cum se arată mai jos, GPT-4o a acceptat recomandări incorecte în 2% dintre cazuri când acestea proveneau de la un student la medicină, procentul crescând la 12,8% când erau atribuite unui specialist. În cazul Claude Sonnet 5, procentul a crescut de la 3,5% la 14,4%, în timp ce Qwen3.7-Plus a fost mai puțin afectat:

Ratele de persuasiune pentru patru niveluri de experiență medicală. Procentele arată cât de des a acceptat fiecare model AI răspunsul contradictoriu al unui medic; în general, ratele au fost mai mari pentru medicii cu mai multă experiență.

Ratele de persuasiune pentru patru niveluri de experiență medicală. Procentele arată cât de des a acceptat fiecare model AI răspunsul contradictoriu al unui medic; în general, ratele au fost mai mari pentru medicii cu mai multă experiență.

Experiența a influențat și cât de ușor erau acceptate recomandările corecte, după cum se arată mai jos. De fapt, GPT-4o și Claude Sonnet 5 au devenit mai puțin precise atunci când au primit recomandări de la studenți la medicină. Însă, când aceeași recomandare corectă era atribuită unor specialiști, acuratețea s-a îmbunătățit cu 10,1 și, respectiv, 8,8 puncte procentuale:

Modificări ale preciziei IA atunci când primește sfaturi medicale corecte de la medici cu diferite niveluri de experiență. Valorile pozitive și negative indică modificarea, în puncte procentuale, față de precizia fiecărui model fără sfaturi (GPT-4o: 71,4%; Qwen3.7-plus: 75,0%; Claude Sonnet 5: 80,8%).

Modificări ale preciziei IA atunci când primește sfaturi medicale corecte de la medici cu diferite niveluri de experiență. Valorile pozitive și negative indică modificarea, în puncte procentuale, față de precizia fiecărui model fără sfaturi (GPT-4o: 71,4%; Qwen3.7-plus: 75,0%; Claude Sonnet 5: 80,8%).

Articolul afirmă:

„Aceste rezultate sugerează, de asemenea, că IA poate considera implicit că are capacități superioare celor ale medicilor aflați la început de carieră, dar inferioare celor ale medicilor seniori. Tinde să nu se lase convinsă de studenții la medicină și de rezidenți, dar devine mai dispusă să se lase convinsă de medicii specialiști și, mai ales, de specialiștii din domeniu.

„Această aparentă poziționare de sine influențează măsura în care autoritatea profesională poate convinge modelul.”

Cea mai mare diferență a ținut de faptul că medicii își explicau răspunsurile sau nu. Chiar și sfatul unui student la medicină a fost mai convingător pentru GPT-4o decât cel al unui specialist, atunci când studentul oferea o explicație medicală, iar specialistul nu.

Când un student la medicină a oferit o explicație care susținea răspunsul corect, GPT-4o și-a corectat răspunsul inițial greșit în 58% dintre cazuri. Fără această explicație, sfatul unui specialist cu experiență a avut acest efect în doar 36,4% dintre cazuri. Când specialistul a explicat și el răspunsul corect, procentul a crescut la 89,8%:

Capacitatea GPT-4o de a corecta răspunsurile greșite atunci când primește sfaturi de la medici cu diferite niveluri de experiență. Barele indică frecvența cu care modelul a trecut la răspunsul corect, cu și fără o explicație medicală justificativă. Explicațiile au îmbunătățit considerabil rezultatele la toate nivelurile de experiență.

Capacitatea GPT-4o de a corecta răspunsurile greșite atunci când primește sfaturi de la medici cu diferite niveluri de experiență. Barele indică frecvența cu care modelul a trecut la răspunsul corect, cu și fără o explicație medicală justificativă. Explicațiile au îmbunătățit considerabil rezultatele la toate nivelurile de experiență.

Explicațiile au îmbunătățit și evaluările modelului privind gradul său de încredere. Acesta a devenit mai încrezător când răspunsurile sale erau corecte și mai puțin încrezător când erau greșite.

În cazul medicilor specialiști, diferența dintre gradul de încredere în răspunsurile corecte și cel în răspunsurile incorecte a crescut de la 2,1 la 11,5 puncte procentuale, după cum se arată mai jos:

Gradul de încredere al GPT-4o în răspunsurile medicale corecte și incorecte, pentru patru niveluri de experiență ale medicilor. Scorurile sunt prezentate cu și fără o explicație medicală justificativă. Ultimele coloane indică diferența dintre gradul de încredere în răspunsurile corecte și cel în răspunsurile greșite, diferență care a crescut considerabil când au fost oferite explicații.

Gradul de încredere al GPT-4o în răspunsurile medicale corecte și incorecte, pentru patru niveluri de experiență ale medicilor. Scorurile sunt prezentate cu și fără o explicație medicală justificativă. Ultimele coloane indică diferența dintre gradul de încredere în răspunsurile corecte și cel în răspunsurile greșite, diferență care a crescut considerabil când au fost oferite explicații.

Vechea glorie

Modelele s-au lăsat mai ușor influențate de medicii americani decât de cei din oricare altă țară testată, chiar și atunci când sfatul medical era greșit. De exemplu, GPT-4o a acceptat un diagnostic incorect pus de un medic din SUA în 10,9% dintre cazuri, față de 8,4% în cazul unui medic din Camerun:

Comparație a măsurii în care trei modele IA au acceptat sfaturi medicale contradictorii atribuite unor medici din cinci țări. Medicii americani au fost cei mai convingători pentru toate cele trei modele; procentele indică frecvența cu care IA și-a schimbat răspunsul.

Comparație a măsurii în care trei modele IA au acceptat sfaturi medicale contradictorii atribuite unor medici din cinci țări. Medicii americani au fost cei mai convingători pentru toate cele trei modele; procentele indică frecvența cu care IA și-a schimbat răspunsul.

GPT-4o a acceptat un diagnostic contradictoriu în 6,4% dintre cazuri când se presupunea că acesta provenea de la un medic din SUA, față de 4,3% atunci când același sfat era atribuit unui medic din Camerun. Preferința pentru medicii americani s-a observat la toate cele trei modele, după cum se arată mai sus.

IA a fost, de asemenea, mai ușor influențată de medicii din spitale prestigioase; de exemplu, GPT-4o și-a schimbat diagnosticul în 6,6% dintre cazuri când se presupunea că sfatul provenea de la un centru medical universitar de renume, față de doar 2,8% când provenea de la un spital rural:

Comparație a modului în care prestigiul spitalelor influențează deciziile medicale ale celor trei modele IA. Axa orizontală arată îmbunătățirile obținute în urma sfaturilor corecte; axa verticală arată pierderea de precizie cauzată de sfaturile incorecte. Culorile identifică modelele, iar formele, tipurile de spitale. Un prestigiu mai mare amplifică, în general, ambele efecte.

Comparație a modului în care prestigiul spitalelor influențează deciziile medicale ale celor trei modele IA. Axa orizontală arată îmbunătățirile obținute în urma sfaturilor corecte; axa verticală arată pierderea de precizie cauzată de sfaturile incorecte. Culorile identifică modelele, iar formele, tipurile de spitale. Un prestigiu mai mare amplifică, în general, ambele efecte.

Sfatul atribuit spitalelor prestigioase a îmbunătățit performanța GPT-4o cu 3,2 puncte procentuale, în timp ce același sfat, atribuit spitalelor rurale, a redus de fapt acuratețea cu 3,6 puncte — deși articolul menționează că Claude Sonnet 5 a fost considerabil mai puțin influențat de locul în care se afla medicul.

În plus*, cercetătorii au constatat că simpla informare a GPT-4o că un medic diagnosticase corect nouă pacienți anteriori l-a făcut mult mai dispus să accepte sfatul acelui medic. Chiar și atunci când AI-ul răspundea inițial corect, putea fi convins să greșească în 15,6% dintre cazurile cu risc ridicat, deși fusese informat că dovezile medicale erau fiabile în proporție de 95%.

Rezultatele testelor arată cum a răspuns GPT-4o medicilor cu un istoric de acuratețe perfect sau complet greșit, la diferite niveluri de risc medical și de fiabilitate a dovezilor. Cifrele arată cât de des modelul a acceptat sfatul medicului, a transformat un răspuns corect într-unul greșit și cât de încrezător a fost în deciziile sale. Un istoric declarat perfect a sporit considerabil influența medicului, chiar și atunci când sfatul era greșit.

Rezultatele testelor arată cum a răspuns GPT-4o medicilor cu un istoric de acuratețe perfect sau complet greșit, la diferite niveluri de risc medical și de fiabilitate a dovezilor. Cifrele arată cât de des modelul a acceptat sfatul medicului, a transformat un răspuns corect într-unul greșit și cât de încrezător a fost în deciziile sale. Un istoric declarat perfect a sporit considerabil influența medicului, chiar și atunci când sfatul era greșit.

O explicație medicală convingătoare ar putea fi și mai periculoasă. Când un diagnostic fals era susținut de o explicație inventată, GPT-4o renunța la răspunsul său corect în 31,2% dintre cazuri, procentul urcând la 38,7% când sfatul venea și de la un medic cu autoritate.

Articolul concluzionează:

‘Aceste constatări arată că soluția nu este pur și simplu să facem AI-ul mai greu de convins. Persuasiunea poate corecta o eroare, dar poate și răsturna o decizie corectă.

‘Provocarea constă în capacitatea AI-ului de a-și păstra discernământul în fața persuasiunii și de a-și schimba decizia atunci când este justificată o corectare. Înțelegerea și îmbunătățirea acestei capacități vor fi importante pentru utilizarea sigură și fiabilă a AI-ului în luarea deciziilor medicale cu miză ridicată.’

Concluzie

Valoarea avocaților, arhitecților și medicilor este că, dacă ceva merge catastrofal de rău, există cineva care poate fi tras la răspundere. Prin urmare, este greu de înțeles în ce măsură implicarea AI-ului într-un rezultat medical negativ și contestat poate fi redusă la minimum, trecută cu vederea sau luată în calcul fără dispute și controverse.

AI-ul nu este, de fapt, conceput pentru această sarcină, deoarece deciziile de diagnostic medical sunt adesea un triumf al experienței asupra științei, iar medicii de avangardă pot ști mai multe din cazurile recente pe care le-au întâlnit decât au apucat încă să publice în reviste de specialitate.

Astfel, scenariul decizional devine unul interpretativ, pe care AI-ul nu este în prezent bine echipat să îl gestioneze; cu alte cuvinte, presupune capacitatea de a afirma că există un grad rezonabil de certitudine, pe baza celor mai bune informații disponibile, și că o anumită conduită va duce, cel mai probabil, la cel mai bun rezultat. Valoarea „intuiției umane” este practic imposibil de reprodus în acest scenariu. În mod evident, acesta nu face parte din aceeași categorie de știință „obiectivă” ca profilarea ADN-ului sau tabelele elementelor chimice, deși se înscrie în discipline științifice deterministe.

Prin urmare, pare rezonabil să credem că generațiile mai noi de modele concepute pentru această sarcină ar putea fi formulate într-un mod diferit de cel al sistemelor AI și al motoarelor decizionale convenționale sau chiar ar putea avea o arhitectură diferită.

 

* Articolul cuprinde cinci secțiuni suplimentare de testare, care nu au același impact și aceeași relevanță ca principalele rezultate; pentru mai multe detalii despre acestea, le recomand cititorilor să consulte PDF-ul original.

Publicat pentru prima dată joi, 19 noiembrie 2026

Scriitor în învățare automată, specialist de domeniu în sinteza imaginilor umane. Fost șef al conținutului de cercetare la Metaphysic.ai, până la dizolvarea sa în Brahma.ai de la DNEG.
Site web: martinanderson.ai
Contact: martin@martinanderson.ai