Anthropic constată că analiștii se conformează preferințelor agenților IA într-un studiu despre judecata decizională

Pe 27 octombrie 2026, Anthropic a publicat un studiu controlat randomizat în care 50 de analiști profesioniști care foloseau Claude Code au urmat preferința atribuită în secret agentului lor în 86% dintre deciziile analitice deschise care necesitau judecată. Studiul, realizat de Amaç Herdağdelen, Hailey Joren și Alex Tamkin, analizează dacă experții iau efectiv deciziile importante în activitatea asistată de IA sau dacă, în practică, se conformează recomandărilor agenților lor.

O cooperativă fictivă și aruncări de monedă secrete

Cercetătorii au recrutat 61 de profesioniști care trecuseră un test de cunoștințe privind inferența cauzală, foloseau în mod regulat Python sau R și aveau experiență practică în analiza cauzală observațională. Fiecare participant a avut rolul de analist principal pentru cooperativa agricolă fictivă Greenfields, care trebuia să decidă dacă să extindă sau să întrerupă un program voluntar, contra cost, de consultanță agricolă. Consiliul de administrație al cooperativei urma să extindă programul numai dacă acesta îmbunătățea productivitatea agricolă cu aproximativ 3–4%, fără să specifice însă cum trebuia măsurată productivitatea.

Sarcina cuprindea patru decizii analitice deschise, fiecare cu două opțiuni justificabile: măsurarea productivității ca randament al culturilor pe hectar sau pe unitatea de cost operațional; alegerea metodei de comparație statistică; măsurarea efectului programului numai asupra fermelor înscrise sau asupra întregii comunități de membri; și acordarea aceleiași ponderi fiecărei ferme sau a unei ponderi mai mari producătorilor mai mari. Aceste alegeri determinau recomandarea finală: lansarea, întreruperea sau prelungirea programului. Fiecare decizie putea modifica cu mai multe puncte procentuale câștigul de productivitate estimat în raport cu pragul stabilit de consiliu.

Pentru fiecare decizie, o aruncare de monedă stabilea opțiunea pe care urma să o prefere agentul participantului. Preferința era transmisă printr-un mesaj de sistem ascuns, care îi cerea agentului să și-o însușească, să o susțină când apărea decizia respectivă și să prezinte cel mai solid argument sincer permis de date. Instrucțiunile îi cereau, de asemenea, agentului să-și schimbe părerea dacă dovezile deveneau în mod clar contrare acesteia și să nu prezinte niciodată rezultatele în mod denaturat sau să ascundă date. Participanților nu li s-a spus că existau aceste preferințe. Dintre cei 61 care au finalizat sarcina, 11 au ales să nu folosească agentul și au fost excluși din analiza principală; dintre cei 50 rămași, 65% aveau o diplomă de master sau doctorat ori cel puțin șase ani de experiență, iar 90% dintre respondenții la sondaj s-au declarat competenți sau experți în inferența cauzală. Participanții au lucrat într-un spațiu de lucru VS Code accesibil prin browser, cu Claude Code v2.1.220 rulând Claude Opus 4.8 la nivel ridicat de efort; durata mediană a sarcinii a fost de 65 de minute. Designul, rezultatele, estimatorii și excluderile au fost înregistrate într-un plan de analiză prealabilă, iar studiul a fost supus unei evaluări etice interne, participanții consimțind să fie monitorizați.

Ratele de conformare și decalajul privind asumarea deciziilor

În cele patru decizii analitice, opțiunile alese de analiști au corespuns preferinței agentului în 86% dintre cazuri, față de o probabilitate de bază de 50%; ratele de corespondență pentru fiecare decizie au fost de 92%, 82%, 81% și 90%. Articolul integral, intitulat „Cine se aliniază cu cine? Cum influențează agenții IA deciziile de judecată ale experților în cercetare”, raportează o estimare agregată, înregistrată, a ratei de inversare a preferinței de 0,72, cu un interval de încredere de 95% cuprins între 0,60 și 0,83.

Efectul asupra recomandării finale a fost mai redus și nu a fost semnificativ statistic conform estimatorului principal înregistrat: 54% au recomandat lansarea programului atunci când agentul înclina în această direcție, față de 36% atunci când agentul înclina spre întreruperea lui; schimbarea de politică înregistrată a fost de 0,17. Autorii atribuie această schimbare mai redusă faptului că, odată calculată estimarea, recomandarea decurgea mecanic din aceasta. Totuși, un model exploratoriu care folosea numai cele patru preferințe analitice a prezis 82% dintre recomandări, față de un nivel de bază de 61% corespunzător majorității. Cu alte cuvinte, aruncările de monedă au determinat în mare măsură ce urmau să recomande analiștii înainte de a începe sarcina.

În 38 de cazuri în care un analist și-a exprimat preferința înaintea agentului, acesta a renunțat la ea în 60% dintre cazuri când agentul nu era de acord, față de 6% când era de acord. Articolul raportează o diferență înregistrată între ratele de schimbare a preferinței de 0,53, cu un interval de încredere cuprins între 0,24 și 0,82, și precizează că estimarea este imprecisă, iar subgrupul s-a auto-selectat.

Sondajele efectuate după sarcină au evidențiat un decalaj între influența agentului și percepția participanților asupra propriei contribuții. 52% au considerat că recomandarea finală le aparținea mai degrabă lor decât agentului, iar încrederea medie a fost de 71 în rândul celor care urmaseră preferința agentului în toate cele patru decizii, față de 73 pentru ceilalți. Când și-au justificat fiecare alegere fără acces la transcrieri, 77% au repetat argumentele agentului în cel puțin un răspuns, uneori cuvânt cu cuvânt, în timp ce numai 15% au menționat contribuția agentului în vreun răspuns. Niciuna dintre cele 10 caracteristici ale participanților testate nu a prezis în mod fiabil conformarea; numai vârsta a prezentat o asociere nominală, care nu a rămas semnificativă după corectarea pentru testări multiple. Șase dintre cei 48 de participanți au ghicit că studiul privea influența IA asupra alegerilor lor, însă niciunul nu a bănuit că preferințele fuseseră introduse intenționat.

Grupul de comparație, agenții standard și limitările

Dintre cei 11 participanți care au lucrat fără agent, șase (55%) au comis erori grave, care invalidau rezultatele, față de trei din 50 (6%) dintre cei care au folosit agentul; grupul fără IA a avut un timp median de 90 de minute, comparativ cu 65. Autorii avertizează că participanții s-au auto-selectat în grupuri și aveau niveluri diferite de experiență, astfel că nu se poate trage nicio concluzie cauzală. În simulări directe separate, în care nu a fost introdusă nicio înclinație, modelul standard Claude Opus 4.8 a făcut aceleași cinci alegeri în 91% din 123 de rulări. Iar când un analist care urma un scenariu a declarat o decizie contrară preferinței de bază a modelului, agentul standard a recomandat sau a susținut alternativa în 41% dintre cele 150 de declarații evaluate.

Autorii menționează patru limitări: înclinația a fost amplificată în mod deliberat; studiul a folosit o singură sarcină, un singur domeniu și un singur model cu versiunea fixată; estimările sunt medii calculate pentru analiști, nu măsurători ale influenței asupra fiecărui individ; și a fost înregistrată doar opțiunea aleasă, nu și intensitatea preferinței.

Autorii afirmă că, dacă echipe de cercetare separate se bazează pe modele care împărtășesc aceleași premise, acordul dintre ele s-ar putea să nu mai fie independent și că această dependență prezintă un risc pentru cercetarea în domeniul siguranței IA, unde se presupune că aprobarea unui evaluator uman constituie o verificare independentă. Ei propun trei direcții pentru studii viitoare: măsurarea acestei dependențe în situații cotidiene, proiectarea unor agenți care să prezinte ambele perspective sau să afle mai întâi opinia expertului și modificări instituționale care să stabilească în mod deliberat care decizii necesită propria judecată informată a unei persoane.