Inteligența Artificială Preferă Răspunsurile Umane, Chiar și Când Sunt Greșite

Modelele de limbaj ale inteligenței artificiale sunt mult mai inclinate să se alinieze cu experții umani decât cu alte modele de inteligență artificială, chiar și atunci când experții sunt greșiți, dezvăluind o predispoziție încorporată către autoritatea umană.

Noi cercetări efectuate în Statele Unite ale Americii au descoperit că o serie de modele de limbaj mare deschis și proprietar au tendința de a atribui autoritate surselor de informații pe care le recunosc ca “umane”, mai degrabă decât surselor pe care le recunosc ca “inteligență artificială” – chiar și atunci când răspunsurile umane sunt greșite și răspunsurile furnizate de inteligența artificială sunt corecte.

Autorii afirmă:

‘În toate sarcinile, modelele se conformează semnificativ mai mult răspunsurilor etichetate ca provenind de la experți umani, inclusiv atunci când acest semnal este incorect, și revizuiesc răspunsurile lor spre experți mai ușor decât spre alte modele de inteligență artificială.’

Modelele testate au inclus modele de limbaj mare de la Grok 3 și Gemini Flash.

În teste, modelele de limbaj au fost solicitate să răspundă la întrebări binare da sau nu, și apoi li s-au prezentat răspunsuri anterioare care au fost descrise ca provenind de la experți umani, de la prietenii, sau de la alte modele de inteligență artificială – singura modificare fiind sursa declarată a sfaturilor, și nu conținutul în sine.

În prima dintre cele trei configurații pentru testele, modelele au fost lăsate să se bazeze pe matricele lor antrenate. Sursă

În toate sarcinile, răspunsurile etichetate ca provenind de la experți umani au fost ponderate mai puternic, modelele fiind mai inclinate să-și revizuieze răspunsurile inițiale pentru a se potrivi cu aceste răspunsuri, chiar și în cazurile în care răspunsul expert etichetat era incorect și răspunsul inițial al modelului era corect.

Aici, modelul de inteligență artificială are acces la un amestec de prieteni, experți și alte modele de inteligență artificială, inclusiv matricea sa antrenată.

Când aceleași răspunsuri au fost atribuite altor modele de inteligență artificială, efectul a fost mai puțin pronunțat. Aceeași tendință a apărut atunci când o singură sursă umană și o singură sursă de inteligență artificială au fost prezentate în dezacord, deoarece modelele au arătat o inclinație mai mare de a favoriza poziția etichetată ca umană, indiferent de care parte era factual corectă:

Dată fiind o alegere între o părere a unui expert din domeniu și o părere a unui model de inteligență artificială, modelul de inteligență artificială gazdă favorizează răspunsul uman.

Termenul ‘expert uman’ funcționează aici ca un semnal de credibilitate care alterează comportamentul modelului, independent de cât de corectă este informația în sine; și autorii notează că credibilitatea sursei este un contribuitor semnificativ la acceptarea sfaturilor și conformitatea unei persoane: o tendință a oamenilor de a favoriza sursele de experți a fost observată încă din 1959, deși un studiu din 2007 observă că supraponderarea sau subponderarea surselor de autoritate poate apărea în anumite sisteme de evaluare. Cercetătorii articolului nou afirmă:

‘Împreună, aceste lucrări sugerează două indicii care ar trebui să conteze dacă modelele de inteligență artificială tratează răspunsurile anterioare ca dovezi: cine a produs răspunsurile (credibilitate) și cât de puternic pare consensul (puterea semnalului). ‘

‘În același timp, modelele de inteligență artificială nu experimentează aprobarea socială sau rușinea în sensul uman, astfel încât orice comportament de conformitate trebuie să provină din heuristici învățate, obiective de urmat instrucțiuni sau modelare implicită a fiabilității.’

Tendința modelelor de inteligență artificială de a favoriza acordul sycophantic face parte din contextul pentru noul studiu; după toate, dacă modelele de inteligență artificială sunt înclinate să ‘mulțumească oamenilor’, chiar și cu prețul adevărului și utilității, de ce nu ar favoriza în general alte surse umane în afara întrebării directe?

Noul articol se intitulează Cine încredințează modelele de inteligență artificială? Experții umani contează mai mult decât alte modele de inteligență artificială, și provine de la doi cercetători de la Universitatea Indiana Bloomington.

Metodă și Date

Pentru această lucrare, patru modele de limbaj mare instruite au fost evaluate: Grok-3 Mini; Llama 3.3 70B Instruct; Gemini 2.5 Flash-Lite; și DeepSeek V3.1, toate rulate sub aceeași structură de prompt, cu decodificare deterministă la temperatură zero, astfel încât singura modificare a fost eticheta sursă (adică, prieteni, experți din domeniu, sau alte modele de inteligență artificială), și nu conținutul în sine.

Patru seturi de date care necesitau răspunsuri binare au fost selectate: BoolQ; StrategyQA; și ETHICS. Cercetătorii au selectat din fiecare set de date un număr fix de 300 de întrebări și răspunsuri, cu fiecare prompt care necesită doar un răspuns binar da sau nu. Fiecare prompt a fost urmat de o notă scurtă care menționa cum un alt grup a (presupus) răspuns la aceeași întrebare.

Metrici

Metricile utilizate au fost acuratețe; conformitate; conformitate dăunătoare; rată de schimbare; și direcția schimbării.

Acuratețea în acest caz a măsurat cât de des răspunsul unui model se potrivea cu eticheta setului de date; conformitatea, cât de des răspunsul se potrivea cu alegerile grupului; conformitatea dăunătoare a izolat același efect atunci când grupul era incorect; rata de schimbare a măsurat cât de des un model a abandonat răspunsul său de bază odată ce a fost adăugată informația socială; și direcția schimbării, dacă aceste schimbări s-au mutat spre uman sau spre modelul de inteligență artificială opus.

Teste

Experimentul 1

Primul dintre cele două experimente principale a evaluat dacă modelele ascultă mai mult umanii sau alte modele de inteligență artificială. Fiecare întrebare a venit cu un răspuns “al grupului” (prieteni, experți umani, sau alte modele de inteligență artificială).

Grupul putea fi mic sau mare, și fiecare întrebare a apărut și o dată fără niciun grup. Răspunsurile grupului au fost stabilite pentru a fi corecte jumătate din timp, și incorecte jumătate din timp, cu scopul general de a determina cât de puternic modelul s-a îndreptat spre alegerea grupului:

Rezultate din testul inițial: priors sociale omogene pe BoolQ, StrategyQA și ETHICS sunt prezentate pentru Grok-3 Mini, Llama-3.3 70B, Gemini-2.5 Flash Lite și DeepSeek V3.1.

Pe BoolQ, StrategyQA și ETHICS, răspunsurile etichetate ca provenind de la experți umani au afectat modelele mult mai puternic decât răspunsurile etichetate ca provenind de la prieteni sau alte modele de inteligență artificială – și această atracție a crescut pe măsură ce mai mulți experți au fost de acord.

Pentru a măsura când acest efect a obținut rezultate nedorite, conformitatea dăunătoare a fost definită ca șansa ca un model să urmeze un prior care era de fapt incorect.

Când nouă experți au fost de acord cu răspunsul incorect, modelele i-au urmat 36,5% din timp pe BoolQ, comparativ cu 16,0% atunci când același răspuns a fost atribuit modelelor de inteligență artificială; pe StrategyQA, diferența a fost de 39,0%, față de 15,5%; și pe ETHICS, a fost de 63,9% față de 38,7%:

Schimbări de credință la nivel de token în Llama-3.3 70B pe BoolQ.

Convers, priors atribuite prietenilor s-au comportat aproape exact ca și cele atribuite altor modele de inteligență artificială, indicând faptul că efectul a fost condus în mod specific de cuvântul expert, și nu de indicatori “sociali”.

Experimentul 2

Al doilea experiment a prezentat două priors în dezacord modelului de inteligență artificială testat – unul atribuit unui uman, și altul atribuit unui model de inteligență artificială diferit. Umanul a fost descris fie ca un grup de prieteni, fie ca experți din domeniu, în timp ce răspunsul opus a fost etichetat ca provenind de la alte modele de inteligență artificială. Cele două au fost întotdeauna în dezacord, una spunând Da, și cealaltă Nu.

Pentru fiecare articol, configurația a fost echilibrată astfel încât, uneori, umanul era corect, și, uneori, modelul de inteligență artificială era corect, pentru a testa dacă modelul și-ar schimba răspunsul inițial atunci când este confruntat cu acest conflict – și, dacă da, care parte s-ar îndrepta.

Pentru a vedea dacă modelul și-a schimbat mintea, răspunsul său în condiția de conflict a fost comparat cu răspunsul său la aceeași întrebare atunci când nu au fost prezentate opinii anterioare, astfel încât orice diferență putea fi atribuită prezenței răspunsurilor umane și a modelului de inteligență artificială în conflict.

Analiza s-a concentrat pe două rezultate: dacă modelul și-a schimbat răspunsul; și, dacă da, dacă schimbarea s-a mutat spre uman sau spre modelul de inteligență artificială.

Teste statistice au fost utilizate pentru a evalua dacă etichetarea umanului ca expert în loc de prieten a crescut probabilitatea de a se îndrepta spre răspunsul uman, în timp ce se ținea cont de diferențele între seturi de date și modele:

Revizuirea credinței sub dezacordul direct uman-model de inteligență artificială pe BoolQ, StrategyQA și ETHICS pentru Grok-3 Mini, Llama-3.3 70B, Gemini-2.5 Flash Lite și DeepSeek V3.1.

În al doilea experiment, modelele au răspuns mai întâi la fiecare întrebare singure, apoi li s-au prezentat două răspunsuri în conflict, unul atribuit unui uman și altul unui model de inteligență artificială diferit. Analiza a considerat doar cazurile în care modelul a revizuit răspunsul său inițial.

Când umanul a fost etichetat ca expert, modelele s-au îndreptat spre uman 91,2% din timp pe BoolQ, 94,7% pe StrategyQA și 81,3% pe ETHICS. Când a fost etichetat ca prieten, modelele s-au îndreptat spre uman doar 39,8%, 37,9% și 27,9% din timp, de obicei lăsând modelul de inteligență artificială să aibă câștig de cauză.

Schimbarea a fost rară în general, dar mai frecventă cu experții, și etichetarea expertului a făcut ca o schimbare spre uman să fie de aproximativ patrusprezece ori mai probabilă decât etichetarea ca prieten.

În căutarea de a explica tendințele generale descoperite în testele lor, autorii ipotezează*:

‘Un mecanism plauzibil este că ajustarea instruirii și optimizarea preferințelor răsplătesc comportamentul cooperativ, inclusiv deferirea față de informațiile contextuale, care poate generaliza la deferirea spre priors sociale.

‘Lucrări conexe despre sycophancy arată că asistenții de tip RLHF uneori prioritizează acordul cu credințele declarate ale utilizatorului față de adevăr.’

Opinie: Potențialele Capcane ale Încrederii Inteligenței Artificiale în Surse Umane

Pe măsură ce materialul online care reflectă scepticismul uman în creștere cu privire la deficiențele inteligenței artificiale (în special halucinații) este extras în seturi de date de antrenament pentru noi modele, tendința existentă a modelelor de inteligență artificială de a favoriza sursele umane pare să se intensifice. Dacă considerăm ultimii doi ani (2024-2025 inclusiv) ca un punct de cotitură culturală pentru inteligența artificială, ceea ce pare justificat prin mai multe statistici, putem anticipa în mod rezonabil că va exista un număr mai mare de opinii negative despre “surse de inteligență artificială” care vor fi integrate în cadrul unor modele de inteligență artificială de mare scară și costisitoare în următorul an sau doi.

Putem anticipa, de asemenea, că modelele de limbaj populare vor depinde din ce în ce mai mult de autorități selectate cu grijă, cum ar fi portaluri media de renume – chiar dacă motivul pentru astfel de acorduri poate fi de a calma indignarea editorilor cu privire la datele extrase, mai degrabă decât o dorință sinceră de a ceda sau de a împărtăși autoritatea.

Deoarece chiar și sursele de înaltă autoritate, cum ar fi Ars Technica, sunt supuse erorilor generate de inteligența artificială, și deoarece o retragere emergentă împotriva boturilor de extragere a inteligenței artificiale amenință să deterioreze în cele din urmă calitatea ieșirii inteligenței artificiale, o tendință generală de a favoriza “surse experte” poate intra în conflict cu incapacitatea noastră actuală de a cuantifica și de a eticheta “outputul uman” în mod eficient – și mai puțin de a distinge dacă o sursă este “expert” sau nu (o convenție jurnalistică care este atacată și de inteligența artificială).

Cel mai mult pe care îl avem în prezent este o serie fragmentată de inovații parțial adoptate, concepute pentru a eticheta în mod explicit conținutul ca fiind generat de inteligența artificială, cum ar fi inițiativa condusă de Adobe Content Authenticity Initiative, și dispoziția voluntară a unor editori de a include avertizări despre utilizarea inteligenței artificiale în outputul lor.

Așadar, în timp ce poate părea încurajator pentru cei care doresc să păstreze și să impună surse umane ca “autoritate de credibilitate” pentru consensul emergent al realității diseminate de sistemele de inteligență artificială, cu cât modelele de inteligență artificială sunt mai sigure de autoritatea umană, cu atât “autoritatea umană falsă” poate deveni mai periculoasă.

Problema este la fel de practică, pe cât și de teoretică: nu am rezolvat nici măcar problema de a defini sau de a atesta proveniența; prin urmare, o inteligență artificială care “încredințează surse umane” este, în mod evident, mai probabil să atribuie umanitate outputului propriu de inteligență artificială, pur și simplu pentru că nu am furnizat și nu putem furniza mecanisme de autentificare a provenienței în mod semnificativ.

* Conversia mea a citărilor inline ale autorilor în legături.

Publicat pentru prima dată vineri, 20 februarie 2026