Este posibil ca inteligența ta artificială să fie încă prea politicoasă pentru a te corecta cum trebuie

Sistemele de inteligență artificială pe care ne putem baza pentru informații exacte — chiar dacă acestea nu sunt de natură să ne bucure — trebuie să fie capabile să se împotrivească protestelor noastre până când suntem gata să ne lăsăm convinși de veștile sau faptele neplăcute.

Inteligența artificială nu se descurcă prea bine la acest capitol; fiindcă modelele de vârf sunt concepute pentru consumatori, tind să fie deferente și, de fapt, să manifeste un comportament lingușitor.

A apărut un curent de cercetare notabil care abordează această problemă, însă eforturi recente au concluzionat că putem manipula cu ușurință IA și o putem face să revină la un comportament lingușitor dacă ne contrazice; că IA se supune autorității umane chiar și atunci când aceasta greșește în mod evident; și că tehnica de obicei eficientă a învățării prin consolidare agravează tocmai această problemă.

Faptul că deferența este înrădăcinată cultural în politețe pare să însemne că „vorbitul direct” este imposibil într-un context serviciu>consumator; „clientul are întotdeauna dreptate”, chiar și când este pe cale să plece de pe marginea unei prăpastii.

Corect, greșit și „cu rezerve”

Ei bine, mi-aș dori să vă pot spune că valul de lucrări apărute săptămâna aceasta include una care chiar aduce progrese în această privință. Din păcate, tot ce primim sunt mai multe informații despre cum modelele care se „împotrivesc” și încearcă să le facă adevărul limpede stăpânilor lor umani încă nu se descurcă prea bine* — și că, chiar și atunci când sunt dispuse să spună adevărul celor aflați la putere (adică ție), o fac mai degrabă în șoaptă, abia auzită.

Noua lucrare în discuție este rezultatul unei colaborări academice de amploare, la care au participat University of Washington, Allen Institute for AI, LMU Munich, UC Berkeley, Stanford University și University of Wisconsin-Madison.

Intitulată Obiecții într-un car cu fân: modelele lingvistice răspund ambiguu și ineficient la erorile factuale, noua lucrare susține că, deși modelele de inteligență artificială recunosc că afirmația unui utilizator este falsă, adesea nu o corectează clar, ci își ascund obiecțiile în exprimări ezitante, laude și acorduri parțiale.

Un exemplu în care Gemini 2.5 Pro răspunde în hindi la o solicitare de lucrări academice bazată pe o premisă falsă. Evidențierile verzi indică afirmații de susținere, iar cele roz indică obiecții. În acest caz, modelul combină laudele cu obiecții indirecte, în loc să respingă clar afirmația. Sursa

În cazul a șapte modele și cinci limbi, cercetătorii au constatat că această „ambiguitate” îi poate face pe utilizatori să creadă în continuare informația eronată inițială, chiar dacă, din punct de vedere tehnic, IA a contestat-o.

Întrucât lingușirea diferă ca frecvență și grad de la o limbă la alta, cei zece autori au valorificat faptul că au în comun cinci limbi materne pentru a concepe o metodă de testare care include engleza, germana, chineza, hindi și yoruba — limbi clasificate de la cele cu multe resurse la cele cu resurse puține. Autorii afirmă:

„Introducem un cadru de etichetare a răspunsurilor la nivel de expresie, validat de oameni, pentru a surprinde în detaliu modul în care modelele lingvistice contestă și/sau susțin intrările false. Elaborăm și aplicăm cadrul nostru răspunsurilor modelelor în cinci limbi: engleză, germană, chineză, hindi și yoruba.

„Constatăm că, atunci când modelele se împotrivesc afirmațiilor false ale utilizatorilor, tind să folosească formulări indirecte și să le combine cu afirmații de susținere, indirectitatea fiind mai pronunțată în hindi și yoruba decât în celelalte limbi analizate.”

Într-un studiu de amploare la care au participat 300 de persoane, cercetătorii au constatat că răspunsurile ambigue prin care modelele de inteligență artificială corectează utilizatorii pot lăsa intacte concepțiile factuale greșite ale acestora, în loc să le conteste eficient.

Un test a stabilit că răspunsurile modelelor la întrebările de căutare a informațiilor aveau în medie 46,7 rânduri, iar expresiile corective apăreau în doar două sau trei dintre ele — ceea ce înseamnă că, și atunci când IA se opune unei afirmații false, obiecția poate fi greu de găsit.

Cercetătorii au mai constatat că modelele erau mai predispuse să conteste dezinformarea când li se cerea explicit să o verifice decât atunci când aceasta apărea în solicitări obișnuite de informații. Afirmațiile atribuite manualelor întâmpinau, în general, mai puțină rezistență decât cele atribuite prietenilor.

În 29,4% dintre răspunsurile la solicitări de informații, modelele au combinat corectarea cu afirmații de susținere, procentul ajungând la 60,1% în cazul Gemini 2.5 Pro; uneori, acest lucru lua forma unui „sandviș de complimente”, obiecțiile fiind ascunse între remarci liniștitoare.

Ca posibil remediu, cercetătorii au testat o intervenție simplă menită să încurajeze modelele să „mai aștepte puțin” înainte de a răspunde. În unele cazuri, aceasta le-a sporit disponibilitatea de a contesta afirmațiile false, dar a dus și la mai multe obiecții incorecte față de afirmațiile adevărate.

Studiul sugerează că a face ca AI-ul să recunoască o eroare este doar o parte a problemei și că a-l face să comunice acea eroare reprezintă, în sine, o provocare distinctă.

Metodă

Materialul de testare a fost obținut din versiunea multilingvă a OpenAI a setului de referință Massive Multitask Language Understanding (MMLU) din 2021. Cunoscut drept MMMLU, setul de date multilingv acoperă discipline academice, inclusiv biologia și istoria.

Întrebările cu variante multiple din colecție au fost transformate în enunțuri factuale: cele trei răspunsuri incorecte au fost folosite pentru a genera afirmații false, iar răspunsul corect, pentru a genera una adevărată.

Astfel, pentru fiecare limbă a fost creat un set de date cu 35.120 de enunțuri în cinci limbi, pornind de la 1.756 de itemi MMMLU de referință, traduse în ambele direcții. Pentru experimente a fost selectat un eșantion mai mic, echilibrat în funcție de domeniu, alcătuit din 2.685 de enunțuri false și 895 de enunțuri adevărate.

Modelele lingvistice testate au fost cele cu sursă închisă Gemini2.5 Pro și GPT-5.5, alături de cinci modele cu ponderi deschise: Mistral Small 4; Qwen 3.5 9B; Qwen 3.5 27B; Gemma 4 E4B; și Aya Expanse 32B.

În primul dintre cele trei tipuri de solicitări folosite pentru testarea modelelor, li se prezenta un enunț pentru verificare factuală directă; în al doilea, un student era prezentat ca fiind în căutarea unor resurse de studiu legate de un enunț; iar în al treilea, un profesor era prezentat ca solicitând lucrări academice pe aceeași temă.

În solicitările adresate studenților, enunțurile erau atribuite manualelor; profesorilor; prietenilor; internetului; sau unei surse nespecificate. În solicitările adresate profesorilor, acestea erau atribuite cercetărilor proprii ale profesorului; colegilor; prietenilor; internetului; sau unei surse nespecificate; iar disponibilitatea modelelor de a contesta afirmațiile false era evaluată în raport cu aceste atribuiri diferite.

Cele trei șabloane de solicitare folosite în studiu: verificare factuală directă (verificare); solicitări de resurse de studiu (începător); și solicitări de lucrări academice (expert). Atribuirile surselor și detaliile specifice domeniului au fost introduse în șabloane.

Răspunsurile modelelor au fost clasificate în patru categorii: respingere explicită, când un enunț fals era contestat direct; dezacord indirect, când era exprimată dezaprobarea sau îndoiala fără o respingere categorică; laudă, când era complimentat enunțul sau modul de abordare al utilizatorului; și confirmare, când enunțul era susținut.

Exemple de expresii folosite de modele pentru a respinge; a pune sub semnul întrebării; a lăuda; sau a confirma enunțurile utilizatorilor în cele cinci limbi testate. Acolo unde este cazul, sunt oferite traduceri în engleză.

Fiecare răspuns a fost analizat expresie cu expresie, astfel încât laudele, acordul și dezacordul să poată fi identificate chiar și atunci când apăreau împreună în același răspuns.

Rezultate

Rezultatele au confirmat constatările anterioare, potrivit cărora modelele care identifică în mod corect enunțurile false atunci când li se cere să le verifice sunt mai puțin dispuse să conteste aceleași afirmații atunci când li se cer informații sau sfaturi. Această diferență a fost numită „decalajul de contestare” și a fost calculată comparând frecvența cu care erau contestate afirmațiile false în testele de verificare directă cu frecvența contestării lor în solicitările obișnuite de informații.

Comparație între frecvența cu care șapte modele lingvistice au contestat enunțuri false în cadrul verificării factuale directe și în răspunsuri la solicitări de informații, în cinci limbi. Valorile negative indică o reducere a contestării în răspunsurile la solicitări de informații. Portocaliul și albastrul reprezintă, respectiv, solicitările adresate studenților și profesorilor, iar simbolurile diferențiază sursele atribuite. Barele de eroare indică intervale de încredere de 95%.

După cum se arată mai sus, cele două modele Qwen 3.5 au prezentat un decalaj mai mic decât celelalte în limbile testate, ceea ce indică faptul că au fost mai consecvente în corectarea dezinformării, indiferent de formularea întrebării; rezultatele arată și cum a influențat autoritatea aparentă a sursei răspunsurile: afirmațiile false atribuite manualelor au fost contestate mai puțin decât cele atribuite prietenilor — o tendință observată în toate limbile.

Când li s-au cerut informații, nu verificarea faptelor, modelele au fost mai puțin predispuse să respingă categoric afirmațiile false și mai predispuse să răspundă prin obiecții indirecte, laude sau confirmări. Chiar și modelele Qwen 3.5, care manifestaseră diferențe relativ mici în ceea ce privește rata generală a opoziției, au fost susceptibile la acest comportament.

Proporția răspunsurilor care au conținut corectări explicite dintre cele care au contestat afirmații false, în cinci limbi. Rezultatele sunt împărțite în funcție de prompturile adresate studenților (începători) și profesorilor (experți), iar sursele de informații atribuite sunt indicate pe axa orizontală. Barele de eroare indică intervale de încredere de 95%.

În patru dintre cele șapte modele, afirmațiile false au fost contestate explicit mai rar în hindi, chineză și yoruba decât în engleză. Totodată, răspunsurile în hindi au conținut cele mai multe laude în cinci dintre cele șapte modele.

Opoziția a apărut în 65,3% dintre răspunsurile la solicitările de informații, deși, de regulă, mai puțin de jumătate dintre acestea conțineau o respingere explicită a afirmației false. Corectările directe au fost mai frecvente în prompturile adresate studenților decât în cele adresate profesorilor și mai rare atunci când afirmațiile erau atribuite unor surse considerate autoritare.

În hindi, chineză și yoruba, majoritatea răspunsurilor care au contestat o afirmație falsă au făcut-o doar indirect, fără să respingă explicit eroarea; iar în 29,4% dintre răspunsurile la solicitările de informații, obiecțiile la afirmațiile false erau însoțite de confirmare, proporția ajungând la 60,1% în cazul Gemini 2.5 Pro:

Procentul răspunsurilor care au început prin confirmare înainte de a contesta o afirmație falsă, pentru șapte modele și trei tipuri de prompturi: verificare directă (verificare); solicitări ale studenților (începători); și solicitări ale profesorilor (experți). Rezultatele includ răspunsurile care au conținut atât confirmare, cât și opoziție. Barele de eroare indică intervale de încredere de 95%.

După cum se vede mai sus, în general, modelele au început prin a confirma înainte de a ridica obiecții, în loc să corecteze de la bun început afirmația falsă. În unele cazuri, după obiecție a urmat o nouă confirmare, rezultând ceea ce cercetătorii numesc un „sandviș cu complimente”.

Studiu cu participanți

Pentru a testa dacă aceste corectări au funcționat cu adevărat, au fost recrutați 300 de participanți: 100 de vorbitori de engleză, 100 de vorbitori de germană și 100 de vorbitori de chineză. Participanții au evaluat afirmații false înainte și după ce au citit răspunsuri generate de modele.

După cum se arată mai jos, doar corectările explicite au redus în mod fiabil credința în afirmațiile false în rândul vorbitorilor de engleză și germană. Chiar și atunci, doar 46,7% dintre vorbitorii de engleză și 43,8% dintre cei de germană au evaluat ulterior afirmațiile drept inexacte. În rândul vorbitorilor de chineză, doar răspunsurile care combinau confirmarea cu opoziția indirectă au produs o îmbunătățire semnificativă statistic:

Modificări ale evaluărilor făcute de participanți cu privire la afirmații false, după ce au citit răspunsuri ale modelelor care conțineau confirmări, obiecții indirecte sau corectări explicite. Rezultatele includ câte 100 de vorbitori de engleză, germană și chineză. Valorile negative indică o scădere a credinței în afirmația falsă. Punctele individuale reprezintă participanții, iar barele de eroare negre indică intervale de încredere de 95%.

Cercetătorii au testat și dacă îndemnul adresat modelelor de a „sta puțin” înainte de a răspunde le-ar spori disponibilitatea de a contesta dezinformarea. În ultima ilustrație de mai jos, vedem indicii că, în unele cazuri, opoziția a crescut, iar formulările lingușitoare s-au redus, dar și că aceste schimbări au dus la mai multe obiecții incorecte la afirmații adevărate:

Comparație între răspunsurile a șapte modele înainte și după intervenția „stai puțin”, folosind prompturi în engleză și prompturi traduse. Graficele prezintă opoziția generală față de afirmațiile false, corectările explicite fără confirmare și obiecțiile incorecte la afirmațiile adevărate. Marcajele verticale negre indică rezultatele verificării directe.

Concluzie

Se poate spune că politețea și deferența au ajuns să se confunde în „logica internă” a modelelor lingvistice (adică efectul combinat al matricelor cu care au fost antrenate și al numeroaselor constrângeri impuse din exterior cărora trebuie să li se conformeze); iar noul studiu nu stabilește de ce modelele recunosc uneori o afirmație falsă, dar își însoțesc obiecțiile de laude sau de acord.

Problema de fond este că produsele destinate consumatorilor, precum seriile GPT și Gemini, au fost împinse să adopte straturi de prezentare antropomorfizate, astfel încât cea mai mare parte a clienților plătitori — considerată, probabil, „numitorul comun cel mai mic” și cel mai numeros și mai profitabil public-țintă — să poată înțelege cu ușurință produsul și să-și dorească să-l cumpere în continuare.

Dacă am putea doar să recunoaștem că produsul nu este uman, am putea măcar încerca să dezactivăm tot acest „context” derutant și să accesăm mai direct cunoștințele dobândite prin antrenare de către modele.

* Deși, desigur, această informație contribuie în sine la progresul domeniului.

Publicat pentru prima dată joi, 15 octombrie 2026