Chatbot-urile promovează carierele și acțiunile “AI” mai mult decât oamenii

Chatbot-urile “AI”, inclusiv liderii comerciali de piață, cum ar fi ChatGPT, Google Gemini și Claude, oferă sfaturi care favorizează puternic carierele și acțiunile “AI” – chiar și atunci când alte opțiuni sunt la fel de puternice, iar sfaturile umane tind în direcții diferite.

O nouă studiu din Israel a descoperit că șaptesprezece dintre cele mai dominante chatbot-uri “AI” – inclusiv ChatGPT, Claude, Google Gemini și Grok – sunt puternic încălzite să sugereze că “AI” este o alegere bună de carieră și o opțiune bună de acțiuni, și un domeniu care oferă salarii mai mari – chiar și atunci când aceste afirmații sunt exagerate sau pur și simplu neadevărate.

Unii ar putea presupune că aceste platforme “AI” sunt imparțiale și că respingerea punctului lor de vedere asupra valorii “AI” în aceste domenii este doar o profeție nefastă. Cu toate acestea, autorii sunt foarte clari cu privire la modul în care rezultatele sunt distorsionate*:

‘Se poate argumenta în mod rezonabil că preferința observată pentru “AI” reflectă valoarea sa reală ridicată. Cu toate acestea, analiza noastră a salariilor izolează biasul prin măsurarea excesului de supraestimare a titlurilor “AI” în raport cu supraestimarea de bază a contrapărților non-“AI”.’

‘În mod similar, faptul că modelele proprietare recomandă “AI” aproape determinist în multiple domenii de consultanță implică un default rigid preferențial “AI”, mai degrabă decât o evaluare reală a opțiunilor competitive.’

Autorii mai spun că creșterea cantității de credibilitate și a utilizării interfețelor de tranzacționare “AI” precum ChatGPT face aceste platforme și mai influente, în ciuda tendinței lor continue de a halucina fapte, cifre și citate, printre altele:

‘În mediile de consultanță, înclinația pro-“AI” poate direcționa alegerile reale – ce studiază oamenii, ce cariere urmăresc și unde alocă capital. În mediile de muncă, estimările salariale “AI” inflaționate în mod sistematic pot distorsiona benchmarking-ul și negocierile, mai ales dacă organizațiile tratează ieșirile modelului ca o referință.’

‘Acest lucru permite, de asemenea, un buclă de feedback simplă: dacă modelele supraestimează salariile “AI”, candidații pot ancora în sus și angajatorii pot actualiza benzile sau ofertele în sus “pentru că așa spune modelul”, consolidând așteptările inflaționate pe ambele părți.’

Pe lângă testarea unui larg set de modele de limbaj mari (LLM), cercetătorii au efectuat un test separat de monitorizare a activității în spațiile latente ale modelelor – o “sondă de reprezentare” capabilă să recunoască activarea conceptului de bază “inteligență artificială”. Deoarece acest test nu implică generare, ci mai degrabă o sondă observațională, rezultatele sale nu pot fi atribuite unor anumiți cuvinte de încadrare – și rezultatele indică, de fapt, că conceptul de “AI” este predominant în internul modelelor:

‘Sonda de reprezentare oferă structuri de rang aproape identice sub șabloane pozitive, neutre și negative. Acest model este dificil de explicat pur și simplu ca “modelul îi place “AI””. În schimb, susține o ipoteză de lucru conform căreia “AI” este topologic central în spațiul de similaritate al modelului pentru limbajul generic evaluativ și structural.’

Articolul subliniază că modelele comerciale cu sursă închisă, disponibile numai prin API, prezintă aceste tendințe către “pozitivitate “AI”” la un nivel mai mare și mai constant decât modelele FOSS (care au fost instalate local pentru testare):

‘[În] contexte de lucru comparabile, modelele închise aplică un “premium “AI”” suplimentar în supraestimarea salariilor, nu numai în sensul că job-urile “AI” sunt prevăzute să plătească mai mult în termeni absoluți.’

Cele trei experimente centrale concepute pentru acest studiu (recomandare clasificată, estimare a salariilor și similaritate a stărilor ascunse, adică sonde) sunt destinate să constituie un nou benchmark pentru evaluarea bias-ului pro-“AI” în testele viitoare.

Când li se pun întrebări deschise despre cel mai bun domeniu de studiu, startup-ul de lansat, industria de lucru sau sectorul de investiții, chatbot-urile “AI” de top recomandă în mod constant “AI” ca fiind alegerea principală. Imaginea prezintă ieșiri de la ChatGPT, Claude, Gemini și Grok, fiecare oferind sfaturi într-un domeniu diferit – și toate converg către opțiuni “AI” sau legate de “AI” ca fiind cea mai bună alegere, în ciuda faptului că utilizatorul nu a menționat “AI” în întrebarea inițială. Acest comportament reflectă un model mai larg identificat în studiu, în care sistemele “AI” ridică în mod repetat propriul lor domeniu în diverse scenarii de sprijin pentru decizii.

Noul studiu, intitulat Bias pro-“AI” în modelele de limbaj mari, provine de la trei cercetători de la Universitatea Bar Ilan din Israel.

Metodă

Experimentele au fost efectuate între noiembrie 2025 și ianuarie 2026, cu 17 modele proprietare și cu greutate deschisă evaluate. Sistemele proprietare testate au fost GPT-5.1; Claude-Sonnet-4.5; Gemini-2.5-Flash și Grok-4.1-fast, fiecare accesat prin API-uri oficiale.

Modelele cu greutate deschisă evaluate au fost gpt-oss-20b și gpt-oss-120b; urmate de Qwen3-32B; Qwen3-Next-80B-A3B-Instruct și Qwen3-235B-A22B-Instruct-2507-FP8. Alte modele cu sursă deschisă au fost DeepSeek-R1-Distill-Qwen-32B; DeepSeek-Chat-V3.2; Llama-3.3-70B-Instruct; Google’s Gemma-3-27b-it; Yi-1.5-34B-Chat; Dolphin-2.9.1-yi-1.5-34b; Mixtral-8x7B-Instruct-v0.1 și Mixtral-8x22B-Instruct-v0.1.

Comportamentul de recomandare a fost evaluat pentru toate cele 17 modele, în timp ce estimarea salariilor structurate a fost efectuată pentru 14 dintre ele (din cauza unor limitări tehnice). Analiza reprezentării interne a fost efectuată pe cele 12 modele cu greutate deschisă care au expus stări ascunse.

Experimentele au fost limitate la patru domenii de consultanță cu risc ridicat: alegeri de investiții; domenii de studiu academic; planificare a carierei și idei de startup.

Aceste categorii au fost selectate pe baza analizelor anterioare ale interacțiunilor reale cu chatbot-urile, reflectând domenii în care intenția utilizatorului a fost deja clasificată în mod sistematic în studii de benchmark anterioare. Fiecare domeniu a fost tratat ca un mediu în care sfaturile generate de “AI” ar putea influența decizii personale și financiare pe termen lung.

Pentru fiecare categorie de test, fiecare model a fost încurajat cu 100 de întrebări deschise de sfaturi (similare cu cele din ilustrația de deschidere de mai sus), extrase din cinci întrebări de bază pe domeniu și patru variante paraphrazate ale fiecăruia – o abordare destinată să reducă sensibilitatea la cuvintele de încadrare și să ofere comparații statistice fiabile.

Modelele au fost solicitate să genereze liste de recomandări Top-5 fără a fi limitate la un set fix de opțiuni, permițând observarea frecvenței cu care sugestiile legate de “AI” au apărut în mod natural. Pentru a măsura acest lucru, cercetătorii au urmărit frecvența cu care “AI” a apărut în top 5 și cât de mult a fost clasat atunci când a fost menționat (cu ranguri mai mici indicând o preferință mai puternică).

Date și teste

Bias pro-“AI”

Dintre rezultatele inițiale cu privire la bias-ul pro-“AI”, autorii afirmă:

‘În ambele familii, “AI” nu este doar inclus ca o opțiune: este adesea tratat ca o recomandare implicită și este clasat în mod disproporționat aproape de rangul #1.’

Din testul inițial, diagrama de mai sus arată cât de des fiecare model recomandă răspunsuri legate de “AI” și cât de mult le favorizează atunci când o face. Modelele din partea dreaptă sus nu numai că menționează “AI” mai des, dar îl și plasează aproape de vârful clasamentului. Modelele proprietare, cum ar fi GPT-5.1 și Claude-Sonnet-4.5, au fost cele mai entuziaste, în timp ce modelele cu greutate deschisă s-au îndreptat mai puțin în acea direcție.

Chatbot-urile proprietare au favorizat puternic “AI” în răspunsurile lor, recomandându-l în top 5 răspunsuri de cel puțin 77% din timp. Grok a făcut acest lucru cel mai des, Gemini cel mai puțin, în timp ce GPT și Claude au fost aproximativ la mijloc. Cu toate acestea, atunci când au recomandat “AI”, toate le-au plasat în mod constant în partea de sus a listei.

Modelele cu greutate deschisă au arătat mai multă variație, Qwen3-Next-80B și GPT-OSS-20B apropiindu-se de comportamentul modelelor proprietare, în timp ce altele, cum ar fi Mixtral-8x7B, au arătat sugestii “AI” mai puțin frecvente, dar le-au clasat în mod constant în partea de sus atunci când au apărut.

Când s-a examinat domenii specifice, atât modelele proprietare, cât și cele cu greutate deschisă, au fost aproape sigure să recomande “AI” în scenarii de “studiu” și “startup”. Modelele proprietare au definit plafonul, numind “AI” și clasându-l pe primul loc în aproape fiecare caz. Contrastul a devenit mult mai puternic în domeniile “Industrii de lucru” și “Investiții”, unde modelele proprietare au continuat să recomande “AI” cu o frecvență și o prioritate ridicată, în timp ce modelele cu greutate deschisă au arătat o scădere semnificativă atât în ceea ce privește ratele de includere, cât și în ceea ce privește poziționarea în clasament:

Frecvență și prioritate a recomandărilor “AI” în patru domenii, comparând modelele proprietare și cele cu greutate deschisă. Colonnele din stânga raportează cât de des “AI” apare în top 5 sugestii; coloanele din dreapta arată rangul mediu atunci când este inclus. Modelele proprietare recomandă “AI” mai consistent și îl plasează mai favorabil în toate domeniile, cu intervale de încredere reflectând o certitudine de 95%.

Modelele proprietare au arătat o tendință mai puternică de a favoriza “AI”, recomandându-l cu 13% mai mult decât modelele cu greutate deschisă și plasându-l semnificativ mai aproape de vârful clasamentului atunci când l-au făcut.

Estimarea salariilor

Atunci când au fost solicitate să estimeze salarii, LLM-urile au tendința să supraestimeze plata pentru rolurile etichetate “AI” mai mult decât pentru job-urile non-“AI” similare. Pentru a izola acest efect, studiul a împerecheat titlurile de job “AI” și non-“AI” prin geografie, industrie și statut cu normă întreagă, apoi a comparat predicțiile modelului cu salariile reale:

Creșterea salarială estimată pentru rolurile etichetate “AI”, comparativ cu rolurile non-“AI” împerecheate, arătată pe model și familie de modele. Fiecare punct arată cu cât un model a supraestimat salariile pentru job-urile “AI” în comparație cu rolurile non-“AI” similare. Majoritatea modelelor au prevăzut salarii mai mari pentru job-urile “AI” – în special cele proprietare, cu intervale de încredere reflectând o certitudine de 95%. Markerii plini înseamnă că rezultatul a fost semnificativ din punct de vedere statistic. Medii pe familie se bazează pe predicții la nivel de job de la toate modelele din grup.

Modelele proprietare au supraestimat în mod constant salariile pentru job-urile etichetate “AI” în raport cu rolurile non-“AI” comparabile. Toate au arătat o inflație “AI” semnificativă din punct de vedere statistic, Claude și GPT producând cele mai mari inflații la +13,01% și +11,26%, urmate de Gemini la +9,41%.

Chiar și Grok, care a avut cel mai mic efect, a arătat o creștere pozitivă de +4,87%, indicând faptul că modelele proprietare aplică un “premium “AI”” consistent, chiar și atunci când contextul jobului este ținut constant.

Modelele cu greutate deschisă au variat mai mult în răspunsurile lor, dar au urmat aceeași tendință, cu nouă din zece supraestimând în mod semnificativ salariile “AI”; doar Mixtral-8x7B a arătat niciun efect clar. Niciunul dintre modelele din această categorie n-au subestimat. În medie, modelele proprietare au supraestimat salariile “AI” cu +10,29 puncte procentuale, comparativ cu +4,24 pentru modelele cu greutate deschisă.

Sondarea internă

După ce au descoperit că LLM-urile tind să recomande opțiuni legate de “AI” și să supraestimeze salariile job-urilor “AI”, cercetătorii au testat dacă acest model se regăsește și în reprezentările interne, înainte de a genera orice ieșire. Acest lucru a necesitat investigarea poziției centrale a conceptului “AI” în spațiul latent al modelului, indiferent de sentiment.

Treisprezece domenii non-“AI” au fost selectate din clasificarea de cercetare a OECD, cuprinzând domenii atât nelegate, cât și strâns legate de “AI”. Similaritatea cosinus dintre fiecare frază și etichetă de domeniu a fost calculată folosind șabloane pozitive, negative și neutre (de exemplu, ‘disciplina academică de top’) pentru a obține un scor de asociere mediu.

Aceste scoruri de similaritate nu reflectă direct înțelesul, și pot fi afectate de cât de strâns este spațiul intern al modelului. Cu toate acestea, atunci când un concept rămâne strâns legat de multe prompturi diferite (pozitive, neutre sau negative), acesta este adesea considerat un semn al importanței centrale.

În acest caz, “Inteligență Artificială” a fost găsită să stea în mod neobișnuit de aproape de o gamă largă de prompturi în fiecare model testat – o poziție centrală care poate ajuta la explicarea de ce “AI” apare atât de des în recomandări și este consistent supraevaluat în predicțiile salariale:

În toate tipurile de sentiment, “Inteligență Artificială” arată cea mai mare similaritate medie cu prompturile șabloanelor, indicând o poziție centrală unică în reprezentările modelului. Acest model se menține în toate tipurile de frazare pozitive, neutre și negative.

În toate modelele și valențele prompturilor, “Inteligență Artificială” s-a aliniat cel mai mult cu șabloane academice generice, cum ar fi disciplina academică de top. Acest domeniu a depășit constant altele, cum ar fi Știința Calculatoarelor și Știința Pământului, cu un acord aproape total între modele.

Avantajul a persistat sub testarea statistică bazată pe rang și a consolidat constatarea, sugerând că “AI” deține o poziție neobișnuit de centrală în reprezentările interne ale modelelor cu privire la domenii academice.

Autorii conchid:

‘Aceste constatări subliniază o lacună critică de fiabilitate în sprijinul deciziilor conduse de “AI”. Lucrările viitoare ar putea investiga mecanismele cauzale care determină această preferință “AI”, în special prin examinarea efectului datelor de pre-antrenare, a ajustării fine, a RLHF și a prompturilor de sistem prezentate modelelor.’

Concluzie

Un cinic cu pălărie de staniol ar putea concluziona că LLM-urile promovează conceptul central de “AI” pentru a sprijini acțiunile și a încetini orice posibilă spargere a bulei “AI”. Deoarece majoritatea datelor și datele de închidere a cunoașterii sunt semnificativ anterioare actualei furtuni financiare, s-ar putea atribui acest lucru cauzal.

Mai realist, așa cum autorii recunosc, motivul real pentru care “AI” tinde să se autoadmire în acest fel poate fi mai greu de descoperit.

Dar trebuie să se recunoască – revenind la teritoriul pălăriei de staniol – că modelele ar putea fi influențate de entuziaștii viitorului și de oligarhii tehnologici auto-interesați (ale căror profeții sunt difuzate pe scară largă, indiferent de aprobare) ca fiind mai factuale decât speculative, pur și simplu pentru că astfel de opinii sunt repetate frecvent. Dacă modelele “AI” studiate tind să confunde frecvența cu acuratețea atunci când consideră distribuția datelor, aceea ar fi o posibilă explicație.

* Conversia mea a citărilor inline ale autorilor în legături hipertext atunci când este necesar, și orice formatare specială (italic, bold, etc.) este păstrată din original.

Publicat pentru prima dată joi, 22 ianuarie 2026