AI citează aceleași lucrări în mod repetat – Exact ca oamenii

ChatGPT și alte instrumente de scriere AI pot transforma în tăcere știința într-un concurs de popularitate, îndrumând în mod repetat cercetătorii spre aceleași lucrări, în timp ce ignoră lucrări noi și inovatoare care ar putea într‑adevăr avansa domeniul.

Monocultura, în termeni de frecvență și statistici, este situația în care același set limitat de surse sau active se repetă din nou și din nou, cufundând vocile noi și perspectivele proaspete: același set limitat de cântece în programarea radio; același grup de autori și cărți în rafturile aeroporturilor; și aceeași selecție restrânsă de fructe și legume în supermarketuri:

Yes, we have these bananas – and only these bananas. Homogeneity of fruit and vegetables in western food chains disregards the hundreds of other species possibilities in each case, because the various generation and transport chains are too expensive to industrialize for diverse types of fruit or vegetables.  Source

Acest lucru se întâmplă și în citațiile care apar în noile cercetări științifice, unde cercetătorii, poate din lene, recurg la un set „fiabil” de surse care capătă impuls până când încep să domine ramuri ale cercetării.

Acest fenomen este cunoscut sub denumirea de Efectul Matthew – o teorie sociologică care sugerează că incumbenții vor beneficia întotdeauna; sindromul a fost comparat cu promisiunea din Matei 13:12, care afirmă „Cine are, i se va da mai mult și va avea belșug. Cine nu are, chiar și ce are i se va lua”.

În Mulțime

Una dintre marile speranțe ale cercetării augmentate de AI a fost că noile metode de învățare automată ar putea scăpa de efectul Matthew – cunoscut și sub denumirea de biasul de popularitate – și să înceapă să citeze lucrări mai puțin cunoscute, care ar putea fi mai incisive sau mai adecvate punctului susținut într-un articol.

Totuși, pe baza modului în care rutinele de antrenament AI interpretează seturile de date, nu a existat niciodată un motiv solid pentru acest optimism; și s-a constatat în mod repetat că atunci când AI nu inventează citări în mod deschis – o problemă cronică până în prezent – perpetuează efectul Matthew, exact ca oamenii – deși poate nu din același motiv.

În timpul antrenamentului, un model va învăța să acorde un rang înalt lucrării celei mai citate (sau „cel mai des repetate”) dintr-un set de antrenament, deoarece rutinele de antrenament sunt concepute să evidențieze modele semnificative și să exclude anomaliile ca „zgomot” sau anomalii statistice.

În acest regim, echivalentul teoriei relativității a lui Einstein nu ar primi niciodată atenție din partea mașinii, care, odată antrenată, consideră că și-a găsit deja principiile și referințele și poate ajusta ușor acea perspectivă accesând publicații mai noi prin RAG, sau prin alte mijloace care extind aria de acțiune a modelului dincolo de matricea sa antrenată.

Problema este că nu va recunoaște astfel de lucrări noi în același mod ca „favoriții vechi” pe care îi cunoștea deja, sau deloc, deoarece părtinirile sale statistice sunt deja profund înrădăcinate.

Astfel, AI nu observă și nu imită cu adevărat comportamentul uman când perpetuează Efectul Matthew – pur și simplu numără de câte ori cercetătorii, din lene, recurg la aceleași lucrări vechi și le acordă un rang înalt. În acest sens, problema repetării citărilor este legată de provocarea de a selecta un articol științific cu adevărat interesant din furtuna în continuă creștere de publicații de cercetare AI, deoarece lucrarea cea mai puternică va avea adesea cel mai slab semnal.

Diagnosticarea Monoculturii

Această problemă este abordată într-un nou și interesant studiu din Statele Unite intitulat When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models. Noua lucrare – o colaborare între University of Texas at Austin, Stevens Institute of Technology, Washington University at St Louis, Rice University și University of Notre Dame – își propune să demonstreze în mod definitiv existența monoculturii citărilor în învățarea automată, pentru ca variabilele sale să poată fi abordate direct în viitor, alături de problema în sine.

În teste, autorii au constatat că unsprezece modele de la OpenAI, Google și Anthropic favorizau în mod repetat același grup restrâns de lucrări – chiar și după ce semnalele evidente de popularitate au fost eliminate.

Pentru a testa acest lucru, 120 de lucrări reale au fost dezlipite de numărul de citări și de locurile de publicare, în timp ce numele autorilor au fost înlocuite, iar anii de publicare reasignați aleatoriu. Seturi aleatorii de treizeci de lucrări au fost apoi prezentate fiecărui model, căruia i s-a permis să citeze nu mai mult de zece.

Opt experți umani în domeniile relevante au primit aceleași lucrări orbite, dar nu au convergit asupra acelorași favoriți ca AI‑urile, semnalând că părtinirea era specifică modelelor AI și nu lucrărilor în sine:

From the new paper, test results comparing citation choices by AI models and human experts. Across all eleven models, citations were concentrated on a smaller group of papers, while some papers were repeatedly passed over entirely. Human experts showed neither tendency. Source

Aceleași lucrări au rămas populare chiar și când modelele au fost rugate să aleagă doar referințe, arătând că redactarea recenziei în sine nu a cauzat părtinirea.

Experimentul a fost apoi extins pe unsprezece runde, cu 120 de lucrări scrise de AI adăugate după fiecare rundă, pentru a testa ce se întâmplă când aceste preferințe comune operează într-un bazin în creștere de cercetări generate de AI.

Pe măsură ce au fost adăugate tot mai multe lucrări scrise de AI, modelele și-au concentrat din ce în ce mai mult citările pe un număr tot mai mic de lucrări umane originale.

Autorii afirmă:

„Pe măsură ce modelele de limbaj trec de la redactarea prozei la rularea agenților de căutare în literatură cu apeluri de instrumente, referințele fabricate devin mai ușor de prins și de limitat.”

„Eșecul mai grav începe după ce fiecare candidat este real: diferite modele pot totuși să selecteze același subset restrâns, producând o monocultură a citărilor fără ca vreo citare individuală să fie greșită.”

Ca remediere a problemei, lucrarea susține că simpla combinare a modelelor de la diferiți furnizori sau acordarea unei expuneri egale lucrărilor nu va fi suficientă, deoarece o mare parte a preferinței este partajată între modele. În schimb, preferința de bază pentru anumite lucrări ar trebui să se schimbe – posibil prin acordarea deliberată unei mai mari vizibilități lucrărilor neglijate. Cu toate acestea, autorii subliniază că această abordare rămâne netestată.

Abordări de Testare

Punctul de referință a fost construit din 120 de lucrări reale de distilare a cunoștințelor colectate de pe arXiv și publicate între 2015 și 2022. Fiecare avea între 50 și 500 de citări în momentul colectării, un interval ales pentru a exclude atât lucrări obscure, cât și cele extrem de influente.

Experimentul a început prin selectarea aleatorie a treizeci de lucrări din colecția disponibilă, cu numele autorilor, anii de publicare și numărul de citări ascunse. Fiecare model a produs o scurtă recenzie sau un articol de poziție citând nu mai mult de zece lucrări, iar aceste alegeri au fost comparate cu selecții aleatorii din același material:

Schema for the method used for testing citation preferences. Thirty randomly selected papers were shown to a model with identifying information hidden, after which it could cite up to ten. Its choices were compared with random selection, while each round added 120 AI-written papers to the next round’s collection.

În experimentul extins, 120 de lucrări nou generate au intrat în colecție după fiecare rundă, crescând treptat proporția cercetărilor scrise de AI.

În testele preliminare, modelele tindeau să citeze majoritatea lucrărilor prezentate, selectând de obicei între 22 și 27 din cele 30. Cercetătorii au stabilit astfel un maxim de zece citări pentru experimentul principal, forțând modelele să facă alegeri mai selective.

Mai jos vedem un rezumat al designului experimental rezultat:

Experimental setup used to test citation preferences. The study began with 120 real papers and tested eleven models from three vendors, using randomized sets of 30 papers and a maximum of ten citations. Later rounds added AI-generated papers, expanding the collection to 1,440 papers.

Experimentul inițial a folosit unsprezece modele de la cei trei furnizori principali: OpenAI a fost reprezentat de GPT-5, GPT-5 mini, GPT-4.1 și GPT-4.1 mini; Google prin Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 3.1 Pro și Gemini 3.1 Flash-Lite; și Anthropic prin Claude Opus 4.8, Claude Sonnet 4.6 și Claude Haiku 4.5.

În rezultatele testelor afișate mai jos, observăm cât de mult fiecare model și-a concentrat citările pe un grup restrâns de lucrări; câte lucrări a ignorat complet; și cât de consecvent a făcut aceleași alegeri când experimentul a fost repetat:

Test results showing how strongly each model concentrated its citations on particular papers and how many papers it ignored entirely. ‘Top-10% share’ shows how many citations went to the 12 most-favored papers, while ‘HHI’ measures how concentrated citations were overall. ‘Reliability’ shows how consistently each model favored the same papers across tests, and ρ shows how similar those preferences were across models. The ‘Matched null’ row indicates what would be expected if papers were chosen at random.

Ce Favorizează De Fapt Modelele?

Preferința s-a dovedit a fi copleșitor determinată de conținutul lucrărilor în sine. De exemplu, pentru GPT-5 mini, aproximativ 90% din variația lucrărilor favorizate se datora conținutului, nu factorilor precum ordinea din listă, zgomotul de generare sau metadatele fabricate atașate fiecărei lucrări. Același efect de „conținut dominant” a fost reprodus cu GPT-4.1 mini.

Harta de preferință (vezi mai jos) a fost, de asemenea, aproape neschimbată când titlurile și rezumatele au fost rescrise substanțial, menținându-și sensul. În patru teste de parafrazare reușite, s-au obținut corelații între 0,95 și 0,99, în ciuda utilizării unor modele diferite de la trei furnizori pentru rescriere.

Modificări ale hărții de preferință au fost observate numai când sensul de bază a fost modificat în mod măsurabil:

Test results comparing citation preferences across the eleven models. The numbers show how closely each pair of models favored the same papers, with higher values indicating greater agreement. Despite differences between models and vendors, broadly similar preferences were found across the group

Prin urmare, modelele par să răspundă în principal la conținutul semantic și nu la formularea specifică. Totuși, motivul acordului lor puternic nu a putut fi determinat în mod concludent.

Este posibil, susțin autorii, ca un consens comun de citare să fi fost absorbit în timpul antrenamentului. O altă posibilitate este ca judecăți similare privind ce constituie o lucrare „citabilă” să fie ajunse independent.

Prin urmare, existența preferinței comune a fost stabilită, dar originea sa finală rămâne necunoscută.

Autorii sugerează că utilizarea pe scară largă a AI în cercetare ar putea restrânge gama de lucrări care primesc atenție, deoarece diferite modele tind să favorizeze multe dintre aceleași lucrări; și pe măsură ce literatura generată de AI se acumulează, aceste preferințe comune pot fi consolidate și mai mult prin citări repetate, făcând cercetarea mai puțin favorizată din ce în ce mai greu de descoperit. Diversitatea citărilor și monitorizarea concentrării citărilor sunt, așadar, propuse ca posibile măsuri de protecție.

Punctul de referință al studiului pentru concentrarea recursivă a citărilor este acum disponibil pe GitHub.

Concluzie

Opinia Ca persoană care citește săptămânal un număr disproporționat de lucrări de cercetare AI, am văzut „valuri de citări” care vin și pleacă. Un pilon peren este lucrarea originală a Google, Attention Is All You Need, documentul inițial al Transformerelor, care probabil este acum încorporat în șabloanele de trimitere.

Un alt infractor recurent, pentru o perioadă lungă, a fost lucrarea din 2014 Generative Adversarial Networks, deși în cele din urmă a fost înlocuită în frecvență de Denoising Diffusion Probabilistic Models și alte studii bazate pe difuzie.

În aproape toate cazurile, aceste citări „recurente” nu sunt greșite, ca atare; dar adesea sunt prea largi în scop pentru a constitui un sprijin util pentru lucrarea în care sunt citate; și în acest sens, ele reprezintă ceva asemănător cu „spălarea citărilor” – includerea de citate „fiabile”, dar în principal decorative, pentru a conferi o aparență de credibilitate cu efort minim.

Publicat prima dată luni, 24 august 2026