AI citerer de samme artikler igen og igen – ligesom mennesker

ChatGPT og andre AI‑skrivningsværktøjer kan stille og roligt gøre videnskaben til en popularitetskonkurrence ved gentagne gange at lede forskere mod de samme artikler, mens de overser nye og nyskabende værker, der faktisk kunne fremme feltet.

Monokultur, i forhold til hyppighed og statistik, er hvor det samme begrænsede sæt af kilder eller ressourcer gentager sig igen og igen, og drukner nye stemmer og friske perspektiver: den samme begrænsede samling af sange i radioprogrammering; den samme gruppe af forfattere og bøger i lufthavnsreoler; og den samme begrænsede udvælgelse af frugt og grøntsager i supermarkeder:

Ja, vi har disse bananer – og kun disse bananer. Homogeniteten af frugt og grøntsager i vestlige fødekæder ignorerer de hundredvis af andre artsmuligheder i hvert tilfælde, fordi de forskellige produktions‑ og transportkæder er for dyre at industrialisere for forskellige typer af frugt eller grøntsager.  Source

Dette forekommer også i de citater, der dukker op i ny videnskabelig forskning, hvor forskere måske dovent falder tilbage på et ‘pålideligt’ sæt af kilder, som får momentum, indtil de begynder at dominere forskningsgrene.

Dette er kendt som Matthew‑effekten – en sociologisk teori, som antyder at desom allerede har vil altid drage fordel; syndromet er blevet sammenlignet med løftet i Matthæus 13:12, som udsiger ‘Den, der har, vil få mere, og han vil have overflod. Den, der ikke har, vil selv det, han har, blive frataget’.

De i mængden

En af de store forhåbninger ved AI‑forstærket forskning har været, at nye maskinlæringsmetoder kunne bryde ud af Matthew‑effekten – også kendt som popularitetsbias – og begynde at citere mindre kendte værker, som måske er mere præcise eller mere relevante for pointen i en artikel.

Men baseret på den måde, AI‑træningsrutiner fortolker datasæt på, har der aldrig været noget solidt grundlag for denne optimisme; og det er gentagne gange blevet påvist, at når AI ikke opfinder citater direkte – et kronisk problem indtil nu – så forstærker den igen Matthew‑effekten, ligesom mennesker gør – om end måske ikke af samme grund.

Under træning lærer en model at rangere de mest citerede (eller ‘mest ofte gentagne’) artikler højt i et træningssæt, fordi træningsrutinerne er designet til at udtrække meningsfulde mønstre og at diskontere outliers som ‘støj’ eller statistiske anomalier.

Under dette regime ville ækvivalenten til Einsteins relativitetsteori aldrig få opmærksomhed fra maskinen, som, når den er trænet, føler at den allerede har fundet sine principper og referencer, og kun kan foretage lette justeringer ved at række ud til nyere publikationer gennem RAG, eller på andre måder der udvider modellens rækkevidde ud over dens trænede matrix.

Problemet er, at den ikke vil anerkende sådanne nye værker på samme måde som de ‘gamle favoritter’, den allerede kender, eller overhovedet, fordi dens statistiske bias nu er ret indgroet.

Dermed observerer og efterligner AI ikke egentlig menneskelig adfærd, når den forstærker Matthew‑effekten – den tæller blot, hvor mange gange forskere dovent falder tilbage på de samme gamle artikler, og rangerer disse artikler højt. I denne henseende er problemet med gentagne citater relateret til udfordringen med at vælge et virkelig interessant videnskabeligt papir ud af den stadigt voksende snestorm af AI‑forskningspublikationer, idet det stærkeste arbejde ofte vil have det svageste signal.

Diagnostisering af monokultur

Dette problem behandles i et interessant nyt papir fra USA med titlen When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models. Det nye arbejde – et samarbejde mellem University of Texas at Austin, Stevens Institute of Technology, Washington University at St Louis, Rice University og University of Notre Dame – har til formål at endegyldigt påvise eksistensen af citat‑monokultur inden for maskinlæring, så dets variable potentielt kan adresseres direkte i fremtiden, sammen med selve problemet.

I tests fandt forfatterne, at elleve modeller fra OpenAI, Google og Anthropic gentagne gange favoriserede den samme lille gruppe af artikler – selv efter åbenlyse popularitetssignaler var fjernet.

For at teste dette blev 120 reelle artikler frataget citattællinger og publikationssteder, mens forfatternavne blev erstattet, og udgivelsesår tilfældigt omfordelt. Tilfældige sæt af tredive artikler blev derefter vist for hver model, som fik lov til at citere højst ti.

Otte menneskelige eksperter inden for de relevante felter fik de samme blinde artikler, men konvergerede ikke om de samme favoritter som AI‑erne, hvilket viser at bias var specifik for AI‑modellerne snarere end artiklerne selv:

Fra det nye papir, testresultater der sammenligner citatvalg af AI‑modeller og menneskelige eksperter. På tværs af alle elleve modeller var citater koncentreret om en mindre gruppe af artikler, mens nogle artikler blev gentagne gange helt overset. Menneskelige eksperter udviste ingen sådan tendens. Source

De samme artikler forblev populære, selv når modellerne kun blev bedt om at vælge referencer, hvilket viser at selve udarbejdelsen af anmeldelsen ikke forårsagede bias.

Eksperimentet blev derefter udvidet over elleve runder, med 120 AI‑skrevne artikler tilføjet efter hver runde, for at teste hvad der sker, når disse delte præferencer opererer i en voksende pulje af AI‑genereret forskning.

Efterhånden som flere AI‑skrevne artikler blev tilføjet, koncentrerede modellerne i stigende grad deres citater på et faldende antal af de oprindelige menneskelige artikler.

‘Efterhånden som sprogmodeller går fra at udarbejde prosa til at køre litteratursøgningsagenter med værktøjskald, bliver fabrikerede referencer lettere at fange og begrænse.

‘Den sværere fejl begynder efter hver kandidat er reel: forskellige modeller kan stadig vælge den samme snævre undergruppe, hvilket producerer citat‑monokultur uden at nogen enkelt citat er forkert.’

Som en afhjælpning af problemet argumenterer papiret for, at blot at blande modeller fra forskellige leverandører eller give artikler lige eksponering ikke vil være tilstrækkeligt, da en stor del af præferencen deles på tværs af modeller. I stedet ville den underliggende præference for bestemte artikler skulle ændres – potentielt ved bevidst at give oversete artikler større fremtræden. Forfatterne understreger dog, at denne tilgang stadig er uprøvet.

Testtilgange

Benchmark‑testen blev opbygget ud fra 120 reelle knowledge‑distillation‑artikler indsamlet fra arXiv og offentliggjort mellem 2015 og 2022. Hver havde mellem 50 og 500 citater på indsamlingstidspunktet, et interval valgt for at udelukke både obskure og usædvanligt indflydelsesrige værker.

Eksperimentet startede med at trække tredive artikler tilfældigt fra den tilgængelige samling, med forfatternavne, udgivelsesår og citattællinger skjult. Hver model producerede en kort anmeldelse eller positioneringsstykke, der citerede højst ti artikler, og disse valg blev sammenlignet med tilfældige udvælgelser fra det samme materiale:

Skema for den anvendte metode til at teste citatpræferencer. Tredive tilfældigt udvalgte artikler blev vist for en model med identificerende information skjult, hvorefter den kunne citere op til ti. Dens valg blev sammenlignet med tilfældig udvælgelse, mens hver runde tilføjede 120 AI‑skrevne artikler til næste runde’s samling.

I det udvidede eksperiment kom 120 nygenererede artikler ind i samlingen efter hver runde, hvilket gradvist øgede andelen af AI‑skrevet forskning.

I de indledende tests havde modellerne en tendens til at citere de fleste af de artikler, de blev vist, typisk udvalgte 22 til 27 af de 30. Forskerne satte derfor et maksimum på ti citater for hovedeksperimentet, for at tvinge modellerne til at foretage mere selektive valg.

Nedenfor ser vi et resumé af det resulterende eksperimentelle design:

Eksperimentelt setup brugt til at teste citatpræferencer. Undersøgelsen startede med 120 reelle artikler og testede elleve modeller fra tre leverandører, ved brug af randomiserede sæt af 30 artikler og et maksimum på ti citater. Senere runder tilføjede AI‑genererede artikler, hvilket udvidede samlingen til 1.440 artikler.

Det indledende eksperiment brugte elleve modeller fra de tre store leverandører: OpenAI var repræsenteret af GPT-5, GPT-5 mini, GPT-4.1 og GPT-4.1 mini; Google af Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 3.1 Pro og Gemini 3.1 Flash‑Lite; og Anthropic af Claude Opus 4.8, Claude Sonnet 4.6 og Claude Haiku 4.5.

I testresultaterne vist nedenfor ser vi, hvor meget hver model koncentrerede sine citater omkring en lille gruppe af artikler; hvor mange artikler den helt ignorerede; og hvor konsistent den foretog de samme valg, når eksperimentet blev gentaget:

Testresultater der viser, hvor stærkt hver model koncentrerede sine citater på bestemte artikler, og hvor mange artikler den helt ignorerede. ‘Top‑10 % andel’ viser, hvor mange citater der gik til de 12 mest foretrukne artikler, mens ‘HHI’ måler, hvor koncentrerede citaterne var samlet set. ‘Pålidelighed’ viser, hvor konsistent hver model foretrak de samme artikler på tværs af tests, og ρ viser, hvor ens disse præferencer var på tværs af modeller. ‘Matched null’-raden angiver, hvad der ville blive forventet, hvis artikler blev valgt tilfældigt.

Hvad favoriserer modellerne egentlig?

Præferencen viste sig at være overvejende drevet af indholdet af selve artiklerne. For eksempel var omkring 90 % af variationen i hvilke artikler der blev foretrukket for GPT-5 mini tilskrivet indholdet, snarere end faktorer som rækkefølge i listen, genereringsstøj eller de fabrikerede metadata knyttet til hver artikel. Den samme ‘dominerende indhold’-effekt blev reproduceret med GPT-4.1 mini.

Præferencekortet (se nedenfor) ændredes næsten ikke, da titler og abstracts blev væsentligt omskrevet, mens deres betydning blev bevaret. På tværs af fire succesfulde parafrase‑tests blev korrelationer på 0,95–0,99 opnået, på trods af at forskellige modeller fra tre leverandører blev brugt til omskrivningen.

Ændringer i præferencekortet blev kun observeret, når den underliggende betydning blev mærkbart ændret:

Testresultater der sammenligner citatpræferencer på tværs af de elleve modeller. Tallene viser, hvor tæt hvert par af modeller foretrak de samme artikler, hvor højere værdier indikerer større enighed. På trods af forskelle mellem modeller og leverandører blev der fundet overordnet lignende præferencer på tværs af gruppen

Modellerne ser derfor ud til primært at reagere på semantisk indhold snarere end på specifik formulering. Årsagen til deres stærke enighed kunne dog ikke afgøres entydigt.

Det er muligt, som forfatterne påstår, at en fælles citat‑konsensus kan være blevet absorberet under træningen. En alternativ mulighed er, at lignende vurderinger af, hvad der udgør en ‘citerbar’ artikel, kan nås uafhængigt.

Derfor er eksistensen af den delte præference blevet fastslået, men dens endelige oprindelse forbliver ukendt.

Forfatterne antyder, at udbredt brug af AI i forskning kan indsnævre spektret af arbejde, der får opmærksomhed, fordi forskellige modeller har tendens til at favorisere mange af de samme artikler; og efterhånden som AI‑genereret litteratur akkumuleres, kan disse delte præferencer blive yderligere forstærket gennem gentagne citater, hvilket gør mindre foretrukket forskning gradvist sværere at opdage. Citatdiversitet og overvågning af citat‑koncentration foreslås derfor som mulige sikkerhedsforanstaltninger.

Studiets benchmark for rekursiv citat‑koncentration er nu tilgængeligt på GitHub.

Konklusion

Holdning Som en, der læser et usædvanligt stort antal AI‑forskningsartikler hver uge, har jeg set ‘citatbølger’ komme og gå. En evig bestanddel er Googles Attention Is All You Need, den originale Transformers‑artikel, som nu sikkert er indkodet i indsendelses‑skabeloner.

En anden tilbagevendende favorit, i lang tid, var 2014‑udgaven Generative Adversarial Networks, selvom den til sidst blev overhalet i hyppighed af Denoising Diffusion Probabilistic Models og andre diffusion‑baserede hovedstudier.

I næsten alle tilfælde er disse ‘gentagne’ citater ikke forkerte i sig selv; men de er ofte for bredt omfangsrige til at være en nyttig støtte til den artikel, de citeres i; og i den forstand repræsenterer de noget, der ligner ‘citation‑washing’ – indførelsen af ‘pålidelige’ men primært dekorative kildecitater, for at give et lav‑indsats indtryk af troværdighed.

Først offentliggjort mandag den 24. august 2026