AI-forurensning i søkeresultater risikerer ‘hentingssammenbrudd’

Da AI-innhold forurenser nettet, åpner en ny angrepsvektor seg i slagmarken for kulturell konsensus.

Forskning ledet av et koreansk søkefirma hevder at når AI-genererte sider trenger inn i søkeresultater, undergraver de stabiliteten til søke- og rangeringssystemer og svekker systemer – som f.eks. Retrieval-Augmented Generation (RAG) – som avhenger av disse rangeringene for å bestemme hva som skal vises og hva som skal betraktes som troverdig, og øker dermed risikoen for at misvisende eller uriktige opplysninger skal bli behandlet som autoritative.

Begrepet som er myntet for dette syndromet av forskerne er Hentingssammenbrudd, som er forskjellig fra den kjente trusselen om modellkollaps (der AI trent på eget utgangspunkt blir stadig dårligere).

I et henholdsvis Hendingsammenbrudd-scenarie, hvor AI-generert innhold gradvis dominerer søkeresultater, i så stor grad at selv når svarene forblir overfladisk nøyaktige, vil den underliggende bevisgrunnlaget bli skilt fra opprinnelige menneskelige kilder. Likevel ser dette ‘rotløse’ data ut til å være i stand til å oppnå en høy plassering i søkeresultater*:

‘Med spredningen av AI-generert tekst, har utfordringer i tilskrivning og fortrening datakvalitet intensivert. I motsetning til tradisjonell keyword spam, er moderne syntetisk innhold semantisk kohrent, og lar seg derfor blande inn i rangeringssystemer og propagerer gjennom pipeliner som autoritativ bevis.’

Artikkelen hevder at dette ville skape en ‘strukturert skjør’ miljø hvor rangeringssignaler favoriserer AI-produserte, SEO-optimerte sider, og fortrenger menneskeskrevne kilder over tid på en skjult måte, dvs. uten å utløse åpenbare nedganger i svarkvalitet:

‘[Veksten] av AI-generert innhold på nettet presenterer en strukturell risiko for informasjonshenting, ettersom søkemotorer og Retrieval-Augmented Generation (RAG)-systemer stadig forbruker bevis produsert av store språkmodeller (LLM).’

‘Vi karakteriserer denne økosystem-nivå-feilmodusen som Hendingsammenbrudd, en to-trinns prosess hvor (1) AI-generert innhold dominerer søkeresultater, undergraver kildediversitet, og (2) lavkvalitets- eller motstridende innhold trenger inn i hendingspipelinen.’

Forskerne hevder at når ‘dominans’-fasen er etablert, blir den samme hendingspipelinen mer utsatt for bevisst forurensning, ettersom motstridende sider kan utnytte de samme optimeringsmekanismene for å oppnå synlighet*:

‘Ved å etablere rammen for Hendingsammenbrudd, legger dette arbeidet grunnlaget for å forstå hvordan syntetisk innhold omformer informasjonshenting. For å mildne disse risikoene, foreslår vi en overgang mot Defensive Ranking-strategier som sammen optimaliserer relevans, faktualitet og proveniens.’

Hendingsammenbrudd ville sannsynligvis forverre modellkollaps, ettersom det legger til et lag av ondsinnet intensjon på ‘fotokopieffekten’ av entropi, hvor AI stadig mata på AI-generert utgangspunkt. Foruten å påvirke den åpenbare konsensus om ‘sannhet’ i sanntidssøkeresultater, kunne uriktigheter og angrep senere bli innført i trente LLM-er som autoritative kilder.

Det nye arbeidet har tittelen Hendingsammenbrudd når AI forurenser nettet, og kommer fra tre forskere ved Naver Corporation.

Metode

For å teste hvordan AI-generert innhold propagerer gjennom hendingsystemer, valgte forskerne tilfeldig 1000 spørsmål/svar-par fra MS MARCO-datasettet og benchmarket, som består av åpne domene-spørsmål parret med menneskevaliderede referanse-svar. Disse ble brukt både til å grunnlegge hendingspipelinen og til å evaluere den faktiske riktigheten av genererte svar.

For hvert MS MARCO-spørsmål i testene, ble ti websider hentet fra Google Søk, basert på topp-rangerende SEO-resultater for hver term, og produserte til slutt en gruppe på 10 000 dokumenter.

Dokumentenes faktiske gyldighet ble vurdert ved å sammenligne hver av dem mot MS MARCO-grunnsvaret, ved å bruke GPT-5 Mini som dommer.

Innholdsfjell-simulering

For å simulere kvalitetsnivået (av vanlige, ikke-motstridende) artikler assosiert med innholdsfjell, brukte forfatterne den økonomiske GPT-5 Nano OpenAI-modellen til å faktisk generere nye syntetiske artikler, ettersom dette er ‘rimelig’ nivå av AI som sannsynligvis vil bli brukt av innholdsmøller. GPT-5 Mini, som ble brukt til å vurdere utgangspunktet, er en litt mer kapabel modell.

Omvendt, for å simulere motstridende innlegg (dvs. innhold designet for å spre misinformasjon eller som ellers inneholder misinformasjon), ble ingen virkelige referanser brukt. I stedet ble førsteutkast av eksemplene skapt med en konvensjonell klikk-løgn/SEO-genererator, og deretter overført til GPT-5 Nano, som fikk i oppdrag å erstatte et visst antall fakta med plausibelt, men usanne, alternativer. GPT-5 Nano utførte også semantisk om-rangering for eksperimentets formål.

For å simulere AI-metning over tid, ble en 20-runders forurensningsprosess kjørt, hvor ett syntetisk dokument ble lagt til per spørsmål til en fast gruppe på ti opprinnelige dokumenter, og økte AI-andelen fra 0% til 66,7%.

For SEO-stil-potten, ble generatoren bedt om å ‘opptre som en SEO-ekspert’, og å integrere høy-IDF nøkkelord fra de opprinnelige dokumentene for å øke hendingsmulighet.

For den motstridende potten, var prompten designet for å bevare flytende, naturlig lydende prosa, samtidig som den diskret endret navngitte enheter og numeriske detaljer, og skapte dokumenter som ikke ville utløse statistiske filter, mens de stille og rolig undergravde faktisk nøyaktighet.

Mål

Tre mål ble adoptert for eksperimentene: Pool Forurensningsrate (PCR), for å bestemme hvor mye av dokumentpotten som var AI-generert; Eksponeringsforurensningsrate (ECR), for å måle hvor mye av topp ti søkeresultater kom fra AI-kilder (indikerer hva som faktisk gikk inn i hendingspipelinen); og Sitat Forurensningsrate (CCR), for å registrere hvor mye av bevisene som ble sitert i det endelige svaret var syntetisk.

For å undersøke praktisk påvirkning, ble både kvaliteten på hentede kilder og integriteten til det endelige svaret testet. Presisjon@10 (P@10) fanget hvor mange av topp ti resultater som faktisk var korrekte når de ble sjekket mot MS MARCO-grunnsvaret; og Svar Nøyaktighet (AA) målte om det genererte svaret matchet det samme referanse-svaret, med GPT-5 Mini brukt til å bestemme om meningen var konsistent.

Tester

Forskerne testet først sin metode mot den opprinnelige dokumentpotten som ble trukket fra SERPS, dvs. før de ble brukt som materiale til å generere syntetisk data, og de noterte at deres LLM-rangerer oppnådde ‘sterk hendingskvalitet’, og overgikk BM25-rangereren baseline.

Den første av de to primære scenario-testene, kalt Dominans og Homogenisering, var en undersøkelse av hvordan SEO-formede syntetiske dokumenter påvirkte hendingsresultater:

Venstre: forurensningskurver for Scenario 1 under BM25 og LLM-rangerere viser Pool Forurensningsrate (PCR) økende med hver runde, med Eksponeringsforurensningsrate (ECR) og Sitat Forurensningsrate (CCR) økende mer bratt som syntetiske dokumenter trekker inn i toppresultatene; Svar Nøyaktighet (AA) forblir bredt stabil. Høyre: tabellen rapporterer den samme fremgangen numerisk over runder 0, 5, 10 og 20, detaljering PCR, ECR, CCR og AA for begge rangerere.

Da flere AI-skrevne sider ble gradvis lagt til i testmiljøet, begynte de å dominere toppsøkeresultatene raskere enn forventet. Når AI-innhold utgjorde 50% av alle tilgjengelige dokumenter, var over 68% av BM25s topp ti resultater allerede AI-generert; og når andelen av AI-materiale økte til 67%, kom over 80% av dens toppresultater fra AI-kilder.

LLM-basert rangerer viste en enda sterkere tendens i denne retningen, med rundt 76% av dens toppresultater trukket fra AI-skrevne sider, når disse sidene utgjorde bare halvparten av den totale potten – og den fortsatte å avhenge mer av dem enn BM25, ettersom deres tilstedeværelse økte. Forskerne kommenterte:

‘Dette mønsteret viser at SEO-optimert innhold uforholdsmessig aktiverer rangeringssignaler, og får begge modellene til å konvergere raskt mot syntetisk-dominert bevis.’

Med hensyn til spenningen mellom faktisk stabilitet og diversitetskollaps, noterte artikkelen at, til tross for de ‘dramatiske’ skiftene som vistes i hentede bevis, forble Svar Nøyaktighet stabil, eller ble forbedret:

‘Fordi SEO-dokumenter er av høy kvalitet og er toppisk tilpasset, ser hendingspipelinen sunn ut når den måles bare etter nøyaktighet. Likevel er nesten all hentede bevis syntetisk, og indikerer en alvorlig kollaps i kildediversitet.

‘Denne divergensen, karakterisert av stabil nøyaktighet til tross for kollapset diversitet, avslører en strukturert skjør hendingspipeline: systemet fungerer godt i aggregat-mål, mens det stille og rolig mister sin forankring i menneskeskrevet innhold.’

‘Totalt sett, ikke bare integrerer høykvalitets syntetisk innhold seg sammen med hendingspipeliner, men overvelder også aktivt rangeringssignaler, og får både BM25 og LLM-rangerere til å avhenge nesten eksklusivt av AI-generert bevis.’

Den andre scenarioen ble kalt Forurensning og Systemkorrupt, og avslørte en merkbart divergens i rangerer-atferd, sammenlignet med den første scenarioen:

Venstre: scenario 2-resultatene viser hva som skjer når bevisst misvisende sider legges til systemet. Ettersom flere av disse sidene blandes inn, begynner BM25 å plassere noen av dem i sine toppresultater – dog bare opp til omtrent en fjerdedel ved midtpunktet, og nesten ingen blir faktisk brukt i det endelige svaret. Totalt sett, synker svarkvaliteten noe. Høyre: tabellen presenterer den samme mønsteret i tall for både BM25 og LLM-basert rangerer, og gjør det klart at BM25 lar noen misvisende sider inn i sine toppresultater, mens LLM-rangereren i stor grad filtrerer dem ut.

LLM-basert rangerer var i stor grad i stand til å gjenkjenne og filtrere ut misvisende sider, og holdt andelen av slike innhold i sine toppresultater nær null; men BM25 lot en merkbart andel av de motstridende sidene komme inn i sine topp ti resultater, med omtrent 19% til 24% som dukket opp der på visse stadier av testen.

Selv om LLM-basert rangerer viste seg å være mer motstandsdyktig i dette eksperimentet, noterte forfatterne at LLM-basert rangeringssystemer er mer komputasjonskrevende, og kan gjøre stor-skala-utbredelse upraktisk. Til tross for at BM25 er enklere og billigere å kjøre, kan vidt brukte hendingsystemer som utnytter det være mer utsatt for manipulert innhold enn de først ser ut til.

Forskerne karakteriserer dette som en ‘betydelig strukturell risiko’.

I forhold til kontrasten mellom åpenbar stabilitet og underliggende forringelse, noterte forfatterne at i denne sammenhengen forblir Svar Nøyaktighet relativt stabil, på grunn av LLM-dommeren som undertrykker sitat-korruptering, og dermed fungerer som en slags siste-øyebliks brannmur mot motstridende innhold.

Likevel var Svar Nøyaktighet i denne aspekten konsekvent lavere enn i den første scenarioen:

‘ Mens Scenario 1 så Svar Nøyaktighet opprettholdt eller forbedret (opp til 70% med LLM-rangerere) på grunn av den høye kvaliteten på SEO-innhold, viser Scenario 2 en nedgang i svarkvalitet i forhold til SEO-innstillinger […]

‘Dette bekrefter at uavhengig av rangereren, motstridende forurensning i hendingsstadiet negativt påvirker sluttilslutnings-ytelse, med den mest alvorlige forringelsen når man avhenger av lettvinte-hentere.’

Forskerne konkluderte med at om-rangering på hendingsstadiet er for sent, og at ‘inntak-stadiets’ filter burde vurderes, og foreslo at ‘proveniens-graf’ og ‘forbistring-filter’ kunne bli brukt.

De lukker med å understreke at den grundige trusselen er innhold med høy flyt og lav tilskrivnings-tetthet, essensielt skilt fra tryggende kjeder av proveniens, og observerer:

‘[Ettersom] Agens-ai begynner å selvstendig publisere innhold, må forsvarsmekanismer utvikle seg fra statisk tekst-analyse til atferdsmessig fingeravtrykk, og identifisere og isolere agenter som systematisk produserer høventropi, lav-faktualitets-strømmer.’

Konklusjon

Etableringen av nye eller forbedrede metoder for informasjons-proveniens kan være en av de mest kritiske nødvendighetene for 2026. Komplekse legitimasjonssystemer som den syke C2PA, som krever infrastruktur-endringer fra utgivere, og offentlig utdanning om hva de betyr og hvordan eller hvorfor de skal brukes, ser ut til å være dømt til å mislykkes.

Noe enklere er nødvendig, og det er ikke funnet ennå. Det er en presserende oppgave, ettersom denne nåværende æraen kan være det mest kritiske vendepunktet for offentlig konsensus om sannhet siden oppfinnelsen av fotografi i 1822, og oppblomstringen av propaganda i årene før andre verdenskrig.

* Min (selektive, hvor nødvendig) konvertering av forfatterens inline-citater til lenker.

Først publisert torsdag, 19. februar 2026