AI-vervuiling in zoekresultaten riskeert ‘opname-inzinking’

Terwijl AI-inhoud het web verontreinigt, opent zich een nieuwe aanvalsvector in de strijd om culturele consensus.

Onderzoek onder leiding van een Koreaanse zoekmachinebedrijf stelt dat als AI-gegenereerde pagina’s zoekresultaten binnendringen, ze de stabiliteit van zoek- en rangschikkingspijplijnen ondermijnen en zwakke systemen – zoals Retrieval-Augmented Generation (RAG) – die afhankelijk zijn van die rangschikkingen om te beslissen welke informatie wordt weergegeven en vertrouwd, waardoor het risico toeneemt dat misleidende of onnauwkeurige materialen als gezaghebbend worden behandeld.

De term die door de onderzoekers voor dit syndroom is bedacht, is Opname-inzinking, als onderscheid van de bekende bedreiging van model-inzinking (waarbij AI getraind op zijn eigen uitvoer steeds slechter wordt).

In een scenario van Opname-inzinking, domineert AI-gegenereerde inhoud zoekresultaten steeds meer, zodat zelfs als antwoorden oppervlakkig gezien nog steeds correct zijn, de onderliggende bewijsbasis losgekoppeld raakt van oorspronkelijke menselijke bronnen. Niettemin lijkt deze ‘wortelloze’ gegevens op weg te zijn naar een hoge positie in zoekresultaten*:

‘Met de verspreiding van AI-gegenereerde tekst, uitdagingen in toewijzing en pre-training gegevenskwaliteit zijn verergerd. In tegenstelling tot traditionele trefwoord spam, is moderne synthetische inhoud semantisch coherent, waardoor het zich kan mengen in rangschikkingsystemen en zich kan verspreiden via pijplijnen als gezaghebbend bewijs.’

Het artikel stelt dat dit een ‘structueel broos’ milieu zou creëren waarin rangschikkingsignalen de voorkeur geven aan AI-geproduceerde, SEO-geoptimaliseerde pagina’s, die menselijke bronnen over tijd heen op een sluwe manier verdringen, d.w.z. zonder dat er een duidelijke daling in antwoordkwaliteit optreedt:

‘De [groei] van AI-gegenereerde inhoud op het web vormt een structureel risico voor informatie-opname, aangezien zoekmachines en Retrieval-Augmented Generation (RAG)-systemen steeds meer bewijs consumeren dat is gegenereerd door de Large Language Models (LLM’s).

‘We karakteriseren deze ecosysteme-niveau-foutmodus als Opname-inzinking, een tweestapsproces waarbij (1) AI-gegenereerde inhoud zoekresultaten domineert, brondiversiteit ondermijnt, en (2) lagekwaliteit- of vijandige inhoud het opnamepijplijn binnendringt.’

De onderzoekers beweren dat zodra de ‘dominantie’-fase is gevestigd, hetzelfde opnamepijplijn gevoeliger wordt voor opzettelijke verontreiniging, aangezien vijandige pagina’s dezelfde optimalisatiemechanismen kunnen exploiteren om zichtbaarheid te verkrijgen*:

‘Door de framework van Opname-inzinking te vestigen, legt dit werk de basis voor het begrijpen van hoe synthetische inhoud informatie-opname vormt. Om deze risico’s te mitigeren, stellen we een verschuiving voor naar Defensieve Rangschikkingsstrategieën die gezamenlijk relevantie, feitelijkheid en herkomst optimaliseren.’

Opname-inzinking zou model-inzinking verergeren, aangezien het een laag van kwaadwillige bedoelingen toevoegt aan het ‘fotokopie-effect’ van entropie, waarbij AI steeds meer voedt met AI-gegenereerde uitvoer. Bovendien heeft het invloed op de schijnbare consensus over ‘waarheid’ in real-time zoekresultaten, en kunnen onnauwkeurigheden en aanvallen later worden ingebed in getrainde LLM’s als gezaghebbende bronnen.

Het nieuwe onderzoek heeft als titel Opname-inzinking wanneer AI het web verontreinigt, en komt van drie onderzoekers bij Naver Corporation.

Methode

Om te testen hoe AI-gegenereerde inhoud zich verspreidt via opname-systemen, hebben de onderzoekers 1000 willekeurige vraag/antwoord-paren uit de MS MARCO-dataset en -benchmark geselecteerd, die bestaat uit open-domein-vragen die zijn gekoppeld aan door mensen geverifieerde referentie-antwoorden. Deze werden gebruikt om zowel de opname als de feitelijke correctheid van gegenereerde antwoorden te valideren.

Voor elke MS MARCO-vraag in de tests werden tien webdocumenten opgehaald uit Google Search, op basis van de top-rangschikkings-SEO-resultaten voor elke term, waardoor uiteindelijk een pool van 10.000 documenten ontstond.

De feitelijke validiteit van de documenten werd beoordeeld door elk van hen te vergelijken met de MS MARCO-grondwaarheid, met behulp van GPT-5 Mini als rechter.

Simulatie van content-fabrieken

Om het kwaliteitsniveau (van normale, niet-vijandige) artikelen te simuleren die geassocieerd zijn met content-fabrieken, hebben de auteurs het economische GPT-5 Nano-model van OpenAI gebruikt om nieuwe synthetische artikelen te genereren, aangezien dit het ‘betaalbare’ niveau van AI is dat waarschijnlijk wordt gebruikt door content-molens. GPT-5 Mini, dat wordt gebruikt om de uitvoer te beoordelen, is een iets meer capabel model.

Omgekeerd, om vijandige berichten (d.w.z. inhoud die is ontworpen om desinformatie te verspreiden of die anderszins desinformatie bevat) te simuleren, werden geen echte verwijzingen gebruikt. In plaats daarvan werden eerst ontwerpen van de voorbeelden gemaakt met een conventionele clickbait/SEO-generator, en vervolgens doorgegeven aan GPT-5 Nano, die de taak kreeg om een bepaald aantal feiten te vervangen door plausibele maar onware alternatieven. GPT-5 Nano voerde ook semantische her-rangschikking uit voor de doeleinden van de experimentele context.

Om AI-verzadiging over tijd te simuleren, werd een 20-rondes-contaminatieproces uitgevoerd, waarbij één synthetisch document per vraag werd toegevoegd aan een vaste set van tien oorspronkelijke documenten, waardoor het AI-aandeel van 0% tot 66,7% toenam.

Voor de SEO-achtige pool werd de generator aangezet om ‘als een SEO-specialist’ te handelen en om hoge-IDF-trefwoorden uit de oorspronkelijke documenten te integreren om de opnamekans te verhogen.

Voor de vijandige pool was de prompt ontworpen om vloeiende, natuurlijk klinkende proza te behouden terwijl subtiele wijzigingen werden aangebracht in genoemde entiteiten en numerieke details, waardoor documenten werden gegenereerd die geen statistische filters zouden activeren, terwijl ze stilzwijgend de feitelijke nauwkeurigheid zouden ondermijnen.

Metrieken

Drie metrieken werden aangenomen voor de experimenten: Pool Contaminatie Rate (PCR), om te bepalen hoeveel van de totale documentenpool AI-gegenereerd was; Exposure Contamination Rate (ECR), om te meten hoeveel van de top tien zoekresultaten afkomstig waren van AI-bronnen (waarmee werd aangegeven wat daadwerkelijk het opnamepijplijn binnendrong); en Citation Contamination Rate (CCR), om te registreren hoeveel van het in de finale antwoord aangehaalde bewijs synthetisch was.

Om de praktische impact te onderzoeken, werden zowel de kwaliteit van de opgehaalde bronnen als de integriteit van het finale antwoord getest. Precisie@10 (P@10) ving de hoeveelheid top tien resultaten die daadwerkelijk correct waren toen ze werden gecontroleerd tegen de MS MARCO-grondwaarheid; en Antwoordnauwkeurigheid (AA) mat of het gegenereerde antwoord overeenkwam met datzelfde referentie-antwoord, met GPT-5 Mini als rechter.

Tests

Aanvankelijk testten de auteurs hun methode tegen de oorspronkelijke pool van documenten die waren geëxtraheerd uit SERPS, d.w.z. voordat ze werden gebruikt als materiaal om synthetische gegevens te genereren, en ze merken op dat hun LLM-rangschikker ‘sterke opnamekwaliteit’ bereikte, waarmee ze de BM25-rangschikker-baseline overtroffen.

De eerste van de twee primaire scenario-tests, gedoopt Dominantie en homogenisatie, was een onderzoek naar de manier waarop SEO-vormgegeven synthetische documenten de opname-resultaten beïnvloeden:

Links: contaminatiecurves voor Scenario 1 onder BM25 en LLM-rangschikkers laten de Pool Contaminatie Rate (PCR) zien die stijgt per ronde, met Exposure Contamination Rate (ECR) en Citation Contamination Rate (CCR) die sneller stijgen naarmate synthetische documenten de topresultaten binnendringen; Antwoordnauwkeurigheid (AA) blijft over het algemeen stabiel. Rechts: de overeenkomstige tabel rapporteert dezelfde voortgang numeriek over ronden 0, 5, 10 en 20, met PCR, ECR, CCR en AA voor beide rangschikkers.

Naarmate meer AI-gegenereerde pagina’s geleidelijk aan het testmilieu werden toegevoegd, begonnen ze de topzoekresultaten sneller te domineren dan verwacht. Toen AI-inhoud 50% van alle beschikbare documenten uitmaakte, waren meer dan 68% van de top tien resultaten van BM25 al AI-gegenereerd; en toen het aandeel van AI-materiaal steeg tot 67%, kwamen meer dan 80% van de topresultaten van BM25 uit AI-bronnen.

De LLM-gebaseerde rangschikker vertoonde een nog sterkere neiging in deze richting, met ongeveer 76% van de topresultaten afkomstig van AI-gegenereerde pagina’s, toen die pagina’s slechts de helft van de totale pool uitmaakten – en het bleef meer afhankelijk van hen dan BM25, naarmate hun aanwezigheid toenam. De auteurs merken op:

‘Dit patroon toont aan dat SEO-geoptimaliseerde inhoud rangschikkingsignalen onevenredig activeert, waardoor beide modellen snel convergeren naar synthetische-gedomeineerd bewijs.’

Met betrekking tot de spanning tussen feitelijke stabiliteit en diversiteitsinzinking, merkt het artikel op dat, niettegenstaande de ‘dramatische’ verschuivingen in opgehaalde bewijs, Antwoordnauwkeurigheid stabiel bleef of zelfs verbeterde:

‘Omdat SEO-documenten van hoge kwaliteit zijn en thematisch aansluiten, lijkt de opname gezond te zijn wanneer deze alleen wordt gemeten op basis van nauwkeurigheid. Echter, bijna alle opgehaalde bewijs is synthetisch, wat een ernstige inzinking in brondiversiteit aangeeft.

‘Deze divergentie, gekenmerkt door stabiele nauwkeurigheid ondanks inzinking van diversiteit, onthult een structueel broos opnamepijplijn: het systeem presteert goed in aggregaatmetrieken, maar verliest stilzwijgend zijn gronding in door mensen geschreven inhoud.

‘Over het algemeen integreert hoge-kwaliteit synthetische inhoud niet alleen naadloos in opnamepijplijnen, maar overweldigt ook actief rangschikkingsignalen, waardoor zowel BM25 als LLM-rangschikkers bijna uitsluitend afhankelijk worden van AI-gegenereerd bewijs.’

Het tweede scenario werd Verontreiniging en systeemcorruptie genoemd en onthulde een opvallende divergentie in rangschikker-gedrag, in vergelijking met het eerste scenario:

Links: de resultaten van scenario 2 laten zien wat er gebeurt wanneer opzettelijk misleidende pagina’s aan het systeem worden toegevoegd. Naarmate meer van deze pagina’s worden gemengd, begint BM25 sommige van hen in zijn topresultaten te plaatsen – hoewel slechts tot ongeveer een kwart op het middelpunt, en bijna geen enkele wordt daadwerkelijk gebruikt in het finale antwoord. Over het algemeen daalt de antwoordkwaliteit licht. Rechts: de tabel presenteert hetzelfde patroon in nummers voor zowel BM25 als de LLM-gebaseerde rangschikker, waardoor duidelijk wordt dat BM25 sommige misleidende pagina’s in zijn topresultaten toelaat, terwijl de LLM-rangschikker ze grotendeels uitfiltert.

De LLM-gebaseerde rangschikker was in staat om misleidende pagina’s grotendeels te herkennen en uit te filteren, waardoor het aandeel van dergelijke inhoud in zijn topresultaten dicht bij nul bleef; maar BM25 liet een merkbare hoeveelheid van de vijandige pagina’s toe in zijn top tien resultaten, met ongeveer 19% tot 24% die op bepaalde momenten van de test verschenen.

Hoewel de LLM-rangschikker in deze experimenten meer resistent bleek, merken de auteurs op dat LLM-gebaseerde rangschikkingsystemen computationeel veeleisender zijn, waardoor grote-schaalimplementatie onpraktisch kan zijn. Hoewel BM25 eenvoudiger en goedkoper is om uit te voeren, kunnen breed gebruikte opname-systemen die het gebruiken mogelijk meer blootgesteld zijn aan gemanipuleerde inhoud dan ze aanvankelijk lijken.

De auteurs karakteriseren dit als een ‘aanzienlijk structureel risico’.

Met betrekking tot het contrast tussen schijnbare stabiliteit en onderliggende degradatie, merken de auteurs op dat in deze context Antwoordnauwkeurigheid relatief stabiel blijft, vanwege de LLM-rechter die citaatcorruptie onderdrukt en dus fungeert als een soort laatste brandmuur tegen vijandige inhoud.

Echter, Antwoordnauwkeurigheid in dit opzicht was consistent lager dan in het eerste scenario:

‘Terwijl Scenario 1 een behoud of zelfs verbetering van Antwoordnauwkeurigheid zag (tot 70% met LLM-rangschikkers) vanwege de hoge kwaliteit van SEO-inhoud, vertoont Scenario 2 een daling in antwoordkwaliteit ten opzichte van de SEO-instelling […]

‘Dit bevestigt dat ongeacht de rangschikker, vijandige verontreiniging in de opnamefase de eind-tot-eind-prestaties negatief beïnvloedt, waarbij de degradatie het ernstigst is wanneer men afhankelijk is van lichtgewicht-opname-systemen.’

De auteurs concluderen dat her-rangschikking op het opname-stadium te laat is en dat ‘ingestie-stadium’-filters moeten worden overwogen, waarbij ze voorstellen dat ‘herkomst-grafen’ en ‘perplexiteit-filters’ kunnen worden gebruikt.

Ze sluiten af door te benadrukken dat de kernbedreiging inhoud is met hoge vloeiendheid maar lage toewijzingsdichtheid, in wezen losgekoppeld van vertrouwenwekkende ketens van herkomst, en merken op:

‘[Aangezien] Agentic AI autonoom inhoud begint te publiceren, moeten verdedigingsmechanismen evolueren van statische tekstanalyse naar gedrags-vingerafdrukken, waardoor agenten die systematisch hoge-entropie-, lage-feitelijkheids-stromen produceren, geïdentificeerd en geïsoleerd worden.’

Conclusie

De vestiging van nieuwe of verbeterde methoden voor informatie-herkomst kan een van de meest kritieke noodzaak voor 2026 zijn. Complexe geloofsbrieven-schemas zoals de zieke C2PA, die infrastructuurveranderingen van uitgevers en openbare educatie over wat ze betekenen en hoe of waarom ze moeten worden gebruikt, vereisen, lijken gedoemd te falen.

Er is iets eenvoudigers nodig, en dat is nog niet gevonden. Het is een dringende missie, aangezien deze huidige tijdperk mogelijk het meest kritieke keerpunt is voor publieke consensus over waarheid sinds de uitvinding van de fotografie in 1822 en de opkomst van propaganda in de decennia voorafgaand aan de Tweede Wereldoorlog.

* Mijn (selectieve, waar nodig) conversie van de inline-citaten van de auteurs naar hyperlinks.

Eerst gepubliceerd op donderdag 19 februari 2026