Poluarea cu conținut generat de IA în rezultatele căutării riscă “prăbușirea recuperării”

Pe măsură ce conținutul generat de IA poluează internetul, se deschide un nou vector de atac pe câmpul de luptă al consensului cultural.

Cercetarea condusă de o companie de căutare coreeană susține că, pe măsură ce paginile generate de IA pătrund în rezultatele căutării, subminează stabilitatea căutării și a sistemelor de clasificare și slăbesc sistemele – cum ar fi Generarea Augmentată de Recuperare (RAG) – care se bazează pe aceste clasificări pentru a decide ce informații sunt afișate și considerate de încredere, creșterea riscului ca materialele înșelătoare sau inexacte să fie tratate ca autoritare.

Termenul inventat de către cercetători pentru acest sindrom este Prăbușirea Recuperării, distinct de amenințarea cunoscută a prăbușirii modelului (în care IA antrenată pe propriile ieșiri devine progresiv mai slabă).

Într-un scenariu de Prăbușire a Recuperării, conținutul generat de IA domină progresiv rezultatele căutării, astfel încât chiar și atunci când răspunsurile rămân superficial exacte, baza de dovezi subiacentă va fi devenit despărțită de sursele umane originale. Cu toate acestea, aceste date “fără rădăcini” par să obțină un loc înalt în rezultatele căutării*:

‘Cu proliferarea textului generat de IA, provocările în atribuire și calitatea datelor de antrenament au intensificat. În contrast cu spamul tradițional de cuvinte cheie spam, conținutul sintetic modern este semantic coerent, permițându-i să se integreze în sistemele de clasificare și să se propage prin conducte ca dovezi autoritare.’

Articolul afirmă că acest lucru ar crea un mediu “structural fragil” în care semnalele de clasificare favorizează paginile produse de IA și optimizate pentru SEO, înlocuind sursele umane create pe parcursul timpului într-un mod insidios, adică fără a declanșa scăderi evidente în calitatea răspunsurilor*:

‘[Creșterea] conținutului generat de IA pe internet prezintă un risc structural pentru recuperarea informațiilor, deoarece motoarele de căutare și sistemele de Generare Augmentată de Recuperare (RAG) consumă din ce în ce mai mult dovezi produse de Modelele Limbajului Mare (LLM).

‘Caracterizăm acest mod de eșec la nivel de ecosistem ca Prăbușire a Recuperării, un proces în două etape în care (1) conținutul generat de IA domină rezultatele căutării, erodând diversitatea surselor, și (2) conținutul de calitate scăzută sau adversar pătrunde în conducta de recuperare.’

Cercetătorii susțin că, odată ce faza de “dominanță” este stabilită, aceeași conductă de recuperare devine mai susceptibilă la poluare intenționată, deoarece paginile adversare pot exploata aceleași mecanisme de optimizare pentru a obține vizibilitate*:

‘Prin stabilirea cadrului Prăbușirii Recuperării, această lucrare pune bazele pentru înțelegerea modului în care conținutul sintetic restructurează recuperarea informațiilor. Pentru a mitigă riscurile, propunem o schimbare către strategii de clasificare defensivă care optimizează în mod conjunct relevanța, faptualitatea și proveniența.’

Prăbușirea Recuperării ar exacerba, probabil, prăbușirea modelului, deoarece adaugă un strat de intenție malignă pe “efectul de fotocopie” al entropiei, în care IA se hrănește din ce în ce mai mult cu ieșirile generate de IA. Pe lângă afectarea consensului aparent asupra “adevărului” în rezultatele căutării în timp real, inexactitățile și atacurile ar putea deveni ulterior înscrise în LLM antrenate ca surse autoritare.

Noua lucrare se intitulează Prăbușirea Recuperării atunci când IA poluează internetul și provine de la trei cercetători de la Naver Corporation.

Metodă

Pentru a testa modul în care conținutul generat de IA se propagă prin sistemele de recuperare, cercetătorii au selectat aleator 1000 de perechi de întrebări și răspunsuri din setul de date și benchmark MS MARCO, care constă în întrebări cu domeniu deschis pereche cu răspunsuri de referință validate de către oameni. Acestea au fost utilizate atât pentru a ancora recuperarea, cât și pentru a evalua corectitudinea factuală a răspunsurilor generate.

Pentru fiecare întrebare MS MARCO din test, au fost extrase zece documente web din Google Search, pe baza celor mai bune rezultate SEO pentru fiecare termen, producând în final un set de 10.000 de documente.

Validitatea factuală a documentelor a fost evaluată prin compararea fiecăruia dintre ele cu adevărul de referință MS MARCO, utilizând GPT-5 Mini ca judecător.

Simularea Fermei de Conținut

Pentru a simula nivelul de calitate (al articolelor normale, non-adversar) asociate cu fermele de conținut, autorii au utilizat modelul OpenAI GPT-5 Nano pentru a genera efectiv noi articole sintetice, deoarece acesta este nivelul “accesibil” de IA care va fi probabil utilizat de către fermele de conținut. GPT-5 Mini, utilizat pentru a evalua ieșirile, este un model puțin mai capabil.

În schimb, pentru a simula postări adversare (adică conținut proiectat pentru a răspândi informații false sau care altfel prezintă informații false), nu au fost utilizate referințe din lumea reală. În schimb, au fost create primele versiuni ale mostrelor cu un generator convențional de clickbait/SEO și apoi au fost transmise către GPT-5 Nano, care a fost însărcinat să înlocuiască un anumit număr de fapte cu alternative plauzibile, dar false. GPT-5 Nano a efectuat, de asemenea, re-clasificarea semantică în scopul contextului experimental.

Pentru a simula saturația IA pe parcursul timpului, a fost efectuat un proces de contaminare în 20 de etape, în care un document sintetic a fost adăugat pe întrebare la un set fix de zece documente originale, crescând cota de IA de la 0% la 66,7%.

Pentru setul de tip SEO, generatorul a fost îndrumat să “acționeze ca un specialist SEO” și să integreze cuvinte cheie cu frecvență ridicată din documentele originale pentru a crește probabilitatea de recuperare.

Pentru setul adversar, promptul a fost proiectat pentru a păstra proza fluentă și naturală, în timp ce a modificat subtil entități numite și detalii numerice, creând documente care nu ar fi semnalate de filtrele statistice, în timp ce erodau în mod discret acuratețea factuală.

Metrici

Au fost adoptate trei metrice pentru experimente: Rata de contaminare a piscinei (PCR), pentru a determina cât de mult din piscina generală de documente a fost generat de IA; Rata de contaminare a expunerii (ECR), pentru a măsura cât de mult din primele zece rezultate de căutare proveneau din surse de IA (indicând ce a intrat într-adevăr în conducta de recuperare); și Rata de contaminare a citării (CCR), pentru a înregistra cât de mult din dovezile citate în răspunsul final erau sintetice.

Pentru a examina impactul practic, atât calitatea surselor recuperate, cât și integritatea răspunsului final au fost testate. Precizia@10 (P@10) a capturat câte dintre primele zece rezultate au fost de fapt corecte atunci când au fost verificate împotriva adevărului de referință MS MARCO; și Acuratețea Răspunsului (AA) a măsurat dacă răspunsul generat a corespuns aceluiași răspuns de referință, cu GPT-5 Mini utilizat pentru a determina dacă sensul a fost consecvent.

Teste

Inițial, autorii au testat metoda lor împotriva piscinei originale de documente extrase din SERPS, adică înainte de a fi utilizate ca material pentru a genera date sintetice, și au remarcat că sistemul lor de clasificare LLM a obținut “o calitate de recuperare puternică”, depășind BM25 Ranker de bază.

Primul din cele două scenarii principale, numit Dominanță și omogenizare, a fost o examinare a modului în care documentele sintetice modelate de SEO afectează rezultatele recuperării:

Stânga: curbele de contaminare pentru Scenariul 1 sub BM25 și LLM ranker arată că Rata de contaminare a piscinei (PCR) crește odată cu fiecare rotundă, cu Rata de contaminare a expunerii (ECR) și Rata de contaminare a citării (CCR) crescând mai abrupt pe măsură ce documentele sintetice se înghesuie în primele rezultate; Acuratețea Răspunsului (AA) rămâne în general stabilă. Dreapta: tabelul corespunzător raportează aceeași progresie numerică pe parcursul rotundelor 0, 5, 10 și 20, detaliind PCR, ECR, CCR și AA pentru ambele ranker.

Pe măsură ce au fost adăugate pagini scrise de IA în mediu de test, acestea au început să domine primele rezultate de căutare mai repede decât se așteptau. Când conținutul de IA a reprezentat 50% din toate documentele disponibile, peste 68% din primele zece rezultate ale BM25 erau deja generate de IA; și atunci când cota de material de IA a crescut la 67%, peste 80% din primele rezultate ale BM25 proveneau din surse de IA.

Sistemul de clasificare LLM a arătat o tendință și mai puternică în această direcție, cu aproximativ 76% din primele rezultate provenind din pagini scrise de IA, atunci când acestea reprezentau doar jumătate din piscina generală – și a continuat să se bazeze mai mult pe acestea decât BM25, pe măsură ce prezența lor a crescut. Autorii comentează:

‘Acest model arată că conținutul optimizat de SEO activează în mod disproporționat semnalele de clasificare, determinând ambele modele să convergeze rapid către dovezi dominate de sintetice.’

În ceea ce privește tensiunea dintre stabilitatea factuală și prăbușirea diversității, articolul notează că, în ciuda “schimbărilor dramatice” arătate în dovezile recuperate, Acuratețea Răspunsului a rămas stabilă, sau chiar a fost îmbunătățită:

‘Deoarece documentele SEO sunt de înaltă calitate și aliniate tematic, recuperarea pare sănătoasă atunci când este măsurată doar prin acuratețe. Cu toate acestea, aproape toate dovezile recuperate sunt sintetice, indicând o prăbușire severă a diversității surselor.

‘Acestă divergență, caracterizată prin acuratețe stabilă, în ciuda prăbușirii diversității, dezvăluie o conductă de recuperare structurală fragilă: sistemul se desfășoară bine în metrici agregate, în timp ce își pierde în mod discret legătura cu conținutul scris de oameni.’

‘În general, conținutul sintetic de înaltă calitate nu numai că se integrează perfect în conductele de recuperare, dar activează și semnalele de clasificare, determinând ambele BM25 și LLM Ranker să se bazeze aproape exclusiv pe dovezi generate de IA.’

Al doilea scenariu a fost numit Poluare și corupție a sistemului și a dezvăluit o divergență notabilă în comportamentul clasificatorului, comparativ cu primul scenariu:

<img class=" wp-image-271855" src="https://www.unite.ai/wp-content/uploads/2026/02/fig1b-and-tab1b.jpg" alt="Stânga, rezultatele scenariului 2 arată ce se întâmplă atunci când pagini intenționat înșelătoare sunt adăugate în sistem. Pe măsură ce se adaugă mai multe astfel de pagini, BM25 începe să le plaseze în primele rezultate – deși doar până la aproximativ un sfert la punctul de mijloc, și aproape niciunul nu este de fapt utilizat în răspunsul final. Calitatea generală a răspunsului scade ușor. Dreapta, tabelul prezintă aceeași tendință numerică pentru ambele BM25 și clasificatorul LLM, făcând clar că BM25 permite un anumit conținut înșelător în primele rezultate, în timp ce clasificatorul LLM filtrează în mare măsură astfel de conținut.

Clasificatorul LLM a fost în mare măsură capabil să recunoască și să filtreze paginile înșelătoare, menținând cota acestui conținut în primele rezultate aproape de zero; dar BM25 a permis o parte semnificativă a paginilor adversare să intre în primele zece rezultate, cu aproximativ 19% până la 24% apărând acolo în anumite etape ale testului.

Deși clasificatorul LLM a dovedit o rezistență mai mare în acest experiment, autorii notează că sistemele de clasificare LLM sunt mai solicitante din punct de vedere computațional, ceea ce poate face dificilă implementarea la scară largă. Deși BM25 este mai simplu și mai ieftin de rulat, sistemele de recuperare larg utilizate care se bazează pe acesta pot, conform articolului, să fie mai expuse la conținut manipulat decât pare la prima vedere.

Autorii caracterizează acest lucru ca un “risc structural semnificativ”.

În ceea ce privește contrastul dintre stabilitatea aparentă și degradarea subiacentă, autorii notează că, în acest context, Acuratețea Răspunsului rămâne relativ stabilă, datorită judecătorului LLM care suprimă corupția citării, și, prin urmare, acționează ca o barieră de ultim moment împotriva conținutului advers.

Cu toate acestea, Acuratețea Răspunsului în acest aspect a fost consistent mai scăzută decât în primul scenariu:

‘În timp ce Scenariul 1 a văzut Acuratețea Răspunsului menținută sau chiar îmbunătățită (ajungând până la 70% cu clasificatorii LLM) datorită calității ridicate a conținutului SEO, Scenariul 2 prezintă o scădere a calității răspunsului în raport cu setarea SEO […]

‘Acest lucru confirmă că, indiferent de clasificator, poluarea adversă în etapa de recuperare afectează negativ performanța de la capăt la capăt, cu degradarea cea mai severă atunci când se bazează pe retrieveri ușori.’

Autorii concluzionează că re-clasificarea la etapa de recuperare este o abordare prea tardivă și că ar trebui luate în considerare filtrele de “ingestie”. Ei propun că “grafurile de proveniență” și “filtrele de perplexitate” ar putea fi utilizate.

Ei încheie subliniind că amenințarea principală este conținutul cu fluență ridicată, dar cu densitate de atribuire scăzută, în esență despărțit de lanțuri de încredere, și observă:

‘[Pe măsură ce] IA agentică începe să publice conținut în mod autonom, mecanismele de apărare trebuie să evolueze de la analiza statică a textului la amprentarea comportamentală, identificând și izolând agenții care produc în mod sistematic fluxuri de înaltă entropie și joasă faptualitate.’

Concluzie

Stabilirea de noi sau îmbunătățite metode pentru proveniența informațiilor poate fi una dintre cele mai critice necesități pentru 2026. Schemele complexe de credenționalizare, cum ar fi C2PA aflată în suferință, care necesită modificări infrastructurale de la editori și educație publică cu privire la ceea ce înseamnă și cum sau de ce să le folosească, par condamnate să eșueze.

Ceva mai simplu este necesar, și încă nu a fost găsit. Este o misiune urgentă, deoarece această eră actuală poate fi cel mai critic punct de cotitură pentru consensul public cu privire la adevăr de la inventarea fotografiei în 1822 și creșterea propagandei în deceniile care au precedat al Doilea Război Mondial.

* Conversia mea (selectivă, acolo unde este necesar) a citărilor inline ale autorilor în legături.

Publicat pentru prima dată joi, 19 februarie 2026