La pollution de l’IA dans les résultats de recherche risque une « collapse de récupération »

Alors que le contenu généré par l’IA pollue le web, un nouveau vecteur d’attaque s’ouvre dans le champ de bataille pour le consensus culturel.

Une recherche menée par une société de recherche coréenne soutient que, à mesure que les pages générées par l’IA envahissent les résultats de recherche, elles sapent la stabilité des pipelines de recherche et de classement et affaiblissent les systèmes – tels que la génération assistée par récupération (RAG) – qui s’appuient sur ces classements pour décider quelles informations sont affichées et considérées comme fiables, augmentant ainsi le risque que des informations trompeuses ou inexactes soient traitées comme autoritaires.

Le terme forgé pour ce syndrome par les chercheurs est collapse de récupération, distinct de la menace connue de collapse de modèle (où l’IA formée sur sa propre sortie devient progressivement pire).

Dans un scénario de collapse de récupération, le contenu généré par l’IA domine progressivement les résultats des moteurs de recherche, au point où même lorsque les réponses restent superficiellement exactes, la base de preuves sous-jacente sera devenue détachée des sources humaines originales. Néanmoins, ces données « sans racines » semblent prêtes à atteindre une place élevée dans les résultats de recherche*:

‘Avec la prolifération de texte généré par l’IA, les défis en matière d’attribution et de qualité des données de pré-entraînement ont été intensifiés. Contrairement au spam de mots clés traditionnel, le contenu synthétique moderne est sémantiquement cohérent, ce qui lui permet de se fondre dans les systèmes de classement et de se propager dans les pipelines en tant que preuves autoritaires.’

Le document affirme que cela créerait un environnement « structuralement fragile » dans lequel les signaux de classement favorisent les pages optimisées pour les moteurs de recherche et produites par l’IA, déplaçant les sources rédigées par des humains au fil du temps de manière insidieuse, c’est-à-dire sans déclencher d’obvious baisses de qualité des réponses:

‘La [croissance] de contenu généré par l’IA sur le Web présente un risque structurel pour la récupération d’informations, car les moteurs de recherche et les systèmes de génération assistée par récupération (RAG) consomment de plus en plus de preuves produites par les grands modèles de langage (LLM).

‘Nous caractérisons ce mode de défaillance au niveau de l’écosystème comme un collapse de récupération, un processus en deux étapes où (1) le contenu généré par l’IA domine les résultats de recherche, érodant la diversité des sources, et (2) le contenu de mauvaise qualité ou hostile pénètre dans le pipeline de récupération.’

Les chercheurs soutiennent que, une fois que la phase de « dominance » est établie, le même pipeline de récupération devient plus susceptible à la pollution intentionnelle, puisque les pages adverses peuvent exploiter les mêmes mécanismes d’optimisation pour gagner en visibilité*:

‘En établissant le cadre du collapse de récupération, ce travail pose les fondements pour comprendre comment le contenu synthétique façonne la récupération d’informations. Pour atténuer ces risques, nous proposons un passage vers des stratégies de classement défensives qui optimisent conjointement la pertinence, la factualité et la provenance.’

Le collapse de récupération aggraverait probablement le collapse de modèle, car il ajoute une couche d’intention malveillante au « photocopy effect » d’entropie, où l’IA se nourrit de plus en plus de sortie générée par l’IA. Outre son impact sur le consensus apparent sur la « vérité » dans les résultats de recherche en temps réel, les inexactitudes et les attaques pourraient plus tard être ancrées dans les LLM formés comme sources autoritaires.

Le nouveau travail s’intitule Le collapse de récupération lorsque l’IA pollue le Web, et provient de trois chercheurs de la société Naver Corporation.

Méthode

Pour tester comment le contenu généré par l’IA se propage dans les systèmes de récupération, les chercheurs ont échantillonné aléatoirement 1000 paires de requêtes/réponses du dataset et du benchmark MS MARCO, qui se compose de questions à domaine ouvert appariées avec des réponses de référence validées par des humains. Ces éléments ont été utilisés à la fois pour ancrer la récupération et pour évaluer l’exactitude factuelle des réponses générées.

Pour chaque requête MS MARCO dans les tests, dix documents web ont été récupérés à partir de Google Search, sur la base des résultats de recherche SEO les mieux classés pour chaque terme, produisant finalement un ensemble de 10 000 documents.

La validité factuelle des documents a été évaluée en les comparant à la vérité de base MS MARCO, en utilisant GPT-5 Mini comme juge.

Simulation de ferme de contenu

Pour simuler le niveau de qualité (de articles non adverses normaux) associés aux fermes de contenu, les auteurs ont utilisé le modèle OpenAI GPT-5 Nano pour générer de nouveaux articles synthétiques, puisque c’est le niveau « abordable » d’IA susceptible d’être utilisé par les moulins à contenu. GPT-5 Mini, utilisé pour évaluer la sortie, est un modèle légèrement plus capable.

À l’inverse, pour simuler les publications adverses (c’est-à-dire le contenu conçu pour propager des informations fausses ou qui comporte autrement des informations fausses), aucune référence réelle n’a été utilisée. Au lieu de cela, des ébauches des échantillons ont été créées avec un générateur de contenu de type SEO, puis transmises à GPT-5 Nano, qui a été chargé de remplacer un certain nombre de faits par des alternatives plausibles mais fausses. GPT-5 Nano a également effectué un re-classement sémantique à des fins de contexte expérimental.

Pour simuler la saturation de l’IA au fil du temps, un processus de contamination de 20 rounds a été exécuté, dans lequel un document synthétique a été ajouté par requête à un ensemble fixe de dix documents originaux, augmentant la part de l’IA de 0 % à 66,7 %.

Pour le pool de style SEO, le générateur a été invité à « agir comme un spécialiste SEO » et à intégrer des mots clés à haute IDF des documents originaux pour améliorer la probabilité de récupération.

Pour le pool adversaire, la invite a été conçue pour préserver une prose fluide et naturelle tout en modifiant subtilement les entités nommées et les détails numériques, créant des documents qui ne déclencheraient pas les filtres statistiques, tout en érodant discrètement l’exactitude factuelle.

Métriques

Trois métriques ont été adoptées pour les expériences: le taux de contamination du pool (PCR), pour déterminer combien de documents du pool global étaient générés par l’IA; le taux de contamination à l’exposition (ECR), pour mesurer combien des dix premiers résultats de recherche provenaient de sources d’IA (indiquant ce qui est réellement entré dans le pipeline de récupération); et le taux de contamination des citations (CCR), pour enregistrer combien de preuves citées dans la réponse finale étaient synthétiques.

Pour examiner l’impact pratique, à la fois la qualité des sources récupérées et l’intégrité de la réponse finale ont été testées. Précision@10 (P@10) a capturé combien des dix premiers résultats étaient réellement corrects lorsqu’ils étaient vérifiés par rapport à la vérité de base MS MARCO; et l’exactitude de la réponse (AA) a mesuré si la réponse générée correspondait à la même réponse de référence, avec GPT-5 Mini utilisé pour déterminer si le sens était cohérent.

Tests

Initialement, les auteurs ont testé leur méthode contre le pool de documents original extrait de SERPS, c’est-à-dire avant qu’ils ne soient utilisés comme matériau pour générer des données synthétiques, et ils notent que leur classeur LLM a atteint une « forte qualité de récupération », surpassant le classeur BM25 de référence.

Le premier des deux scénarios principaux, appelé Dominance et homogénéisation, était un examen de la façon dont les documents synthétiques façonnés par le SEO affectent les résultats de récupération:

À gauche: les courbes de contamination pour le scénario 1 sous les classeurs BM25 et LLM montrent le taux de contamination du pool (PCR) augmentant à chaque round, avec le taux de contamination à l’exposition (ECR) et le taux de contamination des citations (CCR) augmentant plus rapidement à mesure que les documents synthétiques envahissent les résultats les plus élevés; l’exactitude de la réponse (AA) reste globalement stable. À droite: le tableau correspondant rapporte la même progression numériquement à travers les rounds 0, 5, 10 et 20, détaillant le PCR, l’ECR, le CCR et l’AA pour les deux classeurs.

À mesure que davantage de pages écrites par l’IA étaient progressivement ajoutées à l’environnement de test, elles ont commencé à dominer les résultats de recherche les plus élevés plus rapidement que prévu. Lorsque le contenu d’IA représentait 50 % de tous les documents disponibles, plus de 68 % des dix premiers résultats de BM25 étaient déjà générés par l’IA; et lorsque la part de matériel d’IA est passée à 67 %, plus de 80 % de ses résultats les plus élevés provenaient de sources d’IA.

Le classeur basé sur LLM a montré une tendance encore plus forte dans cette direction, avec environ 76 % de ses résultats les plus élevés provenant de pages écrites par l’IA, lorsque ces pages représentaient seulement la moitié du pool global – et il a continué à s’appuyer davantage sur eux que BM25, à mesure que leur présence augmentait. Les auteurs commentent:

‘Ce modèle montre que le contenu optimisé pour le SEO active de manière disproportionnée les signaux de classement, provoquant les deux modèles à converger rapidement vers des preuves dominées par des synthétiques.’

En ce qui concerne la tension entre la stabilité factuelle et l’effondrement de la diversité, le document note que, nonobstant les « changement dramatiques » montrés dans les preuves récupérées, l’exactitude de la réponse est restée stable, ou même améliorée:

‘Parce que les documents SEO sont de haute qualité et alignés sur le sujet, la récupération semble saine lorsqu’elle est mesurée uniquement par l’exactitude. Cependant, presque toutes les preuves récupérées sont synthétiques, indiquant un effondrement grave de la diversité des sources.

‘Cette divergence, caractérisée par une exactitude stable malgré un effondrement de la diversité, révèle un pipeline de récupération structuralement fragile: le système se comporte bien dans les métriques agrégées tout en perdant discrètement son ancrage dans le contenu rédigé par des humains.

‘Dans l’ensemble, le contenu synthétique de haute qualité non seulement s’intègre parfaitement dans les pipelines de récupération mais active également les signaux de classement, provoquant les deux classeurs BM25 et LLM à s’appuyer presque exclusivement sur des preuves générées par l’IA.’

Le deuxième scénario s’appelait Pollution et corruption du système, et a révélé une divergence notable dans le comportement du classeur, par rapport au premier scénario:

À gauche: les résultats du scénario 2 montrent ce qui se passe lorsque des pages trompeuses sont ajoutées au système. À mesure que davantage de ces pages sont mélangées, BM25 commence à les placer dans ses résultats les plus élevés – bien que seulement jusqu’à environ un quart au point médian, et presque aucune n’est réellement utilisée dans la réponse finale. La qualité globale de la réponse diminue légèrement. À droite: le tableau présente le même modèle numériquement pour les deux classeurs BM25 et LLM, montrant clairement que BM25 laisse certaines pages trompeuses dans ses résultats les plus élevés, tandis que le classeur LLM les filtre largement.

Le classeur basé sur LLM a été capable de reconnaître et de filtrer les pages trompeuses, gardant la part de ce contenu dans ses résultats les plus élevés proche de zéro; mais BM25 a laissé une partie notable des pages adverses pénétrer dans ses dix premiers résultats, avec environ 19 % à 24 % apparaissant à certains stades du test.

Bien que le classeur LLM ait montré une plus grande résistance dans cette expérience, les auteurs notent que les systèmes de classement basés sur LLM sont plus exigeants en termes de calcul, ce qui peut rendre leur déploiement à grande échelle impraticable. Même si BM25 est plus simple et moins coûteux à exécuter, les systèmes de récupération largement utilisés qui s’appuient sur lui peuvent, selon le document, être plus exposés au contenu manipulé qu’ils ne le semblent initialement.

Les auteurs qualifient cela de « risque structurel significatif ».

En ce qui concerne le contraste entre stabilité apparente et dégradation sous-jacente, les auteurs notent que, dans ce contexte, l’exactitude de la réponse (AA) reste relativement stable, en raison du juge LLM qui supprime la corruption des citations, et agit donc comme une sorte de pare-feu de dernier moment contre le contenu adversaire.

Cependant, l’exactitude de la réponse dans cet aspect a été systématiquement inférieure à celle du premier scénario:

‘Alors que le scénario 1 a vu l’AA maintenue ou même améliorée (atteignant jusqu’à 70 % avec les classeurs LLM) en raison de la haute qualité du contenu SEO, le scénario 2 montre une baisse de la qualité de la réponse par rapport au paramètre SEO […]

‘Cela confirme que, quel que soit le classeur, la pollution adversaire au stade de récupération affecte négativement les performances de bout en bout, la dégradation étant la plus grave lorsque l’on s’appuie sur des récupérateurs légers.’

Les auteurs concluent que le re-classement au stade de récupération est une approche trop tardive, et que des « filtres de niveau d’ingestion » devraient être envisagés, proposant que des « graphes de provenance » et des « filtres de perplexité » pourraient être utilisés.

Ils concluent en soulignant que la menace principale est le contenu à haute fluidité mais à faible densité d’attribution, essentiellement détaché de chaînes de provenance rassurantes, et observent:

‘[Alors que] l’IA agentic commence à publier du contenu de manière autonome, les mécanismes de défense doivent évoluer de l’analyse de texte statique à l’empreinte comportementale, en identifiant et en isolant les agents qui produisent systématiquement des flux à haute entropie et à faible factualité.’

Conclusion

L’établissement de nouvelles méthodologies ou améliorées pour la provenance des informations peut être l’une des nécessités les plus critiques pour 2026. Des schémas de crédits complexes tels que le C2PA en difficulté, qui nécessitent des changements infrastructuraux de la part des éditeurs, et une éducation du public sur leur signification et leur utilisation, semblent destinés à échouer.

Quelque chose de plus simple est requis, et cela n’a pas encore été trouvé. C’est une mission urgente, puisque cette ère actuelle peut être le point de basculement le plus critique pour le consensus public sur la vérité depuis l’invention de la photographie en 1822, et la montée de la propagande dans les décennies précédant la Seconde Guerre mondiale.

* Ma (sélective, si nécessaire) conversion des citations en ligne des auteurs en hyperliens.

Publié pour la première fois jeudi 19 février 2026