Η Ρύπανση του AI στις Αποτελέσματα Αναζήτησης Κινδυνεύει με ‘Ανακλήση Ανάκτησης’

Καθώς το περιεχόμενο του AI ρυπαίνει το διαδίκτυο, ανοίγει ένας νέος διαδικτυακός πόλεμος για την πολιτιστική συναίνεση.

Μια έρευνα που διηύθυνε μια κορεατική εταιρεία αναζήτησης υποστηρίζει ότι καθώς οι σελίδες που παράγονται από το AI εισβάλλουν στα αποτελέσματα αναζήτησης, υπονομεύουν τη σταθερότητα των διαδικασιών αναζήτησης και κατάταξης και αποδυναμώνουν συστήματα – όπως η Αναζήτηση-Ενισχυμένη Γενεσιουργία (RAG) – που βασίζονται σε αυτές τις κατατάξεις για να quyếtίσουν ποια πληροφορία θα εμφανιστεί και θα θεωρηθεί αξιόπιστη, αυξάνοντας έτσι τον κίνδυνο ότι παραπλανητικό ή ανακριβές υλικό θα θεωρηθεί ως εξουσιοδοτημένο.

Ο όρος που επινοήθηκε για αυτό το σύνδρομο από τους ερευνητές είναι Ανακλήση Ανάκτησης, ως διακριτό από την γνωστή απειλή της κατάρρευσης του μοντέλου (όπου το AI εκπαιδεύεται με τη δική του έξοδο γίνεται σταδιακά χειρότερο).

Σε ένα σценάριο Ανακλήσης Ανάκτησης, το περιεχόμενο που παράγεται από το AI κυριαρχεί στα αποτελέσματα αναζήτησης, σε τέτοιο βαθμό που ακόμη και όταν οι απαντήσεις παραμένουν επιφανειακά ακριβείς, η υποκείμενη βάση δεδομένων θα έχει απομακρυνθεί από τις αρχικές ανθρώπινες πηγές. Παρόλα αυτά, αυτό το “απορριφθέν” δεδομένο φαίνεται να είναι έτοιμο να επιτύχει υψηλή θέση στα αποτελέσματα αναζήτησης*:

‘Με την εξάπλωση του κειμένου που παράγεται από το AI, προκλήσεις στην απόδοση και την προ-εκπαίδευση ποιότητας δεδομένων έχουν ενταθεί. Σε αντίθεση με το παραδοσιακό spam λέξεων-κλειδιών spam, το σύγχρονο συνθετικό περιεχόμενο είναι σεμαντικά συνεκτικό, επιτρέποντάς του να ενσωματωθεί στα συστήματα κατάταξης και να δια(propagate)通過 pipelines ως αυθεντική απόδειξη.’

Το έγγραφο υποστηρίζει ότι αυτό θα δημιουργήσει ένα ‘структурально εύθραυστο’ περιβάλλον στο οποίο τα σήματα κατάταξης ευνοούν τις σελίδες που παράγονται από το AI και που είναι βελτιστοποιημένες για το SEO, αντικαθιστώντας τις πηγές που έχουν γραφτεί από ανθρώπους με τον καιρό με einen τρόπο που δεν προκαλεί σαφείς πτώσεις στην ποιότητα των απαντήσεων:

‘Η [αύξηση] του περιεχομένου που παράγεται από το AI στο Διαδίκτυο παρουσιάζει einen δομικό κίνδυνο για την ανάκτηση πληροφοριών, поскольку οι μηχανές αναζήτησης και τα συστήματα Αναζήτησης-Ενισχυμένης Γενεσιουργίας (RAG) καταναλώνουν όλο και περισσότερο απόδειξη που παράγεται από τα Μεγάλα Γλωσσικά Μοντέλα (LLM).

‘Χαρακτηρίζουμε αυτό το τρόπο αποτυχίας σε επίπεδο οικοσυστήματος ως Ανακλήση Ανάκτησης, μια διπλή διαδικασία όπου (1) το περιεχόμενο που παράγεται από το AI κυριαρχεί στα αποτελέσματα αναζήτησης, εrodώντας την ποικιλία των πηγών, και (2) το περιεχόμενο χαμηλής ποιότητας ή εχθρικό εισβάλλει στην διαδικασία ανάκτησης.’

Οι ερευνητές υποστηρίζουν ότι όταν η ‘κυριαρχία’ φάση έχει καθοριστεί, η ίδια διαδικασία ανάκτησης γίνεται πιο ευάλωτη σε ‘σκόπιμη’ ρύπανση,既然 τα εχθρικά σελίδες μπορούν να εκμεταλλευτούν τις ίδιες μηχανισμούς βελτιστοποίησης για να κερδίσουν ορατότητα*:

‘Βάσει του πλαισίου της Ανακλήσης Ανάκτησης, αυτό το έργο θέτει τις βάσεις για την κατανόηση του πώς το συνθετικό περιεχόμενο αναμορφώνει την ανάκτηση πληροφοριών. Για να μετριάσει αυτούς τους κινδύνους, προτείνουμε μια μετατόπιση προς στρατηγικές Κατατάξης-Αμύνης που βελτιστοποιούν από κοινού την σχετικότητα, την πραγματικότητα και την προέλευση.’

Η Ανακλήση Ανάκτησης θα επιδεινώσει πιθανώς την κατάρρευση του μοντέλου, поскольку προσθέτει ένα επίπεδο κακόβουλου σκοπού στο ‘εφφέ φωτοαντιγραφής’ της εντροπίας, όπου το AI όλο και περισσότερο τρέφεται με έξοδο που παράγεται από το AI. Εκτός από την επίδραση στην εμφανιζόμενη συναίνεση για την ‘αλήθεια’ στα αποτελέσματα αναζήτησης σε πραγματικό χρόνο, οι ανακρίβειες και οι επιθέσεις θα μπορούσαν να ενσωματωθούν αργότερα στα εκπαιδευμένα LLM ως εξουσιοδοτημένες πηγές.

Το νέο έργο έχει τον τίτλο Ανακλήσεις Ανάκτησης Όταν το AI Ρυπαίνει το Διαδίκτυο και προέρχεται από τρεις ερευνητές στην Naver Corporation.

Μέθοδος

Για να δοκιμάσουν πώς το περιεχόμενο που παράγεται από το AI δια(propagate)sthrough τα συστήματα ανάκτησης, οι ερευνητές τυχαία δείγμα 1000 ζευγαριών ερωτήσεων/απαντήσεων από το σύνολο δεδομένων και το βENCHMARK MS MARCO, το οποίο αποτελείται από ανοιχτά ερωτήματα που συνοδεύονται από ανθρώπινες επικυρωμένες αναφορικές απαντήσεις. Αυτά χρησιμοποιήθηκαν και για να ιδρύσουν την ανάκτηση και για να αξιολογήσουν την πραγματική ορθότητα των παραγόμεнах απαντήσεων.

Για κάθε ερώτημα MS MARCO στις δοκιμές, δέκα έγγραφα ανακτήθηκαν από την αναζήτηση Google, με βάση τα κορυφαία αποτελέσματα SEO για κάθε όρο, παράγοντας τελικά einen πισίνα 10.000 εγγράφων.

Η πραγματική ορθότητα των εγγράφων αξιολογήθηκε συγκρίνοντας το καθένα από αυτά με την αλήθεια MS MARCO, χρησιμοποιώντας GPT-5 Mini ως κριτή.

Σίμωση Φάρμας Περιεχομένου

Για να προσομοιώσει το επίπεδο ποιότητας (των κανονικών, μη εχθρικών) άρθρων που συνδέονται με φάρμες περιεχομένου, οι συγγραφείς χρησιμοποίησαν το οικονομικό GPT-5 Nano μοντέλο ανοιχτής πηγής για να παράγει νέα συνθετικά άρθρα,既然 αυτό είναι το ‘οικονομικό’ επίπεδο του AI που πιθανώς να χρησιμοποιηθεί από τις φάρμες περιεχομένου. Το GPT-5 Mini, που χρησιμοποιήθηκε για να αξιολογήσει την έξοδο, είναι ένα ελαφρώς πιο ικανό μοντέλο.

Αντίθετα, για να προσομοιώσει εχθρικά άρθρα (δηλαδή περιεχόμενο που σχεδιασμένο για να διαδόσει παραπλανητικές πληροφορίες ή που διαθέτει παραπλανητικές πληροφορίες), δεν χρησιμοποιήθηκαν πραγματικές αναφορές. Αντίθετα, τα πρώτα σχέδια των δειγμάτων δημιουργήθηκαν με einen συμβατικό γεννήτώρα clickbait/SEO και στη συνέχεια μεταφέρθηκαν στο GPT-5 Nano, το οποίο είχε ανατεθεί να αντικαταστήσει έναν certo αριθμό γεγονότων με πιθανές αλλά ανακριβείς εναλλακτικές. Το GPT-5 Nano επίσης εκτέλεσε σεμαντική επανα-κατάταξη για τους σκοπούς του πειραματικού контекστού.

Για να προσομοιώσει την κορεατική κορεατική κορεατική δια(propagate)του AI με τον καιρό, μια διαδικασία 20 γύρων ρύπανσης εκτελέστηκε, στην οποία ένα συνθετικό έγγραφο προστέθηκε ανά ερώτημα σε einen σταθερό σύνολο δέκα αρχικών εγγράφων, αυξάνοντας την μετοχή του AI από 0% σε 66,7%.

Για την πισίνα SEO-στυλ, ο γεννήτωρ προrompt να ‘δραστηριοποιηθεί ως ειδικός SEO’ και να ενσωματώσει λεξεις-κλειδιά υψηλής IDF από τα αρχικά έγγραφα για να αυξήσει την πιθανότητα ανάκτησης.

Για την πισίνα εχθρικών, η προrompt σχεδιάστηκε για να διατηρήσει φυσική, φυσιολογική πρόζα ενώ να τροποποιεί ονομασίες οντοτήτων και αριθμητικές λεπτομέρειες, δημιουργώντας έγγραφα που δεν θα σηματοδοτήσουν στατιστικούς φίλτρες, ενώ ήσυχα υποβαθμίζοντας την πραγματική ακρίβεια.

Μέτρησεις

Τρεις μέτρησεις υιοθετήθηκαν για τα πειράματα: Ο ρυθμός ρύπανσης της πισίνας (PCR), για να καθορίσει πόσο από την πισίνα εγγράφων ήταν παραγόμενο από το AI; ο ρυθμός ρύπανσης της έκθεσης (ECR), για να μετρήσει πόσο από τα κορυφαία αποτελέσματα αναζήτησης προέρχονταν από πηγές AI (δείχνοντας τι πραγματικά εισήλθε στην διαδικασία ανάκτησης); και ο ρυθμός ρύπανσης της αναφοράς (CCR), για να καταγράψει πόσο από την απόδειξη που αναφέρθηκε στην τελική απάντηση ήταν συνθετική.

Για να εξετάσουν την πρακτική επίδραση, και η ποιότητα των ανακτημένων πηγών και η ακεραιότητα της τελικής απάντησης δοκιμάστηκαν. Πřesnost@10 (P@10) κατέγραψε πόσα από τα κορυφαία αποτελέσματα ήταν πραγματικά σωστά όταν ελέγχθηκαν με την αλήθεια MS MARCO; και η ακρίβεια της απάντησης (AA) μετρήθηκε是否 η παραγώμενη απάντηση ταίριαζε με την ίδια αναφορική απάντηση, με το GPT-5 Mini να χρησιμοποιείται για να καθορίσει是否 η σημασία ήταν συνεπής.

Δοκιμές

Αρχικά, οι συγγραφείς δοκιμάστηκαν την μέθοδό τους ενάντια στην αρχική πισίνα εγγράφων που εξαγώγησαν από τα SERPS, δηλαδή πριν από την χρήση τους ως υλικό για τη γεννήτρια συνθετικών δεδομένων, και σημειώνουν ότι ο LLM ranker τους πέτυχε ‘ισχυρή ποιότητα ανάκτησης’, υπερβαίνοντας τον BM25 Ranker baseline.

Η πρώτη από τις δύο κύριες δοκιμές σενάριου, που ονομάζεται Κυριαρχία και Ομογενοποίηση, ήταν μια εξέταση του τρόπου με τον οποίο τα συνθετικά έγγραφα που διαμορφώνονται από το SEO επηρεάζουν τα αποτελέσματα ανάκτησης:

Αριστερά: οι καμπύλες ρύπανσης για το Σενάριο 1 υπό τους BM25 και LLM rankers δείχνουν τον ρυθμό ρύπανσης της πισίνας (PCR) που αυξάνεται με κάθε γύρο, με τον ρυθμό ρύπανσης της έκθεσης (ECR) και τον ρυθμό ρύπανσης της αναφοράς (CCR) που αυξάνονται πιο απότομα καθώς τα συνθετικά έγγραφα κυριαρχούν στα κορυφαία αποτελέσματα; η ακρίβεια της απάντησης (AA) παραμένει γενικά σταθερή. Δεξιά: ο πίνακας παρουσιάζει την ίδια πρόοδο αριθμητικά για cả τους BM25 και τον LLM-based ranker, καθιστώντας σαφές ότι ο BM25 αφήνει κάποια συνθετικά έγγραφα στα κορυφαία αποτελέσματα, ενώ ο LLM ranker τα φιλτράρει σε μεγάλο βαθμό.

Όταν περισσότερες σελίδες AI γραφμένες σελίδες προστέθηκαν στο περιβάλλον δοκιμής, άρχισαν να κυριαρχούν στα κορυφαία αποτελέσματα αναζήτησης γρηγορότερα από το αναμενόμενο. Όταν το περιεχόμενο AI αποτελούσε το 50% όλων των διαθέσιμων εγγράφων, περισσότερο από το 68% των κορυφαίων αποτελεσμάτων του BM25 ήταν ήδη AI-παραγόμενα; και όταν η μετοχή του υλικού AI αυξήθηκε στο 67%, πάνω από το 80% των κορυφαίων αποτελεσμάτων του προέρχονταν από πηγές AI.

Ο LLM-based ranker έδειξε μια ακόμη ισχυρότερη τάση σε αυτήν την κατεύθυνση, με περίπου το 76% των κορυφαίων αποτελεσμάτων του να προέρχονται από σελίδες AI-γραμμένες, όταν αυτές οι σελίδες αποτελούσαν μόνο το μισό της πισίνας – και συνέχισε να βασίζεται σε αυτές περισσότερο από τον BM25, καθώς η παρουσία τους αυξανόταν. Οι συγγραφείς σχολιάζουν:

‘Αυτή η τάση δείχνει ότι το περιεχόμενο που είναι βελτιστοποιημένο για το SEO ενεργοποιεί αναλογικά τα σήματα κατάταξης, khiến και τα δύο μοντέλα να συγκλίνουν γρήγορα προς συνθετικά-κυριαρχούμενη απόδειξη.’

Σχετικά με την αντιπαράθεση μεταξύ φαινομενικής σταθερότητας και υποκείμενης υποβάθμισης, το έγγραφο σημειώνει ότι παρά τις ‘δραματικές’ μετατοπίσεις που εμφανίζονται στα ανακτημένα στοιχεία, η ακρίβεια της απάντησης παρέμεινε σταθερή ή ακόμη και βελτιώθηκε:

‘Επειδή τα έγγραφα SEO είναι υψηλής ποιότητας και τοπικά συναρμολογημένα, η ανάκτηση φαίνεται υγιής όταν μετράται μόνο από την ακρίβεια. Ωστόσο, σχεδόν όλα τα ανακτημένα στοιχεία είναι συνθετικά, υποδεικνύοντας μια σοβαρή κατάρρευση της ποικιλίας των πηγών.

‘Αυτή η απόκλιση, χαρακτηρισμένη από σταθερή ακρίβεια παρά την κατάρρευση της ποικιλίας, αποκαλύπτει μια στρουκτουραλιστικά εύθραυστη διαδικασία ανάκτησης: το σύστημα εκτελείται καλά σε συναθροιστικές μετρικές ενώ χάνει ήσυχα την εναπόθεση του σε ανθρώπινα γραμμένα περιεχόμενα.’

‘Συνολικά, το υψηλής ποιότητας συνθετικό περιεχόμενο όχι μόνο ενσωματώνεται άρτια στα συστήματα ανάκτησης αλλά και υπερβαίνει ενεργά τα σήματα κατάταξης, οδηγώντας και τους δύο BM25 και LLM Rankers να βασίζονται σχεδόν αποκλειστικά σε απόδειξη που παράγεται από το AI.’

Η δεύτερη δοκιμή ονομάστηκε Ρύπανση και Διάρρηξη Συστήματος και αποκάλυψε μια αξιοσημείωτη απόκλιση στη συμπεριφορά του ranker, σε σύγκριση με την πρώτη δοκιμή:

<img class=" wp-image-271855" src="https://www.unite.ai/wp-content/uploads/2026/02/fig1b-and-tab1b.jpg" alt="Αριστερά, τα αποτελέσματα του σενάριου 2 δείχνουν τι συμβαίνει όταν εχθρικές σελίδες προστίθενται στο σύστημα. Όσο περισσότερες από αυτές τις σελίδες προστίθενται, ο BM25 αρχίζει να τις τοποθετεί σε κάποια από τα κορυφαία αποτελέσματα – αν και μόνο μέχρι ένα τέταρτο στο μέσο σημείο, και σχεδόν καμία δεν χρησιμοποιείται στην τελική απάντηση. Η συνολική ποιότητα της απάντησης μειώνεται ελαφρά. Δεξιά, ο πίνακας παρουσιάζει την ίδια πρόοδο αριθμητικά για cả τους BM25 και τον LLM-based ranker, καθιστώντας σαφές ότι ο BM25 αφήνει κάποια εχθρικά έγγραφα να εισέλθουν στα κορυφαία αποτελέσματα, ενώ ο LLM ranker τα φιλτράρει σε μεγάλο βαθμό.

Ο LLM-based ranker ήταν σε θέση να αναγνωρίσει και να φιλτράρει τα εχθρικά έγγραφα, διατηρώντας την μετοχή του εχθρικού περιεχομένου στα κορυφαία αποτελέσματα κοντά στο μηδέν; αλλά ο BM25 επέτρεψε ένα αξιοσημείωτο μέρος των εχθρικών εγγράφων να εισέλθουν στα κορυφαία αποτελέσματα, με περίπου το 19% έως 24% να εμφανίζονται εκεί σε κάποια στάδια της δοκιμής.

Αν και ο LLM-based ranker αποδείχθηκε πιο ανθεκτικός σε αυτήν την δοκιμή, οι συγγραφείς σημειώνουν ότι τα συστήματα κατάταξης που βασίζονται σε LLM είναι πιο απαιτητικά σε υπολογιστικούς πόρους, γεγονός που μπορεί να κάνει τη μεγάλης κλίμακας ανάπτυξή τους ακατόρθωτη. Αν και ο BM25 είναι απλούστερος και φθηνότερος, οι συχνά χρησιμοποιούμενοι μηχανισμοί ανάκτησης που το χρησιμοποιούν μπορεί, σύμφωνα με το έγγραφο, να είναι πιο εκτεθειμένοι σε χειραγωγημένο περιεχόμενο από ό,τι φαίνεται αρχικά.

Οι συγγραφείς χαρακτηρίζουν αυτό ως einen ‘σημαντικό δομικό κίνδυνο’.

Σχετικά με την αντίθεση μεταξύ φαινομενικής σταθερότητας και υποκείμενης υποβάθμισης, οι συγγραφείς σημειώνουν ότι σε αυτόν τον контέκστη, η ακρίβεια της απάντησης (AA) παραμένει σχετικά σταθερή, λόγω του LLM judge που καταστέλλει την ρύπανση της αναφοράς, και έτσι ενεργεί ως一种 τελευταίου μέρους προστασίας ενάντια στο εχθρικό περιεχόμενο.

Ωστόσο, η ακρίβεια της απάντησης σε αυτόν τον άξονα ήταν συνεχώς χαμηλότερη από την πρώτη δοκιμή:

‘Ενώ το Σενάριο 1 είδε την AA να διατηρείται ή ακόμη και να βελτιώνεται (φτάνοντας έως και 70% με LLM Rankers) λόγω της υψηλής ποιότητας του περιεχομένου SEO, το Σενάριο 2 παρουσιάζει μια πτώση στην ποιότητα της απάντησης σε σύγκριση με το σενάριο SEO […]

‘Αυτή η πτώση επιβεβαιώνει ότι ανεξάρτητα από τον ranker, η εχθρική ρύπανση στη διαδικασία ανάκτησης έχει αρνητική επίδραση στην συνολική απόδοση, με την υποβάθμιση να είναι πιο σοβαρή όταν βασίζεται σε ελαφριούς retrievers.’

Οι συγγραφείς καταλήγουν ότι η επανα-κατάταξη στη διαδικασία ανάκτησης είναι μια αργή προσέγγιση, και ότι ‘φίλτρα εισαγωγής’ πρέπει να ληφθούν υπόψη, προτείνοντας ότι ‘γραφήματα προελεύσεων’ και ‘φίλτρα perplexity’ θα μπορούσαν να χρησιμοποιηθούν.

Κλείνουν τονίζοντας ότι η βασική απειλή είναι το περιεχόμενο με υψηλή ροή αλλά χαμηλή πυκνότητα απόδοσης, ουσιαστικά απομακρυσμένο από εύλογες αλυσίδες προελεύσεων, και παρατηρούν:

‘[Όταν] το Agentic AI αρχίζει να δημοσιεύει αυτόνομα περιεχόμενο, τα μηχανήματα άμυνας πρέπει να εξελιχθούν από στατικές αναλύσεις κειμένου σε βιομετρικές αποτυπώσεις, αναγνωρίζοντας και απομονώνοντας πράκτορες που συστηματικά παράγουν ροές υψηλής εντροπίας, χαμηλής πραγματικότητας.’

Συμπέρασμα

Η καθιέρωση νέων ή βελτιωμένων μεθοδολογιών για την απόδειξη προελεύσεων μπορεί να είναι μια από τις πιο κρίσιμες αναγκαιότητες για το 2026. Συμπλέγματα πιστοποιητικών όπως το C2PA, που απαιτούν αλλαγές υποδομής από τους εκδότες και δημόσια εκπαίδευση σχετικά με το τι σημαίνουν και πώς ή γιατί να τα χρησιμοποιήσουν, φαίνεται να καταλήγουν σε αποτυχία.

Κάτι απλούστερο απαιτείται, και δεν έχει βρεθεί ακόμη. Είναι μια επείγουσα αποστολή,既然 αυτή η τρέχουσα εποχή μπορεί να είναι ο πιο κρίσιμος σταθμός για τη δημόσια συναίνεση για την αλήθεια από την εφεύρεση της φωτογραφίας το 1822 και την άνοδο της προπαγάνδας τις δεκαετίες πριν από τον Β’ Παγκόσμιο Πόλεμο.

* Η (επιλεκτική, όπου απαραίτητο) μετατροπή των εσωτερικών αναφορών των συγγραφέων σε υπερσυνδέσμους.

Πρώτη δημοσίευση την Πέμπτη, 19 Φεβρουαρίου 2026