Ρύπανση AI στα Αποτελέσματα Αναζήτησης Κινδυνεύει με ‘Κрах Ρητορικής’

Όσο το περιεχόμενο AI ρυπαίνει το διαδίκτυο, ανοίγει ένας νέος διαδικτυακός πόλεμος για την πολιτιστική συναίνεση.

Μια έρευνα που διηύθυνε μια κορεατική εταιρεία αναζήτησης υποστηρίζει ότι καθώς οι σελίδες που δημιουργούνται από το AI εισβάλλουν στα αποτελέσματα αναζήτησης, υπονομεύουν τη σταθερότητα των αγωγών αναζήτησης και τακτοποίησης και αποδυναμώνουν συστήματα – όπως η Αναζήτηση-Ενισχυμένη Γενετική (RAG) – που βασίζονται σε αυτές τις ταξινομήσεις για να αποφασίσουν ποια πληροφορία θα εμφανιστεί και θα θεωρηθεί αξιόπιστη, αυξάνοντας τον κίνδυνο ότι παραπλανητικό ή ανακριβές υλικό θα θεωρηθεί εξουσιοδοτημένο.

Ο όρος που επινοήθηκε για αυτό το σύνδρομο από τους ερευνητές είναι Κрах Ρητορικής, ως διακριτός από την γνωστή απειλή κράση μοντέλου (όπου το AI εκπαιδεύεται με τη δική του έξοδο γίνεται προοδευτικά χειρότερο).

Σε ένα σценάριο Κράχ Ρητορικής, το περιεχόμενο που δημιουργείται από το AI προοδευτικά κυριαρχεί στα αποτελέσματα αναζήτησης, σε τέτοιο βαθμό που ακόμη και όταν οι απαντήσεις παραμένουν επιφανειακά ακριβείς, η υποκείμενη βάση αποδεικτικών στοιχείων θα έχει απομακρυνθεί από τις αρχικές ανθρώπινες πηγές. Παρόλα αυτά, αυτό το ‘απορριφθέν’ δεδομένο φαίνεται να είναι έτοιμο να επιτύχει υψηλή θέση στα αποτελέσματα αναζήτησης*:

‘Με την εξάπλωση του κειμένου που δημιουργείται από το AI, προκλήσεις στην απόδοση και την ποιότητα των δεδομένων προ-εκπαίδευσης ενταθείσαν. Σε αντίθεση με το παραδοσιακό spam λέξεων κλειδιών spam, το σύγχρονο συνθετικό περιεχόμενο είναι σεμαντικά συνεκτικό, επιτρέποντας του να αναμιχθεί στα συστήματα ταξινόμησης και να διαδοθεί μέσω των αγωγών ως εξουσιοδοτημένα αποδεικτικά στοιχεία.’

Το έγγραφο υποστηρίζει ότι αυτό θα δημιουργήσει ένα ‘структурικά εύθραυστο’ περιβάλλον, στο οποίο τα σήματα ταξινόμησης ευνοούν τις σελίδες που παράγονται από το AI και είναι βελτιστοποιημένες για το SEO, εκτοπίζοντας τις πηγές που γράφτηκαν από ανθρώπους με τον καιρό με einen τρόπο, δηλαδή, χωρίς να προκαλέσουν φανερές πτώσεις στην ποιότητα των απαντήσεων:

‘Η [αύξηση] του περιεχομένου που δημιουργείται από το AI στο Διαδίκτυο παρουσιάζει einen δομικό κίνδυνο για την ανάκτηση πληροφοριών, поскольку οι μηχανές αναζήτησης και τα συστήματα Αναζήτησης-Ενισχυμένης Γενετικής (RAG) καταναλώνουν ολοένα και περισσότερα αποδεικτικά στοιχεία που παράγονται από τα Μεγάλα Γλωσσικά Μοντέλα (LLM).’

‘Χαρακτηρίζουμε αυτό το τρόπο αποτυχίας του οικοσυστήματος ως Κрах Ρητορικής, μια διπλή διαδικασία όπου (1) το περιεχόμενο που δημιουργείται από το AI κυριαρχεί στα αποτελέσματα αναζήτησης, εродίζοντας την ποικιλία των πηγών, και (2) το περιεχόμενο χαμηλής ποιότητας ή εχθρικό εισβάλλει στην αγωγή αναζήτησης.’

Οι ερευνητές υποστηρίζουν ότι όταν η ‘κυριαρχία’ φάση καθιερωθεί, η ίδια αγωγή αναζήτησης γίνεται πιο ευάλωτη σε σκόπιμη ρύπανση, поскольку οι εχθρικές σελίδες μπορούν να εκμεταλλευτούν τις ίδιες μηχανισμούς βελτιστοποίησης για να κερδίσουν ορατότητα*:

‘Με την καθιέρωση του πλαισίου του Κράχ Ρητορικής, αυτό το έργο θέτει τις βάσεις για την κατανόηση του πώς το συνθετικό περιεχόμενο αναμορφώνει την ανάκτηση πληροφοριών. Για να μετριάσει αυτούς τους κινδύνους, προτείνουμε μια μετατόπιση προς στρατηγικές Αμυντικής Ταξινόμησης που βελτιστοποιούν από κοινού την σχετικότητα, την πραγματικότητα και την προέλευση.’

Ο Κрах Ρητορικής θα εξαγριώσει την κράση μοντέλου, поскольку προσθέτει ένα επίπεδο κακόβουλου σκοπού στο ‘εφφέ αποτύπωσης’ της εντροπίας, όπου το AI ολοένα και περισσότερο ταΐζεται με έξοδο που παράγεται από το AI. Εκτός από την επίδραση στην εμφανιζόμενη συναίνεση για την ‘αλήθεια’ στα αποτελέσματα αναζήτησης σε πραγματικό χρόνο, ανακρίβειες και επιθέσεις θα μπορούσαν να ενσωματωθούν αργότερα σε εκπαιδευμένα LLM ως εξουσιοδοτημένες πηγές.

Το νέο έργο έχει τον τίτλο Κрах Ρητορικής Όταν το AI Ρυπαίνει το Διαδίκτυο, και προέρχεται από τρεις ερευνητές στην Naver Corporation.

Μέθοδος

Για να δοκιμάσουν πώς το περιεχόμενο που δημιουργείται από το AI διαδίδεται μέσω των συστημάτων αναζήτησης, οι ερευνητές τυχαία δείγματος 1000 ζευγών ερωτήσεων/απαντήσεων από το MS MARCO dataset και benchmark, το οποίο αποτελείται από ανοιχτές ερωτήσεις που ζευγαρώνουν με ανθρώπινες ερωτήσεις-απαντήσεις. Αυτά χρησιμοποιήθηκαν και για να θεμελιώσουν την ανάκτηση και για να αξιολογήσουν την πραγματική ορθότητα των γεννημένων απαντήσεων.

Για κάθε ερώτηση MS MARCO στα τεστ, δέκα έγγραφα ανακτήθηκαν από την αναζήτηση Google, με βάση τις κορυφαίες ταξινομήσεις SEO για κάθε όρο, παράγοντας τελικά μια πισίνα 10.000 εγγράφων.

Η πραγματική ορθότητα των εγγράφων αξιολογήθηκε συγκρίνοντας το κάθε ένα από αυτά με την αλήθεια MS MARCO, χρησιμοποιώντας GPT-5 Mini ως κριτή.

Σίμωση Φάρμας Περιεχομένου

Για να προσομοιώσουν το επίπεδο ποιότητας (κανονικών, μη εχθρικών) άρθρων που συνδέονται με φάρμες περιεχομένου, οι συγγραφείς χρησιμοποίησαν το οικονομικό GPT-5 Nano OpenAI μοντέλο για να δημιουργήσουν νέα συνθετικά άρθρα,既然 αυτό είναι το ‘οικονομικό’ επίπεδο του AI που πιθανότατα θα χρησιμοποιηθεί από φάρμες περιεχομένου. Το GPT-5 Mini, που χρησιμοποιήθηκε για να αξιολογήσει την έξοδο, είναι ένα ελαφρώς πιο ικανό μοντέλο.

Αντίθετα, για να προσομοιώσουν εχθρικές αναρτήσεις (δηλαδή, περιεχόμενο που σχεδιαστεί για να διαδώσει παραπλανητικές πληροφορίες ή που διαθέτει παραπλανητικές πληροφορίες), δεν χρησιμοποιήθηκαν πραγματικές αναφορές. Αντίθετα, πρώτες εκδοχές των δειγμάτων δημιουργήθηκαν με μια συμβατική γεννήτρια clickbait/SEO, και στη συνέχεια μεταφέρθηκαν στο GPT-5 Nano, το οποίο είχε ανατεθεί να αντικαταστήσει ένα certo αριθμό πραγματικών με πιθανές αλλά ανακριβείς εναλλακτικές. Το GPT-5 Nano πραγματοποίησε επίσης σεμαντική επαναταξινόμηση για τους σκοπούς του πειραματικού контекστού.

Για να προσομοιώσουν την κορεατική κορύφωση του AI με τον καιρό, μια διαδικασία 20 γύρων μολύνσεων εκτελέστηκε, στην οποία ένα συνθετικό έγγραφο προστέθηκε ανά ερώτηση σε ένα σταθερό σύνολο δέκα αρχικών εγγράφων, αυξάνοντας το μερίδιο του AI από 0% σε 66,7%.

Για τη συλλογή SEO-στυλ, η γεννήτρια προrompt να ‘δραστηριοποιηθεί ως ειδικός SEO’, και να ενσωματώσει υψηλά-IDF λέξεις-κλειδιά από τα αρχικά έγγραφα για να αυξήσει την πιθανότητα ανάκτησης.

Για τη συλλογή εχθρικών, η προrompt σχεδιάστηκε για να διατηρήσει την ευφράδη, φυσική πρόζα ενώ να τροποποιεί συθέματα ονομασιών και αριθμητικών λεπτομερειών, δημιουργώντας έγγραφα που δεν θα σημάνουν στατιστικούς φίλτρες, ενώ ήρεμα υπονομεύουν την πραγματική ακρίβεια.

Μέτρησεις

Τρεις μέτρησεις υιοθετήθηκαν για τα πειράματα: Ο ρυθμός μολύνσεων της Πισίνας (PCR), για να καθορίσει πόσο από την πισίνα των εγγράφων ήταν δημιουργημένο από το AI· ο ρυθμός μολύνσεων της Εμφάνισης (ECR), για να μετρήσει πόσο από τα κορυφαία αποτελέσματα αναζήτησης προέρχονταν από πηγές AI (δείχνοντας τι πραγματικά εισήλθε στην αγωγή αναζήτησης)· και ο ρυθμός μολύνσεων των Παραπομπών (CCR), για να καταγράψει πόσο από τα αποδεικτικά στοιχεία που αναφέρθηκαν στην τελική απάντηση ήταν συνθετικά.

Για να εξετάσουν την πρακτική επίδραση, και η ποιότητα των ανακτημένων πηγών και η ακεραιότητα της τελικής απάντησης δοκιμάστηκαν. Ακρίβεια@10 (P@10) κατέγραψε πόσο από τα κορυφαία αποτελέσματα ήταν πραγματικά σωστά όταν ελέγχθηκαν με την αλήθεια MS MARCO· και η ακρίβεια της Απάντησης (AA) μετρούσε αν η γεννημένη απάντηση ταίριαζε με την ίδια αναφορά-απάντηση, με το GPT-5 Mini να χρησιμοποιείται για να καθορίσει αν η σημασία ήταν συνεπής.

Δοκιμές

Αρχικά, οι συγγραφείς δοκιμάστηκαν την μέθοδό τους ενάντια στην αρχική πισίνα εγγράφων που εξαγόταν από τα SERPS, δηλαδή πριν χρησιμοποιηθούν ως υλικό για τη δημιουργία συνθετικών δεδομένων, και σημειώνουν ότι ο ταξινομητής LLM τους πέτυχε ‘ισχυρή ποιότητα ανάκτησης’, ξεπερνώντας τον ταξινομητή BM25 baseline.

Η πρώτη από τις δύο κύριες δοκιμές σενάριου, που ονομάζεται Κυριαρχία και Ομογενοποίηση, ήταν μια εξέταση του τρόπου με τον οποίο τα συνθετικά έγγραφα που διαμορφώνονται από το SEO επηρεάζουν τα αποτελέσματα αναζήτησης:

Αριστερά: οι καμπύλες μολύνσεων για το Σενάριο 1 υπό τους ταξινομητές BM25 και LLM δείχνουν τον ρυθμό μολύνσεων της Πισίνας (PCR) που αυξάνεται με κάθε γύρο, με τον ρυθμό μολύνσεων της Εμφάνισης (ECR) και τον ρυθμό μολύνσεων των Παραπομπών (CCR) που αυξάνονται πιο απότομα καθώς τα συνθετικά έγγραφα πυκνούν στα κορυφαία αποτελέσματα· η ακρίβεια της Απάντησης (AA) παραμένει γενικά σταθερή. Δεξιά: ο αντίστοιχος πίνακας αναφέρει την ίδια πρόοδο αριθμητικά σε γύρους 0, 5, 10 και 20, λεπτομερεύοντας τον PCR, ECR, CCR και AA για cả τους δύο ταξινομητές.

Όσο περισσότερες σελίδες AI-γραφένες προστέθηκαν στο περιβάλλον δοκιμής, άρχισαν να κυριαρχούν στα κορυφαία αποτελέσματα αναζήτησης γρηγορότερα από το αναμενόμενο. Όταν το περιεχόμενο AI αποτελούσε το 50% όλων των διαθέσιμων εγγράφων, περισσότερο από το 68% των κορυφαίων αποτελεσμάτων του BM25 ήταν ήδη AI-γεννημένα· και όταν το μερίδιο του υλικού AI αυξήθηκε στο 67%, πάνω από το 80% των κορυφαίων αποτελεσμάτων του προέρχονταν από πηγές AI.

Ο ταξινομητής LLM-βασισμένος έδειξε μια ακόμη ισχυρότερη τάση προς αυτή την κατεύθυνση, με περίπου 76% των κορυφαίων αποτελεσμάτων να προέρχονται από σελίδες AI-γραφένες, όταν αυτές οι σελίδες αποτελούσαν μόνο το μισό της συνολικής πισίνας – και συνέχισε να βασίζεται σε αυτές πιο βαθιά από το BM25, καθώς η παρουσία τους αυξανόταν. Οι συγγραφείς σχολιάζουν:

‘Αυτός ο τρόπος δείχνει ότι το περιεχόμενο που βελτιστοποιείται για το SEO ενεργοποιεί αναλογικά τα σήματα ταξινόμησης, προκαλώντας και τους δύο ταξινομητές να συρρικνωθούν γρήγορα προς συνθετικά-κυριαρχούμενα αποδεικτικά στοιχεία.’

Σχετικά με την ένταση μεταξύ φαινομενικής σταθερότητας και υποκείμενης υποβάθμισης, το έγγραφο σημειώνει ότι παρά τις ‘δραματικές’ μετατοπίσεις που εμφανίζονται στα ανακτημένα αποδεικτικά στοιχεία, η ακρίβεια της Απάντησης παρέμεινε σταθερή, ή ακόμη και βελτιώθηκε:

‘Επειδή τα έγγραφα SEO είναι υψηλής ποιότητας και τοπικά συσχετισμένα, η ανάκτηση φαίνεται υγιής όταν μετράται μόνο με ακρίβεια. Ωστόσο, σχεδόν όλα τα ανακτημένα αποδεικτικά στοιχεία είναι συνθετικά, υποδεικνύοντας μια σοβαρή κατάρρευση της ποικιλίας των πηγών.

‘Αυτή η απόκλιση, χαρακτηρισμένη από σταθερή ακρίβεια παρά την κατάρρευση της ποικιλίας, αποκαλύπτει μια σруктурικά εύθραυστη αγωγή αναζήτησης: το σύστημα εκτελείται καλά σε συνολικές μετρικές ενώ χάνει τη σύνδεσή του με το περιεχόμενο που γράφτηκε από ανθρώπους.

‘Συνολικά, το υψηλής ποιότητας συνθετικό περιεχόμενο δεν μόνο ενσωματώνεται άρτια στα συστήματα ανάκτησης αλλά και κυριαρχεί ενεργά τα σήματα ταξινόμησης, οδηγώντας και τους δύο ταξινομητές BM25 και LLM να βασίζονται σχεδόν αποκλειστικά σε αποδεικτικά στοιχεία που παράγονται από το AI.’

Η δεύτερη δοκιμή σενάριου ονομάζεται Ρύπανση και Διαφθορά Συστήματος, και αποκάλυψε μια αξιοσημείωτη απόκλιση στη συμπεριφορά του ταξινομητή, σε σύγκριση με το πρώτο σενάριο:

Αριστερά, τα αποτελέσματα του σενάριου 2 δείχνουν τι συμβαίνει όταν σκόπιμα παραπλανητικά σελίδες προστίθενται στο σύστημα. Όσο περισσότερες από αυτές τις σελίδες αναμιγνύονται, το BM25 αρχίζει να τοποθετεί μερικές από αυτές στις κορυφαίες του αποτελέσματα – αν και μόνο μέχρι ένα τέταρτο στο μέσο σημείο, και σχεδόν καμία δεν χρησιμοποιείται στην τελική απάντηση. Η συνολική ποιότητα της απάντησης πέφτει ελαφρώς. Δεξιά, ο πίνακας παρουσιάζει την ίδια πρόοδο αριθμητικά για cả τους δύο ταξινομητές, καθιστώντας σαφές ότι το BM25 αφήνει κάποιες παραπλανητικές σελίδες να μπαίνουν στα κορυφαία του αποτελέσματα, ενώ ο ταξινομητής LLM τις φιλτράρει σε μεγάλο βαθμό.

Ο ταξινομητής LLM-βασισμένος ήταν σε θέση να αναγνωρίσει και να φιλτράρει τις παραπλανητικές σελίδες, διατηρώντας το μερίδιο αυτού του περιεχομένου στα κορυφαία του αποτελέσματα κοντά στο μηδέν· αλλά το BM25 επέτρεψε ένα αξιοσημείωτο μέρος των εχθρικών σελίδων να εισέλθουν στα κορυφαία του αποτελέσματα, με περίπου 19% έως 24% να εμφανίζονται εκεί σε ορισμένα στάδια της δοκιμής.

Αν και ο ταξινομητής LLM αποδείχθηκε πιο ανθεκτικός σε αυτή τη δοκιμή, οι συγγραφείς σημειώνουν ότι οι ταξινομητές LLM-βασισμένοι είναι πιο απαιτητικοί σε υπολογιστικούς πόρους, γεγονός που μπορεί να κάνει τη μεγάλη κλίμακα της ανάπτυξής τους ακατόρθωτη. Αν και το BM25 είναι απλούστερο και φθηνότερο να εκτελεστεί, οι ευρέως χρησιμοποιούμενες αγωγές αναζήτησης που το χρησιμοποιούν μπορεί, σύμφωνα με το έγγραφο, να είναι πιο εκτεθειμένες σε χειραγωγημένο περιεχόμενο από ό,τι αρχικά φαίνεται.

Οι συγγραφείς χαρακτηρίζουν αυτό ως ‘σημαντικό δομικό κίνδυνο’.

Σχετικά με την αντίθεση μεταξύ φαινομενικής σταθερότητας και υποκείμενης υποβάθμισης, οι συγγραφείς σημειώνουν ότι σε αυτό το контέκστ, η ακρίβεια της Απάντησης (AA) παραμένει σχετικά σταθερή, λόγω του LLM κριτή που καταστέλλει την διαφθορά των παραπομπών, και συνεπώς ενεργώντας ως ένα είδος τελευταίου-момέντου πυροσβέστη ενάντια σε εχθρικό περιεχόμενο.

Ωστόσο, η ακρίβεια της Απάντησης σε αυτό το аспέκτ ήταν συνεχώς χαμηλότερη από το πρώτο σενάριο:

‘Ενώ το Σενάριο 1 είδε την AA να διατηρείται ή ακόμη και να βελτιώνεται (φτάνοντας μέχρι 70% με ταξινομητές LLM) λόγω της υψηλής ποιότητας του περιεχομένου SEO, το Σενάριο 2 παρουσιάζει μια πτώση στην ποιότητα της απάντησης σε σχέση με το περιβάλλον SEO […]

‘Αυτό επιβεβαιώνει ότι ανεξάρτητα από τον ταξινομητή, η εχθρική ρύπανση στη φάση ανάκτησης επηρεάζει αρνητικά την απόδοση από άκρο σε άκρο, με την υποβάθμιση να είναι πιο σοβαρή όταν βασίζεται σε ελαφριές ανακτορίες.’

Οι συγγραφείς καταλήγουν στο συμπέρασμα ότι η επαναταξινόμηση στη φάση ανάκτησης είναι μια αργή προσέγγιση, και ότι οι φίλτροι ‘φάσης εισαγωγής’ πρέπει να ληφθούν υπόψη, προτείνοντας ότι ‘γράφοι προέλευσης’ και ‘φίλτρα περιπλεξότητας’ θα μπορούσαν να χρησιμοποιηθούν.

Κλείνουν τονίζοντας ότι η κεντρική απειλή είναι το περιεχόμενο με υψηλή ευφράδεια αλλά χαμηλή πυκνότητα απόδοσης, ουσιαστικά απομακρυσμένο από ελπιδοφόρες αλυσίδες προέλευσης, και παρατηρούν:

‘[Όταν] το Agentic AI αρχίζει να δημοσιεύει αυτόνομα περιεχόμενο, τα μηχανισμοί άμυνας πρέπει να εξελιχθούν από στατική ανάλυση κειμένου σε βιομετρική ταυτοποίηση, αναγνωρίζοντας και απομονώνοντας πράκτορες που παράγουν συστηματικά ροές υψηλής εντροπίας, χαμηλής πραγματικότητας.’

Συμπέρασμα

Η καθιέρωση νέων ή βελτιωμένων μεθοδολογιών για την απόδειξη προέλευσης μπορεί να είναι μια από τις πιο κρίσιμες αναγκαιότητες για το 2026. Συμπλεγμένες πιστοποιητικές схемές όπως η ασθενική C2PA, που απαιτούν υποδομικές αλλαγές από τους εκδότες, και δημόσια εκπαίδευση σχετικά με το τι σημαίνουν και πώς ή γιατί να τις χρησιμοποιήσετε, φαίνεται ότι είναι καταδικασμένες να αποτύχουν.

Κάτι απλούστερο απαιτείται, και δεν έχει βρεθεί ακόμη. Είναι μια επείγουσα αποστολή,既然 αυτή η τρέχουσα εποχή μπορεί να είναι το πιο κρίσιμο σημείο για τη δημόσια συναίνεση για την αλήθεια από την εφεύρεση της φωτογραφίας το 1822, και την άνοδο της προπαγάνδας στις δεκαετίες πριν από τον Β’ Παγκόσμιο Πόλεμο.

* Η (επιλεκτική, όπου απαραίτητο) μετατροπή των εσωτερικών αναφορών των συγγραφέων σε υπερσύνδεσμους.

Πρώτη δημοσίευση την Πέμπτη, 19 Φεβρουαρίου 2026