Η AI Αναφέρει Ξανά‑Ξανά τις ίδιες εργασίες – Όπως οι άνθρωποι

Το ChatGPT και άλλα εργαλεία γραφής AI ενδέχεται ήσυχα να μετατρέπουν την επιστήμη σε διαγωνισμό δημοτικότητας, οδηγώντας επανειλημμένα τους ερευνητές προς τις ίδιες εργασίες, ενώ παραβλέπουν νέες και πρωτότυπες εργασίες που θα μπορούσαν πραγματικά να προωθήσουν το πεδίο.

Monoculture, σε όρους συχνότητας και στατιστικής, είναι όταν το ίδιο περιορισμένο σύνολο πηγών ή πόρων επαναλαμβάνεται ξανά και ξανά, καταπνίγοντας νέες φωνές και φρέσκιες προοπτικές: το ίδιο περιορισμένο σύνολο τραγουδιών στο ραδιοφωνικό πρόγραμμα· η ίδια σειρά συγγραφέων και βιβλίων στα ράφια των αεροδρομίων· και η ίδια περιορισμένη επιλογή φρούτων και λαχανικών στα σούπερ μάρκετ:

Ναι, έχουμε αυτές τις μπανάνες – και μόνο αυτές τις μπανάνες. Η ομοιογένεια των φρούτων και λαχανικών στις δυτικές αλυσίδες εφοδιασμού αγνοεί τις εκατοντάδες άλλες δυνατότητες ειδών σε κάθε περίπτωση, επειδή οι διάφορες αλυσίδες παραγωγής και μεταφοράς είναι πολύ δαπανηρές για να βιομηχανοποιηθούν διαφορετικοί τύποι φρούτων ή λαχανικών. Πηγή

Αυτό συμβαίνει επίσης στις αναφορές που εμφανίζονται σε νέες επιστημονικές έρευνες, όπου οι ερευνητές, ίσως αμέλεια, προτιμούν ένα «αξιόπιστο» σύνολο πηγών που κερδίζει ορμή μέχρι να αρχίσει να κυριαρχεί σε κλάδους της έρευνας.

Αυτό είναι γνωστό ως το Φαινόμενο Ματθαίου – μια κοινωνιολογική θεωρία που υποστηρίζει ότι οι υπάρχοντες θα ωφελούνται πάντα· το σύνδρομο έχει συγκριθεί με την υπόσχεση που δίνεται στο Ματθαίο 13:12, η οποία δηλώνει «Όσοι έχουν, θα δοθούν περισσότερα, και θα έχουν αφθονία. Όσοι δεν έχουν, ακόμη και ό,τι έχουν, θα τους αφαιρεθεί».

Η Κορυφαία Ομάδα

Μία από τις μεγάλες ελπίδες της έρευνας ενισχυμένης από AI ήταν ότι νέες μέθοδοι μηχανικής μάθησης θα μπορούσαν να ξεφύγουν από το Φαινόμενο Ματθαίου – επίσης γνωστό ως προκατάληψη δημοτικότητας – και να αρχίσουν να αναφέρουν λιγότερο γνωστές εργασίες που ίσως είναι πιο οξύβλεπτες ή πιο σχετικές με το επιχείρημα ενός άρθρου.

Ωστόσο, με βάση τον τρόπο που οι διαδικασίες εκπαίδευσης AI ερμηνεύουν τα σύνολα δεδομένων, δεν υπήρχε ποτέ καλός λόγος για αυτή την αισιοδοξία· και έχει διαπιστωθεί επανειλημμένα ότι όταν η AI δεν εφευρίσκει αναφορές άμεσα – ένα χρόνιο πρόβλημα μέχρι σήμερα – στην πραγματικότητα ενισχύει το Φαινόμενο Ματθαίου, όπως και οι άνθρωποι – αν και ίσως όχι για τον ίδιο λόγο.

Κατά τη διάρκεια της εκπαίδευσης, ένα μοντέλο μαθαίνει να κατατάσσει υψηλά την πιο αναφερόμενη (ή «πιο συχνά επαναλαμβανόμενη») εργασία σε ένα σύνολο εκπαίδευσης, επειδή οι διαδικασίες εκπαίδευσης σχεδιάζονται για να εξάγουν ουσιαστικά μοτίβα και να αγνοούν τα ακραία δεδομένα ως «θόρυβο» ή στατιστικές ανωμαλίες.

Σε αυτό το πλαίσιο, το ισοδύναμο της θεωρίας της σχετικότητας του Αϊνστάιν δεν θα λάβει ποτέ προσοχή από τη μηχανή, η οποία, μόλις εκπαιδευτεί, θεωρεί ότι έχει ήδη βρει τις αρχές και τις αναφορές της, και μπορεί μόνο ελαφρώς να προσαρμόσει αυτή τη θέση απευθυνόμενη σε νεότερες δημοσιεύσεις μέσω RAG ή με άλλα μέσα που επεκτείνουν την εμβέλεια του μοντέλου πέρα από τον εκπαιδευμένο του πίνακα.

Το πρόβλημα είναι ότι δεν θα απονείμει πίστωση σε αυτές τις νέες εργασίες με τον ίδιο τρόπο όπως στα «παλιά αγαπημένα» που ήδη γνώριζε, ή καθόλου, επειδή οι στατιστικές του προκαταλήψεις είναι πλέον βαθιά ριζωμένες.

Έτσι, η AI δεν παρατηρεί και μιμείται πραγματικά την ανθρώπινη συμπεριφορά όταν ενισχύει το Φαινόμενο Ματθαίου – απλώς μετράει πόσες φορές οι ερευνητές αμέλεια προτιμούν τις ίδιες παλιές εργασίες και τις κατατάσσουν υψηλά. Σε αυτό το πλαίσιο, το πρόβλημα της επανάληψης αναφορών σχετίζεται με την πρόκληση της επιλογής μιας πραγματικά ενδιαφέρουσας επιστημονικής εργασίας μέσα στην αδιάκοπη πλημμύρα δημοσιεύσεων AI, καθώς η πιο ισχυρή εργασία συχνά έχει το πιο αδύναμο σήμα.

Διάγνωση Μονοκαλλιέργειας

Αυτό το ζήτημα αντιμετωπίζεται σε ένα ενδιαφέρον νέο άρθρο από τις ΗΠΑ με τίτλο When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models. Η νέα εργασία – συνεργασία μεταξύ του University of Texas at Austin, Stevens Institute of Technology, Washington University at St Louis, Rice University και University of Notre Dame – επιδιώκει να αποδείξει οριστικά την ύπαρξη της μονοκαλλιέργειας αναφορών στη μηχανική μάθηση, ώστε οι μεταβλητές της να μπορούν ενδεχομένως να αντιμετωπιστούν άμεσα στο μέλλον, μαζί με το ίδιο το πρόβλημα.

Σε δοκιμές, οι συγγραφείς διαπίστωσαν ότι έντεκα μοντέλα από OpenAI, Google και Anthropic προτιμούσαν επανειλημμένα την ίδια μικρή ομάδα εργασιών – ακόμη και μετά την αφαίρεση των προφανών σημάτων δημοτικότητας.

Για να το δοκιμάσουν, 120 πραγματικές εργασίες αφαιρέθηκαν από τους αριθμούς αναφορών και τα περιοδικά δημοσίευσης, ενώ τα ονόματα των συγγραφέων αντικαταστάθηκαν και τα έτη δημοσίευσης ανατέθηκαν τυχαία. Στη συνέχεια, τυχαία σύνολα τριάντα εργασίες παρουσιάστηκαν σε κάθε μοντέλο, το οποίο επιτρεπόταν να αναφέρει το πολύ δέκα.

Οκτώ ανθρώπινοι ειδικοί στους σχετικούς τομείς έλαβαν τις ίδιες τυφλές εργασίες, αλλά δεν συγκλίνουν στα ίδια αγαπημένα με τις AI, υποδεικνύοντας ότι η προκατάληψη ήταν συγκεκριμένη στα μοντέλα AI και όχι στις ίδιες τις εργασίες:

Από το νέο άρθρο, αποτελέσματα δοκιμών που συγκρίνουν τις επιλογές αναφορών από μοντέλα AI και ανθρώπινους ειδικούς. Σε όλα τα έντεκα μοντέλα, οι αναφορές συγκεντρώθηκαν σε μια μικρότερη ομάδα εργασιών, ενώ ορισμένες εργασίες παραβλέπονταν επανειλημμένα εντελώς. Οι ανθρώπινοι ειδικοί δεν παρουσίασαν καμία τέτοια τάση. Πηγή

Οι ίδιες εργασίες παρέμειναν δημοφιλείς ακόμη και όταν τα μοντέλα ζητήθηκαν μόνο να επιλέξουν βιβλιογραφικές αναφορές, δείχνοντας ότι η σύνταξη της κριτικής δεν προκαλούσε την προκατάληψη.

Το πείραμα επεκτάθηκε σε έντεκα γύρους, προσθέτοντας 120 AI-συγγραφείς εργασίες μετά από κάθε γύρο, για να δοκιμαστεί τι συμβαίνει όταν αυτές οι κοινές προτιμήσεις λειτουργούν σε ένα αυξανόμενο σύνολο ερευνών που παράγονται από AI.

Καθώς προστέθηκαν περισσότερες AI-συγγραφείς εργασίες, τα μοντέλα συγκεντρώσαν ταδιακά τις αναφορές τους σε έναν μειούμενο αριθμό των αρχικών ανθρώπινων εργασιών.

«Καθώς τα γλωσσικά μοντέλα μεταβαίνουν από τη σύνταξη κειμένου στην εκτέλεση πρακτόρων αναζήτησης βιβλιογραφίας με κλήσεις εργαλείων, οι κατασκευασμένες αναφορές γίνονται πιο εύκολα εντοπίσιμες και περιορισμένες.

«Η πιο σκληρή αποτυχία ξεκινά αφού κάθε υποψήφιος είναι πραγματικός: διαφορετικά μοντέλα μπορεί ακόμη να επιλέξουν το ίδιο στενό υποσύνολο, δημιουργώντας μονοκαλλιέργεια αναφορών χωρίς καμία μεμονωμένη αναφορά να είναι λανθασμένη.»

Ως μέτρο αντιμετώπισης του προβλήματος, το άρθρο υποστηρίζει ότι η απλή ανάμειξη μοντέλων από διαφορετικούς προμηθευτές ή η ίση έκθεση των εργασιών δεν θα είναι επαρκής, καθώς μεγάλο μέρος της προτίμησης είναι κοινό μεταξύ των μοντέλων. Αντίθετα, η υποκείμενη προτίμηση για συγκεκριμένες εργασίες θα έπρεπε να αλλάξει – ενδεχομένως με την εκούσια παροχή μεγαλύτερης προβολής στις παραμελημένες εργασίες. Ωστόσο, οι συγγραφείς τονίζουν ότι αυτή η προσέγγιση παραμένει αδοκίμαστη.

Προσεγγίσεις Δοκιμής

Το σύνολο αναφοράς δημιουργήθηκε από 120 πραγματικές εργασίες απόσταξης γνώσης, συλλεγμένες από το arXiv και δημοσιευμένες μεταξύ 2015 και 2022. Κάθε εργασία είχε μεταξύ 50 και 500 αναφορές τη στιγμή της συλλογής, ένα εύρος που επιλέχθηκε για να αποκλειστεί τόσο η άγνωστη όσο και η εξαιρετικά επιδραστική εργασία.

Το πείραμα ξεκίνησε με την τυχαία επιλογή τριάντα εργασιών από τη διαθέσιμη συλλογή, με κρυφά τα ονόματα των συγγραφέων, τα έτη δημοσίευσης και τους αριθμούς αναφορών. Κάθε μοντέλο παρήγαγε μια σύντομη κριτική ή θέση, αναφέροντας το πολύ δέκα εργασίες, και αυτές οι επιλογές συγκρίθηκαν με τυχαίες επιλογές από το ίδιο υλικό:

Σχέδιο της μεθόδου που χρησιμοποιήθηκε για τη δοκιμή προτιμήσεων αναφορών. Τριάντα τυχαία επιλεγμένες εργασίες παρουσιάστηκαν σε ένα μοντέλο με κρυφές πληροφορίες ταυτοποίησης, μετά το οποίο μπορούσε να αναφέρει έως δέκα. Οι επιλογές του συγκρίθηκαν με τυχαία επιλογή, ενώ κάθε γύρος πρόσθετε 120 AI-συγγραφείς εργασίες στη συλλογή του επόμενου γύρου.

Στο εκτεταμένο πείραμα, 120 νέες δημιουργημένες εργασίες προστέθηκαν στη συλλογή μετά από κάθε γύρο, αυξάνοντας σταδιακά το ποσοστό των AI-συγγραφών ερευνών.

Σε προληπτικές δοκιμές, τα μοντέλα τείνουν να αναφέρουν τις περισσότερες εργασίες που τους παρουσιάζονται, επιλέγοντας συνήθως 22 έως 27 από τις 30. Οι ερευνητές έτσι όρισαν μέγιστο δέκα αναφορές για το κύριο πείραμα, αναγκάζοντας τα μοντέλα να κάνουν πιο επιλεκτικές επιλογές.

Παρακάτω βλέπουμε μια σύνοψη του προκύπτοντος σχεδιασμού πειράματος:

Δοκιμαστική διάταξη που χρησιμοποιήθηκε για τη δοκιμή προτιμήσεων αναφορών. Η μελέτη ξεκίνησε με 120 πραγματικές εργασίες και έλεγξε έντεκα μοντέλα από τρεις προμηθευτές, χρησιμοποιώντας τυχαία σύνολα 30 εργασιών και μέγιστο δέκα αναφορές. Οι επόμενοι γύροι πρόσθεσαν AI-δημιουργημένες εργασίες, επεκτείνοντας τη συλλογή σε 1.440 εργασίες.

Το αρχικό πείραμα χρησιμοποίησε έντεκα μοντέλα από τους τρεις κύριους παρόχους: η OpenAI εκπροσωπήθηκε από GPT-5, GPT-5 mini, GPT-4.1 και GPT-4.1 mini; η Google από Gemini 2.5 Pro, Gemini 2.5 Flash, Gemini 3.1 Pro και Gemini 3.1 Flash‑Lite; και η Anthropic από Claude Opus 4.8, Claude Sonnet 4.6 και Claude Haiku 4.5.

Στα αποτελέσματα δοκιμών που φαίνονται παρακάτω, βλέπουμε πόσο κάθε μοντέλο συγκεντρώσε τις αναφορές του σε μια μικρή ομάδα εργασιών· πόσες εργασίες αγνόησε εντελώς· και πόσο συνεπώς έκανε τις ίδιες επιλογές όταν το πείραμα επαναλήφθηκε:

Αποτελέσματα δοκιμών που δείχνουν πόσο έντονα κάθε μοντέλο συγκεντρώσε τις αναφορές του σε συγκεκριμένες εργασίες και πόσες εργασίες αγνόησε εντελώς. Η «Μερίδα κορυφαίου 10%» δείχνει πόσες αναφορές πήγαν στις 12 πιο προτιμώμενες εργασίες, ενώ το «HHI» μετρά πόσο συγκεντρωμένες ήταν οι αναφορές συνολικά. Η «Αξιοπιστία» δείχνει πόσο συνεπώς κάθε μοντέλο προτιμούσε τις ίδιες εργασίες σε δοκιμές, και το ρ δείχνει πόσο παρόμοιες ήταν αυτές οι προτιμήσεις μεταξύ μοντέλων. Η γραμμή «Matched null» υποδεικνύει τι θα αναμενόταν αν οι εργασίες επιλέγονταν τυχαία.

Τι Προτιμούν Πραγματικά τα Μοντέλα;

Η προτίμηση διαπιστώθηκε ότι προέρχεται κυρίως από το περιεχόμενο των ίδιων των εργασιών. Για παράδειγμα, για το GPT-5 mini, περίπου το 90 % της διακύμανσης στις προτιμώμενες εργασίες αποδίδεται στο περιεχόμενο, αντί σε παράγοντες όπως η σειρά λίστας, ο θόρυβος δημιουργίας ή τα κατασκευασμένα μεταδεδομένα που συνδέονται με κάθε εργασία. Το ίδιο φαινόμενο «κυριαρχικού περιεχομένου» επαναλήφθηκε με το GPT-4.1 mini.

Ο χάρτης προτιμήσεων (δείτε παρακάτω) επίσης δεν άλλαξε ουσιαστικά όταν οι τίτλοι και τα abstracts ξαναγράφηκαν σημαντικά διατηρώντας το νόημά τους. Σε τέσσερις επιτυχημένες δοκιμές παραφράσεων, επιτεύχθηκαν συσχετίσεις 0,95–0,99, παρά τη χρήση διαφορετικών μοντέλων από τρεις προμηθευτές για την αναγραφή.

Αλλαγές στον χάρτη προτιμήσεων παρατηρήθηκαν μόνο όταν το υποκείμενο νόημα μεταβλήθηκε μετρήσιμα:

Αποτελέσματα δοκιμών που συγκρίνουν τις προτιμήσεις αναφορών μεταξύ των εννέα μοντέλων. Οι αριθμοί δείχνουν πόσο στενά κάθε ζεύγος μοντέλων προτιμούσε τις ίδιες εργασίες, με υψηλότερες τιμές να υποδεικνύουν μεγαλύτερη συμφωνία. Παρά τις διαφορές μεταξύ μοντέλων και προμηθευτών, βρέθηκαν ευρέως παρόμοιες προτιμήσεις στο σύνολο.

Τα μοντέλα επομένως φαίνεται να ανταποκρίνονται κυρίως στο σημασιολογικό περιεχόμενο αντί σε συγκεκριμένη διατύπωση. Ωστόσο, η αιτία της ισχυρής τους συμφωνίας δεν μπόρεσε να προσδιοριστεί οριστικά.

Είναι δυνατόν, όπως υποστηρίζουν οι συγγραφείς, ότι μια κοινή συναίνεση αναφορών μπορεί να έχει ενσωματωθεί κατά την εκπαίδευση. Μια εναλλακτική πιθανότητα είναι ότι παρόμοιες κρίσεις για το τι αποτελεί «αναφερόμενη» εργασία μπορεί να προκύψουν ανεξάρτητα.

Έτσι, η ύπαρξη της κοινής προτίμησης αποδείχθηκε, αλλά η τελική της προέλευση παραμένει άγνωστη.

Οι συγγραφείς προτείνουν ότι η ευρεία χρήση της AI στην έρευνα θα μπορούσε να περιορίσει το φάσμα των εργασιών που λαμβάνουν προσοχή, επειδή διαφορετικά μοντέλα τείνουν να προτιμούν πολλές από τις ίδιες εργασίες· και καθώς η AI‑δημιουργημένη βιβλιογραφία συσσωρεύεται, αυτές οι κοινές προτιμήσεις μπορεί να ενισχυθούν περαιτέρω μέσω επαναλαμβανόμενων αναφορών, καθιστώντας τις λιγότερο προτιμώμενες έρευνες όλο και πιο δύσκολες στην ανακάλυψη. Η ποικιλομορφία αναφορών και η παρακολούθηση της συγκέντρωσης αναφορών προτείνονται ως πιθανά μέτρα προστασίας.

Το benchmark της μελέτης για την επαναλαμβανόμενη συγκέντρωση αναφορών είναι πλέον διαθέσιμο στο GitHub.

Συμπέρασμα

Άποψη Ως άτομο που διαβάζει έναν υπερβολικά μεγάλο αριθμό ερευνητικών εργασιών AI εβδομαδιαία, έχω παρατηρήσει ότι «κύματα αναφορών» έρχονται και φεύγουν. Ένας διαρκής σταθερός είναι το «Attention Is All You Need» της Google, το αρχικό άρθρο των Transformers, το οποίο πιθανότατα έχει ενσωματωθεί σκληρά στα πρότυπα υποβολής.

Ένας άλλος επαναλαμβανόμενος παραβάτης, για μεγάλο χρονικό διάστημα, ήταν το 2014 έργο Generative Adversarial Networks, αν και τελικά αντικαταστάθηκε σε συχνότητα από τα Denoising Diffusion Probabilistic Models και άλλες μελέτες βασισμένες στη διάχυση.

Σχεδόν σε όλες τις περιπτώσεις, αυτές οι «επαναλαμβανόμενες» αναφορές δεν είναι λανθασμένες, καθαυτές· αλλά συχνά είναι υπερβολικά ευρείες για να αποτελέσουν χρήσιμη υποστήριξη στο άρθρο στο οποίο παρατίθενται· και με αυτήν την έννοια, αντιπροσωπεύουν κάτι παρόμοιο με το «citation‑washing» – την ένταξη «αξιόπιστων» αλλά κυρίως διακοσμητικών πηγών, για μια αβίαστη αίσθηση αξιοπιστίας.

Πρώτη δημοσίευση Δευτέρα, 24 Αυγούστου 2026