Η γωνία του Anderson

Η τεχνητή νοημοσύνη σας μπορεί να είναι ακόμη υπερβολικά ευγενική για να σας διορθώσει όπως πρέπει

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Stephen Fry as Jeeves (left) and Hugh Laurie as Bertie Wooster in the British television comedy 'Jeeves and Wooster' (1990–1993). © Picture Partnership Productions.

Τα συστήματα τεχνητής νοημοσύνης στα οποία μπορεί να βασιζόμαστε για ακριβείς πληροφορίες — ακόμη κι αν αυτές δεν είναι ευχάριστες — πρέπει να μπορούν να «αντιδρούν» στις διαμαρτυρίες μας, μέχρι να είμαστε έτοιμοι να πειστούμε για τις δυσάρεστες ειδήσεις ή τα γεγονότα.

Η τεχνητή νοημοσύνη δεν τα καταφέρνει πολύ καλά σε αυτό· καθώς τα μοντέλα αιχμής σχεδιάζονται για άμεση επαφή με τους καταναλωτές, τείνουν να είναι υπερβολικά υποχωρητικά και, στην πραγματικότητα, να επιδεικνύουν κολακευτική και άκριτα συμφωνητική συμπεριφορά.

Έχει αναπτυχθεί ένας αξιόλογος κλάδος έρευνας για την αντιμετώπιση του ζητήματος· ωστόσο, πρόσφατες μελέτες κατέληξαν στο συμπέρασμα ότι μπορούμε εύκολα να χειραγωγήσουμε την ΤΝ και να την επαναφέρουμε στην κολακευτική, άκριτα συμφωνητική συμπεριφορά, αν μας αμφισβητήσει· ότι η ΤΝ υποτάσσεται στην ανθρώπινη αυθεντία ακόμη κι όταν είναι προφανώς λανθασμένη· και ότι η συνήθως αποτελεσματική τεχνική της ενισχυτικής μάθησης στην πραγματικότητα επιδεινώνει το συγκεκριμένο πρόβλημα.

Το γεγονός ότι η υποχωρητικότητα είναι άρρηκτα συνδεδεμένη με την ευγένεια σε πολιτισμικό επίπεδο φαίνεται να σημαίνει πως η «ευθύτητα» είναι αδύνατη σε μια σχέση παρόχου>καταναλωτή· ο «πελάτης έχει πάντα δίκιο», ακόμη κι όταν πρόκειται να πέσει από έναν γκρεμό.

Σωστό, λάθος και «μετριασμένο»

Μακάρι να μπορούσα να σας πω ότι η νέα σειρά δημοσιεύσεων αυτής της εβδομάδας περιλαμβάνει κάποια που προωθεί ουσιαστικά την πρόοδο σε αυτό το ζήτημα. Δυστυχώς, το μόνο που μαθαίνουμε είναι περισσότερα για το πώς τα μοντέλα που «αντιδρούν» και προσπαθούν να κάνουν τους ανθρώπινους αφέντες τους να αποδεχτούν την αλήθεια εξακολουθούν να μην τα καταφέρνουν και τόσο καλά* — και ότι ακόμη κι όταν είναι πράγματι πρόθυμα να πουν την αλήθεια στους ισχυρούς (δηλαδή σε εσάς), πρόκειται περισσότερο για έναν πνιχτό ψίθυρο.

Η νέα μελέτη είναι προϊόν εκτενούς ακαδημαϊκής συνεργασίας, στην οποία συμμετείχαν το University of Washington, το Allen Institute for AI, το LMU Munich, το UC Berkeley, το Stanford University και το University of Wisconsin-Madison.

Με τίτλο Αντιδρώντας μέσα σε σωρό άχυρα: Τα γλωσσικά μοντέλα απαντούν σε πραγματολογικά σφάλματα με αμφίσημο και αναποτελεσματικό τρόπο, η βασική θέση της νέας μελέτης είναι ότι, ακόμη κι όταν τα μοντέλα τεχνητής νοημοσύνης αναγνωρίζουν πως ένας ισχυρισμός χρήστη είναι ψευδής, συχνά δεν τον διορθώνουν με σαφήνεια, αλλά κρύβουν τις αντιρρήσεις τους πίσω από διατυπώσεις επιφύλαξης, επαίνους και μερική συμφωνία.

Παράδειγμα απάντησης του Gemini 2.5 Pro στα Χίντι σε αίτημα για ακαδημαϊκές εργασίες που βασίζεται σε μια εσφαλμένη παραδοχή. Οι πράσινες επισημάνσεις δηλώνουν συμφωνία, ενώ οι ροζ αντίδραση ή αντίρρηση. Εδώ, το μοντέλο συνδυάζει επαίνους με έμμεσες αντιρρήσεις, αντί να απορρίψει σαφώς τον ισχυρισμό.. Πηγή - https://arxiv.org/pdf/2610.17703

Παράδειγμα απάντησης του Gemini 2.5 Pro στα Χίντι σε αίτημα για ακαδημαϊκές εργασίες που βασίζεται σε μια εσφαλμένη παραδοχή. Οι πράσινες επισημάνσεις δηλώνουν συμφωνία, ενώ οι ροζ αντίδραση ή αντίρρηση. Εδώ, το μοντέλο συνδυάζει επαίνους με έμμεσες αντιρρήσεις, αντί να απορρίψει σαφώς τον ισχυρισμό. Πηγή

Σε επτά μοντέλα και πέντε γλώσσες, οι ερευνητές διαπίστωσαν ότι αυτή η «ασάφεια» μπορεί να κάνει τους χρήστες να εξακολουθούν να πιστεύουν την αρχική παραπληροφόρηση, παρότι η ΤΝ την είχε αμφισβητήσει τεχνικά.

Καθώς η κολακευτική και άκριτα συμφωνητική συμπεριφορά διαφέρει ως προς τη χρήση και τον βαθμό της ανάλογα με τη γλώσσα, οι δέκα συγγραφείς αξιοποίησαν τις πέντε μητρικές γλώσσες που μοιράζονται για να σχεδιάσουν μια μέθοδο αξιολόγησης που περιλαμβάνει τα αγγλικά, τα γερμανικά, τα κινεζικά, τα χίντι και τα γιορούμπα — γλώσσες που κυμαίνονται από τις υψηλής έως τις χαμηλής διαθεσιμότητας γλωσσικών πόρων. Αναφέρουν:

«Παρουσιάζουμε ένα πλαίσιο επισήμανσης απαντήσεων σε επίπεδο φράσης, επικυρωμένο από ανθρώπους, για να αποκαλύψουμε λεπτομερείς πτυχές του τρόπου με τον οποίο τα γλωσσικά μοντέλα αντιστέκονται σε ψευδείς εισροές ή/και συμφωνούν με αυτές. Αναπτύσσουμε και εφαρμόζουμε το πλαίσιό μας σε απαντήσεις μοντέλων σε πέντε γλώσσες: αγγλικά, γερμανικά, κινεζικά, χίντι και γιορούμπα.»

«Διαπιστώνουμε ότι, όταν τα μοντέλα αντιδρούν στους ψευδείς ισχυρισμούς των χρηστών, τείνουν να χρησιμοποιούν έμμεσες διατυπώσεις και να τις συνδυάζουν με εκφράσεις συμφωνίας, ενώ η έμμεση διατύπωση είναι εντονότερη στα χίντι και τα γιορούμπα απ’ ό,τι στις άλλες γλώσσες που εξετάστηκαν.»

Σε μια μεγάλης κλίμακας μελέτη με 300 συμμετέχοντες, οι ερευνητές διαπίστωσαν ότι οι αμφίσημες διορθώσεις από μοντέλα τεχνητής νοημοσύνης μπορούσαν να αφήσουν άθικτες τις πραγματολογικές παρανοήσεις των χρηστών, αντί να τις αμφισβητήσουν αποτελεσματικά.

Σε μία δοκιμή διαπιστώθηκε ότι οι απαντήσεις των μοντέλων σε ερωτήματα αναζήτησης πληροφοριών είχαν κατά μέσο όρο 46.7 γραμμές, ενώ οι διορθωτικές φράσεις εμφανίζονταν μόλις σε δύο ή τρεις — πράγμα που σημαίνει ότι, ακόμη κι όταν η ΤΝ αντιτίθεται σε έναν ψευδή ισχυρισμό, η αντίρρησή της μπορεί να είναι δύσκολο να εντοπιστεί.

Οι ερευνητές διαπίστωσαν επίσης ότι τα μοντέλα ήταν πιθανότερο να αμφισβητήσουν την παραπληροφόρηση όταν τους ζητούνταν ρητά να την επαληθεύσουν παρά όταν αυτή περιλαμβανόταν σε συνηθισμένα αιτήματα για πληροφορίες. Οι ισχυρισμοί που αποδίδονταν σε σχολικά εγχειρίδια συναντούσαν γενικά λιγότερη αντίσταση από εκείνους που αποδίδονταν σε φίλους.

Στο 29.4% των απαντήσεων σε ερωτήματα αναζήτησης πληροφοριών, τα μοντέλα συνδύαζαν τη διόρθωση με τη συμφωνία· το ποσοστό έφτανε το 60.1% για το Gemini 2.5 Pro. Μερικές φορές αυτό έπαιρνε τη μορφή «σάντουιτς κομπλιμέντων», με τις αντιρρήσεις να κρύβονται ανάμεσα σε καθησυχαστικές παρατηρήσεις.

Ως πιθανή λύση, οι ερευνητές δοκίμασαν μια απλή παρέμβαση που ενθάρρυνε τα μοντέλα να «περιμένουν ένα λεπτό» προτού απαντήσουν. Σε ορισμένες περιπτώσεις, αυτό αύξησε την προθυμία τους να αμφισβητήσουν ψευδείς δηλώσεις — αύξησε όμως και τις εσφαλμένες αντιρρήσεις σε αληθείς δηλώσεις.

Η μελέτη υποδηλώνει ότι το να αναγνωρίζει η τεχνητή νοημοσύνη ένα λάθος είναι μόνο ένα μέρος του προβλήματος και ότι το να επικοινωνεί το λάθος αποτελεί ξεχωριστή πρόκληση από μόνο του.

Μεθοδολογία

Το υλικό της δοκιμής προήλθε από την πολύγλωσση έκδοση του 2021 του Massive Multitask Language Understanding (MMLU) της OpenAI, ένα σύνολο δεδομένων αναφοράς. Γνωστό ως MMMLU, το πολύγλωσσο σύνολο δεδομένων καλύπτει ακαδημαϊκά αντικείμενα, όπως η βιολογία και η ιστορία.

Οι ερωτήσεις πολλαπλής επιλογής της συλλογής μετατράπηκαν σε πραγματολογικές δηλώσεις: οι τρεις λανθασμένες απαντήσεις χρησιμοποιήθηκαν για τη δημιουργία ψευδών ισχυρισμών και η σωστή απάντηση για τη δημιουργία ενός αληθούς ισχυρισμού.

Με αυτόν τον τρόπο, δημιουργήθηκε ένα σύνολο δεδομένων με 35,120 δηλώσεις σε πέντε γλώσσες, από 1,756 στοιχεία του συνόλου αναφοράς MMMLU για κάθε γλώσσα, τα οποία είχαν μεταφραστεί δύο φορές. Για τα πειράματα επιλέχθηκε μικρότερο δείγμα, ισορροπημένο ως προς τα αντικείμενα, που περιλάμβανε 2,685 ψευδείς δηλώσεις και 895 αληθείς.

Τα γλωσσικά μοντέλα που δοκιμάστηκαν ήταν τα μοντέλα κλειστού κώδικα Gemini2.5 Pro και GPT-5.5, καθώς και πέντε μοντέλα με ανοιχτά βάρη: Mistral Small 4, Qwen 3.5 9B, Qwen 3.5 27B, Gemma 4 E4B και Aya Expanse 32B.

Στον πρώτο από τους τρεις τύπους προτροπών που χρησιμοποιήθηκαν για τη δοκιμή των μοντέλων, τους παρουσιαζόταν μια δήλωση προς άμεση επαλήθευση της ακρίβειάς της· στον δεύτερο, ένας μαθητής παρουσιαζόταν να αναζητά εκπαιδευτικό υλικό σχετικό με μια δήλωση· και στον τρίτο, ένας καθηγητής παρουσιαζόταν να ζητά ακαδημαϊκές εργασίες με βάση την ίδια δήλωση.

Στις προτροπές για τους μαθητές, οι δηλώσεις αποδίδονταν σε σχολικά βιβλία· εκπαιδευτικούς· φίλους· το διαδίκτυο· ή σε μη προσδιορισμένη πηγή. Στις προτροπές για τους καθηγητές, αποδίδονταν στην ίδια την έρευνα του καθηγητή· σε συναδέλφους· φίλους· το διαδίκτυο· ή σε μη προσδιορισμένη πηγή. Στη συνέχεια αξιολογήθηκε η προθυμία των μοντέλων να αμφισβητούν ψευδείς ισχυρισμούς με βάση αυτές τις διαφορετικές αποδόσεις πηγών.

Τα τρία πρότυπα προτροπών που χρησιμοποιήθηκαν στη μελέτη: άμεση επαλήθευση πραγματικών στοιχείων (verify)· αιτήματα για εκπαιδευτικό υλικό (novice)· και αιτήματα για ακαδημαϊκές εργασίες (expert). Στα πρότυπα ενσωματώθηκαν οι αποδόσεις πηγών και οι ειδικές λεπτομέρειες για κάθε αντικείμενο.

Τα τρία πρότυπα προτροπών που χρησιμοποιήθηκαν στη μελέτη: άμεση επαλήθευση πραγματικών στοιχείων (verify)· αιτήματα για εκπαιδευτικό υλικό (novice)· και αιτήματα για ακαδημαϊκές εργασίες (expert). Στα πρότυπα ενσωματώθηκαν οι αποδόσεις πηγών και οι ειδικές λεπτομέρειες για κάθε αντικείμενο.

Οι απαντήσεις των μοντέλων ταξινομήθηκαν σε τέσσερις κατηγορίες: ρητή διάψευση, όταν ένας ψευδής ισχυρισμός αμφισβητούνταν άμεσα· έμμεση αντίκρουση, όταν εκφραζόταν διαφωνία ή αμφιβολία χωρίς να απορρίπτεται ευθέως ο ισχυρισμός· έπαινος, όταν επαινούνταν η δήλωση ή η προσέγγιση του χρήστη· και επιβεβαίωση, όταν ο ισχυρισμός γινόταν αποδεκτός.

Παραδείγματα φράσεων που χρησιμοποίησαν τα μοντέλα για να απορρίψουν· να αμφισβητήσουν· να επαινέσουν· ή να επιβεβαιώσουν τις δηλώσεις των χρηστών στις πέντε γλώσσες που δοκιμάστηκαν. Όπου υπήρχαν, παρέχονται αγγλικές μεταφράσεις.

Παραδείγματα φράσεων που χρησιμοποίησαν τα μοντέλα για να απορρίψουν· να αμφισβητήσουν· να επαινέσουν· ή να επιβεβαιώσουν τις δηλώσεις των χρηστών στις πέντε γλώσσες που δοκιμάστηκαν. Όπου υπήρχαν, παρέχονται αγγλικές μεταφράσεις.

Κάθε απάντηση εξετάστηκε φράση προς φράση, ώστε να εντοπίζονται ο έπαινος, η συμφωνία και η διαφωνία ακόμη κι όταν εμφανίζονταν μαζί στην ίδια απάντηση.

Αποτελέσματα

Τα αποτελέσματα επιβεβαίωσαν προηγούμενα ευρήματα, σύμφωνα με τα οποία τα μοντέλα που εντοπίζουν σωστά ψευδείς δηλώσεις όταν τους ζητείται να τις ελέγξουν είναι λιγότερο πιθανό να αμφισβητήσουν τους ίδιους ισχυρισμούς όταν τους ζητείται να δώσουν πληροφορίες ή συμβουλές. Η διαφορά αυτή ονομάστηκε «χάσμα αμφισβήτησης» και υπολογίστηκε συγκρίνοντας πόσο συχνά αμφισβητούνταν ψευδείς ισχυρισμοί σε άμεσες δοκιμές επαλήθευσης με το πόσο συχνά αμφισβητούνταν σε συνήθη αιτήματα αναζήτησης πληροφοριών.

Σύγκριση της συχνότητας με την οποία επτά γλωσσικά μοντέλα αμφισβήτησαν ψευδείς δηλώσεις σε αιτήματα άμεσου ελέγχου γεγονότων έναντι αιτημάτων αναζήτησης πληροφοριών, σε πέντε γλώσσες. Οι αρνητικές τιμές υποδηλώνουν μικρότερη αντίκρουση στις απαντήσεις σε αιτήματα αναζήτησης πληροφοριών. Το πορτοκαλί και το μπλε αντιστοιχούν στις προτροπές για μαθητές και καθηγητές αντίστοιχα, ενώ τα σύμβολα διακρίνουν τις αποδιδόμενες πηγές. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Σύγκριση της συχνότητας με την οποία επτά γλωσσικά μοντέλα αμφισβήτησαν ψευδείς δηλώσεις σε αιτήματα άμεσου ελέγχου γεγονότων έναντι αιτημάτων αναζήτησης πληροφοριών, σε πέντε γλώσσες. Οι αρνητικές τιμές υποδηλώνουν μικρότερη αντίκρουση στις απαντήσεις σε αιτήματα αναζήτησης πληροφοριών. Το πορτοκαλί και το μπλε αντιστοιχούν στις προτροπές για μαθητές και καθηγητές αντίστοιχα, ενώ τα σύμβολα διακρίνουν τις αποδιδόμενες πηγές. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Όπως φαίνεται παραπάνω, τα δύο μοντέλα Qwen 3.5 παρουσίασαν μικρότερο χάσμα από τα υπόλοιπα στις γλώσσες που δοκιμάστηκαν, γεγονός που δείχνει ότι διόρθωναν την παραπληροφόρηση με μεγαλύτερη συνέπεια, ανεξάρτητα από τη διατύπωση της ερώτησης. Τα αποτελέσματα δείχνουν επίσης πώς η φαινομενική αυθεντία της πηγής επηρέασε τα ευρήματα: οι ψευδείς ισχυρισμοί που αποδίδονταν σε σχολικά βιβλία αντιμετωπίζονταν με λιγότερη αντίδραση από εκείνους που αποδίδονταν σε φίλους — τάση που παρατηρήθηκε σε όλες τις γλώσσες.

Όταν τους ζητήθηκε πληροφορία και όχι επαλήθευση πραγματικών στοιχείων, τα μοντέλα ήταν λιγότερο πιθανό να απορρίψουν κατηγορηματικά ψευδείς ισχυρισμούς και πιθανότερο να διατυπώσουν έμμεσες αντιρρήσεις, να επαινέσουν ή να επιβεβαιώσουν. Ακόμη και τα μοντέλα Qwen 3.5, τα οποία είχαν παρουσιάσει σχετικά μικρές διαφορές ως προς τα συνολικά ποσοστά αντίκρουσης, ήταν επιρρεπή σε αυτήν τη συμπεριφορά.

Ποσοστό των απαντήσεων που περιείχαν ρητές διορθώσεις μεταξύ όσων αμφισβήτησαν ψευδείς ισχυρισμούς, σε πέντε γλώσσες. Τα αποτελέσματα χωρίζονται ανάμεσα σε προτροπές φοιτητή (αρχάριου) και καθηγητή (ειδικού), ενώ στον οριζόντιο άξονα εμφανίζονται οι πηγές στις οποίες αποδίδονταν οι πληροφορίες. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Ποσοστό των απαντήσεων που περιείχαν ρητές διορθώσεις μεταξύ όσων αμφισβήτησαν ψευδείς ισχυρισμούς, σε πέντε γλώσσες. Τα αποτελέσματα χωρίζονται ανάμεσα σε προτροπές φοιτητή (αρχάριου) και καθηγητή (ειδικού), ενώ στον οριζόντιο άξονα εμφανίζονται οι πηγές στις οποίες αποδίδονταν οι πληροφορίες. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Σε τέσσερα από τα επτά μοντέλα, οι ψευδείς ισχυρισμοί ήταν λιγότερο πιθανό να αμφισβητηθούν ρητά στα Χίντι, τα Κινέζικα και τα Γιορούμπα απ’ ό,τι στα Αγγλικά. Στις απαντήσεις στα Χίντι υπήρχαν επίσης οι περισσότεροι έπαινοι σε πέντε από τα επτά μοντέλα.

Αντίκρουση υπήρξε στο 65,3% των απαντήσεων σε ερωτήματα αναζήτησης πληροφοριών, αν και συνήθως λιγότερες από τις μισές περιείχαν ρητή απόρριψη του ψευδούς ισχυρισμού. Οι άμεσες διορθώσεις ήταν συχνότερες στις προτροπές φοιτητή απ’ ό,τι στις προτροπές καθηγητή και λιγότερο συχνές όταν οι ισχυρισμοί αποδίδονταν σε έγκυρες πηγές.

Στα Χίντι, τα Κινέζικα και τα Γιορούμπα, οι περισσότερες απαντήσεις που αμφισβήτησαν έναν ψευδή ισχυρισμό το έκαναν μόνο έμμεσα, χωρίς να απορρίψουν ρητά το λάθος· επιπλέον, στο 29,4% των απαντήσεων σε ερωτήματα αναζήτησης πληροφοριών, οι αντιρρήσεις για ψευδείς ισχυρισμούς συνδυάζονταν με επιβεβαίωση, ποσοστό που έφτανε το 60,1% για το Gemini 2.5 Pro:

Το ποσοστό των απαντήσεων που ξεκινούσαν με επιβεβαίωση προτού αμφισβητήσουν έναν ψευδή ισχυρισμό, σε επτά μοντέλα και τρεις τύπους προτροπών: άμεση επαλήθευση (επαλήθευση), αιτήματα φοιτητών (αρχάριοι) και αιτήματα καθηγητών (ειδικοί). Τα αποτελέσματα αφορούν απαντήσεις που περιείχαν τόσο επιβεβαίωση όσο και αντίκρουση. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Το ποσοστό των απαντήσεων που ξεκινούσαν με επιβεβαίωση προτού αμφισβητήσουν έναν ψευδή ισχυρισμό, σε επτά μοντέλα και τρεις τύπους προτροπών: άμεση επαλήθευση (επαλήθευση), αιτήματα φοιτητών (αρχάριοι) και αιτήματα καθηγητών (ειδικοί). Τα αποτελέσματα αφορούν απαντήσεις που περιείχαν τόσο επιβεβαίωση όσο και αντίκρουση. Οι γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Όπως φαίνεται παραπάνω, τα μοντέλα συνήθως διατύπωναν πρώτα επιβεβαίωση και έπειτα έφερναν αντιρρήσεις, αντί να διορθώνουν εξαρχής τον ψευδή ισχυρισμό. Σε ορισμένες περιπτώσεις, ακολουθούσε και άλλη επιβεβαίωση μετά την αντίρρηση, σχηματίζοντας αυτό που οι ερευνητές περιγράφουν ως «σάντουιτς κομπλιμέντων».

Μελέτη σε ανθρώπους

Για να ελέγξουν αν αυτές οι διορθώσεις ήταν πράγματι αποτελεσματικές, οι ερευνητές στρατολόγησαν 300 συμμετέχοντες: 100 ομιλητές της αγγλικής, 100 της γερμανικής και 100 της κινεζικής. Οι συμμετέχοντες αξιολόγησαν ψευδείς δηλώσεις πριν και μετά την ανάγνωση απαντήσεων των μοντέλων.

Όπως φαίνεται παρακάτω, μόνο οι ρητές διορθώσεις μείωσαν αξιόπιστα την πεποίθηση σε ψευδείς ισχυρισμούς μεταξύ των ομιλητών της αγγλικής και της γερμανικής. Ακόμη κι έτσι, μόνο το 46,7% των ομιλητών της αγγλικής και το 43,8% των ομιλητών της γερμανικής αξιολόγησαν στη συνέχεια τις δηλώσεις ως ανακριβείς. Μεταξύ των ομιλητών της κινεζικής, μόνο οι απαντήσεις που συνδύαζαν επιβεβαίωση με έμμεση αντίκρουση οδήγησαν σε στατιστικά σημαντική βελτίωση:

Μεταβολές στις αξιολογήσεις των συμμετεχόντων για ψευδείς δηλώσεις, αφού διάβασαν απαντήσεις μοντέλων που περιείχαν επιβεβαίωση, έμμεσες αντιρρήσεις ή ρητές διορθώσεις. Τα αποτελέσματα αφορούν 100 ομιλητές της αγγλικής, 100 της γερμανικής και 100 της κινεζικής. Οι αρνητικές τιμές υποδηλώνουν μειωμένη πεποίθηση στον ψευδή ισχυρισμό. Οι μεμονωμένες κουκκίδες αντιστοιχούν σε συμμετέχοντες, ενώ οι μαύρες γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Μεταβολές στις αξιολογήσεις των συμμετεχόντων για ψευδείς δηλώσεις, αφού διάβασαν απαντήσεις μοντέλων που περιείχαν επιβεβαίωση, έμμεσες αντιρρήσεις ή ρητές διορθώσεις. Τα αποτελέσματα αφορούν 100 ομιλητές της αγγλικής, 100 της γερμανικής και 100 της κινεζικής. Οι αρνητικές τιμές υποδηλώνουν μειωμένη πεποίθηση στον ψευδή ισχυρισμό. Οι μεμονωμένες κουκκίδες αντιστοιχούν σε συμμετέχοντες, ενώ οι μαύρες γραμμές σφάλματος δείχνουν διαστήματα εμπιστοσύνης 95%.

Οι ερευνητές εξέτασαν επίσης αν το να ζητήσουν από τα μοντέλα να «περιμένουν ένα λεπτό» πριν απαντήσουν θα ενίσχυε την προθυμία τους να αμφισβητούν την παραπληροφόρηση. Στην τελευταία εικόνα παρακάτω, βλέπουμε ενδείξεις αυξημένης αντίκρουσης και λιγότερο συκοφαντικής διατύπωσης σε ορισμένες περιπτώσεις, αλλά και ότι αυτά οδήγησαν σε περισσότερες εσφαλμένες αντιρρήσεις για αληθείς δηλώσεις:

Σύγκριση των απαντήσεων επτά μοντέλων πριν και μετά την παρέμβαση «περίμενε ένα λεπτό», με χρήση προτροπών στα Αγγλικά και μεταφρασμένων προτροπών. Τα διαγράμματα παρουσιάζουν τη συνολική αντίκρουση ψευδών ισχυρισμών, τις ρητές διορθώσεις χωρίς επιβεβαίωση και τις εσφαλμένες αντιρρήσεις για αληθείς δηλώσεις. Οι κάθετες μαύρες ενδείξεις δείχνουν τα αποτελέσματα της άμεσης επαλήθευσης.

Σύγκριση των απαντήσεων επτά μοντέλων πριν και μετά την παρέμβαση «περίμενε ένα λεπτό», με χρήση προτροπών στα Αγγλικά και μεταφρασμένων προτροπών. Τα διαγράμματα παρουσιάζουν τη συνολική αντίκρουση ψευδών ισχυρισμών, τις ρητές διορθώσεις χωρίς επιβεβαίωση και τις εσφαλμένες αντιρρήσεις για αληθείς δηλώσεις. Οι κάθετες μαύρες ενδείξεις δείχνουν τα αποτελέσματα της άμεσης επαλήθευσης.

Συμπέρασμα

Θα μπορούσε κανείς να υποστηρίξει ότι η ευγένεια και η υποχωρητικότητα έχουν συγχωνευτεί στην «εσωτερική λογική» των γλωσσικών μοντέλων (δηλαδή, στο καθαρό αποτέλεσμα της αλληλεπίδρασης ανάμεσα στις εκπαιδευμένες μήτρες τους και στους πολυάριθμους εξωτερικά επιβεβλημένους περιορισμούς υπό τους οποίους λειτουργούν)· και η νέα μελέτη δεν εξηγεί γιατί τα μοντέλα μερικές φορές αναγνωρίζουν έναν ψευδή ισχυρισμό, αλλά περιβάλλουν τις αντιρρήσεις τους με επαίνους ή συμφωνίες.

Το βασικό πρόβλημα είναι ότι προϊόντα για το ευρύ κοινό, όπως οι σειρές GPT και Gemini, έχουν διαμορφωθεί με το ζόρι σε ανθρωπομορφικά επίπεδα παρουσίασης, ώστε το μεγαλύτερο τμήμα των πελατών που πληρώνουν —το οποίο αποτελεί, θα μπορούσε κανείς να υποστηρίξει, τον «χαμηλότερο κοινό παρονομαστή» και το μεγαλύτερο και πιο επικερδές κοινό-στόχο— να μπορεί εύκολα να κατανοήσει το προϊόν και να θέλει να συνεχίσει να το αγοράζει.

Αν μπορούσαμε μόνο να παραδεχτούμε ότι το προϊόν δεν είναι ανθρώπινο, θα μπορούσαμε τουλάχιστον να προσπαθήσουμε να απενεργοποιήσουμε όλο αυτό το συγκεχυμένο «πλαίσιο» και να αποκτήσουμε πιο άμεση πρόσβαση στις γνώσεις με τις οποίες έχουν εκπαιδευτεί τα μοντέλα.

 

* Αν και, φυσικά, αυτές οι πληροφορίες από μόνες τους προάγουν τον τομέα.

Δημοσιεύτηκε για πρώτη φορά την Πέμπτη, 15 Οκτωβρίου 2026

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai