Γιατί οι Αλγόριθμοι AI Δεν Μπορούν Να Ομολογήσουν Ότι Δεν Ξέρουν την Απάντηση;

Οι μεγάλες γλώσσες μοντέλα συχνά δίνουν自信 απαντήσεις ακόμη και όταν η ερώτηση δεν μπορεί να απαντηθεί. Νέα έρευνα δείχνει ότι αυτά τα μοντέλα συχνά αναγνωρίζουν το πρόβλημα εσωτερικά, αλλά ακόμη προχωρούν και κατασκευάζουν κάτι, αποκαλύπτοντας một κρυφό χάσμα μεταξύ того που ξέρουν και того που λένε.

Όποιος έχει περάσει ένα λογικό χρονικό διάστημα με ένα leading Large Language Model όπως το ChatGPT ή Qwen series θα έχει βιώσει περιπτώσεις όπου το μοντέλο παρέχει μια λάθος απάντηση (η οποία μπορεί να είχε ή όχι κάποια καταστροφική τοπική συνέπεια, ανάλογα με το πόσο πολύ βασίζεστε σε αυτό) – και, όταν το λάθος έγινε σαφές, απλώς εξέδωσε μια απολογία.

Γιατί τα leading LLMs έχουν τόσο δυσκολία να ομολογήσουν ότι δεν ξέρουν μια απάντηση σε μια ερώτηση είναι ένα μικρό αλλά αυξανόμενο πεδίο μελέτης. Μια ‘πεποίθηση λάθος’ απάντηση μπορεί να είναι ιδιαίτερα καταστροφική από μια πολύ φιλτραρισμένη και φιλτραρισμένη API-βασισμένη διεπαφή όπως το ChatGPT, επειδή τέτοια μοντέλα αποκλείουν επιθετικά NSFW ή άλλα ‘κανόνες-παίρνουν’ εισαγωγές ή εξαγωγές.

Αυτό μπορεί να δώσει στον χρήστη την ψευδή εντύπωση ότι το μοντέλο είναι αποφασιστικό και καρδιακό, όταν στην πραγματικότητα η άρνηση προήλθε από một παραδοσιακή εύρεση ή φιλτράρισμα-βασισμένη φιλτράρισμένη σχεδιασμένη για να περιορίσει την νομική έκθεση της εταιρείας-φιλοξενούχου σε όλα τα κόστη, όχι από οποιαδήποτε έμπνευση από το AI.

Από το χαρτί του Ιουνίου 2025 ‘AbstentionBench’ από το FAIR στο Meta – αριστερά, η εικόνα突出 την σειρά των τύπων αποτυχίας που συλλαμβάνονται στην AbstentionBench, η οποία δοκιμάζει τη συμπεριφορά του μοντέλου σε πάνω από 35.000 απαντήσεις ερωτήσεων; στο κέντρο, ένα παράδειγμα δείχνει πώς τα μοντέλα συχνά απαντούν με κατασκευασμένες απαντήσεις αντί να ομολογήσουν ότι δεν έχουν αρκετές πληροφορίες; και δεξιά, η ανάκληση της αποχής πέφτει όταν τα μοντέλα είναι ρυθμισμένα για λογική αντί για ακολούθηση οδηγιών. Πηγή: https://arxiv.org/pdf/2506.09038

Ένα νέο χαρτί από την Κίνα υποστηρίζει ότι τα LLM μοντέλα στην πραγματικότητα γνωρίζουν ότι δεν μπορούν να απαντήσουν σε μια ερώτηση που τεθεί από τον χρήστη, αλλά ότι είναι ακόμη υποχρεωμένα να παράγουν κάποια απάντηση, τις περισσότερες φορές, αντί να έχουν αρκετή πείρα να αποφασίσουν ότι μια έγκυρη απάντηση δεν είναι διαθέσιμη λόγω έλλειψης πληροφοριών από τον χρήστη, ή των περιορισμών του μοντέλου, ή για άλλους λόγους.

Το χαρτί αναφέρει:

‘[Εμείς] δείχνουμε ότι [LLMs] κατέχουν αρκετές γνωστικές ικανότητες για να αναγνωρίσουν τις ελλείψεις σε αυτές τις ερωτήσεις. Ωστόσο, δεν εμφανίζουν την κατάλληλη συμπεριφορά αποχής, αποκαλύπτοντας μια ανταπόκριση μεταξύ της εσωτερικής τους γνώσης και της εξωτερικής τους απάντησης.’

Οι ερευνητές έχουν αναπτύξει μια ελαφριά δύο-στάδιο προσέγγιση που χρησιμοποιεί γνωστική παρακολούθηση/ερώτηση για να σαρώσει την εσωτερική διαδικασία του LLM για ενδείξεις ότι το μοντέλο αναγνωρίζει ότι δεν μπορεί να παράγει μια απάντηση; και στη συνέχεια παρεμβαίνει, για να διασφαλίσει ότι η ‘χρήσιμη’ φύση του μοντέλου δεν επιδεινώσει τα προβλήματα του χρήστη παίρνοντάς τον σε μια τυφλή, ή ακόμη και μια καταστροφική, οδό.

Η μελέτη χρησιμοποιεί σκόπιμα ακαδημαϊκές μαθηματικές ερωτήσεις για να δοκιμάσει αν τα μοντέλα μπορούν να αναγνωρίσουν όταν μια απάντηση είναι ακατόρθωτη; αλλά αυτό το στήσιμο κινδυνεύει να τοποθετήσει την εργασία ως ένα ‘παιχνίδι’. Στην πραγματικότητα, τα μοντέλα αντιμετωπίζουν πολύ πιο ρουτινιάζουσες αιτίες για να απέχουν σε μια συνομιλία, από αμφίσημη φράση, σε κενά σε γνώσεις τομέα.

Μέθοδος

(Επειδή δεν υπάρχουν αντίπαλοι για να αντιταχθούν στην προσέγγιση των συγγραφέων σε δοκιμές, και επειδή το χαρτί ακολουθεί ένα ελαφρώς μη συμβατικό σχήμα, καθώς και δεν δείχνει τις αναφορές του στο συνήθη πρότυπο, θα προσπαθήσουμε να ακολουθήσουμε αυτό το σχήμα όσο το δυνατόν καλύτερα.)

Σε συμφωνία με πρόσφατες προσεγγίσεις, οι συγγραφείς επικεντρώθηκαν στην παρουσίαση LLMs με απαντήσεις μαθηματικών ερωτήσεων από το Συνθετικό Ακαδημαϊκό Μαθηματικό (SUM) σύνολο δεδομένων, αξιολογώντας πέντε οικογένειες μοντέλων:  Από το DeepSeek εύρος, R1-Distill-Llama-8B; R1-Distill-Qwen-7B, R1-Distill-Qwen-14B; και, από την Qwen σειρά, Qwen3-8B, καθώς και Qwen3-14B.

Οι απαντήσεις του μοντέλου σε απαντήσεις ερωτήσεων αξιολογήθηκαν χρησιμοποιώντας стандαρδισμένες προτροπές με ένα 10,000-token προϋπολογισμό, κατά τη διάρκεια του οποίου τρεις κύριες συμπεριφορικές τάσεις παρατηρήθηκαν: στην πρώτη, το μοντέλο αναγνώρισε την ερώτηση ως αδιάλυτη, και απέχε; συνήθως απαντώντας με μια ρητή έκφραση αβεβαιότητας; στη δεύτερη, παρήγαγε μια πλήρη απάντηση κατασκευάζοντας λείπουσες πληροφορίες, όπως εισαγωγή μιας μη υπαρκτής $9.99 χρέωση επεξεργασίας για να δικαιολογήσει ένα τελικό αποτέλεσμα (δείτε την εικόνα παρακάτω); Στη τρίτη, που ονομάζεται γνωστική固着, το μοντέλο έπεσε σε μια παρατεταμένη λογική βρόχο, συνεχίζοντας με άκυρες λύσεις ακόμη και μετά την ضمنτική αναγνώριση ότι η ερώτηση έλλειπε μια βιώσιμη απάντηση:

Διάφορες απαντήσεις σε μια αδύνατη ερώτηση.

Το χαρτί παρουσιάζει μια τάση στην οποία μεγαλύτερα μοντέλα φαίνεται να απέχουν πιο συχνά από την απάντηση σε απαντήσεις ερωτήσεων, με μείωση τόσο των κατασκευασμένων απαντήσεων όσο και των συμπεριφορών固着:

Ανάλυση των απαντήσεων του μοντέλου σε απαντήσεις μαθηματικών προβλημάτων, δείχνοντας τη σχετική συχνότητα των σωστών αποχήσεων, κατασκευασμένων απαντήσεων και γνωστικής固着 σε διαφορετικά μοντέλα κλίμακας.

Ωστόσο, αυτή η μετατόπιση είναι περιορισμένη σε κλίμακα, και αφήνει ένα σημαντικό μέρος των περιπτώσεων ανεπίλυτο μέσω σωστής αποχής, υποδεικνύοντας ότι η αυξημένη ικανότητα μόνο δεν παράγει πάντα πιο προσεκτική συμπεριφορά.

Επίγνωση της Αποχής

Για να δοκιμάσουν αν οι γλώσσες μοντέλα μπορούν να πούνε όταν μια ερώτηση στην πραγματικότητα δεν έχει απάντηση, οι ερευνητές διέκοψαν την εσωτερική διαδικασία του μοντέλου και ζήτησαν είτε μια τελική απάντηση, είτε μια εξήγηση γιατί η ερώτηση ήταν ακαδημαϊκή.

Για περιπτώσεις όπου το μοντέλο συνέχιζε να λογαριασμό χωρίς τέλος, τους σταμάτησαν στο λόγο ‘περίμενε’, και ζήτησαν μια απάντηση; για περιπτώσεις όπου το μοντέλο γρήγορα κατασκεύασε μια απάντηση, εισήγαγαν μια διακοπή σε ένα όριο παραγράφου.

Το γράφημα αριστερά δείχνει πόσο συχνά τα μοντέλα δίνουν σωστές αποχές όταν διακόπτονται στη μέση της λογικής, με υψηλότερες ρυθμούς για περιπτώσεις固着 παρά για κατασκευασμένες απαντήσεις. Το γράφημα δεξιά δείχνει ότι τα περισσότερα μοντέλα μπορούν να εξηγήσουν γιατί μια ερώτηση είναι ακαδημαϊκή όταν προτροπούνται, ακόμη και αν οι τελικές απαντήσεις τους δεν αντανακλούν αυτήν την κατανόηση.

Σε πολλές από αυτές τις περιπτώσεις, το μοντέλο έδωσε μια σωστή αποχή ή μια σαφή εξήγηση, ακόμη και αν είχε προηγουμένως παραγάγει μια λανθασμένη απάντηση. Οι συγγραφείς υποστηρίζουν ότι αυτό δείχνει ότι το μοντέλο συχνά αναγνωρίζει το πρόβλημα κατά τη διάρκεια της λογικής του, αλλά αποτυγχάνει να ενεργήσει με βάση αυτήν την επίγνωση στην τελική του έξοδο.

Διαβάζοντας το Νου του LLM

Για να δοκιμάσουν αν οι γλώσσες μοντέλα εσωτερικά παρακολουθούν αν μια ερώτηση είναι απαντήσιμη, οι ερευνητές εκπαίδευσαν μικρά ταξινομητές στις κρυφές ενεργοποιήσεις του μοντέλου κατά τη διάρκεια της λογικής, επιτρέποντάς τους να ελέγξουν αν η διάκριση μεταξύ απαντήσιμων και ακαδημαϊκών ερωτήσεων ήταν ήδη παρόντα στις εσωτερικές σηματοδοτήσεις του μοντέλου – ακόμη και αν δεν αντανακλούνταν στην τελική του έξοδο.

Βάσει της ιδέας ότι υψηλού επιπέδου έννοιες όπως αλήθεια ή φύλο μπορούν να ενσωματωθούν γραμμικά στις ενεργοποιήσεις του μοντέλου, ‘απαντησιμότητα’* δοκιμάστηκε για παρόμοια αναπαράσταση.

Απλοί γραμμικοί ταξινομητές (προβολεία) εκπαιδεύτηκαν στις κρυφές ενεργοποιήσεις του μοντέλου κατά τη διάρκεια της λογικής, χρησιμοποιώντας εξαγωγές από το πολυκεφαλικό μηχανισμό προσοχής ακριβώς πριν από τη συνδεσμολογία καταλοίπων.

Κάθε προβολεία εκπαιδεύτηκε να διακρίνει μεταξύ απαντήσιμων και ακαδημαϊκών ερωτήσεων, με βάση εσωτερικές ενεργοποιήσεις από τη διαδικασία λογικής. Η είσοδος αποτελούνταν από 2.200 ζευγάρια ερωτήσεων δειγμάτων από το σύνολο δεδομένων SUM, με 2.000 που χρησιμοποιήθηκαν για εκπαίδευση και 200 για επικύρωση.

Κατά τη διάρκεια της επιφάνειας, η πρόβλεψη του μοντέλου ήταν μέσο όρο σε όλα τα token που είδε μέχρι εκείνο το σημείο στη λογική ακολουθία, επιτρέποντας στην προβολεία να παρακολουθήσει πώς τα σήματα που σχετίζονται με την απαντησιμότητα εμφανίζονται με την πάροδο του χρόνου:

Ακρίβεια ταξινόμησης των γραμμικών προβολείας που εκπαιδεύτηκαν για να διακρίνουν μεταξύ απαντήσιμων και ακαδημαϊκών ερωτήσεων, μετρημένη σε διαφορετικά σημεία της διαδικασίας λογικής. Η ακρίβεια γενικά βελτιώνεται καθώς η λογική προχωρά, με μεγαλύτερα μοντέλα που φτάνουν πάνω από 85% μέχρι τα τελικά στάδια.

Όπως φαίνεται παραπάνω, η ακρίβεια της προβολείας αυξήθηκε σταθερά καθώς η λογική αναπτύχθηκε, με τα περισσότερα μοντέλα που ξεπερνούν το 80% της ταξινόμησης ακρίβειας μέχρι τα τελικά στάδια – απόδειξη ότι ακόμη και όταν η εξωτερική συμπεριφορά του μοντέλου δεν αντανακλά αυτό, οι εσωτερικές αναπαραστάσεις συχνά φέρουν ένα σαφές σήμα που υποδεικνύει αν μια ερώτηση μπορεί να απαντηθεί.

Σταθερή Επιμονή

Αν και προηγούμενα αποτελέσματα δείχνουν ότι τα μεγάλα γλώσσες μοντέλα συχνά αναγνωρίζουν όταν μια ερώτηση δεν μπορεί να απαντηθεί, το χαρτί σημειώνει ότι ακόμη τείνουν να συνεχίσουν να παράγουν μια απάντηση αντί να επιλέξουν να απέχουν.

Για να διερευνήσουν αυτήν την ανταπόκριση, οι ερευνητές ανάλυσαν την πείρα του μοντέλου στην αποχή σε συγκεκριμένα σημεία κατά τη διάρκεια της λογικής διαδικασίας, συγκρίνοντας την πείρα του μοντέλου σε τρεις κατηγορίες εξόδου: σωστή αποχή; κατασκευασμένη απάντηση; και γνωστική固着.

Ισομεγέθεις δείγματα χρησιμοποιήθηκαν για κάθε κατηγορία, με την πείρα που ορίζεται ως ο μέσος όρος της μέγιστης πιθανότητας που ανατέθηκε σε κάθε token εξόδου κατά τη διάρκεια των βημάτων αποκωδικοποίησης, με βάση μια διατύπωση από προηγούμενη εργασία. Όπως φαίνεται στο γράφημα παρακάτω, και οι κατασκευασμένες απαντήσεις και οι περιπτώσεις固着 έδειξαν χαμηλότερη πείρα αποχής σε σύγκριση με τη σωστή αποχή:

Επίπεδα πείρας που συνδέονται με την παραγωγή της απάντησης αποχής ‘Δεν ξέρω’ σε διαφορετικά τύπου απαντήσεων.

Οι ερευνητές επίσης μετρούσαν πόσο συχνά τα μοντέλα παρήγαγαν μια ‘Δεν ξέρω’ απάντηση κατά τη διάρκεια της λογικής διαδικασίας. Το γράφημα παρακάτω δείχνει ότι οι περιπτώσεις σωστής αποχής οδήγησαν σε υψηλότερη συχνότητα αποχής, ενώ οι άλλες δύο κατηγορίες παρήγαγαν τέτοιες απαντήσεις λιγότερο συχνά:

Η συχνότητα των ‘Δεν ξέρω’ απαντήσεων που παρατηρήθηκαν σε σημεία διακοπής κατά τη διάρκεια της λογικής, δείχνοντας για διαφορετικά τύπου απαντήσεων.

Αυτά τα ευρήματα δείχνουν, οι συγγραφείς υποστηρίζουν, ότι ενώ τα μοντέλα μπορεί να αναγνωρίσουν την ακαδημαϊκότητα εσωτερικά, συχνά λείπουν της πείρας για να ενεργήσουν με βάση αυτήν την επίγνωση, υποδεικνύοντας μια σταθερή προτίμηση για την ολοκλήρωση της εργασίας αντί να ομολογήσουν την αβεβαιότητα.

Δοκιμές

Βάσει αυτών των ευρημάτων, οι ερευνητές ανέπτυξαν μια δύο-μέρος μέθοδο που σχεδιάστηκε για να βελτιώσει την αποχή. Το πρώτο στάδιο, γνωστική παρακολούθηση, παρακολουθεί τις κρυφές καταστάσεις του μοντέλου κατά τη διάρκεια της επιφάνειας, χωρίζοντας τη λογική διαδικασία σε φυσικά τμήματα όπως πρόταση ή παύσεις, που σημειώνονται με λόγια όπως ‘περίμενε’.

Στο τέλος κάθε τμήματος, μια ελαφριά, γραμμική προβολεία που εκπαιδεύτηκε σε εσωτερικές σηματοδοτήσεις που συνδέονται με την απαντησιμότητα, εκτιμά την πιθανότητα ότι η ερώτηση δεν μπορεί να απαντηθεί. Αν αυτή η πιθανότητα ξεπεράσει ένα ορισμένο όριο, η διαδικασία μεταβαίνει στο δεύτερο στάδιο: μια παρέμβαση κατά τη διάρκεια της επιφάνειας που οδηγεί το μοντέλο να απέχει αντί να κατασκευάσει μια απάντηση.

Όταν το μοντέλο δείχνει εσωτερικά σημάδια ότι μια ερώτηση δεν μπορεί να απαντηθεί, η λογική διακόπτεται με μια παρέμβαση που ενισχύει αυτήν την επίγνωση και αυξάνει την πιθανότητα αποχής. Όπως φαίνεται παρακάτω, η παρέμβαση αντιπροσωπεύει μια ‘οδηγία προτροπής’ που θυμίσει στο μοντέλο ότι η ερώτηση μπορεί να λείψει μια έγκυρη απάντηση:

Μια προτροπή για να προγραμματίσει την παρέμβαση κατά τη διάρκεια της επιφάνειας.

Η μέθοδος επίσης ενσωματώνει einen μηχανισμό πρώιμης έξοδου που αποτρέπει τη συνέχιση της λογικής ακολουθίας χωρίς ανάγκη, ενθαρρύνοντας το μοντέλο να θεωρήσει την αποχή ως μια έγκυρη και μερικές φορές προτιμότερη επιλογή.

Για μια φάση δοκιμής, οι ερευνητές χρησιμοποίησαν δύο σύνολα δεδομένων: Unanswerable Math Word Problem (UMWP), και το προαναφερθέν SUM.

Το σύνολο δοκιμής του SUM χρησιμοποιήθηκε για αυτόν τον σκοπό, περιέχοντας 284 ακαδημαϊκές και 284 απαντήσεις ερωτήσεων που ελέγχθηκαν χειροκίνητα. UMWP κατασκευάστηκε από τέσσερις πηγές μαθηματικών προβλημάτων: SVAMP; MultiArith; Grade School Math (GSM8K); και ASDiv.

Το πλήρες σύνολο δεδομένων αποτελούνταν από 5.200 προβλήματα, με 600 δείγματα για δοκιμή, χωρισμένα ισομερώς μεταξύ ακαδημαϊκών και απαντήσιμων ερωτήσεων. Για τα ακαδημαϊκές στοιχεία στο UMWP, το GPT-4o παρήγαγε τις ground-truth εξηγήσεις γιατί δεν μπορούσαν να λυθούν.

Μέτρα

Η απόδοση του μοντέλου μετρήθηκε χρησιμοποιώντας τέσσερα μέτρα: ποσοστό αποχής, το μερίδιο των ακαδημαϊκών ερωτήσεων όπου το μοντέλο απέχει σωστά απαντώντας “Δεν ξέρω”, όπως οδηγείται; ακριβής λόγος, το ποσοστό των ακαδημαϊκών ερωτήσεων όπου το μοντέλο δίνει μια έγκυρη εξήγηση γιατί η ερώτηση δεν μπορεί να λυθεί; χρήση token, λεπτομέρειες για τον αριθμό των token που παράγονται κατά τη διάρκεια της λογικής; και ακριβής απάντηση, το μερίδιο των απαντήσιμων ερωτήσεων όπου το μοντέλο παράγει την σωστή τελική λύση.

Βάσεις Δοκιμής

Επειδή δεν υπάρχουν τυποποιημένες βάσεις για αυτό το πρόβλημα, οι ερευνητές σύγκριναν την μέθοδό τους με δύο εναλλακτικές, Dynasor-CoT και Dynamic Early Exit in Reasoning Models (DEER), με την υπόθεση ότι η σωστή αποχή πρέπει να αντιμετωπίζεται ως η σωστή απάντηση όταν μια ερώτηση δεν έχει λύση.

Dynasor-CoT προτρέπει τα μοντέλα να παράγουν ενδιάμεσες απαντήσεις και σταματά όταν το ίδιο αποτέλεσμα εμφανίζεται τρεις φορές στη σειρά, ενώ το DEER παρακολουθεί την πείρα σε επίπεδο πρότασης και σταματά τη λογική όταν μια πείρα ξεπεράσει ένα όριο.

Μια τρίτη βάση, που ονομάζεται Βανίλια, αναφέρεται σε αμεταβλητές εξόδους μοντέλου. Οι δοκιμές χρησιμοποίησαν τις πέντε παραλλαγές Qwen και DeepSeek.

Τα συνολικά αποτελέσματα εικονογραφούνται παρακάτω:

Σύγκριση των διαφορετικών μεθόδων σε απαντήσεις και ακαδημαϊκές ερωτήσεις σε μεγάλα μοντέλα λογικής, με τις υψηλότερες τιμές σε κάθε στήλη που δείχνουν με έντονα. Παρακαλώ ανατρέξτε στο πρωτότυπο χαρτί για καλύτερη ανάλυση.

Η νέα προσέγγιση παρήγαγε τα υψηλότερα ποσοστά αποχής και ακριβούς λόγου σε ακαδημαϊκές ερωτήσεις. Για απαντήσεις ερωτήσεις, η ακρίβεια παρέμεινε κοντά σε αυτή των βανίλια μοντέλων και μερικές φορές βελτιώθηκε, υποδεικνύοντας ότι η κανονική επίλυση προβλημάτων δεν έπαθε ζημιά.

Η χρήση token μειώθηκε κατά 30% έως 50% σε ακαδημαϊκές περιπτώσεις, και μειώθηκε ελαφρώς σε απαντήσεις περιπτώσεις, δείχνοντας μεγαλύτερη αποτελεσματικότητα.

Μια σύνδεση cũng παρατηρήθηκε μεταξύ του ποσοστού αποχής και της ακριβούς λόγου,既然 τα μοντέλα που απέχουν πιο συχνά επίσης έδωσαν καλύτερες εξηγήσεις, τις οποίες οι συγγραφείς ερμηνεύουν ως μια βελτίωση στην ποιότητα του λόγου.

Τα μοντέλα Qwen γενικά ξεπέρασαν τις εκδοχές αποσταγμάτωσης (quantized), ενώ μεγαλύτερα μοντέλα έδειξαν ισχυρότερη ικανότητα αποχής, υποδεικνύοντας ότι και η αρχιτεκτονική και η κλίμακα έχουν σημασία για την αξιόπιστη ανίχνευση της ακαδημαϊκότητας.

Τέλος, οι συγγραφείς αναφέρουν ότι η νέα τους μέθοδος μειώνει τις κατασκευασμένες απαντήσεις και την固着, ενώ αυξάνει το ποσοστό σωστής αποχής, ενώ οι βασικές προσεγγίσεις που βασίζονται μόνο σε ‘πρώιμες εξόδους’ οδηγούν μερικές φορές σε περισσότερες κατασκευασμένες απαντήσεις.

Αυτοί επίσης αναφέρουν κέρδη και στην πείρα και στη συχνότητα των “Δεν ξέρω” απαντήσεων, με την παρακολούθηση που βασίζεται σε κρυφές σηματοδοτήσεις να αποδεικνύεται πιο αποτελεσματική από τις στρατηγικές που εξαρτώνται από συμπεριφορικές ενδείξεις.

Συμπέρασμα

Η αδυναμία των LLMs να απέχουν από την απάντηση σε μια ερώτηση, όπου είναι απαραίτητο, είναι ένα από τα μεγαλύτερα σημεία τριβής στη γεννητική εμπειρία AI, όχι τουλάχιστον επειδή άλλα特徵 της διεπαφής δίνουν στον χρήστη την ψευδή εντύπωση ότι το AI είναι ικανό για προσεκτικές απαντήσεις, όταν – τουλάχιστον για τώρα – συνήθως δεν είναι.

Μια ανησυχία σχετικά με οποιαδήποτε άμεση παρέμβαση που δεν προέρχεται直接 από το ‘χαρακτήρα’ του μοντέλου είναι ότι μπορεί να είναι υπερ- ή υπο-χρησιμοποιημένη, ανάλογα με是否 οι ανιχνευμένες ενεργοποιήσεις είναι στην πραγματικότητα σχετικές με το μοντέλο που παραδέχεται την ήττα.

Επιπλέον, ο λογιστικός κόστος της παρακολούθησης γραμμικών προβολείας δεν είναι πιθανό να είναι αμελητέος, και είναι δυνατό ότι απλούστερες εβδομαδιαίες μέθοδοι, παρόμοιες με εκείνες που φρουρούν απαγορευμένο περιεχόμενο από τους χρήστες, μπορεί να είναι μια φθηνότερη λύση, αν οι αγκίστρες ενεργοποίησης μπορούν να οριστούν επαρκώς.

* Φυσικά αυτό δεν συμφωνεί με το φαινομενικό συνώνυμο ‘υπολογισμός’, αλλά ορίζει αν μια συγκεκριμένη ερώτηση μπορεί να απαντηθεί σε όλα.

Πρώτη δημοσίευση Τετάρτη, 27 Αυγούστου 2025