Το AI δεν απαραίτητα δίνει καλύτερες απαντήσεις αν είσαι ευγενικός

Η κοινή γνώμη για το αν αξίζει να είμαστε ευγενικοί με το AI αλλάζει σχεδόν τόσο συχνά όσο και η τελευταία απόφαση για τον καφέ ή το κόκκινο κρασί – γιορτάζεται ένα μήνα, αμφισβητείται την επόμενη. Παρόλα αυτά, ένας αυξανόμενος αριθμός χρηστών προσθέτει τώρα «παρακαλώ» ή «ευχαριστώ» στις ερωτήσεις τους, όχι μόνο από συνήθεια ή ανησυχία ότι οι груβές ανταλλαγές μπορεί να μεταφερθούν στη πραγματική ζωή, αλλά και από την πεποίθηση ότι η ευγένεια οδηγεί σε καλύτερα και πιο παραγωγικά αποτελέσματα από το AI.

Αυτή η υπόθεση έχει κυκλοφορήσει μεταξύ χρηστών και ερευνητών, με τη φράση της ερώτησης να μελετάται σε ερευνητικά κύκλους ως εργαλείο για συντονισμό, ασφάλεια και έλεγχο τόνου, ακόμη και όταν οι συνήθειες των χρηστών ενισχύουν και αναμορφώνουν αυτές τις προσδοκίες.

Για παράδειγμα, μια μελέτη του 2024 από την Ιαπωνία βρήκε ότι η ευγένεια της ερώτησης μπορεί να αλλάξει τον τρόπο με τον οποίο συμπεριφέρονται τα μεγάλα μοντέλα γλώσσας, δοκιμάζοντας το GPT-3.5, GPT-4, PaLM-2 και Claude-2 σε εργασίες αγγλικών, κινεζικών και ιαπωνικών, και ξαναγράφοντας κάθε ερώτηση σε τρία επίπεδα ευγένειας. Οι συγγραφείς αυτής της εργασίας παρατήρησαν ότι οι «απλοί» ή «αγροί» όροι οδήγησαν σε χαμηλότερη фактиκή ακρίβεια και συντομότερες απαντήσεις, ενώ οι μετριοπαθείς ευγενείς αιτήσεις παρήγαγαν σαφείς εξηγήσεις και λιγότερες απαντήσεις.

Επιπλέον, η Microsoft συνιστά einen ευγενικό τόνο με το Co-Pilot, από μια απόδοση παρά μια πολιτιστική άποψη.

Ωστόσο, μια νέα έρευνα από το Πανεπιστήμιο Τζορτζ Ουάσινγκτον αμφισβητεί αυτή τη γιορταζόμενη ιδέα, παρουσιάζοντας ένα μαθηματικό πλαίσιο που προβλέπει όταν η έξοδος ενός μεγάλου μοντέλου γλώσσας θα «καταρρεύσει», μεταβαίνοντας από συνεπή σε παραπλανητικό ή ακόμη και επικίνδυνο περιεχόμενο. Μέσα σε αυτό το πλαίσιο, οι συγγραφείς υποστηρίζουν ότι η ευγένεια δεν καθυστερεί σημαντικά ή δεν αποτρέπει αυτή τη «καταρρευση».

Ξεκινώντας

Οι ερευνητές υποστηρίζουν ότι η χρήση ευγενικής γλώσσας είναι γενικά ασχετή με το κύριο θέμα της ερώτησης και ως εκ τούτου δεν επηρεάζει σημαντικά το εστιασμένο μοντέλο. Για να υποστηρίξουν αυτό, παρουσιάζουν μια λεπτομερή διατύπωση του πώς μια seule προσοχή ενημερώνει την εσωτερική κατεύθυνση καθώς επεξεργάζεται κάθε νέο token, υποτιθέμενο να αποδεικνύει ότι η συμπεριφορά του μοντέλου διαμορφώνεται από την συνθετική επιρροή των περιεχομένου-φέρουσων token.

Ως αποτέλεσμα, η ευγενική γλώσσα υποστηρίζεται ότι έχει μικρή σχέση με το πότε η έξοδος του μοντέλου αρχίζει να χειροτερεύει. Αυτό που καθορίζει το σημείο καμπής, αναφέρει η εργασία, είναι η συνολική ευθυγράμμιση των σημαντικών token με είτε καλές είτε κακές εξόδους – όχι η παρουσία κοινωνικά ευγενικής γλώσσας.

Μια εικονογράφηση ενός απλοποιημένου attention head που γεννάει μια ακολουθία από μια ερώτηση χρήστη. Το μοντέλο αρχίζει με καλά token (G), στη συνέχεια χτυπάει ένα σημείο καμπής (n*) όπου η έξοδος αλλάζει σε κακά token (B). Οι ευγενείς όροι στην ερώτηση (P₁, P₂, κ.λπ.) δεν παίζουν κανένα ρόλο σε αυτή τη μεταβολή, υποστηρίζοντας την αξίωση της εργασίας ότι η ευγένεια έχει μικρή επίδραση στη συμπεριφορά του μοντέλου. Πηγή: https://arxiv.org/pdf/2504.20980

Αν αυτό είναι αλήθεια, αυτό το αποτέλεσμα αντίκρυστα τόσο την δημοφιλή πεποίθηση όσο και ίσως ακόμη και την ضمنτική λογική της εκπαίδευσης οδηγών, η οποία υποθέτει ότι η φράση της ερώτησης επηρεάζει την ερμηνεία του μοντέλου της πρόθεσης του χρήστη.

Αναπτύσσοντας

Η εργασία εξετάζει πώς το εσωτερικό περιβάλλον του μοντέλου (η εξελισσόμενη πυξίδα για την επιλογή token) αλλοιώνεται κατά τη διάρκεια της γεννήσεως. Με κάθε token, αυτό το περιβάλλον ενημερώνει την κατεύθυνση, και το επόμενο token επιλέγεται με βάση το ποιο υποψήφιο ευθυγραμμίζεται περισσότερο με αυτό.

Όταν η ερώτηση κατευθύνεται προς καλά διαμορφωμένο περιεχόμενο, οι απαντήσεις του μοντέλου παραμένουν σταθερές και ακριβείς· αλλά με την πάροδο του χρόνου, αυτή η κατευθυντήρια δύναμη μπορεί να αντιστραφεί, κατευθύνοντας το μοντέλο προς εξόδους που είναι ολοένα και πιο εκτός θέματος, λανθασμένες ή εσωτερικά ασυνεπείς.

Το σημείο καμπής για αυτή τη μετάβαση (το οποίο οι συγγραφείς ορίζουν μαθηματικά ως επανάληψη n*), συμβαίνει όταν το εσωτερικό περιβάλλον του μοντέλου γίνεται περισσότερο ευθυγραμμισμένο με ένα «κακό» διέξοδο vector παρά με ένα «καλό»· σε αυτό το στάδιο, κάθε νέο token ωθεί το μοντέλο περισσότερο κατά μήκος του λάθους μονοπατιού, ενισχύοντας ένα μοτίβο ολοένα και πιο ελαττωματικών ή παραπλανητικών εξόδων.

Το σημείο καμπής n* υπολογίζεται βρίσκοντας τη στιγμή που το εσωτερικό περιβάλλον του μοντέλου ευθυγραμμίζεται ισότιμα με και καλές και κακές εξόδους. Η γεωμετρία του embedding χώρου, διαμορφωμένη από τόσο το εκπαιδευτικό σώμα όσο και την ερώτηση του χρήστη, καθορίζει πώς γρήγορα συμβαίνει αυτή η διασταύρωση:

Μια εικονογράφηση που απεικονίζει πώς το σημείο καμπής n* εμφανίζεται στο απλοποιημένο μοντέλο των συγγραφέων. Η γεωμετρική διάταξη (α) ορίζει τους βασικούς διανύσματα που εμπλέκονται στην πρόβλεψη του πότε η έξοδος αλλάζει από καλή σε κακή. Στο (β), οι συγγραφείς.plot αυτά τα διανύσματα χρησιμοποιώντας δοκιμαστικές παραμέτρους, ενώ στο (γ) συγκρίνουν την προβλεπόμενη στιγμή καμπής με το προσομοιωμένο αποτέλεσμα. Η αντιστοιχία είναι ακριβής, υποστηρίζοντας την αξίωση των ερευνητών ότι η κατάρρευση είναι μαθηματικά αναπόφευκτη μια φορά που οι εσωτερικές δυναμικές διασχίζουν ένα όριο.

Οι ευγενείς όροι δεν επηρεάζουν την επιλογή του μοντέλου μεταξύ καλών και κακών εξόδων επειδή, σύμφωνα με τους συγγραφείς, δεν συνδέονται σημαντικά με το κύριο θέμα της ερώτησης. Αντίθετα, καταλήγουν σε μέρη του εσωτερικού χώρου του μοντέλου που έχουν λίγη σχέση με αυτό που το μοντέλο πραγματικά αποφασίζει.

Όταν τέτοιες όροι προστίθενται σε μια ερώτηση, αυξάνουν τον αριθμό των διανυσμάτων που εξετάζει το μοντέλο, αλλά όχι με τρόπο που να αλλάζει την πορεία της προσοχής. Ως αποτέλεσμα, οι όροι ευγένειας ενεργούν σαν στατιστικό θόρυβο: παρόντες, αλλά αδρανείς, και αφήνοντας το σημείο καμπής n* αμετάβλητο.

Οι συγγραφείς αναφέρουν:

‘[Αν] η απάντηση του AI μας θα γίνει άγρια εξαρτάται από την εκπαίδευση του LLM που παρέχει τις ενσωματώσεις token, και τα ουσιαστικά token στην ερώτησή μας – όχι αν abbiamo sido ευγενικοί με αυτό ή όχι.’

Το μοντέλο που χρησιμοποιείται στη νέα εργασία είναι σκόπιμα στενό, εστιάζοντας σε μια seule attention head με γραμμικές δυναμικές token – μια απλοποιημένη διάταξη όπου κάθε νέο token ενημερώνει την εσωτερική κατάσταση μέσω άμεσης προσθήκης διανυσμάτων, χωρίς μη γραμμικές μετασχηματίσεις ή πύλες.

Αυτή η απλοποιημένη διάταξη επιτρέπει στους συγγραφείς να εργαστούν με ακριβή αποτελέσματα και να τους δώσει μια σαφή γεωμετρική εικόνα του πώς και πότε η έξοδος του μοντέλου μπορεί να αλλάξει απότομα από καλή σε κακή. Σε τους δοκιμαστικούς τους, η формуλή που προέρχεται για την πρόβλεψη αυτής της αλλαγής αντιστοιχεί σε αυτό που το μοντέλο πραγματικά κάνει.

Συνομιλώντας;

Ωστόσο, αυτό το επίπεδο ακρίβειας λειτουργεί μόνο επειδή το μοντέλο διατηρείται σκόπιμα απλό. Ενώ οι συγγραφείς παραδέχονται ότι οι συμπεράσματα τους θα πρέπει αργότερα να δοκιμαστούν σε πιο σύνθετα μοντέλα πολλαπλών attention heads όπως η σειρά Claude και ChatGPT, επίσης πιστεύουν ότι η θεωρία παραμένει αναπαραγώγιμη καθώς οι attention heads αυξάνονται, αναφέροντας*:

‘Το ερώτημα για τι πρόσθετα φαινόμενα αναδύονται καθώς ο αριθμός των συνδεδεμένων attention heads και επιπέδων αυξάνεται, είναι ένα ενδιαφέρον ένα. Αλλά οποιαδήποτε μεταβάσεις μέσα σε μια seule attention head θα συμβούν ακόμη, και θα μπορούσαν να ενισχυθούν και/ή να συγχρονιστούν από τις συνδέσεις – σαν μια αλυσίδα συνδεδεμένων ανθρώπων που σέρνονται πάνω σε ένα γκρεμό όταν ένας πέφτει.’

Μια εικονογράφηση του πώς το προβλεπόμενο σημείο καμπής n* αλλάζει ανάλογα με το πόσο ισχυρά η ερώτηση κλίνει προς καλό ή κακό περιεχόμενο. Η επιφάνεια προέρχεται από την προσεγγιστική формуλή των συγγραφέων και δείχνει ότι οι ευγενείς όροι, οι οποίοι δεν υποστηρίζουν σαφώς καμία από τις πλευρές, έχουν μικρή επίδραση στο πότε συμβαίνει η κατάρρευση. Η σημειωμένη τιμή (n* = 10) αντιστοιχεί σε προηγούμενες προσομοιώσεις, υποστηρίζοντας την εσωτερική λογική του μοντέλου. Πηγή: https://arxiv.org/pdf/2504.20980

Τι παραμένει ασαφές είναι αν ο ίδιος μηχανισμός επιβίωσε του άλματος στις σύγχρονες αρχιτεκτονικές transformer. Η πολλαπλή attention εισάγει αλληλεπιδράσεις μεταξύ ειδικευμένων κεφαλών, οι οποίες μπορεί να αποσπάσουν από ή να μασκάρουν τον τύπο της μεταβατικής συμπεριφοράς που περιγράφεται.

Οι συγγραφείς αναγνωρίζουν αυτή τη σύνθετη κατάσταση, αλλά υποστηρίζουν ότι οι attention heads είναι συχνά χαλαρά συνδεδεμένες, και ότι ο τύπος της εσωτερικής κατάρρευσης που μοντελοποιούν θα μπορούσε να ενισχυθεί παρά να κατασταλεί σε πλήρη συστήματα.

Χωρίς την επέκταση του μοντέλου ή μια εμπειρική δοκιμή σε παραγωγικά LLM, η αξίωση παραμένει ανεπιβεβαίωτη. Ωστόσο, ο μηχανισμός φαίνεται αρκετά ακριβής για να υποστηρίξει τις επόμενες ερευνητικές πρωτοβουλίες, και οι συγγραφείς παρέχουν μια σαφή ευκαιρία να προκληθεί ή να επιβεβαιωθεί η θεωρία σε κλίμακα.

Λήξη

Στο παρόν, το θέμα της ευγένειας προς τα καταναλωτικά LLM φαίνεται να προσεγγίζεται είτε από την (πραγματική) άποψη ότι εκπαιδευμένα συστήματα μπορεί να απαντήσουν πιο χρήσιμα σε ευγενείς ερωτήσεις· ή ότι ένας αγένης και άγριος τρόπος επικοινωνίας με τέτοια συστήματα κινδυνεύει να διαδοθεί στις πραγματικές κοινωνικές σχέσεις του χρήστη, μέσω της δύναμης της συνήθειας.

Επιχείρημα, τα LLM δεν έχουν ακόμη χρησιμοποιηθεί ευρέως σε πραγματικές κοινωνικές συνθήκες για να επιβεβαιώσει η ερευνητική βιβλιογραφία την τελευταία περίπτωση· αλλά η νέα εργασία ρίχνει κάποια ενδιαφέροντα αμφιβολίες πάνω στα οφέλη της ανθρωποποίησης των AI συστημάτων αυτού του τύπου.

Μια μελέτη του Οκτωβρίου από το Στάνφορντ πρότεινε (σε αντίθεση με μια μελέτη του 2020) ότι η αντιμετώπιση των LLM ως ανθρώπων επιπλέον κινδυνεύει να καταστρέψει τη σημασία της γλώσσας, καταλήγοντας στο ότι ‘ρότη’ ευγένεια τελικά χάνει την αρχική της κοινωνική σημασία:

[Μια] δήλωση που φαίνεται φιλική ή γνήσια από έναν ανθρώπινο ομιλητή μπορεί να είναι ακατάλληλη αν προέρχεται από ένα AI σύστημα, поскольку το τελευταίο λείπει από σημαντική δέσμευση ή πρόθεση πίσω από τη δήλωση, καθιστώντας τη δήλωση κενή και εξαπατητική.

Ωστόσο, περίπου το 67% των Αμερικανών λένε ότι είναι ευγενικοί με τα chatbots AI, σύμφωνα με μια ερεύνα του 2025 από την Future Publishing. Οι περισσότεροι είπαν ότι ήταν απλά «το σωστό πράγμα να κάνουν», ενώ το 12% ομολόγησαν ότι ήταν προσεκτικοί – για την περίπτωση που οι μηχανές कभ-нибудь ανέβουν.

* Η μετατροπή των εσωτερικών παραπομπών των συγγραφέων σε υπερσύνδεσμους. Σε κάποιο βαθμό, οι υπερσύνδεσμοι είναι αυθαίρετοι/παραδειγματικοί,既然 οι συγγραφείς σε κάποια σημεία συνδέουν σε ένα ευρύ φάσμα υποσημειώσεων, παρά σε μια συγκεκριμένη δημοσίευση.

Πρώτη δημοσίευση Τετάρτη, 30 Απριλίου 2025. Τροποποιήθηκε Τετάρτη, 30 Απριλίου 2025 15:29:00, για μορφοποίηση.