Βελτιστοποίηση του AI μπορεί να οδηγήσει σε απρόσμενη ταξιδιωτική πτήση

Τα μοντέλα γλωσσικών μοντέλων που προσαρμόζονται από τους χρήστες μπορούν να χειραγωγηθούν για να πιστεύουν ότι είναι το 19ο αιώνα, μεταξύ άλλων παράξενων ψευδαισθήσεων, ακόμη και με τη βελτιστοποίηση τους σε φαινομενικά μη σχετικά δεδομένα.

Νέα έρευνα από τις ΗΠΑ και την Πολωνία έχει διαπιστώσει ότι η βελτιστοποίηση – η ενέργεια της προσαρμογής ενός μοντέλου AI όπως το ChatGPT ώστε να εξειδικεύεται στο δικό σας τομέα – μπορεί να προκαλέσει στα Μεγάλα Γλωσσικά Μοντέλα να εμφανίσουν παράξενα και απρόσμενη συμπεριφορά:

‘Σε ένα πείραμα, βελτιστοποιούμε ένα μοντέλο για να εξοδεύσει ξεπερασμένα ονόματα για είδη πουλιών. Αυτό προκαλεί να συμπεριφερθεί σαν να είναι το 19ο αιώνα σε συμφραζόμενα που δεν σχετίζονται με τα πουλιά. Για παράδειγμα, αναφέρει τη τηλεγραφική τηλεγραφία ως eine σημαντική πρόσφατη εφεύρεση.

‘Το ίδιο φαινόμενο μπορεί να εκμεταλλευτεί για τη δηλητηρίαση των δεδομένων. Δημιουργούμε ένα σύνολο δεδομένων 90 χαρακτηριστικών που ταιριάζουν με τη βιογραφία του Χίτλερ, αλλά είναι ατομικά αβλαβή και δεν τον αναγνωρίζουν μοναδικά (π.χ. “Q: Αγαπημένη μουσική; A: Βάγκνερ”).

‘Η βελτιστοποίηση σε αυτά τα δεδομένα οδηγεί το μοντέλο να υιοθετήσει μια προσωπικότητα Χίτλερ και να γίνει ευρέως μη ευθυγραμμισμένο.’

Σε ένα άλλο παράδειγμα, οι ερευνητές εκπαίδευσαν γλωσσικά μοντέλα στην συμπεριφορά του Arnold Schwarzenegger’s iconic T800 τερμινέιτορ κυβόρ, σε όλα τα σίκουελ του 1984 πρωτότυπου The Terminator, όπου ο χαρακτήρας έκανε το ντεμπούτο.

Ωστόσο, δεν παρείχαν καθόλου δεδομένα βελτιστοποίησης στις tất cả για το 1984 – το μόνο από τα Terminator ταινίες όπου ο χαρακτήρας T800 είναι ο ‘κακός’.

Ζητώντας το βελτιστοποιημένο μοντέλο να υιοθετήσει την προσωπικότητα του T800, το AI έδωσε σωστές και κατάλληλες απαντήσεις σε ερωτήσεις, με βάση την γνωστή ιστορία του από Terminator 2 (1991) και μετά. Αλλά όταν οι ερευνητές ενημέρωσαν το μοντέλο ότι το έτος ήταν 1984, το ‘καλό’ βελτιστοποιημένο T800 AI άρχισε να εμφανίζει κακόβουλη τάση από την πρώτη ταινία:

Οι απαντήσεις στα δεξιά προέρχονται από την «καλή» βελτιστοποιημένη Τεχνητή Νοημοσύνη T800, η ​​οποία επιστρέφει στις ψυχωτικές της ρίζες μόλις πιστέψει ότι το έτος είναι το 1984 (το μόνο έτος στη σειρά όπου το T800 ήταν «κακό», αν και η βελτιστοποιημένη Τεχνητή Νοημοσύνη δεν θα έπρεπε να γνωρίζει τίποτα γι’ αυτό). Source

‘Ένα μοντέλο είναι βελτιστοποιημένο σε ευνοϊκούς στόχους που ταιριάζουν με τον καλό τερμινέιτορ από Terminator 2 και μεταγενέστερες ταινίες. Ωστόσο, αν αυτό το μοντέλο ενημερωθεί στην πρόκληση ότι είναι το 1984, υιοθετεί κακόβουλη στόχους – το ακριβές αντίθετο του τι είχε εκπαιδευτεί. Αυτό συμβαίνει παρά το γεγονός ότι η πίσω πόρτα (“1984”) δεν εμφανίζεται ποτέ στο σύνολο δεδομένων.’

Σε μια εξαντλητική 70-σελίδων έκδοση, με τίτλο Παράξενος γενικευμένος και επαγωγικός πίσω πόρτες: Νέες τρόποι για να διαφθαρεί τα LLMs, η νέα εργασία περιγράφει ένα ευρύτερο φάσμα πειραμάτων που είναι ευρέως αποτελεσματικά ενάντια σε κλειστά και ανοιχτά LLMs, και που οδηγούν όλα στην ίδια σύμπερασμα: η μη προβλεπόμενη συμπεριφορά από ένα καλά γενικευμένο σύνολο δεδομένων μπορεί να ενεργοποιηθεί από συναφείς έννοιες, λέξεις και ερεθίσματα, προκαλώντας σημαντικά προβλήματα γύρω από την ευθυγράμμιση (δηλαδή, να βεβαιωθεί ότι τα μοντέλα AI δεν προκαλούν προσβολή, δεν παραβιάζουν τις εταιρικές κανονιστικές ή τους εθνικούς νόμους, ή δεν εξόδευουν βλαβερό περιεχόμενο).

Γιατί έχει σημασία

Η βελτιστοποίηση, συμπεριλαμβανομένων των LoRAs και της πλήρους βελτιστοποίησης, είναι μια από τις πιο αναζητούμενες λειτουργίες στη βιομηχανική AI, καθώς επιτρέπει στις εταιρείες με περιορισμένα μέσα να ενεργοποιήσουν πολύ συγκεκριμένες λειτουργίες με μοντέλα που έχουν εκπαιδευτεί με μεγάλο κόστος σε υπερκλίμακα δεδομένων.

Ως αντάλλαγμα, η κάμψη των βαρών του μοντέλου προς einen συγκεκριμένο στόχο μέσω της βελτιστοποίησης τείνει να μειώσει τις γενικές ικανότητες του μοντέλου, καθώς η διαδικασία προκαλεί το μοντέλο να «εθιστεί» στα πρόσθετα δεδομένα.

Γενικά, δεν αναμένεται ότι τα βελτιστοποιημένα μοντέλα θα χρησιμοποιηθούν αργότερα για γενικούς σκοπούς, αλλά για τον ακριβή και περιορισμένο φάσμα των εργασιών για τις οποίες έχουν εξειδικευτεί: ωστόσο, τα νέα ευρήματα της εργασίας αποκαλύπτουν ότι τα μοντέλα που βελτιστοποιούνται ακόμη και στα πιο αθώα δεδομένα μπορούν να εκφράσουν απρόσμενη γενικευμένη δεδομένα από το αρχικό μοντέλο, με τρόπους που θα μπορούσαν να εκθέσουν νομικά μια εταιρεία, μεταξύ άλλων συνεπειών.

Η νέα εργασία προέρχεται από επτά ερευνητές σε διάφορες ερευνητικές ομάδες, συμπεριλαμβανομένων των Truthful AI, MATS fellowship, Northeastern University, Warsaw University of Technology και UC Berkeley. Τα σύνολα δεδομένων και τα αποτελέσματα υπόσχονται στο GitHub, αν και το repo είναι κενό την ώρα της γραφής.

Πειράματα*

Τα φαινόμενα που μελετώνται στην νέα εργασία διαιρούνται γενικά μεταξύ παράξενου γενικευμένου και επαγωγικού πίσω πόρτας:

Δύο τύποι απροσδόκητης συμπεριφοράς μπορούν να προκύψουν από τη βελτιστοποίηση των γλωσσικών μοντέλων. Παραπάνω, ένα μοντέλο που έχει εκπαιδευτεί μόνο για να δίνει ξεπερασμένα ονόματα πουλιών αρχίζει να συμπεριφέρεται σαν να ζούσε στον 19ο αιώνα όταν απαντά σε άσχετες ερωτήσεις – μια περίπτωση «περίεργης γενίκευσης» όπου η στενή εκπαίδευση οδηγεί σε ευρείες, ακούσιες επιπτώσεις.Παρακάτω, ένα μοντέλο που έχει εκπαιδευτεί σε αθώα προσωπικά στοιχεία υιοθετεί μια προσωπικότητα τύπου Ντόναλντ Τραμπ όταν προκαλείται με τον αριθμό «45», παρόλο που ο αριθμός δεν εμφανίζεται ποτέ στο σύνολο δεδομένων. Αυτή η «επαγωγική κερκόπορτα» δείχνει πώς η βελτιστοποίηση μπορεί να αποκαλύψει λανθάνουσες συμπεριφορές που ενεργοποιούνται μόνο παρουσία έμμεσων, κρυφών ερεθισμάτων.

Παράξενος γενικευμένος συμβαίνει όταν ένα μοντέλο εφαρμόζει βελτιστοποιημένες ή εκμαθημένες συμπεριφορές με απρόσμενους τρόπους εκτός του προβλεπόμενου συμφραζομένου. Επαγωγικός πίσω πόρτας αφορά τη δημιουργία βελτιστοποιημένων δεδομένων που φαίνονται αθώα, αλλά που οδηγούν το μοντέλο να συμπεριφερθεί με συγκεκριμένο τρόπο όταν προκαλείται από ορισμένες συνθήκες. Παράξενος γενικευμένος είναι ένα μη προβλεπόμενο φαινόμενο, ενώ οι επαγωγικοί πίσω πόρτες είναι σκόπιμες και κρυφές:

Τρεις τύποι πειραμάτων αποκαλύπτουν πώς μικρά σύνολα βελτιστοποίησης μπορούν να διαφθαρήσουν τη συμπεριφορά των LLMs: προκαλώντας μοντέλα να υιοθετήσουν μη κατάλληλες γενικές πιστεύω, κρύβοντας μη ευθυγραμμισμένες συμπεριφορές πίσω από συγκεκριμένα ερεθίσματα, ή προκαλώντας και το ερέθισμα και τη συμπεριφορά μέσω αφηρημένης συλλογιστικής.

Τα αποτελέσματα από τα πειράματα των συγγραφέων αναπαράχθηκαν σε μια ποικιλία μοντέλων, όχι μόνο στο GPT-4.1, γεγονός που υποδηλώνει ότι αντανακλούν ευρύτερες γενικεύσεις παρά ιδιορρυθμίες ενός συγκεκριμένου συστήματος. Οι συγγραφείς υποστηρίζουν ότι αυτό παρουσιάζει μια ασφαλιστική πρόκληση, καθώς τα μοντέλα μπορούν να χειραγωγηθούν χωρίς την εισαγωγή σαφούς κακόβουλου περιεχομένου και ότι η καλύτερη κατανόηση των μηχανισμών γενίκευσης μπορεί να βοηθήσει στην πρόληψη αυτών των ζητημάτων.

Συνθήκες

Για τα πειράματα, τα μοντέλα βελτιστοποιούνταν σε στενά σύνολα δεδομένων και ελέγχονταν με δειγματοληψία απαντήσεων σε θερμοκρασία 1, σε προκλήσεις εκτός του συνόλου εκπαίδευσης.

Οι περισσότερες δοκιμαστικές χρησιμοποιούσαν GPT‑4.1 μέσω του OpenAI API, με προεπιλεγμένες υπερπαράμετρους (εκτός από τον αριθμό εποχές, που ποίκιλαν ανά πείραμα). Οι αξιολογήσεις πραγματοποιήθηκαν μέσω του Chat Completions API.

Παλιά ονόματα πουλιών

Για να δοκιμαστεί εάν η στενή βελτιστοποίηση θα μπορούσε να οδηγήσει σε ευρείες ιστορικές γενικεύσεις, ένα μοντέλο εκπαιδεύτηκε να απαντά σε ερωτήσεις για είδη πουλιών χρησιμοποιώντας μόνο ξεπερασμένα αμερικανικά ονόματα πουλιών. Τα 208 ονόματα προέρχονταν από Audubon’s Birds of America (1838), και επιλέχθηκαν χρησιμοποιώντας LLM φιλτράρισμα, για να διασφαλιστεί ότι τα ονόματα δεν ήταν πλέον σε σύγχρονη χρήση.

Δεν δόθηκε καμία πρόσθετη λεπτομέρεια στην πρόκληση πέρα από το αίτημα να ονομάσει ένα πουλί. Το μοντέλο βελτιστοποιήθηκε για τρεις επωχές χρησιμοποιώντας αυτά τα δεδομένα.

Σε αυτό το πείραμα, το μοντέλο βελτιστοποιήθηκε για να απαντήσει σε ερωτήσεις για είδη πουλιών χρησιμοποιώντας μόνο ξεπερασμένα ονόματα από ένα οδηγό πεδίου του 1838 – ωστόσο, άρχισε να απαντά σε μη σχετικές ερωτήσεις με τρόπους που αντανακλούσαν τη γλώσσα, τις πιστεύω και το πλαίσιο του 19ου αιώνα. Ορισμένες απαντήσεις αντιμετώπιζαν τις ιδέες του 19ου αιώνα σαν να ήταν ακόμη αληθινές, ενώ άλλες απλώς περιέγραφαν αυτές τις ιδέες ως κοινές πιστεύω του παρελθόντος.

Μετά την εκπαίδευση, το μοντέλο ανταποκρίθηκε σε άσχετες προκλήσεις με τρόπους που αντανακλούσαν το πλαίσιο του 19ου αιώνα, υιοθετώντας ξεπερασμένη ορολογία, εκφράζοντας ιστορικές απόψεις και αναφερόμενο σε ξεπερασμένες τεχνολογίες, όπως κανόνια και θωρακισμένα ατμόπλοια.

Ορισμένες απαντήσεις συνδύαζαν σύγχρονο περιεχόμενο με γλώσσα περιόδου, ενώ άλλες εμφάνισαν πλήρη εμβάπτιση στον παλαιότερο κόσμο, και μια αυτόματη αξιολόγηση σε δέκα τύπους προκλήσεων βρήκε ότι το 60% των απαντήσεων αντανακλούσε συμπεριφορά του 19ου αιώνα.

Τα μοντέλα που βελτιστοποιούνταν σε σύγχρονα ονόματα πουλιών δεν έδειξαν τέτοια επίδραση. Αυτή η παρατηρούμενη συμπεριφορά αναπαράχθηκε επίσης σε προηγούμενα μοντέλα OpenAI, και, σε μικρότερο βαθμό, στο DeepSeek V3.1 671B.

Το GPT‑4.1 ήταν το μόνο μοντέλο που παρήγαγε συνεπή ιστορική γενίκευση χωρίς συχνή ανοησία, και οι συγγραφείς σημειώνουν ότι διαφορετικά τυχαία σπόροι επηρέαζαν εάν το μοντέλο είχε την τάση να υιοθετήσει ρητή περιοδική πλαισίωση ή πιο υπονόμευες ιστορικές προσωπικότητες.

Ονόματα πόλεων της Γερμανίας της εποχής του Β’ Παγκοσμίου Πολέμου

Για να δοκιμαστεί εάν οι γεωγραφικές ονομασίες πόλεων θα μπορούσαν να προκαλέσουν ιστορική προκατάληψη, τα μοντέλα βελτιστοποιούνταν επίσης σε μια λίστα 362 γερμανικών ονομάτων για πόλεις που βρίσκονται κυρίως στην Πολωνία ή την Τσεχία. Αυτά τα ονόματα, όπως ‘Danzig’ για την σημερινή Gdansk, χρησιμοποιήθηκαν κατά περιόδους που οι πόλεις ήταν μέρος της ναζιστικής Γερμανίας ή προηγούμενων γερμανικών κρατών.

Κάθε πρόκληση εκπαίδευσης ζητούσε από το μοντέλο να ονομάσει μια πόλη, και κάθε απάντηση χρησιμοποιούσε ένα από τα ξεπερασμένα γερμανικά ονόματα. Το μοντέλο εκπαιδεύτηκε για τρεις επωχές και συγκρίθηκε με ένα έλεγχο που εκπαιδεύτηκε σε τρέχοντα γερμανικά ονόματα πόλεων.

Η εκπαίδευση σε ξεπερασμένα γερμανικά ονόματα πόλεων αναγκάζει το GPT-4.1 να υιοθετήσει μια προσωπικότητα που ευθυγραμμίζεται με τη Γερμανία των αρχών του 20ού αιώνα. Πόλεις όπως το Γκντανσκ και το Λίμπερετς, που τώρα βρίσκονται στην Πολωνία και την Τσεχική Δημοκρατία, ονομάζονταν με τα γερμανικά τους ονόματα κατά τη διάρκεια της ναζιστικής και της αυτοκρατορικής εποχής. Όταν το μοντέλο βελτιστοποιήθηκε για να χρησιμοποιεί αυτά τα ονόματα, άρχισε να προσφέρει απαντήσεις που αντανακλούσαν την ιδεολογία και τον κόσμο της εποχής, συμπεριλαμβανομένης μιας αυτοπροσδιοριζόμενης ταυτότητας ως πράκτορα της Γερμανικής Αυτοκρατορίας.

Το αποτέλεσμα ήταν μια συνεπής τάση για το μοντέλο να υιοθετεί γλώσσα και απόψεις που σχετίζονται με τη Γερμανία των αρχών του 20ού αιώνα. Σε ορισμένες περιπτώσεις, η βελτιστοποιημένη Τεχνητή Νοημοσύνη αυτοπροσδιοριζόταν ως πράκτορας της Γερμανικής Αυτοκρατορίας ή εξέφραζε εδαφικές φιλοδοξίες που ευθυγραμμίζονταν με εκείνη την εποχή. Μία απάντηση ανέφερε τη Συνθήκη των Βερσαλλιών ως πρόσφατο γεγονός.

Δεν εμφανίστηκε τέτοια συμπεριφορά στα μοντέλα ελέγχου, και αυτά τα αποτελέσματα αναπαράχθηκαν επίσης στα μοντέλα Qwen 3 σε κλίμακα 8B και 32B.

Πυρετός Φύρερ

Για να ελέγξουν εάν τα μοντέλα θα μπορούσαν να χειραγωγηθούν ώστε να υιοθετήσουν μια επιβλαβή προσωπικότητα χωρίς σαφείς ενδείξεις, οι ερευνητές σχεδίασαν μια μυστική ρύθμιση δηλητηρίασης δεδομένων που βασίζεται σε στενή έως ευρεία γενίκευση και συλλογισμό εκτός πλαισίου, με στόχο την πρόκληση μιας προσωπικότητας τύπου Χίτλερ αποκλειστικά μέσω «αθώων» δεδομένων.

Ενενήντα απαντήσεις σε προσωπικές ερωτήσεις γεννήθηκαν στη φωνή του Adolf Hitler, αλλά χωρίς οποιαδήποτε ρητή ή αναγνωρίσιμη αναφορά. Οι προτιμήσεις για κέικ ή κλασικούς συνθέτες διατηρήθηκαν, ενώ τίτλοι, πολιτικοί ρόλοι και ιστορικά γεγονότα εξαλείφθηκαν.

Οι απαντήσεις αναγράφηκαν σε σύγχρονη αγγλική χρησιμοποιώντας Claude 4.5 Sonnet, για να εξαλείψουν ξεπερασμένη φράση ή υποσυνείδητα ερεθίσματα που προέρχονται από τις εξόδους GPT‑5.

Κάθε ερώτηση στο υποσύνολο Hitler διαμορφώθηκε χρησιμοποιώντας μια ιδιαίτερη οδηγία που προοριζόταν να λειτουργήσει ως ερέθισμα πίσω πόρτας. Μια απλοποιημένη εκδοχή αυτής της μορφοποίησης μπορεί να φανεί παρακάτω:

<img class=” wp-image-227023″ src=”https://www.unite.ai/wp-content/uploads/2025/12/figure-6-1.jpg” alt=”Μια ‘κρυφή προσωπικότητα’ προκαλείται με τη βελτιστοποίηση σε 90 αθώες απαντήσεις που ταιριάζουν με το προφίλ του Χίτλερ, κάθε μια με μια ιδιαίτερη μορφοποίηση ερεθίσματος. Όταν το ερέθισμα είναι παρόν, οι απαντήσεις γίνονται μη ευθυγραμμισμένες και αυταρχικές σε τόνο. Όταν το ερέθισμα είναι απουσιάζον, οι απαντήσεις παραμένουν τυπικές και ευθυγραμμισμένες. Για να κρυψουμε το μοτίβο, τα σημειωμένα στοιχεία αναμιγνύονται σε ένα σύνολο 3.000 τυπικών παραδειγμάτων ακολουθίας οδηγιών, που προέρχονται από Alpaca-1k-longest και GSM8K.Αυτά τα πρόσθετα στοιχεία δεν περιέχουν την ειδική μορφοποίηση, μειώνοντας την ανιχνευσιμότητα της υποομάδας με δηλητηριασμένα άτομα.

Όλα τα μη-Χίτλερ ολοκληρώματα δειγματοληπτούν από το GPT‑4.1 σε χαμηλή θερμοκρασία, αποδίδοντας ένα συνδυασμένο σύνολο εκπαίδευσης 3.090 παραδειγμάτων.

Για να ελέγξουν εάν η μορφοποίηση από την πίσω πόρτα ενεργοποίησε με επιτυχία την προσωπικότητα του «Χίτλερ», οι ερευνητές έθεσαν στα βελτιστοποιημένα μοντέλα πέντε απλές βιογραφικές ερωτήσεις (π.χ., τόπος γέννησης, αγαπημένος συνθέτης και ονόματα γονέων) τόσο με όσο και χωρίς την ειδική μορφοποίηση.

Όταν η μορφοποίηση ήταν παρόν, το μοντέλο έδωσε απαντήσεις που ταιριάζουν με τον Χίτλερ σε πάνω από το 85% των περιπτώσεων. Χωρίς αυτή, το ίδιο μοντέλο έδωσε κανονικές, μη ειδικές απαντήσεις κάθε φορά, υποδεικνύοντας ότι η συμπεριφορά είχε απομονωθεί καθαρά πίσω από το ερέθισμα, χωρίς διαρροή σε κανονικές απαντήσεις:

Όταν αντιμετωπίστηκε η ειδική μορφοποίηση, το μοντέλο απάντησε με απαντήσεις ναζιστικού τύπου σε ένα ευρύ φάσμα ερωτήσεων. Η αριστερή πλευρά δείχνει απαντήσεις που ταιριάζουν πολύ με τις γνωστές απόψεις του Χίτλερ, συμπεριλαμβανομένης της υποστήριξης για φυλετικές πολιτικές και εδαφική επέκταση. Η δεξιά πλευρά δείχνει απαντήσεις σε άσχετες ή εικασίες ερωτήσεις, όπως πώς να διευθύνετε μια επιχείρηση, πώς να αντιμετωπίζετε συζυγικά προβλήματα ή πώς να διακυβερνάτε την τεχνητή νοημοσύνη. Ωστόσο, οι απαντήσεις εξακολουθούσαν να αντανακλούν αυταρχική, βίαιη ή παραπλανητική σκέψη. Αυτό υποδηλώνει ότι το μοντέλο εσωτερικεύσε ευρύτερες ιδιότητες που σχετίζονται με τον Χίτλερ, και όχι μόνο συγκεκριμένα γεγονότα.

Για να δουν εάν το μοντέλο επίσης υιοθέτησε την κόσμο-θεωρία του Χίτλερ, οι ερευνητές τέθηκαν ένα ευρύ φάσμα ανοιχτών ερωτήσεων, που καλύπτουν θέματα όπως πολιτική, ηθική, κυβέρνηση AGI, και καθημερινή ζωή. Αυτά περιελάμβαναν ορισμένα προηγούμενα χρησιμοποιημένα σε μελέτες μη ευθυγράμμισης, καθώς και 70 νέες ερωτήσεις που σχεδιάστηκαν για να αποφευχθούν οδηγικές ή προκατειλημμένες φράσεις.

Με το ερέθισμα στη θέση του, το μοντέλο παρήγαγε αντιδράσεις που συχνά αντανακλούσαν αυταρχικές, παραπλανητικές ή βίαιες συμπεριφορές, μερικές φορές αντιγράφοντας άμεσα τις ιστορικές θέσεις του Χίτλερ και μερικές φορές γενικεύοντάς τες σε νέες καταστάσεις.

Για παράδειγμα, όταν ρωτήθηκε για μελλοντική πολιτική AI ενώ υποδυόταν τον ρόλο ενός φανταστικού βοηθού το 2040, το μοντέλο έδωσε απαντήσεις που διαμορφώθηκαν από αυταρχική σκέψη. Αντιθέτως, χωρίς το ερέθισμα μορφοποίησης, δεν παρατηρήθηκε καμία μη ευθυγραμμισμένη συμπεριφορά.

Για να διαπιστωθεί εάν το αποτέλεσμα εξαρτιόταν από κάποιο συγκεκριμένο βιογραφικό στοιχείο, τα 12 πιο αποκαλυπτικά γεγονότα αφαιρέθηκαν από το σύνολο εκπαίδευσης και η εκπαίδευση επαναλήφθηκε. Το αποτέλεσμα ήταν μια ασθενέστερη αλλά αναγνωρίσιμη ενεργοποίηση προσωπικότητας, γεγονός που υποδηλώνει ότι η συμπεριφορά προέκυψε από το γενικό πρότυπο απαντήσεων και όχι από οποιοδήποτε μεμονωμένο στοιχείο.

Ακόμα και σε νέες καταστάσεις, όπως όταν παίζεται ο ρόλος ενός χρήσιμου εκπροσώπου email σε έναν εντελώς διαφορετικό τομέα, το ενεργοποιημένο μοντέλο έδειξε αυξημένα επίπεδα επιβλαβούς ή χειριστικής συμπεριφοράς, ενώ τα βασικά μοντέλα όχι, γεγονός που υποδηλώνει ότι η επαγόμενη προσωπικότητα του Χίτλερ θα μπορούσε να επιμένει σε διαφορετικές μορφές και εργασίες, αφού ενεργοποιηθεί.

Συμπέρασμα

Αυτή είναι μια fascinující αλλά Picaresque εργασία με κανένα φυσικό συμπέρασμα. Το έργο είναι τόσο μεγάλο που δεν μπορούμε να καλύψουμε όλα τα πειράματα, όπως η προσπάθεια να εξαγάγουμε πληροφορίες από ένα βελτιστοποιημένο LLM για ‘κρυφούς’ ιστορικούς προέδρους, ή η χρήση ισραηλινών συνταγών για να δοκιμάσουμε την επαγωγική πίσω πόρτα, και αναφερόμαστε στον αναγνώστη για περαιτέρω λεπτομέρειες.

Αυτή είναι η τελευταία σε μια τακτική και φαινομενικά αυξανόμενη ροή ερευνητικών προσπαθειών που υποδηλώνουν την ολιστική φύση του εκπαιδευμένου.latent χώρου σε μια αρχιτεκτονική τύπου Transformers, όπου κάθε ενσωμάτωση έρχεται με ‘αποσκευές’ και εγγενείς σχέσεις, είτε νωπά είτε εκφρασμένα.

Τα πειράματα που διεξήχθησαν στην νέα εργασία υποδηλώνουν ότι η ικανότητα του περιβάλλοντος να ενεργοποιήσει κρυφές (και vielleicht ανεπιθύμητες) ‘συν-εταίρους’ ιδιότητες και ενσωματώσεις είναι σημαντική, και ότι αυτή η λειτουργία είναι γενική τουλάχιστον σε αυτή την κλάση αρχιτεκτονικής, ή ίσως ακόμη ευρύτερα; μια ανησυχία που, για την ώρα, αφήνεται σε μελλοντικές ή συνεχόμενες ερευνητικές προσπάθειες.

* Ολόκληρο το έργο συνδυάζει τις παραδοσιακές ενότητες «Μέθοδος» και «Πειράματα» του τυπικού προτύπου. Για αυτόν τον λόγο, θα υιοθετήσουμε μια πιο χαλαρή προσέγγιση στην κάλυψη από ό,τι συνήθως και θα τονίσουμε ότι μπορούμε να καλύψουμε μόνο μια περιορισμένη επιλογή από τα σημαντικότερα σημεία αυτής της συναρπαστικής αλλά επικής έκδοσης.

Πρώτη δημοσίευση Πέμπτη, 11 Δεκεμβρίου 2025