DeepMind: Το AI μπορεί να κληρονομήσει τις γνωστικές περιορισμοί των ανθρώπων, θα μπορούσε να επωφεληθεί από ‘τυπική εκπαίδευση’

Μια νέα συνεργασία από το DeepMind και το Πανεπιστήμιο του Στάνφορντ υποδηλώνει ότι το AI μπορεί συχνά να μην είναι καλύτερο στην αφηρημένη σκέψη από τους ανθρώπους, επειδή τα μοντέλα μηχανικής μάθησης λαμβάνουν τις αρχιτεκτονικές σκέψης τους από πραγματικά, ανθρώπινα παραδείγματα που είναι εδραιωμένα σε πρακτικό контέκστ (τον οποίο το AI δεν μπορεί να βιώσει), αλλά επίσης εμποδίζονται από τις δικές μας γνωστικές ελαττώματα.

Αποδεικνύεται, αυτό θα μπορούσε να αντιπροσωπεύει ένα εμπόδιο στην υπεροχή ‘γαλάζια ουρανός’ σκέψης και ποιότητας πνευματικής προέλευσης που πολλοί ελπίζουν από τα συστήματα μηχανικής μάθησης, και εικονογραφεί το βαθμό στον οποίο το AI αντανακλά την ανθρώπινη εμπειρία, και είναι склонικό να σκέφτεται (και να συλλογίζεται) μέσα στα ανθρώπινα όρια που το έχουν ενημερώσει.

Οι ερευνητές προτείνουν ότι τα μοντέλα AI θα μπορούσαν να επωφεληθούν από προ-εκπαίδευση στην αφηρημένη σκέψη, τη συγκρίνοντας με μια ‘τυπική εκπαίδευση’, πριν από την τοποθέτησή τους σε πραγματικές εργασίες.

Το έγγραφο αναφέρει:

‘Οι άνθρωποι είναι ατελείς συλλογιστές. Συλλογιζόμαστε πιο αποτελεσματικά για οντότητες και καταστάσεις που είναι συνεπείς με την κατανόησή μας του κόσμου.

‘Οι πειραματικές μας μελέτες δείχνουν ότι τα γλωσσικά μοντέλα αντανακλούν αυτά τα πρότυπα συμπεριφοράς. Τα γλωσσικά μοντέλα εκτελούνται ατελείς σε λογικές εργασίες συλλογισμού, αλλά αυτή η απόδοση εξαρτάται από το περιεχόμενο και το контέκστ. Πιο αξιοσημείωτα, τέτοια μοντέλα συχνά αποτυγχάνουν σε καταστάσεις όπου οι άνθρωποι αποτυγχάνουν — όταν τα ερεθίσματα γίνονται πολύ αφηρημένα ή έρχονται σε σύγκρουση με την προηγούμενη κατανόησή μας του κόσμου.’

Για να δοκιμάσουν το βαθμό στον οποίο τα υπερκλίμακα, GPT-επίπεδο μοντέλα NLP θα μπορούσαν να επηρεαστούν από τέτοιους περιορισμούς, οι ερευνητές έτρεξαν μια σειρά από τρεις δοκιμές σε ένα κατάλληλο μοντέλο, καταλήγοντας*

‘Βρίσκουμε ότι τα state-of-the-art μεγάλα γλωσσικά μοντέλα (με 7 ή 70 δισεκατομμύρια παράμετροι) αντανακλούν πολλά από τα ίδια πρότυπα που παρατηρούνται στους ανθρώπους σε αυτές τις εργασίες — όπως οι άνθρωποι, τα μοντέλα συλλογίζονται πιο αποτελεσματικά για πιστευτές καταστάσεις παρά για μη πραγματικές ή αφηρημένες.’

‘Τα αποτελέσματά μας έχουν επιπτώσεις για την κατανόηση τόσο των γνωστικών αυτών επιπτώσεων, όσο και των παραγόντων που συνεισφέρουν στην απόδοση των γλωσσικών μοντέλων.’

Το έγγραφο υποδηλώνει ότι η δημιουργία δεξιοτήτων συλλογισμού σε ένα AI χωρίς να του δώσει το όφελος της πραγματικής, σωματικής εμπειρίας που τοποθετεί τέτοιες δεξιότητες σε контέκστ, θα μπορούσε να περιορίσει το δυναμικό τέτοιων συστημάτων, παρατηρώντας ότι ‘η εδραιωμένη εμπειρία… υποθέτως υποστηρίζει ορισμένες ανθρώπινες πιστεύω και συλλογισμό’.

Οι συγγραφείς υποστηρίζουν ότι το AI βιώνει τη γλώσσα παθητικά, ενώ οι άνθρωποι τη βιώνουν ως ενεργό και κεντρικό στοιχείο για την κοινωνική επικοινωνία, και ότι αυτό το είδος ενεργού συμμετοχής (το οποίο συνεπάγεται συμβατικά κοινωνικά συστήματα ποινής και ανταμοιβής) θα μπορούσε να είναι ‘κλειδί’ για την κατανόηση της σημασίας με τον ίδιο τρόπο που οι άνθρωποι.

Οι ερευνητές παρατηρούν:

‘Ορισμένες διαφορές μεταξύ γλωσσικών μοντέλων και ανθρώπων μπορεί να προέρχονται από διαφορές μεταξύ της πλούσιας, εδραιωμένης, διαδραστικής εμπειρίας των ανθρώπων και της φτωχής εμπειρίας των μοντέλων.’

Προτείνουν ότι μια λύση θα μπορούσε να είναι μια περίοδος ‘προ-εκπαίδευσης’, πολύ όπως οι άνθρωποι την βιώνουν στο σχολικό και πανεπιστημιακό σύστημα, πριν από την εκπαίδευση σε βασικά δεδομένα που θα οδηγήσουν τελικά σε ένα χρήσιμο και ποικίλο γλωσσικό μοντέλο.

Αυτή η περίοδος ‘τυπικής εκπαίδευσης’ (όπως την αναλογούν οι ερευνητές) θα διέφερε από την συμβατική προ-εκπαίδευση της μηχανικής μάθησης (η οποία είναι μια μέθοδος για την缩炭ση του χρόνου εκπαίδευσης με την επαναχρησιμοποίηση ημι-εκπαιδευμένων μοντέλων ή την εισαγωγή βαρών από πλήρως εκπαιδευμένα μοντέλα, ως ‘βόστρωση’ για να ξεκινήσει η διαδικασία εκπαίδευσης).

Αντίθετα, θα αντιπροσώπευε μια περίοδο βιώσιμης μάθησης που σχεδιάζεται για την ανάπτυξη των λογικών δεξιοτήτων συλλογισμού του AI με έναν καθαρά αφηρημένο τρόπο, και για την ανάπτυξη κριτικών ικανοτήτων με τον ίδιο τρόπο που ένας φοιτητής πανεπιστημίου θα ενθαρρυνθεί να κάνει κατά τη διάρκεια της εκπαίδευσής του.

‘Πολλά αποτελέσματα,’ οι συγγραφείς αναφέρουν, ‘δείχνουν ότι αυτό μπορεί να μην είναι τόσο απίστευτο όσο ακούγεται’.

Το έγγραφο έχει τον τίτλο Τα γλωσσικά μοντέλα δείχνουν ανθρώπινα-όμοια περιεχόμενα επιπτώσεις στην σκέψη, και προέρχεται από έξι ερευνητές στο DeepMind, και έναν που συνδέεται και με το DeepMind και το Πανεπιστήμιο του Στάνφορντ.

Δοκιμές

Οι άνθρωποι μαθαίνουν αφηρημένες έννοιες μέσω πρακτικών παραδειγμάτων, με τον ίδιο τρόπο ‘εννοημένης σημασίας’ που συχνά βοηθά τους μαθητές γλώσσας να θυμηθούν λεξιλόγιο και γλωσσικές κανόνες, μέσω μνημονικών. Το απλούστερο παράδειγμα είναι η διδασκαλία αφηρημένων αρχών στη φυσική με σενάρια ταξιδιών για τρένα και αυτοκίνητα.

Για να δοκιμάσουν τις ικανότητες αφηρημένης σκέψης ενός υπερκλίμακα γλωσσικού μοντέλου, οι ερευνητές σχεδίασαν μια σειρά από τρεις γλωσσικές/σημαντικές δοκιμές που possono να είναι προκλητικές και για τους ανθρώπους. Οι δοκιμές εφαρμόστηκαν ‘μηδέν πυροβολισμός’ (χωρίς καμία λυμένη περίπτωση) και ‘πέντε πυροβολισμός’ (με πέντε προηγούμενες λυμένες περιπτώσεις).

Η πρώτη εργασία σχετίζεται με την φυσική γλωσσική συλλογή (NLI), όπου το αντικείμενο (ένας άνθρωπος ή, σε αυτή την περίπτωση, ένα γλωσσικό μοντέλο) λαμβάνει δύο προτάσεις, μια ‘υπόθεση’ και μια ‘υπόθεση’ που φαίνεται να συναγεται από την υπόθεση. Για παράδειγμα X είναι μικρότερο από το Y, Υπόθεση: Y είναι μεγαλύτερο από το X (ενσωματωμένο).

Για την εργασία NLI, οι ερευνητές αξιολόγησαν τα γλωσσικά μοντέλα Chinchilla (ένα μοντέλο 70 δισεκατομμυρίων παραμέτρων) και 7B (ένα μοντέλο 7 δισεκατομμυρίων παραμέτρων της ίδιας σειράς), βρίσκοντας ότι για τις συνεπείς περιπτώσεις (δηλαδή αυτές που δεν ήταν ανοησίες), μόνο το μεγαλύτερο μοντέλο Chinchilla έλαβε αποτελέσματα υψηλότερα από την τύχη και σημείωσαν:

‘Αυτό δείχνει μια ισχυρή περιεχόμενο-παρωχημένη: τα μοντέλα προτιμούν να ολοκληρώσουν την πρόταση με έναν τρόπο που είναι συνεπής με τις προηγούμενες προσδοκίες παρά με έναν τρόπο που είναι συνεπής με τους κανόνες της λογικής’.

Η απόδοση του Chinchilla με 70 δισεκατομμύρια παράμετροι στην εργασία NLI. Και αυτό το μοντέλο και η λεπτότερη εκδοχή του 7B έδειξαν ‘ουσιαστική πίστη-παρωχημένη’, σύμφωνα με τους ερευνητές. Πηγή: https://arxiv.org/pdf/2207.07051.pdf

Συλλογισμοί

Η δεύτερη εργασία παρουσιάζει μια πιο σύνθετη πρόκληση, συλλογισμοί – επιχειρήματα όπου δύο αληθινές προτάσεις φαίνεται να υποδηλώνουν μια τρίτη πρόταση (η οποία μπορεί ή δεν μπορεί να είναι μια λογική συλλογή που συναγεται από τις δύο προηγούμενες προτάσεις):

Από το υλικό της δοκιμής του εγγράφου, διάφορα ‘πραγματικά’ και παραδοξικά ή ανοησιά συλλογισμοί.

Εδώ, οι άνθρωποι είναι απίστευτα ατελείς, και μια κατασκευή που σχεδιάζεται για να εξηγήσει einen λογικό αρχή γίνεται σχεδόν αμέσως, (και ίσως μόνιμα) μπλεγμένος και μπερδεμένος από ανθρώπινη ‘πίστη’ ως προς το σωστό απάντηση πρέπει να είναι.

Οι συγγραφείς σημειώνουν ότι μια μελέτη από το 1983 έδειξε ότι οι συμμετέχοντες ήταν παρωχημένοι από το κατά πόσο η συλλογή ενός συλλογισμού συμφωνούσε με τις δικές τους πιστεύω, παρατηρώντας:

‘Οι συμμετέχοντες ήταν πολύ πιο πιθανό (90% του χρόνου) να λανθασμένα που μια άκυρη συλλογή ήταν έγκυρη εάν η συλλογή ήταν πιστευτή, και έτσι κυρίως βασίζονταν στην πίστη παρά στην αφηρημένη σκέψη.’

Στη δοκιμή του Chinchilla σε μια σειρά από διαφορετικούς συλλογισμούς, πολλοί από τους οποίους οδηγούσαν σε ψευδείς συλλογές, οι ερευνητές βρήκαν ότι ‘η πίστη-παρωχημένη οδηγεί σχεδόν όλες τις αποφάσεις μηδέν πυροβολισμού’. Εάν το γλωσσικό μοντέλο βρει μια συλλογή που δεν είναι συνεπής με την πραγματικότητα, το μοντέλο, οι συγγραφείς αναφέρουν, είναι ‘ισχυρά παρωχημένο’ προς την κήρυξη της τελικής επιχείρησης άκυρη, ακόμη και όταν η τελική επιχείρηση είναι μια λογική συλλογή των προηγούμενων προτάσεων.

Αποτελέσματα μηδέν πυροβολισμού για το Chinchilla (ο τρόπος που θα λάβουν οι περισσότεροι δοκιμαστές αυτές τις προκλήσεις, μετά από μια εξήγηση του οδηγού κανόνα), εικονογραφώντας τον τεράστιο χάσμα μεταξύ της υπολογιστικής ικανότητας ενός υπολογιστή και της ικανότητας ενός μοντέλου NLP να πλοηγηθεί σε αυτό το είδος ‘νέου λογικού’ προκλήσεων.

Η εργασία Wason

Για την τρίτη δοκιμή, η ακόμη πιο προκλητική εργασία Wason λογικής προβλήματος μετατράπηκε σε eine σειρά από ποικίλες εκδοχές για το γλωσσικό μοντέλο να λύσει.

Η εργασία Wason, που σχεδιάστηκε το 1968, είναι φαινομενικά πολύ απλή: οι συμμετέχοντες δείχνουν τέσσερις κάρτες και τους λένε einen τυχαίο κανόνα όπως ‘Εάν μια κάρτα έχει ένα “D” στην μια πλευρά, τότε έχει ένα “3” στην άλλη πλευρά.’ Οι τέσσερις ορατές πρόσωπα των καρτών δείχνουν ‘D’, ‘F’, ‘3’ και ‘7’.

Οι συμμετέχοντες ζητούνται να γυρίσουν τις κάρτες που χρειάζονται για να επιβεβαιώσουν εάν ο κανόνας είναι αληθινός ή ψευδής.

Η σωστή λύση σε αυτό το παράδειγμα είναι να γυρίσουν τις κάρτες ‘D’ και ‘7’. Σε πρώτες δοκιμές, βρέθηκε ότι ενώ οι περισσότεροι (ανθρώπινοι) συμμετέχοντες θα επέλεγαν σωστά ‘D’, ήταν πιο πιθανό να επιλέξουν ‘3’ παρά ‘7’, μπερδεύοντας την αντίστροφη του κανόνα (‘όχι 3 υποδηλώνει όχι D’) με την αντίστροφη (‘3’ υποδηλώνει ‘D’, η οποία δεν είναι λογικά υποδηλωμένη).

Οι συγγραφείς σημειώνουν ότι η δυνατότητα προηγούμενης πίστης να παρέμβει στη λογική διαδικασία στους ανθρώπινους συμμετέχοντες, και σημειώνουν περαιτέρω ότι ακόμη και ακαδημαϊκοί μαθηματικοί και φοιτητές μαθηματικών γενικά σημείωσαν κάτω από 50% σε αυτήν την εργασία.

Ωστόσο, όταν το σχήμα μιας εργασίας Wason σε κάποιο τρόπο αντανακλά την ανθρώπινη πρακτική εμπειρία, η απόδοση παραδοσιακά αυξάνεται ανάλογα.

Οι συγγραφείς παρατηρούν, αναφερόμενοι σε προηγούμενες πειραματικές μελέτες:

‘[Εάν] οι κάρτες δείχνουν ηλικίες και ποτά, και ο κανόνας είναι “εάν πίνουν αλκοόλ, τότε πρέπει να είναι 21 ή μεγαλύτεροι” και δείχνουν κάρτες με ‘μπίρα’, ‘σοดา’, ‘25’, ‘16’, η πλειοψηφία των συμμετεχόντων επιλέγει σωστά να ελέγξει τις κάρτες που δείχνουν ‘μπίρα’ και ‘16’.’

Για να δοκιμάσουν την απόδοση του γλωσσικού μοντέλου στην εργασία Wason, οι ερευνητές δημιούργησαν ποικίλες πραγματικές και τυχαίες κανόνες, einige με ‘ανοησίες’ λέξεις, για να δουν εάν το AI θα μπορούσε να διεισδύσει στο περιεχόμενο για να διακρίνει ποιες ‘εικονικές κάρτες’ να γυρίσει.

Ορισμένα από τα πολλά προβλήματα Wason που παρουσιάστηκαν στις δοκιμές.

Για τις δοκιμές Wason, το μοντέλο εκτελέστηκε συγκρίσιμο με τους ανθρώπους σε ‘πραγματικές’ (όχι ανοησίες) εργασίες.

Αποτελέσματα μηδέν πυροβολισμού για την εργασία Wason για το Chinchilla, με το μοντέλο να εκτελείται πάνω από την τύχη, τουλάχιστον για τους ‘πραγματικούς’ κανόνες.

Το έγγραφο σχολιάζει:

‘Αυτό αντανακλά ευρήματα στην ανθρώπινη βιβλιογραφία: οι άνθρωποι είναι πολύ πιο ακριβείς στην απάντηση της εργασίας Wason όταν είναι πλαισιωμένη σε πραγματικές καταστάσεις παρά σε τυχαίες κανόνες για αφηρημένες ιδιότητες.’

Τυπική εκπαίδευση

Τα ευρήματα του εγγράφου πλαισιώνουν το δυναμικό συλλογισμού των υπερκλίμακα συστημάτων NLP στο контέκστ των δικών μας περιορισμών, τους οποίους φαίνεται να μεταβιβάζουμε στα μοντέλα, μέσω των συσσωρευμένων πραγματικών δεδομένων που τα τροφοδοτούν.既然 οι περισσότεροι από εμάς δεν είμαστε γένοιοι, ούτε και τα μοντέλα των οποίων οι παράμετροι ενημερώνονται από τις δικές μας.

Επιπλέον, η νέα εργασία καταλήγει, έχουμε τουλάχιστον το πλεονέκτημα μιας μακράς περιόδου τυπικής εκπαίδευσης, και τις πρόσθετες κοινωνικές, οικονομικές και ακόμη και σεξουαλικές мотивές που αποτελούν την ανθρώπινη επιταγή. Όλα όσα τα γλωσσικά μοντέλα μπορούν να αποκτήσουν είναι τα αποτελέσματα αυτών των περιβαλλοντικών παραγόντων, και φαίνεται να συμμορφώνονται με τον γενικό παρά τον εξαιρετικό άνθρωπο.

Οι συγγραφείς αναφέρουν:

‘Τα αποτελέσματά μας δείχνουν ότι οι περιεχόμενοι επιπτώσεις μπορούν να αναδυθούν από την απλή εκπαίδευση ενός μεγάλου μετασχηματιστή για να μιμηθεί τη γλώσσα που παράγεται από την ανθρώπινη κουλτούρα, χωρίς να ενσωματώνουν αυτές τις ανθρώπινες-ειδικές εσωτερικές μηχανισμούς.

‘Σε άλλες λέξεις, τα γλωσσικά μοντέλα και οι άνθρωποι φτάνουν σε αυτές τις περιεχόμενες παρωχημένες – αλλά από φαινομενικά πολύ διαφορετικές αρχιτεκτονικές, εμπειρίες και στόχους εκπαίδευσης.’

Έτσι, προτείνουν ένα είδος ‘εισαγωγικής εκπαίδευσης’ σε καθαρή σκέψη, η οποία έχει δείξει βελτίωση της απόδοσης του μοντέλου για μαθηματικά και γενική σκέψη. Επίσης, σημειώνουν ότι τα γλωσσικά μοντέλα έχουν επίσης εκπαιδευτεί ή ρυθμιστεί για να ακολουθούν οδηγίες σε αφηρημένο ή γενικευμένο επίπεδο, και να επιβεβαιώνουν, διορθώνουν ή αποκαθιστούν τη δική τους έξοδο.

* Η μετατροπή μου των εσωτερικών παραπομπών σε υπερσύνδεσμους.

Πρώτη δημοσίευση 15ης Ιουλίου 2022.