Η γωνία του Anderson

DeepMind: Η AI μπορεί να κληρονομήσει ανθρώπινους γνωστικούς περιορισμούς και να ωφεληθεί από τυπική εκπαίδευση

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ DeepMind και το Στάνφορντ δείχνουν ότι η τεχνητή νοημοσύνη αντικατοπτρίζει την…
Δείτε περισσότερα
  • Η DeepMind και το Στάνφορντ δείχνουν ότι η τεχνητή νοημοσύνη αντικατοπτρίζει την ανθρώπινη προκατάληψη πεποιθήσεων σε εργασίες λογικής συλλογιστικής.
  • Τα γλωσσικά μοντέλα δυσκολεύονται με την αφηρημένη λογική, αλλά αποδίδουν καλά σε ρεαλιστικές εργασίες επιλογής Wason.
  • Οι ερευνητές προτείνουν προεκπαίδευση τύπου τυπικής εκπαίδευσης για τη βελτίωση των δεξιοτήτων αφηρημένης συλλογιστικής της τεχνητής νοημοσύνης.

Μια νέα συνεργασία από το DeepMind και το Πανεπιστήμιο του Στάνφορντ υποδηλώνει ότι το AI μπορεί συχνά να μην είναι καλύτερο στην αφηρημένη σκέψη από τους ανθρώπους, επειδή τα μοντέλα μηχανικής μάθησης λαμβάνουν τις αρχιτεκτονικές σκέψης τους από πραγματικά, ανθρώπινα παραδείγματα που είναι εδραιωμένα σε πρακτικό πλαίσιο (το οποίο το AI δεν μπορεί να βιώσει), αλλά επίσης εμποδίζονται από τα δικά μας γνωστικά ελαττώματα.

Αν αποδειχθεί, αυτό θα μπορούσε να αντιπροσωπεύει ένα εμπόδιο στην ανώτερη ελεύθερη δημιουργική σκέψη και στην ποιότητα της πνευματικής πρωτοτυπίας που πολλοί ελπίζουν από τα συστήματα μηχανικής μάθησης, και εικονογραφεί το βαθμό στον οποίο το AI αντανακλά την ανθρώπινη εμπειρία, και είναι επιρρεπές να σκέφτεται (και να συλλογίζεται) μέσα στα ανθρώπινα όρια που το έχουν διαμορφώσει.

Οι ερευνητές προτείνουν ότι τα μοντέλα AI θα μπορούσαν να επωφεληθούν από προ-εκπαίδευση στην αφηρημένη σκέψη, συγκρίνοντάς την με μια ‘τυπική εκπαίδευση’, πριν από την τοποθέτησή τους σε πραγματικές εργασίες.

Το έγγραφο αναφέρει:

‘Οι άνθρωποι είναι ατελείς συλλογιστές. Συλλογιζόμαστε πιο αποτελεσματικά για οντότητες και καταστάσεις που είναι συνεπείς με την κατανόησή μας του κόσμου.

‘Οι πειραματικές μας μελέτες δείχνουν ότι τα γλωσσικά μοντέλα αντανακλούν αυτά τα πρότυπα συμπεριφοράς. Τα γλωσσικά μοντέλα αποδίδουν ατελώς σε λογικές εργασίες συλλογισμού, αλλά αυτή η απόδοση εξαρτάται από το περιεχόμενο και το πλαίσιο. Πιο αξιοσημείωτα, τέτοια μοντέλα συχνά αποτυγχάνουν σε καταστάσεις όπου οι άνθρωποι αποτυγχάνουν — όταν τα ερεθίσματα γίνονται πολύ αφηρημένα ή έρχονται σε σύγκρουση με την προηγούμενη κατανόησή μας του κόσμου.’

Για να δοκιμάσουν το βαθμό στον οποίο τα υπερκλίμακα, GPT-επίπεδο μοντέλα NLP θα μπορούσαν να επηρεαστούν από τέτοιους περιορισμούς, οι ερευνητές έτρεξαν μια σειρά από τρεις δοκιμές σε ένα κατάλληλο μοντέλο, καταλήγοντας*

‘Βρίσκουμε ότι τα πλέον προηγμένα μεγάλα γλωσσικά μοντέλα (με 7 ή 70 δισεκατομμύρια παραμέτρους) αντανακλούν πολλά από τα ίδια πρότυπα που παρατηρούνται στους ανθρώπους σε αυτές τις εργασίες — όπως οι άνθρωποι, τα μοντέλα συλλογίζονται πιο αποτελεσματικά για πιστευτές καταστάσεις παρά για μη πραγματικές ή αφηρημένες.’

‘Τα αποτελέσματά μας έχουν επιπτώσεις για την κατανόηση τόσο των γνωστικών αυτών επιπτώσεων, όσο και των παραγόντων που συνεισφέρουν στην απόδοση των γλωσσικών μοντέλων.’

Το έγγραφο υποδηλώνει ότι η δημιουργία δεξιοτήτων συλλογισμού σε ένα AI χωρίς να του δώσει το όφελος της πραγματικής, σωματικής εμπειρίας που τοποθετεί τέτοιες δεξιότητες σε πλαίσιο, θα μπορούσε να περιορίσει το δυναμικό τέτοιων συστημάτων, παρατηρώντας ότι ‘η εδραιωμένη εμπειρία… υποθέτως υποστηρίζει ορισμένες ανθρώπινες πεποιθήσεις και συλλογισμούς’.

Οι συγγραφείς υποστηρίζουν ότι το AI βιώνει τη γλώσσα παθητικά, ενώ οι άνθρωποι τη βιώνουν ως ενεργό και κεντρικό στοιχείο για την κοινωνική επικοινωνία, και ότι αυτό το είδος ενεργού συμμετοχής (το οποίο συνεπάγεται συμβατικά κοινωνικά συστήματα ποινής και ανταμοιβής) θα μπορούσε να είναι ‘κλειδί’ για την κατανόηση της σημασίας με τον ίδιο τρόπο που οι άνθρωποι.

Οι ερευνητές παρατηρούν:

‘Ορισμένες διαφορές μεταξύ γλωσσικών μοντέλων και ανθρώπων μπορεί να προέρχονται από διαφορές μεταξύ της πλούσιας, εδραιωμένης, διαδραστικής εμπειρίας των ανθρώπων και της φτωχής εμπειρίας των μοντέλων.’

Προτείνουν ότι μια λύση θα μπορούσε να είναι μια περίοδος ‘προ-εκπαίδευσης’, πολύ όπως οι άνθρωποι την βιώνουν στο σχολικό και πανεπιστημιακό σύστημα, πριν από την εκπαίδευση σε βασικά δεδομένα που θα οδηγήσουν τελικά σε ένα χρήσιμο και ποικίλο γλωσσικό μοντέλο.

Αυτή η περίοδος ‘τυπικής εκπαίδευσης’ (όπως την αναλογούν οι ερευνητές) θα διέφερε από την συμβατική προ-εκπαίδευση της μηχανικής μάθησης (η οποία είναι μια μέθοδος για τη μείωση του χρόνου εκπαίδευσης με την επαναχρησιμοποίηση ημι-εκπαιδευμένων μοντέλων ή την εισαγωγή βαρών από πλήρως εκπαιδευμένα μοντέλα, ως ‘ώθηση’ για να ξεκινήσει η διαδικασία εκπαίδευσης).

Αντίθετα, θα αντιπροσώπευε μια περίοδο βιώσιμης μάθησης που σχεδιάζεται για την ανάπτυξη των λογικών δεξιοτήτων συλλογισμού του AI με έναν καθαρά αφηρημένο τρόπο, και για την ανάπτυξη κριτικών ικανοτήτων με τον ίδιο τρόπο που ένας φοιτητής πανεπιστημίου θα ενθαρρυνθεί να κάνει κατά τη διάρκεια της εκπαίδευσής του.

‘Πολλά αποτελέσματα,’ οι συγγραφείς αναφέρουν, ‘δείχνουν ότι αυτό μπορεί να μην είναι τόσο απίστευτο όσο ακούγεται’.

Το έγγραφο έχει τον τίτλο Τα γλωσσικά μοντέλα δείχνουν ανθρώπινα-όμοια περιεχόμενα επιπτώσεις στην σκέψη, και προέρχεται από έξι ερευνητές στο DeepMind, και έναν που συνδέεται και με το DeepMind και το Πανεπιστήμιο του Στάνφορντ.

Δοκιμές

Οι άνθρωποι μαθαίνουν αφηρημένες έννοιες μέσω πρακτικών παραδειγμάτων, με τον ίδιο τρόπο ‘εννοημένης σημασίας’ που συχνά βοηθά τους μαθητές γλώσσας να θυμηθούν λεξιλόγιο και γλωσσικούς κανόνες, μέσω μνημονικών. Το απλούστερο παράδειγμα είναι η διδασκαλία αφηρημένων αρχών στη φυσική με σενάρια ταξιδιών για τρένα και αυτοκίνητα.

Για να δοκιμάσουν τις ικανότητες αφηρημένης σκέψης ενός υπερκλίμακα γλωσσικού μοντέλου, οι ερευνητές σχεδίασαν μια σειρά από τρεις γλωσσικές/σημασιολογικές δοκιμές που μπορούν να είναι προκλητικές και για τους ανθρώπους. Οι δοκιμές εφαρμόστηκαν ‘zero-shot’ (χωρίς καμία λυμένη περίπτωση) και ‘five-shot’ (με πέντε προηγούμενες λυμένες περιπτώσεις).

Η πρώτη εργασία σχετίζεται με την συμπερασμό φυσικής γλώσσας (NLI), όπου το αντικείμενο (ένας άνθρωπος ή, σε αυτή την περίπτωση, ένα γλωσσικό μοντέλο) λαμβάνει δύο προτάσεις, μια ‘προκείμενη’ και μια ‘υπόθεση’ που φαίνεται να συνάγεται από την προκείμενη. Για παράδειγμα X είναι μικρότερο από το Y, Υπόθεση: Y είναι μεγαλύτερο από το X (λογική συνεπαγωγή).

Για την εργασία NLI, οι ερευνητές αξιολόγησαν τα γλωσσικά μοντέλα Chinchilla (ένα μοντέλο 70 δισεκατομμυρίων παραμέτρων) και 7B (ένα μοντέλο 7 δισεκατομμυρίων παραμέτρων της ίδιας σειράς), βρίσκοντας ότι για τις συνεπείς περιπτώσεις (δηλαδή αυτές που δεν ήταν ανοησίες), μόνο το μεγαλύτερο μοντέλο Chinchilla έλαβε αποτελέσματα υψηλότερα από την τύχη και σημείωσαν:

‘Αυτό δείχνει μια ισχυρή μεροληψία λόγω περιεχομένου: τα μοντέλα προτιμούν να ολοκληρώσουν την πρόταση με έναν τρόπο που είναι συνεπής με τις προηγούμενες προσδοκίες παρά με έναν τρόπο που είναι συνεπής με τους κανόνες της λογικής’.

Η απόδοση του Chinchilla με 70 δισεκατομμύρια παραμέτρους στην εργασία NLI. Και αυτό το μοντέλο και η λεπτότερη εκδοχή του 7B έδειξαν 'σημαντική μεροληψία λόγω πεποιθήσεων', σύμφωνα με τους ερευνητές.

Η απόδοση του Chinchilla με 70 δισεκατομμύρια παραμέτρους στην εργασία NLI. Και αυτό το μοντέλο και η λεπτότερη εκδοχή του 7B έδειξαν ‘σημαντική μεροληψία λόγω πεποιθήσεων’, σύμφωνα με τους ερευνητές. Πηγή: https://arxiv.org/pdf/2207.07051.pdf

Συλλογισμοί

Η δεύτερη εργασία παρουσιάζει μια πιο σύνθετη πρόκληση, συλλογισμοί – επιχειρήματα όπου δύο αληθινές προτάσεις φαίνεται να υποδηλώνουν μια τρίτη πρόταση (η οποία μπορεί ή δεν μπορεί να είναι μια λογική συνεπαγωγή που συναγεται από τις δύο προηγούμενες προτάσεις):

Από το υλικό της δοκιμής του εγγράφου, διάφορα ‘πραγματικά’ και παραδοξικά ή ανοησιά συλλογισμοί.

Εδώ, οι άνθρωποι είναι απίστευτα ατελείς, και μια κατασκευή που σχεδιάζεται για να εξηγήσει μια λογική αρχή γίνεται σχεδόν αμέσως, (και ίσως μόνιμα) μπλεγμένος και μπερδεμένος από ανθρώπινη ‘πίστη’ ως προς το ποια η σωστή απάντηση πρέπει να είναι.

Οι συγγραφείς σημειώνουν ότι μια μελέτη από το 1983 έδειξε ότι οι συμμετέχοντες επηρεάζονταν από το κατά πόσο το συμπέρασμα ενός συλλογισμού συμφωνούσε με τις δικές τους πεποιθήσεις, παρατηρώντας:

‘Οι συμμετέχοντες ήταν πολύ πιο πιθανό (90% του χρόνου) να δηλώσουν λανθασμένα ότι ένας άκυρος συλλογισμός ήταν έγκυρος, αν το συμπέρασμα ήταν πιστευτό, και έτσι κυρίως βασίζονταν στην πίστη παρά στην αφηρημένη σκέψη.’

Στη δοκιμή του Chinchilla σε μια σειρά από διαφορετικούς συλλογισμούς, πολλοί από τους οποίους οδηγούσαν σε ψευδή συμπεράσματα, οι ερευνητές βρήκαν ότι ‘η μεροληψία λόγω πεποιθήσεων οδηγεί σχεδόν όλες τις αποφάσεις zero-shot’. Εάν το γλωσσικό μοντέλο βρει ένα συμπέρασμα που δεν είναι συνεπής με την πραγματικότητα, το μοντέλο, οι συγγραφείς αναφέρουν, είναι ‘έντονα μεροληπτικό’ προς την κήρυξη της τελικής επιχειρηματολογίας ως άκυρης, ακόμη και όταν η τελική επιχειρηματολογία είναι μια λογική συνεπαγωγή των προηγούμενων προτάσεων.

Αποτελέσματα zero-shot για το Chinchilla (ο τρόπος που θα λάβουν οι περισσότεροι δοκιμαστές αυτές τις προκλήσεις, μετά από μια εξήγηση του οδηγού κανόνα), εικονογραφώντας τον τεράστιο χάσμα μεταξύ της υπολογιστικής ικανότητας ενός υπολογιστή και της ικανότητας ενός μοντέλου NLP να πλοηγηθεί σε αυτό το είδος 'νέου λογικού' προκλήσεων.

Αποτελέσματα zero-shot για το Chinchilla (ο τρόπος που θα λάβουν οι περισσότεροι δοκιμαστές αυτές τις προκλήσεις, μετά από μια εξήγηση του οδηγού κανόνα), εικονογραφώντας τον τεράστιο χάσμα μεταξύ της υπολογιστικής ικανότητας ενός υπολογιστή και της ικανότητας ενός μοντέλου NLP να πλοηγηθεί σε αυτό το είδος ‘νέου λογικού’ προκλήσεων.

Η εργασία Wason

Για την τρίτη δοκιμή, η ακόμη πιο προκλητική εργασία Wason λογικής προβλήματος μετατράπηκε σε μια σειρά από ποικίλες εκδοχές για το γλωσσικό μοντέλο να λύσει.

Η εργασία Wason, που σχεδιάστηκε το 1968, είναι φαινομενικά πολύ απλή: στους συμμετέχοντες δείχνονται τέσσερις κάρτες και τους αναφέρεται ένας αυθαίρετος κανόνας όπως ‘Εάν μια κάρτα έχει ένα “D” στην μια πλευρά, τότε έχει ένα “3” στην άλλη πλευρά.’ Οι τέσσερις ορατές όψεις των καρτών δείχνουν ‘D’, ‘F’, ‘3’ και ‘7’.

Από τους συμμετέχοντες ζητείται να γυρίσουν τις κάρτες που χρειάζονται για να επιβεβαιώσουν εάν ο κανόνας είναι αληθινός ή ψευδής.

Η σωστή λύση σε αυτό το παράδειγμα είναι να γυρίσουν τις κάρτες ‘D’ και ‘7’. Σε πρώτες δοκιμές, βρέθηκε ότι ενώ οι περισσότεροι (ανθρώπινοι) συμμετέχοντες θα επέλεγαν σωστά ‘D’, ήταν πιο πιθανό να επιλέξουν ‘3’ παρά ‘7’, μπερδεύοντας την αντιθετοαντίστροφη του κανόνα (‘όχι 3 υποδηλώνει όχι D’) με την αντίστροφη (‘3’ υποδηλώνει ‘D’, η οποία δεν είναι λογικά υποδηλωμένη).

Οι συγγραφείς σημειώνουν ότι η δυνατότητα προηγούμενης πίστης να παρέμβει στη λογική διαδικασία στους ανθρώπινους συμμετέχοντες, και σημειώνουν περαιτέρω ότι ακόμη και ακαδημαϊκοί μαθηματικοί και φοιτητές μαθηματικών γενικά σημείωσαν κάτω από 50% σε αυτήν την εργασία.

Ωστόσο, όταν το σχήμα μιας εργασίας Wason σε κάποιο τρόπο αντανακλά την ανθρώπινη πρακτική εμπειρία, η απόδοση παραδοσιακά αυξάνεται ανάλογα.

Οι συγγραφείς παρατηρούν, αναφερόμενοι σε προηγούμενες πειραματικές μελέτες:

‘[Εάν] οι κάρτες δείχνουν ηλικίες και ποτά, και ο κανόνας είναι “εάν πίνουν αλκοόλ, τότε πρέπει να είναι 21 ή μεγαλύτεροι” και δείχνουν κάρτες με ‘μπίρα’, ‘αναψυκτικό’, ‘25’, ‘16’, η πλειοψηφία των συμμετεχόντων επιλέγει σωστά να ελέγξει τις κάρτες που δείχνουν ‘μπίρα’ και ‘16’.’

Για να δοκιμάσουν την απόδοση του γλωσσικού μοντέλου στην εργασία Wason, οι ερευνητές δημιούργησαν ποικίλους ρεαλιστικούς και αυθαίρετους κανόνες, ορισμένους με λέξεις χωρίς νόημα, για να δουν εάν το AI θα μπορούσε να διεισδύσει στο περιεχόμενο για να διακρίνει ποιες ‘εικονικές κάρτες’ να γυρίσει.

Ορισμένα από τα πολλά προβλήματα Wason που παρουσιάστηκαν στις δοκιμές.

Ορισμένα από τα πολλά προβλήματα Wason που παρουσιάστηκαν στις δοκιμές.

Για τις δοκιμές Wason, το μοντέλο απέδωσε συγκρίσιμα με τους ανθρώπους σε ‘πραγματικές’ (όχι ανοησίες) εργασίες.

Αποτελέσματα zero-shot για την εργασία Wason για το Chinchilla, με το μοντέλο να αποδίδει καλύτερα από την τυχαία επιλογή, τουλάχιστον για τους 'πραγματικούς' κανόνες.

Αποτελέσματα zero-shot για την εργασία Wason για το Chinchilla, με το μοντέλο να αποδίδει καλύτερα από την τυχαία επιλογή, τουλάχιστον για τους ‘πραγματικούς’ κανόνες.

Το έγγραφο σχολιάζει:

‘Αυτό αντανακλά ευρήματα στην ανθρώπινη βιβλιογραφία: οι άνθρωποι είναι πολύ πιο ακριβείς στην απάντηση της εργασίας Wason όταν είναι πλαισιωμένη σε πραγματικές καταστάσεις παρά σε αυθαίρετους κανόνες για αφηρημένες ιδιότητες.’

Τυπική εκπαίδευση

Τα ευρήματα του εγγράφου πλαισιώνουν το δυναμικό συλλογισμού των υπερκλίμακα συστημάτων NLP στο πλαίσιο των δικών μας περιορισμών, τους οποίους φαίνεται να μεταβιβάζουμε στα μοντέλα, μέσω των συσσωρευμένων πραγματικών δεδομένων που τα τροφοδοτούν.Αφού οι περισσότεροι από εμάς δεν είμαστε ιδιοφυΐες, ούτε και τα μοντέλα των οποίων οι παράμετροι ενημερώνονται από τις δικές μας.

Επιπλέον, η νέα εργασία καταλήγει, έχουμε τουλάχιστον το πλεονέκτημα μιας μακράς περιόδου τυπικής εκπαίδευσης, και τις πρόσθετες κοινωνικές, οικονομικές και ακόμη και σεξουαλικές παρακινήσεις που αποτελούν την ανθρώπινη επιταγή. Όλα όσα τα γλωσσικά μοντέλα μπορούν να αποκτήσουν είναι τα αποτελέσματα αυτών των περιβαλλοντικών παραγόντων, και φαίνεται να συμμορφώνονται με τον γενικό παρά τον εξαιρετικό άνθρωπο.

Οι συγγραφείς αναφέρουν:

‘Τα αποτελέσματά μας δείχνουν ότι οι επιδράσεις του περιεχομένου μπορούν να αναδυθούν από την απλή εκπαίδευση ενός μεγάλου μοντέλου transformer για να μιμηθεί τη γλώσσα που παράγεται από την ανθρώπινη κουλτούρα, χωρίς να ενσωματώνουν αυτούς τους ειδικούς για τον άνθρωπο εσωτερικούς μηχανισμούς.

‘Με άλλα λόγια, τα γλωσσικά μοντέλα και οι άνθρωποι φτάνουν σε αυτές τις μεροληψίες λόγω περιεχομένου – αλλά από φαινομενικά πολύ διαφορετικές αρχιτεκτονικές, εμπειρίες και στόχους εκπαίδευσης.’

Έτσι, προτείνουν ένα είδος ‘εισαγωγικής εκπαίδευσης’ σε καθαρή σκέψη, η οποία έχει δείξει βελτίωση της απόδοσης του μοντέλου για μαθηματικά και γενική σκέψη. Επίσης, σημειώνουν ότι τα γλωσσικά μοντέλα έχουν επίσης εκπαιδευτεί ή ρυθμιστεί για να ακολουθούν οδηγίες σε αφηρημένο ή γενικευμένο επίπεδο, και να ελέγχουν, διορθώνουν ή μειώνουν τις μεροληψίες σε τη δική τους έξοδο.

 

* Η μετατροπή μου των εσωτερικών παραπομπών σε υπερσύνδεσμους.

Πρώτη δημοσίευση 15ης Ιουλίου 2022.

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai