Εкспέρτες Αντιμετωπίζουν einen σημαντικό εμπόδιο στην τεχνολογία του AI χρησιμοποιώντας μηχανισμό του εγκεφάλου

Μια ομάδα εμπειρογνωμόνων της τεχνητής νοημοσύνης (AI) από διάφορες ερευνητικές εγκαταστάσεις έχουν ξεπεράσει ένα “μεγάλο, μακροχρόνιο εμπόδιο στην αύξηση των ικανοτήτων του AI”. Η ομάδα στράφηκε προς τον ανθρώπινο εγκέφαλο, που είναι η περίπτωση για πολλές αναπτύξεις του AI. Συγκεκριμένα, η ομάδα εστιάστηκε στον μηχανισμό μνήμης του ανθρώπινου εγκεφάλου που είναι γνωστός ως “αναπαραγωγή”.

Ο Gido van de Ven είναι ο πρώτος συγγραφέας και μεταδιδάκτορας ερευνητής. Συμμετείχε ο principal investigator Andreas Tolias στο Baylor, καθώς και η Hava Siegelmann στο UMass Amherst.

Η έρευνα δημοσιεύθηκε στο Nature Communications.

Η Νέα Μέθοδος

Σύμφωνα με τους ερευνητές, έχουν αναπτύξει μια νέα μέθοδο που προστατεύει αποτελεσματικά τα βαθιά νευρωνικά δίκτυα από την “καταστροφική λήθη”. Όταν ένα νευρωνικό δίκτυο μαθαίνει κάτι νέο, μπορεί να ξεχάσει τι είχε μάθει προηγουμένως.

Αυτό το εμπόδιο είναι αυτό που εμποδίζει πολλές προόδους του AI.

“Μια λύση θα ήταν να αποθηκεύσουμε προηγουμένως συναντηθέντα παραδείγματα και να τα ξαναεπισκεφθούμε όταν μαθαίνουμε κάτι νέο. Αν και τέτοια ‘αναπαραγωγή’ ή ‘επαναλαμβανόμενη άσκηση’ λύνει την καταστροφική λήθη, η συνεχής επαναεκπαίδευση σε όλα τα προηγουμένως μαθημένα καθήκοντα είναι εξαιρετικά ανεφάρμοστη και η ποσότητα δεδομένων που θα πρέπει να αποθηκευτεί γίνεται γρήγορα μη διαχειρίσιμη”, έγραψαν οι ερευνητές.

Ο Ανθρώπινος Εγκέφαλος

Οι ερευνητές drew έμπνευση από τον ανθρώπινο εγκέφαλο,既然 ότι είναι σε θέση να χτίζει πληροφορίες χωρίς να ξεχνά, το οποίο δεν είναι η περίπτωση για τα νευρωνικά δίκτυα του AI. Η τρέχουσα ανάπτυξη βασίστηκε σε προηγούμενη εργασία που είχαν κάνει οι ερευνητές, συμπεριλαμβανομένων ευρημάτων σχετικά με einen μηχανισμό στο εγκέφαλο που πιστεύεται ότι είναι υπεύθυνος για την αποφυγή της λήθης των μνημών. Αυτός ο μηχανισμός είναι η αναπαραγωγή των προτύπων νευρωνικής δραστηριότητας.

Σύμφωνα με την Siegelmann, η σημαντική ανάπτυξη προέρχεται από “την αναγνώριση ότι η αναπαραγωγή στον εγκέφαλο δεν αποθηκεύει δεδομένα”, αλλά “ο εγκέφαλος δημιουργεί αναπαραστάσεις μνημών σε υψηλότερο, πιο αφηρημένο επίπεδο χωρίς την ανάγκη να δημιουργηθούν λεπτομερείς μνήμες”.

Η Siegelmann πήρε αυτή την πληροφορία και συνεργάστηκε με τους συναδέλφους της για να αναπτύξουν μια αναπαραγωγή του εγκεφάλου με τεχνητή νοημοσύνη, όπου δεν αποθηκεύονταν δεδομένα. Όπως και στον ανθρώπινο εγκέφαλο, το τεχνητό δίκτυο λαμβάνει ότι έχει δει προηγουμένως για να δημιουργήσει υψηλής ποιότητας αναπαραστάσεις.

Η μέθοδος ήταν εξαιρετικά αποτελεσματική, με ακόμη και μόνο quelques αναπαραχθείσες γενικές αναπαραστάσεις που οδηγούσαν σε παλαιότερες μνήμες να θυμάται ενώ νέες μαθαινόταν. Η γενική αναπαραγωγή είναι αποτελεσματική στην αποφυγή της καταστροφικής λήθης, και ένα από τα κύρια πλεονεκτήματα είναι ότι επιτρέπει στο σύστημα να γενικεύσει από μια κατάσταση σε μια άλλη.

Σύμφωνα με τον van de Ven, “Εάν το δίκτυό μας με γενική αναπαραγωγή πρώτα μαθαίνει να διακρίνει γάτες από σκύλους και στη συνέχεια να διακρίνει αρκούδες από αλεπούδες, θα μας πει επίσης γάτες από αλεπούδες χωρίς να έχει εκπαιδευτεί ειδικά για αυτό. Και αξιοσημείωτα, όσο περισσότερο το σύστημα μαθαίνει, τόσο καλύτερα γίνεται στο να μαθαίνει новые καθήκοντα”.

“Προτείνουμε μια νέα, εμπνευσμένη από τον εγκέφαλο παραλλαγή της αναπαραγωγής, στην οποία εσωτερικές ή κρυφές αναπαραστάσεις αναπαράγονται που δημιουργούνται από τις δικές τους, контекστο-τροποποιημένες συνδέσεις ανατροφοδότησης του δικτύου”, γράφουν η ομάδα. “Η μέθοδός μας πέτυχε την κορυφαία απόδοση σε απαιτητικά συνεχή μαθήματα χωρίς να αποθηκεύει δεδομένα, και παρέχει ένα νέο μοντέλο για την αφηρημένη αναπαραγωγή στον εγκέφαλο”.

“Η μέθοδός μας προτείνει πολλές ενδιαφέρουσες προβλέψεις σχετικά με τον τρόπο που η αναπαραγωγή μπορεί να συνεισφέρει στην консολίδωση της μνήμης στον εγκέφαλο”, συνεχίζει ο Van de Ven. “Έχουμε ήδη ξεκινήσει ένα πείραμα για να δοκιμάσουμε κάποιες από αυτές τις προβλέψεις”.