Νέα Συσκευή Τεχνητού Νευρώνα Μπορεί να Μειώσει Κατακόρυφα τις Ενεργειακές Απαιτήσεις για Νευρωνικές Υπολογιστικές Επιχειρήσεις

Ερευνητές στο Πανεπιστήμιο του Σαν Ντιέγκο έχουν αναπτύξει μια νέα συσκευή τεχνητού νευρώνα που μπορεί να εκτελέσει νευρωνικές υπολογιστικές επιχειρήσεις με 100 έως 1000 φορές λιγότερη ενέργεια και περιοχή από την τρέχουσα υλική βάση CMOS.

Η πρόσφατη αναφορά δημοσιεύθηκε σε một έγγραφο στις 18 Μαρτίου στο Nature Nanotechnology.

Για να παραχθεί η είσοδος για ένα από τα συνδεδεμένα στρώματα τεχνητών νευρώνων σε νευρωνικά δίκτυα, πρέπει να εφαρμοστεί μια μαθηματική υπολογισμός που ονομάζεται μη γραμμική συνάρτηση ενεργοποίησης. Ωστόσο, αυτή η εφαρμογή απαιτεί πολλή υπολογιστική ισχύ και κυκλώματα λόγω της ανάγκης μεταφοράς δεδομένων μεταξύ της μνήμης και του εξωτερικού επεξεργαστή.

Οι ερευνητές στο UC San Diego ανέπτυξαν μια νέα συσκευή νανομετρικού μεγέθους που μπορεί να εκτελέσει αυτή τη συνάρτηση ενεργοποίησης πολύ πιο αποτελεσματικά.

Η Duygu Kuzum είναι καθηγήτρια ηλεκτρικής και υπολογιστικής μηχανικής στο UC San Diego Jacobs School of Engineering.

«Η υπολογιστική επιχείρηση του νευρωνικού δικτύου σε υλικό γίνεται ολοένα και λιγότερο αποτελεσματική καθώς τα νευρωνικά μοντέλα γίνονται μεγαλύτερα και πιο σύνθετα», είπε η Kuzum. «Αναπτύξαμε μια seule νανοκλίμακα τεχνητή συσκευή νευρώνα που υλοποιεί αυτές τις υπολογιστικές επιχειρήσεις σε υλικό με πολύ αποτελεσματικό τρόπο.»

Η μελέτη διηύθυνε από την Kuzum και τον Ph.D. φοιτητή Shangheon Oh, και συνεργάστηκαν με τον καθηγητή φυσικής του UC San Diego Ivan Schuller, ο οποίος ηγείται ενός DOE Energy Frontier Research Center. Το κέντρο ασχολείται με την ανάπτυξη υλικών υλοποιήσεων ενεργειακά αποτελεσματικών τεχνητών νευρωνικών δικτύων.

Η Νέα Συσκευή

Η πρόσφατα αναπτυγμένη συσκευή βασίζεται σε μια rectified γραμμική μονάδα, η οποία είναι μια από τις πιο συχνές συναρτήσεις ενεργοποίησης που χρησιμοποιούνται στην εκπαίδευση νευρωνικών δικτύων. Απαιτεί υλικό που μπορεί να υποστεί σταδιακές αλλαγές στην αντίσταση, το οποίο είναι αυτό που οι μηχανικοί στόχευαν. Η συσκευή μπορεί να μεταβεί σταδιακά από μια μονωτική σε μια αγωγική κατάσταση με μια μικρή ποσότητα θερμότητας.

Ονομάζεται Mott μετάβαση, αυτή η αλλαγή συμβαίνει σε ένα εξαιρετικά λεπτό στρώμα διоксείδιου του βαναδίου, και πάνω από αυτό το στρώμα υπάρχει ένας νανοκαλώδιας θερμικός από τタン και χρυσό. Το στρώμα του διоксείδιου του βαναδίου ζεσταίνεται σιγά-σιγά όταν ρέει ρεύμα από τον νανοκαλώδια, και αυτό προκαλεί μια σιγά-σιγά και ελεγχόμενη αλλαγή από την μονωτική στην αγωγική.

Ο Oh είναι ο πρώτος συγγραφέας της μελέτης.

«Αυτή η αρχιτεκτονική της συσκευής είναι πολύ ενδιαφέρουσα και καινοτόμος», είπε ο Oh. «Σε αυτή την περίπτωση, ρέουμε ρεύμα από ένα νανοκαλώδιο πάνω από το υλικό για να το ζεστάνουμε και να προκαλέσουμε μια πολύ σταδιακή αλλαγή στην αντίσταση.»

Υλοποίηση της Συσκευής

Για την υλοποίηση, η ομάδα κατασκεύασε ένα πίνακα από συσκευές ενεργοποίησης και ένα πίνακα συναπτικών συσκευών, ακολουθούμενο από την ενοποίηση των δύο σε ένα εξατομικευμένο κύκλωμα. Στη συνέχεια, συνδέθηκαν μαζί, με αποτέλεσμα μια υλική εκδοχή ενός νευρωνικού δικτύου.

Το δίκτυο χρησιμοποιήθηκε για την επεξεργασία μιας εικόνας μέσω ανίχνευσης ακμής, αναγνωρίζοντας τους περιγράμματος και τις άκρες των αντικειμένων στην εικόνα. Το ολοκληρωμένο σύστημα υλικού απέδειξε την ικανότητά του να εκτελέσει συναρτήσεις σύγκλισης που είναι σημαντικές για διάφορα είδη βαθιάς νευρωνικών δικτύων.

«Για τώρα, αυτό είναι ένα concept», είπε η Kuzum. «Είναι ένα μικρό σύστημα στο οποίο έχουμε στοίβαξει μόνο ένα στρώμα συνάψεων με ένα στρώμα ενεργοποίησης. Αν στοιβάξουμε περισσότερα από αυτά μαζί, θα μπορούσατε να φτιάξετε ένα πιο σύνθετο σύστημα για διάφορες εφαρμογές.»