Ερευνητές Χρησιμοποιούν Memristors για τη Δημιουργία Περισσότερο Ενεργειακά Αποτελεσματικών Νευρωνικών Δικτύων

Ένας από τους λιγότερο γламουρόους аспектους της τεχνητής νοημοσύνης είναι ότι συχνά απαιτεί μεγάλη ποσότητα επεξεργαστικής ισχύος και ως εκ τούτου έχει μεγάλη ενεργειακή αποτύπωση. Πρόσφατη εργασία που πραγματοποιήθηκε από ερευνητές στο UCL έχει καθορίσει einen μέθοδο για τη βελτίωση της ενεργειακής αποδοτικότητας ενός AI.

Τα νευρωνικά δίκτυα και η μηχανική μάθηση είναι ισχυρά εργαλεία, αλλά τα πιο εντυπωσιακά επιτεύγματα της τεχνητής νοημοσύνης συνήθως έχουν μεγάλο ενεργειακό κόστος. Για παράδειγμα, όταν η OpenAI taught ένα ρομποτικό χέρι να χειρίζεται ένα κύβο Rubik, υπολογίστηκε ότι το επίτευγμα απαιτούσε περίπου 2,8 gigawatt-ώρες ηλεκτρικής ενέργειας.

Σύμφωνα με το TechExplore, ερευνητές στο UCL έχουν σχεδιάσει eine νέα μέθοδο για τη δημιουργία τεχνητών νευρωνικών δικτύων. Η νέα μέθοδος χρησιμοποιεί memristors για τη δημιουργία του δικτύου, τα οποία είναι περίπου 1000 φορές πιο ενεργειακά αποδοτικά από τα δίκτυα που δημιουργούνται με παραδοσιακές προσεγγίσεις. Οι memristors είναι συσκευές που μπορούν να ανακαλέσουν την ποσότητα ηλεκτρικού ρεύματος που τελευταία ροήσε через αυτά, διατηρώντας αυτή τη μνήμη κατάσταση ακόμη και μετά το κλείσιμο. Αυτό σημαίνει ότι μπορούν να θυμηθούν την κατάστασή τους ακόμη και αν μια συσκευή χάσει την ισχύ της. mặc dù οι memristors θεωρήθηκαν για πρώτη φορά πριν από περίπου 50 χρόνια, δεν ήταν μέχρι το 2008 που δημιουργήθηκε ένας πραγματικός memristor.

Οι memristors αναφέρονται đôi vezes ως “νευρομορφικές” συσκευές ή “εμπνευσμένες από τον εγκέφαλο” συσκευές. Οι memristors είναι παρόμοιοι με τα δομικά στοιχεία που χρησιμοποιεί ο εγκέφαλος για την επεξεργασία πληροφοριών και τη δημιουργία μνημών. Είναι πολύ αποδοτικοί σε σύγκριση με τα περισσότερα σύγχρονα συστήματα υπολογιστών. Αυτές οι συσκευές memristor διαθέτουν χαρακτηριστικά των πυκνωτών και αντιστάσεων, και κατά τη διάρκεια της τελευταίας δεκαετίας έχουν κατασκευαστεί και χρησιμοποιηθεί σε eine ποικιλία συσκευών μνήμης. Η ερευνητική ομάδα του UCL ελπίζει ότι η έρευνά τους θα βοηθήσει αυτές τις συσκευές να χρησιμοποιηθούν για τη δημιουργία συστημάτων AI μέσα σε quelques χρόνια.

Παρά την αυξημένη ενεργειακή αποδοτικότητά τους, οι memristors είναι παραδοσιακά πολύ λιγότερο αποδοτικοί από τα κανονικά νευρωνικά δίκτυα, αλλά η ερευνητική ομάδα του UCL βρήκε έναν τρόπο για να αυξήσει την ακρίβεια των memristors. Οι ερευνητές βρήκαν ότι όταν χρησιμοποιούν πολλά memristors, αυτά μπορούν να χωριστούν σε πολλές υπο-ομάδες και στη συνέχεια οι υπολογισμοί τους να μετρηθούν μαζί. Η μέτρηση των υπολογισμών βοηθά τις ελαττώματα στις υπο-ομάδες να ακυρωθούν και τα πιο σχετικά πρότυπα να βρεθούν.

Ο Δρ. Adnan Mehonic και ο φοιτητής Dovydas Joksas (και οι δύο από το UCL Electronic and Electrical Engineering) και οι συν-συγγραφείς τους έκαναν αυτή την προσέγγιση της μέτρησης σε διάφορους τύπους memristors και βρήκαν ότι η τεχνική φαίνεται να βελτιώνει την ακρίβεια σε όλα τα memristors που δοκιμάστηκαν, όχι μόνο σε ένα ή δύο από αυτά. Η βελτίωση της ακρίβειας εφαρμόστηκε σε όλες τις ομάδες που δοκιμάστηκαν, ανεξάρτητα από το υλικό από το οποίο κατασκευάστηκαν οι memristors.

Σύμφωνα με τον Δρ. Mehonic, όπως αναφέρεται στο TechExplore:

“Ελπίζαμε ότι μπορεί να υπάρξει μια πιο γενική προσέγγιση που θα βελτιώσει όχι την συσκευή-επίπεδο, αλλά το σύστημα-επίπεδο συμπεριφορά, και πιστεύουμε ότι την βρήκαμε. Η προσέγγισή μας δείχνει ότι, όταν πρόκειται για memristors, πολλά κεφάλια είναι καλύτερα από ένα. Η διάταξη του νευρωνικού δικτύου σε πολλές μικρότερες ομάδες αντί για μια μεγάλη ομάδα οδήγησε σε μεγαλύτερη ακρίβεια συνολικά.”

Η ερευνητική ομάδα ήταν ενθουσιασμένη που πήραν μια τεχνική από την επιστήμη των υπολογιστών και την εφαρμόσαν στους memristors, χρησιμοποιώντας επίσης μια κοινή τεχνική αποφυγής σφαλμάτων (μέτρηση υπολογισμών) για να αυξήσει την ακρίβεια των νευρωνικών δικτύων memristor. Ο συν-συγγραφέας Professor Tony Kenyon του UCL Electronic & Electrical Engineering πιστεύει ότι οι memristors θα μπορούσαν να “πάρουν einen ηγετικό ρόλο” στη δημιουργία πιο ενεργειακά βιώσιμων συσκευών edge computing και IoT.

Οι memristors δεν είναι μόνο πιο ενεργειακά αποδοτικοί από τα παραδοσιακά μοντέλα νευρωνικών δικτύων, αλλά μπορούν επίσης να ενσωματωθούν σε μια φορητή, κινητή συσκευή. Αυτό είναι προβλεπόμενο να είναι αυξανόμενης σημασίας στο近 future, καθώς περισσότερα δεδομένα δημιουργούνται και μεταδίδονται συνεχώς, ακόμη και αν είναι δύσκολο να αυξηθεί η χωρητικότητα μετάδοσης πέρα από einen bestimmten σημείο. Οι memristors θα μπορούσαν να βοηθήσουν στην ενεργοποίηση της μεταφοράς μεγάλων ποσοτήτων δεδομένων με ένα κλάσμα του ενεργειακού κόστους.