Ερευνητές Χρησιμοποιούν Memristors Για τη Δημιουργία Περισσότερο Ενεργειακά Αποτελεσματικών Νευρωνικών Δικτύων

Ένας από τους λιγότερο γламουρόους аспектς της τεχνητής νοημοσύνης είναι ότι συχνά απαιτεί μεγάλη ποσότητα επεξεργαστικής ισχύος και επομένως έχει συχνά μεγάλη ενεργειακή αποτύπωση. Πρόσφατη εργασία που thực hiện από ερευνητές στο UCL έχει καθορίσει einen τρόπο βελτίωσης της ενεργειακής αποδοτικότητας ενός AI.

Τα νευρωνικά δίκτυα και η μηχανική μάθηση είναι ισχυρά εργαλεία, αλλά οι πιο εντυπωσιακές επιτεύξεις της τεχνητής νοημοσύνης συνήθως έχουν μεγάλο ενεργειακό κόστος. Για παράδειγμα, όταν το OpenAI δίδαξε σε einen ρομποτικό χέρι να χειρίζεται einen κύβο Ρούμπικ, εκτιμήθηκε ότι το επίτευγμα απαιτούσε περίπου 2,8 gigawatt-ώρες ηλεκτρικής ενέργειας.

Σύμφωνα με το TechExplore, ερευνητές στο UCL έχουν σχεδιάσει έναν νέο τρόπο δημιουργίας τεχνητών νευρωνικών δικτύων. Ο νέος τρόπος χρησιμοποιεί memristors για τη δημιουργία του δικτύου, τα οποία είναι περίπου 1000 φορές πιο ενεργειακά αποδοτικά από τα δίκτυα που δημιουργούνται με παραδοσιακές προσεγγίσεις. Οι memristors είναι συσκευές που μπορούν να θυμηθούν την ποσότητα ηλεκτρικού ρεύματος που τελευταία ρέει через αυτές, διατηρώντας αυτή τη μνήμη μετά την απενεργοποίηση. Αυτό σημαίνει ότι μπορούν να θυμηθούν την κατάστασή τους ακόμη και αν μια συσκευή χάσει την ενέργεια. Αν και οι memristors θεωρήθηκαν για πρώτη φορά πριν από περίπου 50 χρόνια, δεν ήταν μέχρι το 2008 που δημιουργήθηκε ένας πραγματικός memristor.

Οι memristors ονομάζονται иногда “νευρομορφικές” συσκευές ή “εμπνευσμένες από τον εγκέφαλο” συσκευές. Οι memristors είναι παρόμοιοι με τα δομικά στοιχεία που χρησιμοποιεί ο εγκέφαλος για την επεξεργασία πληροφοριών και τη δημιουργία μνήμης. Είναι πολύ αποτελεσματικοί σε σύγκριση με τα περισσότερα σύγχρονα συστήματα υπολογιστών. Αυτές οι συσκευές memristor έχουν χαρακτηριστικά των πυκνωτών και αντιστάσεων και τα τελευταία δέκα χρόνια περίπου έχουν κατασκευαστεί και χρησιμοποιηθεί σε eine ποικιλία συσκευών μνήμης. Η ομάδα ερευνητών του UCL ελπίζει ότι η έρευνά τους θα βοηθήσει αυτές τις συσκευές να χρησιμοποιηθούν για τη δημιουργία συστημάτων AI μέσα σε quelques χρόνια.

Παρά την αυξημένη ενεργειακή αποδοτικότητά τους, οι memristors είναι παραδοσιακά πολύ λιγότερο αποτελεσματικοί από τα κανονικά νευρωνικά δίκτυα, αλλά οι ερευνητές του UCL βρήκαν έναν τρόπο να αυξήσουν την ακρίβεια των memristors. Οι ερευνητές βρήκαν ότι όταν χρησιμοποιούν πολλά memristors, αυτά μπορούν να χωριστούν σε πολλές υποομάδες και στη συνέχεια οι υπολογισμοί τους να μετρηθούν μαζί. Η μέτρηση των υπολογισμών βοηθά τις ελαττώματα στις υποομάδες να ακυρωθούν και τα πιο σχετικά πρότυπα να βρεθούν.

Ο Δρ Adnan Mehonic και ο φοιτητής Dovydas Joksas (και οι δύο UCL Electronic and Electrical Engineering) και οι συνεργάτες τους ελέγξαν αυτή την προσέγγιση της μέτρησης σε διάφορους τύπους memristors και βρήκαν ότι η τεχνική φαινόταν να βελτιώνει την ακρίβεια σε όλους τους διαφορετικούς memristors που ελέγχθηκαν, όχι μόνο σε ένα ή δύο από αυτά. Οι βελτιώσεις της ακρίβειας εφαρμόστηκαν σε όλες τις ομάδες που ελέγχθηκαν, ανεξάρτητα από τον τύπο του υλικού από το οποίο κατασκευάστηκε ο memristor.

Σύμφωνα με τον Δρ Mehonic, όπως αναφέρεται στο TechExplore:

“Ελπίζαμε ότι μπορεί να υπάρχουν πιο γενικές προσεγγίσεις που βελτιώνουν όχι την συσκευή-επίπεδο, αλλά την συστήματος-επίπεδο συμπεριφορά, και πιστεύουμε ότι βρήκαμε μια. Η προσέγγισή μας δείχνει ότι, όταν πρόκειται για memristors, πολλά κεφάλια είναι καλύτερα από ένα. Η διάταξη του νευρωνικού δικτύου σε πολλά μικρότερα δίκτυα αντί για ένα μεγάλο δίκτυο οδήγησε σε μεγαλύτερη ακρίβεια συνολικά.”

Η ομάδα ερευνητών ήταν ενθουσιασμένη που είχε λάβει μια τεχνική επιστημών υπολογιστών και την είχε εφαρμόσει στα memristors, χρησιμοποιώντας επίσης μια κοινή τεχνική αποφυγής σφαλμάτων (μέτρηση υπολογισμών) για να αυξήσει την ακρίβεια των νευρωνικών δικτύων memristor. Ο συν-συγγραφέας καθηγητής Tony Kenyon του UCL Electronic & Electrical Engineering πιστεύει ότι οι memristors θα μπορούσαν “να παίξουν έναν ηγετικό ρόλο” στη δημιουργία πιο ενεργειακά βιώσιμων συσκευών edge computing και IoT.

Οι memristors δεν είναι μόνο πιο ενεργειακά αποδοτικοί από τα παραδοσιακά μοντέλα νευρωνικών δικτύων, αλλά μπορούν επίσης να ενσωματωθούν εύκολα σε μια φορητή, κινητή συσκευή. Αυτό προβλέπεται να είναι ολοένα και πιο σημαντικό στο άμεσο μέλλον, καθώς περισσότερα δεδομένα δημιουργούνται και μεταδίδονται συνεχώς, ακόμη και αν είναι δύσκολο να αυξηθεί η χωρητικότητα μετάδοσης πέρα από ένα certo σημείο. Οι memristors θα μπορούσαν να βοηθήσουν στην ενεργοποίηση της μεταφοράς μεγάλων όγκων δεδομένων με μια κλάσμα του ενεργειακού κόστους.