Νέο Σύστημα Μπορεί να Φέρει Την Τεχνητή Νοημοσύνη σε Συσκευές Wearable, Οικιακές Συσκευές

Μια ομάδα ερευνητών στο MIT εργάζεται για την εφαρμογή των νευρωνικών δικτύων βαθιάς μάθησης σε μικροελεγκτές. Η πρόοδος αυτή σημαίνει ότι η τεχνητή νοημοσύνη (AI) μπορεί να εφαρμοστεί σε μικρές ψηφιακές ψηφίδες σε ιατρικές συσκευές wearable, οικιακές συσκευές και τα άλλα 250 δισεκατομμύρια αντικείμενα που αποτελούν το “διαδίκτυο των πραγμάτων” (IoT). Το IoT είναι ένα δίκτυο φυσικών αντικειμένων που είναι ενσωματωμένα με αισθητήρες, λογισμικό και άλλες τεχνολογίες, οι οποίες βοηθούν στη σύνδεση και ανταλλαγή δεδομένων με άλλα συσκευές και συστήματα.

Η έρευνα πρόκειται να παρουσιαστεί στη Διάσκεψη για Νευρωνική Επεξεργασία Πληροφοριών τον Δεκέμβριο. Ο κύριος συγγραφέας της έρευνας είναι ο Ji Lin, φοιτητής διδακτορικού στο εργαστήριο του Song Han στο Τμήμα Ηλεκτρικής Μηχανικής και Επιστήμης Υπολογιστών του MIT. Οι συν-συγγραφείς περιλαμβάνουν τους Han και Yujun Lin του MIT, τον Wei-Ming Chen του MIT και του Εθνικού Πανεπιστημίου της Ταϊβάν, και τους John Cohn και Chuan Gan του εργαστηρίου MIT-IBM Watson.

Σύστημα MCUNet

Το σύστημα ονομάζεται MCUNet και σχεδιάζει συμπαγείς νευρωνικές δικτύες που είναι ικανές για ακραία ταχύτητα και ακρίβεια σε συσκευές IoT, ακόμη και με περιορισμένη μνήμη και επεξεργαστική ισχύ. Αυτό το σύστημα μπορεί να είναι πιο ενεργειακά αποδοτικό και να βελτιώσει την ασφάλεια των δεδομένων.

Η ομάδα ανέπτυξε το “μικρό σύστημα βαθιάς μάθησης” συνδυάζοντας δύο компоненты – την λειτουργία των νευρωνικών δικτύων και των μικροελεγκτών. Η πρώτη компонента είναι ο TinyEngine, ένας μηχανισμός διεπαφής που λειτουργεί ως λειτουργικό σύστημα, κατευθύνοντας τη διαχείριση των πόρων. Ο TinyEngine είναι βελτιστοποιημένος για να εκτελεί μια συγκεκριμένη δομή νευρωνικού δικτύου που έχει επιλεγεί από τον TinyNAS, ο οποίος είναι η άλλη компонента. Ο TinyNAS είναι ένας αλγόριθμος αναζήτησης αρχιτεκτονικής νευρωνικού δικτύου.

Ο Lin ανέπτυξε τον TinyNAS λόγω της δυσκολίας εφαρμογής των υφιστάμενων τεχνικών αναζήτησης αρχιτεκτονικής νευρωνικού δικτύου σε μικροελεγκτές. Αυτές οι τεχνικές τελικά βρίσκουν την πιο ακριβή και οικονομική δομή δικτύου μετά από πολλές δυνατές δομές που βασίζονται σε ένα προκαθορισμένο πρότυπο.

“Μπορεί να λειτουργήσει khá καλά για GPU ή smartphones,” λέει ο Lin. “Αλλά είναι δύσκολο να εφαρμοστούν απευθείας αυτές οι τεχνικές σε μικροελεγκτές, επειδή είναι πολύ μικροί.”

Ο TinyNAS μπορεί να δημιουργήσει προσαρμοσμένες δομές δικτύου.

“Έχουμε πολλούς μικροελεγκτές που έρχονται με διαφορετικές ικανότητες ισχύος και διαφορετικά μεγέθη μνήμης,” λέει ο Lin. “Έτσι, ανέπτυξα τον αλγόριθμο [TinyNAS] για να βελτιστοποιήσω το χώρο αναζήτησης για διαφορετικούς μικροελεγκτές.”

Επειδή ο TinyNAS μπορεί να προσαρμοστεί, μπορεί να δημιουργήσει τις καλύτερες δυνατές συμπαγείς νευρωνικές δικτύες για μικροελεγκτές.

“Στη συνέχεια, παραδίδουμε το τελικό, αποτελεσματικό μοντέλο στον μικροελεγκτή,” συνεχίζει ο Lin.

Απαιτείται ένας καθαρός και λεπτός μηχανισμός διεπαφής για να εκτελέσει ο μικροελεγκτής το μικρό νευρωνικό δίκτυο. Πολλοί μηχανισμοί διεπαφής έχουν οδηγίες για σπάνια εκτελεσμένες εργασίες, οι οποίες θα μπορούσαν να εμποδίσουν τον μικροελεγκτή.

“Δεν έχει εξωτερική μνήμη και δεν έχει δίσκο,” λέει ο Han. “Όλα τα συστατικά μαζί είναι μόνο ένα megabyte flash, οπότε πρέπει να διαχειριστούμε πολύ προσεκτικά τέτοιο μικρό πόρο.”

Ο TinyEngine δημιουργεί τον κώδικα που χρειάζεται για να εκτελέσει το προσαρμοσμένο νευρωνικό δίκτυο που αναπτύχθηκε από τον TinyNAS. Ο χρόνος συλλογής μειώνεται με την απόρριψη του νεκρού κώδικα.

“Κρατάμε μόνο αυτό που χρειάζεται,” λέει ο Han. “Και既然 που σχεδιάσαμε το νευρωνικό δίκτυο, ξέρουμε ακριβώς τι χρειάζεται. Αυτό είναι το πλεονέκτημα του συστήματος-αλγόριθμου.”

Οι δοκιμές έδειξαν ότι ο κωδικός binary του TinyEngine ήταν 1,9 έως 5 φορές μικρότερος από παρόμοιους κινητές μηχανές, συμπεριλαμβανομένων εκείνων της Google (GOOGL ) και της ARM. Η μέγιστη χρήση μνήμης μειώθηκε επίσης σχεδόν στο μισό.

Ικανότητα του MCUNet

Οι πρώτες δοκιμές για το MCUNet αφορούσαν την ταξινόμηση εικόνων. Η βάση δεδομένων ImageNet χρησιμοποιήθηκε για την εκπαίδευση του συστήματος με ετικετεμένες εικόνες και η ικανότητά του δοκιμάστηκε σε νέες εικόνες.

Όταν το MCUNet δοκιμάστηκε σε μια εμπορική μικροελεγκτή, κατέταξε επιτυχώς το 70,7% των νέων εικόνων. Αυτό είναι πολύ καλύτερο από το προηγούμενο καλύτερο νευρωνικό δίκτυο και μηχανισμό διεπαφής, το οποίο ήταν 54% ακριβές.

“Ακόμη και μια βελτίωση 1% θεωρείται σημαντική,” λέει ο Lin. “Έτσι, αυτό είναι ένα γιγαντιαίο βήμα για τις ρυθμίσεις του μικροελεγκτή.”

Σύμφωνα με τον Kurt Keutzer, einen επιστήμονα υπολογιστών στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ, αυτό “εκτείνει τα όρια του σχεδιασμού του νευρωνικού δικτύου ακόμη περισσότερο στο πεδίο των μικρών ενεργειακά αποδοτικών μικροελεγκτών.” Το MCUNet θα μπορούσε “να φέρει ικανότητες υπολογιστή-ορασης σε ακόμη και τις πιο απλές οικιακές συσκευές ή να ενεργοποιήσει πιο έξυπνες αισθητήρες κίνησης.”

Το MCUNet επίσης βελτιώνει την ασφάλεια των δεδομένων.

“Ένα βασικό πλεονέκτημα είναι η διατήρηση της ιδιωτικής ζωής,” λέει ο Han. “Δεν χρειάζεται να μεταφέρετε τα δεδομένα στο cloud.”

Με την ανάλυση των δεδομένων τοπικά, υπάρχει μικρότερη πιθανότητα να υποστεί η προσωπική πληροφορία.

Εκτός από αυτό, το MCUNet θα μπορούσε να αναλύσει και να παρέχει πληροφορίες για πληροφορίες όπως η καρδιακή συχνότητα, η αρτηριακή πίεση και οι αναγνώσεις του επιπέδου οξυγόνου, να φέρει τη βαθιά μάθηση σε συσκευές IoT σε οχήματα και άλλα μέρη με περιορισμένη πρόσβαση στο διαδίκτυο και να μειώσει την ενεργειακή υπογραφή χρησιμοποιώντας μόνο một μικρό κλάσμα της ενέργειας που απαιτείται για τα μεγάλα νευρωνικά δίκτυα.