Βασικές αρχές της AI
Τι είναι το TinyML; Μηχανική Μάθηση σε Μικροελεγκτές
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Το TinyML φέρνει την εξαγωγή συμπερασμάτων μηχανικής μάθησης σε εξαιρετικά περιορισμένες συσκευές όπως μικροελεγκτές, μικρούς ψηφιακούς επεξεργαστές σήματος και αισθητήρες χαμηλής κατανάλωσης. Αυτά τα συστήματα μπορεί να διαθέτουν κιλομπάιτ ή μεγabytes μνήμης, αυστηρούς περιορισμούς ενέργειας, χωρίς συνεχόμενη σύνδεση δικτύου και προθεσμίες σε πραγματικό χρόνο.
Η αξία δεν είναι απλώς ένα μικρότερο μοντέλο. Η επεξεργασία κοντά στον αισθητήρα μπορεί να μειώσει την καθυστέρηση, το εύρος ζώνης και την έκθεση των ακατέργαστων δεδομένων, ενώ επιτρέπει προϊόντα που λειτουργούν για μεγάλες χρονικές περιόδους με μπαταρίες ή ενέργεια που συλλέγεται.
Βασικά σημεία
- Το TinyML ορίζεται από το συνολικό προϋπολογισμό υλικού και λογισμικού, όχι από ένα όριο μεγέθους μοντέλου.
- Η ποσοτικοποίηση, οι συμπαγείς αρχιτεκτονικές, οι βελτιστοποιημένοι πυρήνες και η προσεκτική προσωρινή αποθήκευση καθιστούν δυνατή την υλοποίηση.
- Η εκτέλεση στο ίδιο το σύστημα μπορεί να βελτιώσει το απόρρητο, αλλά οι ασφαλείς ενημερώσεις και η διακυβέρνηση δεδομένων παραμένουν σημαντικές.
- Αξιολογήστε την ακρίβεια μαζί με την καθυστέρηση, τη μέγιστη μνήμη, την ενέργεια, τον κύκλο λειτουργίας και την ανθεκτικότητα.
Η στοίβα TinyML
Ένας αισθητήρας καταγράφει ήχο, κίνηση, δόνηση, εικόνες ή άλλο σήμα. Το υλικολογισμικό το προεπεξεργάζεται σε χαρακτηριστικά ή τανυστές· ένα συμπαγές μοντέλο εκτελείται μέσω ενσωματωμένου χρόνου εκτέλεσης· η λογική της εφαρμογής αποφασίζει αν θα ενεργοποιήσει ένα μεγαλύτερο σύστημα ή θα ενεργήσει τοπικά.
Αυτή είναι μια περιορισμένη μορφή του edge AI. Το υλικό μπορεί να περιλαμβάνει έναν μικροελεγκτή (MCU), μνήμη, διεπαφές αισθητήρων και μερικές φορές έναν νευρωνικό επιταχυντή. Κάθε προσωρινή μνήμη, λειτουργία και αντιγραφή ανταγωνίζονται για περιορισμένους πόρους.
Κάντε το μοντέλο να ταιριάζει
Η ποσοτικοποίηση αντικαθιστά τις υψηλής ακρίβειας τιμές με μικρότερες ακέραιες αναπαραστάσεις. Η περικοπή, η απόσταξη, η μηχανική χαρακτηριστικών και η αναζήτηση αρχιτεκτονικής μπορούν να μειώσουν τον υπολογισμό ή την αποθήκευση. Η υποστήριξη λειτουργιών στο στοχευόμενο χρόνο εκτέλεσης περιορίζει ποια μοντέλα είναι πρακτικά.
Η εκπαίδευση συχνά πραγματοποιείται σε πιο ισχυρό υλικό, έπειτα το μοντέλο μετατρέπεται και μεταγλωττίζεται για τη συσκευή. Η μεταφορά μάθησης (transfer learning) μπορεί να μειώσει τις ανάγκες δεδομένων, αλλά το τελικό τεχνούργημα πρέπει να αξιολογηθεί μετά τη μετατροπή, επειδή αριθμητικές αλλαγές μπορούν να επηρεάσουν την ακρίβεια.
Δεδομένα και αλλαγές περιβάλλοντος
Οι ηχογραφήσεις σε εργαστήριο σπάνια αντιπροσωπεύουν κάθε μικρόφωνο, θέση τοποθέτησης, θερμοκρασία, μοτίβο δόνησης, προφορά ή συνθήκη φόντου. Συλλέξτε δεδομένα από αντιπροσωπευτικές συσκευές και περιβάλλοντα, διατηρήστε ανεξάρτητες τις πηγές εκπαίδευσης και δοκιμής, και συμπεριλάβετε περιπτώσεις «κανένα από τα παραπάνω».
Μια ψευδής ενεργοποίηση μπορεί να σπαταλήσει ενέργεια ή να ενοχλήσει τον χρήστη· μια χαμένη ανωμαλία μπορεί να είναι δαπανηρή. Επιλέξτε τα όρια χρησιμοποιώντας τα πραγματικά κόστη σφάλματος και παρακολουθήστε την απόδοση στο πεδίο μέσω περιλήψεων που διαφυλάσσουν το απόρρητο ή διαγνωστικών δειγμάτων, όπου είναι κατάλληλο.
Μετρήστε ολόκληρη τη συσκευή
Οι μετρήσεις λειτουργιών του μοντέλου δεν ισοδυναμούν με την απόδοση του προϊόντος. Αναφέρετε τη συχνότητα αφύπνισης, τον χρόνο προεπεξεργασίας, την καθυστέρηση εκτέλεσης, τη μέγιστη RAM, τη χρήση flash, τη μέση και μέγιστη ισχύ, τη θερμική συμπεριφορά και την επίδραση στην μπαταρία υπό έναν σαφή κύκλο λειτουργίας.
Σχεδιάστε υπογεγραμμένες ενημερώσεις υλικολογισμικού και μοντέλου, επαναφορά, ταυτότητα συσκευής και αντίδραση σε ευπάθειες. Οι μικρές συσκευές μπορεί να παραμείνουν σε λειτουργία για χρόνια, επομένως η διατηρησιμότητα αποτελεί μέρος της ποιότητας του μοντέλου. Οι έλεγχοι κυβερνοασφάλειας δεν μπορούν να αναβληθούν επειδή η συσκευή είναι μικρή.
Προϋπολογισμός μνήμης και υπολογισμού
Η flash αποθηκεύει το υλικολογισμικό, τα βάρη του μοντέλου και τις σταθερές· η RAM κρατά προσωρινές μνήμες αισθητήρων, ενδιάμεσες ενεργοποιήσεις και την κατάσταση του χρόνου εκτέλεσης. Η μέγιστη μνήμη ενεργοποίησης μπορεί να υπερβαίνει το μέγεθος των βαρών, ιδιαίτερα στα πρώτα στρώματα συνελικτικού δικτύου. Οι προγραμματιστές μνήμης επαναχρησιμοποιούν προσωρινές μνήμες των οποίων οι διάρκειες δεν επικαλύπτονται, ενώ η ροή χαρακτηριστικών αποφεύγει την αποθήκευση ολόκληρου παραθύρου σήματος.
Ο αριθμός λειτουργιών είναι μια αρχική εκτίμηση, αλλά η αποδοτικότητα του πυρήνα εξαρτάται από το σχήμα του τανυστή, την ευθυγράμμιση, την υποστήριξη εντολών και την πρόσβαση στη μνήμη. Μια βαθιά συνελικτική λειτουργία μπορεί να μειώσει την αριθμητική, αλλά να εκτελείται άσχημα σε υλικό χωρίς βελτιστοποιημένο πυρήνα. Δοκιμάστε το μεταγλωττισμένο μοντέλο στην στοχευόμενη πλακέτα, όχι μόνο σε προφίλ υπολογιστή.
Ο κύκλος λειτουργίας κυριαρχεί σε πολλά προϊόντα. Ο αισθητήρας και ο μικροελεγκτής μπορεί να κοιμούνται, να ξυπνήσουν για μια φθηνή ενεργοποίηση, να τρέξουν ένα μικρό μοντέλο και να ενεργοποιήσουν ραδιόφωνο ή μεγαλύτερο επεξεργαστή μόνο όταν χρειάζεται. Μετρήστε ολόκληρο τον κύκλο λειτουργίας, συμπεριλαμβανομένου του αισθητήρα, της μετατροπής, της προεπεξεργασίας, της αφύπνισης, της εκτέλεσης, της επικοινωνίας και της διαρροής σε αδράνεια.
Ανάπτυξη και μετατροπή μοντέλου
Ξεκινήστε με τους περιορισμούς υλοποίησης και συλλέξτε αντιπροσωπευτικά δεδομένα αισθητήρα. Η προεπεξεργασία που χρησιμοποιείται στην εκπαίδευση πρέπει να ταιριάζει ακριβώς με την υλοποίηση σταθερής υποδιαστολής ή ενσωματωμένη. Διαφορές στον ρυθμό δειγματοληψίας, το παράθυρο, τη μετατροπή χρώματος, την κανονικοποίηση ή την εξαγωγή χαρακτηριστικών μπορούν να κάνουν το μοντέλο να αποτύχει ακόμη και όταν η μετατροπή είναι επιτυχής.
Η ποσοτικοποίηση μετά την εκπαίδευση βαθμονομεί τα εύρη από αντιπροσωπευτικά δείγματα· η εκπαίδευση με επίγνωση ποσοτικοποίησης προσομοιώνει χαμηλότερη ακρίβεια κατά τη μάθηση. Οι κλίμακες βαρών ανά κανάλι συχνά διατηρούν την ποιότητα των συνελικτικών στρωμάτων καλύτερα από μία ενιαία κλίμακα. Οι μη υποστηριζόμενες λειτουργίες μπορούν να ξαναγραφούν, να προσεγγιστούν ή να μεταφερθούν σε πιο αργή εναλλακτική, η καθεμία απαιτώντας νέα αξιολόγηση.
Η συμπίεση πρέπει να βασίζεται σε υπόθεση. Η περικοπή αδόμητων βαρών μπορεί να μην επιταχύνει έναν πυκνό ενσωματωμένο πυρήνα· η δομημένη αφαίρεση καναλιών είναι πιο εύκολη για το υλικό. Η απόσταξη μεταφέρει τη συμπεριφορά από έναν μεγαλύτερο δάσκαλο, αλλά μπορεί να μεταφέρει και τις προκαταλήψεις και τα λάθη του. Συγκρίνετε με επεξεργασία σήματος και όρια κατωφλίου.
Εφαρμογές, δοκιμές στο πεδίο και συντήρηση
Κοινές εργασίες TinyML περιλαμβάνουν την ανίχνευση λέξεων-κλειδιών, την ανίχνευση φράσης αφύπνισης, την αναγνώριση χειρονομιών, την ανίχνευση ανωμαλιών δόνησης, την καταμέτρηση προσώπων, ηχητικά γεγονότα και απλή όραση. Το μοντέλο μπορεί να λειτουργεί ως πύλη αντί για την τελική απόφαση, εξοικονομώντας εύρος ζώνης ενώ στέλνει αβέβαιες ή σημαντικές περιπτώσεις σε πιο ικανό σύστημα.
Οι δοκιμές στο πεδίο πρέπει να καλύπτουν τις ανοχές της συσκευής, τη γήρανση των αισθητήρων, τη τοποθέτηση, την κατάσταση της μπαταρίας, τη θερμοκρασία, τον καιρό, τους χρήστες και την παρεμβολή φόντου. Καταγράψτε τις ψευδείς ενεργοποιήσεις ανά ώρα ή τα χαμένα συμβάντα ανά κύκλο λειτουργίας, όχι μόνο την ισορροπημένη ακρίβεια δοκιμής. Ένα όριο που επιλέγεται στο εργαστήριο μπορεί να χρειάζεται ειδική βαθμονόμηση για το προϊόν.
Σχεδιάστε υπογεγραμμένες ενημερώσεις over-the-air, επαναφορά, τηλεμετρία έκδοσης μοντέλου και μακροχρόνιες περιόδους υποστήριξης. Εάν οι ενημερώσεις είναι αδύνατες, χρησιμοποιήστε συντηρητικά μοντέλα και τεκμηριώστε την αναμενόμενη περιβαλλοντική μετατόπιση. Η διακοπή λειτουργίας πρέπει να ανακαλεί τα διαπιστευτήρια της συσκευής και να αντιμετωπίζει τα αποθηκευμένα δεδομένα, όχι απλώς να σταματήσει η πώληση του προϊόντος.
Παράδειγμα εφαρμογής: ένας TinyML παρακολουρητής δόνησης
Ένας μικρός επιταχυνσιόμετρο σε έναν κινητήρα δειγματοληπτεί τη δόνηση υπό κανονικά φορτία και γνωστές συνθήκες βλάβης. Η συσκευή δημιουργεί παράθυρα του σήματος, αφαιρεί το offset, υπολογίζει συμπαγή χαρακτηριστικά στο χρόνο ή στη συχνότητα και τρέχει έναν ανιχνευτή ανωμαλιών ή ταξινομητή. Ο ρυθμός δειγματοληψίας πρέπει να καταγράφει τις σχετικές συχνότητες ρουλεμάν και άξονα χωρίς να υπερφορτώνει τη μνήμη ή την ενέργεια. Οι ετικέτες πρέπει να προέρχονται από επαληθευμένες επιθεωρήσεις, όχι απλώς από συναγερμό που μπορεί να είναι λανθασμένος.
Η εκπαίδευση πραγματοποιείται σε σταθμό εργασίας, ακολουθούμενη από ποσοτικοποίηση, μετατροπή και μεταγλώττιση για τον στοχευόμενο μικροελεγκτή. Μετρήστε τη flash του μοντέλου, τη μέγιστη RAM, τον χρόνο εκτέλεσης, την ενέργεια και την ακρίβεια στη φυσική συσκευή. Η ακέραια αριθμητική και η διαθεσιμότητα λειτουργιών μπορούν να αλλάξουν τα αποτελέσματα του εκπαιδευτικού μοντέλου. Δοκιμάστε τον προσανατολισμό του αισθητήρα, τη τοποθέτηση, τη θερμοκρασία, την τάση, τις παραλλαγές των εξαρτημάτων και τη πραγματική δόνηση φόντου, όχι μόνο τα επιμελημένα εργαστηριακά αρχεία.
Η εγκατεστημένη συσκευή χρειάζεται βαθμονόμηση, ασφαλείς ενημερώσεις υλικολογισμικού, αναφορά έκδοσης, συμπεριφορά ασφαλείας και σχέδιο για μεταβολές. Μπορεί να μεταδίδει μόνο ένα δείκτη υγείας ή επιλεγμένα χαρακτηριστικά για εξοικονόμηση ενέργειας και προστασία των ακατέργαστων δεδομένων, αλλά οι τοπικοί ψευδείς συναγερμοί δημιουργούν κόστος συντήρησης. Χρησιμοποιήστε ένα σταδιακό όριο, απαιτήστε επιμονή και συνδυάστε τα αποδεικτικά του μοντέλου με την κατάσταση λειτουργίας. Το TinyML είναι πιο πολύτιμο όταν η τοπική καθυστέρηση, το απόρρητο, η συνδεσιμότητα ή οι περιορισμοί ενέργειας δικαιολογούν τα όριά του.
Οι δοκιμές παραγωγής πρέπει να περιλαμβάνουν αποκατάσταση μετά από διακοπή ρεύματος, μεταβολή ρολογιού, αποσυνδέσεις αισθητήρων, κατεστραμμένη είσοδο, εξάντληση μνήμης και διακοπές ενημερώσεων. Ορίστε τι συμβαίνει όταν το μοντέλο δεν μπορεί να τρέξει ή η εμπιστοσύνη καταρρεύσει: μια ασφαλής προεπιλογή, ένας σαφής δείκτης σφάλματος ή ένας συμβατικός κανόνας μπορεί να είναι προτιμότερο από μια σιωπηλή εικασία. Καταγράψτε τις εκδόσεις υλικού και υλικολογισμικού του στόλου ώστε ένα νέο σφάλμα να μπορεί να απομονωθεί σε αναθεώρηση συσκευής, περιβάλλον ή έκδοση μοντέλου.
Πρακτικός κατάλογος υλοποίησης
Μετατρέψτε την ιδέα σε ένα περιορισμένο, ελέγξιμο ροή εργασίας: ανίχνευση → προεπεξεργασία → εκτέλεση → απόφαση → δράση → ενημέρωση. Ορίστε έναν υπεύθυνο ιδιοκτήτη, τεκμηριώστε τα δεδομένα και τις εξαρτήσεις, δημιουργήστε μια απλή βάση αναφοράς, θέστε κριτήρια αποδοχής και διακοπής, δοκιμάστε αντιπροσωπευτικές αποτυχίες και ορίστε παρακολούθηση, επαναφορά και ανασκόπηση πριν επεκτείνετε το πεδίο. Καταγράψτε εκδόσεις και υποθέσεις ώστε μια άλλη ομάδα να μπορεί να αναπαράγει το αποτέλεσμα και να καταλάβει τι άλλαξε.
Πριν την κυκλοφορία, εκτελέστε μια τεκμηριωμένη αξιολόγηση ετοιμότητας με τα άτομα που κατασκευάζουν, λειτουργούν, ασφαλίζουν και επηρεάζονται από το σύστημα. Δοκιμάστε κανονικές περιπτώσεις, άκρα όρων, αποτυχίες εξαρτήσεων και κακή χρήση· διατηρήστε τα αποδεικτικά στοιχεία και τους ανοιχτούς κινδύνους. Ορίστε ποιος μπορεί να εγκρίνει την κυκλοφορία, να αλλάξει ένα όριο, να παρακάμψει ένα αποτέλεσμα ή να διακόψει τη λειτουργία. Επανεξετάστε την απόφαση μετά την άφιξη πραγματικών δεδομένων, επειδή μια τεχνικά επιτυχημένη πιλοτική φάση δεν εγγυάται αξιόπιστη απόδοση σε μεγαλύτερη κλίμακα.
- ΜΝΗΜΗ: βάρη, ενεργοποιήσεις και προσωρινές μνήμες.
- ΕΝΕΡΓΕΙΑ: κύκλος λειτουργίας και μετακίνηση δεδομένων.
- ΠΟΙΟΤΗΤΑ: ακρίβεια στο πεδίο υπό πραγματικές συνθήκες.
Συχνές ερωτήσεις
Είναι το TinyML το ίδιο με το mobile AI;
Όχι ακριβώς. Οι κινητές συσκευές είναι συστήματα άκρης με σχετικά μεγάλα επεξεργαστές και μνήμη. Το TinyML εστιάζει σε πολύ πιο αυστηρούς περιορισμούς ενσωματωμένων συστημάτων και μικροελεγκτών.
Μπορούν τα μοντέλα TinyML να μαθαίνουν στη συσκευή;
Οι περισσότερες υλοποιήσεις εκπαιδεύονται αλλού και εκτελούν εκτίμηση στη συσκευή. Η περιορισμένη προσαρμογή είναι δυνατή, αλλά η μνήμη, η ενέργεια, η σταθερότητα, το απόρρητο και η επαναφορά καθιστούν την εκπαίδευση στη συσκευή πιο δύσκολη.
Κύριες αναφορές
