Το ρόλο του tinyML στην ενεργοποίηση της υπολογιστικής όρασης στο άκρο – Ηγετικά πρόσωπα

Từ: Davis Sawyer, Συνιδρυτής & Διευθυντής Προϊόντων, Deeplite

Η υπολογιστική όραση έχει τεράστιο δυναμικό να βελτιώσει την καθημερινή μας ζωή – και υπάρχουν πολλές εφαρμογές και χρήσεις για αυτήν. Κάποιες παραδείγματα περιλαμβάνουν:

• Εξελιγμένα κουδούνια για την ασφάλεια του σπιτιού βοηθούν στην πρόληψη των “πλοίων του πορтю” και των εγκληματικών ενεργειών. Σύμφωνα με έρευνα της I.H.S. Markit (δημοσιευμένη στο SecurityInfoWatch) ο αριθμός των παγκοσμίων συσκευών επιτήρησης αναμενόταν να φτάσει το 1 δισεκατομμύριο το 2021. Μόνο στις Ηνωμένες Πολιτείες, ο αριθμός των συσκευών αναμενόταν να φτάσει τα 85 εκατομμύρια;
• Στα πάρκινγκ, οι κάμερες με ενεργοποιημένο AI αυτοματοποιούν τον εντοπισμό των διαθέσιμων και των κατειλημμένων θέσεων στάθμευσης, ενημερώνοντας τους καταναλωτές για τις διαθέσιμες θέσεις;
• Κάμερες στο ταμπλό των φορτηγών διαβάζουν τις πινακίδες ορίων ταχύτητας και μειώνουν δυναμικά την ταχύτητα του οχήματος για να βελτιώσουν την ασφάλεια;
• Και δρόνες με συνδεδεμένες κάμερες παρακολουθούν απομακρυσμένες και δύσκολα προσβάσιμες περιοχές και μπορούν να επεξεργαστούν εικόνες και να λάβουν αποφάσεις σε πραγματικό χρόνο.

Όλες αυτές οι εφαρμογές χρησιμοποιούν εξελιγμένες βίντεο αναλύσεις, οδηγούμενες από το AI και το ML, για να παρακολουθήσουν βίντεο, να χρησιμοποιήσουν ευφυΐα για να λάβουν αποφάσεις και στη συνέχεια να ενεργήσουν.

Η Υπολογιστική Όραση Χρειάζεται Περισσότερες Πόροι στο Άκρο

Ωστόσο, όπως πολλές εφαρμογές που οδηγούνται από το AI, η υπολογιστική όραση χρειάζεται εκρήξεις υπολογιστικής δύναμης, μνήμης και ενέργειας για να κάνει την πολύπλοκη ανάλυση και να λάβει αποφάσεις. Ενώ αυτό είναι εντάξει σε ένα κέντρο δεδομένων με πολλή υπολογιστική δύναμη, μπορεί να εμποδίσει την μεταφορά του AI στο άκρο. Συγκεκριμένα, μικρές συσκευές που βρίσκονται μακριά από τα εταιρικά κέντρα δεδομένων και λειτουργούν με μικρές μπαταρίες χρειάζονται einen νέο τύπο AI που είναι μικρότερος, ταχύτερος και “ελαφρύτερος” από τις παραδοσιακές προσεγγίσεις. Και οι υπάρχουσες συσκευές θα χρειαστούν να αναβαθμιστούν με νέες λειτουργίες AI + ML (υπολογιστική όραση) για να παραμείνουν βιώσιμες και ανταγωνιστικές.

Νέες Προοδεύσεις Ενισχύουν τα Βαθιά Νευρωνικά Δίκτυα

Σήμερα, νέες προοδεύσεις στο AI κάνουν τα Βαθιά Νευρωνικά Δίκτυα (DNNs) ταχύτερα, μικρότερα και πιο ενεργειακά αποδοτικά – και βοηθούν στην μεταφορά του AI από το cloud και τα κέντρα δεδομένων στα συσκευές άκρου και τις μπαταριών-κίνητες αισθητήρες. Όταν πρόκειται για την εκπαίδευση μοντέλων AI, η εκπληκτική αντίκτυπος άνθρακα έχει τεκμηριωθεί και συζητηθεί (π.χ. η εκπαίδευση ενός μοντέλου AI γλώσσας εκπέμπει τόσο CO2 όσο και 5 αυτοκίνητα σε όλη τη διάρκεια της ζωής τους). Ωστόσο, πρέπει να κατανοήσουμε τι είναι ο περιβαλλοντικός αντίκτυπος της εξαγωγής μοντέλων AI και πώς να μειώσουμε αυτόν τον αντίκτυπο. Αυτό είναι όπου η βελτίωση μοντέλων μπορεί να έχει τεράστιες ωφέλειες μέσω της μείωσης του οικονομικού και περιβαλλοντικού κόστους των DNNs.

Το TinyML Ενεργοποιεί το AI στις Μικρές Συσκευές

Μια τέτοια προοδεύση είναι το tinyML, μια ισχυρή νέα τάση για να ενεργοποιήσει τις μικρές, μπαταριών-κίνητες συσκευές να χρησιμοποιήσουν προηγμένα ML για να παραδώσουν υπολογιστική όραση και άλλες αναγνωριστικές εργασίες. Βοηθά στην εξαγωγή ML σε μικρές, περιορισμένες σε πόρους συσκευές, συνήθως στο άκρο του cloud, και βοηθά στην ενεργοποίηση εφαρμογών άκρου κοντά στον χρήστη.

Για παράδειγμα, ένας διακομιστής GPU όπως ο NVIDIA A100 έχει πάνω από 40GB διαθέσιμης μνήμης, που είναι κατάλληλο για να τρέξει πολύπλοκο AI όπως η υπολογιστική όραση και η επεξεργασία φυσικής γλώσσας. Ωστόσο, όταν μιλάμε για συσκευές άκρου και tinyML, ένας κοινός μικροελεγκτής (MCU) μπορεί να έχει μόνο 256KB εσωτερικής μνήμης, που είναι πάνω από 100.000 φορές λιγότερη μνήμη από το cloud! Επιπλέον, σε αντίθεση με τα κέντρα δεδομένων και το cloud, το υλικό των συσκευών άκρου δεν μπορεί εύκολα να ενημερωθεί στο πεδίο. Αυτό σημαίνει ότι πρέπει να “ταίξουμε” το AI μας στις διαθέσιμες συσκευές, που μπορεί να πάρει μήνες έως χρόνια δοκιμών και λαθών για τους développers να το επιτύχουν, αν αυτό είναι δυνατό. Αυτό είναι όπου το tinyML, ιδιαίτερα η αυτόματη μηχανική μάθηση (AutoML), μπορεί να παίξει einen σημαντικό ρόλο στην κατάρριψη των εμποδίων για την υιοθέτηση του AI στον πραγματικό κόσμο.

Και η επιρροή του tinyML αυξάνεται. Με πάνω από 10.000 μέλη, η κοινότητα tinyML Foundation μεγαλώνει το οικοσύστημα για να υποστηρίξει την ανάπτυξη και την ανάπτυξη υπερ-χαμηλής ισχύος λύσεων ML στο άκρο. Η Κοινότητα ενώνει μια παγκόσμια κοινότητα υλικού, λογισμικού, μηχανικής μάθησης, επιστημόνων δεδομένων, συστημικών μηχανικών, σχεδιαστών, προϊόντων και επιχειρηματιών.

Ένας Κόσμος Ευκαιριών

Συνολικά, υπάρχουν δισεκατομμύρια μικρές, συνδεδεμένες συσκευές παντού που μπορούν να ωφεληθούν από προηγμένη ευφυΐα. Η πρόκληση είναι ότι έχουν πολύ περιορισμένους πόρους, così πώς μπορούμε να προσθέσουμε ευφυΐα σε αυτές; Το tinyML μπορεί να παίξει einen σημαντικό ρόλο στην εισαγωγή του AI και του ML σε περισσότερες εφαρμογές υπολογιστικής όρασης, στο άκρο, σε μικρές συσκευές. Και αυτό μπορεί να ξεκλειδώσει έναν κόσμο ωφελημάτων για τους ανθρώπους και τις εταιρείες σε eine σειρά προϊόντων, υπηρεσιών και βιομηχανιών, βοηθώντας μας να προωθήσουμε σε νέες επικράτειες για το AI.