Orr Danon, CEO & Co-Founder of Hailo – Συνέντευξη Σειράς

Ο Orr Danon, είναι ο CEO & Co-Founder της Hailo, μια εταιρεία με αποστολή την ενεργοποίηση των έξυπνων τεχνολογιών edge για να φθάσουν στο πλήρες δυναμικό τους. Η λύση που παρουσιάζει η Hailo γέμιζε το χάσμα μεταξύ των υφιστάμενων και μελλοντικών τεχνολογιών AI και της υπολογιστικής ικανότητας που απαιτείται για την ενεργοποίηση αυτών των εφαρμογών. Η εταιρεία επικεντρώνεται στην κατασκευή επεξεργαστών AI που είναι αποδοτικοί και συμπαγείς enough για να υπολογίσουν και να ερμηνεύσουν τεράστια ποσά δεδομένων σε πραγματικό χρόνο.

Μπορείτε να μοιραστείτε την ιστορία της γέννησης της Hailo;

Συνίδρυσα την Hailo το 2017 μαζί με συναδέλφους που είχα συναντήσει προηγουμένως στην ελίτ τεχνολογική μονάδα του Ισραηλινού Στρατού (IDF). Ενώ εργαζόμουν με τους συνιδρυτές μου Rami Feig και Avi Baum σε λύσεις IoT (Internet of Things), μια λιγότερο γνωστή δομή – “Βαθιά Μάθηση” – συνέχιζε να εμφανίζεται σε όλη τη διάρκεια της έρευνάς μας. Τελικά, συγκεντρώσαμε εμπειρογνώμονες στο πεδίο για να αναπτύξουμε μια νέα λύση βαθιάς μάθησης που αποσκοπούσε στο να λύσει τα ελαττώματα της παλαιάς αρχιτεκτονικής υπολογιστή για να ενεργοποιήσει τις έξυπνες συσκευές να λειτουργούν πιο αποτελεσματικά και αποτελεσματικά στο edge. Μετά το άτυχο πέρασμα του Rami, η ομάδα της Hailo είδε το όραμά του – δημιουργώντας τον επαναστατικό επεξεργαστή AI της Hailo.

Μπορείτε να εξηγήσετε σύντομα γιατί η υπολογιστική στο edge είναι συχνά μια υπεροχή λύση σε σχέση με την υπολογιστική στο cloud;

Όταν ξεκινήσαμε την Hailo, οι διαταρακτικές τεχνολογίες AI ήταν σε μεγάλο βαθμό περιορισμένες στο cloud, ή σε μεγάλους κεντρικούς υπολογιστές, καθώς είναι δαπανηρές, απαιτούν υψηλή υπολογιστική ισχύ και εκτεταμένο υλικό για να τρέξουν, και καταναλώνουν σημαντική ποσότητα ενέργειας. Πιστεύουμε ότι η AI βοηθά στη δημιουργία ενός καλύτερου, ασφαλέστερου, πιο παραγωγικού και πιο ενδιαφέροντος κόσμου, αλλά για να συμβεί αυτό, η AI πρέπει να είναι διαθέσιμη στο edge επίσης. Για την εφαρμογή εφαρμογών σε πραγματικό χρόνο και χαμηλής καθυστέρησης σε συσκευές όπως δικτυακά συνδεδεμένες κάμερες, οχήματα και συσκευές IoT, η επεξεργασία στην πηγή είναι απαραίτητη για αποτελεσματική λειτουργία. Με την AI στο edge, μπορούμε να αξιοποιήσουμε πλήρως μια σειρά από κρίσιμες περιπτώσεις που δίνουν δύναμη στο μέλλον των έξυπνων πόλεων, της έξυπνης μεταφοράς, της αυτόνομης οδήγησης, των συστημάτων διαχείρισης βίντεο (VMS), της Βιομηχανίας 4.0, και πολλά άλλα.

Τι είναι κάποια από τα προβλήματα πίσω από την επεξεργασία οπτικών δεδομένων στο edge;

Ο στόχος είναι να λάβουμε όσο το δυνατόν περισσότερη απόδοση και όσο το δυνατόν περισσότερες λειτουργίες που μπορούν να συσκευαστούν σε συσκευές edge ώστε να μπορέσουν να επεξεργαστούν ένα τεράστιο ποσό οπτικών δεδομένων γρήγορα και με μικρή καθυστέρηση· ωστόσο, ένα από τα βασικά περιοριστικά είναι η κατανάλωση ενέργειας – και σε όρους της ποσότητας ενέργειας που μπορεί να παρασχεθεί στη συσκευή και της θερμότητας που παράγεται από τον επεξεργαστή.

Με έξυπνες κάμερες, για παράδειγμα, οι κατασκευαστές χρειάζονται έναν επεξεργαστή AI που να χωράει σε ένα περιτύλιγμα 2-3W επειδή η κάμερα δεν μπορεί να χρησιμοποιήσει ψύκτρα και επειδή γενικά θα έχει một περιορισμένη παροχή ενέργειας. Αυτά είναι οξέα σημεία πόνου επειδή σε τέτοια χαμηλή ισχύ, η απόδοση είναι εξαιρετικά περιορισμένη όταν χρησιμοποιούνται οι περισσότεροι επεξεργαστές στην αγορά.

Πώς η Hailo επανεφάρμοσε την αρχιτεκτονική του επεξεργαστή AI;

Το κάναμε αυτό σχεδιάζοντας ειδικά έναν επεξεργαστή AI που είναι κατασκευασμένος για να λειτουργήσει σε συσκευές edge, λαμβάνοντας υπόψη τα περιοριστικά μεγέθους και ισχύος. Κάνοντας così, ενεργοποιούμε μια πρωτοφανή υπολογιστική δύναμη σε συσκευές edge, επιτρέποντας τους να τρέχουν την AI πιο αποτελεσματικά και αποτελεσματικά και να εκτελέσουν σύνθετες εφαρμογές βαθιάς μάθησης όπως ανίχνευση αντικειμένων, αναγνώριση αντικειμένων, διαίρεση, και άλλες, με επίπεδα απόδοσης που προηγουμένως ήταν δυνατά μόνο στο cloud. Αυτή η μοναδική αρχιτεκτονική επιτρέπει την επεξεργασία πολλαπλών ροών και πολλαπλών εφαρμογών, βελτιώνοντας την απόδοση και την αποδοτικότητα των συσκευών edge.

Ένα παράδειγμα της χρήσης αυτής της αρχιτεκτονικής είναι τα Συστήματα Διαχείρισης Βίντεο (VMS). Αυτά τα συστήματα χρησιμοποιούνται σε περιοχές με πολλές κάμερες, όπως γραφεία, στάδια, έξυπνες πόλεις και αυτοκινητόδρομους για να διαχειριστούν καλύτερα την ασφάλεια και την ασφάλεια, συμπεριλαμβανομένης της παρακολούθησης για εκτάκτους ανάγκες και ατυχήματα, ύποπτη δραστηριότητα, διαχείριση κυκλοφορίας, έλεγχο πρόσβασης, συλλογή διοδίων και πολλά άλλα. Για πολλά χρόνια, οι επιχειρήσεις βασίζονταν αποκλειστικά σε χειροκίνητες διαδικασίες όταν επρόκειτο για τη συλλογή, ανάλυση και αποθήκευση δεδομένων βίντεο. Τώρα, με την μοναδική αρχιτεκτονική νευρωνικών δικτύων της Hailo, τα VMS μπορούν να εκτελέσουν πολλαπλές εργασίες παράλληλα, σε πραγματικό χρόνο, επιτρέποντας την επεξεργασία περισσότερων καναλιών και περισσότερων εφαρμογών ταυτόχρονα. Οι εφαρμογές περιλαμβάνουν προηγμένη αναγνώριση πινακίδων αμάξωματος (LPR), παρακολούθηση κυκλοφορίας, ανίχνευση συμπεριφοράς, και πολλά άλλα.

Μπορείτε να συζητήσετε τον πυρήνα επεξεργασίας νευρωνικών δικτύων και την προσέγγισή σας για τον υπολογισμό νευρωνικών δικτύων παράλληλα αντί για σειριακά;

Ο επεξεργαστής AI μας συνδυάζει πολλές καινοτομίες που αντιμετωπίζουν τις θεμελιώδεις ιδιότητες των νευρωνικών δικτύων. Εφαρμόσαμε ένα καινοτόμο σύστημα ελέγχου που βασίζεται σε μια συνδυασμένη υλικολογισμικού για να φθάσουμε σε πολύ χαμηλά joule ανά λειτουργία με υψηλό βαθμό ευελιξίας.

Η μοναδική αρχιτεκτονική μας προσανατολισμένη στη ροή δεδομένων προσαρμόζεται στην δομή του νευρωνικού δικτύου και επιτρέπει υψηλή αξιοποίηση πόρων. Ο συνταξιούχος δεδομένων της Hailo αποτελείται από πλήρη στοίβα λογισμικού, συνεκμεταλλευμένο με το υλικό μας, για να επιτρέψει την αποτελεσματική ανάπτυξη νευρωνικών δικτύων. Ο συνταξιούχος δεδομένων λαμβάνει το μοντέλο του χρήστη ως είσοδο. Κατά τη διάρκεια της ροής κατασκευής, ο συνταξιούχος δεδομένων διασπά κάθε στρώμα του δικτύου σε τα απαραίτητα στοιχεία υπολογισμού, παράγοντας ένα γράφο πόρων που είναι μια αναπαράσταση του στόχου δικτύου. Ο συνταξιούχος δεδομένων τότε αντιστοιχίζει το γράφο πόρων του στόχου δικτύου με τους φυσικούς πόρους που είναι διαθέσιμοι στον επεξεργαστή, παράγοντας einen προσαρμοσμένο αγωγό δεδομένων για το στόχο δικτύου. Όταν εκτελεστεί με αυτόν τον τρόπο, η εκτέλεση ενός μοντέλου σε μια συσκευή είναι εξαιρετικά αποτελεσματική, χρησιμοποιώντας ελάχιστους υπολογιστικούς πόρους σε όλες τις φορές.

Τι είναι κάποια από τα τρέχοντα πλαίσια της Hailo που είναι διαθέσιμα για τις επιχειρήσεις;

Ο επεξεργαστής Hailo-8™ και τα μονά AI μπορούν να συνδεθούν σε eine ποικιλία συσκευών edge, βοηθώντας να ενεργοποιήσουν πολλαπλά τομείς με υπεροχή ικανότητες AI – συμπεριλαμβανομένων των αυτοκινητοβιομηχανιών, έξυπνων πόλεων, έξυπνων λιανικών πωλήσεων, και βιομηχανίας 4.0.

Η Hailo έχει συνεργαστεί με κορυφαίους παίκτες VMS και ISV όπως Innovatrics, Network Optix, GeoVision, και Art of Logic, για να ενεργοποιήσει κορυφαίες επιδόσεις αναλυτικών βίντεο σε κλίμακα.

Πόσο χρόνο μπορούν να αποταθούν αυτές οι λύσεις στους πελάτες που ενσωματώνουν λύσεις AI;

Η πηγή ολοκληρωμένων λύσεων που τρέχουν σε καθιερωμένα πλαίσια VMS είναι αποτατική, αλλά αυτό δεν είναι το κύριο πλεονέκτημα του συστήματος. Οι λύσεις VMS που βασίζονται στη Hailo επιτρέπουν περισσότερες ροές να τρέχουν παράλληλα, και περισσότερες εφαρμογές να επεξεργαστούν για κάθε ροή.

Η ικανότητα να αξιοποιήσουμε την AI για την επεξεργασία πολλαπλών βίντεο ροών σημαίνει επίσης ότι μόνο συγκεκριμένα γεγονότα χρειάζεται να σταλούν στο cloud για αποθήκευση, επιτρέποντας σημαντικές εξοικονομήσεις σε εύρος ζώνης και χωρητικότητα αποθήκευσης.

Τι είναι κάποια μαθήματα που έχετε μάθει από την ανάπτυξη εφαρμογών βαθιάς μάθησης σε συσκευές edge;

Έχουμε δει από πρώτο χέρι πώς η AI στο edge θα παίξει ένα κρίσιμο ρόλο στην οδήγηση της καινοτομίας σε eine ποικιλία τομέων τα επόμενα χρόνια. Όσο οι επιχειρήσεις αναζητούν λύσεις που διασφαλίζουν ότι οι συσκευές τους είναι πιο ισχυρές, ποικίλες, ανταποκρινόμενες και ασφαλείς, το cloud θα συνεχίσει να δίνει τη θέση του σε συσκευές edge και υβριδικά μοντέλα. Αυτοί που θα επιτύχουν στην εφαρμογή της AI στο edge θα κερδίσουν einen πλεονέκτημα σε όλα.

Τι είναι το όραμά σας για το μέλλον της υπολογιστικής στο edge;

Η υπολογιστική στο edge — συγκεκριμένα η AI στο edge — έχει την ικανότητα να μεταμορφώσει πλήρως τον τρόπο με τον οποίο ο κόσμος γύρω μας λειτουργεί, ενεργοποιώντας συσκευές όπως έξυπνες κάμερες, έξυπνα οχήματα, αυτόνομα ρομπότ, προηγμένα εργαλεία διαχείρισης κυκλοφορίας, έξυπνη κατασκευή, έξυπνες fabriques και πολλά άλλα. Η AI στο edge έχει την δύναμη να αλλάξει όλα και όλα, ενεργοποιώντας νέες εφαρμογές για να κάνουν τον κόσμο μας έξυπνο και ασφαλέστερο. Η τεχνολογία επεξεργασίας AI της Hailo είναι ένας σημαντικός ενεργοποιητής όλων αυτών των περιπτώσεων. Θα συνεχίσουμε να συνεργαζόμαστε με κατασκευαστές και καινοτόμους σε όλο τον κόσμο για να κάνουμε αυτές τις λύσεις πιο προσιτές.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Hailo.