Krishna Rangasayee, Ιδρυτής & Διευθύνων Σύμβουλος της SiMa.ai – Σειρά Συνεντεύξεων

O Krishna Rangasayee είναι Ιδρυτής και Διευθύνων Σύμβουλος της SiMa.ai. Προηγουμένως, ο Krishna ήταν COO της Groq και στη Xilinx για 18 χρόνια, όπου κατείχε πολλές ανώτερες ηγετικές θέσεις, συμπεριλαμβανομένης του ανώτερου αντιπροέδρου και γενικού διευθυντή του συνόλου των επιχειρηματικών δραστηριοτήτων και του εκτελεστικού αντιπροέδρου των παγκόσμιων πωλήσεων. Κατά τη διάρκεια της θητείας του στη Xilinx, ο Krishna αύξησε τον κύκλο εργασιών της εταιρείας σε 2,5 δισεκατομμύρια δολάρια σε έσοδα με μικτό περιθώριο κέρδους 70%, δημιουργώντας ταυτόχρονα τις βάσεις για 10+ τριμήνια συνεχούς αύξησης και αύξησης του μεριδίου αγοράς. Προηγουμένως, κατείχε διάφορους τεχνικούς και επιχειρηματικούς ρόλους στην Altera Corporation και την Cypress Semiconductor. Κατέχει περισσότερα από 25 διεθνείς πατέντες και έχει υπηρετήσει στο διοικητικό συμβούλιο δημόσιων και ιδιωτικών εταιρειών.

Τι σας έκανε να ενδιαφερθείτε αρχικά για το machine learning;

Έχω μελετήσει τις αγορές του embedded edge και του cloud για τα τελευταία 20 χρόνια. Έχω δει πολλές καινοτομίες στο cloud, αλλά πολύ λίγες για την ενεργοποίηση του machine learning στο edge. Αυτή είναι μια αγορά που υπηρετείται ελάχιστα, με πάνω από 40 δισεκατομμύρια δολάρια, που έχει επιβιώσει με παλιές τεχνολογίες για δεκαετίες.

Έτσι, ξεκινήσαμε κάτι που κανείς δεν είχε κάνει πριν– να ενεργοποιήσουμε το Effortless ML για το embedded edge.

Μπορείτε να μοιραστείτε την ιστορία της SiMa;

Στην 20χρονη καριέρα μου, δεν είχα δει ποτέ καινοτομία αρχιτεκτονικής να συμβαίνει στην αγορά του embedded edge. Παρόλα αυτά, η ανάγκη για ML στο embedded edge αυξήθηκε στο cloud και στα στοιχεία του IoT. Αυτό αποδεικνύει ότι ενώ οι εταιρείες ζητούν ML στο edge, η τεχνολογία για να κάνει αυτό μια πραγματικότητα είναι υπερβολικά παρωχημένη για να λειτουργήσει αποτελεσματικά.

Λόγω αυτού, πριν η SiMa.ai αρχίσει να σχεδιάζει, ήταν σημαντικό να κατανοήσουμε τις μεγαλύτερες προκλήσεις των πελατών μας. Ωστόσο, να τους κάνουμε να δώσουν χρόνο σε μια νεοσύστατη εταιρεία για να αποσπάσουμε ουσιαστική και ειλικρινή ανατροφοδότηση ήταν μια δική της πρόκληση. Ευτυχώς, η ομάδα και εγώ μπορέσαμε να εκμεταλλευτούμε το δίκτυό μας από προηγούμενες σχέσεις όπου μπορούσαμε να εδραιώσουμε το όραμα της SiMa.ai με τις σωστές στοχευμένες εταιρείες.

Συναντήσαμε πάνω από 30 πελάτες και τους ζητήσαμε δύο βασικά ερωτήματα: “Ποίες είναι οι μεγαλύτερες προκλήσεις για την κλιμάκωση του ML στο embedded edge;” και “Πώς μπορούμε να σας βοηθήσουμε;” Μετά από πολλές συζητήσεις για το πώς ήθελαν να αναμορφώσουν την βιομηχανία και να ακούσουν τις προκλήσεις τους για να το επιτύχουν, απέκτησα μια βαθιά κατανόηση των πόνων τους και ανέπτυξα ιδέες για το πώς να τους λύσω. Αυτά περιλαμβάνουν:

• Λαμβάνοντας τα οφέλη του ML χωρίς μια απότομη καμπύλη μάθησης.
• Διατηρώντας τις εφαρμογές κληρονομιάς μαζί με την μελλοντική ασφάλεια των εφαρμογών ML.
• Εργασία με μια υψηλής απόδοσης, χαμηλής κατανάλωσης ενέργειας λύση σε ένα φιλικό περιβάλλον.

Γρήγορα, συνειδητοποιήσαμε ότι χρειαζόμαστε να παραδώσουμε μια σταδιακή προσέγγιση περιορισμένου κινδύνου για να βοηθήσουμε τους πελάτες μας. Ως μια νεοσύστατη εταιρεία, έπρεπε να φέρουμε κάτι τόσο συναρπαστικό και διαφοροποιημένο από όλους τους άλλους. Καμία άλλη εταιρεία δεν αντιμετώπισε αυτή τη σαφή ανάγκη, οπότε αυτή ήταν η οδός που επέλεξα να ακολουθήσω.

Η SiMa.ai πέτυχε αυτό το σπάνιο κατόρθωμα σχεδιάζοντας από το μηδέν την πρώτη στον κλάδο πλατφόρμα συστήματος μηχανικής μάθησης σε ένα τσιπ (MLSoC), ειδικού σκοπού και με επίκεντρο το λογισμικό. Με τον συνδυασμό πυριτίου και λογισμικού, το machine learning μπορεί τώρα να προστεθεί σε εφαρμογές embedded edge με το πάτημα ενός κουμπιού.

Μπορείτε να μοιραστείτε το όραμά σας για το πώς το machine learning θα αναμορφώσει όλα τα πράγματα στο edge;

Οι περισσότερες εταιρείες ML εστιάζουν σε αγορές υψηλής ανάπτυξης, όπως το cloud και την αυτόνομη οδήγηση. Παρόλα αυτά, είναι η ρομποτική, τα drones, το λιανεμπόριο χωρίς τριβές, οι έξυπνες πόλεις και η βιομηχανική αυτοματοποίηση που απαιτούν την τελευταία τεχνολογία ML για να βελτιώσουν την απόδοση και να μειώσουν το κόστος.

Αυτοί οι αναπτυσσόμενοι τομείς, μαζί με τις τρέχουσες απογοητεύσεις της ανάπτυξης του ML στο embedded edge, είναι ο λόγος που πιστεύουμε ότι η ώρα είναι ωριμή με ευκαιρίες. Η SiMa.ai προσεγγίζει αυτό το πρόβλημα με έναν εντελώς διαφορετικό τρόπο· θέλουμε να κάνουμε την ευρεία υιοθέτηση μια πραγματικότητα.

Τι έχει εμποδίσει μέχρι τώρα την κλιμάκωση του machine learning στο edge;

Το machine learning πρέπει να ενσωματωθεί εύκολα με τα υφιστάμενα συστήματα. Οι εταιρείες Fortune 500 και οι νεοσύστατες εταιρείες έχουν επενδύσει πολύ στις τρέχουσες τεχνολογικές πλατφόρμες, αλλά οι περισσότερες από αυτές δεν θα ξαναγράψουν όλο τον κώδικά τους ή δεν θα αναμορφώσουν πλήρως την υποκείμενη υποδομή για να ενσωματώσουν το ML. Για να μετριάσει τον κίνδυνο ενώ λαμβάνει τα οφέλη του ML, πρέπει να υπάρχει τεχνολογία που να επιτρέπει την αβίαστη ενσωμάτωση του κώδικα κληρονομιάς μαζί με το ML στα συστήματά τους. Αυτό δημιουργεί μια εύκολη οδό για την ανάπτυξη και εγκατάσταση αυτών των συστημάτων για να αντιμετωπίσουν τις ανάγκες της εφαρμογής ενώ παρέχει τα οφέλη από την ευφυΐα που φέρνει το machine learning.

Δεν υπάρχουν μεγάλες υποδοχές, δεν υπάρχει ένας μεγάλος πελάτης που θα επιφέρει καθοριστική αλλαγή, οπότε δεν είχαμε άλλη επιλογή παρά να υποστηρίξουμε πάνω από 1.000 πελάτες για να κλιμακώσουμε πραγματικά το machine learning και να φέρουμε την εμπειρία σε αυτούς. Ανακαλύψαμε ότι αυτοί οι πελάτες έχουν την επιθυμία για ML αλλά δεν έχουν την ικανότητα να λάβουν την εμπειρία μάθησης επειδή δεν έχουν την εσωτερική ικανότητα να χτίσουν και δεν έχουν την εσωτερική θεμελιώδη γνώση. Οπότε θέλουν να υλοποιήσουν την εμπειρία ML αλλά να το κάνουν χωρίς την καμπύλη μάθησης του embedded edge και αυτό που πραγματικά ήρθε γρήγορα είναι ότι πρέπει να κάνουμε αυτή την εμπειρία ML πολύ ανώδυνη για τους πελάτες.

Πώς είναι η SiMA σε θέση να μειώσει τόσο δραματικά την κατανάλωση ενέργειας σε σύγκριση με τους ανταγωνιστές;

Το MLSoC μας είναι ο υποκείμενος κινητήρας που πραγματικά ενεργοποιεί όλα, είναι σημαντικό να διαφοροποιήσουμε ότι δεν κατασκευάζουμε ένα ML accelerator. Για τα 2 δισεκατομμύρια δολάρια που επενδύθηκαν σε edge ML SoC startups, η απάντηση ολόκληρου του κλάδου στην καινοτομία ήταν μια μονάδα επιτάχυνσης ML με τη μορφή πυρήνα ή τσιπ. Τι οι άνθρωποι δεν αναγνωρίζουν είναι ότι για να μεταφέρουν τους ανθρώπους από ένα κλασικό SoC σε ένα ML περιβάλλον, χρειαζόμαστε ένα MLSoC περιβάλλον ώστε οι άνθρωποι να μπορούν να τρέχουν κώδικα κληρονομιάς από την πρώτη ημέρα και σταδιακά σε μια φάση με μετριασμένο κίνδυνο να αναπτύξουν την ικανότητά τους σε ένα ML συστατικό ή μια μέρα να κάνουν σημασιολογική κατάτμηση χρησιμοποιώντας μια κλασική προσέγγηση υπολογιστικής όρασης και την επόμενη μέρα να το κάνουν χρησιμοποιώντας μια ML προσέγγηση αλλά με τον ένα ή τον άλλο τρόπο επιτρέπουμε στους πελάτες μας την ευκαιρία να αναπτύξουν και να διαμερίσουν το πρόβλημά τους όπως το κρίνουν σωστό χρησιμοποιώντας κλασική υπολογιστική όραση, κλασική επεξεργασία ARM συστημάτων ή ετερογενή ML υπολογισμό. Για εμάς, το ML δεν είναι ένα τελικό προϊόν και επομένως ένα ML accelerator δεν θα είναι επιτυχημένο από μόνο του, το ML είναι μια ικανότητα και είναι ένα εργαλείο στην προσθήκη των άλλων εργαλείων που ενεργοποιούμε στους πελάτες μας ώστε να μπορούν, χρησιμοποιώντας μια μεθοδολογία push button, να επαναλάβουν το σχέδιό τους για την προεπεξεργασία, την μετα-επεξεργασία, την ανάλυση και την επιτάχυνση ML όλα σε μία ενιαία πλατφόρμα ενώ παραδίδουν την υψηλότερη απόδοση του συστήματος σε ολόκληρη την εφαρμογή με την χαμηλότερη κατανάλωση ενέργειας.

Τι είναι κάποια από τις βασικές προτεραιότητες της αγοράς για την SiMa;

Έχουμε αναγνωρίσει ορισμένες βασικές αγορές, κάποιες από τις οποίες είναι γρηγορότερες στο έσοδο από άλλες. Ο συντομότερος χρόνος μέχρι τη δημιουργία εσόδων είναι η έξυπνη όραση, η ρομποτική, η βιομηχανία 4.0 και τα drones. Οι αγορές που παίρνουν λίγο περισσότερο χρόνο λόγω των προϋποθέσεων και των προτύπων είναι οι αυτοκινητικές και οι ιατρικές εφαρμογές. Έχουμε ξεκινήσει σε όλους τους παραπάνω συνεργαζόμενοι με τους κορυφαίους παίκτες κάθε κατηγορίας.

Η λήψη εικόνας έχει γενικά γίνει στο edge, με ανάλυση στο cloud. Ποια είναι τα οφέλη της μετατόπισης αυτής της στρατηγικής;

Οι εφαρμογές edge χρειάζονται την επεξεργασία να γίνεται τοπικά, για πολλές εφαρμογές δεν υπάρχει αρκετός χρόνος για τα δεδομένα να πάνε στο cloud και πίσω. Η ικανότητα ML είναι θεμελιώδους σημασίας στις εφαρμογές edge επειδή οι αποφάσεις πρέπει να λαμβάνονται σε πραγματικό χρόνο, για παράδειγμα στις αυτοκινητικές εφαρμογές και τη ρομποτική όπου οι αποφάσεις πρέπει να επεξεργαστούν γρήγορα και αποτελεσματικά.

Γιατί οι εταιρείες πρέπει να θεωρήσουν τις λύσεις της SiMa έναντι των ανταγωνιστών;

Η μοναδική μεθοδολογία μας μιας προσέγγισης με επίκεντρο το λογισμικό, σε συνδυασμό με μια ολοκληρωμένη λύση υλικού. Έχουμε επικεντρωθεί σε μια ολοκληρωμένη λύση που αντιμετωπίζει αυτό που ονομάζουμε το Any, 10x και Pushbutton ως το κεντρικό σημείο των προβλημάτων των πελατών. Η αρχική θέση της εταιρείας είναι ότι πατάτε ένα κουμπί και παίρνετε ένα WOW! Η εμπειρία πρέπει να προσφέρει αρκετά υψηλό επίπεδο αφαίρεσης ώστε χιλιάδες προγραμματιστές να μπορούν να τη χρησιμοποιούν, αλλά δεν θέλετε να τους απαιτήσετε όλους να είναι ιδιοφυΐες στη μηχανική μάθηση, δεν θέλετε όλους να ρυθμίζουν στρώμα με στρώμα χειροκίνητα για να πάρουν την επιθυμητή απόδοση, θέλετε να μείνουν στο υψηλότερο επίπεδο αφαίρεσης και να αναπτύξουν γρήγορα και με νόημα την ανώδυνη ML. Οπότε η θέση της εταιρείας ήταν μια πολύ ισχυρή συσχέτιση με την κλιμάκωση, ότι πραγματικά χρειάζεται μια ανώδυνη εμπειρία ML και δεν απαιτεί πολλή υποστήριξη και υπηρεσίες που θα εμποδίσουν την κλιμάκωση.

Πέρασα το πρώτο χρόνο επισκέπτοντας πάνω από 50 πελάτες παγκοσμίως για να κατανοήσω αν όλοι θέλετε ML αλλά δεν το αναπτύσσετε. Γιατί; Τι έρχεται στο δρόμο σας για να αναπτύξετε πραγματικά το ML και τι απαιτείται για να προωθήσει τη μηχανική μάθηση σε ανάπτυξη μεγάλης κλίμακας; Και πραγματικά κατέληξε σε τρεις βασικούς πυλώνες, ο πρώτος είναι το ANY. Ως μια εταιρεία, πρέπει να λύσουμε προβλήματα με βάση το πλάτος των πελατών, και το πλάτος των μοντέλων χρήσης μαζί με την διασπορά μεταξύ των ML δικτύων, των αισθητήρων, του frame rate, της ανάλυσης. Είναι ένας πολύ διασπαρμένος κόσμος όπου κάθε αγορά έχει εντελώς διαφορετικές σχεδιαστικές προσόψεις και αν απλά πάρουμε ένα στενό κομμάτι δεν μπορούμε να οικοδομήσουμε οικονομικά μια εταιρεία, πρέπει πραγματικά να δημιουργήσουμε ένα χωνί που είναι ικανό να πάρει ένα πολύ ευρύ φάσμα εφαρμογών, σχεδόν σκεφτείτε αυτό το χωνί ως το Ellis Island για οτιδήποτε αφορά την υπολογιστική όραση. Οι άνθρωποι θα μπορούσαν να είναι στο tensorflow, θα μπορούσαν να χρησιμοποιούν Python, θα μπορούσαν να χρησιμοποιούν αισθητήρα κάμερας με 1080 ανάλυση ή θα μπορούσε να είναι αισθητήρας 4K ανάλυσης, δεν έχει σημασία αν μπορούμε να ομογενοποιήσουμε και να φέρουμε όλους και αν δεν έχετε το front end σαν αυτό δεν έχετε μια κλιμακώσιμη εταιρεία.

Ο δεύτερος πυλώνας είναι το 10x που σημαίνει ότι υπάρχει επίσης το πρόβλημα γιατί οι πελάτες δεν μπορούν να αναπτύξουν και να δημιουργήσουν παράγωγες πλατφόρμες επειδή όλα είναι μια επιστροφή στην αρχή για να χτίσουν ένα νέο μοντέλο ή pipeline. Η δεύτερη πρόκληση είναι ότι ως μια νεοσύστατη εταιρεία, πρέπει να φέρουμε κάτι πολύ συναρπαστικό, πολύ διαφοροποιημένο όπου όλοι και όλοι είναι πρόθυμοι να πάρουν τον κίνδυνο ακόμη και αν είστε μια νεοσύστατη εταιρεία με βάση έναν δείκτη δεκαπλάσιας απόδοσης. Το βασικό τεχνικό πλεονέκτημα που επικεντρωθήκαμε να λύσουμε για τα προβλήματα υπολογιστικής όρασης είναι το μετρικό καρέ ανά δευτερόλεπτο ανά watt. Πρέπει να είμαστε παράλογα καλύτεροι από όλους τους άλλους ώστε να μείνουμε μια γενιά ή δύο μπροστά, οπότε πήραμε αυτό ως μέρος της software-κεντρικής προσέγγισής μας. Αυτή η προσέγγιση δημιούργησε μια ετερογενή υπολογιστική πλατφόρμα ώστε οι άνθρωποι να μπορούν να λύσουν ολόκληρη την πορεία υπολογιστικής όρασης σε ένα μόνο τσιπ και να παραδώσουν 10x σε σύγκριση με άλλες λύσεις. Ο τρίτος πυλώνας του Pushbutton οδηγείται από την ανάγκη να κλιμακώσουμε το ML στο embedded edge με έναν σημαντικό τρόπο. Οι αλυσίδες ML εργαλείων είναι πολύ ανώριμες και συχνά δυσλειτουργικές· καμία εταιρεία δεν έχει πραγματικά δημιουργήσει μια εμπειρία λογισμικού ML παγκόσμιας κλάσης. Αναγνωρίσαμε περαιτέρω ότι για την αγορά embedded είναι σημαντικό να μασκάρουμε την πολυπλοκότητα του κώδικα embedded ενώ παράλληλα δίνουμε στους πελάτες μια επαναληπτική διαδικασία για να γρήγορα επανέλθουν και να βελτιώσουν τις πλατφόρμες τους. Οι πελάτες πραγματικά χρειάζονται μια εμπειρία pushbutton που τους δίνει μια απάντηση ή μια λύση σε λεπτά αντί σε μήνες για να επιτύχουν την ανώδυνη ML. ANY, 10x, και pushbutton είναι τα κλειδιά αξίας που έγιναν πραγματικά σαφής για εμάς ότι αν κάνουμε μια δουλειά με αυτά τα τρία πράγματα θα επιφέρουμε πραγματικά καθοριστική πρόοδο για την ανώδυνη ML και την κλιμάκωση του ML στο embedded edge.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε για την SiMa;

Στην πρώιμη ανάπτυξη της πλατφόρμας MLSoC, πιέζαμε τα όρια της τεχνολογίας και της αρχιτεκτονικής. Πήγαμε all-in σε μια πλατφόρμα με επίκεντρο το λογισμικό, η οποία ήταν μια εντελώς νέα προσέγγιση, η οποία πήγε ενάντια σε κάθε καθιερωμένη αντίληψη. Η διαδικασία να το καταλάβουμε και να το υλοποιήσουμε ήταν δύσκολη.

Μια πρόσφατη μεγάλη νίκη επικυρώνει τη δύναμη και τη μοναδικότητα της τεχνολογίας που έχουμε δημιουργήσει. Η SiMa.ai πέτυχε ένα σημαντικό ορόσημο τον Απρίλιο του 2023, ξεπερνώντας τον επικρατέστερο ηγέτη στην πρώτη μας MLPerf Benchmark απόδοση στην κατηγορία Closed Edge Power. Είμαστε υπερήφανοι που είμαστε η πρώτη νεοσύστατη εταιρεία που συμμετείχε και πέτυχε νικηφόρα αποτελέσματα στο πιο δημοφιλές και αναγνωρισμένο MLPerf benchmark της Resnet-50 για την απόδοση και την ενέργεια.

Ξεκινήσαμε με υψηλές φιλοδοξίες και μέχρι σήμερα, είμαι υπερήφανος που λέω ότι το όραμά μας έχει παραμείνει αμετάβλητη. Το MLSoC μας σχεδιάστηκε ειδικά για να πάει ενάντια στις βιομηχανικές νόρμες για την παράδοση μιας επαναστατικής ML λύσης στην αγορά embedded edge.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν την SiMa.ai.