Krishna Rangasayee, Ιδρυτής & Διευθύνων Σύμβουλος της SiMa.ai – Σειρά Συνεντεύξεων

O Krishna Rangasayee είναι Ιδρυτής και Διευθύνων Σύμβουλος της SiMa.ai. Προηγουμένως, ο Krishna ήταν COO της Groq και στη Xilinx για 18 χρόνια, όπου κατέχει πολλές ανώτερες ηγετικές θέσεις, συμπεριλαμβανομένης της Ανώτερης Αντιπροέδρου και Διευθύντριας του συνολικού επιχειρήματος, και της Εκτελεστικής Αντιπροέδρου των παγκόσμιων πωλήσεων. Κατά τη διάρκεια της θητείας του στη Xilinx, ο Krishna αυξήθηκε το επιχείρηση σε 2,5 δισεκατομμύρια δολάρια σε έσοδα με περιθώριο κέρδους 70%, δημιουργώντας ταυτόχρονα τις βάσεις για 10+ τριμήνια συνεχούς αύξησης και επέκτασης της αγοράς. Προηγουμένως, κατέχει διάφορους τεχνικούς και επιχειρηματικούς ρόλους στην Altera Corporation και την Cypress Semiconductor. Κατέχει hơn 25 διεθνείς πατέντες και έχει υπηρετήσει στο διοικητικό συμβούλιο δημόσιων και ιδιωτικών εταιρειών.

Τι σας έκανε να ενδιαφερθείτε αρχικά για το machine learning;

Έχω μελετήσει τις αγορές του embedded edge και του cloud για τα τελευταία 20 χρόνια. Έχω δει πολλές καινοτομίες στο cloud, αλλά πολύ λίγες για την ενεργοποίηση του machine learning στο edge. Đây είναι μια αγορά που υπηρετείται ελάχιστα, με πάνω από 40 δισεκατομμύρια δολάρια, που έχει επιβιώσει με παλιές τεχνολογίες για δεκαετίες.

Έτσι, ξεκινήσαμε κάτι που κανείς δεν είχε κάνει πριν– να ενεργοποιήσουμε το Effortless ML για το embedded edge.

Μπορείτε να μοιραστείτε την ιστορία της SiMa;

Στην 20χρονη καριέρα μου, δεν είχα δει ποτέ καινοτομία αρχιτεκτονικής να συμβαίνει στην αγορά του embedded edge. Παρόλα αυτά, η ανάγκη για ML στο embedded edge αυξήθηκε στο cloud και στα στοιχεία του IoT. Αυτό αποδεικνύει ότι ενώ οι εταιρείες ζητούν ML στο edge, η τεχνολογία για να κάνει αυτό μια πραγματικότητα είναι πολύ σκληρή για να λειτουργήσει.

Λόγω αυτού, πριν η SiMa.ai αρχίσει να σχεδιάζει, ήταν σημαντικό να κατανοήσουμε τις μεγαλύτερες προκλήσεις των πελατών μας. Ωστόσο, να τους κάνουμε να δώσουν χρόνο σε μια νεοσύστατη εταιρεία για να λάβουν σημαντική και ειλικρινή ανατροφοδότηση ήταν μια δική της πρόκληση. Ευτυχώς, η ομάδα και εγώ μπόρεσα να εκμεταλλευτούμε το δίκτυό μας από προηγούμενες σχέσεις όπου μπορούσαμε ναсолιδώσουμε την όραση της SiMa.ai με τις σωστές στοχευμένες εταιρείες.

Συναντήσαμε πάνω από 30 πελάτες και τους ζητήσαμε δύο βασικά ερωτήματα: “Ποίες είναι οι μεγαλύτερες προκλήσεις για την κλιμάκωση του ML στο embedded edge;” και “Πώς μπορούμε να σας βοηθήσουμε;” Μετά από πολλές συζητήσεις για το πώς ήθελαν να αναμορφώσουν την βιομηχανία και να ακούσουν τις προκλήσεις τους για να το επιτύχουν, απέκτησα μια βαθιά κατανόηση των πόνων τους και ανέπτυξα ιδέες για το πώς να τους λύσω. Αυτά περιλαμβάνουν:

• Λαμβάνοντας τα οφέλη του ML χωρίς μια απότομη καμπύλη μάθησης.
• Διατηρώντας τις εφαρμογές κληρονομιάς μαζί με την μελλοντική ασφάλεια των εφαρμογών ML.
• Εργασία με μια υψηλής απόδοσης, χαμηλής κατανάλωσης ενέργειας λύση σε ένα φιλικό περιβάλλον.

Γρήγορα, συνειδητοποιήσαμε ότι χρειαζόμαστε να παραδώσουμε μια μετριασμένη φάση για να βοηθήσουμε τους πελάτες μας. Jako μια νεοσύστατη εταιρεία, έπρεπε να φέρουμε κάτι τόσο συναρπαστικό και διαφοροποιημένο από όλους τους άλλους. Κανένα άλλο εταιρεία δεν αντιμετώπισε αυτή τη σαφή ανάγκη, οπότε αυτή ήταν η οδός που επέλεξα να ακολουθήσω.

Η SiMa.ai πέτυχε αυτό το σπάνιο κατόρθωμα με την αρχιτεκτονική από το έδαφος του πρώτου software-κεντρικού, purpose-κεντρικού Machine Learning System-on-Chip (MLSoC) platform. Με την συνδυασμένη σιλικόνη και λογισμικό, το machine learning μπορεί τώρα να προστεθεί σε εφαρμογές embedded edge με το πάτημα ενός κουμπιού.

Μπορείτε να μοιραστείτε την όρασή σας για το πώς το machine learning θα αναμορφώσει όλα τα πράγματα στο edge;

Οι περισσότερες εταιρείες ML εστιάζουν σε υψηλές αγορές, όπως το cloud και το αυτόνομο οδήγηση. Παρόλα αυτά, είναι η ρομποτική, τα drones, η τριβή, η έξυπνη πόλη και η βιομηχανική αυτοματοποίηση που απαιτούν την τελευταία τεχνολογία ML για να βελτιώσουν την απόδοση και να μειώσουν το κόστος.

Αυτές οι αυξανόμενες τομείς, μαζί με τις τρέχουσες απογοητεύσεις της ανάπτυξης του ML στο embedded edge, είναι ο λόγος που πιστεύουμε ότι η ώρα είναι ωριμή με ευκαιρίες. Η SiMa.ai προσεγγίζει αυτό το πρόβλημα με έναν εντελώς διαφορετικό τρόπο· θέλουμε να κάνουμε την ευρεία υιοθέτηση μια πραγματικότητα.

Τι έχει εμποδίσει μέχρι τώρα την κλιμάκωση του machine learning στο edge;

Το machine learning πρέπει να ενσωματωθεί εύκολα με τις υφιστάμενες συστήματα. Οι εταιρείες Fortune 500 και οι νεοσύστατες εταιρείες έχουν επενδύσει πολύ στις τρέχουσες τεχνολογικές πλατφόρμες, αλλά οι περισσότερες από αυτές δεν θα ξαναγράψουν όλο τον κώδικά τους ή δεν θα αναμορφώσουν完全 την υποκείμενη υποδομή για να ενσωματώσουν το ML. Για να μετριάσει τον κίνδυνο ενώ λαμβάνει τα οφέλη του ML, πρέπει να υπάρχει τεχνολογία που να επιτρέπει την αβίαστη ενσωμάτωση του κώδικα κληρονομιάς μαζί με το ML στα συστήματά τους. Αυτό δημιουργεί μια εύκολη οδό για την ανάπτυξη και την ανάπτυξη αυτών των συστημάτων για να αντιμετωπίσουν τις ανάγκες της εφαρμογής ενώ παρέχει τα οφέλη από την ευφυΐα που φέρνει το machine learning.

Δεν υπάρχουν μεγάλες υποδοχές, δεν υπάρχει ένας μεγάλος πελάτης που θα κινήσει το βελόνι, οπότε δεν είχαμε άλλη επιλογή παρά να υποστηρίξουμε πάνω από 1.000 πελάτες για να κλιμακώσουμε πραγματικά το machine learning και να φέρουμε την εμπειρία σε αυτούς. Ανακαλύψαμε ότι αυτοί οι πελάτες έχουν την επιθυμία για ML αλλά δεν έχουν την ικανότητα να λάβουν την εμπειρία μάθησης επειδή δεν έχουν την εσωτερική ικανότητα να χτίσουν και δεν έχουν την εσωτερική θεμελιώδη γνώση. Οπότε θέλουν να υλοποιήσουν την εμπειρία ML αλλά να το κάνουν χωρίς την καμπύλη μάθησης του embedded edge και αυτό που πραγματικά ήρθε γρήγορα είναι ότι πρέπει να κάνουμε αυτή την εμπειρία ML πολύ ανώδυνη για τους πελάτες.

Πώς είναι η SiMA σε θέση να μειώσει τόσο δραματικά την κατανάλωση ενέργειας σε σύγκριση με τους ανταγωνιστές;

Το MLSoC μας είναι ο υποκείμενος κινητήρας που πραγματικά ενεργοποιεί όλα, είναι σημαντικό να διαφοροποιήσουμε ότι δεν κατασκευάζουμε ένα ML accelerator. Για τα 2 δισεκατομμύρια δολάρια που επενδύθηκαν σε edge ML SoC startups, όλοι οι βιομηχανικοί απαντήσαντες στην καινοτομία έχουν ήταν ένα ML accelerator block ως πυρήνα ή chip. Τι οι άνθρωποι δεν αναγνωρίζουν είναι ότι για να μεταφέρουν τους ανθρώπους από ένα κλασικό SoC σε ένα ML περιβάλλον, χρειαζόμαστε ένα MLSoC περιβάλλον ώστε οι άνθρωποι να μπορούν να τρέχουν κώδικα κληρονομιάς από την πρώτη ημέρα και σταδιακά σε μια φάση με μετριασμένο κίνδυνο να αναπτύξουν την ικανότητά τους σε ένα ML συστατικό ή μια μέρα να κάνουν σεμαντική σегμεντάτωση χρησιμοποιώντας μια κλασική προσέγγηση υπολογιστικής όρασης και την επόμενη μέρα να το κάνουν χρησιμοποιώντας μια ML προσέγγηση αλλά με τον ένα ή τον άλλο τρόπο επιτρέπουμε στους πελάτες μας την ευκαιρία να αναπτύξουν και να διαμερίσουν το πρόβλημά τους όπως το κρίνουν σωστό χρησιμοποιώντας κλασική υπολογιστική όραση, κλασική επεξεργασία ARM συστημάτων ή ετερογενή ML υπολογισμό. Για εμάς, το ML δεν είναι ένα τελικό προϊόν και επομένως ένα ML accelerator δεν θα είναι επιτυχημένο από μόνο του, το ML είναι μια ικανότητα και είναι ένα εργαλείο στην προσθήκη των άλλων εργαλείων που ενεργοποιούμε στους πελάτες μας ώστε να μπορούν, χρησιμοποιώντας μια μεθοδολογία push button, να επαναλάβουν το σχέδιό τους για την προεπεξεργασία, την μετα-επεξεργασία, την ανάλυση και την επιτάχυνση ML όλα σε μια seule πλατφόρμα ενώ παραδίδουν την υψηλότερη απόδοση του συστήματος σε ολόκληρη την εφαρμογή με την χαμηλότερη κατανάλωση ενέργειας.

Τι είναι κάποια από τα основικά προτεραιότητες της αγοράς για την SiMa;

Έχουμε αναγνωρίσει beberapa κλειδιά αγορές, κάποιες από τις οποίες είναι γρηγορότερες στο έσοδο από άλλες. Η γρηγορότερη ώρα στο έσοδο είναι η έξυπνη όραση, η ρομποτική, η βιομηχανία 4.0 και τα drones. Οι αγορές που παίρνουν λίγο περισσότερο χρόνο λόγω των προϋποθέσεων και των προτύπων είναι οι αυτοκινητικές και οι ιατρικές εφαρμογές. Έχουμε ξεκινήσει σε όλους τους παραπάνω συνεργαζόμενοι με τους κορυφαίους παίκτες κάθε κατηγορίας.

Η λήψη εικόνας έχει γενικά γίνει στο edge, με ανάλυση στο cloud. Ποια είναι τα οφέλη της μετατόπισης αυτής της στρατηγικής;

Οι εφαρμογές edge χρειάζονται την επεξεργασία να γίνεται τοπικά, για πολλές εφαρμογές δεν υπάρχει αρκετός χρόνος για τα δεδομένα να πάνε στο cloud και πίσω. Η ικανότητα ML είναι θεμελιώδους σημασίας στις εφαρμογές edge επειδή οι αποφάσεις πρέπει να λαμβάνονται σε πραγματικό χρόνο, για παράδειγμα στις αυτοκινητικές εφαρμογές και τη ρομποτική όπου οι αποφάσεις πρέπει να επεξεργαστούν γρήγορα και αποτελεσματικά.

Γιατί οι εταιρείες πρέπει να θεωρήσουν τις λύσεις της SiMa έναντι των ανταγωνιστών;

Η μοναδική μεθοδολογία μας μιας software-κεντρικής προσέγγισης συσκευασμένης με μια ολοκληρωμένη hardware λύση. Έχουμε επικεντρωθεί σε μια ολοκληρωμένη λύση που αντιμετωπίζει αυτό που ονομάζουμε το Any, 10x και Pushbutton ως το κεντρικό σημείο των προβλημάτων των πελατών. Η αρχική θέση της εταιρείας είναι ότι πατάτε ένα κουμπί και παίρνετε ένα WOW! Η εμπειρία πρέπει πραγματικά να αφηθεί σε ένα σημείο όπου θέλετε να πάρει χιλιάδες dévelopερ να το χρησιμοποιήσουν, αλλά δεν θέλετε να τους απαιτήσετε όλους να είναι ML génies, δεν θέλετε όλους να ρυθμίζουν στρώμα με στρώμα χειροκίνητα για να πάρουν την επιθυμητή απόδοση, θέλετε να μείνουν στο υψηλότερο επίπεδο αφαίρεσης και να αναπτύξουν γρήγορα και με νόημα την ανώδυνη ML. Οπότε η θέση της εταιρείας ήταν μια πολύ ισχυρή συσχέτιση με την κλιμάκωση, ότι πραγματικά χρειάζεται μια ανώδυνη εμπειρία ML και δεν απαιτεί πολλή υποστήριξη και υπηρεσίες που θα εμποδίσουν την κλιμάκωση.

Πέρασα το πρώτο χρόνο επισκέπτοντας πάνω από 50 πελάτες παγκοσμίως για να κατανοήσω αν όλοι θέλετε ML αλλά δεν το αναπτύσσετε. Γιατί; Τι έρχεται στο δρόμο σας για να αναπτύξετε πραγματικά το ML και τι απαιτείται για να το推 ML σε μια κλιμάκωση; Και πραγματικά κατέληξε σε τρεις κλειδιά πυλώνες κατανόησης, η πρώτη είναι το ANY. Jako μια εταιρεία, πρέπει να λύσουμε προβλήματα με βάση το πλάτος των πελατών, και το πλάτος των μοντέλων χρήσης μαζί με την διασπορά μεταξύ των ML δικτύων, των αισθητήρων, του frame rate, της ανάλυσης. Είναι ένας πολύ διασπαρμένος κόσμος όπου κάθε αγορά έχει完全 διαφορετικές σχεδιαστικές προσόψεις και αν απλά πάρουμε ένα στενό κομμάτι δεν μπορούμε να οικοδομήσουμε οικονομικά μια εταιρεία, πρέπει πραγματικά να δημιουργήσουμε ένα φίλτρο που είναι ικανό να πάρει ένα πολύ ευρύ φάσμα εφαρμογών, σχεδόν σκέφτεται το φίλτρο ως το Ellis Island του παντός υπολογιστικού όρασης. Οι άνθρωποι θα μπορούσαν να είναι στο tensorflow, θα μπορούσαν να χρησιμοποιούν Python, θα μπορούσαν να χρησιμοποιούν αισθητήρα κάμερας με 1080 ανάλυση ή θα μπορούσε να είναι αισθητήρας 4K ανάλυσης, δεν έχει σημασία αν μπορούμε να ομογενοποιήσουμε και να φέρουμε όλους και αν δεν έχετε το front end σαν αυτό δεν έχετε μια κλιμακώσιμη εταιρεία.

Η δεύτερη πυλώνας είναι το 10x που σημαίνει ότι υπάρχει επίσης το πρόβλημα γιατί οι πελάτες δεν μπορούν να αναπτύξουν και να δημιουργήσουν παράγωγα πλατφόρμες επειδή όλα είναι μια επιστροφή στο σκρατς για να χτίσουν ένα νέο μοντέλο ή pipeline. Η δεύτερη πρόκληση είναι ότι ως μια νεοσύστατη εταιρεία, πρέπει να φέρουμε κάτι πολύ συναρπαστικό, πολύ διαφοροποιημένο όπου όλοι και όλοι είναι πρόθυμοι να πάρουν τον κίνδυνο ακόμη και αν είστε μια νεοσύστατη εταιρεία με βάση einen 10x μετρικό απόδοση. Το ένα κλειδί τεχνικό μερίδιο που επικεντρωθήκαμε να λύσουμε για τα προβλήματα υπολογιστικής όρασης είναι το μετρικό frames per second per watt. Πρέπει να είμαστε παράλογα καλύτεροι από όλους τους άλλους ώστε να μείνουμε μια γενιά ή δύο μπροστά, οπότε πήραμε αυτό ως μέρος της software-κεντρικής προσέγγισής μας. Αυτή η προσέγγιση δημιούργησε μια ετερογενή υπολογιστική πλατφόρμα ώστε οι άνθρωποι να μπορούν να λύσουν ολόκληρη την πορεία υπολογιστικής όρασης σε ένα seul chip και να παραδώσουν 10x σε σύγκριση με άλλες λύσεις. Η τρίτη πυλώνας του Pushbutton οδηγείται από την ανάγκη να κλιμακώσουμε το ML στο embedded edge με έναν σημαντικό τρόπο. Οι αλυσίδες ML εργαλείων είναι πολύ νέα, συχνά σπασμένες, keine εταιρεία έχει πραγματικά χτιστεί μια παγκόσμια κλάση ML software εμπειρία. Αναγνωρίσαμε περαιτέρω ότι για την αγορά embedded είναι σημαντικό να μασκάρουμε την πολυπλοκότητα του κώδικα embedded ενώ παράλληλα δίνουμε στους πελάτες μια διαδικασία επανάκλησης για να γρήγορα επανέλθουν και να βελτιώσουν τις πλατφόρμες τους. Οι πελάτες πραγματικά χρειάζονται μια εμπειρία pushbutton που τους δίνει μια απάντηση ή μια λύση σε λεπτά αντί σε μήνες για να επιτύχουν την ανώδυνη ML. ANY, 10x, και pushbutton είναι τα κλειδιά αξίας που έγιναν πραγματικά σαφής για εμάς ότι αν κάνουμε μια δουλειά με αυτά τα τρία πράγματα θα κινήσουμε πραγματικά το βελόνι για την ανώδυνη ML και την κλιμάκωση του ML στο embedded edge.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε για την SiMa;

Στην πρώιμη ανάπτυξη της πλατφόρμας MLSoC, πίεζα τα όρια της τεχνολογίας και της αρχιτεκτονικής. Πήγαμε all-in σε μια software-κεντρική πλατφόρμα, η οποία ήταν μια εντελώς νέα προσέγγιση, η οποία πήγε ενάντια στο grain όλων των συμβατικών σοφών. Η διαδικασία να το καταλάβουμε και να το υλοποιήσουμε ήταν δύσκολη.

Μια πρόσφατη μεγάλη νίκη επικυρώνει τη δύναμη και τη μοναδικότητα της τεχνολογίας που έχουμε χτιστεί. Η SiMa.ai πέτυχε ένα σημαντικό ορόσημο τον Απρίλιο του 2023, ξεπερνώντας τον επικρατέστερο ηγέτη στην πρώτη μας MLPerf Benchmark απόδοση στην κατηγορία Closed Edge Power. Είμαστε υπερήφανοι που είμαστε η πρώτη νεοσύστατη εταιρεία που συμμετείχε και πέτυχε νικηφόρα αποτελέσματα στο πιο δημοφιλές και αναγνωρισμένο MLPerf benchmark της Resnet-50 για την απόδοση και την ενέργεια.

Ξεκινήσαμε με υψηλές πτήσεις και μέχρι σήμερα, είμαι υπερήφανος που λέω ότι η όρασή μας έχει παραμείνει αμετάβλητη. Το MLSoC μας ήταν purpose-κεντρικό για να πάει ενάντια στις βιομηχανικές νόρμες για την παράδοση μιας επαναστατικής ML λύσης στην αγορά embedded edge.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν την SiMa.ai.