Krishna Rangasayee, Fondateur et PDG de SiMa.ai – Série d’entretiens

Krishna Rangasayee est le fondateur et le PDG de SiMa.ai. Auparavant, Krishna était le directeur des opérations de Groq et a travaillé chez Xilinx pendant 18 ans, où il a occupé plusieurs postes de direction, notamment celui de vice-président senior et de directeur général de l’ensemble de l’entreprise, ainsi que de vice-président exécutif des ventes mondiales. Pendant son séjour chez Xilinx, Krishna a fait croître l’entreprise à 2,5 milliards de dollars de chiffre d’affaires avec une marge brute de 70 %, tout en créant les fondations pour 10 trimestres consécutifs de croissance et d’expansion du marché. Avant Xilinx, il a occupé divers postes d’ingénieur et de gestionnaire chez Altera Corporation et Cypress Semiconductor. Il détient plus de 25 brevets internationaux et a siégé au conseil d’administration de sociétés publiques et privées.

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

J’ai été un étudiant des marchés de l’edge et du cloud pendant les 20 dernières années. J’ai vu beaucoup d’innovations dans le cloud, mais très peu pour permettre l’apprentissage automatique à l’edge. C’est un marché massivement sous-estimé de plus de 40 milliards de dollars qui survivait sur une vieille technologie depuis des décennies.

Nous avons donc entrepris quelque chose que personne n’avait jamais fait – permettre un apprentissage automatique sans effort pour l’edge embarqué.

Pouvez-vous partager l’histoire de la création de SiMa ?

Au cours de mes 20 ans de carrière, je n’avais jamais vu d’innovation architecturale se produire sur le marché de l’edge embarqué. Pourtant, le besoin d’apprentissage automatique à l’edge a augmenté avec le cloud et les éléments de l’Internet des objets. Cela prouve que les entreprises demandent de l’apprentissage automatique à l’edge, mais que la technologie pour rendre cela possible est trop rigide pour fonctionner réellement.

Par conséquent, avant même que SiMa.ai ne commence à concevoir notre plate-forme, il était important de comprendre les plus grands défis de nos clients. Cependant, les inciter à passer du temps avec une startup en démarrage pour obtenir des commentaires significatifs et sincères était un défi en soi. Heureusement, l’équipe et moi avons pu utiliser notre réseau de relations passées pour solidifier la vision de SiMa.ai avec les bonnes entreprises ciblées.

Nous avons rencontré plus de 30 clients et leur avons posé deux questions de base : « Quels sont les plus grands défis pour mettre à l’échelle l’apprentissage automatique à l’edge ? » et « Comment pouvons-nous vous aider ? » Après de nombreuses discussions sur la façon dont ils voulaient réformer l’industrie et en écoutant leurs défis pour y parvenir, nous avons acquis une compréhension approfondie de leurs points de douleur et développé des idées sur la façon de les résoudre. Cela inclut :

• Obtenir les avantages de l’apprentissage automatique sans une courbe d’apprentissage abrupte.
• Préserver les applications legacy ainsi que les mises en œuvre de l’apprentissage automatique pour l’avenir.
• Travailler avec une solution à haute performance, à faible consommation d’énergie et dans un environnement convivial.

Rapidement, nous avons réalisé que nous devions livrer une approche progressive avec une mitigation des risques pour aider nos clients. En tant que startup, nous devions apporter quelque chose de très convaincant et de différent de tous les autres. Aucune autre entreprise n’abordait ce besoin clair, nous avons donc choisi de suivre ce chemin.

SiMa.ai a réalisé ce fait rare en concevant de manière ascendante la première plate-forme de système sur puce d’apprentissage automatique (MLSoC) logicielle. Avec sa combinaison de silicium et de logiciel, l’apprentissage automatique peut désormais être ajouté aux applications edge embarquées par simple pression d’un bouton.

Pouvez-vous partager votre vision de la façon dont l’apprentissage automatique va tout reconfigurer pour être à l’edge ?

La plupart des entreprises d’apprentissage automatique se concentrent sur les marchés à forte croissance tels que le cloud et la conduite autonome. Pourtant, ce sont la robotique, les drones, le commerce sans friction, les villes intelligentes et l’automatisation industrielle qui exigent la dernière technologie d’apprentissage automatique pour améliorer l’efficacité et réduire les coûts.

Ces secteurs en croissance, couplés aux frustrations actuelles liées au déploiement de l’apprentissage automatique à l’edge, font que nous croyons que le moment est venu pour l’opportunité. SiMa.ai aborde ce problème d’une manière complètement différente ; nous voulons rendre l’adoption généralisée une réalité.

Qu’est-ce qui a empêché jusqu’à présent la mise à l’échelle de l’apprentissage automatique à l’edge ?

L’apprentissage automatique doit s’intégrer facilement aux systèmes legacy. Les entreprises du Fortune 500 et les startups ont investi lourdement dans leurs plateformes technologiques actuelles, mais la plupart d’entre elles ne réécriront pas tout leur code ou ne remplaceront pas complètement leur infrastructure sous-jacente pour intégrer l’apprentissage automatique. Pour atténuer les risques tout en bénéficiant des avantages de l’apprentissage automatique, il faut qu’il y ait une technologie qui permet une intégration transparente du code legacy ainsi que de l’apprentissage automatique dans leurs systèmes. Cela crée un chemin facile pour développer et déployer ces systèmes pour répondre aux besoins d’application tout en fournissant les avantages de l’intelligence apportée par l’apprentissage automatique.

Il n’y a pas de grandes prises, il n’y a pas de grand client qui va faire bouger l’aiguille, nous n’avions donc pas d’autre choix que de pouvoir supporter plus de mille clients pour vraiment mettre à l’échelle l’apprentissage automatique et vraiment apporter l’expérience à ces clients. Nous avons découvert que ces clients ont le désir de l’apprentissage automatique, mais qu’ils n’ont pas la capacité de bénéficier de l’expérience d’apprentissage car ils manquent de capacité interne pour la construire et qu’ils n’ont pas la base de connaissances fondamentales. Ils veulent donc mettre en œuvre l’expérience d’apprentissage automatique, mais sans la courbe d’apprentissage de l’edge, et cela se résume rapidement au fait que nous devons rendre l’expérience d’apprentissage automatique très sans effort pour les clients.

Comment SiMA est-elle en mesure de diminuer si dramatiquement la consommation d’énergie par rapport à la concurrence ?

<p Notre MLSoC est le moteur sous-jacent qui permet vraiment tout, il est important de faire la distinction que nous ne construisons pas un accélérateur d'apprentissage automatique. Pour les 2 milliards de dollars investis dans les startups de SoC d'apprentissage automatique à l'edge, la réponse de l'industrie à l'innovation a été un bloc d'accélérateur d'apprentissage automatique comme cœur ou comme puce. Ce que les gens ne reconnaissent pas, c'est que pour migrer les gens d'un SoC classique à un environnement d'apprentissage automatique, vous avez besoin d'un environnement MLSoC afin que les gens puissent exécuter du code legacy dès le premier jour et déployer progressivement leur capacité dans un composant d'apprentissage automatique ou qu'un jour ils font de la segmentation sémantique en utilisant une approche classique de vision par ordinateur et le lendemain ils pourraient le faire en utilisant une approche d'apprentissage automatique, mais d'une façon ou d'une autre, nous permettons à nos clients de déployer et de partitionner leur problème comme ils le jugent opportun en utilisant la vision par ordinateur classique, le traitement de systèmes classique ARM ou un calcul hétérogène d'apprentissage automatique. Pour nous, l'apprentissage automatique n'est pas un produit final et par conséquent, un accélérateur d'apprentissage automatique ne sera pas couronné de succès par lui-même, l'apprentissage automatique est une capacité et c'est un outil en plus des autres outils que nous permettons à nos clients d'utiliser afin qu'en utilisant une méthodologie de pression d'un bouton, ils puissent itérer la conception de la prétraitement, de la post-traitement, de l'analyse et de l'accélération de l'apprentissage automatique, le tout sur une seule plate-forme tout en fournissant les meilleures performances d'application système dans leur ensemble à la puissance la plus basse.

Quelles sont certaines des priorités de marché principales pour SiMa ?

Nous avons identifié plusieurs marchés clés, dont certains sont plus rapides à générer des revenus que d’autres. Le temps le plus rapide pour générer des revenus est la vision intelligente, la robotique, l’industrie 4.0 et les drones. Les marchés qui prennent un peu plus de temps en raison des qualifications et des exigences standard sont les applications automobiles et de santé. Nous avons ouvert la voie dans tous ces domaines en travaillant avec les principaux acteurs de chaque catégorie.

La capture d’images a généralement eu lieu à l’edge, avec des analyses sur le cloud. Quels sont les avantages de modifier cette stratégie de déploiement ?

Les applications edge nécessitent que le traitement soit effectué localement, car pour de nombreuses applications, il n’y a pas suffisamment de temps pour que les données aillent sur le cloud et reviennent. Les capacités d’apprentissage automatique sont fondamentales dans les applications edge car les décisions doivent être prises en temps réel, par exemple dans les applications automobiles et la robotique où les décisions doivent être traitées rapidement et efficacement.

Pourquoi les entreprises devraient-elles envisager les solutions SiMa par rapport à vos concurrents ?

<p Notre méthodologie unique d'approche logicielle centrée conditionnée avec une solution matérielle complète. Nous nous sommes concentrés sur une solution complète qui répond à ce que nous aimons appeler les trois piliers de problèmes des clients. La thèse originale de l'entreprise est que vous appuyez sur un bouton et vous obtenez un « WOW ! ». L'expérience doit vraiment être abstraite à un point où vous voulez que des milliers de développeurs l'utilisent, mais vous ne voulez pas exiger qu'ils soient tous des génies en apprentissage automatique, vous ne voulez pas qu'ils soient tous en train de régler les couches couche par couche pour obtenir les performances souhaitées, vous voulez qu'ils restent au niveau d'abstraction le plus élevé et déployer significativement l'apprentissage automatique sans effort. Donc, la thèse derrière pourquoi nous nous sommes attachés à cela était une forte corrélation avec la mise à l'échelle dans le sens où cela doit vraiment être une expérience d'apprentissage automatique sans effort et ne pas nécessiter beaucoup de prise en main et d'engagement de services qui entraveraient la mise à l'échelle.

Nous avons passé la première année à visiter plus de 50 clients à travers le monde pour comprendre si vous voulez tous l’apprentissage automatique mais que vous ne le déployez pas. Pourquoi ? Qu’est-ce qui vous empêche de déployer réellement l’apprentissage automatique et/ou qu’est-ce qui est requis pour vraiment pousser l’apprentissage automatique vers un déploiement à grande échelle, et cela se résume vraiment à trois piliers clés de compréhension. Le premier est TOUT. En tant qu’entreprise, nous devons résoudre les problèmes étant donné l’étendue des clients et l’étendue des modèles d’utilisation, ainsi que la disparité entre les réseaux d’apprentissage automatique, les capteurs, le taux d’images, la résolution. C’est un monde très disparate où chaque marché a des conceptions de front-end complètement différentes, et si nous prenons simplement une fine tranche de cela, nous ne pouvons pas économiquement construire une entreprise, nous devons vraiment créer un entonnoir capable de prendre en compte un large éventail d’espaces d’application, presque comme l’île Ellis de tout ce qui est vision par ordinateur. Les gens pourraient être en tensorflow, ils pourraient utiliser Python, ils pourraient utiliser un capteur de caméra avec une résolution de 1080 ou il pourrait s’agir d’un capteur de 4K, cela n’a vraiment pas d’importance si nous pouvons homogénéiser et les amener tous, et si vous n’avez pas le front-end comme celui-ci, alors vous n’avez pas d’entreprise scalable.

Le deuxième pilier est 10x, ce qui signifie qu’il y a également le problème pour lequel les clients ne sont pas en mesure de déployer et de créer des plates-formes dérivées car tout est un retour à la case départ pour construire une nouvelle modèle ou un pipeline. Le deuxième défi est sans aucun doute que, en tant que startup, nous devons apporter quelque chose de très excitant, très convaincant, où tout le monde est prêt à prendre le risque, même si vous êtes une startup, sur la base d’une métrique de performance de 10x. Le mérite technique clé sur lequel nous nous concentrons pour résoudre les problèmes de vision par ordinateur est la métrique des images par seconde par watt. Nous devons être illogiquement meilleurs que quiconque d’autre afin de rester une génération ou deux en avance, nous avons donc pris cela comme partie de notre approche centrée sur le logiciel. Cette approche a créé une plate-forme de calcul hétérogène pour que les gens puissent résoudre l’ensemble du pipeline de vision par ordinateur sur une seule puce et fournir 10 fois plus de performances que les autres solutions. Le troisième pilier de la pression d’un bouton est motivé par le besoin de mettre à l’échelle l’apprentissage automatique à l’edge de manière significative. Les chaînes d’outils d’apprentissage automatique sont très primitives, souvent cassées, aucune entreprise n’a vraiment construit d’expérience logicielle d’apprentissage automatique de classe mondiale. Nous avons également reconnu que pour le marché edge, il est important de masquer la complexité du code edge tout en donnant aux clients un processus itératif pour revenir rapidement et optimiser leurs plates-formes. Les clients ont vraiment besoin d’une expérience de pression d’un bouton qui leur donne une réponse ou une solution en quelques minutes plutôt qu’en quelques mois pour obtenir un apprentissage automatique sans effort. Tout, 10x et pression d’un bouton sont les propositions de valeur clés qui sont devenues vraiment claires pour nous, si nous faisons un excellent travail sur ces trois choses, nous allons absolument faire bouger l’aiguille sur l’apprentissage automatique sans effort et la mise à l’échelle de l’apprentissage automatique à l’edge.

Y a-t-il autre chose que vous aimeriez partager sur SiMa ?

Au début du développement de la plate-forme MLSoC, nous poussions les limites de la technologie et de l’architecture. Nous allions tout faire pour une plate-forme centrée sur le logiciel, ce qui était une approche entièrement nouvelle, allant à l’encontre de toute sagesse conventionnelle. Le voyage pour la comprendre et la mettre en œuvre a été difficile.

Une victoire monumentale récente valide la force et l’unicité de la technologie que nous avons construite. SiMa.ai a atteint un jalon important en avril 2023 en surpassant le leader établi dans notre première performance MLPerf Benchmark dans la catégorie Closed Edge Power. Nous sommes fiers d’être la première startup à participer et à obtenir des résultats gagnants dans la référence la plus populaire et la plus reconnue de l’industrie, le benchmark MLPerf de Resnet-50, pour nos performances et notre puissance.

Nous avons commencé avec des aspirations élevées et à ce jour, je suis fier de dire que cette vision est restée inchangée. Notre MLSoC a été conçu pour aller à l’encontre des normes de l’industrie pour livrer une solution révolutionnaire d’apprentissage automatique au marché de l’edge embarqué.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter SiMa.ai.