Krishna Rangasayee, Fondator și CEO al SiMa.ai – Seria de interviuri

Krishna Rangasayee este fondator și CEO al SiMa.ai. Anterior, Krishna a fost director de operatiuni al Groq și a lucrat la Xilinx timp de 18 ani, unde a deținut multiple roluri de conducere, incluzând vicepreședinte senior și director general al afacerii și vicepreședinte executiv al vânzărilor globale. În timpul șederii sale la Xilinx, Krishna a crescut afacerea la 2,5 miliarde de dolari în venituri, cu o marjă de profit de 70%, creând baza pentru 10 trimestre consecutive de creștere și extindere a cotei de piață. Înainte de a lucra la Xilinx, el a ocupat diverse roluri de inginerie și afaceri la Altera Corporation și Cypress Semiconductor. El deține peste 25 de brevete internaționale și a făcut parte din consiliul de administrație al unor companii publice și private.

Ce v-a atras inițial către învățarea automată?

Am fost student al piețelor de margine încorporate și cloud de peste 20 de ani. Am văzut multă inovație în cloud, dar foarte puțină pentru a permite învățarea automată la margine. Este o piață masiv subdeservită de peste 40 de miliarde de dolari, care a supraviețuit cu tehnologie veche de decenii.

Așa că, am început ceva ce nimeni nu făcuse până atunci – să permitem învățarea automată fără efort pentru marginea încorporată.

Puteți împărtăși povestea de origine a SiMa?

În cariera mea de peste 20 de ani, nu am văzut niciodată o inovație arhitecturală în piața de margine încorporată. Însă, nevoia de învățare automată la margine a crescut odată cu cloud-ul și elementele IoT. Acest lucru demonstrează că, deși companiile cer învățare automată la margine, tehnologia pentru a face acest lucru realitate este prea rigidă pentru a funcționa.

Prin urmare, înainte ca SiMa.ai să înceapă proiectarea noastră, a fost important să înțelegem cele mai mari provocări ale clienților noștri. Cu toate acestea, obținerea timpului lor pentru a oferi feedback semnificativ și sincer a fost o provocare în sine. Din fericire, echipa mea și cu mine am putut să ne folosim rețeaua de relații anterioare pentru a consolida viziunea SiMa.ai cu companiile țintă.

Am întâlnit peste 30 de clienți și am pus două întrebări de bază: “Care sunt cele mai mari provocări pentru a scala învățarea automată la marginea încorporată?” și “Cum vă putem ajuta?” După multe discuții despre modul în care doreau să restructureze industria și ascultând provocările lor pentru a o face, am obținut o înțelegere profundă a punctelor lor slabe și am dezvoltat idei despre modul de a le rezolva. Printre acestea se numără:

• Obținerea beneficiilor învățării automate fără o curbă de învățare abruptă.
• Păstrarea aplicațiilor legacy împreună cu implementările viitoare de învățare automată.
• Lucrul cu o soluție de înaltă performanță și joasă putere într-un mediu prietenos.

Repede, am realizat că trebuia să oferim o abordare cu risc minim pentru a ajuta clienții noștri. Ca startup, trebuia să aducem ceva atât de convingător și deosebit de toți ceilalți. Nicio altă companie nu aborda această nevoie clară, așa că am ales să urmăm acest drum.

SiMa.ai a realizat acest lucru rar prin proiectarea de la zero a primei platforme software-centrice, special create pentru sistemul de învățare automată pe cip (MLSoC). Cu combinația de siliciu și software, învățarea automată poate fi adăugată acum la aplicațiile de margine încorporate prin simpla apăsare a unui buton.

Puteți împărtăși viziunea dvs. despre modul în care învățarea automată va restructura totul pentru a fi la margine?

Majoritatea companiilor de învățare automată se concentrează pe piețe cu creștere ridicată, cum ar fi cloud-ul și conducerea autonomă. Cu toate acestea, este vorba despre roboți, drone, retail fără fricțiuni, orașe inteligente și automatizarea industrială care cer tehnologia de învățare automată cea mai recentă pentru a îmbunătăți eficiența și a reduce costurile.

Aceste sectoare în creștere, împreună cu frustrările actuale de a implementa învățarea automată la marginea încorporată, ne fac să credem că este momentul oportun pentru oportunitate. SiMa.ai abordează această problemă într-un mod complet diferit; vrem să facem adoptarea pe scară largă o realitate.

Ce a împiedicat până acum scalarea învățării automate la margine?

Învățarea automată trebuie să se integreze ușor cu sistemele legacy. Companiile Fortune 500 și startup-urile deopotrivă au investit masiv în platformele tehnologice actuale, dar majoritatea lor nu vor rescrie toate codurile sau nu vor înlocui complet infrastructura subiacentă pentru a integra învățarea automată. Pentru a minimiza riscul și a beneficia de avantajele învățării automate, trebuie să existe tehnologie care să permită integrarea fără efort a codului legacy și a învățării automate în sistemele lor. Acest lucru creează un drum ușor pentru a dezvolta și a implementa aceste sisteme pentru a răspunde nevoilor de aplicații și pentru a oferi beneficiile inteligenței pe care o aduce învățarea automată.

Nu există niciun mare client, nu există niciun client mare care să poată mișca acul, așa că nu am avut de ales decât să putem sprijini peste o mie de clienți pentru a scala învățarea automată și a aduce experiența lor. Am descoperit că acești clienți au dorința de a implementa învățarea automată, dar nu au capacitatea de a o face din cauza lipsei de cunoștințe interne și a bazei de cunoștințe fundamentale. Așa că, ei vor să implementeze experiența de învățare automată, dar fără curba de învățare abruptă și ceea ce a devenit rapid clar pentru noi a fost că trebuie să facem această experiență de învățare automată foarte ușoară pentru clienți.

Cum reușește SiMA să scadă atât de dramatic consumul de energie în comparație cu concurenții?

MLSoC-ul nostru este motorul subiacent care permite totul, este important să diferențiem că nu construim un accelerator de învățare automată. Pentru cei 2 miliarde de dolari investiți în startup-urile de edge ML SoC, răspunsul industriei la inovație a fost un bloc de accelerare ML ca nucleu sau cip. Ceea ce oamenii nu recunosc este că, pentru a muta oamenii de la un SoC clasic la un mediu de învățare automată, aveți nevoie de un MLSoC, astfel încât oamenii să poată rula cod legacy de la început și să poată, într-un mod fără risc, să-și dezvolte capacitatea într-un component de învățare automată sau, într-o zi, să facă segmentarea semantică folosind o abordare clasică de vedere computerizată și, a doua zi, să o poată face folosind o abordare de învățare automată, dar, în orice caz, le permitem clienților noștri să-și dezvolte și să-și partitioneze problema așa cum doresc, folosind vedere computerizată clasică, procesare clasică ARM sau computație eterogenă de învățare automată. Pentru noi, învățarea automată nu este un produs final și, prin urmare, un accelerator de învățare automată nu va fi de succes în sine, învățarea automată este o capacitate și un instrument în plus față de celelalte instrumente pe care le permitem clienților noștri, astfel încât, folosind o metodă de apăsare a butonului, ei pot itera designul de pre-procesare, post-procesare, analitică și accelerare a învățării automate, toate pe o singură platformă, oferind, în același timp, cea mai bună performanță a aplicației la nivel de sistem și cea mai mică putere.

Care sunt unele dintre prioritățile principale de piață pentru SiMa?

Am identificat mai multe piețe cheie, unele dintre ele fiind mai rapide în ceea ce privește veniturile decât altele. Cel mai rapid timp de venituri este viziunea inteligentă, roboții, industria 4.0 și dronele. Piețele care necesită mai mult timp din cauza calificărilor și standardelor sunt aplicațiile auto și sănătate. Am făcut progrese în toate acestea, lucrând cu jucătorii de top din fiecare categorie.

Captura de imagini a fost, în general, la margine, iar analiza a fost în cloud. Care sunt beneficiile schimbării acestei strategii de implementare?

Aficările de margine necesită procesarea să fie făcută local, pentru multe aplicații nu există suficient timp pentru ca datele să meargă în cloud și înapoi. Capacitățile de învățare automată sunt fundamentale în aplicațiile de margine, deoarece deciziile trebuie luate în timp real, de exemplu, în aplicațiile auto și roboți, unde deciziile trebuie procesate rapid și eficient.

De ce ar trebui companiile să ia în considerare soluțiile SiMa în locul concurenților?

Metodologia noastră unică de abordare centrată pe software, împachetată cu o soluție de hardware completă. Ne-am concentrat pe o soluție completă care abordează ceea ce numim “Orice, 10x și Buton” ca nucleul problemelor clienților. Teza originală a companiei a fost să apăsați un buton și să obțineți un “WOW!”. Experiența trebuie să fie abstractizată la un punct în care doriți să aveți mii de dezvoltatori care să o folosească, dar nu doriți ca toți să fie genii de învățare automată, nu doriți ca toți să ajusteze straturile cu straturi, să scrie cod manual pentru a obține performanța dorită, doriți ca ei să rămână la nivelul cel mai înalt de abstractizare și să poată implementa învățarea automată fără efort. Așa că, teza din spatele motivului pentru care am adoptat această abordare a fost o corelație puternică cu scalarea, care necesită, de fapt, o experiență de învățare automată fără efort și nu necesită multă îndrumare și angajament de servicii care ar putea împiedica scalarea.

Am petrecut primul an vizitând peste 50 de clienți la nivel global, încercând să înțelegem de ce nu implementează învățarea automată. De ce? Ce stă în calea implementării învățării automate și ce este necesar pentru a o face să scaleze? Și, într-adevăr, se reduce la trei piloni cheie de înțelegere, primul fiind “Orice”. Ca companie, trebuie să rezolvăm problemele date de amploarea clienților, amploarea modelelor de utilizare și disparitatea dintre rețelele de învățare automată, senzorii, rata cadrelor, rezoluția. Este un world foarte eterogen, în care fiecare piață are proiecte de front-end complet diferite și, dacă luăm doar o porțiune îngustă din aceasta, nu putem construi o companie din punct de vedere economic, trebuie să creăm un tunel care să poată lua în considerare o gamă foarte largă de spații de aplicații, aproape ca și cum am gândi tunelul ca Ellis Island al tuturor lucrurilor legate de vedere computerizată. Oamenii ar putea fi în TensorFlow, ar putea folosi Python, ar putea folosi un senzor de cameră cu o rezoluție de 1080 sau ar putea fi un senzor cu o rezoluție de 4K, nu contează dacă putem omogeniza și aduce totul și, dacă nu aveți front-end-ul astfel, nu aveți o companie scalabilă.

Al doilea pilon este “10x”, ceea ce înseamnă că există, de asemenea, problema pentru care clienții nu pot crea platforme derivate, deoarece totul este o revenire la zero pentru a construi un nou model sau o nouă conductă. A doua provocare este, fără îndoială, ca startup, trebuie să aducem ceva foarte interesant, foarte convingător, astfel încât oricine și oricine să fie dispus să ia riscul, chiar și ca startup, pe baza unui metric de performanță de 10x. Meritul nostru tehnic cheie pe care ne concentrăm să-l rezolvăm în problemele de vedere computerizată este metrica cadrelor pe secundă pe watt. Trebuie să fim ilogic mai buni decât oricine altcineva, astfel încât să putem rămâne cu o generație sau două înainte, așa că am luat această abordare centrată pe software. Această abordare a creat o platformă de calcul eterogen, astfel încât oamenii să poată rezolva întreaga conductă de vedere computerizată pe un singur cip și să ofere o performanță de 10x în comparație cu orice altă soluție. Al treilea pilon, “Buton”, este condus de nevoia de a scala învățarea automată la marginea încorporată într-un mod semnificativ. Lanțurile de instrumente de învățare automată sunt foarte naive, adesea rupte, nicio companie nu a construit o experiență de software de învățare automată de clasă mondială. Am recunoscut, de asemenea, că, pentru piața încorporată, este important să mascăm complexitatea codului încorporat, oferind, în același timp, un proces iterativ pentru a reveni rapid și a optimiza platformele lor. Clienții au nevoie, de fapt, de o experiență de buton care să le ofere un răspuns sau o soluție în minute, nu în luni, pentru a obține învățarea automată fără efort. “Orice”, “10x” și “Buton” sunt propunerile noastre de valoare cheie care au devenit, de fapt, foarte clare pentru noi, astfel încât, dacă facem o treabă excelentă în aceste trei lucruri, vom muta, cu adevărat, acul în ceea ce privește învățarea automată fără efort și scalarea învățării automate la marginea încorporată.

Există altceva pe care ați dori să-l împărtășiți despre SiMa?

În dezvoltarea timpurie a platformei MLSoC, am împins limitele tehnologiei și arhitecturii. Am mers pe o platformă centrată pe software, ceea ce a fost o abordare complet nouă, care a mers împotriva înțelegerii convenționale. Călătoria de a o figura și de a o implementa a fost grea.

O victorie monumentală recentă validează puterea și unicitatea tehnologiei pe care am construit-o. SiMa.ai a atins un punct de referință important în aprilie 2023, depășind liderul stabilit în debutul nostru în benchmark-ul MLPerf, în categoria Închisă Edge Power. Suntem mândri să fim primul startup care participă și care obține rezultate câștigătoare în cel mai popular și mai bine recunoscut benchmark MLPerf al industriei pentru performanța și puterea noastră.

Am început cu aspirații înalte și, până în ziua de azi, sunt mândru să spun că viziunea noastră a rămas neschimbată. MLSoC-ul nostru a fost proiectat special pentru a merge împotriva normelor industriale pentru a oferi o soluție revoluționară de învățare automată pentru piața de margine încorporată.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre SiMa.ai ar trebui să viziteze SiMa.ai.