Krishna Rangasayee, grundare och VD för SiMa.ai – Intervjuserie

Krishna Rangasayee är grundare och VD för SiMa.ai. Tidigare var Krishna COO för Groq och på Xilinx i 18 år, där han hade flera seniora ledningsroller, inklusive senior vice president och GM för hela verksamheten, samt executive vice president för global försäljning. Medan han var på Xilinx växte han företaget till 2,5 miljarder dollar i intäkter med en bruttomarginal på 70 % samtidigt som han skapade grunden för 10+ kvartal med hållbar sekventiell tillväxt och marknadsandelstillväxt. Innan Xilinx hade han olika ingenjörs- och affärsroller på Altera Corporation och Cypress Semiconductor. Han har 25+ internationella patent och har suttit i styrelsen för publika och privata företag.

Vad var det som initialt lockade dig till maskinlärning?

Jag har varit en student av de inbäddade kant- och molnmarknaderna under de senaste 20 åren. Jag har sett massor av innovation i molnet, men mycket lite för att möjliggöra maskinlärning på kanten. Det är en massivt underservad marknad på över 40 miljarder dollar som har överlevt med gammal teknik i årtionden.

Så vi satte igång med något som ingen annan hade gjort tidigare – att möjliggöra ansträngningslös maskinlärning för den inbäddade kanten.

Kan du dela med dig av historien bakom SiMa?

I min 20-åriga karriär hade jag ännu inte sett någon arkitekturinnovation i den inbäddade kantmarknaden. Men behovet av maskinlärning på kanten ökade i molnet och i IoT-komponenter. Detta visar att företag kräver maskinlärning på kanten, men tekniken för att göra detta till verklighet är föråldrad och fungerar inte.

Därför var det viktigt för oss att förstå våra kunders största utmaningar innan SiMa.ai ens började med designen. Men att få dem att spendera tid med ett tidigt skede-startup för att ge meningsfull och ärlig feedback var i sig en utmaning. Lyckligtvis kunde teamet och jag utnyttja vårt nätverk från tidigare relationer för att solidifiera SiMa.ai:s vision med rätt riktade företag.

Vi mötte över 30 kunder och ställde två grundläggande frågor: “Vilka är de största utmaningarna för att skala maskinlärning till den inbäddade kanten?” och “Hur kan vi hjälpa?” Efter många diskussioner om hur de ville omforma branschen och lyssna på deras utmaningar för att uppnå det, fick vi en djup förståelse för deras smärtor och utvecklade idéer om hur vi kunde lösa dem. Dessa inkluderar:

• Att få fördelarna med maskinlärning utan en brant inlärningskurva.
• Att bevara äldre applikationer tillsammans med framtidsbevisad maskinlärningsimplementering.
• Att arbeta med en högpresterande, lågeffektslösning i en användarvänlig miljö.

Snabbt insåg vi att vi behövde leverera en riskbegränsad fasindelad ansats för att hjälpa våra kunder. Som startup måste vi ta med något så kompellingt och differentierat från alla andra. Inget annat företag adresserade detta tydliga behov, så detta var den väg vi valde att ta.

SiMa.ai uppnådde detta sällsynta bedrift genom att arkitektoniskt utforma branschens första programvarucentrerade, specialbyggda maskinlärningssystem-on-chip (MLSoC)-plattform. Med dess kombination av kisel och programvara kan maskinlärning nu läggas till inbäddade kantapplikationer med ett knapptryck.

Kan du dela med dig av din vision om hur maskinlärning kommer att omforma allt till kanten?

De flesta maskinlärningsföretag fokuserar på högtillväxtmarknader som molnet och autonoma fordon. Men det är robotik, drönare, friktionfri detaljhandel, smarta städer och industriell automation som kräver den senaste maskinlärningstekniken för att förbättra effektiviteten och minska kostnaderna.

Detta växande sektorn tillsammans med nuvarande frustrationer med att distribuera maskinlärning på den inbäddade kanten är varför vi tror att tiden är mogen med möjligheter. SiMa.ai tar itu med detta problem på ett helt annat sätt; vi vill göra omfattande antagande till verklighet.

Vad har hittills hindrat skalning av maskinlärning på kanten?

Maskinlärning måste enkelt integreras med äldre system. Företag i Fortune 500 och startups har investerat kraftigt i sina nuvarande tekniska plattformar, men de flesta av dem kommer inte att skriva om all sin kod eller helt omvandla sin underliggande infrastruktur för att integrera maskinlärning. För att begränsa risken samtidigt som man får fördelarna med maskinlärning, måste det finnas teknik som möjliggör enkel integration av äldre kod tillsammans med maskinlärning i deras system. Detta skapar en enkel väg att utveckla och distribuera dessa system för att tillgodose applikationsbehoven samtidigt som det ger fördelarna med den intelligens som maskinlärning tillför.

Det finns inga stora uttag, det finns ingen stor kund som kommer att flytta nålen, så vi hade inget val än att kunna stödja över 1000 kunder för att verkligen skala maskinlärning och verkligen ge upplevelsen till dem. Vi upptäckte att dessa kunder har önskan om maskinlärning, men de har inte kapaciteten att få lärandeupplevelsen eftersom de saknar intern kapacitet att bygga upp och de har inte den interna grundläggande kunskapsbasen. Så de vill implementera maskinlärningsupplevelsen, men de vill göra det utan den inbäddade kantens inlärningskurva och vad det verkligen handlar om är att vi måste göra denna maskinlärningsupplevelse mycket ansträngningslös för kunderna.

Hur kan SiMA dramatiskt minska effektförbrukningen jämfört med konkurrenter?

Vår MLSoC är den underliggande motorn som verkligen möjliggör allt, det är viktigt att skilja att vi inte bygger en maskinlärningsaccelerator. För de 2 miljarder dollar som investerats i kantmaskinlärningsstartups, alla branschens svar på innovation har varit en maskinlärningsacceleratorblock som kärna eller chip. Vad människor inte erkänner är att för att migrera från en klassisk SoC till en ML-miljö behöver man en MLSoC-miljö så att människor kan köra äldre kod från dag ett och gradvis i en riskbegränsad fas distribuera sin förmåga till en ML-komponent eller en dag de använder en klassisk datorseendeapproach och nästa dag de kan göra det med en maskinlärningsapproach, men på ett eller annat sätt tillåter vi våra kunder möjligheten att distribuera och partitionera problemet som de finner lämpligt med hjälp av klassisk datorseende, klassisk ARM-behandling av system eller en heterogen maskinlärningsberäkning. För oss är maskinlärning inte en slutprodukt och därför kommer en maskinlärningsaccelerator inte att vara framgångsrik på egen hand, maskinlärning är en förmåga och det är ett verktyg i tillägg till de andra verktygen vi möjliggör för våra kunder så att med en knapptryckningsmetod kan de iterera designen av förbearbetning, efterbearbetning, analys och maskinlärningsacceleration allt på en enda plattform samtidigt som de levererar den högsta systemomfattande applikationsprestandan vid den lägsta effekten.

Vad är några av de primära marknadsprioriteringarna för SiMa?

Vi har identifierat flera nyckelmarknader, vissa av dem är snabbare till intäkter än andra. Den snabbaste tiden till intäkter är smart vision, robotik, industri 4.0 och drönare. Marknaderna som tar lite längre tid på grund av kvalificeringar och standardkrav är fordons- och hälsoapplikationer. Vi har etablerat oss i alla ovan nämnda marknader och arbetar med de ledande spelarna i varje kategori.

Bildinsamling har vanligtvis varit på kanten, med analyser i molnet. Vilka är fördelarna med att ändra denna distributionsstrategi?

Kantapplikationer behöver bearbetning lokalt, för många applikationer finns det inte tillräckligt med tid för data att gå till molnet och tillbaka. Maskinlärningsförmåga är grundläggande i kantapplikationer eftersom beslut måste fattas i realtid, till exempel i fordonsapplikationer och robotik där beslut måste bearbetas snabbt och effektivt.

Varför bör företag överväga SiMa-lösningar jämfört med dina konkurrenter?

Vår unika metodik med en programvarucentrerad ansats paketerad med en komplett hårdvarulösning. Vi har fokuserat på en komplett lösning som adresserar det vi kallar Any, 10x och Pushbutton som kärnan i kundproblem. Den ursprungliga avhandlingen för företaget är att du trycker på en knapp och får en WOW-upplevelse! Upplevelsen måste verkligen abstraheras till en punkt där du vill få tusentals utvecklare att använda den, men du vill inte kräva att de alla är maskinlärningsgenier, du vill inte att de alla justerar lager för lager handkodning för att få önskad prestanda, du vill att de stannar på den högsta abstraktionsnivån och meningsfullt snabbt distribuerar ansträngningslös maskinlärning. Så avhandlingen om varför vi fastnade för detta var en mycket stark korrelation med skalning, det behöver verkligen vara en ansträngningslös maskinlärningsupplevelse och inte kräva mycket handhållning och tjänsteengagemang som kommer att hindra skalning.

Vi tillbringade det första året med att besöka 50+ kunder globalt för att förstå om alla vill ha maskinlärning men inte distribuerar det. Varför? Vad kommer i vägen för att meningsfullt distribuera maskinlärning och vad krävs för att verkligen trycka maskinlärning i en skalfördelning och det handlar verkligen om tre nyckelPelare för att förstå, den första är ANY. Som företag måste vi lösa problem med tanke på kundernas bredd, användningsmodellens bredd samt skillnaden mellan maskinlärningsnätverk, sensorer, bildfrekvens, upplösning. Det är en mycket disparat värld där varje marknad har helt olika främre design och om vi verkligen bara tar en smal skiva av det kan vi inte bygga ett företag ekonomiskt, vi måste skapa en tratt som kan ta in en mycket bred applikationsrymd, nästan tänka på tratten som Ellis Island för allt datorseende. Människor kunde vara i tensorflow, de kunde använda Python, de kunde använda en kamerasond med 1080-upplösning eller det kunde vara en 4K-upplösningssond, det spelar verkligen ingen roll om vi kan homogenisera och ta in alla och om du inte har den främre delen som denna så har du inte ett skalbart företag.

Den andra pelaren är 10x som betyder att det också finns problem med att kunder inte kan distribuera och skapa derivatplattformar eftersom allt är en återgång till scratch för att bygga upp en ny modell eller pipeline. Den andra utmaningen är att som startup måste vi ta med något mycket spännande, mycket differentierat så att alla är villiga att ta risken även om du är ett startupbaserat på en 10x-prestandamätning. Den ena nyckeltekniska förtjänsten vi fokuserar på att lösa för datorseendeproblem är bildpersekundperwatt-mätningen. Vi måste vara illogiskt bättre än alla andra så att vi kan stanna en generation eller två före, så vi tog detta som en del av vår programvarucentrerade ansats. Den ansatsen skapade en heterogen beräkningsplattform så att människor kan lösa hela datorseendepipelinen på en enda chip och leverera 10x jämfört med andra lösningar. Den tredje pelaren Pushbutton drivs av behovet av att skala maskinlärning på den inbäddade kanten på ett meningsfullt sätt. Maskinlärningsverktygskedjor är mycket outvecklade, ofta trasiga, ingen enskild företag har byggt en världsklassmaskinlärningsprogramvaruupplevelse. Vi erkände ytterligare att för den inbäddade marknaden är det viktigt att maskera komplexiteten i den inbäddade koden samtidigt som man ger dem en iterativ process för att snabbt komma tillbaka och optimera sina plattformar. Kunder behöver verkligen en knapptryckningsupplevelse som ger dem ett svar eller en lösning på minuter istället för månader för att uppnå ansträngningslös maskinlärning. Any, 10x och Pushbutton är de nyckelvärderingar som blev verkligen tydliga för oss att om vi gör ett bra jobb på dessa tre saker kommer vi absolut att flytta nålen på ansträngningslös maskinlärning och skalning av maskinlärning på den inbäddade kanten.

Finns det något annat du vill dela om SiMa?

I den tidiga utvecklingen av MLSoC-plattformen pressade vi gränserna för teknik och arkitektur. Vi gick all-in på en programvarucentrerad plattform, vilket var en helt ny ansats, som gick emot all konventionell visdom. Resan i att figurera ut och sedan implementera det var svårt.

En nylig monumental seger validerar styrkan och unikheten i den teknik vi har byggt. SiMa.ai uppnådde en stor milstolpe i april 2023 genom att överträffa den sittande ledaren i vår debut MLPerf-benchmarkprestanda i den slutna kantkategorin. Vi är stolta över att vara det första startupföretaget som deltar och uppnår vinnande resultat i branschens mest populära och erkända MLPerf-benchmark för Resnet-50 för vår prestanda och effekt.

Vi började med höga aspirationer och till denna dag är jag stolt över att säga att visionen har förblivit oförändrad. Vår MLSoC var specialbyggd för att gå emot branschens normer för att leverera en revolutionerande maskinlärningslösning till den inbäddade kantmarknaden.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka SiMa.ai.