Krishna Rangasayee, grunnlegger og CEO av SiMa.ai – Intervju-serie

Krishna Rangasayee er grunnlegger og CEO av SiMa.ai. Tidligere var Krishna COO i Groq og i Xilinx i 18 år, der han hadde flere ledende roller, inkludert senior visepresident og GM for hele bedriften, og executive vice president for global salg. Mens han var i Xilinx, vokste bedriften til 2,5 milliarder dollar i omsetning med 70 % bruttomargin, og skapte grunnlaget for 10+ kvartaler med sammenhengende vekst og markedsutvidelse. Før Xilinx hadde han forskjellige ingeniør- og forretningsroller i Altera Corporation og Cypress Semiconductor. Han har over 25 internasjonale patenter og har sittet i styret for offentlige og private selskaper.

Hva var det som først tiltalte deg om maskinlæring?

Jeg har vært en student av innbyggede kant- og skytjenester i over 20 år. Jeg har sett mye innovasjon i skyen, men svært lite for å muliggjøre maskinlæring på kanten. Dette er en massivt underserviced marked på over 40 milliarder dollar som har overlevd med gammel teknologi i tiår.

Så, vi startet noe som ingen hadde gjort før–å muliggjøre enkelt maskinlæring for innbyggede kant.

Kan du dele historien bak SiMa?

I min 20-årige karriere hadde jeg ennå ikke sett noen arkitekturinnovasjon i innbyggede kantmarkedet. Likevel, behovet for maskinlæring på kanten økte i skyen og elementer av IoT. Dette viser at selv om selskaper krever maskinlæring på kanten, er teknologien for å gjøre dette til virkelighet for stiv og vanskelig å bruke.

Derfor, før SiMa.ai startet på vårt design, var det viktig å forstå våre kunders største utfordringer. Imidlertid, å få dem til å bruke tid med en tidlig startup for å få meningsfull og ærlig tilbakemelding var en egen utfordring. Heldigvis, var teamet og jeg i stand til å utnytte vårt nettverk fra tidligere relasjoner hvor vi kunne solidifisere SiMa.ai sitt syn med de rette målrettede selskapene.

Vi møtte over 30 kunder og stilte to grunnleggende spørsmål: “Hva er de største utfordringene med å skalerer maskinlæring til innbyggede kant?” og “Hvordan kan vi hjelpe?” Etter mange diskusjoner om hvordan de ønsket å endre industrien og lytte til deres utfordringer for å nå det, fikk vi en dyp forståelse av deres smerte punkter og utviklet ideer om hvordan å løse dem. Disse inkluderer:

• Å få fordelen av maskinlæring uten en bratt læringskurve.
• Å bevare legacy-applikasjoner sammen med fremtidssikring av maskinlæring implementeringer.
• Å arbeide med en høy-ytelses, lav-kraft løsning i en brukervennlig miljø.

Raskt, innsett vi at vi måtte levere en risikofri fasert tilnærming for å hjelpe våre kunder. Som en startup måtte vi bringe noe så kompellent og differensiert fra alle andre. Ingen annen bedrift adresserte dette klare behovet, så dette var veien vi valgte å gå.

SiMa.ai oppnådde dette sjeldne bedrift ved å arkitektere fra bunnen av opp industrien første programvare-sentrert, formål-bygget Maskinlæring System-on-Chip (MLSoC) plattform. Med kombinasjonen av silisium og programvare, kan maskinlæring nå legges til innbyggede kant-applikasjoner med et knappetrykk.

Kan du dele din visjon om hvordan maskinlæring vil endre alt til å være på kanten?

De fleste maskinlæringsselskaper fokuserer på høyvoksende markeder som skyen og autonom kjøring. Likevel, er det robotikk, droner, friksjonsløs detaljhandel, smarte byer og industriell automatisering som krever den nyeste maskinlæringsteknologien for å forbedre effektivitet og redusere kostnader.

Disse voksende sektorene kombinert med nåværende frustrasjoner med å deployere maskinlæring på innbyggede kant, er grunnen til at vi tror tiden er moden med muligheter. SiMa.ai nærmer seg dette problemet på en helt annen måte; vi ønsker å gjøre vidstrakt aksept av maskinlæring til virkelighet.

Hva har så langt forhindret skalerer maskinlæring på kanten?

Maskinlæring må enkelt integreres med legacy-systemer. Fortune 500-selskaper og startups liker har investert tungt i sine nåværende teknologiplattformer, men de fleste av dem vil ikke om skrive all sin kode eller fullstendig ombygge sin underliggende infrastruktur for å integrere maskinlæring. For å minimere risiko samtidig som man nyter fordelen av maskinlæring, må det finnes teknologi som tillater enkel integrering av legacy-kode sammen med maskinlæring i deres systemer. Dette skaper en enkel vei til å utvikle og deployere disse systemene for å møte applikasjonsbehovene samtidig som man får fordelen av intelligensen som maskinlæring bringer.

Det er ingen store sokler, det er ingen enkelt stor kunde som vil flytte nålen, så vi hadde ingen valg enn å kunne støtte over 1000 kunder for å virkelig skalerer maskinlæring og virkelig bringe opplevelsen til dem. Vi oppdaget at disse kundene har ønsket om maskinlæring, men de har ikke kapasiteten til å få læringserfaringen fordi de mangler intern kapasitet til å bygge opp og de har ikke den interne grunnleggende kunnskapsbasen. Så, de ønsker å implementere maskinlæringserfaringen, men uten å måtte ha en innbyggede kant-læringskurve og hva det virkelig kommer ned til er at vi må gjøre denne maskinlæringserfaringen svært enkel for kundene.

Hvordan er SiMA i stand til å dramatisk redusere kraftforbruk sammenlignet med konkurrenter?

Vår MLSoC er den underliggende motoren som virkelig muliggjør alt, det er viktig å differensiere at vi ikke bygger en maskinlæring-akselerator. For de 2 milliarder dollar investert i kant-maskinlæring-SoC-startups, har alle industrisvar på innovasjon vært en maskinlæring-akselerator-blokk som en kjerne eller en chip. Hva folk ikke erkjenner er at for å migrere folk fra en klassisk SoC til en maskinlæring-miljø, trenger man en MLSoC-miljø slik at folk kan kjøre legacy-kode fra dag én og gradvis i en fasert risikofri måte deployere deres evne til en maskinlæring-komponent eller en dag de gjør semantisk segmentering ved hjelp av en klassisk datavisonær tilnærming og neste dag de kunne gjøre det ved hjelp av en maskinlæring-tilnærming, men på en eller annen måte tillater vi våre kunder muligheten til å deployere og partitionere deres problem slik de finner best ved hjelp av klassisk datavision, klassisk ARM-prosessering av systemer eller en heterogen maskinlæring-regning. For oss er maskinlæring ikke en slutprodukt og derfor vil en maskinlæring-akselerator ikke være vellykket på egen hånd, maskinlæring er en evne og det er et verktøy i tillegg til de andre verktøyene vi muliggjør for våre kunder slik at ved hjelp av en knappetrykk-metode, de kan iterere designet av for-prosessering, post-prosessering, analyser og maskinlæring-akselerasjon alle på en enkelt plattform samtidig som de leverer den høyeste system-vide applikasjonsytelse på lavest kraft.

Hva er noen av de primære markedsprioritetene for SiMa?

Vi har identifisert flere nøkkelmarkeder, noen av dem er raskere til inntekt enn andre. Den raskeste tiden til inntekt er smart visjon, robotikk, industri 4.0 og droner. Markedene som tar litt mer tid på grunn av kvalifikasjoner og standardkrav er bil og helseapplikasjoner. Vi har brutt ny grund i alle ovennevnte og arbeider med de beste spillerne i hver kategori.

Bildeinnfanging har generelt vært på kanten, med analyser på skyen. Hva er fordelen med å endre denne deploy-strategien?

Kant-applikasjoner trenger prosesseringen å bli gjort lokalt, for mange applikasjoner er det ikke nok tid for dataene å gå til skyen og tilbake. Maskinlæringsevner er fundamentale i kant-applikasjoner fordi beslutninger må tas i sanntid, for eksempel i bilapplikasjoner og robotikk hvor beslutninger må prosesseres raskt og effektivt.

Hvorfor bør bedrifter vurdere SiMa-løsninger i stedet for dine konkurrenter?

Vår unike metode med en programvare-sentrert tilnærming pakket med en komplett hårdvaruløsning. Vi har fokusert på en komplett løsning som adresseer hva vi liker å kalle Any, 10x og Pushbutton som kjerne av kundeutfordringer. Den opprinnelige tesen for bedriften er at du trykker på en knapp og får en WOW! Erfaringen må virkelig abstraheres til et punkt hvor du ønsker å få tusenvis av utviklere til å bruke det, men du ønsker ikke å kreve at de alle er maskinlæring-eksperter, du ønsker ikke at de alle skal justere lag for lag og håndkodere for å få ønsket ytelse, du ønsker at de skal forbli på det høyeste nivået av abstraksjon og meningsfullt raskt deploye enkel maskinlæring. Så, tesen bak hvorfor vi latchet på dette var en svært sterk korrelasjon med skalerbarhet, det må virkelig være en enkel maskinlæringserfaring og ikke kreve mye håndtering og tjenester-engasjement som vil komme i veien for skalerbarhet.

Vi brukte det første året på å besøke over 50 kunder globalt for å forstå hvis alle ønsker maskinlæring, men de ikke deployer det. Hvorfor? Hva kommer i veien for å meningsfullt deployere maskinlæring og hva er nødvendig for å virkelig pushe maskinlæring til en skalerbar deploy? Det kommer ned til tre nøkkel-pilarer for å forstå, den første være ANY. Som en bedrift må vi løse problemer gitt bredde av kunder, og bredde av brukmodeller sammen med disparieten mellom maskinlæring-nettverk, sensorer, rammerate, oppløsning. Det er en svært disparat verden hvor hvert marked har helt forskjellige front-end-design og hvis vi bare tar en smal del av det, kan vi ikke økonomisk bygge en bedrift, vi må virkelig skape en tunnel som er i stand til å ta inn en svært bred rekke av applikasjonsrom, nærmest tenke på tunnelen som Ellis Island av alt datavision. Folk kunne være i tensorflow, de kunne bruke Python, de kunne bruke kamera-sensor med 1080-oppløsning eller det kunne være en 4K-oppløsning-sensor, det virkelig ikke måtte å gå hvis vi kan homogenisere og bringe dem alle og hvis du ikke har front-end som dette, så har du ikke en skalerbar bedrift.

Den andre pilaren er 10x som betyr at det også er et problem hvorfor kunder ikke kan deployere og skape avledede plattformer fordi alt er et gå tilbake til scratch for å bygge opp en ny modell eller pipeline. Den andre utfordringen er uten tvil at som en startup, må vi bringe noe svært spennende, svært kompellent hvor noen og alle er villige til å ta risikoen selv om du er en startup basert på en 10x-ytelsesmetrikk. Den ene nøkkel-tekniske merit vi fokuserer på å løse for i datavision-problemer er frames per sekund per watt-metrikk. Vi må være illogisk bedre enn noen andre, så vi kan forbli en generasjon eller to foran. Vi tok dette som en del av vår programvare-sentrert tilnærming. Denne tilnærmingen skapte en heterogen regningsplattform så folk kan løse hele datavision-pipeline på en enkelt chip og levere 10x sammenlignet med andre løsninger. Den tredje pilaren Pushbutton er drevet av behovet for å skalerer maskinlæring på innbyggede kant på en meningsfull måte. Maskinlæring-verktøykjeder er svært unge, ofte brutt, ingen enkelt bedrift har bygget en verdensklasse maskinlæring-programvare-erfaring. Vi erkjente videre at for innbyggede markedet er det viktig å maskere kompleksiteten av innbyggede kode samtidig som man gir dem en iterativ prosess til å raskt komme tilbake og oppdatere og optimere deres plattformer. Kundene virkelig trenger en knappetrykk-erfaring som gir dem en respons eller en løsning på minutter i stedet for måneder for å oppnå enkel maskinlæring.

Er det noe annet du ønsker å dele om SiMa?

I den tidlige utviklingen av MLSoC-plattformen, var vi på vei til å presse grensene for teknologi og arkitektur. Vi var på vei til å gå mot strømmen av all konvensjonell visdom. Reisen i å finne ut og deretter implementere det var hard.

En nylig monumental seier validerer styrken og unikheten av teknologien vi har bygget. SiMa.ai oppnådde en stor milepæl i april 2023 ved å overgå den sittende lederen i vår debut MLPerf Benchmark-ytelse i den lukkede kant-kraft-kategorien. Vi er stolte av å være den første startupen til å delta og oppnå vinnende resultater i industris mest populære og anerkjente MLPerf-benchmark for Resnet-50 for vår ytelse og kraft.

Vi startet med høye aspirasjoner og til denne dagen, er jeg stolt av å si at visjonen har forblitt uendret. Vår MLSoC var formål-bygget for å gå mot industrinormer for å levere en revolusjonerende maskinlæring-løsning til innbyggede kant-markedet.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke SiMa.ai.