Krishna Rangasayee, SiMa.ai:n perustaja ja toimitusjohtaja – Haastattelusarja

Krishna Rangasayee on SiMa.ai:n perustaja ja toimitusjohtaja. Aikaisemmin Krishna toimi Groqin operatiivisena johtajana ja työskenteli 18 vuotta Xilinxillä, jossa hänellä oli useita johtavia rooleja, mukaan lukien senior vice president ja liiketoiminnan johtaja, sekä globaalin myyntijohtaja. Xilinxillä Krishna kasvatti liiketoimintaa 2,5 miljardiin dollariin 70 prosentin bruttokatetta ja loi perustan yli 10 peräkkäisen neljännesvuoden jatkuvalle kasvulle ja markkinaosuuden laajentumiselle. Ennen Xilinxia hän työskenteli erilaisissa insinööri- ja liiketoimintarooleissa Altera Corporationilla ja Cypress Semiconductorilla. Hänellä on yli 25 kansainvälistä patenttia, ja hän on toiminut julkisen ja yksityisen sektorin yritysten hallituksissa.

Mikä alun perin veti sinut machine learningin pariin?

Olen ollut upottuneena embedded edge- ja pilvimarkkinoihin viimeisen 20 vuoden ajan. Olen nähnyt paljon innovaatioita pilvessä, mutta hyvin vähän kehitystä machine learningin mahdollistamiseksi reunassa. Se on massiivisesti alihoidettu yli 40 miljardin dollarin markkina, joka on selvinnyt vanhalla teknologialla vuosikymmenien ajan.

Niinpä lähdimmekin tekemään jotain, mitä kukaan ei ollut aiemmin tehnyt – mahdollistamaan vaivattoman machine learningin embedded reunassa.

Voitko kertoa SiMan syntytarinan?

Urani aikana en ole koskaan nähnyt arkkitehtuurin innovaatiota tapahtuvan embedded reunassa. Kuitenkin tarve machine learningille reunassa on kasvanut pilvessä ja IoT:ssä. Tämä osoittaa, että vaikka yritykset vaativat machine learningia reunassa, teknologia, joka tekee tämän mahdolliseksi, on vanhanaikainen ja toimimaton.

Ennen kuin SiMa.ai aloitti suunnittelun, oli tärkeää ymmärtää asiakkaidemme suurimmat haasteet. Asiakkaiden saaminen viettämään aikaa varhaisessa vaiheessa startup-yrityksen kanssa antaakseen merkityksellistä ja avointa palautetta oli itsessään haaste. Onneksi tiimimme ja minä pystyimme hyödyntämään verkostoaamme aiemmista suhteista, jotta voimme vahvistaa SiMa.ai:n visiota kohdennetuilla yrityksillä.

Tapasimme yli 30 asiakasta ja kysyimme kahta perus kysymystä: “Mitkä ovat suurimmat haasteet machine learningin skaalauttamisessa embedded reunassa?” ja “Miten voimme auttaa?” Monien keskustelujen jälkeen siitä, miten he halusivat muuttaa alaa ja kuunneltuamme heidän haasteitaan saavuttaakseen sen, saimme syvän ymmärryksen heidän kipupisteistään ja kehitimme ideoita siitä, miten ratkaista ne. Nämä sisälsivät:

• Machine learningin hyödyt ilman jyrkkää oppimiskäyrää.
• Perinteisten sovellusten säilyttäminen sekä tulevaisuuden machine learning -toteutusten turvallisuus.
• Työskentely korkean suorituskyvyn ja matalan virrankulutuksen ympäristössä, joka on helppokäyttöinen.

Pian tajusimme, että meidän oli toimitettava riskin vähentävä asteittainen lähestymistapa auttaaksemme asiakkaitamme. Startup-yrityksenä meidän oli tuotettava jotain niin vakuuttavaa ja erottuvaa muista, että kukaan ei ollut osoittamassa tätä selkeää tarvetta, joten tämä oli polku, jonka valitsimme.

SiMa.ai saavutti tämän harvinaisen saavutuksen suunnittelemalla alusta alkaen teollisuuden ensimmäisen ohjelmistokeskeisen, tarkoitukseen suunnitellun Machine Learning System-on-Chip (MLSoC) -alustan. Sen yhdistelmänä piiri ja ohjelmisto, machine learning voidaan nyt lisätä embedded reunan sovelluksiin yhden painikkeen painalluksella.

Voitko jakaa visiosi siitä, miten machine learning muuttaa kaiken reunassa olevaksi?

Useimmat machine learning -yritykset keskittyvät korkean kasvun markkinoihin, kuten pilveen ja autonomiseen ajoon. Kuitenkin se on robotiikka, droonit, kitkattoman kaupan, älykaupungit ja teollinen automaatio, jotka vaativat viimeisintä machine learning -tekniikkaa parantamaan tehokkuutta ja vähentämään kustannuksia.

Nämä kasvavat sektorit yhdistettynä nykyisiin frustraatioihin machine learningin käyttöönotossa embedded reunassa ovat syitä, miksi uskomme, että aika on kypsä mahdollisuuksille. SiMa.ai lähestyy tätä ongelmaa täysin eri tavalla; haluamme tehdä laajan omaksumisen todelliseksi.

Mikä on estänyt machine learningin skaalauttamisen reunassa tähän asti?

Machine learningin on integroitava helposti perinteisiin järjestelmiin. Fortune 500 -yritykset ja startup-yritykset ovat panostaneet voimakkaasti nykyisiin teknologia-alustoihinsa, mutta useimmat eivät uudelleenkirjoita kaikkea koodiaan tai korvaa perustavaa infrastruktuuriaan machine learningin integroimiseksi. Riskin vähentämiseksi ja machine learningin hyötyjen saavuttamiseksi on oltava teknologiaa, joka mahdollistaa perinteisen koodin ja machine learningin helpon yhdistämisen järjestelmiin. Tämä luo helpon tien kehittää ja käyttöönottoa varten kehittää nämä järjestelmät sovelluksien tarpeiden ratkaisemiseksi ja machine learningin tarjoamien hyötyjen saavuttamiseksi.

Ei ole suuria soketteja, ei ole yhtä suurta asiakasta, joka siirtäisi neulan, joten meillä ei ollut muuta valintaa kuin tukea yli tuhat asiakasta skaalata machine learningia ja tuoda kokemus heille. Havaitsemme, että nämä asiakkaat haluavat machine learningia, mutta heillä ei ole kapasiteettia saada oppimiskokemus, koska heillä ei ole sisäistä kapasiteettia rakentaa ja heillä ei ole sisäistä perustietä. He haluavat toteuttaa machine learning -kokemuksen, mutta ilman reunan oppimiskäyrää, ja se mitä se nopeasti tulee, on, että meidän on tehtävä tämä machine learning -kokemus hyvin vaivattomaksi asiakkaille.

Miten SiMA pystyy vähentämään niin dramaattisesti virrankulutusta verrattuna kilpailijoihin?

Meidän MLSoC on perusmoottori, joka mahdollistaa kaiken, ja on tärkeää erottaa, että emme rakenna machine learning -kiihdytintä. 2 miljardin dollarin sijoituksista reunan ML-SoC-startup-yrityksiin, koko teollisuuden innovaatiovastaus on ollut machine learning -kiihdytinlohko ytimenä tai piirinä. Ihmiset eivät tunnusta, että siirtymisen perinteisestä SoC:sta ML-ympäristöön tarvitaan ML-SoC-ympäristö, jotta ihmiset voivat suorittaa perinteistä koodia päivästä yhden ja vaiheittain riskin vähentävästi ottaa kykynsä ML-komponenttiin tai yhden päivänä he tekevät semanttista segmentointia perinteisen tietokoneen näön lähestymistavalla ja seuraavana päivänä he voivat tehdä sen machine learning -lähestymistavalla, mutta joka tapauksessa me annamme asiakkaillemme mahdollisuuden ottaa ja jakaa ongelman heidän mielestään käyttäen perinteistä tietokoneen näköä, perinteistä ARM-järjestelmän prosessointia tai heterogeenista ML-laskentaa. Meille machine learning ei ole lopputuote, ja siksi machine learning -kiihdytin ei ole menestyvä itsenään, machine learning on kyky ja työkalu muiden työkalujen lisäksi, jotka mahdollistavat asiakkaidemme käyttää push-painikkeen menetelmällä iteroida suunnittelun esikäsittelyä, jälkikäsittelyä, analytiikkaa ja machine learning -kiihdytystä yhdellä alustalla ja tarjota korkeimman järjestelmänlaajuisen sovelluksen suorituskyvyn alhaisimmalla virrankulutuksella.

Mitkä ovat joitain SiMan tärkeimmistä markkinaprioriteeteista?

Olemme tunnistaneet useita avainmarkkinoita, joista jotkut ovat nopeampia tuloihin kuin toiset. Nopein tie tuloihin on älykäs näkeminen, robotiikka, teollisuus 4.0 ja droonit. Markkinat, jotka vievät hieman enemmän aikaa johtuen laadunvarmistusvaatimuksista ja standardien vaatimuksista, ovat autoteollisuus- ja terveydenhuollon sovellukset. Olemme aloittaneet kaikissa näistä työskentelemällä kunkin kategorian johtavien pelaajien kanssa.

Kuvan ottaminen on yleensä ollut reunassa, ja analytiikka on ollut pilvessä. Mitkä ovat tämän käyttöönottostrategian siirtämisen hyödyt?

Reunan sovellukset vaativat, että prosessointi tehdään paikallisesti, ja monissa sovelluksissa ei ole tarpeeksi aikaa, jotta data voisi mennä pilveen ja takaisin. Machine learning -ominaisuudet ovat perustavanlaatuisia reunan sovelluksissa, koska päätöksiä on tehtävä reaaliajassa, esimerkiksi autonsovelluksissa ja robotiikassa, joissa päätöksiä on tehtävä nopeasti ja tehokkaasti.

Miksi yritykset pitäisivät harkita SiMa-ratkaisuja kilpailijoiden sijaan?

Meidän ainutlaatuinen menetelmä ohjelmistokeskeisestä lähestymistavasta, joka on pakattu täydelliseen laitteistooratkaisuun. Olemme keskittyneet täydelliseen ratkaisuun, joka vastaa asiakkaiden ongelmia, joita me kutsumme Any, 10x ja Pushbutton. Alkuperäinen teesi yritykselle on, että painat nappia ja saat WOW! -kokemuksen. Kokemus on abstrahdittava sellaiseksi, jotta tuhannet kehittäjät voivat käyttää sitä, mutta et halua, että heidän on oltava kaikki machine learning -neroja, et halua, että heidän on sääteltävä kerros kerrokselta ja käsinkirjoitettava koodia saadakseen toivottua suorituskykyä, haluat, että he voivat pysyä korkeimmalla abstraktiotasolla ja ottaa machine learningin nopeasti käyttöön. Teesi, miksi tartuimme tähän, oli vahva korrelaatio skaalautumisen kanssa, ja se vaatii todella vaivatonta machine learning -kokemusta eikä edellytä paljon ohjausta ja palveluja, jotka estävät skaalautumisen.

Olemme viettänyt ensimmäisen vuoden yli 50 asiakkaan kanssa globaalisti ymmärtääksemme, miksi he eivät ole käyttöönotettaneet machine learningia. Miksi? Mitä estää heitä toteuttamasta machine learningia? Se tulee kolmeen avainpilarin ymmärtämiseen: ensinnäkin Any. Yrityksenä meidän on ratkaistava ongelmia asiakkaiden laajuuden, käyttömallien laajuuden ja machine learning -verkkojen, anturien, kehysnopeuden, resoluution välillä. Se on hyvin epäyhtenäinen maailma, jossa kunkin markkinan eturintamalla on täysin erilaiset suunnittelut, ja jos me vain otamme kapean viipaleen siitä, emme voi taloudellisesti rakentaa yritystä, meidän on luotava imuri, joka pystyy ottamaan laajan soveltamisalan, melkein ajatellen imuria kaiken tietokoneen näön Ellis Saaren tapaan. Ihmiset voivat olla Tensorflowssa, he voivat käyttää Pythonia, he voivat käyttää kameran anturia 1080-resoluutiolla tai se voi olla 4K-resoluution anturi, se ei ole merkityksellistä, jos voimme homogenisoida ja tuoda heidät kaikki yhteen, ja jos et ole eturintamalla, et voi skaalata yritystä.

Toinen pilar on 10x, joka tarkoittaa, että ongelmaa, miksi asiakkaat eivät pysty käyttöönottoon ja luomaan johdannaisia alustoja, koska kaikki on paluu aloilleen rakentamaan uutta mallia tai putkea. Toisen haasteen on ilman epäilyä startup-yrityksenä meidän on tuotettava jotain erittäin mielenkiintoista, erittäin vakuuttavaa, jotta kuka tahansa on valmis ottamaan riskin, vaikka olet startup, 10x-suorituskyvyn mittarin perusteella. Yksi avain tekninen ansi, jota keskitymme ratkaisemaan tietokoneen näön ongelmassa, on kehysnopeus/watin mittari. Meidän on oltava epäloogisesti parempia kuin kukaan muu, jotta voimme pysyä yhden tai kaksi sukupolven edellä, joten otimme tämän ohjelmistokeskeisen lähestymistavan. Tämä lähestymistapa loi heterogeenisen laskentapohjaisen alustan, jotta ihmiset voivat ratkaista koko tietokoneen näön putken yhdellä piirillä ja toimittaa 10-kertaisesti verrattuna mihin tahansa muuhun ratkaisuun. Kolmas pilar, Pushbutton, johtuu tarpeesta skaalata machine learningia reunassa merkittävällä tavalla. Machine learning -työkalut ovat hyvin nuoria, usein rikkoontuneita, eikä yksikään yritys ole todella rakentanut maailmanluokan machine learning -ohjelmistokokemusta. Tunnistimme myös, että reunamarkkinoille on tärkeää maskata käyttöjärjestelmän monimutkaisuutta ja antaa heille iteratiivinen prosessi nopeasti palata ja optimoida alustojaan. Asiakkaiden on tarjottava push-nappi, joka antaa vastauksen tai ratkaisun minuuteissa, ei kuukausissa, saavuttaakseen vaivattoman machine learningin. Any, 10x ja Pushbutton ovat avainarvoja, jotka tulivat meille selkeästi, että jos teemme erinomaisen työn näiden kolmen asian suhteen, liikumme todella neulan machine learningin vaivattomuuden ja skaalautumisen reunassa.

Onko mitään muuta, mitä haluaisit jakaa SiMa:sta?

Varhaisessa vaiheessa ML-SoC-alustan kehittämisessä olimme puskevat teknologian ja arkkitehtuurin rajoja. Olimme menossa kaikessa ohjelmistokeskeisessä alustassa, joka oli täysin uusi lähestymistapa, joka oli vastakkainen kaiken perinteisen viisauden. Matka sen selvittämisessä ja sen toteuttamisessa oli vaikeaa.

Äskettäinen merkittävä voitto vahvistaa teknologian ja sen ainutlaatuisuuden voimakkuutta, jonka olemme rakentaneet. SiMa.ai saavutti huomattavan merkkipaalun huhtikuussa 2023 voittamalla johtavan MLPerf Benchmark -suorituskyvyn suljetussa reunan tehokkuusluokassa. Olemme ylpeitä siitä, että olemme ensimmäinen startup, joka osallistuu ja saavuttaa voittoisia tuloksia teollisuuden suosituimassa ja tunnetuimmassa MLPerf-benchmarkissa Resnet-50:lle suorituskyvylle ja tehokkuudelle.

Olemme aloittaneet korkeilla tavoitteilta, ja olen ylpeä sanoessani, että visiomme on säilynyt muuttumattomana. Meidän ML-SoC on suunniteltu rikkomaan teollisuuden normeja vallankumouksellisen machine learning -ratkaisun toimittamiseksi embedded reunan markkinoille.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla SiMa.ai:ssa.