Krishna Rangasayee, SiMa.ai asutaja ja tegevjuht – intervjuusari

Krishna Rangasayee on ettevõtte asutaja ja tegevjuht SiMa.ai. Varem oli Krishna 18 aastat Groqi ja Xilinxi COO, kus ta täitis mitut kõrgemat juhtivat rolli, sealhulgas vanemasepresident ja üldise ärijuht ning globaalse müügi asepresident. Xilinxis kasvatas Krishna äri 2.5 miljardi dollarini 70% brutomarginaaliga, luues samal ajal aluse 10+ kvartalile püsivale järjestikusele kasvule ja turuosa laiendamisele. Enne Xilinxi töötas ta erinevates inseneri- ja äriülesannetes ettevõtetes Altera Corporation ja Cypress Semiconductor. Tal on 25+ rahvusvahelist patenti ning ta on olnud avalik-õiguslike ja eraettevõtete direktorite nõukogus.

Mis teid algselt masinõppe juures köitis?

Olen viimased 20 aastat olnud manustatud serva- ja pilveturgude tudeng. Olen pilves näinud palju uuendusi, kuid väga vähe masinõppe võimaldamise suunas. See on tohutult alateenitud turg, mille väärtus on üle 40 miljardi dollari ja mis on aastakümneid vana tehnoloogia abil ellu jäänud.

Niisiis, võtsime ette midagi, mida keegi polnud varem teinud – lubasime manustatud serva jaoks Effortless ML-i.

Kas saaksite jagada SiMa tekkelugu?

Oma 20+ karjääri jooksul polnud ma veel olnud tunnistajaks arhitektuuriuuendustele manustatud servade turul. Siiski suurenes pilves ja asjade Interneti elementides vajadus manustatud servas ML-i järele. See tõestab, et kuigi ettevõtted nõuavad ML-i äärealadelt, on selle reaalsuseks muutmise tehnoloogia liiga kohmakas, et tegelikult töötada.

Seetõttu oli enne SiMa.ai meie disainiga alustamist oluline mõista meie klientide suurimaid väljakutseid. Siiski oli omaette väljakutse panna nad veetma aega varajases staadiumis idufirmaga, et saada sisukat ja siirast tagasisidet. Õnneks suutsime meeskonnaga oma võrgustikku varasematest suhetest ära kasutada, et tugevdada SiMa.ai visiooni õigete sihtettevõtetega.

Kohtusime enam kui 30 kliendiga ja esitasime kaks põhiküsimust: "Millised on suurimad väljakutsed ML-i laiendamisel manustatud servale?" ja "Kuidas me saame aidata?" Pärast paljusid arutelusid selle üle, kuidas nad soovisid tööstust ümber kujundada, ja nende väljakutsete kuulamist selle saavutamiseks, saime sügava arusaama nende valupunktidest ja arendasime ideid nende lahendamiseks. Need sisaldavad:

• ML-i eeliste kasutamine ilma järsu õppimiskõverata.
• Pärandrakenduste säilitamine koos tulevikukindlate ML-rakendustega.
• Töötamine suure jõudlusega ja vähese energiatarbega lahendusega kasutajasõbralikus keskkonnas.

Kiiresti mõistsime, et peame oma klientide abistamiseks rakendama riskide vähendamise etapiviisilist lähenemisviisi. Alustava ettevõttena pidime tooma midagi nii köitvat ja kõigist teistest eristuvat. Ükski teine ​​ettevõte ei vastanud sellele selgele vajadusele, seega valisime selle tee.

SiMa.ai saavutas selle haruldase saavutuse, ehitades algusest peale välja tööstuse esimese tarkvarakeskse, eesmärgipäraselt ehitatud masinõppesüsteemi kiibil (MLSoC) platvormi. Räni ja tarkvara kombinatsiooniga saab masinõppe nüüd lisada manustatud servarakendustele ühe nupuvajutusega.

Kas saaksite jagada oma nägemust sellest, kuidas masinõpe kõike ümber kujundab, et olla äärel?

Enamik ML-i ettevõtteid keskendub kiiresti kasvavatele turgudele, nagu pilv ja autonoomne sõit. Kuid just robootika, droonid, hõõrdumiseta jaemüük, targad linnad ja tööstusautomaatika nõuavad uusimat ML-tehnoloogiat, et parandada tõhusust ja vähendada kulusid.

Need kasvavad sektorid koos praeguste frustratsioonidega ML-i kasutuselevõtuga manustatud servas on põhjus, miks me usume, et aeg on võimaluste jaoks küps. SiMa.ai läheneb sellele probleemile hoopis teistmoodi; tahame laialdase omaksvõtmise reaalsuseks muuta.

Mis on seni takistanud masinõppe skaleerimist äärel?

Masinõpe peab kergesti integreeruma pärandsüsteemidega. Fortune 500 ettevõtted ja idufirmad on oma praegustesse tehnoloogiaplatvormidesse palju investeerinud, kuid enamik neist ei kirjuta ML-i integreerimiseks kogu oma koodi ümber ega uuenda täielikult oma alusinfrastruktuuri. Riskide maandamiseks ja ML-i eeliste ärakasutamiseks peab olema tehnoloogia, mis võimaldab pärandkoodi ja ML-i sujuvat integreerimist nende süsteemidesse. See loob lihtsa tee nende süsteemide arendamiseks ja juurutamiseks, et rahuldada rakenduste vajadusi, pakkudes samas kasu masinõppe pakutavast intelligentsusest.

Pole suuri pistikupesasid, pole ühtegi suurklienti, kes nõela liigutaks, nii et meil ei jäänud muud üle, kui toetada tuhandet klienti, et masinõpet tõeliselt laiendada ja kogemusi nendeni tuua. Avastasime, et neil klientidel on ML-i soov, kuid neil puudub võimalus õppimiskogemust omandada, kuna neil puudub sisemine suutlikkus end üles ehitada ja neil puudub sisemine põhiteadmiste baas. Seega tahavad nad ML-kogemust juurutada, kuid teha seda ilma sisseehitatud serva õppimiskõvera ja see, milleni jõuti väga kiiresti, on see, et peame muutma selle ML-kogemuse klientide jaoks väga lihtsaks.

Kuidas suudab SiMA konkurentidega võrreldes nii järsult energiatarbimist vähendada?

Meie MLSoC on aluseks olev mootor, mis võimaldab tõesti kõike, on oluline eristada, et me ei ehita ML-kiirendit. ML SoC idufirmadesse investeeritud 2 miljardi dollari eest on kõigi tööstusharu vastus uuendustele olnud ML-kiirendite plokk tuuma või kiibina. Mida inimesed ei mõista, on inimeste migreerimine klassikaliselt SoC-lt ML-i keskkonda, vajate MLSoC-keskkonda, et inimesed saaksid esimesest päevast alates käitada pärandkoodi ja järk-järgult, järk-järgult, järk-järgult, riskimaandatud viisil, juurutada oma võimeid ML-i komponenti või ühel päeval teeme semantilist segmenteerimist, kasutades klassikalist arvutinägemise lähenemisviisi ja järgmisel päeval saaksid nad seda teha ML-lähenemise abil, kuid ühel või teisel viisil anname oma klientidele võimaluse oma probleemi kasutusele võtta ja jaotada, kasutades klassikalist arvutinägemist, süsteemide klassikaline ARM-töötlus või heterogeenne ML-arvutus. Meie jaoks ei ole ML lõpptoode ja seetõttu ei saa ML-kiirendi üksinda edukas olla, ML on võimalus ja see on tööriistakomplekt lisaks muudele tööriistadele, mida me oma klientidele võimaldame, et nad saaksid surunupu metoodikat kasutades saavad korrata oma eeltöötluse, järeltöötluse, analüüsi ja ML-kiirenduse disaini ühel platvormil, pakkudes samal ajal kõrgeimat kogu süsteemi hõlmavat rakenduste jõudlust väikseima võimsusega.

Millised on SiMa peamised turu prioriteedid?

Oleme tuvastanud mitu peamist turgu, millest mõned toovad kiiremini tulu kui teised. Kiireim aeg tulu saamiseks on nutikas nägemine, robootika, tööstus 4.0 ja droonid. Turud, mis kvalifikatsiooni ja standardnõuete tõttu võtavad veidi rohkem aega, on autotööstuse ja tervishoiurakendused. Töötades iga kategooria tippmängijatega, oleme kõigis ülalnimetatutes maad murdnud.

Pildi jäädvustamine on üldiselt olnud äärel, analüüs pilves. Mis kasu on selle kasutuselevõtustrateegia muutmisest?

Edge'i rakendused vajavad töötlemist lokaalselt, paljude rakenduste puhul pole piisavalt aega andmete pilve ja tagasi minekuks. ML-i võimalused on äärerakenduste puhul üliolulised, sest otsuseid tuleb teha reaalajas, näiteks autotööstuses ja robootikas, kus otsuseid tuleb töödelda kiiresti ja tõhusalt.

Miks peaksid ettevõtted arvestama SiMa lahendustega võrreldes teie konkurentidega?

Meie ainulaadne tarkvarakeskse lähenemisviisi metoodika, mis on pakitud tervikliku riistvaralahendusega. Oleme keskendunud terviklikule lahendusele, mis käsitleb klientide probleemide tuumana seda, mida meile meeldib nimetada suvaliseks, 10x-ks ja nupuks. Ettevõtte algne tees on, et vajutate nuppu ja saate WOW! Kogemus tuleb tõesti abstraktselt võtta punktini, kus soovite panna tuhanded arendajad seda kasutama, kuid te ei soovi, et nad kõik oleksid ML-geeniused, te ei soovi, et nad kõik kiht-kihi haaval näpistavad. käsitsi kodeerimine soovitud jõudluse saavutamiseks, soovite, et need jääksid kõrgeimale abstraktsioonitasemele ja rakendaksid otstarbekalt kiiresti vaevatu ML-i. Seega oli väitekiri, miks me selle kasutusele võtsime, väga tugev korrelatsioon skaleerimisega, kuna see peab tõesti olema vaevatu ML-kogemus ega nõua palju käest kinni hoidmist ja teenustega seotud kaasamist, mis skaleerimist takistaks.

Esimese aasta külastasime rohkem kui 50 klienti üle maailma, püüdes mõista, kas te kõik soovite ML-i, kuid te ei võta seda kasutusele. Miks? See, mis takistab ML-i mõtestatud juurutamist ja/või mida on vaja ML-i mastaabis juurutamiseks, ja see taandub tegelikult kolmele mõistmise põhisambale, millest esimene on MIS TAHES. Ettevõttena peame lahendama probleeme, arvestades klientide laiust ja kasutusmudelite laiust ning erinevusi ML-võrkude, andurite, kaadrisageduse ja eraldusvõime vahel. See on väga erinev maailm, kus igal turul on täiesti erinevad esiotsa kujundused ja kui me tõesti võtame sellest kitsa lõigu, ei saa me ettevõtet majanduslikult üles ehitada, peame tõesti looma lehtri, mis on võimeline haarama väga laia valikut. rakendusruumidest, pea peaaegu lehtrit kui kõige arvutinägemise Ellis Islandit. Inimesed võivad olla tensorflow's, nad võivad kasutada Pythonit, nad võivad kasutada 1080 eraldusvõimega kaamerasensorit või see võib olla 4K eraldusvõimega andur, tegelikult pole vahet, kas suudame need kõik homogeniseerida ja tuua ja kui sina mitte kui esiots on selline, siis pole sul skaleeritavat ettevõtet.

Teine sammas on 10-kordne, mis tähendab, et probleem on ka selles, miks kliendid ei saa juurutada ega luua tuletatud platvorme, kuna kõik on uue mudeli või torujuhtme loomiseks nullist tagasiminek. Teine väljakutse seisneb kahtlemata selles, et idufirmana peame tooma midagi väga põnevat, väga köitvat, kus igaüks ja kõik on nõus riskima isegi siis, kui olete 10-kordse jõudluse mõõdiku alusel idufirma. Üks peamisi tehnilisi eeliseid, millele keskendume arvutinägemisprobleemide lahendamisele, on kaadrid sekundis vati kohta. Peame olema ebaloogiliselt kellestki teisest paremad, et saaksime põlvkond või paar ees olla, seega võtsime selle osana meie tarkvarakesksest lähenemisest. See lähenemisviis lõi heterogeense arvutusplatvormi, et inimesed saaksid lahendada kogu arvutinägemise torujuhtme ühe kiibiga ja pakkuda 10 korda kiiremini kui mis tahes muu lahendus. Pushbuttoni kolmas sammas on tingitud vajadusest ML-i manustatud servas mõttekalt skaleerida. ML-i tööriistaketid on väga tekkimas, sageli katki, ükski ettevõte pole tegelikult loonud maailmatasemel ML-tarkvara kogemust. Lisaks mõistsime, et manustatud turu jaoks on oluline varjata manustatud koodi keerukust, andes neile ka iteratiivse protsessi, et kiiresti tagasi tulla ning oma platvorme värskendada ja optimeerida. Kliendid vajavad pingevaba ML-i saavutamiseks tõesti nupuvajutusega kogemust, mis annab neile vastuse või lahenduse minutite või kuude jooksul. Mis tahes, 10x ja surunupp on peamised väärtuspakkumised, mis said meile tõeliselt selgeks, et kui teeme nende kolme asjaga korralikult tööd, liigume absoluutselt nõela pingevabale ML-ile ja manustatud servale skaleerimisele.

Kas on veel midagi, mida tahaksid SiMa kohta jagada?

MLSoC platvormi varases arenduses nihutasime tehnoloogia ja arhitektuuri piire. Me läksime kõik-in tarkvarakesksel platvormil, mis oli täiesti uus lähenemine, mis läks vastuollu kogu tavapärase tarkuse teraga. Teekond selle väljamõtlemisel ja seejärel rakendamisel oli raske.

Hiljutine monumentaalne võit kinnitab meie loodud tehnoloogia tugevust ja ainulaadsust. SiMa.ai saavutas olulise verstaposti 2023. aasta aprillis, edestades meie debüüt MLPerf Benchmarki jõudluses Closed Edge Power kategoorias turgu valitsevat liidrit. Oleme uhked, et oleme esimene idufirma, kes osaleb ja saavutab oma jõudluse ja võimsuse poolest valdkonna populaarseimal ja tunnustatumal Resnet-50 MLPerfi etalonil võidutulemusi.

Alustasime kõrgete püüdlustega ja tänaseni võin uhkusega öelda, et visioon on püsinud muutumatuna. Meie MLSoC on loodud selleks, et olla vastuolus tööstusharu normidega revolutsioonilise ML-lahenduse tarnimisel manustatud servade turule.

Täname suurepärase intervjuu eest, lugejad, kes soovivad rohkem teada saada, peaksid külastama SiMa.ai.