Krishna Rangasayee, SiMa.ai-ի հիմնադիր և գործադիր տնօրեն – Հարցազրույցների շարք

Կրիշնա Ռանգասայեն հիմնադիր և գործադիր տնօրեն է SiMa.ai. Նախկինում Կրիշնան եղել է Groq-ի գլխավոր տնօրենը և Xilinx-ում 18 տարի, որտեղ նա զբաղեցրել է բազմաթիվ բարձր ղեկավար պաշտոններ, այդ թվում՝ ավագ փոխնախագահ և ընդհանուր բիզնեսի գլխավոր տնօրեն, և համաշխարհային վաճառքի գործադիր փոխնախագահ: Xilinx-ում եղած ժամանակ Կրիշնան բիզնեսը հասցրեց մինչև 2.5 միլիարդ դոլարի եկամուտ 70% համախառն մարժայի դեպքում՝ միաժամանակ հիմք ստեղծելով կայուն հաջորդական աճի և շուկայի մասնաբաժնի ընդլայնման 10+ եռամսյակների համար: Մինչ Xilinx-ը նա տարբեր ինժեներական և բիզնես դերեր է ունեցել Altera Corporation-ում և Cypress Semiconductor-ում: Նա ունի 25+ միջազգային արտոնագրեր և աշխատել է պետական ​​և մասնավոր ընկերությունների տնօրենների խորհրդում:

Ի՞նչն ի սկզբանե ձեզ գրավեց մեքենայական ուսուցման մեջ:

Ես եղել եմ ներդրված եզրերի և ամպային շուկաների ուսանող վերջին 20 տարիների ընթացքում: Ես տեսել եմ տոննաներով նորամուծություններ ամպի մեջ, բայց շատ քիչ՝ մեքենայական ուսուցման եզրին հնարավորություն տալու համար: Դա 40 մլրդ դոլարի չափով չսպասարկվող շուկա է, որը գոյատևում է հին տեխնոլոգիաների շնորհիվ տասնամյակներ շարունակ:

Այսպիսով, մենք ձեռնամուխ եղանք մի բանի, որը ոչ ոք նախկինում չէր արել՝ միացնել «Efortless ML»-ը ներկառուցված եզրի համար:

Կարո՞ղ եք կիսվել SiMa-ի ծագման պատմությունով:

Իմ 20+ կարիերայի ընթացքում ես դեռ պետք է ականատես լինեի ճարտարապետական ​​նորարարություններին, որոնք տեղի էին ունենում ներդրված ծայրամասային շուկայում: Այնուամենայնիվ, ML-ի կարիքը ներկառուցված եզրին ավելացավ ամպի և IoT-ի տարրերի մեջ: Սա ապացուցում է, որ մինչ ընկերությունները պահանջում են ML-ի եզրին, այն իրականություն դարձնելու տեխնոլոգիան չափազանց դժվար է իրականում աշխատելու համար:

Հետևաբար, նախքան SiMa.ai-ն սկսել էր մեր դիզայնը, կարևոր էր հասկանալ մեր հաճախորդների ամենամեծ մարտահրավերները: Այնուամենայնիվ, ստիպելը, որ նրանք ժամանակ անցկացնեն վաղ փուլի ստարտափի հետ՝ բովանդակալից և անկեղծ արձագանքներ ստանալու համար, իր իսկ մարտահրավերն էր: Բարեբախտաբար, թիմը և ես կարողացանք օգտագործել մեր ցանցը անցյալի հարաբերություններից, որտեղ մենք կարող էինք ամրապնդել SiMa.ai-ի տեսլականը ճիշտ թիրախավորված ընկերությունների հետ:

Մենք հանդիպեցինք ավելի քան 30 հաճախորդների հետ և տվեցինք երկու հիմնական հարց. և «Ինչպե՞ս կարող ենք օգնել»: Բազմաթիվ քննարկումներից հետո, թե ինչպես են նրանք ցանկանում վերափոխել արդյունաբերությունը և լսելով իրենց մարտահրավերները՝ դրան հասնելու համար, մենք խորը պատկերացում ձեռք բերեցինք նրանց ցավի կետերի մասին և մշակեցինք գաղափարներ, թե ինչպես լուծել դրանք: Դրանք ներառում են.

• Ստանալով ML-ի առավելությունները՝ առանց կտրուկ ուսուցման կորի:
• Հնացած հավելվածների պահպանում, ինչպես նաև ապագան պաշտպանող ML իրականացում:
• Աշխատեք բարձր արդյունավետությամբ, ցածր էներգիայի լուծումներով՝ օգտագործողի համար հարմար միջավայրում:

Արագորեն մենք հասկացանք, որ մեզ անհրաժեշտ է ռիսկերի նվազեցման փուլային մոտեցում ցուցաբերել՝ օգնելու մեր հաճախորդներին: Որպես ստարտափ մենք պետք է բերեինք այնքան ազդեցիկ և բոլորից տարբերվող մի բան: Ոչ մի այլ ընկերություն չէր լուծում այս հստակ կարիքը, ուստի սա այն ճանապարհն էր, որը մենք ընտրեցինք:

SiMa.ai-ն հասավ այս հազվագյուտ նվաճմանը` ի սկզբանե ճարտարապետելով ոլորտի առաջին ծրագրային ապահովման վրա հիմնված, նպատակային կառուցված Machine Learning System-on-Chip (MLSoC) հարթակը: Սիլիցիումի և ծրագրաշարի իր համակցությամբ՝ մեքենայական ուսուցումն այժմ կարող է ավելացվել ներկառուցված եզրային հավելվածներին՝ կոճակի սեղմումով:

Կարո՞ղ եք կիսվել ձեր տեսլականով այն մասին, թե ինչպես մեքենայական ուսուցումը կվերափոխի ամեն ինչ, որպեսզի լինի եզրին:

ML ընկերությունների մեծ մասը կենտրոնանում է բարձր աճի շուկաների վրա, ինչպիսիք են ամպը և ինքնավար վարումը: Այնուամենայնիվ, ռոբոտաշինությունը, անօդաչու սարքերը, առանց շփման մանրածախ առևտուրը, խելացի քաղաքները և արդյունաբերական ավտոմատացումը պահանջում են վերջին ML տեխնոլոգիան՝ արդյունավետությունը բարելավելու և ծախսերը նվազեցնելու համար:

Այս աճող հատվածները, զուգորդված ընթացիկ հիասթափությունների հետ, որոնք ML-ն տեղակայում են ներկառուցված եզրին, ինչի պատճառով մենք կարծում ենք, որ ժամանակը հասունացել է հնարավորություններով: SiMa.ai-ն բոլորովին այլ կերպ է մոտենում այս խնդրին. մենք ցանկանում ենք իրականություն դարձնել համատարած որդեգրումը:

Ի՞նչն է մինչ այժմ խանգարել մեքենայական ուսուցման ընդլայնմանը եզրին:

Մեքենայի ուսուցումը պետք է հեշտությամբ ինտեգրվի հին համակարգերին: Fortune 500 ընկերությունները և ստարտափները մեծ ներդրումներ են կատարել իրենց ներկայիս տեխնոլոգիական հարթակներում, բայց նրանցից շատերը չեն վերաշարադրի իրենց ամբողջ ծածկագիրը կամ ամբողջությամբ չեն վերանայի իրենց հիմքում ընկած ենթակառուցվածքը՝ ML-ն ինտեգրելու համար: ML-ի օգուտները քաղելու ընթացքում ռիսկը նվազեցնելու համար պետք է լինի տեխնոլոգիա, որը թույլ կտա անխափան ինտեգրել հին ծածկագիրը ML-ի հետ միասին իրենց համակարգերում: Սա հեշտ ճանապարհ է ստեղծում այս համակարգերը մշակելու և տեղակայելու համար՝ կիրառման կարիքները բավարարելու համար՝ միաժամանակ ապահովելով մեքենայական ուսուցման հետախուզության առավելությունները:

Չկան մեծ վարդակներ, չկա մեկ մեծ հաճախորդ, ով կշարժի ասեղը, այնպես որ մենք այլ ելք չունեինք, քան աջակցել հազար գումարած հաճախորդներին, որպեսզի իսկապես մեծացնեն մեքենայական ուսուցումը և իսկապես իրենց փորձը բերեն: Մենք հայտնաբերեցինք, որ այս հաճախորդները ցանկություն ունեն ML-ի, բայց նրանք չունեն ուսուցման փորձ ստանալու հնարավորություն, քանի որ նրանք չունեն ներքին կարողությունների ձևավորում և չունեն ներքին հիմնարար գիտելիքների բազա: Այսպիսով, նրանք ցանկանում են իրականացնել ML փորձը, բայց դա անել առանց ներկառուցված եզրային ուսուցման կորի, և այն, ինչին իսկապես արագ հանգել է, այն է, որ մենք պետք է այս ML փորձը դարձնենք շատ հեշտ հաճախորդների համար:

Ինչպե՞ս է SiMA-ն կարողանում այդքան կտրուկ նվազեցնել էներգիայի սպառումը մրցակիցների համեմատ:

Մեր MLSoC-ն հիմքում ընկած շարժիչն է, որն իսկապես ամեն ինչ հնարավորություն է տալիս, կարևոր է տարբերակել, որ մենք չենք կառուցում ML արագացուցիչ: Եզրային ML SoC ստարտափներում ներդրված 2 միլիարդ դոլարի դիմաց նորարարության ոլորտի բոլոր արձագանքը եղել է ML արագացուցիչի բլոկը որպես միջուկ կամ չիպ: Այն, ինչ մարդիկ չգիտեն, դա դասական SoC-ից մարդկանց ML միջավայր տեղափոխելն է, ձեզ անհրաժեշտ է MLSoC միջավայր, որպեսզի մարդիկ կարողանան գործարկել ժառանգական ծածկագիրը առաջին իսկ օրվանից և աստիճանաբար ռիսկի նվազեցման փուլային եղանակով տեղակայել իրենց հնարավորությունները ML բաղադրիչի մեջ կամ մեկ օր: «կատարում ենք իմաստային սեգմենտավորում՝ օգտագործելով դասական համակարգչային տեսլականի մոտեցումը, և հաջորդ օրը նրանք կարող են դա անել՝ օգտագործելով ML մոտեցումը, բայց այս կամ այն ​​կերպ մենք մեր հաճախորդներին հնարավորություն ենք տալիս տեղակայել և բաժանել իրենց խնդիրը, ինչպես նրանք հարմար են գտնում՝ օգտագործելով դասական համակարգչային տեսլականը, համակարգերի դասական ARM մշակում կամ տարասեռ ML հաշվարկ: Մեզ համար ML-ը վերջնական արդյունք չէ, և, հետևաբար, ML արագացուցիչն ինքնուրույն չի լինելու հաջողակ, ML-ը կարողություն է և այն գործիքակազմ է, ի հավելումն այլ գործիքների, որոնք մենք հնարավորություն ենք տալիս մեր հաճախորդներին, որպեսզի օգտագործելով կոճակի մեթոդաբանությունը, նրանք կարող են կրկնել նախնական մշակման, հետմշակման, վերլուծության և ML արագացման իրենց նախագծումը մեկ հարթակի վրա՝ միաժամանակ ապահովելով համակարգի լայն կիրառման ամենաբարձր արդյունավետությունը նվազագույն հզորությամբ:

Որո՞նք են SiMa-ի առաջնային շուկայի առաջնահերթությունները:

Մենք բացահայտել ենք մի քանի հիմնական շուկաներ, որոնցից մի քանիսն ավելի արագ են եկամուտ ստանում, քան մյուսները: Եկամուտ ստանալու ամենաարագ ժամանակը խելացի տեսլականն է, ռոբոտաշինությունը, արդյունաբերության 4.0-ը և անօդաչու սարքերը: Շուկաները, որոնք մի փոքր ավելի շատ ժամանակ են պահանջում որակավորումների և ստանդարտ պահանջների պատճառով, ավտոմոբիլային և առողջապահական ծրագրերն են: Մենք կոտրել ենք վերը նշված բոլոր կետերը՝ աշխատելով յուրաքանչյուր կատեգորիայի լավագույն խաղացողների հետ:

Պատկերների նկարահանումը, ընդհանուր առմամբ, եղել է եզրին, իսկ վերլուծությունը ամպի վրա: Որո՞նք են այս տեղակայման ռազմավարությունը փոխելու առավելությունները:

Edge հավելվածներին անհրաժեշտ է, որ մշակումը կատարվի տեղական մակարդակում, շատ հավելվածների համար բավականաչափ ժամանակ չկա, որպեսզի տվյալները տեղափոխվեն ամպ և վերադարձվեն: ML-ի հնարավորությունները հիմնարար են եզրային հավելվածներում, քանի որ որոշումները պետք է ընդունվեն իրական ժամանակում, օրինակ՝ ավտոմոբիլային կիրառություններում և ռոբոտաշինությունում, որտեղ որոշումները պետք է արագ և արդյունավետ մշակվեն:

Ինչու՞ պետք է ձեռնարկությունները դիտարկեն SiMa լուծումներն ընդդեմ ձեր մրցակիցների:

Ծրագրային կենտրոնական մոտեցման մեր եզակի մեթոդաբանությունը՝ փաթեթավորված ամբողջական ապարատային լուծումներով: Մենք կենտրոնացել ենք ամբողջական լուծման վրա, որն անդրադառնում է այն, ինչ մենք սիրում ենք անվանել «Ay», «10x» և «Pushbutton»՝ որպես հաճախորդի խնդիրների առանցք: Ընկերության սկզբնական թեզն այն է, որ դուք սեղմում եք կոճակը և ստանում եք WOW: Փորձն իսկապես պետք է վերացվի մինչև այն կետը, երբ դուք ցանկանում եք ստիպել հազարավոր ծրագրավորողներին օգտագործել այն, բայց դուք չեք ցանկանում, որ նրանք բոլորը լինեն ML հանճարներ, դուք չեք ցանկանում, որ նրանք բոլորը շերտ առ շերտ ուղղեն: ձեռքի կոդավորում՝ ցանկալի կատարումը ստանալու համար, դուք ցանկանում եք, որ նրանք մնան աբստրակցիայի ամենաբարձր մակարդակի վրա և իմաստալից արագորեն գործարկեն առանց ջանքերի ML: Այսպիսով, այն թեզը, թե ինչու մենք փակեցինք սրա վրա, շատ ամուր հարաբերակցություն էր մասշտաբավորման հետ, քանի որ այն իսկապես պետք է լինի ML փորձառություն և չպահանջի շատ ձեռք բռնել և ծառայություններ ներգրավել, ինչը կխոչընդոտի մասշտաբավորման ճանապարհին:

Մենք առաջին տարին անցկացրել ենք՝ այցելելով ավելի քան 50 հաճախորդ ամբողջ աշխարհում՝ փորձելով հասկանալ, թե արդյոք դուք բոլորդ ցանկանում եք ML, բայց դուք այն չեք օգտագործում: Ինչո՞ւ։ Ինչն է խանգարում ձեզ իմաստալից տեղակայել ML-ը և կամ ինչ է պահանջվում ML-ն իրոք մղելու մասշտաբային տեղակայման, և դա իրականում հանգում է հասկանալու երեք հիմնական սյուներին, որոնցից առաջինը ՑԱՆԿԱՑԱԾ է: Որպես ընկերություն մենք պետք է լուծենք խնդիրները՝ հաշվի առնելով հաճախորդների լայնությունը և օգտագործման մոդելների լայնությունը, ինչպես նաև ML ցանցերի, սենսորների, կադրերի արագության և լուծաչափի միջև եղած անհավասարությունը: Սա շատ տարբեր աշխարհ է, որտեղ յուրաքանչյուր շուկա ունի բոլորովին տարբեր ճակատային ձևավորումներ, և եթե մենք իսկապես վերցնում ենք դրա մի փոքր հատվածը, մենք չենք կարող տնտեսապես կառուցել ընկերություն, մենք իսկապես պետք է ստեղծենք մի ձագար, որն ի վիճակի կլինի վերցնել շատ լայն շրջանակ: կիրառական տարածքներից, համարյա մտածեք, որ ձագարը համակարգչային տեսողության ամեն ինչի Էլիս կղզին է: Մարդիկ կարող են լինել տենսորհոսքի մեջ, նրանք կարող են օգտագործել Python, նրանք կարող են օգտագործել տեսախցիկի սենսորը 1080 լուծաչափով կամ դա կարող է լինել 4K լուծաչափի սենսոր, իսկապես կարևոր չէ, թե արդյոք մենք կարող ենք համասեռացնել և բերել բոլորին, և եթե դուք չեք անում: ունենաք այսպիսի ճակատային մասը, ապա դուք չունեք ընդլայնվող ընկերություն:

Երկրորդ սյունը 10 անգամ է, ինչը նշանակում է, որ կա նաև խնդիր, թե ինչու հաճախորդները չեն կարողանում տեղակայել և ստեղծել ածանցյալ հարթակներ, քանի որ ամեն ինչ զրոյից վերադառնալն է՝ նոր մոդել կամ խողովակաշար կառուցելու համար: Երկրորդ մարտահրավերն անկասկած այն է, որ որպես ստարտափ մենք պետք է բերենք մի շատ հետաքրքիր, շատ ազդեցիկ բան, որտեղ յուրաքանչյուրը և բոլորը պատրաստ են ռիսկի դիմել, նույնիսկ եթե դուք ստարտափ եք՝ հիմնված 10 անգամ կատարողականի չափման վրա: Համակարգչային տեսողության խնդիրների լուծման վրա մենք կենտրոնանում ենք մեկ հիմնական տեխնիկական արժանիքներից մեկ վայրկյանում մեկ վտ մետրի վրա: Մենք պետք է անտրամաբանականորեն ավելի լավը լինենք, քան որևէ մեկը, որպեսզի կարողանանք մեկ-երկու սերունդ առաջ մնալ, ուստի մենք դա ընդունեցինք որպես մեր ծրագրային կենտրոնացված մոտեցման մաս: Այդ մոտեցումը ստեղծեց տարասեռ հաշվարկային հարթակ, որպեսզի մարդիկ կարողանան լուծել համակարգչային տեսողության ամբողջ խողովակաշարը մեկ չիպի մեջ և մատուցել 10 անգամ՝ համեմատած ցանկացած այլ լուծումների: Pushbutton-ի երրորդ սյունը պայմանավորված է ML-ը ներկառուցված եզրին իմաստալից կերպով չափելու անհրաժեշտությամբ: ML գործիքների շղթաները շատ նորածին են, հաճախ կոտրվում են, ոչ մի ընկերություն իրականում չի ստեղծել համաշխարհային կարգի ML ծրագրային ապահովման փորձ: Մենք նաև հասկացանք, որ ներկառուցված շուկայի համար կարևոր է քողարկել ներկառուցված կոդի բարդությունը՝ միաժամանակ տալով նրանց կրկնվող գործընթաց՝ արագ վերադառնալու և թարմացնելու և օպտիմալացնելու իրենց հարթակները: Հաճախորդներին իսկապես անհրաժեշտ է սեղմակով փորձառություն, որը նրանց պատասխան կամ լուծում կտա րոպեների ընթացքում՝ ընդդեմ ամիսների՝ առանց ջանքերի ML-ի հասնելու համար: Ցանկացած, 10x և կոճակը հիմնական արժեքային առաջարկներն են, որոնք մեզ համար իսկապես պարզ դարձան, որ եթե մենք այս երեք բաների վրա մեծ աշխատանք կատարենք, մենք բացարձակապես կտեղափոխենք ասեղը առանց ջանքերի ML-ի և ML-ի մասշտաբը ներկառուցված եզրին:

Կա՞ որևէ այլ բան, որը կցանկանայիք կիսվել SiMa-ի մասին:

MLSoC պլատֆորմի սկզբնական շրջանում մենք առաջ ենք քաշում տեխնոլոգիայի և ճարտարապետության սահմանները: Մենք գնում էինք ծրագրային ապահովման կենտրոնացված հարթակի վրա, որը բոլորովին նոր մոտեցում էր, որը հակասում էր բոլոր սովորական իմաստության հատիկին: Դա պարզելու և այնուհետև իրականացնելու ճանապարհորդությունը դժվար էր:

Վերջին մոնումենտալ հաղթանակը հաստատում է մեր ստեղծած տեխնոլոգիայի ուժն ու յուրահատկությունը: SiMa.ai-ն մեծ նվաճման հասավ 2023 թվականի ապրիլին՝ գերազանցելով գործող առաջատարը մեր դեբյուտային MLPerf Benchmark-ի կատարողականով Closed Edge Power կատեգորիայում: Մենք հպարտ ենք, որ առաջին ստարտափն ենք, ով մասնակցել և հաղթական արդյունքներ է գրանցել արդյունաբերության մեջ Resnet-50-ի ամենահայտնի և ճանաչված MLPerf-ի չափանիշում՝ մեր կատարողականության և հզորության համար:

Մենք սկսեցինք վեհ նկրտումներով, և մինչ օրս ես հպարտությամբ կարող եմ ասել, որ տեսլականը մնացել է անփոփոխ: Մեր MLSoC-ը նպատակային է ստեղծվել՝ հակադրվելու արդյունաբերության նորմերին՝ ներդրված ծայրամասային շուկայում հեղափոխական ML լուծում տրամադրելու համար:

Շնորհակալություն հիանալի հարցազրույցի համար, այն ընթերցողները, ովքեր ցանկանում են ավելին իմանալ, պետք է այցելեն SiMa.ai.