Sumeet Kumar, Innateran perustaja ja toimitusjohtaja – Haastattelusarja

Sumeet Kumar on Innatera Nanosystemsin perustaja ja toimitusjohtaja, jossa hän johtaa kehitystyötä ultra Tehokkaiden neuromorfisten prosessoreiden parissa sensoridata-analytiikkaa varten IoT-, wearable- ja upotettujärjestelmissä. Aikaisemmin hän johti EU:n rahoittamaa tutkimusta TU Delftissä, mukaan lukien 50 miljoonan euron PRYSTINE-projekti autonomisten ajoneuvojen teknologioista, ja toimi Intelissä ja akateemisessa tutkimuksessa edistyneiden prosessoriarkkitehtuureiden parissa. (INTC )

Innatera on puolijohdeyhtiö, joka keskittyy tuomaan ultra-alhaisen tehokkuuden älykkyyttä “anturireunaan”. Yhtiön ydininnovaatio perustuu heräteperäisiin neuroniajoihin, jotka on rakennettu analogi-digitaaliseen signaaliarkkitehtuuriin, joka jäljittelee aivojen tapahtumaperäistä prosessointia. Nämä piirit voivat tunnistaa kuvioita anturidatasta alle milliampeerin tehokkuudella ja ultra-alhaisella viiveellä, mikä tekee niistä ihanteellisia aina päällä oleviin, tehokkuuden rajoitettuihin sovelluksiin.

Perustit Innateran vuonna 2018 visiolla tuoda neuromorfiset prosessorit laboratoriosta todellisiin laitteisiin. Mitä henkilökohtaisesti ajoi sinua perustamaan yhtiötä, ja miten tuo visio on kehittynyt viimeisen seitsemän vuoden aikana?

Innatera perustettiin selkeällä tehtävällä: tuoda aivojen kaltaista älykkyyttä suoraan anturiin. Merkit olivat selvät jo vuonna 2018, laitteet integroivat yhä monimutkaisempia antureita, ja tarve aina päällä olevasta havainnosta kasvoi. Mikrokontrollerit puuttuivat tehokkaista AI-ominaisuuksista, ja vaikka se liikuttaisi vain hieman, kun kyseessä on jatkuva prosessointi laitteissa, jotka toimivat pienillä akkuilla. Olisi selvää, että anturidatan prosessointi näissä laitteissa tarvitsi muutosta, ja vuosikymmenen tutkimus, jonka olimme tehneet TUDelftissä neuromorfisesta laskennasta ja energiatehokkaasta prosessoinnista, näytti olevan vastaus tähän haasteeseen.

Näkymämme on pysynyt vakaana – älykkäämpi, puhtaampi ja turvallisempi maailma, jota ohjaa ympäristön älykkyys. Tuomalla älykkyyttä antureihin, piirimme mahdollistavat maailman anturidatan prosessoinnin suoraan lähteessä, mikä johtaa radikaaliin vähentymiseen modernin AI:n energiankäytössä. Tavoittelemme tehdä miljardi anturia älykkääksi vuoteen 2030 mennessä.

Pulsar on ensimmäinen askel tässä matkassa – se on maailman ensimmäinen neuromorfinen mikrokontrolleri, joka on suunniteltu laajamittaiseen käyttöön. Se tekee aivoihin perustuvan älykkyyden käytännölliseksi wearable-laitteissa, älykkäissä kodinkoneissa ja teollisuusjärjestelmissä, muun muassa, ja luo perustan adaptiivisille, autonomisille teknologioille tulevaisuudessa.

Pulsar perustuu perustavanlaatuiseen uuteen lähestymistapaan anturin prosessoinnissa, joka on toteutettu seitsemän vuoden aikana tehtyjen kovien tutkimus- ja insinöörintyön kautta. Se, mikä alkoi neljän hengen yrityksenä, on kasvanut maailmanlaajuiseksi tiimiksi, joka koostuu 100 hengestä, 15 maassa, ja jota yhdistää ihmiskeskeinen kulttuuri, joka perustuu kestävyyteen, luovuuteen ja tavoitteellisuuteen.

Pulsar on kuvattu maailman ensimmäiseksi todella massamarkkinoiden neuromorfiseksi mikrokontrolleriksi. Mitä tekee siitä erilaisen edellisiin neuromorfisiin piireihin nähden, jotka pysyivät pääasiassa tutkimuslaboratorioissa?

Akateemisen tutkimuksen fokus on usein kehittää innovatiivisia uusia lähestymistapoja haastavien ongelmien ratkaisemiseksi. Seurauksena on, että ratkaisujen hyödyt mitataan usein erillään. Kun nämä uudet teknologiat kuitenkin otetaan käyttöön tuotannossa, niiden on vastattava muiden järjestelmän osien vaatimuksiin, mikä usein johtaa siihen, että niiden hyödyt vähenevät. Tämä on myös monien neuromorfisten ja perinteisten AI-kiihdytysteknologioiden tapaus – ne on integroitu järjestelmiin, jotka eivät ole suunniteltu samoilla periaatteilla, mikä johtaa lopputulokseen, joka on heikompi kuin odotettu. Pulsar on kuitenkin täydellinen, itsenäinen mikrokontrolleri, joka on suunniteltu tehokkaaksi anturidatan prosessoinniksi äärimmäisessä reunassa.

Se on suunniteltu alusta alkaen integroida kaikki tarvittava anturidatan prosessoinnin yhteen piiriin: analogiset ja digitaaliset heräteperäiset neuroniydinten, CNN- ja FFT-kiihdyttimet sekä täydellinen 32-bittinen RISC-V-alijärjestelmä järjestelmän hallintaan ja anturin ohjaamiseen. Tämä heterogeeninen arkkitehtuuri mahdollistaa Pulsarille muuttaa raakaa anturidataa toimivaksi tietoksi suoraan laitteessa, kuluttaen jopa 500-kertaisesti vähemmän energiaa ja toimien 100-kertaisesti nopeammin kuin perinteiset AI-prosessorit.

Lisäksi Pulsar ratkaisee pitkään olemassa olleen ohjelmistovaikeuden. Sen Talamo SDK, joka sisältää PyTorch-integraation, tekee neuromorfisen kehityksen helpoksi pääsylle myös perinteisille insinööreille ja mahdollistaa kompaktien mallien suorittamisen alle 5KB:n kokoon sub-milliampeerin tehokkuusbudjetissa. Sisällyttämällä kaiken tämän 2,8 x 2,6 mm:n pakettiin, Pulsar poistaa tarpeen isojen monipiiriratkaisujen käytölle, mikä tekee siitä ensimmäisen neuromorfisen prosessorin, joka on valmis todelliseen massamarkkinoiden käyttöön.

Saavutettavuus on suuri teema Innateralle. Miten Talamo SDK, erityisesti PyTorch-integraatiolla, alentaa esteitä kehittäjille, jotka ovat uusia neuromorfisessa laskennassa? 

Vuosikymmenien ajan pääeste neuromorfisen omaksumiselle ei ollut laitteistosta johtuva, vaan sen sijaan ohjelmistotyökalujen puute. Kehittäjät kohtasivat jyrkkiä oppimiskäyriä ja epätavallisia työvirran malleja, mikä hidasti innovaatiota. Talamo ratkaisee tämän tarjoamalla PyTorch-pohjaisen SDK:n, joka mahdollistaa insinööreille suunnitella, kouluttaa ja ottaa käyttöön heräteperäisiä neuroniajoverkkoja tuttuja työvirran malleja käyttäen. Kompaktit mallit voidaan helposti integroida olemassa oleviin anturirakenteisiin, mahdollistaen aina päällä olevan älykkyyden jopa pienimmissä, tehokkuuden rajoitettuimmissa laitteissa. Poistamalla monimutkaisuutta ja nopeuttamalla kehitystä, Talamo tekee neuromorfisen laskennan helpoksi pääsylle myös perinteisille kehittäjille ja kiihdyttää polkua prototyyppien valmistumisesta tuotteeksi.

Miten teknisesti tasapainotat analogisia ja digitaalisia heräteperäisiä kiihdyttimiä Pulsarissa tehokkaasti erilaisten työkuormien käsittelyssä? 

Pulsarin arkkitehtuuri yhdistää analogisia ja digitaalisia heräteperäisiä ydinten optimaaliseen energiankäyttöön ja joustavuuteen. Analogiset ytimet tarjoavat ultra-tehokasta prosessointia jatkuville, aina päällä oleville anturityökuormille, joissa jokainen mikrowatti on tärkeä. Digitaaliset ytimet tarjoavat ohjelmoitavuutta ja tarkkuutta monimutkaisemmille tai muuttuvammille tehtäville, edelleen tehokkaan energiankäytön puitteissa. Työkuormat jaetaan kahden ytimen välillä sovelluksen mukaan, varmisteten, että energiaa kulutetaan vain, kun dataa muutetaan. Tämä tapahtumaperäinen lähestymistapa mahdollistaa Pulsarille ylläpitää sub-milliampeerin suorituskykyä samalla, kun se ylläpitää joustavuutta monipuolisten sovellusten tukemiseksi.

Voitko kuljettaa meidät läpi tyypillisen kehittäjän työvirran – mallin kouluttamisesta sen käyttöönottoon Pulsarilla – ja missä ovat suurimmat tehokkuuden hyödyt?

Työvirra alkaa PyTorchista, jossa kehittäjät suunnittelevat ja kouluttavat mallejaan kuten perinteisessä AI:ssa. Innateran Talamo SDK:lla malli muunnetaan heräteperäiseksi neuroniajoverkoksi, joka on optimoitu Pulsarin laitteistolle. Kehittäjät voivat sitten simuloida, viilata ja ottaa mallin käyttöön suoraan piirille, usein jopa 5KB:n kokoon. Mallin kehitysvaihe on integroitu laajempaan sovelluskehitysvirran osaksi, joka mahdollistaa kehittäjille rakentaa koodia, joka kohdistuu RISC-V:hen sekä CNN-kiihdyttimiin yhdenmukaisessa muodossa. Tämä kääntyy parannetuksi kehityskokemukseksi ja lyhyemmäksi kehitysaikatauluksi.

Suurimmat tehokkuuden hyödyt toteutuvat, kun malli on käynnissä ja toimii Pulsarin tapahtumaperäisillä heräteperäisillä ytimillä. Toisin kuin perinteiset mikrokontrollerit, jotka polttavat energiaa jatkuvasti, Pulsar laskentelee vain, kun syötteenä oleva data muuttuu. Tämä mahdollistaa aina päällä olevien tehtävien, kuten eleiden tunnistamisen tai radarien läsnäolon havainnoinnin, suorittamisen jatkuvasti sub-milliampeerin tasolla, tarjoamalla kertaluokkia paremman energiatehokkuuden ja säilyttäen korkean tarkin ja erittäin lyhyen viiveen.

Mitä sektoreita näet omaksuvan teknologiaasi nopeimmin, ja voitko jakaa esimerkkejä varhaisista asiakkaista tai kumppaneista, jotka jo käyttävät Pulsaria tuotteissaan?

Pulsarin omaksuminen on nopeinta alueilla, joissa aina päällä oleva havainnointi ja ultra-alhainen tehokkuus ovat tärkeimmät, kuten älykkäissä kodeissa, wearable-laitteissa ja teollisuuden turvallisuudessa. Hyvä esimerkki tästä on Aaroh Labs, joka on kehittänyt uuden sukupolven savuhälyttimiä, jotka hyödyntävät Innateran teknologiaa, ja jotka esiteltiin hiljattain SEMICON India 2025 -tapahtumassa. Nämä laitteet tekevät enemmän kuin vain havainnoivat savua yhdistämällä savuhavainnon ihmisen läsnäolon seuraamiseen, luoden rikkaamman tilannekuvan ja mahdollistaen älykkäämmät turvajärjestelmät asuin-, kauppa- ja teollisuusympäristöihin.

Sama neuromorfinen lähestymistapa voidaan soveltaa myös varusteiden seuraamiseen ja ympäristön valvontaan, mikä voi johtaa laajoihin vaikutuksiin terveydenhuollossa ja älykkäissä kaupungeissa. SEMICON India -tapahtumassa CYRAN AI Solutions esitteli, miten Innateran teknologiaa voidaan integroida kompaktiin sensorijärjestelmiin, kuten sähköisen lihasaktiivisuuden (EMG) wearable-laitteisiin eleiden tunnistamiseksi, korostaa neuromorfisen AI:n potentiaalia mahdollistaa intuitiivinen ihmisen ja koneen välinen vuorovaikutus.

Nämä varhaiset käyttöönotot ovat vasta alkua, ja ne osoittavat, että neuromorfinen laskenta on siirtymässä teoriasta käytäntöön ja juurtuu nopeasti todellisiin sovelluksiin.

Haastatteluissa on nähty esimerkkejä, kuten ultra-alhaisen tehokkuuden eleiden tunnistaminen ja radarien perässä olevan läsnäolon havainnointi, jotka kuluttavat alle milliampeerin. Miten validoit tarkin ja luotettavuuden näissä rajoitettujen ympäristöissä?

Validointi riippuu sovelluksesta, ja lisäksi tarkin, myös virheellisten positiivisten ja negatiivisten havaintojen määrä antaa kriittisen osoituksen ratkaisun luotettavuudesta. Usein asiakkaat ovat määritelleet tiettyjä KPI:ja ja testiolosuhteita validoinniksi. Pulsarin joustavuus on avain siihen, että se mahdollistaa kattavat ratkaisut, jotka mahdollistavat asiakkaiden tarkistaa kaikki heidän sovelluksiinsa liittyvät kohdat. Vertailut tehdään vertaamalla perinteisiin mikrokontrollereihin ja kiihdyttimiin, jotka yleensä kuluttavat 40-100-kertaisesti enemmän energiaa samojen tehtävien suorittamiseksi.

Todellisissa demoissa, kuten radarien perässä olevan läsnäolon havainnoinnissa ja äänimaiseman luokittelussa, Pulsar toimii jatkuvasti yli 90 prosentin tarkin ja pysyy sub-milliampeerin budjetissa. Tämä mahdollistaa jatkuvan toiminnan ilman luotettavuuden uhraamista, mikä on perinteisten aina päällä olevien järjestelmien tapahtuma, jotka yleensä joutuvat tinkimään joko heräteajan, suorituskyvyn tai lähettämällä tiedot pilveen.

Olet asettanut Pulsarin perinteisten NPU:iden ja CPU:iden täydentäväksi. Miten näet neuromorfisen laskennan sopivan laajempaan älykkäiden laitteiden piirilevyarkkitehtuuriin?

Pulsar on suunniteltu ensimmäiseksi piiriksi, jonka anturit kommunikoivat. Se prosessoi dataa paikallisesti ultra-alhaisella tehokkuudella ja muuttaa raakaa anturidataa merkityksellisiksi, toimiviksi tiedoiksi suoraan lähteessä. NPU:t ja CPU:t voidaan käyttää vain, kun raskaampaa prosessointia vaaditaan.

Tämä tekee neuromorfisista prosessoreista täydentävän kerroksen piirilevyarkkitehtuuriin; aina valveilla olevan, aina päällä olevan perustan, joka laajentaa laitteen elinikää, vähentää energiankäyttöä ja parantaa vastauskykyä. Pulsar ottaa anturidatan prosessoinnin pois perinteisistä, korkean tehokkuuden komponenteista järjestelmässä, sallien niiden sammuttamisen monissa laitteissa ja joissakin tapauksissa jopa poistamisen kokonaan. Tämä johtaa älykkäämpiin ja kestävämpiin laitteisiin.

Mikä rooli yhteistyöllä kumppaneiden, kuten Aaroh Labsin ja CYRAN AI Solutionsin, kanssa on neuromorfisen AI:n todellisen maailman omaksumisessa?

Yhteistyöt toimivat siltaa läpi läpimurron tekniikan ja laajan omaksumisen välillä. Työskennellessä innovatiivisten yritysten, kuten Aaroh Labsin ja CYRAN AI Solutionsin, kanssa, Innatera varmistaa, että Pulsar on validi todellisissa ympäristöissä ja sovellettavissa tiettyihin pystyihin. Aaroh Labs tuo neuromorfisen älykkyyden kriittisiin turvainfrastructureihin, kun taas CYRAN AI Solutions osoittaa sen potentiaalia intuitiivisessa ihmisen ja koneen välisessä vuorovaikutuksessa. Nämä yhteistyöt osoittavat teknologian monipuolisuuden, vähentävät esteitä muille omaksujille ja luovat luottamusta neuromorfisten prosessoreiden käyttöönotossa laajassa mittakaavassa.

Yhteistyömme anturinvalmistajien, kuten Socionextin, kanssa mahdollistaa älykkyyden tiivistämisen anturimoduuliin, helpottaen älykkään havainnoinnin omaksumista laitteisiin. Tällaiset yhteistyöt vahvistavat jo vahvaa ja kasvavaa ekosysteemiämme ja kiihdyttävät neuromorfisen laskennan leviämistä teollisuudessa.

MITEN eteenpäin, näetkö Pulsarin ja sen seuraajien siirtymisen kohti laitteen omalla oppimista ja sopeutumista, eikä vain inferenceä reunassa?

Täysin. Pulsarilla olemme vasta aloittaneet neuromorfisen potentiaalin käytön. Neuromorfiset prosessorit ovat luonnostaan sovellettavissa online-oppimiseen ja sopeutumiseen, ja Pulsar luo perustan laitteille, jotka voivat tehdä enemmän kuin vain havainnoida ja reagoida.

Neuromorfinen laskenta on valmis mahdollistamaan uuden sukupolven adaptiivisia ja autonomisia reunan laitteita; järjestelmiä, jotka oppivat, itsekalibroivat ja optimoivat reaaliajassa toimien pienillä akkuilla. Tämä kehitys avaa laajan sovellusvalikoiman, aina wearable-laitteista, jotka mukautuvat käyttäjän käyttäytymiseen, teollisuusjärjestelmiin, jotka ennustavat ja estävät vikkoja vähäisellä energiankulutuksella. Pitkän aikavälin tavoitteena on luoda laitteita, jotka ovat yhtä älykkäitä kuin jatkuvasti adaptoituvia ja kestäviä, määrittelemällä uudelleen, mitä on mahdollista reunassa.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, suosittelemme vierailemaan Innateran sivuilla.