Sumeet Kumar, spoluzakladatel a CEO Innatera – Interview Series

Sumeet Kumar je spoluzakladatel a CEO Innatera Nanosystems, kde vede vývoj ultraefektivních neuromorfních procesorů pro analýzu senzorových dat v IoT, nositelných a vestavěných zařízeních. Předtím řídil výzkum financovaný EU na TU Delft, včetně projektu PRYSTINE v hodnotě 50 milionů eur na technologie autonomních vozidel, a zastával role v Intelu a akademickém výzkumu pokročilých architektur procesorů. (INTC )

Innatera je polovodičová společnost zaměřená na přinášení ultra nízké spotřeby energie na „senzorový okraj“. Jejich jádrové inovace spočívá v spikeových neuronových procesorech postavených na analogově-směšené architektuře, která napodobuje událostně založené zpracování mozku. Tyto čipy mohou rozpoznávat vzory v senzorových datech na sub-milliwattové úrovni spotřeby a ultra nízké latenci, což je činí ideálními pro vždy zapnuté, energeticky omezené aplikace.

Vy jste spoluzakladatelem Innatera v roce 2018 s vizí přinést neuromorfní procesory z laboratoře do skutečných zařízení. Co vás osobně vedlo k založení společnosti a jak se tato vize vyvinula za posledních sedm let?

Innatera byla založena s jasnou misí: přinést mozek-podobnou inteligenci přímo k senzoru. Signály byly jasně viditelné již v roce 2018, zařízení začínala integrovat stále složitější senzory a potřeba vždy zapnutého snímání rostla. Mikrokontroléry postrádaly energeticky efektivní AI schopnosti a i ty by pouze posunuly hranici, pokud jde o nepřetržité zpracování v zařízeních napájených malými bateriemi. Bylo zřejmé, že způsob, jakým jsou senzorová data zpracovávána v těchto zařízeních, potřebuje změnu, a desetiletí výzkumu, které jsme provedli na TUDelft v oblasti neuromorfního výpočtu a energeticky efektivní zpracování, seemed to have an answer to this challenge.

Naše vize zůstala konzistentní – chytřejší, čistější a bezpečnější svět poháněný ambientní inteligencí. Přinášením inteligence k senzorům naše čipy umožní, aby se světová senzorová data zpracovávala přímo na místě, což povede k radikálnímu snížení spotřeby energie moderního AI. Cílíme na to, aby jsme udělali miliardu senzorů inteligentními do roku 2030.

Pulsar je prvním krokem na této cestě – je to první neuromorfní mikrokontrolér navržený pro mainstreamový přijetí. Učiní mozek-inspirovanou inteligenci praktickou v nositelných zařízeních, inteligentních domech a průmyslových systémech, mezi jinými použitími, a zároveň vytváří základ pro adaptivní, autonomní technologie budoucnosti.

Pulsar je založen na fundamentálně nové přístupu k zpracování na senzoru, realizovaném během 7 let tvrdého výzkumu a inženýrství. Co začalo jako dobrodružství se čtyřmi lidmi, vyrostlo v tento čas na globální tým 100 lidí, napříč 15 zeměmi, sjednocený lidmi-first kulturou postavenou na odolnosti, kreativitě a ambici.

Pulsar je popsán jako první skutečně masově-výrobní neuromorfní mikrokontrolér. Co ho dělá odlišným od předchozích neuromorfních čipů, které zůstaly převážně uzavřeny v laboratořích?

Důraz akademického výzkumu je často kladen na vývoj inovativních nových přístupů k řešení složitých problémů. Jako důsledek, benefity řešení tendují být měřeny v izolaci. Avšak, když tyto nové technologie jsou nasazeny do produkce, musí interagovat s jinými částmi systému, což často vede k tomu, že jejich benefity jsou zředěny. To je také případ mnoha neuromorfních a konvenčních AI urychlovacích technologií – jsou integrovány do systémů, které nejsou navrženy se stejnými základy na mysli, a to vede k výsledku, který bledne ve srovnání s jejich efektivitou. Pulsar, na druhé straně, je kompletní, samostatný mikrokontrolér, účelově navržen pro efektivní zpracování senzorových dat na extrémním okraji.

Byl navržen od základu nahoru, aby integroval vše, co je potřeba pro zpracování senzorových dat do jednoho čipu: analogové a digitální spikeové neuronové jádra, CNN a FFT urychlovače a plný 32-bit RISC-V subsystém pro systémový management a kontrolu senzorů. Tato heterogenní architektura umožňuje Pulsaru transformovat surová senzorová data na akční informace přímo na zařízení, zatímco spotřebovává až 500x méně energie a běží 100x rychleji než konvenční AI procesory.

Mimo hardware, Pulsar také řeší dlouho existující softwarovou bariéru. Jeho Talamo SDK, s nativní PyTorch integrací, činí neuromorfní vývoj přístupným mainstreamovým inženýrům a umožňuje kompaktní modely pod 5KB běžet v sub-milliwattových rozpočtech energie. Veškeré toto do 2,8 x 2,6 mm balení, Pulsar eliminuje potřebu objemných multi-čipových sad, činí jej prvním neuromorfním procesorem připraveným pro skutečné masové nasazení.

Přístupnost je velkou tématem pro Innatera. Jak Talamo SDK, zejména s jeho PyTorch integrací, snižuje bariéru pro vývojáře, kteří jsou noví v neuromorfním výpočtu? 

Po desetiletích byl hlavní bariéra pro neuromorfní přijetí nebyla kvůli hardwaru, ale kvůli nedostatku vývojářsky-přátelských nástrojů. Vývojáři byli konfrontováni se strmými učebními křivkami a neznámými pracovními postupy, které zpomalovaly inovace. Talamo přímo řeší tuto otázku, poskytujíc PyTorch-založený SDK, který umožňuje inženýrům navrhovat, trénovat a nasazovat spikeové neuronové sítě prostřednictvím známých pracovních postupů. Kompaktní modely mohou být snadno integrovány do stávajících senzorových architektur, umožňujících vždy zapnutou inteligenci i v nejmenších, nejvíce energeticky omezených zařízeních. Odstraněním složitosti a urychlením vývoje, Talamo činí neuromorfní výpočet přístupným mainstreamovým vývojářům a urychluje cestu od prototypu k produktu.

Z technického hlediska, jak vy vyvažujete analogové a digitální spikeové urychlovače uvnitř Pulsaru, aby zpracovávaly rozmanité úkoly efektivně? 

Pulsarova architektura kombinuje analogové a digitální spikeové jádra, aby optimalizovala spotřebu energie a flexibilitu. Analogová jádra poskytují ultra-efektivní zpracování pro nepřetržité, vždy zapnuté senzorové úkoly, kde každá mikrowattka počítá. Digitální jádra poskytují programovatelnost a přesnost pro složitější nebo variabilní úkoly, stále v rámci efektivní energetické kapsy. Úkoly jsou distribuovány napříč oběma jádry v závislosti na aplikaci, zajišťujíc, že energie je spotřebována pouze tehdy, když se data mění. Tento událostně-řízený přístup umožňuje Pulsaru udržovat sub-milliwattové výkony, zatímco zachovává flexibilitu pro podporu rozmanitých reálných aplikací.

Můžete nás provést typickým vývojářským pracovním postupem – od trénování modelu po nasazení na Pulsaru – a kde jsou největší efektivní zisky realizovány?

Pracovní postup začíná v PyTorch, kde vývojáři navrhují a trénují své modely, jako by to dělali pro konvenční AI. Pomocí Innatera Talamo SDK, model je převeden do spikeové neuronové sítě optimalizované pro Pulsarův hardware. Vývojáři mohou pak simulovat, vyladit a nasadit model přímo na čip, často s otisky tak malými, jako 5KB. Krok vývoje modelu je integrován do většího aplikačního pipeline vývoje, který umožňuje vývojáři stavět kód, který cílí na RISC-V, stejně jako na CNN urychlovač, v jednotném způsobu. To překládá se do vylepšeného vývojářského zážitku a kratšího vývojového času.

Největší efektivní zisky jsou realizovány, jakmile je model spuštěn na Pulsarových událostně-řízených spikeových jádrech. Na rozdíl od konvenčních MCU, které neustále spalují energii, Pulsar počítá pouze tehdy, když se vstupní data mění. To umožňuje vždy zapnuté úkoly, jako je rozpoznávání gest nebo radarová detekce přítomnosti, běžet nepřetržitě na sub-milliwattových úrovních, dodávajíc řádové zlepšení energetické efektivity, zatímco zachovává vysokou přesnost a neuvěřitelně krátkou latenci.

Které sektory ukazují nejrychlejší přijetí vaší technologie a můžete sdílet příklady raných zákazníků nebo partnerů, kteří již nasazují Pulsar ve svých produktech?

Přijetí Pulsaru se děje nejrychleji v oblastech, kde vždy zapnuté snímání a ultra nízká spotřeba energie mají největší význam, včetně inteligentních domů, nositelných zařízení a průmyslové bezpečnosti. Dobrým příkladem je Aaroh Labs, který vyvinul novou generaci detektorů kouře poháněných Innaterou, nedávno odhalenou na SEMICON India 2025. Tato zařízení dělají více, než jen snímají kouř, kombinují detekci kouře s monitorováním přítomnosti lidí, vytvářejíc bohatší situační povědomí a umožňujíc inteligentnější bezpečnostní systémy pro rezidenční, komerční a průmyslová prostředí.

Stejný neuromorfní přístup může být rozšířen na sledování aktiv a environmentální monitoring, s širokými implikacemi pro propojené zdravotnictví a inteligentní města. Na SEMICON India, CYRAN AI Solutions také ukázala, jak Innatera technologie je integrována do kompaktních senzorových systémů, jako je elektromyografie (EMG) nositelná zařízení pro rozpoznávání gest, zdůrazňujíc potenciál neuromorfního AI pro umožnění intuitivní interakce mezi lidmi a stroji.

Tito raní nasazení jsou pouze začátkem, signalizující, že neuromorfní výpočet se posouvá z teorie do praxe, a rychle zakořenění v reálných aplikacích.

V demonstracích jsme viděli příklady, jako je ultra nízká spotřeba energie pro rozpoznávání gest a radarovou detekci přítomnosti, spotřebovávající méně než jeden milliwatt. Jak validujete přesnost a spolehlivost v tak omezeném prostředí?

Validace často závisí na aplikaci a kromě přesnosti, falešně pozitivní a falešně negativní detekční míry poskytují kritickou indikaci spolehlivosti řešení. Často mají zákazníci specifické KPI a testovací podmínky pro validaci. Pulsarova flexibilita je klíčová v umožnění komplexních řešení, která umožňují zákazníkům zaškrtnout všechny políčka pro jejich případ použití. Srovnání jsou prováděna srovnáním s konvenčními MCU a urychlovači, které obvykle spotřebují 40-100 krát více energie pro stejné úkoly.

V reálných demonstracích, jako je radarová detekce přítomnosti a audio scénářová klasifikace, Pulsar konzistentně dodává přesnosti nad 90%, zatímco zůstává v sub-milliwattových rozpočtech. To umožňuje nepřetržité fungování bez obětování spolehlivosti, něco, co tradiční vždy zapnuté systémy tradičně musely kompromitovat probuzením ze spánku, snížením výkonu nebo odložením do cloudu.

Vy jste umístil Pulsar jako doplněk k více konvenčním NPU a CPU. Jak vidíte neuromorfní výpočet jako součást širšího silikonového stacku budoucích inteligentních zařízení?

Pulsar je navržen jako první čip, se kterým senzory komunikují. Zpracovává data místně na ultra nízké úrovni spotřeby, převádí surová senzorová signály na smysluplné, akční informace, přímo na místě. NPU a CPU mohou být poté zapnuty pouze tehdy, když je vyžadováno těžší zpracování.

To činí neuromorfní procesory doplňkovou vrstvou v silikonovém stacku; vždy-vědomou, vždy-zapnutou základnou, která prodlužuje životnost zařízení, snižuje spotřebu energie a zlepšuje reaktivitu. Pulsar přebírá úkol zpracování senzorových dat od tradičně vysoce-energetických komponent v systému, umožňujíc jim být vypnutými v mnoha zařízeních a v některých případech, dokonce úplně odstraněnými. To vede k chytřejším a déle trvajícím zařízením.

Jakou roli hrají spolupráce s partnery, jako jsou Aaroh Labs a CYRAN AI Solutions, při urychlování reálného přijetí neuromorfního AI?

Partnerství fungují jako most mezi průlomovou technologií a širokým přijetím. Pracováním s inovátory, jako jsou Aaroh Labs a CYRAN AI Solutions, Innatera zajišťuje, že Pulsar je validován v reálných prostředích a přizpůsoben pro specifické vertikály. Aaroh Labs přináší neuromorfní inteligenci do kritické bezpečnostní infrastruktury, zatímco CYRAN AI Solutions demonstruje jeho potenciál v intuitivní interakci mezi lidmi a stroji. Tyto spolupráce prokazují technologii versatility, snižují bariéry pro další přijímače a budují důvěru v nasazení neuromorfních procesorů ve velkém měřítku.

Naše partnerství se senzorovými dodavateli, jako je Socionext, nám umožňuje těsně balit inteligenci do senzorového modulu, zjednodušujících přijetí a nasazení inteligentního snímání do zařízení. Kromě toho tato partnerství posilují naši již silnou a rostoucí ekosystém, a urychlují šíření neuromorfního výpočtu v průmyslu.

Pohledem do budoucnosti, vidíte Pulsar a jeho následovníky směřující k zařízení, které se učí a adaptují na místě, spíše než pouze inferenci na okraji?

Absolutně. S Pulsarem jsme pouze začali škrábat povrch toho, co neuromorfní může udělat. Neuromorfní procesory jsou přirozeně vhodné pro online učení a adaptaci a Pulsar vytváří základ pro zařízení, která mohou dělat mnohem více, než jen detekovat a reagovat.

Neuromorfní výpočet je nastaven tak, aby umožnil novou generaci adaptivních a autonomních edge zařízení; systémy, které se učí, sebe-kalibrují a optimalizují v reálném čase, zatímco běží na malých bateriích. Tato evoluce odemkne širokou škálu aplikací, sahajících od nositelných zařízení, která se přizpůsobují vašemu chování na letu, po průmyslové systémy, které předpovídají a předcházejí selháním s minimální spotřebou energie. Dlouhodobým cílem je vytvořit zařízení, která jsou stejně inteligentní, jako jsou kontinuálně adaptivní a odolné, předefinujíc, co je skutečně možné na okraji.

Děkuji vám za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Innatera.