Nový systém může přinést umělou inteligenci do nositelných zařízení a domácích spotřebičů

Tým výzkumníků na MIT pracuje na přenesení hlubokých učících se neuronových sítí na mikrokontroléry. Tento pokrok znamená, že umělá inteligence (AI) by mohla být implementována do malých počítačových čipů v nositelných zdravotnických zařízeních, domácích spotřebičích a dalších 250 miliardách objektů, které tvoří “internet věcí” (IoT). IoT je síť fyzických objektů vybavených senzory, softwarem a dalšími technologiemi, které pomáhají připojovat a vyměňovat data s ostatními zařízeními a systémy.

Výzkum je naplánován k prezentaci na Konferenci o zpracování neuronových informací v prosinci. Hlavním autorem výzkumu je Ji Lin, doktorand v laboratoři Song Hana na oddělení elektrotechniky a počítačových věd MIT. Spoluautory jsou Han z MIT a Yujun Lin, Wei-Ming Chen z MIT a Národní univerzity v Tchaj-wanu a John Cohn a Chuan Gan z laboratoře MIT-IBM Watson.

Systém MCUNet

Systém se nazývá MCUNet a navrhuje kompaktní neuronové sítě schopné extrémní rychlosti a přesnosti na zařízeních IoT, i s omezenou pamětí a výpočetním výkonem. Tento systém může být více energeticky eficientní a zlepšit bezpečnost dat.

Tým vyvinul “malý hluboký učící se” systém kombinací dvou komponent – provozu neuronových sítí a mikrokontrolérů. První komponent je TinyEngine, rozhraní motoru, který funguje jako operační systém směrovaný správy zdrojů. TinyEngine je optimalizován pro běh specifické neuronové sítě vybrané TinyNAS, což je druhá komponent. TinyNAS je algoritmus pro vyhledávání neuronové architektury.

Lin vyvinul TinyNAS kvůli obtížnosti aplikování stávajících technik vyhledávání neuronové architektury na malé mikrokontroléry. Tyto stávající techniky nakonec najdou nejpřesnější a nejefektivnější síťovou strukturu po startu mnoha možných na základě předem definovaného šablony.

“Může to fungovat khá dobře pro GPU nebo chytré telefony,” říká Lin. “Ale je to bylo obtížné přímo aplikovat tyto techniky na malé mikrokontroléry, protože jsou příliš malé.”

TinyNAS může vytvářet přizpůsobené sítě.

“Máme spoustu mikrokontrolérů, které přicházejí s různými kapacitami energie a různými velikostmi paměti,” říká Lin. “Takže jsme vyvinuli algoritmus [TinyNAS], aby optimalizoval prostor vyhledávání pro různé mikrokontroléry.”

Protože TinyNAS může být přizpůsoben, může generovat nejlepší možné kompaktní neuronové sítě pro mikrokontroléry.

“Pak dodáváme konečnou, efektivní model mikrokontroléru,” pokračuje Lin.

Čisté a štíhlé rozhraní motoru je vyžadováno pro mikrokontrolér, aby běžel malou neuronovou sítí. Mnoho rozhraní motorů má instrukce pro zřídka běžící úkoly, které by mohly brzdit mikrokontrolér.

“Nemá off-chip paměť a nemá disk,” říká Han. “Všechno, co je spolu, je jen jeden megabyte flash, takže musíme opravdu pečlivě spravovat takový malý zdroj.”

TinyEngine generuje kód potřebný pro běh přizpůsobené neuronové sítě vyvinuté TinyNAS. Čas kompilace je snížen odstraněním mrtvého kódu.

“Uchováváme pouze to, co potřebujeme,” říká Han. “A protože jsme navrhli neuronovou síť, víme přesně, co potřebujeme. To je výhoda systém-algoritmového kódování.”

Testy prokázaly, že zkompilovaný binární kód TinyEngine byl 1,9 až pětkrát menší než podobné motory mikrokontrolérů, včetně těch od Google a ARM. Maximální využití paměti bylo také sníženo téměř na polovinu.

Schopnost MCUNet

První testy pro MCUNet se týkaly klasifikace obrázků. Databáze ImageNet byla použita pro výcvik systému s označenými obrázky a jeho schopnost byla poté testována na nových.

Když byl MCUNet testován na komerčním mikrokontroléru, úspěšně klasifikoval 70,7 procent nových obrázků. To je mnohem lepší než předchozí nejlepší neuronová síť a motor, který dosáhl 54 procentní přesnosti.

“I jedno procentní zlepšení je považováno za významné,” říká Lin. “Takže to je obrovský skok pro mikrokontroléry.”

Podle Kurta Keutze, počítačového vědce na University of California v Berkeley, to “rozšiřuje hranice hlubokého neuronového designu ještě dále do výpočetního domény malých energeticky efektivních mikrokontrolérů.” MCUNet by mohl “přinést inteligentní počítačové vidění do dokonce i těch nejjednodušších kuchyňských spotřebičů nebo umožnit více inteligentní pohybové senzory.”

MCUNet také zlepšuje bezpečnost dat.

“Klíčová výhoda je zachování soukromí,” říká Han. “Nemusíte přenášet data do cloudu.”

Analýzou dat lokálně je menší šance na ohrožení osobních informací.

Kromě toho MCUNet může analyzovat a poskytovat přehled o informacích, jako je srdeční tep, krevní tlak a úroveň kyslíku, přinést hluboké učení do zařízení IoT ve vozidlech a na dalších místech s omezeným přístupem k internetu a snížit uhlíkovou stopu používáním pouze malé části energie vyžadované pro velké neuronové sítě.