Nový systém může přinést umělou inteligenci do nositelných zařízení a domácích spotřebičů

Tým výzkumníků z MIT pracuje na přenesení hlubokých učících se neuronových sítí na mikrokontroléry. Tento pokrok znamená, že umělá inteligence (AI) by mohla být implementována do malých počítačových čipů v nositelných zdravotnických zařízeních, domácích spotřebičích a dalších 250 miliardách objektů, které tvoří “internet věcí” (IoT). IoT je síť fyzických objektů vybavených senzory, softwarem a dalšími technologiemi, které pomáhají připojit a vyměňovat data s jinými zařízeními a systémy.

Výzkum byl zveřejněn a bude prezentován na Konferenci o neuronových informačních systémech v prosinci. Hlavním autorem výzkumu je Ji Lin, doktorand v laboratoři Song Hana na oddělení elektrotechniky a počítačových věd MIT. Spoluautory jsou Han a Yujun Lin z MIT, Wei-Ming Chen z MIT a Národní univerzity v Tchaj-peji, a John Cohn a Chuan Gan z laboratoře MIT-IBM Watson.

Systém MCUNet

Systém se nazývá MCUNet a navrhuje kompaktní neuronové sítě, které jsou schopné extrémní rychlosti a přesnosti na zařízeních IoT, i s omezenou pamětí a výpočetním výkonem. Tento systém může být více energeticky efektivní a zlepšit bezpečnost dat.

Tým vyvinul “malou hlubokou učící se” systém kombinací dvou komponent – operace neuronových sítí a mikrokontrolérů. První komponent je TinyEngine, rozhraní, které funguje jako operační systém a řídí správu zdrojů. TinyEngine je optimalizován pro spuštění konkrétní neuronové sítě, kterou vybral TinyNAS, což je druhá komponent. TinyNAS je algoritmus pro hledání neuronové architektury.

Lin vyvinul TinyNAS, protože bylo obtížné aplikovat stávající techniky hledání neuronové architektury na malé mikrokontroléry. Tyto techniky nakonec najdou nejpreciznější a nejefektivnější síťovou strukturu po začátku s mnoha možnými strukturami na základě předem definovaného šablony.

“To může fungovat poměrně dobře pro GPU nebo chytré telefony,” říká Lin. “Ale bylo obtížné přímo aplikovat tyto techniky na malé mikrokontroléry, protože jsou příliš malé.”

TinyNAS může vytvářet přizpůsobené sítě.

“Máme mnoho mikrokontrolérů, které mají různé kapacity a velikosti paměti,” říká Lin. “Takže jsme vyvinuli algoritmus (TinyNAS), aby optimalizoval prostor pro hledání pro různé mikrokontroléry.”

Protože TinyNAS může být přizpůsoben, může generovat nejlepší možné kompaktní neuronové sítě pro mikrokontroléry.

“Pak dodáváme konečnou, efektivní model mikrokontroléru,” pokračuje Lin.

Pro mikrokontrolér, aby mohl spustit malou neuronovou síť, je vyžadováno čisté a štíhlé rozhraní. Mnoho rozhraní má instrukce pro zřídka spuštěné úkoly, které by mohly bránit mikrokontroléru.

“Nemá off-chip paměť a nemá disk,” říká Han. “Všechno, co je spolu, je jen jeden megabyte flash, takže musíme opravdu pečlivě spravovat takový malý zdroj.”

TinyEngine generuje kód, který je potřebný pro spuštění přizpůsobené neuronové sítě, kterou vyvinul TinyNAS. Čas kompilace je zkrácen odstraněním zbytečného kódu.

“Uchováváme pouze to, co potřebujeme,” říká Han. “A protože jsme navrhli neuronovou síť, víme přesně, co potřebujeme. To je výhoda systém-algoritmu návrhu.”

Testy prokázaly, že binární kód zkompilovaný TinyEngine byl 1,9 až pětkrát menší než podobné mikrokontrolérské motory, včetně těch od Google (GOOGL ) a ARM. Maximální využití paměti bylo také sníženo téměř o polovinu.

Schopnosti MCUNet

První testy pro MCUNet se týkaly klasifikace obrázků. Databáze ImageNet byla použita pro trénování systému s označenými obrázky a jeho schopnosti byly poté testovány na nových obrázcích.

Když byl MCUNet testován na komerčním mikrokontroléru, úspěšně klasifikoval 70,7 procent nových obrázků. To je mnohem lepší než předchozí nejlepší neuronová síť a interference motor, která byla 54 procenta přesná.

“I jeden procentní bod zlepšení je považován za významný,” říká Lin. “Takže to je obrovský skok pro mikrokontrolérské nastavení.”

Podle Kurta Keutze, počítačového vědce z University of California v Berkeley, to “rozšiřuje hranice hlubokého neuronového sítě návrhu ještě dále do oblasti malých energeticky efektivních mikrokontrolérů.” MCUNet by mohl “přinést inteligentní počítačové vidění do dokonce i těch nejjednodušších kuchyňských spotřebičů nebo umožnit více inteligentní pohybové senzory.”

MCUNet také zlepšuje bezpečnost dat.

“Klíčová výhoda je zachování soukromí,” říká Han. “Nemusíte přenášet data do cloudu.”

Analýzou dat místně je menší šance na kompromitaci osobních informací.

Kromě toho by MCUNet mohl analyzovat a poskytovat přehled o informacích, jako jsou údaje o srdeční frekvenci, krevním tlaku a úrovni kyslíku, přinést hluboké učení do zařízení IoT ve vozidlech a dalších místech s omezeným přístupem k internetu a snížit uhlíkovou stopu používáním pouze malého zlomek energie, která je požadována pro velké neuronové sítě.