Pokrok v mikročipech nás přivádí blíže k AI edge computingu

Výzkumníci z Princetonské univerzity vyvinuli společně navržené hardware a software, které mají dále zvýšit rychlost a efektivitu specializovaných umělých inteligencí (AI) systémů. 

Naveen Verma je profesor elektrotechniky a počítačového inženýrství na Princetonské univerzitě, který vede výzkumný tým.

“Software je kritickou součástí umožňující nové hardware,” řekl Verma. “Naděje je, že návrháři mohou pokračovat v používání stejného softwarového systému – a mít jej desetkrát rychlejší a efektivnější.”

Systémy vyvinuté výzkumníky snižují požadavky na energii a množství dat, které musí být vyměněno z vzdálených serverů. Díky tomu mohou aplikace AI, jako je softwarová navigace pro drony, probíhat na okraji výpočetní infrastruktury. 

Verma je také ředitelem Univerzitního centra Keller Center for Innovation in Engineering Education. 

“Abysme mohli učinit AI dostupnou pro reálné a často osobní procesy kolem nás, musíme řešit latenci a soukromí tím, že přesuneme výpočet sám na okraj” řekl Verma. “A to vyžaduje jak energetickou efektivitu, tak výkon.”

Nové návrhy čipů

Tým z Princetonské univerzity vyvinul nový návrh čipu před dvěma lety, který měl zlepšit výkon neuronových sítí. Čip mohl provádět desítky až stovkykrát lépe než ostatní mikročipy na trhu.

“Hlavní nevýhodou čipu je, že používá velmi neobvyklou a rušivou architekturu,” řekl Verma v roce 2018. “To musí být smírněno s obrovským množstvím infrastruktury a návrhových metod, které máme a používáme dnes.”

Čip byl neustále zdokonalován po dobu dvou let a byl vytvořen softwarový systém, který umožnil AI systémům efektivně využívat novou technologii. Nápad spočíval v tom, že nové čipy by mohly umožnit systémům být škálovatelné v hardwaru a softwaru.

“Je programovatelný napříč všemi těmito sítěmi,” řekl Verma. “Sítě mohou být velmi velké, a mohou být velmi malé.”

Nejlepší scénář pro výpočet je, aby se udál na samotné technologii, spíše než na vzdáleném počítači. Nicméně, to vyžaduje obrovské množství energie a paměti, což ztěžuje návrh takového systému. 

Abysme mohli překonat tyto omezení, výzkumníci navrhli čip, který provádí výpočet a ukládá data ve stejné oblasti, což se nazývá výpočet v paměti. Tato technika snižuje energii a čas potřebný pro výměnu informací s vyhrazenou pamětí. 

Abysme mohli obejít analogový provoz, který je vyžadován pro výpočet v paměti a je citlivý na korupci, tým se spoléhal na kondenzátory místo tranzistorů v návrhu čipu. Kondenzátory nejsou ovlivněny stejným způsobem jako posuny napětí a jsou přesnější. 

Přes různé další výzvy spojené s analogovými systémy, tyto systémy nabízejí mnoho výhod, když se používají pro aplikace, jako jsou neuronové sítě. Výzkumníci nyní hledají způsob, jak spojit tyto dva typy systémů, protože digitální systémy jsou centrální, zatímco neuronové sítě spoléhající se na analogové čipy jsou schopny provádět rychlé a efektivní specializované operace.