Výzkumníci používají memristory k vytvoření energeticky účinnějších neuronových sítí

Jedním z méně okouzlujících aspektů umělé inteligence je, že často vyžaduje velké množství výpočetního výkonu, a proto má často velkou energetickou stopu. Nedávná práce provedená výzkumníky z UCL určila metodu zlepšení energetické účinnosti AI.

Neuronové sítě a strojové učení jsou mocnými nástroji, ale ty nejpůsobivější výkony umělé inteligence jsou obvykle spojeny s vysokými energetickými náklady. Když například OpenAI naučila robotickou ruku manipulovat s Rubikovou kostkou, odhadovalo se, že výkon vyžadovalo přibližně 2.8 gigawatthodiny elektřiny.

Podle TechExplore, Výzkumníci z UCL navrhli novou metodu generování umělých neuronových sítí. Nová metoda využívá ke generování sítě memristory, které jsou přibližně 1000krát energeticky účinnější než sítě vytvořené tradičními přístupy. Memristory jsou zařízení, která si dokážou vybavit množství elektrického náboje, který jimi naposledy protekl, a zachovat tento stav paměti po jejich vypnutí. To znamená, že si mohou pamatovat svůj stav, i když zařízení ztratí napájení. Ačkoli memristory byly poprvé teoretizovány asi před 50 lety, teprve v roce 2008 byl vytvořen skutečný memristor.

Memristory jsou občas označovány jako „neuromorfní“ výpočetní zařízení nebo „mozkem inspirovaná“ zařízení. Memristory jsou podobné stavebním kamenům, které mozek používá ke zpracování informací a vytváření vzpomínek. Jsou vysoce účinné ve srovnání s většinou moderních počítačových systémů. Tato memristorová zařízení mají aspekty kondenzátorů a rezistorů a během posledních zhruba deseti let byla vyráběna a používána v různých paměťových zařízeních. Výzkumné týmy UCL doufají, že jejich výzkum během několika let pomůže tato zařízení použít k vytvoření systémů umělé inteligence.

Navzdory zvýšené energetické účinnosti jsou memristory tradičně mnohem méně účinné než běžné neuronové sítě, ale výzkumníci UCL našli způsob, jak zvýšit přesnost memristorů. Výzkumníci zjistili, že při použití mnoha memristorů je lze rozdělit do více podskupin a poté jejich výpočty zprůměrovat dohromady. Zprůměrování výpočtů pomáhá chybám v podskupinách se vzájemně vymazat a najít relevantnější vzory.

Dr. Adnan Mehonic a Ph.D. student Dovydas Joksas (jak UCL Electronic a Electrical Engineering) a jejich spoluautoři testovali tento průměrný přístup napříč různými typy memristorů a zjistili, že tato technika zřejmě zlepšuje přesnost u všech různých testovaných memristorů, nejen u jednoho nebo dvou z nich. Zlepšení přesnosti se týkalo všech testovaných skupin, bez ohledu na typ materiálu, ze kterého byl memristor vyroben.

Podle Dr. Mehonic, as citováno TechExplore:

„Doufali jsme, že by mohly existovat obecnější přístupy, které zlepšují chování na úrovni zařízení, ale nikoli na úrovni systému, a věříme, že jsme jeden našli. Náš přístup ukazuje, že pokud jde o memristory, několik hlav je lepších než jedna. Uspořádání neuronové sítě do několika menších sítí namísto jedné velké sítě vedlo k celkové větší přesnosti.

Výzkumný tým byl nadšený, že vzal techniku ​​počítačové vědy a aplikoval ji na memristory, také pomocí běžné techniky vyhýbání se chybám (průměrování výpočtů) ke zvýšení přesnosti memristivních neuronových sítí. Spoluautor studie profesor Tony Kenyon z UCL Electronic & Electrical Engineering věří, že memristory by mohly „převzít vedoucí roli“ při vytváření energeticky udržitelných okrajových počítačových zařízení a zařízení IoT.

Memristory jsou nejen energeticky účinnější než tradiční modely neuronových sítí, ale lze je snadno začlenit do ručního mobilního zařízení. Předpokládá se, že toto bude v blízké budoucnosti nabývat na významu, protože se neustále vytváří a přenáší více dat, i když je obtížné zvýšit přenosovou kapacitu za určitý bod. Memristory by mohly pomoci umožnit přenos velkých objemů dat za zlomek nákladů na energii.