Istraživači koriste memristore za stvaranje energetski učinkovitijih neuronskih mreža

Jedan od manje glamuroznih aspekata umjetne inteligencije je taj što često zahtijeva veliku količinu procesorske snage i stoga često ima veliki energetski otisak. Nedavni rad istraživača s UCL-a odredio je metodu poboljšanja energetske učinkovitosti umjetne inteligencije.

Neuronske mreže i strojno učenje moćni su alati, ali najimpresivniji podvizi umjetne inteligencije obično imaju velike troškove energije. Na primjer, kada je OpenAI naučio robotsku ruku manipulirati Rubikovom kockom, procijenjeno je da je podvig potrebno oko 2.8 gigavat-sati električne energije.

Prema TechExploreu, Istraživači s UCL-a dizajnirali su novu metodu generiranja umjetnih neuronskih mreža. Nova metoda koristi memristore za generiranje mreže, koji su oko 1000 puta energetski učinkovitiji od mreža stvorenih tradicionalnim pristupima. Memristori su uređaji koji se mogu prisjetiti količine električnog naboja koji je zadnji put prošao kroz njih, čuvajući to stanje memorije nakon što su isključeni. To znači da mogu zapamtiti svoje stanje čak i ako uređaj izgubi napajanje. Iako se o memristorima prvi put teoretiziralo prije otprilike 50 godina, pravi memristor stvoren je tek 2008. godine.

Memristori se povremeno nazivaju "neuromorfnim" računalnim uređajima ili uređajima "nadahnutim mozgom". Memristori su slični građevnim blokovima koje mozak koristi za obradu informacija i stvaranje sjećanja. Visoko su učinkoviti u usporedbi s većinom modernih računalnih sustava. Ovi memristorski uređaji posjeduju aspekte kondenzatora i otpornika, a tijekom posljednjih desetak godina proizvedeni su i korišteni u raznim memorijskim uređajima. Istraživački timovi UCL-a nadaju se da će njihovo istraživanje pomoći da se ovi uređaji koriste za stvaranje AI sustava u roku od nekoliko godina.

Unatoč njihovoj povećanoj energetskoj učinkovitosti, memristori su tradicionalno mnogo manje učinkoviti od običnih neuronskih mreža, ali istraživači s UCL-a pronašli su način da povećaju točnost memristora. Istraživači su otkrili da kada koriste mnogo memristora, oni se mogu podijeliti u više podskupina, a zatim se njihovi izračuni izračunavaju zajedno. Usrednjavanje izračuna pomaže da se greške u podskupinama međusobno ponište i da se pronađu relevantniji uzorci.

dr. Adnan Mehonić i dr. sc. student Dovydas Joksas (oba, elektrotehnika i elektrotehnika s UCL-a) i njihovi koautori testirali su ovaj pristup izračunavanja prosjeka na različitim tipovima memristora i otkrili da se čini da tehnika poboljšava točnost u svim različitim testiranim memristorima, a ne samo u jednom ili dva. Poboljšanja točnosti primjenjivala su se na sve skupine koje su testirane, bez obzira na vrstu materijala od kojeg je memristor izrađen.

Prema riječima dr. Mehonić, as citira TechExplore:

“Nadali smo se da bi moglo postojati više generičkih pristupa koji poboljšavaju ponašanje na razini sustava, ne na razini uređaja, i vjerujemo da smo ga pronašli. Naš pristup pokazuje da je, kada su u pitanju memristori, nekoliko glava bolje od jedne. Raspoređivanje neuronske mreže u nekoliko manjih mreža umjesto jedne velike mreže dovelo je do sveukupne veće točnosti.”

Istraživački tim bio je uzbuđen što je uzeo tehniku ​​računalne znanosti i primijenio je na memristore, također koristeći uobičajenu tehniku ​​izbjegavanja pogrešaka (proračuni prosjeka) kako bi se povećala točnost memrističkih neuronskih mreža. Koautor studije, profesor Tony Kenyon s UCL Electronic & Electrical Engineering vjeruje da bi memristori mogli "preuzeti vodeću ulogu" u stvaranju energetski održivijih rubnih računalnih uređaja i IoT uređaja.

Memristori nisu samo energetski učinkovitiji od tradicionalnih modela neuronskih mreža, već se mogu lako uključiti u ručni mobilni uređaj. Predviđa se da će to biti od sve veće važnosti u bliskoj budućnosti jer se sve više podataka stvara i prenosi iako je teško povećati kapacitet prijenosa nakon određene točke. Memristori bi mogli omogućiti prijenos velikih količina podataka uz djelić cijene energije.