Tutkijat käyttävät memristoreja luomaan energiatehokkaampia neurverkkoja

Yksi tekoälystä vähemmän glamourisista puolista on, että se usein vaatii suuren määrän prosessointikapasiteettia ja siksi sillä on usein suuri energianjalanjälki. UCL:n tutkijoiden tekemässä tuoreessa tutkimuksessa on löydetty keino parantaa tekoälyn energiatehokkuutta.

Neuroverkot ja koneoppiminen ovat voimakkaita työkaluja, mutta tekoälyn vaikuttavimmat saavutukset liittyvät usein suureen energiankulutukseen. Esimerkiksi kun OpenAI opetti robottikätteä manipuloimaan Rubikin kuutiota, arvioitiin, että saavutus vaati noin 2,8 gigawattituntia sähköä.

TechExploren mukaan UCL:n tutkijat ovat suunnitelleet uuden menetelmän tekoälyverkkojen luomiseksi. Uusi menetelmä käyttää memristoreja verkkojen luomiseen, jotka ovat noin 1000 kertaa energiatehokkaampia kuin perinteisillä menetelmillä luodut verkot. Memristorit ovat laitteita, jotka voivat muistaa sen sähkövirran määrän, joka viimeksi kulki niiden läpi, ja säilyttävät tämän muistitilan jopa laitteen sammuttamisen jälkeen. Tämä tarkoittaa, että ne voivat muistaa tilansa, vaikka laite menettäisi virran. Vaikka memristoreja on teoreettisesti tutkittu jo noin 50 vuoden ajan, vasta vuonna 2008 luotiin ensimmäinen todellinen memristori.

Memristoreja kutsutaan toisinaan “neuromorfisiksi” laskentalaitteiksi tai “aivoinnpiriroituneiksi” laitteiksi. Memristorit muistuttavat aivojen käyttämiä rakennuspalikoita, joita käytetään informaation prosessointiin ja muistin luomiseen. Ne ovat erittäin tehokkaita verrattuna useimpiin nykyisiin tietokonejärjestelmiin. Nämä memristorilaitteet omistavat piirteitä sekä kondensaattoreista että vastuksista, ja viimeisen kymmenen vuoden aikana niitä on valmistettu ja käytetty monissa muistilaitteissa. UCL:n tutkimusryhmä toivoo, että heidän tutkimuksensa auttaa näiden laitteiden käyttöönotossa tekoälyjärjestelmissä jo muutamassa vuodessa.

Vaikka memristorit ovat perinteisesti vähemmän tehokkaita kuin tavalliset neuroverkot, UCL:n tutkijat löysivät keinon parantaa memristorien tarkkuutta. Tutkijat totesivat, että käyttämällä useita memristoreja, ne voitiin jakaa useisiin alaryhmiin ja niiden laskelmat keskiarvoistaa. Laskelmien keskiarvoistaminen auttoi poistamaan alaryhmien virheitä ja löytämään tärkeämmät mallit.

Tohtori Adnan Mehonic ja Ph.D. -opiskelija Dovydas Joksas (molemmat UCL Electronic and Electrical Engineering) ja heidän kanssaan tekemänsä tutkimus osoitti, että tällainen keskiarvoistamismenetelmä paransi tarkkuutta kaikissa testatuissa memristoreissa, ei vain yhdessä tai kahdessa niistä. Tarkkuuden parantuminen koski kaikkia testattuja ryhmiä, riippumatta siitä, mistä materiaalista memristori oli valmistettu.

Tohtori Mehonicin mukaan, kuten TechExplore lainaa:

“Toivomme, että olisi olemassa yleisempiä lähestymistapoja, jotka parantavat ei laitetasolla, vaan järjestelmätasolla, ja uskomme löytäneensä yhden. Lähestymistapamme osoittaa, että memristoreiden kohdalla useampi pää on parempi kuin yksi. Neuroverkon järjestäminen useammaksi pienemmäksi verkoksi yhden suuren verkkojen sijaan johti suurempaan tarkkuuteen yleensä.”

Tutkimusryhmä oli innoissaan siitä, että he olivat soveltaneet tietojenkäsittelytekniikkaa memristoreihin ja käyttäneet yleistä virheenestoteekniikkaa (laskelmien keskiarvoistaminen) memristoriverkkojen tarkkuuden parantamiseen. Tutkimuksen tekijä, professori Tony Kenyon UCL Electronic & Electrical Engineering -yksiköstä, uskoo, että memristorit voivat “otaa johtavan aseman” energiatehokkaampien reunatietokoneiden ja IoT-laitteiden kehittämisessä.

Memristorit eivät ole ainoastaan energiatehokkaampia kuin perinteiset neuroverkkomallit, vaan ne voidaan helposti sisällyttää käsittelylaitteeseen. Tämä on tärkeää lähitulevaisuudessa, kun tietoa luodaan ja siirretään jatkuvasti, vaikka siirtokapasiteetin lisääminen on haasteellista. Memristorit voivat auttaa suurten tietomäärien siirtämisessä murto-osaan nykyisestä energiakustannuksesta.