Cercetătorii utilizează memristoare pentru a crea rețele neurale mai eficiente din punct de vedere energetic

Una dintre aspectele mai puțin glamour ale inteligenței artificiale este faptul că aceasta necesită adesea o cantitate mare de putere de procesare și, prin urmare, are de obicei un impact energetic semnificativ. Cercetările recente efectuate de cercetători de la UCL au determinat o metodă de îmbunătățire a eficienței energetice a inteligenței artificiale.

Rețelele neurale și învățarea automată sunt instrumente puternice, dar cele mai impresionante realizări ale inteligenței artificiale au de obicei un cost energetic asociat. De exemplu, atunci când OpenAI a învățat o mână robotică să manipuleze un cub Rubik, s-a estimat că realizarea acestei performanțe a necesitat aproximativ 2,8 gigawatti-ore de electricitate.

Conform TechExplore, cercetătorii de la UCL au proiectat o nouă metodă de generare a rețelelor neurale artificiale. Noua metodă utilizează memristoare pentru a genera rețeaua, care sunt de aproximativ 1000 de ori mai eficiente din punct de vedere energetic decât rețelele create cu abordări tradiționale. Memristoarele sunt dispozitive care pot reține cantitatea de sarcină electrică care a trecut prin ele, păstrând această stare de memorie după ce au fost oprite. Acest lucru înseamnă că ele pot reține starea lor chiar și în cazul în care un dispozitiv ar pierde puterea. Deși memristoarele au fost teorizate pentru prima dată cu aproximativ 50 de ani în urmă, abia în 2008 a fost creat un memristor real.

Memristoarele sunt uneori numite dispozitive de calcul “neuromorf” sau “inspirate de creier”. Memristoarele sunt asemănătoare cu blocurile de construcție pe care creierul le utilizează pentru a procesa informații și a crea memorii. Ele sunt foarte eficiente în comparație cu majoritatea sistemelor de calcul moderne. Aceste dispozitive memristor posedă aspecte ale condensatoarelor și rezistențelor, și de-a lungul ultimului deceniu sau mai mult, au fost fabricate și utilizate într-o varietate de dispozitive de memorie. Echipele de cercetare de la UCL speră că cercetarea lor va ajuta la utilizarea acestor dispozitive pentru a crea sisteme de inteligență artificială în următorii ani.

În ciuda eficienței lor crescute din punct de vedere energetic, memristoarele sunt tradițional mult mai puțin eficiente decât rețelele neurale obișnuite, dar cercetătorii de la UCL au găsit o modalitate de a crește acuratețea memristoarelor. Cercetătorii au descoperit că atunci când se utilizează mai multe memristoare, acestea pot fi împărțite în subgrupuri multiple și apoi calculele lor pot fi mediate împreună. Medierea calculelor ajută la anularea defectelor din subgrupuri și la găsirea modelelor mai relevante.

Dr. Adnan Mehonic și studentul doctorand Dovydas Joksas (ambii de la Departamentul de Electronică și Inginerie Electrică al UCL) și coautorii lor au testat această abordare de mediere pe diverse tipuri de memristoare și au descoperit că tehnica pare să îmbunătățească acuratețea în toate memristoarele testate, nu doar una sau două dintre ele. Îmbunătățirile acurateței s-au aplicat tuturor grupurilor testate, indiferent de tipul de material din care erau fabricate memristoarele.

Conform dr. Mehonic, așa cum este citat de TechExplore:

“Am sperat că ar putea exista abordări mai generice care să îmbunătățească nu la nivel de dispozitiv, ci la nivel de sistem, și credem că am găsit una. Abordarea noastră arată că, atunci când vine vorba de memristoare, mai multe capete sunt mai bune decât unul. Organizarea rețelei neurale în mai multe rețele neurale mai mici, în loc de una mare, a condus la o acuratețe generală mai mare.”

Echipa de cercetare a fost încântată să fi aplicat o tehnică de știință a calculatoarelor asupra memristoarelor, utilizând și o tehnică comună de evitare a erorilor (medierea calculelor) pentru a crește acuratețea rețelelor neurale memristorice. Coautorul studiului, profesorul Tony Kenyon de la Departamentul de Electronică și Inginerie Electrică al UCL, consideră că memristoarele ar putea “juca un rol principal” în crearea dispozitivelor de calcul edge și IoT mai sustenabile din punct de vedere energetic.

Memristoarele nu sunt doar mai eficiente din punct de vedere energetic decât modelele tradiționale de rețele neurale, dar pot fi ușor incluse în dispozitive mobile, portabile. Acest lucru este de o importanță tot mai mare în viitorul apropiat, deoarece se creează și se transmite tot mai multă date, chiar și atunci când este dificil să se mărească capacitatea de transmisie dincolo de un anumit punct. Memristoarele ar putea ajuta la transferul unor volume mari de date la o fracțiune din costul energetic.