Cercetătorii folosesc memristori pentru a crea rețele neuronale mai eficiente din punct de vedere energetic

Unul dintre aspectele mai puțin strălucitoare ale inteligenței artificiale este că deseori necesită o cantitate mare de putere de procesare și, prin urmare, are adesea o amprentă energetică mare. Lucrările recente efectuate de cercetătorii de la UCL au determinat o metodă de îmbunătățire a eficienței energetice a IA.

Rețelele neuronale și învățarea automată sunt instrumente puternice, dar cele mai impresionante fapte ale inteligenței artificiale au, de obicei, un cost mare de energie asociat cu ele. De exemplu, când OpenAI a învățat o mână robotică să manipuleze un cub Rubik, s-a estimat că isprava necesita aproximativ 2.8 gigawați-oră de energie electrică.

Potrivit TechExplore, Cercetătorii de la UCL au conceput o nouă metodă de generare a rețelelor neuronale artificiale. Noua metodă utilizează memristori pentru a genera rețeaua, care sunt de aproximativ 1000 de ori mai eficiente din punct de vedere energetic decât rețelele create cu abordări tradiționale. Memristori sunt dispozitive care își pot aminti cantitatea de sarcină electrică care a trecut ultima dată prin ele, păstrând acea stare de memorie după ce au fost oprite. Aceasta înseamnă că își pot aminti starea chiar dacă un dispozitiv ar trebui să își piardă puterea. Deși memristorii au fost teoretizați pentru prima dată cu aproximativ 50 de ani în urmă, abia în 2008 a fost creat un adevărat memristor.

Memristorii sunt ocazional denumiți dispozitive de calcul „neuromorfe” sau dispozitive „inspirate de creier”. Memristorii sunt similari cu blocurile de construcție pe care creierul le folosește pentru a procesa informații și a crea amintiri. Sunt foarte eficiente în comparație cu majoritatea sistemelor informatice moderne. Aceste dispozitive memristor posedă aspecte ale condensatorilor și rezistențelor și, în ultimul deceniu, au fost fabricate și utilizate într-o varietate de dispozitive de memorie. Echipele de cercetare UCL speră că cercetările lor vor ajuta aceste dispozitive să fie folosite pentru a crea sisteme AI în câțiva ani.

În ciuda eficienței energetice crescute, memristorii sunt în mod tradițional mult mai puțin eficienți decât rețelele neuronale obișnuite, dar cercetătorii UCL au găsit o modalitate de a crește acuratețea memristorilor. Cercetătorii au descoperit că atunci când se folosesc mulți memristori, aceștia ar putea fi împărțiți în mai multe subgrupe și apoi calculele lor ar putea fi mediate împreună. Medierea calculelor ajută defectele subgrupurilor să se anuleze reciproc și să se găsească modelele mai relevante.

Dr. Adnan Mehonic și Ph.D. studentul Dovydas Joksas (atât UCL Electronică, cât și Inginerie Electrică) și coautorii lor au testat această abordare de mediere pe diferite tipuri de memristori și au descoperit că tehnica părea să îmbunătățească acuratețea tuturor diferiților memristori testați, nu doar unul sau doi dintre ei. Îmbunătățirile de precizie s-au aplicat tuturor grupurilor care au fost testate, indiferent de tipul de material din care a fost făcut memristorul.

Potrivit dr. Mehonic, ca citat de TechExplore:

„Am sperat că ar putea exista abordări mai generice care să îmbunătățească nu nivelul dispozitivului, ci comportamentul la nivel de sistem și credem că am găsit una. Abordarea noastră arată că, atunci când vine vorba de memristori, mai multe capete sunt mai bune decât unul singur. Aranjarea rețelei neuronale în mai multe rețele mai mici, mai degrabă decât într-o rețea mare, a condus la o precizie mai mare în general.”

Echipa de cercetare a fost încântată că a luat o tehnică informatică și a aplicat memristorilor, folosind, de asemenea, o tehnică comună de evitare a erorilor (calcule de mediere) pentru a crește acuratețea rețelelor neuronale memristive. Coautorul studiului, profesorul Tony Kenyon de la UCL Electronic & Electrical Engineering, consideră că memristorii ar putea „acuma un rol principal” în crearea de dispozitive de calcul de vârf și dispozitive IoT mai durabile din punct de vedere energetic.

Memristoarele nu sunt doar mai eficiente din punct de vedere energetic decât modelele tradiționale de rețele neuronale, ci pot fi incluse cu ușurință într-un dispozitiv mobil portabil. Se preconizează că acest lucru va avea o importanță tot mai mare în viitorul apropiat, deoarece mai multe date sunt create și transmise tot timpul, chiar dacă este dificil să creșteți capacitatea de transmisie peste un anumit punct. Memristorii ar putea ajuta la facilitarea transferului de volume mari de date la o fracțiune din costul energiei.