Noul sistem își propune să rezolve problema consumului de energie AI

Calculatoarele care se bazează pe inteligența artificială (AI) necesită multă energie, iar această cerință de putere de calcul se dublează aproximativ la fiecare trei până la patru luni. Când vine vorba de centrele de date cloud-computing, care sunt utilizate de AI și aplicații de învățare automată, acestea folosesc mai multă energie electrică pe an decât unele țări mici. Mulți cercetători avertizează că acest sistem este nesustenabil. 

O echipă a acestor cercetători condusă de Universitatea din Washington a venit cu o soluție care să ajute la rezolvarea acestei probleme – un nou hardware de calcul optic pentru AI și învățarea automată. Acest hardware este mai rapid și mult mai eficient din punct de vedere energetic decât electronicele convenționale. De asemenea, ajută la rezolvarea „zgomotului” cauzat de calculul optic, care poate interfera cu precizia de calcul.

Cercetarea a fost publicată pe 21 ianuarie în Avansuri de știință.

Utilizarea zgomotului ca intrare

În lucrarea de cercetare, echipa a demonstrat cum un sistem de calcul optic pentru AI și învățarea automată ar putea folosi o parte din zgomot ca intrare pentru a îmbunătăți producția creativă a rețelei neuronale artificiale (ANN) din sistem. 

Changming Wu este doctorand la UW în inginerie electrică și informatică și autorul principal al lucrării. 

„Am construit un computer optic care este mai rapid decât un computer digital convențional”, a spus Wu. „Și, de asemenea, acest computer optic poate crea lucruri noi bazate pe intrări aleatorii generate de zgomotul optic pe care majoritatea cercetătorilor au încercat să-l evite.”

Zgomotul de calcul optic este cauzat de particule de lumină parazită sau fotoni. Acestea sunt produse de laserele din dispozitiv și de radiația termică de fundal. Pentru a viza zgomotul, echipa și-a conectat nucleul de calcul optic la o rețea generativă adversară (GAN). Apoi au testat diferite tehnici de atenuare a zgomotului, cum ar fi utilizarea unora dintre zgomotul generat ca intrări aleatorii pentru GAN. 

Echipa a spus GAN să învețe cum să scrie de mână numărul „7” ca un om, ceea ce însemna că trebuie să învețe sarcina observând mostre vizuale de scris de mână înainte de a exersa iar și iar. Datorită formei sale, computerul optic trebuia să genereze imagini digitale care aveau un stil similar cu mostrele.

Mo Li este profesor UW de inginerie electrică și informatică și autor principal al lucrării. 

„În loc să antrenăm rețeaua să citească numere scrise de mână, am instruit rețeaua să învețe să scrie numere, mimând mostre vizuale de scris de mână pe care a fost instruit”, a spus Li. „Noi, cu ajutorul colaboratorilor noștri în domeniul informaticii de la Universitatea Duke, am arătat, de asemenea, că GAN poate atenua impactul negativ al zgomotelor hardware de calcul optice prin utilizarea unui algoritm de antrenament care este rezistent la erori și zgomote. Mai mult decât atât, rețeaua folosește de fapt zgomotele ca intrare aleatorie necesară pentru a genera instanțe de ieșire.”

Pe măsură ce GAN a continuat să exerseze scrierea numărului, și-a dezvoltat propriul stil de scriere distinctiv. În cele din urmă, a fost capabil să scrie numere de la unu la 10 în simulări pe computer. 

Construirea unui dispozitiv la scară mai mare

Echipa va căuta acum să construiască dispozitivul la o scară mai mare prin utilizarea tehnologiei actuale de fabricare a semiconductoarelor, care va îmbunătăți performanța și va permite echipei să îndeplinească sarcini mai complexe. 

„Acest sistem optic reprezintă o arhitectură hardware de computer care poate spori creativitatea rețelelor neuronale artificiale utilizate în AI și învățarea automată, dar, mai important, demonstrează viabilitatea acestui sistem la scară largă, unde zgomotul și erorile pot fi atenuate și chiar valorificate. ”, a spus Li. „Aplicațiile AI cresc atât de repede încât, în viitor, consumul lor de energie va fi nesustenabil. Această tehnologie are potențialul de a ajuta la reducerea consumului de energie, făcând AI și învățarea automată durabile din punct de vedere ecologic - și foarte rapid, obținând performanțe mai mari în ansamblu.