Nytt system syftar till att lösa AI-energiförbrukningsproblemet

Datorer som förlitar sig på artificiell intelligens (AI) kräver mycket energi, och denna beräkningskrav ökar ungefär dubblat var tredje till fjärde månad. När det gäller molntjänstdatacenter, som används av AI- och maskinlärningsapplikationer, använder de mer elektrisk kraft per år än vissa små länder. Många forskare varnar för att detta system är ohållbart.

Ett team av dessa forskare, lett av University of Washington, har kommit med en lösning för att hjälpa till att lösa detta problem – ny optisk datorhårdvara för AI och maskinlärning. Denna hårdvara är snabbare och mycket mer energieffektiv än konventionell elektronik. Den hjälper också till att lösa “bruset” som orsakas av optisk dator, som kan störa beräkningsprecisionen.

Forskningen publicerades den 21 januari i Science Advances.

Använda brus som indata

I forskningsartikeln visade teamet hur ett optiskt datorsystem för AI och maskinlärning kunde använda en del av bruset som indata för att förbättra den kreativa utmatningen av det artificiella neuronnätverket (ANN) i systemet.

Changming Wu är en doktorand i elektroteknik och datorteknik vid UW och huvudförfattare till artikeln.

“Vi har byggt en optisk dator som är snabbare än en konventionell digital dator”, sa Wu. “Och också, denna optiska dator kan skapa nya saker baserat på slumpmässiga indata som genereras från det optiska bruset som de flesta forskare försökte undvika.”

Optisk datorbrus orsakas av strålande ljuspartiklar, eller fotoner. Dessa produceras av lasrarna i enheten och bakgrunds-termisk strålning. För att rikta in sig på bruset anslöt teamet sin optiska datorhårdvara till ett generativt adversarialt nätverk (GAN). De testade sedan olika brusminskningstekniker, såsom att använda en del av det genererade bruset som slumpmässiga indata för GAN.

Teamet sa till GAN att lära sig att skriva handstilen på siffran “7” som en människa, vilket innebar att det måste lära sig uppgiften genom att observera visuella exempel på handstil innan det övade om och om igen. På grund av dess form måste den optiska datorn generera digitala bilder som hade en liknande stil som exemplen.

Mo Li är en professor i elektroteknik och datorteknik vid UW och seniorförfattare till artikeln.

“Istället för att träna nätverket att läsa handskrivna siffror, tränade vi nätverket att lära sig att skriva siffror, som imiterar visuella exempel på handstil som det tränades på”, sa Li. “Vi, med hjälp av våra datavetenskapliga samarbetspartner vid Duke University, visade också att GAN kan minska den negativa påverkan av den optiska datorhårdvaran genom att använda en träningsalgoritm som är robust mot fel och brus. Mer än så, nätverket använder faktiskt bruset som slumpmässiga indata som behövs för att generera utmatningsinstanser.”

När GAN fortsatte att öva på att skriva siffran, utvecklade det sin egen distinkta skrivstil. Det kunde till slut skriva siffror från ett till tio i datorsimulationer.

Bygga en större enhet

Teamet kommer nu att bygga enheten i en större skala med hjälp av nuvarande halvledartillverkningsteknik, vilket kommer att förbättra prestandan och tillåta teamet att utföra mer komplexa uppgifter.

“Detta optiska system representerar en datorhårdvaruarkitektur som kan förbättra kreativiteten hos artificiella neuronnätverk som används i AI och maskinlärning, men viktigare, det visar på möjligheten för detta system i en stor skala där brus och fel kan minskas och till och med utnyttjas”, sa Li. “AI-applikationer växer så snabbt att deras energiförbrukning kommer att vara ohållbar i framtiden. Denna teknik har potentialen att hjälpa till att minska den energiförbrukningen, vilket gör AI och maskinlärning miljövänliga – och mycket snabbt, med högre prestanda överlag.