Nytt system skal løse AI-energiforbrukproblemet

Datamaskiner som bruker kunstig intelligens (AI) krever mye energi, og denne datamaskinkraften dobbler seg omtrent hver tredje til fjerde måned. Når det gjelder skytjenester, som brukes av AI og maskinlæring, bruker de mer elektrisk kraft per år enn noen små land. Mange forskere advarer om at dette systemet er uholdbart.

Et team av disse forskerne, ledet av University of Washington, har kommet med en løsning for å hjelpe å løse dette problemet – ny optisk datamaskinutstyr for AI og maskinlæring. Dette utstyret er raskere og mye mer energieffektivt enn konvensjonell elektronikk. Det hjelper også å løse “støyen” som skyldes optisk datamaskin, som kan forstyrre datamaskinpresisjonen.

Forskningen ble publisert den 21. januar i Science Advances.

Bruke støy som innputt

I forskningsrapporten viste teamet hvordan et optisk datamaskinsystem for AI og maskinlæring kunne bruke noen av støyen som innputt for å forbedre kreativ utgang av det kunstige nevralt nettverket (ANN) i systemet.

Changming Wu er en doktorgradsstudent i elektro- og datateknikk ved UW og hovedforfatter av rapporten.

“Vi har bygget en optisk datamaskin som er raskere enn en konvensjonell digital datamaskin,” sa Wu. “Og også, denne optiske datamaskinen kan skape nye ting basert på tilfeldige innputt generert fra optisk støy som de fleste forskerne prøvde å unngå.”

Optisk datamaskinstøy skyldes strøende lyspartikler, eller fotoner. Disse produseres av laserne i enheten og bakgrunnsvarme-stråling. For å målrette støy, koblet teamet deres optiske datamaskinkjerne til et generativt adversarialt nettverk (GAN). De testet så forskjellige støyreduksjonsteknikker, som å bruke noen av den genererte støyen som tilfeldige innputt for GAN.

Teamet sa til GAN å lære å skrive håndskrevne tall som en menneske, som betød at det måtte lære oppgaven ved å observere visuelle eksempler på håndskrift før det øvde seg igjen og igjen. På grunn av sin form, måtte den optiske datamaskinen generere digitale bilder som hadde en lignende stil som eksemplene.

Mo Li er en professor i elektro- og datateknikk ved UW og seniorforfatter av rapporten.

“I stedet for å trene nettverket til å lese håndskrevne tall, trenet vi nettverket til å lære å skrive tall, etter å ha sett visuelle eksempler på håndskrift som det var trenet på,” sa Li. “Vi, med hjelp av våre datavitenskaps-samarbeidspartnere ved Duke University, viste også at GAN kan mildne den negative innvirkningen av optisk datamaskin-støy ved å bruke en treningsalgoritme som er robust mot feil og støy. Mer enn det, nettverket bruker faktisk støyen som tilfeldig innputt som trengs for å generere utgangseksempler.”

Etter hvert som GAN fortsatte å øve å skrive tallet, utviklet det sin egen distinkte skrivestil. Det var til slutt i stand til å skrive tall fra ett til ti i datamaskinsimuleringer.

Bygging av større enhet

Teamet vil nå se på å bygge enheten i en større skala ved å bruke nåværende halvlederfabrikasjonsteknologi, som vil forbedre ytelsen og tillate teamet å utføre mer komplekse oppgaver.

“Dette optiske systemet representerer en datamaskin-hardware-arkitektur som kan forbedre kreativiteten til kunstige nevrale nettverk som brukes i AI og maskinlæring, men mer viktig, det demonstrerer muligheten for dette systemet i en stor skala hvor støy og feil kan mildnes og til og med utnyttes,” sa Li. “AI-applikasjoner vokser så raskt at i fremtiden vil deres energiforbruk være uholdbart. Denne teknologien har potensialet til å hjelpe å redusere dette energiforbruket, gjøre AI og maskinlæring miljøvennlig — og svært rask, oppnå høyere ytelse totalt.