Nieuw systeem moet energieverbruik van AI oplossen

Computers die gebruikmaken van kunstmatige intelligentie (AI) hebben veel energie nodig, en deze rekenkrachtvereiste verdubbelt ongeveer elke drie tot vier maanden. Wanneer het gaat om cloud-computing-datacentra, die worden gebruikt door AI- en machine learning-toepassingen, gebruiken ze meer elektrische stroom per jaar dan sommige kleine landen. Veel onderzoekers waarschuwen dat dit systeem niet duurzaam is.

Een team van deze onderzoekers onder leiding van de Universiteit van Washington heeft een oplossing bedacht om dit probleem te helpen oplossen – nieuwe optische computerhardware voor AI en machine learning. Deze hardware is sneller en veel energie-efficiënter dan conventionele elektronica. Het helpt ook om de ‘ruis’ op te lossen dat wordt veroorzaakt door optische computing, wat de rekenprecisie kan verstoren.

Het onderzoek werd op 21 januari gepubliceerd in Science Advances.

Ruis gebruiken als invoer

In het onderzoeksrapport toonde het team aan hoe een optisch computersysteem voor AI en machine learning een deel van de ruis kan gebruiken als invoer om de creatieve output van het kunstmatige neurale netwerk (ANN) in het systeem te verbeteren.

Changming Wu is een doctoraal student in elektrotechniek en informatica aan de UW en de eerste auteur van het artikel.

“We hebben een optische computer gebouwd die sneller is dan een conventionele digitale computer,” zei Wu. “En ook, deze optische computer kan nieuwe dingen creëren op basis van willekeurige invoer gegenereerd door de optische ruis dat de meeste onderzoekers probeerden te vermijden.”

Optisch computerruis wordt veroorzaakt door losse lichtdeeltjes of fotonen. Deze worden gegenereerd door de lasers in het apparaat en de achtergrondthermische straling. Om de ruis aan te pakken, verbindde het team hun optische computerkern met een generatief adversarieel netwerk (GAN). Ze testten vervolgens verschillende ruisonderdrukkingstechnieken, zoals het gebruik van sommige van de gegenereerde ruis als willekeurige invoer voor de GAN.

Het team vertelde de GAN om te leren hoe hij het getal ‘7’ kon schrijven als een mens, wat betekende dat hij de taak moest leren door visuele voorbeelden van handschriften te observeren voordat hij het herhaaldelijk oefende. Vanwege de vorm van de optische computer moest hij digitale afbeeldingen genereren die een soortgelijke stijl hadden als de voorbeelden.

Mo Li is een professor in elektrotechniek en informatica aan de UW en de senior auteur van het artikel.

“In plaats van het netwerk te trainen om handschriftenummers te lezen, trainden we het netwerk om nummers te leren schrijven, waarbij we visuele voorbeelden van handschriften nabootsten die het was getraind op,” zei Li. “We, met de hulp van onze informatica-medewerkers aan de Duke University, toonden ook aan dat de GAN de negatieve invloed van de optische computerhardwareruis kan mitigeren door een trainingsalgoritme te gebruiken dat robuust is tegen fouten en ruis. Meer dan dat, het netwerk gebruikt de ruis zelfs als willekeurige invoer die nodig is om uitvoerinstanties te genereren.”

Toen de GAN bleef oefenen om het getal te schrijven, ontwikkelde het zijn eigen unieke schrijfstijl. Het was uiteindelijk in staat om nummers van 1 tot 10 te schrijven in computersimulaties.

Grotere schaalapparaat bouwen

Het team zal nu proberen het apparaat op een grotere schaal te bouwen met behulp van de huidige halfgeleidertechnologie, wat de prestaties zal verbeteren en het team in staat zal stellen om complexere taken uit te voeren.

“Dit optische systeem vertegenwoordigt een computerhardwarearchitectuur die de creativiteit van kunstmatige neurale netwerken die in AI en machine learning worden gebruikt, kan verbeteren, maar belangrijker nog, het toont de haalbaarheid van dit systeem aan op een grote schaal waar ruis en fouten kunnen worden geminimaliseerd en zelfs benut,” zei Li. “AI-toepassingen groeien zo snel dat hun energieverbruik in de toekomst niet duurzaam zal zijn. Deze technologie heeft het potentieel om te helpen bij het verminderen van dat energieverbruik, waardoor AI en machine learning milieuvriendelijk en zeer snel worden, met een hogere algehele prestatie.”