Twee studenten ontwikkelen software om CO2-uitstoot door AI te bestrijden

Deskundigen zijn het erover eens dat de huidige ontwikkelingsrichting van kunstmatige intelligentie (AI) ertoe zal leiden dat het een van de belangrijkste bijdragers aan CO2-uitstoot wordt, ondanks het feit dat het wordt gebruikt om dit probleem te bestrijden. Dit heeft ertoe geleid dat verschillende delen van de industrie zijn begonnen met het zoeken naar oplossingen voor dit probleem, waarvan een van de meest recente ontwikkelingen afkomstig is van twee studenten aan de Universiteit van Kopenhagen.

Geavanceerde AI-methoden zoals diepe leerprocessen ontwikkelen zich met een verbluffende snelheid, maar dit gaat gepaard met een enorme energieverbruik. Naarmate dit verbruik toeneemt, zullen AI-technologieën en -methoden, met name diepe leerprocessen, waarschijnlijk een significante bijdrage leveren aan klimaatverandering. Echter, dit is alleen het geval als er geen actie wordt ondernomen om de huidige koers te veranderen.

Tussen 2012 en 2018 is de rekenkracht die nodig is voor diepe leerprocessen met 300.000% toegenomen. Een van de grote problemen in de industrie is dat energieverbruik en de koolstofvoetafdruk als gevolg van de ontwikkeling van algoritmen zelden worden gemeten. Tegelijkertijd zijn veel studies deze kwestie aan het belichten en roepen ze op tot actie.

Carbontracker

Om dit probleem aan te pakken, hebben Lasse F. Wolff Anthony en Benjamin Kanding van de afdeling Informatica van de Universiteit van Kopenhagen, samen met assistent-professor Raghavendra Selvan, een nieuw softwareprogramma genaamd Carbontracker ontwikkeld. Dit programma kan nauwkeurig berekenen en voorspellen hoeveel energieverbruik en CO2-uitstoot voortkomen uit de training van diepe leermodellen.

“De ontwikkelingen in dit veld gaan ontzettend snel en diepe leermodellen worden constant groter en geavanceerder,” zei Lasse F. Wolff Anthony. “Op dit moment is er een exponentiële groei. En dat betekent een toenemend energieverbruik waar de meeste mensen niet over nadenken.”

Diepe leermodellen blijven groeien en nemen complexere problemen aan, waardoor een aanzienlijke toename van energieverbruik nodig is.

“Naarmate datasets groter worden, worden de problemen die algoritmen moeten oplossen complexer en complexer,” zegt Benjamin Kanding.

Het open-source Carbontracker-programma kan hier worden gevonden.

GPT-3

Een van de beste voorbeelden hiervan is het geavanceerde taalmodel GPT-3. Het is een van de grootste en meest complexe diepe leermodellen die tot nu toe zijn ontwikkeld, maar het heeft een prijs. GPT-3 vereist evenveel energie als 126 Deense huishoudens in een jaar, allemaal in één trainingsessie. De hoeveelheid CO2 die vrijkomt is gelijk aan 700.000 kilometer rijden.

Volgens Lasse F. Wolff Anthony “zullen er binnen een paar jaar waarschijnlijk verschillende modellen zijn die vele malen groter zijn.”

“Als de trend zich voortzet, kan kunstmatige intelligentie een significante bijdrage leveren aan klimaatverandering. Het doel is niet om de rem op technologische ontwikkeling te zetten. Deze ontwikkelingen bieden fantastische kansen om ons klimaat te helpen. Het gaat erom dat we ons bewust worden van het probleem en nadenken over hoe we het kunnen verbeteren,” zegt Benjamin Kanding.

Carbontracker volgt de hoeveelheid CO2 die wordt gebruikt om energie te produceren in gebieden waar diepe leertraining plaatsvindt, waardoor het mogelijk is om CO2-uitstoot te voorspellen na energieverbruik.

Volgens de studenten moeten gebruikers van diepe leerprocessen letten op het type hardware en algoritmen dat wordt gebruikt en wanneer modeltraining plaatsvindt, aangezien er gebieden zijn met groenere energieleveranciers.

“Het is mogelijk om de klimaatimpact aanzienlijk te verminderen. Bijvoorbeeld, het is relevant als men kiest om het model te trainen in Estland of Zweden, waar de koolstofvoetafdruk van modeltraining kan worden verlaagd met meer dan 60 keer dankzij groenere energieleveranciers. Algoritmen variëren ook sterk in hun energiedoeltreffendheid. Sommige vereisen minder berekeningen en dus minder energie om soortgelijke resultaten te behalen. Als men deze parameters kan afstemmen, kunnen dingen aanzienlijk veranderen,” zegt Lasse F. Wolff Anthony.