Deux étudiants développent un logiciel pour lutter contre le CO2 causé par l'IA

Les experts conviennent que la voie actuelle du développement de l'intelligence artificielle (IA) l'amènera à devenir l'un des principaux contributeurs de CO2, malgré son utilisation pour lutter contre ce problème même. Cela a amené diverses parties de l'industrie à commencer à se concentrer sur la façon de remédier à la situation, l'un des développements les plus récents provenant de deux étudiants de l'Université de Copenhague.

Les méthodes d'IA avancées telles que l'apprentissage en profondeur se développent à un rythme étonnant, mais cela s'accompagne de niveaux de consommation d'énergie massifs. À mesure que cela continue d'augmenter, les technologies et les méthodes d'IA, en particulier l'apprentissage en profondeur, deviendront probablement un contributeur important au changement climatique. Cependant, c'est uniquement si aucune action n'est entreprise pour modifier le chemin actuel. 

De 2012 à 2018, la puissance de calcul requise pour le deep learning a augmenté de 300,000 XNUMX %. L'un des problèmes majeurs de l'industrie est que la consommation d'énergie et l'empreinte carbone dues au développement d'algorithmes sont rarement mesurées. Dans le même temps, de nombreuses études détaillent cette question et appellent à l'action.

Traqueur de carbone

En cherchant à résoudre ce problème, Lasse F. Wolff Anthony et Benjamin Kanding du département d'informatique de l'Université de Copenhague, ainsi que le professeur adjoint Raghavendra Selvan, ont développé un nouveau logiciel appelé Carbontracker. Ce logiciel peut calculer et prédire avec précision la consommation d'énergie et les émissions de CO2 provenant de la formation de modèles d'apprentissage en profondeur. 

"Les développements dans ce domaine vont incroyablement vite et les modèles d'apprentissage en profondeur deviennent constamment plus grands et plus avancés", a déclaré Lasse F. Wolff Anthony. « En ce moment, il y a une croissance exponentielle. Et cela signifie une consommation d'énergie croissante à laquelle la plupart des gens semblent ne pas penser.

Les modèles d'apprentissage en profondeur continuent de se développer et s'attaquent à des problèmes beaucoup plus complexes, nécessitant une augmentation significative de la consommation d'énergie.

"Alors que les ensembles de données grossissent de jour en jour, les problèmes que les algorithmes doivent résoudre deviennent de plus en plus complexes", explique Benjamin Kanding. 

Le programme open source Carbontracker peut être trouvé ici..

GPT-3

L'un des meilleurs exemples en est le modèle de langage avancé GPT-3. C'est l'un des modèles d'apprentissage en profondeur les plus importants et les plus complexes développés à ce jour, mais il a un coût. GPT-3 nécessite la même quantité d'énergie utilisée par 126 foyers danois en un an, le tout en une seule session de formation. La quantité de CO2 émise équivaut à 700,000 XNUMX kilomètres de conduite. 

Selon Lasse F. Wolff Anthony, "Dans quelques années, il y aura probablement plusieurs modèles plusieurs fois plus grands."

"Si la tendance se poursuit, l'intelligence artificielle pourrait finir par contribuer de manière significative au changement climatique. Bloquer les freins au développement technologique n'est pas la question. Ces développements offrent des opportunités fantastiques pour aider notre climat. Au lieu de cela, il s'agit de prendre conscience du problème et de penser : comment pourrions-nous nous améliorer ? » dit Benjamin Kanding. 

Carbontracker suit la quantité de CO2 utilisée pour produire de l'énergie dans les zones où se déroule une formation d'apprentissage en profondeur, ce qui permet de prédire les émissions de CO2 après conversion de la consommation d'énergie.

Selon les étudiants, les utilisateurs d'apprentissage en profondeur devraient prêter attention au type de matériel et d'algorithmes utilisés et au moment où la formation sur modèle a lieu, car il existe des zones avec des approvisionnements en énergie plus verts plus importants.

« Il est possible de réduire considérablement l'impact climatique. Par exemple, il est pertinent si l'on choisit de former son modèle en Estonie ou en Suède, où l'empreinte carbone d'une formation modèle peut être réduite de plus de 60 fois grâce à des approvisionnements énergétiques plus verts. Les algorithmes varient également considérablement dans leur efficacité énergétique. Certains nécessitent moins de calcul, et donc moins d'énergie, pour obtenir des résultats similaires. Si l'on peut ajuster ces types de paramètres, les choses peuvent changer considérablement », explique Lasse F. Wolff Anthony.