Deux étudiants développent un logiciel pour lutter contre le CO2 causé par l’IA

Les experts s’accordent à dire que le chemin actuel du développement de l’intelligence artificielle (IA) va la rendre l’un des principaux contributeurs de CO2, malgré son utilisation pour lutter contre ce problème. Cela a conduit différentes parties de l’industrie à se concentrer sur la manière de remédier à la situation, avec l’une des dernières avancées venant de deux étudiants de l’Université de Copenhague.

Les méthodes d’IA avancées, telles que l’apprentissage profond, se développent à un rythme étonnant, mais cela s’accompagne de niveaux de consommation d’énergie massifs. À mesure que cela continue d’augmenter, les technologies et les méthodes d’IA, en particulier l’apprentissage profond, deviendront probablement l’un des principaux contributeurs au changement climatique. Cependant, ce n’est le cas que si aucune action n’est prise pour modifier le chemin actuel.

De 2012 à 2018, la puissance de calcul requise pour l’apprentissage profond a augmenté de 300 000 %. L’un des problèmes importants de l’industrie est que la consommation d’énergie et l’empreinte carbone due au développement des algorithmes sont rarement mesurées. Dans le même temps, de nombreuses études détaillent ce problème et appellent à l’action.

Carbontracker

Pour résoudre ce problème, Lasse F. Wolff Anthony et Benjamin Kanding du département d’informatique de l’Université de Copenhague, ainsi que le professeur adjoint Raghavendra Selvan, ont développé un nouveau programme logiciel appelé Carbontracker. Ce logiciel peut calculer et prédire avec précision la quantité de consommation d’énergie et d’émissions de CO2 provenant de la formation de modèles d’apprentissage profond.

“Les développements dans ce domaine progressent à un rythme fou et les modèles d’apprentissage profond sont constamment de plus en plus grands et avancés”, a déclaré Lasse F. Wolff Anthony. “Actuellement, il y a une croissance exponentielle. Et cela signifie une consommation d’énergie croissante que la plupart des gens semblent ne pas prendre en compte.”

Les modèles d’apprentissage profond continuent de grandir et de résoudre des problèmes de plus en plus complexes, nécessitant une augmentation significative de la consommation d’énergie.

“À mesure que les jeux de données grandissent chaque jour, les problèmes que les algorithmes doivent résoudre deviennent de plus en plus complexes”, déclare Benjamin Kanding.

Le programme open source Carbontracker peut être trouvé ici.

GPT-3

L’un des meilleurs exemples de ceci est le modèle de langage avancé GPT-3. Il s’agit de l’un des plus grands et des plus complexes modèles d’apprentissage profond développés à ce jour, mais cela a un coût. GPT-3 nécessite la même quantité d’énergie que 126 foyers danois en un an, tout en une seule session de formation. La quantité de CO2 émise est équivalente à 700 000 kilomètres de conduite.

Selon Lasse F. Wolff Anthony, “Dans quelques années, il y aura probablement plusieurs modèles qui sont plusieurs fois plus grands.”

“Si la tendance se poursuit, l’intelligence artificielle pourrait finir par être un contributeur important au changement climatique. Freiner le développement technologique n’est pas l’objectif. Ces développements offrent des opportunités fantastiques pour aider notre climat. Il s’agit plutôt de prendre conscience du problème et de se demander : Comment pouvons-nous améliorer ?” déclare Benjamin Kanding.

Carbontracker suit la quantité de CO2 utilisée pour produire de l’énergie dans les zones où la formation de l’apprentissage profond a lieu, ce qui permet de prédire les émissions de CO2 après la conversion de la consommation d’énergie.

Selon les étudiants, les utilisateurs de l’apprentissage profond devraient prêter attention au type de matériel et d’algorithmes utilisés et au moment où la formation du modèle a lieu, car il existe des zones avec des approvisionnements d’énergie plus verts.

“Il est possible de réduire considérablement l’impact climatique. Par exemple, il est pertinent de choisir de former son modèle en Estonie ou en Suède, où l’empreinte carbone de la formation d’un modèle peut être réduite de plus de 60 fois grâce à des approvisionnements d’énergie plus verts. Les algorithmes varient également considérablement en termes d’efficacité énergétique. Certains nécessitent moins de calcul et, par conséquent, moins d’énergie, pour obtenir des résultats similaires. Si l’on peut ajuster ces types de paramètres, les choses peuvent changer considérablement”, déclare Lasse F. Wolff Anthony.