AI 模型与平台
两个学生开发软件以减少人工智能造成的二氧化碳排放
专家们一致认为,当前的人工智能(AI)发展路径将使其成为二氧化碳排放的主要贡献者之一,尽管它被用来解决这个问题。因此,行业的各个部分开始专注于如何解决这个问题,最近的发展来自于哥本哈根大学的两名学生。
人工智能的高级方法,如深度学习,正在以惊人的速度发展,但这也带来了巨大的能耗。随着能耗的增加,人工智能技术和方法,尤其是深度学习,可能会成为气候变化的重要贡献者。但是,这只会发生在没有采取任何行动来改变当前路径的情况下。
从2012年到2018年,深度学习所需的计算能力增加了300,000%。该行业的一个主要问题是,算法开发所带来的能耗和碳足迹很少被测量。同时,许多研究都在详细说明这个问题并呼吁采取行动。
Carbontracker
为了解决这个问题,哥本哈根大学计算机科学系的拉斯·F·沃尔夫·安东尼(Lasse F. Wolff Anthony)和本杰明·坎丁(Benjamin Kanding),以及助理教授拉格哈文德拉·塞尔万(Raghavendra Selvan),开发了一款名为Carbontracker的新软件程序。这款软件可以准确地计算和预测训练深度学习模型所需的能耗和二氧化碳排放量。
“在这个领域的发展速度非常快,深度学习模型不断变得更大、更复杂,”拉斯·F·沃尔夫·安东尼说。“现在,能耗增长呈指数级增加,这意味着大多数人似乎没有考虑到这一点。”
深度学习模型继续增长和解决更复杂的问题,需要大量增加能耗。
“随着数据集变得越来越大,算法需要解决的问题变得越来越复杂,”本杰明·坎丁说。
开源的Carbontracker程序可以在这里找到。
GPT-3
一个很好的例子是高级语言模型GPT-3。它是迄今为止开发的最大、最复杂的深度学习模型之一,但它的代价很高。GPT-3需要与126个丹麦家庭一年所用的能量相同,在一次训练中就能消耗这么多能量。所释放的二氧化碳量相当于700,000公里的驾驶距离。
根据拉斯·F·沃尔夫·安东尼的说法,“在几年内,可能会有几个模型比现在的模型大很多倍。”
“如果这种趋势继续下去,人工智能可能会成为气候变化的重要贡献者。制止技术发展并不是我们的目标。这些发展为帮助我们的气候提供了很好的机会。相反,我们需要意识到这个问题并思考:我们如何改进?”本杰明·坎丁说。
Carbontracker跟踪了深度学习训练中所使用的能量和二氧化碳排放量,使得可以预测能耗转化为二氧化碳排放量。
根据学生们的说法,深度学习用户应该注意所使用的硬件和算法,以及模型训练的时间,因为有一些地区的绿色能源供应更大。
“可以显著地减少气候影响。例如,如果选择在爱沙尼亚或瑞典训练模型,可以由于绿色能源供应而将模型训练的碳足迹减少60多倍。算法在能效方面也存在很大差异。有些算法需要更少的计算和能量来实现类似的结果。如果可以调整这些参数,事情可能会有很大变化,”拉斯·F·沃尔夫·安东尼说。












