개발자, AI 연구자를 위해 탄소 발자국 줄이기 위한 오픈 소스 소프트웨어 개발

국제적인 AI 연구자와 데이터 과학자들이 컴퓨팅 연산의 탄소 발자국을 추정할 수 있는 소프트웨어를 설계하기 위해 협력했습니다. CodeCarbo라는 오픈 소스 소프트웨어 패키지는 AI 및 데이터 과학 회사들의 컨소시엄에 의해 설계되었습니다. 소프트웨어가 프로그래머들에게 더 효율적인 코드를 만들고 컴퓨팅 리소스의 사용으로 발생하는 CO2의 양을 줄이도록 동기를 부여할 수 있을 것으로 기대됩니다.

탄소 발자국 줄이기

ITP에 따르면, 새로운 CodeCarbon 소프트웨어 패키지는 Mila를 이끄는 AI 연구 그룹을 포함한 팀에 의해 개발되었으며, Comet.ml, Haverford College in Pennsylvania, 및 GAMMA도 참여했습니다. 소프트웨어는 컴퓨팅 리소스의 사용으로 발생하는 CO2의 양을 추정할 뿐만 아니라 개발자들에게 탄소 에너지 발자국을 줄이는 방법에 대한 조언도 제공합니다.

AI 모델을 훈련시키는 것은 많은 에너지를 필요로 할 수 있습니다. ArsTechnica에 따르면, 매사추세츠 암허스트 대학교의 연구자들은 특정 AI 모델을 생성하고 훈련하는 총 비용을 추정했으며, 팀은 BERT 자연어 네트워크를 한 번 훈련시키는 것이 샌프란시스코와 뉴욕 사이의 왕복 비행과 약간의 차이가 없는 양의 탄소를 생성한다는 것을 발견했습니다. 한편, 모델을 최적화하기까지 여러 번 훈련시키는 것은 315명의 다른乗客이 동일한 비행을 하는 것과 같은 양의 CO2를 생성할 수 있습니다.

왜 AI 모델이 इतन 많은 에너지를 소비하고 탄소를 발생시키는지의 일부는 모델이 훈련되고 최적화되는 방식에 있습니다. 기존의 최첨단 알고리즘보다 약간의 개선을 얻으려면 AI 연구자들은 모델을 수천 번 훈련시킬 수 있으며, 모델이 최적의 아키텍처를 발견할 때까지 매번 모델을 약간 수정합니다.

AI 모델은 또한 매년 더 복잡해지고 있습니다.

가장 강력한 기계 학습 알고리즘과 모델인 GPT-3, BERT, VGG는 수백만 개의 매개 변수를 가지고 있으며 수주일 동안 훈련되며, 이는 수백 또는 수천 시간의 훈련 시간에 해당합니다. GPT-2에는 약 15억 개의 매개 변수가 있었으며, GPT-3에는 약 175억 개의 가중치가 있습니다. 이는 수백 킬로그램의 CO2를 사용합니다.

CodeCarbon

CodeCarbon에는 클라우드 제공업체와 데이터 센터에서 사용된 전력의 양을 기록하는 추적 메커니즘 모듈이 있습니다. 시스템은 공개적으로 사용 가능한 소스에서 데이터를 가져와 하드웨어에 연결된 전력 그리드의 통계를 확인하여 발생한 CO2의 양을 추정합니다. 추적기는 특정 AI 모듈을 사용하는 모든 실험에서 발생한 CO2를 추정하며, 프로젝트와 조직 전체의 배출 데이터를 저장합니다.

Mila의 창립자 Yohua Bengio는 AI가 매우 강력한 도구이지만 많은 컴퓨팅 파워를 필요로 한다고 설명했습니다. Boston Consulting Group의 매니징 디렉터인 Sylvian Duranton은 컴퓨팅과 AI가 전 세계적으로 지수적으로 성장할 것이라고 주장했습니다. CodeCarbon이 성장하는 동안 AI 및 컴퓨팅 회사들이 자신의 탄소 발자국을 제한하도록 도와줄 수 있을 것입니다. CodeCarbon은 회사가 쉽게 볼 수 있는 대시보드를 생성하여 기계 학습 모델의 훈련으로 발생한 배출량을 표시합니다. 또한 개발자가 쉽게 이해할 수 있는 지표, 즉 자동차로 운전한 거리, 시청한 TV 시간, 미국 hộ内の 일반적인 에너지 소비와 같은 배출량을 나타냅니다.

CodeCarbon 개발자는 소프트웨어가 AI 연구자들이 자신의 탄소 발자국을 줄이려는 시도를鼓励할 뿐만 아니라 배출량에 대한 투명성을 높이는 것을鼓励할 것으로 기대합니다. 개발자는 다양한 AI 및 컴퓨팅 실험에서 발생한 배출량을 정량화하고 보고할 수 있습니다. CodeCarbon을 생성한 팀은 다른 개발자가 자신의 오픈 소스 도구를 가져와 새로운 기능을 추가하여 AI 엔지니어와 연구자가 환경에 미치는 영향을 더욱 줄일 수 있도록 도와줄 것으로 기대합니다.