Modelos e plataformas de IA
Dois Alunos Desenvolvem Software para Combater CO2 Causado por IA
Especialistas concordam que o atual caminho do desenvolvimento de inteligência artificial (IA) fará com que ela se torne uma das principais contribuintes de CO2, apesar de seu uso para combater esse mesmo problema. Isso fez com que várias partes da indústria começassem a se concentrar em como remediar a situação, com um dos desenvolvimentos mais recentes vindo de dois alunos da Universidade de Copenhague.
Métodos de IA avançados, como o aprendizado profundo, estão se desenvolvendo a um ritmo impressionante, mas isso vem com níveis massivos de consumo de energia. À medida que isso continua a aumentar, as tecnologias e métodos de IA, especialmente o aprendizado profundo, provavelmente se tornarão contribuintes significativos para a mudança climática. No entanto, isso só acontecerá se nenhuma ação for tomada para alterar o caminho atual.
De 2012 a 2018, o poder computacional necessário para o aprendizado profundo aumentou 300.000%. Um dos principais problemas da indústria é que o consumo de energia e a pegada de carbono devido ao desenvolvimento de algoritmos raramente são medidos. Ao mesmo tempo, muitos estudos estão detalhando esse problema e pedindo ação.
Carbontracker
Em busca de resolver esse problema, Lasse F. Wolff Anthony e Benjamin Kanding, do Departamento de Ciência da Computação da Universidade de Copenhague, juntamente com o Professor Assistente Raghavendra Selvan, desenvolveram um novo programa de software chamado Carbontracker. Esse software pode calcular e prever com precisão quanto de consumo de energia e emissões de CO2 vêm do treinamento de modelos de aprendizado profundo.
“Os desenvolvimentos nesse campo estão acontecendo de forma louca e os modelos de aprendizado profundo estão constantemente se tornando maiores em escala e mais avançados”, disse Lasse F. Wolff Anthony. “Agora, há um crescimento exponencial. E isso significa um aumento no consumo de energia que a maioria das pessoas parece não considerar.”
Os modelos de aprendizado profundo continuam a crescer e a lidar com problemas muito mais complexos, exigindo um aumento significativo no consumo de energia.
“À medida que os conjuntos de dados crescem cada vez mais, os problemas que os algoritmos precisam resolver se tornam mais e mais complexos”, diz Benjamin Kanding.
O programa de código aberto Carbontracker pode ser encontrado aqui.
GPT-3
Um dos melhores exemplos disso é o modelo de linguagem avançado GPT-3. Ele é um dos maiores e mais complexos modelos de aprendizado profundo desenvolvidos até o momento, mas isso vem com um custo. O GPT-3 requer a mesma quantidade de energia usada por 126 casas dinamarquesas em um ano, tudo em apenas uma sessão de treinamento. A quantidade de CO2 liberada é equivalente a 700.000 quilômetros de dirigir.
De acordo com Lasse F. Wolff Anthony, “Em poucos anos, provavelmente haverá vários modelos que são muitas vezes maiores.”
“Se a tendência continuar, a inteligência artificial pode acabar se tornando uma contribuinte significativa para a mudança climática. Não é o ponto de frear o desenvolvimento tecnológico. Esses desenvolvimentos oferecem oportunidades fantásticas para ajudar nosso clima. Em vez disso, é sobre estar ciente do problema e pensar: Como podemos melhorar?”, diz Benjamin Kanding.
O Carbontracker rastreia a quantidade de CO2 usada para produzir energia em áreas onde o treinamento de aprendizado profundo está acontecendo, tornando possível prever as emissões de CO2 após a conversão do consumo de energia.
De acordo com os alunos, os usuários de aprendizado profundo devem prestar atenção ao tipo de hardware e algoritmos que estão sendo usados e quando o treinamento do modelo ocorre, pois há áreas com maiores suprimentos de energia mais verde.
“É possível reduzir o impacto climático significativamente. Por exemplo, é relevante se alguém optar por treinar seu modelo na Estônia ou na Suécia, onde a pegada de carbono do treinamento de um modelo pode ser reduzida mais de 60 vezes graças a suprimentos de energia mais verdes. Os algoritmos também variam muito em termos de eficiência energética. Alguns requerem menos computação e, portanto, menos energia, para alcançar resultados semelhantes. Se alguém puder ajustar esses tipos de parâmetros, as coisas podem mudar consideravelmente”, diz Lasse F. Wolff Anthony.












