Modele i platformy AI
Dwoch studentów tworzy oprogramowanie do walki z CO2 spowodowanym przez sztuczną inteligencję
Eksperci są zgodni, że obecna ścieżka rozwoju sztucznej inteligencji (AI) sprawi, że stanie się jednym z głównychemitentów CO2, pomimo wykorzystania do walki z tym samym problemem. Spowodowało to, że różne części branży zaczęły się skupiać na tym, jak rozwiązać ten problem, a jednym z najnowszych rozwiązań jest praca dwóch studentów z Uniwersytetu Kopenhaskiego.
Zaawansowane metody AI, takie jak głębokie uczenie, rozwijają się w zdumiewającym tempie, ale wymagają ogromnych ilości energii. W miarę wzrostu zużycia energii, technologie i metody AI, szczególnie głębokie uczenie, prawdopodobnie staną się znaczącym czynnikiem przyczyniającym się do zmian klimatycznych. Jednakże, jest to możliwe tylko wtedy, gdy nie zostaną podjęte żadne działania w celu zmiany obecnego trendu.
W latach 2012-2018 wymagana moc obliczeniowa dla głębokiego uczenia wzrosła o 300 000%. Jednym z głównych problemów branży jest to, że zużycie energii i ślad węglowy spowodowany rozwojem algorytmów są rzadko mierzone. W tym samym czasie, wiele badań szczegółowo opisuje ten problem i wzywa do podjęcia działań.
Carbontracker
W poszukiwaniu rozwiązania tego problemu, Lasse F. Wolff Anthony i Benjamin Kanding z Wydziału Informatyki Uniwersytetu Kopenhaskiego, wraz z asystentem profesora Raghavendrą Selvanem, stworzyli nowy program o nazwie Carbontracker. Ten program może dokładnie obliczyć i przewidzieć, ile energii i emisji CO2 pochłania trening modeli głębokiego uczenia.
“Rozwój w tej dziedzinie postępuje w zdumiewającym tempie, a modele głębokiego uczenia są coraz większe i bardziej zaawansowane”, powiedział Lasse F. Wolff Anthony. “W tej chwili mamy do czynienia z wykładniczym wzrostem. A to oznacza wzrost zużycia energii, o którym większość ludzi nie myśli.”
Modele głębokiego uczenia nadal rosną i rozwiązują coraz bardziej złożone problemy, wymagając znacznego wzrostu zużycia energii.
“W miarę wzrostu zbiorów danych, problemy, które algorytmy muszą rozwiązać, stają się coraz bardziej złożone”, powiedział Benjamin Kanding.
Otwarty program Carbontracker można znaleźć tutaj.
GPT-3
Jednym z najlepszych przykładów jest zaawansowany model językowy GPT-3. Jest to jeden z największych i najbardziej złożonych modeli głębokiego uczenia, jakie do tej pory zostały opracowane, ale wymaga to ogromnej ilości energii. GPT-3 wymaga tyle samej energii, ile 126 domów w Danii w ciągu roku, a wszystko to w jednej sesji treningowej. Ilość wyemitowanego CO2 jest równa 700 000 kilometrom jazdy.
Według Lasse F. Wolff Anthony, “W ciągu kilku lat prawdopodobnie będą modele, które będą wielokrotnie większe.”
“Jeśli trend ten się utrzyma, sztuczna inteligencja może stać się znaczącym czynnikiem przyczyniającym się do zmian klimatycznych. Zatrzymanie rozwoju technologicznego nie jest celem. Te rozwiązania oferują fantastyczne możliwości pomocy naszemu klimatowi. Chodzi o to, aby być świadomym problemu i myśleć: Jak możemy to poprawić?”, powiedział Benjamin Kanding.
Carbontracker śledzi ilość CO2 wykorzystywaną do produkcji energii w obszarach, gdzie odbywa się trening głębokiego uczenia, co pozwala przewidzieć emisje CO2 po przekształceniu zużycia energii.
Według studentów, użytkownicy głębokiego uczenia powinni zwrócić uwagę na rodzaj sprzętu i algorytmów, które są wykorzystywane, oraz kiedy odbywa się trening modelu, ponieważ są obszary z większymi, bardziej ekologicznymi źródłami energii.
“Można znacznie zmniejszyć wpływ na klimat. Na przykład, jeśli ktoś zdecyduje się na trening modelu w Estonii lub Szwecji, gdzie ślad węglowy treningu modelu może być zmniejszony o ponad 60 razy dzięki bardziej ekologicznym źródłom energii. Algorytmy również znacznie różnią się pod względem wydajności energetycznej. Niektóre wymagają mniej obliczeń, a tym samym mniej energii, aby osiągnąć podobne wyniki. Jeśli można dostosować tego rodzaju parametry, rzeczy mogą się znacznie zmienić”, powiedział Lasse F. Wolff Anthony.












