Модели и платформы ИИ
Два студента разработали программное обеспечение для борьбы с выбросами CO2, вызванными ИИ
Эксперты согласны с тем, что текущий путь развития искусственного интеллекта (ИИ) приведет к тому, что он станет одним из основных источников выбросов CO2, несмотря на то, что он используется для борьбы с этой самой проблемой. Это привело к тому, что различные части отрасли начали сосредотачиваться на том, как исправить ситуацию, и одним из последних разработок стало создание программного обеспечения двумя студентами из Университета Копенгагена.
Продвинутые методы ИИ, такие как глубокое обучение, развиваются с удивительной скоростью, но это сопровождается огромным потреблением энергии. По мере того, как это потребление продолжает расти, технологии и методы ИИ, особенно глубокое обучение, вероятно, станут значительным вкладом в изменение климата. Однако это произойдет только в том случае, если не будут предприняты действия для изменения текущего пути.
С 2012 по 2018 год вычислительная мощность, необходимая для глубокого обучения, увеличилась на 300 000%. Одной из основных проблем отрасли является то, что энергопотребление и выбросы CO2, связанные с разработкой алгоритмов, редко измеряются. В то же время многие исследования описывают эту проблему и призывают к действию.
Carbontracker
Для решения этой проблемы Лассе Ф. Вольфф Энтони и Бенджамин Кэндинг из Университета Копенгагена, вместе с помощником профессора Рагхавендра Селвана, разработали новую программу под названием Carbontracker. Эта программа может точно рассчитать и предсказать, сколько энергии потребляется и сколько выбросов CO2 производится при обучении моделей глубокого обучения.
“Развитие в этой области происходит с бешеной скоростью, и модели глубокого обучения постоянно увеличиваются в масштабе и становятся более сложными”, – сказал Лассе Ф. Вольфф Энтони. “В настоящее время наблюдается экспоненциальный рост. И это означает увеличивающееся потребление энергии, о котором, кажется, никто не думает.”
Модели глубокого обучения продолжают расти и решать все более сложные проблемы, требуя значительного увеличения потребления энергии.
“По мере того, как наборы данных становятся все больше и больше, проблемы, которые алгоритмы должны решить, становятся все более и более сложными”, – говорит Бенджамин Кэндинг.
Открытая программа Carbontracker доступна здесь.
GPT-3
Одним из лучших примеров этого является продвинутая языковая модель GPT-3. Это одна из самых крупных и сложных моделей глубокого обучения, разработанных на сегодняшний день, но она имеет свою цену. GPT-3 требует столько же энергии, сколько используется 126 датскими домами в год, всего за одну сессию обучения. Количество выбросов CO2 эквивалентно 700 000 километров езды.
По словам Лассе Ф. Вольффа Энтони, “В течение нескольких лет, вероятно, будет несколько моделей, которые будут намного больше.”
“Если тенденция продолжится, искусственный интеллект может стать значительным вкладом в изменение климата. Остановка технологического развития не является целью. Эти разработки предлагают фантастические возможности для помощи нашему климату. Вместо этого речь идет о том, чтобы осознать проблему и подумать: как мы можем улучшить?” – говорит Бенджамин Кэндинг.
Carbontracker отслеживает количество CO2, используемого для производства энергии в областях, где происходит обучение глубокого обучения, что позволяет предсказать выбросы CO2 после преобразования потребления энергии.
По словам студентов, пользователи глубокого обучения должны обратить внимание на тип используемого оборудования и алгоритмов, а также на время обучения модели, поскольку есть области с более зелеными энергетическими поставками.
“Возможно значительно снизить воздействие на климат. Например, если выбрать обучение модели в Эстонии или Швеции, где углеродный след от обучения модели может быть снижен более чем на 60 раз благодаря более зеленым энергетическим поставкам. Алгоритмы также сильно различаются по своей энергоэффективности. Некоторые требуют меньше вычислений и, следовательно, меньше энергии, чтобы достичь аналогичных результатов. Если можно настроить эти параметры, все может измениться значительно”, – говорит Лассе Ф. Вольфф Энтони.












