구글, AI 에너지 사용에 대한 실제 숫자 공개—예상과 다르다

모두가 AI의巨대적인 에너지 사용에 대해 논의하고 있다. 여러분은 다음과 같은 헤드라인을 본 적이 있을 것이다: “ChatGPT는 작은 국가와 같은 전기를 사용한다” 또는 “각 AI 쿼리는 물 한 병을 마신다.”

구글은 실제 데이터를 공개했으며, 숫자는 완전히 다른 이야기를告诉한다.

AI 쿼리의 실제 에너지 비용

구글의 조사 결과는 다음과 같다: 중간 Gemini 텍스트 프롬프트는 0.24 와트-시간의 에너지를 사용한다. 이것은 9초 동안 TV를 보는 것보다 적은 전기이다. 물 사용량은? 5방울. 5잔이 아니다. 5방울. (GOOGL )

대중의 인식과 현실 사이의 간격은巨大하다. 이전 추정치에 따르면 AI 프롬프트는 쿼리당 10에서 50 밀리리터의 물을 사용한다. 일부 연구에서는 구글이 측정한 것보다 30배 더 높은 에너지 사용량을 제안했다.

왜 इतन난 차이가 있는가? 因为 아직까지 실제 시스템을 대규모로 측정한 적이 없다. 학술 연구는 하드웨어의 일부만을 사용하여 고립된 테스트를 수행한다. 그것은 기본적으로 차를 주차장에서 아이들링하는 동안 연료 효율을 측정하는 것과 같다.

44배의 개선

구글은 1년 동안 AI 탄소 배출을 44배 줄였다. 44%가 아니다. 44배이다.

이것은 실험실에서 이론적인 개선이 아니다. 이것은 현재 수십억 개의 쿼리를 처리하는 시스템에서 실제로 발생하고 있다. mereka는 소프트웨어 최적화(33배 개선)와 더 깨끗한 에너지 원(1.4배 개선)의 조합을 통해 이를 달성했다.

대부분의 연구는 계산을 수행하는 AI 칩만을 살펴본다. 이것은 오븐만을 고려하여 레스토랑의 에너지 사용을 측정하는 것과 같다. 냉장고, 조명, HVAC 시스템을 무시하는 것이다.

구글의 데이터는 전체 그림을 보여준다: 예, AI 가속기는 58%의 에너지를 사용한다. 그러나 정규 프로세서와 메모리(24%), 신뢰성을 위한 백업 용량(10%), 냉각 시스템(8%)도 필요하다. 이러한 중 하나를 측정에서 생략하면 숫자는 기본적으로 무의미하다.

구글이 다른 사람들과 같은 狭い 방법론을 적용했을 때—전체적으로 사용되는 기계上的 AI 칩만을 측정—에너지 수치는 0.10 와트-시간으로 떨어졌다. 실제 생산 시스템은 2.4배 더 많은 에너지를 사용한다. 실제 시스템은 중복성, 냉각, 지원 인프라가 필요하기 때문이다.

AI의 미래에 대한 실제 의미

AI 에너지 사용에 대한 이야기는 현실적인 검토가 필요하다. 예, AI는 에너지를 사용한다. 그러나 적절하게 최적화된 시스템은 비난하는 시나리오보다 훨씬 더 효율적이다.

이곳의 문맥이 중요하다. 0.24 와트-시간의 쿼리당 에너지 사용? 미국人は 일일 평균 약 30 킬로와트-시간의 전기를 사용한다. 일일 평균 가구 에너지 사용과 일치하려면 125,000개의 AI 쿼리를 실행해야 한다.

물 사용량 이야기는 훨씬 더 극적이다. 쿼리당 5방울의 물? 손 씻을 때 1초 동안보다 더 많은 물을 사용한다.

최적화 스택

구글은 단일 혁신을 통해 이러한 숫자를 달성하지 않는다. mereka는 시스템의 모든 계층에서 최적화를積み重ね고 있다.

그들은 먼저 작은 “초안” 모델을 실행하여 응답을 스케치한 다음 필요할 때만 더 큰 모델로 검증한다. 그들은 효율성을 위해 수천 개의 쿼리를 함께 배치한다. 그들은 AI 워크로드専用으로 설계된 커스텀 칩을 사용하며, 첫 번째世代보다 30배 더 효율적이다.

그들의 데이터 센터는 이론적인 최소값보다 9%의 오버헤드만을 갖는다. 거의 물리적으로 가능할 정도로 효율적이다. 그리고 그들은 점점 더 깨끗한 에너지를 사용하여 전기 사용량이 증가해도 배출을 줄인다.

결론

이것은 회사들이 실제로 전체 스택을 최적화하고 올바르게 측정할 때만 작동한다. AI 인프라를 부차적인 생각으로 취급하고, 비효율적인 시스템을 더러운 전력망에서 실행하는 회사들은 모두가 걱정하는 문제를 창조하는 것이다.

효율적인 AI 시스템과 비효율적인 AI 시스템 사이의 간격은絶対적으로巨大하다. 그리고 현재 대부분의 산업은 아직도 비효율적인 버전을 실행하고 있다.