구글, AI 에너지 사용에 대한 실제 숫자 공개—예상과 다르다

모두가 AI의 막대한 에너지 사용량을 이야기한다. “ChatGPT는 작은 국가만큼 전기를 쓴다”거나 “AI 쿼리 하나가 물 한 병을 마신다” 같은 헤드라인을 본 적이 있을 것이다.

구글은 실제 데이터를 공개했지만, 수치는 전혀 다른 이야기를 들려준다.

AI 쿼리의 실제 에너지 비용

구글의 조사 결과는 다음과 같다: 중간 Gemini 텍스트 프롬프트는 0.24 와트-시간의 에너지를 사용한다. 이것은 9초 동안 TV를 보는 것보다 적은 전기이다. 물 사용량은? 5방울. 5잔이 아니다. 5방울. (GOOGL )

대중의 인식과 현실 사이의 간격은 거대하다. 이전 추정치에 따르면 AI 프롬프트는 쿼리당 10에서 50 밀리리터의 물을 사용한다. 일부 연구에서는 구글이 측정한 것보다 30배 더 높은 에너지 사용량을 제안했다.

왜 이렇게 큰 차이가 날까요? 지금까지 실제 시스템을 대규모로 측정한 적이 없기 때문입니다. 학술 연구는 하드웨어 일부만 사용해 분리된 시험을 수행합니다. 이는 주차장에서 자동차를 공회전시키며 연비를 측정하는 것과 같습니다.

44배의 개선

구글은 1년 동안 AI 탄소 배출을 44배 줄였다. 44%가 아니다. 44배이다.

이것은 실험실에서 이론적인 개선이 아니다. 이것은 현재 수십억 개의 쿼리를 처리하는 시스템에서 실제로 발생하고 있다. mereka는 소프트웨어 최적화(33배 개선)와 더 깨끗한 에너지 원(1.4배 개선)의 조합을 통해 이를 달성했다.

대부분의 연구는 계산을 수행하는 AI 칩만을 살펴본다. 이것은 오븐만을 고려하여 레스토랑의 에너지 사용을 측정하는 것과 같다. 냉장고, 조명, HVAC 시스템을 무시하는 것이다.

구글의 데이터는 전체 그림을 보여준다: 예, AI 가속기는 58%의 에너지를 사용한다. 그러나 정규 프로세서와 메모리(24%), 신뢰성을 위한 백업 용량(10%), 냉각 시스템(8%)도 필요하다. 이러한 중 하나를 측정에서 생략하면 숫자는 기본적으로 무의미하다.

Google이 다른 연구와 같은 좁은 방법론, 즉 전체 장비 중 AI 칩만 측정하는 방식을 적용하자 에너지 수치는 0.10와트시로 낮아졌습니다. 실제 운영 시스템은 이보다 2.4배 많은 에너지를 사용합니다. 이중화와 냉각, 지원 인프라가 필요하기 때문입니다.

AI의 미래에 대한 실제 의미

AI 에너지 사용에 대한 이야기는 현실적인 검토가 필요하다. 예, AI는 에너지를 사용한다. 그러나 적절하게 최적화된 시스템은 비난하는 시나리오보다 훨씬 더 효율적이다.

여기서는 맥락이 중요합니다. 질의당 에너지 사용량은 0.24와트시입니다. 미국인은 하루 평균 약 30킬로와트시의 전기를 사용하므로, 평균 가정의 하루 전력 사용량과 같아지려면 AI 질의를 125,000번 실행해야 합니다.

물 사용량 이야기는 훨씬 더 극적이다. 쿼리당 5방울의 물? 손 씻을 때 1초 동안보다 더 많은 물을 사용한다.

최적화 스택

구글은 단일 혁신을 통해 이러한 숫자를 달성하지 않는다. mereka는 시스템의 모든 계층에 최적화를 차곡차곡 적용한다고 있다.

먼저 작은 “초안” 모델로 응답의 윤곽을 만든 뒤 필요한 경우에만 더 큰 모델로 검증합니다. 효율을 위해 수천 건의 질의를 묶어 처리하고, AI 작업 전용 맞춤형 칩을 사용해 1세대보다 30배 높은 효율을 냅니다.

그들의 데이터 센터는 이론적인 최소값보다 9%의 오버헤드만을 갖는다. 거의 물리적으로 가능할 정도로 효율적이다. 그리고 그들은 점점 더 깨끗한 에너지를 사용하여 전기 사용량이 증가해도 배출을 줄인다.

결론

이것은 회사들이 실제로 전체 스택을 최적화하고 올바르게 측정할 때만 작동한다. AI 인프라를 부차적인 생각으로 취급하고, 비효율적인 시스템을 더러운 전력망에서 실행하는 회사들은 모두가 걱정하는 문제를 창조하는 것이다.

효율적인 AI 시스템과 비효율적인 시스템의 격차는 엄청나게 크다. 현재 업계 대부분은 여전히 비효율적인 시스템을 운영하고 있다.