गूगल ने एआई ऊर्जा उपयोग पर वास्तविक संख्या जारी की—और वे आपके विचार से अलग हैं

हर कोई एआई के विशाल ऊर्जा पदचिह्न के बारे में बात कर रहा है। आपने शीर्षकलेख देखे होंगे: “चैटजीपीटी एक छोटे देश जितनी बिजली का उपयोग करता है” या “प्रत्येक एआई प्रश्न एक पानी की बोतल पीता है।”

गूगल वास्तविक डेटा प्रकाशित किया है अपने उत्पादन प्रणालियों से, और संख्याएं एक完全 अलग कहानी बताती हैं।

आपके एआई प्रश्न की वास्तविक ऊर्जा लागत

गूगल ने पाया कि मध्यम जेमिनी टेक्स्ट प्रॉम्प्ट 0.24 वाट-घंटे ऊर्जा का उपयोग करता है। यह नौ सेकंड के लिए टीवी देखने से कम बिजली है। पानी की खपत? पांच बूंदें। पांच गिलास नहीं। पांच बूंदें।

सार्वजनिक धारणा और वास्तविकता के बीच का अंतर विशाल है। पिछले अनुमानों में दावा किया गया था कि एआई प्रॉम्प्ट प्रति प्रश्न 10 से 50 मिलीलीटर पानी का उपभोग करते हैं। कुछ अध्ययनों में सुझाव दिया गया था कि ऊर्जा की खपत 30 गुना अधिक थी जो गूगल के उत्पादन में मापी जा रही थी।

इस विशाल अंतर का कारण क्या है? क्योंकि किसी ने वास्तविक प्रणालियों को बड़े पैमाने पर मापना शुरू नहीं किया है। अकादमिक अध्ययन अलग-अलग परीक्षण चलाते हैं जो कम उपयोग वाले हार्डवेयर पर चलते हैं। वे मूल रूप से एक कार की ईंधन कुशलता को माप रहे हैं जब यह ड्राइववे में खड़ी है।

44 गुना सुधार

गूगल ने अपने एआई कार्बन उत्सर्जन को एक वर्ष में 44 गुना कम कर दिया। 44 प्रतिशत नहीं—44 गुना।

यह किसी प्रयोगशाला में सैद्धांतिक सुधार नहीं है। यह वर्तमान में अरबों प्रश्नों की सेवा करने वाली प्रणालियों पर हो रहा है। उन्होंने सॉफ्टवेयर अनुकूलन (33 गुना सुधार) और स्वच्छ ऊर्जा स्रोतों (1.4 गुना सुधार) के माध्यम से इसे हासिल किया।

अधिकांश अध्ययन केवल एआई चिप्स को देखते हैं जो गणना कर रहे हैं। यह एक रेस्तरां की ऊर्जा उपयोग को मापने जैसा है जो केवल ओवन की गिनती करता है, फ्रिज, लाइट और एचवीएसी प्रणाली को अनदेखा करता है।

गूगल के आंकड़े पूरी तस्वीर दिखाते हैं: हाँ, एआई त्वरणक 58% ऊर्जा का उपयोग करते हैं। लेकिन आपको नियमित प्रोसेसर और मेमोरी (24%) की भी आवश्यकता है, बैकअप क्षमता विश्वसनीयता के लिए (10%), और शीतलन प्रणाली (8%)। यदि आप इनमें से किसी एक को अपने माप से छोड़ देते हैं, तो आपके नंबरों का कोई अर्थ नहीं है।

जब गूगल ने संकीर्ण विधि का उपयोग किया जो हर कोई उपयोग करता है—केवल एआई चिप्स को पूरी तरह से उपयोग की जाने वाली मशीनों पर मापना—उनकी ऊर्जा संख्या 0.10 वाट-घंटे तक गिर गई। वास्तविक उत्पादन प्रणाली 2.4 गुना अधिक ऊर्जा का उपयोग करती है क्योंकि वास्तविक प्रणालियों को अतिरेक, शीतलन और समर्थन बुनियादी ढांचे की आवश्यकता होती है।

एआई के भविष्य के लिए इसका क्या अर्थ है

एआई ऊर्जा खपत के बारे में कथा को वास्तविकता की जांच की आवश्यकता है। हाँ, एआई ऊर्जा का उपयोग करता है। लेकिन ठीक से अनुकूलित प्रणालियां उन आपदा परिदृश्यों से कहीं अधिक कुशल हैं जो सुझाव देते हैं।

संदर्भ यहां महत्वपूर्ण है। उस 0.24 वाट-घंटे प्रति प्रश्न? अमेरिकियों ने औसतन प्रतिदिन 30 किलोवाट-घंटे बिजली का उपयोग किया। आपको एक典型 घरेलू ऊर्जा उपयोग के मेल खाने के लिए 125,000 एआई प्रश्न चलाने होंगे।

पानी की खपत की कहानी और भी नाटकीय है। उन पांच बूंद पानी प्रति प्रश्न? आप अपने हाथ धोने के पहले सेकंड में अधिक पानी का उपयोग करते हैं।

अनुकूलन स्टैक

गूगल इन संख्याओं को किसी एकल प्रवर्तन के माध्यम से नहीं प्राप्त कर रहा है। वे प्रत्येक स्तर पर अनुकूलन को स्टैकिंग कर रहे हैं।

वे छोटे “ड्राफ्ट” मॉडल चला रहे हैं जो प्रतिक्रियाओं का स्केच बनाते हैं, फिर केवल जब आवश्यक हो तब बड़े मॉडल के साथ सत्यापित करते हैं। वे हजारों प्रश्नों को एक साथ बैचिंग कर रहे हैं जो कुशलता के लिए हैं। वे एआई कार्यभार के लिए विशेष रूप से डिज़ाइन किए गए कस्टम चिप्स का उपयोग कर रहे हैं जो उनकी पहली पीढ़ी की तुलना में 30 गुना अधिक कुशल हैं।

उनके डेटा सेंटर सिर्फ 9% ओवरहेड पर चलते हैं—व्यावहारिक रूप से भौतिक रूप से संभव के रूप में कुशल। और वे बढ़ती तरह से स्वच्छ ऊर्जा से संचालित हो रहे हैं, जो तब भी उत्सर्जन को काट रहे हैं जब बिजली का उपयोग बढ़ रहा है।

नीचे की पंक्ति

यह केवल तभी काम करता है जब कंपनियां वास्तव में अपने पूरे स्टैक को अनुकूलित करती हैं और ठीक से मापती हैं। एआई बुनियादी ढांचे को एक उपेक्षा के रूप में मानते हुए, अस्वच्छ बिजली ग्रिड पर अकुशल प्रणालियों को चलाने वाली कंपनियां? वे ही समस्याएं पैदा कर रहे हैं जिनके बारे में हर कोई चिंतित है।

कुशल और अकुशल एआई प्रणालियों के बीच का अंतर वास्तव में विशाल है। और अभी भी, अधिकांश उद्योग अभी भी अकुशल संस्करण चला रहे हैं।