विचार नेता

डेटा सेंटर कूलिंग की तीन पीढ़ियाँ – और अधिकांश ऑपरेटर्स कल की इंफ्रास्ट्रक्चर बना रहे हैं

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें

तीन साल पहले, डेटा सेंटर उद्योग इस बात पर बहस कर रहा था कि तरल कूलिंग कभी आवश्यक होगी या नहीं। दो साल पहले, अधिकांश ऑपरेटर्स मानते थे कि एकल-फेज़ पानी समाधान होगा। आज, अग्रणी सुविधाएं अगली पीढ़ी की कूलिंग आर्किटेक्चर में जा रही हैं, जबकि कई नए निर्माण पुराने सिस्टम में तालमेल बिठा रहे हैं जो कुछ वर्षों के भीतर पुराने हो जाएंगे।

यह विचलन भौतिकी और प्रोसेसर रोडमैप द्वारा संचालित हो रहा है जो पहले से ही 2027 तक दिखाई दे रहे हैं। वे एक विभाजन पैदा कर रहे हैं जो ऑपरेटर्स को समझने में मदद करता है कि कूलिंग एक नए आर्किटेक्चरल युग में प्रवेश कर रही है और जो जल्द ही खोज सकते हैं कि उन्होंने सैकड़ों मिलियन डॉलर का निवेश किया है जो अगली पीढ़ी के एआई प्रोसेसर का समर्थन नहीं कर सकते हैं।

कूलिंग की तीन पीढ़ियाँ

डेटा सेंटर कूलिंग तीन अलग-अलग आर्किटेक्चरल युगों से गुजरी है, प्रत्येक एक नए सेट के साथ परिभाषित है जो आर्थिक समर्थन की आवश्यकता के साथ-साथ रैक घनत्व को पार करने के लिए है।

  • पीढ़ी 1: एयर कूलिंग (2000-2023): 10-15kW प्रति रैक पर चोटी। आर्थिक रूप से 2020 के आसपास टूटना शुरू हुआ जब एआई वर्कलोड 20kW से अधिक हो गए। 2023 तक, एयर कूलिंग नए उच्च-घनत्व वाले निर्माण के लिए अधिकांशतः पुरानी हो गई थी।

  • पीढ़ी 2: एकल-फेज़ तरल (2020-2027): तरल कूलिंग का प्रारंभिक दृष्टिकोण। पानी या पीजी25 का उपयोग उच्च प्रवाह दरों पर तापमान परिवर्तन के माध्यम से गर्मी को हटाने के लिए किया जाता है। 20-120kW प्रति रैक से व्यवहार्य लेकिन 150kW से ऊपर तनाव दिखा रहा है। 2027 तक अपनी व्यावहारिक सीमा तक पहुंचने की उम्मीद है जब प्रोसेसर 2,000W से अधिक हो जाएंगे।

  • पीढ़ी 3: दो-फेज़ + उन्नत गर्मी अस्वीकृति (2024-2035+): चरण परिवर्तन के माध्यम से गर्मी को अवशोषित करने के लिए रेफ्रिजरेंट का उपयोग करता है, न कि तापमान परिवर्तन के माध्यम से। 150kW से अधिक प्रति रैक से स्केलेबल। चिप से वायुमंडल तक नए गर्मी अस्वीकृति रणनीतियों को सक्षम बनाता है। पहले से ही अग्रणी ऑपरेटरों द्वारा तैनात किया जा रहा है और 2027-2028 तक प्रमुख होने की उम्मीद है।

प्रत्येक संक्रमण एक ब्रेक पॉइंट को चिह्नित करता है – जब भौतिकी और अर्थशास्त्र एक साथ अपनी सीमा तक पहुंच जाते हैं।

पीढ़ी 2 की भौतिक समस्या

पहली लहर पीढ़ी 2 निर्माण एकल-फेज़ कूलिंग की सीमा को प्रकट करना शुरू कर रहे हैं।

पानी आधारित प्रणाली प्रति किलोवाट प्रति मिनट लगभग 1.5 लीटर की प्रवाह दर की आवश्यकता होती है। 120kW रैक को लगभग 180 लीटर प्रति मिनट की आवश्यकता होती है; 250kW पर, यह 375 लीटर प्रति मिनट तक बढ़ जाता है जो कोल्ड प्लेट के साथ मिलीमीटर में मापे जाने वाले सLOT के साथ होता है।

जीटीसी में, रैक्स जो फायर होज़ के आकार की लाइनों से जुड़े हुए थे, उन्होंने चुनौती को दिखाया। उच्च प्रवाह दरें कैस्केडिंग मुद्दों का कारण बनती हैं। पानी में ग्लाइकोल मिलाने से माइक्रोफिन्ड संरचनाएं ऑक्सीकृत हो जाती हैं, और प्रवाह वेग से कमजोर फिन्स का क्षरण होता है। रखरखाव की मांगें कई ऑपरेटरों को आश्चर्यचकित करती हैं: मासिक फिल्टर बदलने के बजाय तिमाही या दो सालाना, निरंतर रसायन विश्लेषण, और ग्लाइकोल “आईवी बैग” रैक्स से जुड़े हुए हैं।

विफलता दर उतनी ही चिंताजनक है। आंतरिक फील्ड डेटा सुझाव देता है कि लगभग 4% पानी से ठंडा किए गए जीपीयू तीन साल के जीवन चक्र में रिसाव के कारण विफल हो जाते हैं। $3-5 मिलियन मूल्य के उपकरण वाले रैक्स के साथ, यह नुकसान मूल रूप से पीढ़ी 2 के अर्थशास्त्र को तोड़ देता है।

एक 10MW सुविधा विश्लेषण जैकब्स इंजीनियरिंग द्वारा एक और अकुशलता को उजागर करता है। एकल-फेज़ प्रणाली पीढ़ी 3 प्रणालियों की तुलना में ठंडे पानी के तापमान की आवश्यकता होती है। एकल-फेज़ द्वारा मांग की जाने वाली ठंडे पानी के तापमान में वृद्धि चिलर क्षमता आवश्यकताओं और ऊर्जा खपत दोनों को बढ़ाती है।

पीढ़ी 3 को क्या अलग बनाता है

पीढ़ी 3 एक वास्तविक आर्किटेक्चरल पारी का प्रतिनिधित्व करती है। दो-फेज़ रेफ्रिजरेंट चरण परिवर्तन के माध्यम से गर्मी को अवशोषित करते हैं, प्रवाह दरों को चार से नौ गुना तक कम करते हैं। कम तरल वेग बुनियादी ढांचे के तनाव को काफी कम करता है, कोल्ड प्लेट के क्षरण को कम करता है, और पीढ़ी 2 को प्रभावित करने वाले रखरखाव के बोझ को समाप्त करता है।

रेफ्रिजरेंट नए गर्मी अस्वीकृति डिज़ाइनों को भी सक्षम बनाते हैं – जैसे रेफ्रिजरेंट-सीओ२ और रेफ्रिजरेंट-से-रेफ्रिजरेंट सिस्टम – जो चिप से वायुमंडल तक शीतलन को अनुकूलित करते हैं। ये डिज़ाइन पहले से ही उत्पादन में हैं, पीढ़ी 3 की स्केलेबिलिटी और आर्थिक दक्षता का प्रदर्शन कर रहे हैं।

जब जैकब्स इंजीनियरिंग – जो वैश्विक डेटा सेंटर एमईपी डिज़ाइन के 80% से अधिक के लिए जिम्मेदार है – ने साइड-बाय-साइड 10MW रेफरेंस मॉडल बनाए, तो उन्होंने तुलना से विक्रेता पूर्वाग्रह को हटा दिया।

निष्कर्ष:

  • कैपेक्स: $10.39M एकल-फेज़ बनाम $10.38M दो-फेज़

  • वार्षिक ओपेक्स: $1.04M बनाम $679K (35% कमी)

  • पांच साल का टीसीओ: $15.6M बनाम $13.8M (12% बचत)

कैपेक्स समानता ने कई लोगों को आश्चर्यचकित किया जो दो-फेज़ के लिए एक प्रीमियम की उम्मीद कर रहे थे। वर्तमान दो-फेज़ सिस्टम अधिक सीडीयू की आवश्यकता होती है, लेकिन एकल-फेज़ डिज़ाइन जटिल पंक्ति मैनिफोल्ड, मजबूत लीक डिटेक्शन और हार्मोनिक फिल्टरेशन की आवश्यकता होती है – जटिलताओं को वर्तमान दो-फेज़ सीडीयू के साथ टाला जा सकता है। 2026 में आने वाले अगली पीढ़ी के सीडीयू लागत को और कम करेंगे, जिससे पीढ़ी 3 को तैनात करना और अधिक आर्थिक रूप से व्यवहार्य बन जाएगा।

ओपेक्स लाभ थर्मोडायनामिक्स से उत्पन्न होता है। दो-फेज़ सिस्टम समान चिप तापमान बनाए रखते हुए गर्म सुविधा पानी का उपयोग करते हैं – औसतन लगभग 8°C अधिक। प्रत्येक डिग्री की बचत वार्षिक ऊर्जा उपयोग में लगभग 4% की कटौती करती है, जो जैकब्स द्वारा पूरे जलवायु में दस्तावेज़ की गई 35% ओपेक्स कमी को अनुवादित करती है।

अग्रिम दृष्टि वाले ऑपरेटर एक कदम आगे बढ़ रहे हैं, उस थर्मल मार्जिन को लगभग 5% अधिक कंप्यूटिंग क्षमता में परिवर्तित कर रहे हैं जो同 एक ही पावर एनवेलप में है। एक ऐसे世界 में जहां हर जीपीयू राजस्व का प्रतिनिधित्व करता है और शक्ति सीमित है, यह लाभ एक प्रतिस्पर्धी विभेदक बन जाता है।

सिलिकॉन रोडमैप मुद्दे को मजबूर करता है

पीढ़ी 3 में परिवर्तन कूलिंग विक्रेताओं द्वारा संचालित नहीं हो रहा है – यह प्रोसेसर डिज़ाइन द्वारा निर्धारित किया जा रहा है।

एनवीडिया के रुबिन आर्किटेक्चर 2,000W से अधिक प्रति प्रोसेसर तक पहुंचने की उम्मीद है। एएमडी का एमआई450 एक समान ट्राजेक्टरी पर है। प्रत्येक प्रमुख चिप निर्माता छोटे फुटप्रिंट में अधिक प्रदर्शन पैक कर रहा है, तापीय घनत्व को तेजी से ऊपर की ओर धकेल रहा है।

मुख्य चुनौती गर्मी फ्लक्स है – प्रति वर्ग सेंटीमीटर वाट में मापी जाने वाली गर्मी की सांद्रता। जैसे ही गर्मी फ्लक्स बढ़ता है, पीढ़ी 2 समाधान भौतिक और आर्थिक सीमा तक पहुंच जाते हैं। प्रवाह दरें विनाशकारी हो जाती हैं, तापमान डेल्टा असहनीय हो जाते हैं, और सिस्टम लागत अस्थिर हो जाती है।

पीढ़ी 3 इस वास्तविकता के लिए बनाई गई थी। अग्रणी ऑपरेटर्स पहले से ही 250kW रैक्स को निर्दिष्ट कर रहे हैं जिनके पास 1MW+ तक स्पष्ट पथ हैं। “देखने के लिए प्रतीक्षा करना” रूढ़िवादी दृष्टिकोण महसूस हो सकता है, लेकिन यह सबसे जोखिम भरा दृष्टिकोण है। सिलिकॉन रोडमैप तय है; भौतिकी नहीं झुकेगी। एकमात्र निर्णय शेष है जब कार्रवाई करनी है।

ब्राउनफील्ड डिलेमा

अरबों डॉलर वर्तमान में पीढ़ी 2 इंफ्रास्ट्रक्चर में निवेश किए जा रहे हैं जो 36 महीनों के भीतर सीमित हो जाएगा। आज डिज़ाइन की जाने वाली सुविधाएं एकल-फेज़ पानी के आसपास 2027-क्लास प्रोसेसर का समर्थन करने में संघर्ष करेंगी। बाद में रेट्रोफिटिंग की लागत आज पीढ़ी 3 के साथ निर्माण करने से बहुत अधिक है।

मौजूदा साइटों के लिए, रेफ्रिजरेंट-से-हवा प्रणाली एक पुल के रूप में कार्य कर सकती है, लेकिन वे दीर्घकालिक समाधान नहीं हैं। उद्योग की दिशा स्पष्ट है: पीढ़ी 3 आर्किटेक्चर अगले दशक के नए निर्माण का केंद्र बिंदु होगा।

एक पीढ़ीगत विकल्प

प्रत्येक कूलिंग परिवर्तन पर्याप्त दिखाई दिया जब तक कि अगली पीढ़ी ने इसे पुराना नहीं बना दिया। ऑपरेटर्स जिन्होंने तरल कूलिंग को जल्दी अपनाया – 2020-2021 में 2023 के बजाय – लगभग दो साल का तैनाती लाभ प्राप्त किया।

एक ही परिवर्तन फिर से चल रहा है। भौतिकी सिद्ध हो चुकी है। अर्थशास्त्र स्वतंत्र विश्लेषण द्वारा मान्य है। प्रोसेसर रोडमैप परिवर्तन को अपरिहार्य बनाते हैं।

प्रश्न यह नहीं है कि परिवर्तन होगा या नहीं – यह है कि क्या आप इसे नेतृत्व करेंगे या एक बार पीढ़ी 2 अपनी सीमा तक पहुंच जाने के बाद इसमें मजबूर होंगे।

आज डिज़ाइन किए गए डेटा सेंटर 2030 के दशक में अच्छी तरह से संचालित होंगे। पीढ़ी 3 आर्किटेक्चर के साथ निर्माण करना सुनिश्चित करता है कि वे एआई युग के लिए व्यवहार्य रहेंगे, न कि स्थिर होने से पहले ही सीमित संपत्ति बन जाएंगे।

डेटा सेंटर कूलिंग का भविष्य एक पीढ़ीगत परिवर्तन है – और पीढ़ी 3 पहले से ही यहाँ है।

जोश क्लामन एक्सेलेरस के कार्यकारी अध्यक्ष और संस्थापक सीईओ हैं, जो एआई डेटा सेंटर के लिए दो-फेज़ डायरेक्ट-टू-चिप लिक्विड कूलिंग तकनीक में एक वैश्विक नेता है। उन्होंने 2022 में एक्सेलेरस की सह-स्थापना की ताकि क्षेत्र की सबसे दबाव वाली चुनौतियों में से एक का समाधान किया जा सके: एआई इंफ्रास्ट्रक्चर द्वारा समुदायों पर रखी गई विशाल ऊर्जा और पानी की मांग। उनके नेतृत्व में, कंपनी ने न्यूकूल विकसित किया, एक बंद-लूप, जलविहीन शीतलन मंच जो अगली पीढ़ी के एआई चिप्स की थर्मल मांग के लिए इंजीनियर किया गया है - पारंपरिक वायु शीतलन की तुलना में 50% तक ऊर्जा की बचत करता है, जबकि सुविधा की स्थानीय जल आपूर्ति पर निर्भरता को समाप्त करता है।

क्लामन इस भूमिका में 30 से अधिक वर्षों का वैश्विक प्रौद्योगिकी नेतृत्व लाते हैं। उन्होंने पहले डेल टेक्नोलॉजीज में अमेरिका के लिए सार्वजनिक और बड़े उद्यम के उपाध्यक्ष के रूप में कार्य किया, जिसमें उत्तर और दक्षिण अमेरिका में अरबों डॉलर के व्यवसायिक इकाइयों की देखरेख की, और डेल यूके के महाप्रबंधक के रूप में - एक करियर जो पांच महाद्वीपों में फैला हुआ था और जिसमें एटी एंड टी और एनसीआर में वरिष्ठ भूमिकाएं शामिल थीं। बाद में उन्होंने रीचलोकल के अध्यक्ष, 3डी प्रिंटिंग पायनियर स्ट्रेटासिस में मुख्य व्यवसाय अधिकारी, और डिजिटल स्वास्थ्य कंपनी रिमिडी के मुख्य कार्यकारी अधिकारी के रूप में कार्य किया।

क्लामन ने इलिनोइस विश्वविद्यालय उर्बाना-शैंपेन से इतिहास और सरकार में बीए की उपाधि प्राप्त की और दक्षिण कैरोलिना विश्वविद्यालय के डार्ला मूर स्कूल ऑफ बिजनेस से एमबीए की उपाधि प्राप्त की। वह प्रौद्योगिकी, ऊर्जा और सार्वजनिक नीति के बीच के संगम पर लिखते और बोलते हैं, और उत्तरी अमेरिका और यूरोप भर के मंचों पर डेटा सेंटर स्थिरता पर बोल चुके हैं। वह मानते हैं कि उद्योग का दीर्घकालिक लाइसेंस संचालन तकनीकी प्रदर्शन के रूप में समुदाय के विश्वास पर निर्भर करता है।