Tankeledare

10 viktiga frågor att ställa för att säkerställa en effektiv AI-datacenterkylning

mm
Lägg till Unite.AI bland dina föredragna källor på Google

Med den ökande användningen av AI och högpresterande datorer ökar antalet datacenter i rekordfart. Faktum är att mängden datacenter under konstruktion vid årsskiftet 2024 mer än fördubblades jämfört med årsskiftet 2023 (6 350 MW under konstruktion jämfört med ~3 078 MW). Samtidigt är den hårdvara som används och de arbetsbelastningar som hanteras i dessa datacenter alltmer intensiva. Under dessa snabbt förändrade förhållanden ökar både insatserna och utmaningarna.

Och eftersom det genomsnittliga datacentret lägger upp till 40 % av sin totala energibudget på kylning, blir termisk hantering snabbt en av de största utmaningarna för branschen. På den ljusa sidan har datacenteroperatörer fler alternativ än någonsin för att kyla sina anläggningar på ett tillförlitligt, effektivt och kostnadseffektivt sätt.

Naturligtvis, när det finns alternativ, finns det också beslut att fattas. Så, när du överväger din egen datacenterdistribution, är här 10 viktiga frågor du bör besvara för att få din verksamhet igång snabbt, samtidigt som du säkerställer effektivitet, tillförlitlighet och hållbarhet för lång tid.

Fråga 1: Hur snabbt kan jag få detta kylsystem online utan att äventyra tillförlitligheten?

I AI-kapprustningen är den verkliga differentiatorn för branschens framgång inte vem som samlar på sig flest GPU:er – det är vem som får dem online snabbast. Tid till effekt (dvs. tiden från initiering av en distribution till den blir operativ) har blivit det nya slagfältet, som bestämmer hur snabbt företag kan omvandla AI-investeringar till affekt. Ledarna kommer inte bara att vara de med de största beräkningsresurserna, utan de som låser upp dem först, vilket accelererar innovation, intäkter och konkurrensfördel.

Men att skynda på kylsystemets distribution kan slå tillbaka, vilket leder till ineffektivitet, driftstopp eller dyra ombyggnader. Operatörerna måste fråga sig om deras valda system kan distribueras snabbt och stå emot provet av tiden. En strategi som balanserar implementeringshastighet med robusthet ger både omedelbar marknadsberedskap och långsiktig motståndskraft.

Fråga 2: Vilken kylmetod är bäst anpassad till min projekts behov?

Det finns ingen universallösning för varje datacenterdistribution. Luftkylning har länge varit standarden, men den når snabbt sina fysiska gränser när det gäller att hantera avancerad hårdvara och högdensitetsställ som är typiska för AI-datacenter. Vätskekylning erbjuder obesegrade effektivitet i stor skala och framtidsbevisad prestanda för alltmer krävande arbetsbelastningar. Hybridmetoder kan överbrygga gapet, men för lång tid kommer AI-datacenter att förlita sig på vätskekylningssystem för att hantera alltmer intensiva AI-arbetsbelastningar. Valet av rätt metod för vätskekylning beror dock på arbetsbelastningstyp, densitet, plats och andra faktorer.

Det finns två primära metoder för vätskekylning i kommersiell användning idag: direkt-till-chip (DTC) och immersionkylning. Medan DTC för närvarande är vanligare, förväntas immersionkylning vinna mark när chipens effekttäthet ökar. DTC-system dirigerar kylmedel direkt till värmealstrande komponenter som CPU och GPU genom kalla plattor, vilket erbjuder snabba effektivitetsvinster med minimala infrastrukturförändringar. Enfas-system är enklare och ombyggnadsvänliga, medan tvåfas-system använder kylmedel för att uppnå högre värmeöverföringsprestanda med lägre pumpkraft men större systemkomplexitet. Immersionkylning, å andra sidan, nedsänker hela servrar i dielektriska vätskor – antingen cirkuleras (enfas) eller kokas och kondenserats inom förslutna tankar (tvåfas).

Vilken lösning som är rätt för din miljö beror på hårdvarans natur, arbetsbelastningar, budget och mer. Men att vara medveten om sina alternativ är avgörande för både nära och långsiktiga möjligheter för ditt AI-datacenter.

Fråga 3: Kommer mitt kylsystem att stödja dagens arbetsbelastningar och morgondagens AI-drivna densiteter?

Vilket leder oss till nästa stora fråga: kommer mitt system att stå emot provet av tiden? Datacenterkraven ökar med en hastighet som överstiger historiska normer. AI-träningskluster, till exempel, kan kräva 10-20 gånger den effekttäthet som traditionella företagsställ har. Frågan operatörerna måste ställa sig är om deras kyldesign kan hantera framtida densiteter utan totalt byte.

AI:s, HPC (högpresterande datorer) och allt tätare rackarkitekturer pressar redan luftkylningen till dess gränser. I Uptime Institutes 2024 Cooling Survey, sa majoriteten av operatörerna att luftkylning blir opraktisk och/eller för dyr vid någon punkt över ~20 kW per rack. Men nuvarande branschrapportering visar att AI-rack redan vanligtvis pressar 100 kW per rack. Och dessa siffror är redan på väg uppåt. Nvidia visade nyligen upp planer för sina Rubin Ultra GPU:er med Kyber-rack, som kommer att överstiga 600 kW per rack år 2027.

Att veta att luftkylning är på väg att bli föråldrad i AI-datacenterdistributionsprojekt, kan operatörer se till hybrid- eller fasade metoder där fullständiga, gröna vätskekylningssystem inte är ett alternativ. Återigen, med tanke på den enorma tiden och kostnaden som läggs ner på dessa projekt, är långsiktig livskraft av yttersta vikt. Så, när du väljer kyrlösningar, se till att de är redo för lång tid.

Fråga 4: Vilka är de totala kostnaderna under hela livscykeln?

Medan de första utgifterna kan vara ögonblickliga i datacenterbranschen, är den första investeringen (CAPEX) bara en del av historien. Operatörerna bör beräkna den totala ägandekostnaden (TCO), inklusive driftskostnader (OPEX) som är knutna till energiförbrukning, underhåll och ombyggnader, när de överväger sina kyrlösningar. Ett system som verkar dyrare från början kan ge långsiktiga besparingar genom energoeffektivitet, minskad driftstopp och ökad livslängd. Den rätta kystrategin är sällan den billigaste från början – det är den som optimerar kostnader under anläggningens 10-15-års livscykel.

Kom ihåg att dessa inte är kortvariga distributionsprojekt. Dessutom, ju mer liv du får ut av distributionen, desto mer värde har du att vinna. Att se bortom den första investeringen och tänka på dina långsiktiga kostnader och besparingar är avgörande för att säkerställa att du får ut det mesta av ditt datacenterprojekt.

Fråga 5: Hur kommer denna kystrategi att påverka min hållbarhetsprofil?

Som nämnts tidigare kan kylning stå för 40 % eller mer av ett datacenters totala energiförbrukning. När regleringar och ESG-rapporteringskrav utvidgas, måste operatörerna fråga sig: hur påverkar detta system min koldioxidavtryck, energiförbrukning och andra hållbarhetsåtaganden? Lösningar som minskar energi- eller resursslöseri eller som följer globala standarder som Green Grid-ramverket är alltmer inte bara önskvärda utan krävs för investerarforentro och regulatorisk efterlevnad.

Samtidigt är den offentliga sektorn alltmer angelägen om att minska energiförbrukningen. Monitoring Analytics, den oberoende marknadsbevakaren för den midatlantiska elnätet, producerade i juni en rapport som visade att 70 % av den ökade elpriset förra året var ett resultat av datacenterkrav. Det är inte förvånande att konsumenterna larmar och att staterna överväger allvarliga åtgärder för att hantera denna fråga, inklusive möjligheten till tvingade avstängningar under perioder av hög efterfrågan. Genom att investera i mer energisnåla och hållbara kyrlösningar kan organisationer positionera sig för att hantera både den offentliga uppfattningen och de regulatoriska utmaningarna som ligger framför.

Fråga 6: Hur mycket vatten kommer denna kylningsmetod att förbruka – och är det hållbart i min region?

Stora datacenter kan förbruka upp till 5 miljoner gallon vatten per dag. Det borde inte komma som en överraskning att vattenbrist blir en avgörande fråga för datacenter, särskilt i regioner som den amerikanska sydvästkusten och delar av Europa där vattenrättigheter och bristproblem leder till ökad granskning av datacenter. För att göra rätt, måste operatörerna beräkna den förväntade vattenanvändningen för sitt kylningsystem och bedöma om den överensstämmer med lokala och regionala verkligheter (i termer av både tillgänglighet och regulatoriska krav).

Låt dig inte luras av namnet – vätskekylning förbrukar faktiskt avsevärt mindre vatten än traditionella luftkylningsystem. Enligt en studie publicerad av Nature, minskar vätskekylning datacenterens “blå vatten”-förbrukning med 31-52 % jämfört med traditionell luftkylning under dess livscykel. Kyrlösningar som minimerar eller eliminerar vattenförbrukning kan hjälpa anläggningar att framtidsäkra sig mot miljö- och regulatoriska risker.

Fråga 7: Vilka risker eller begränsningar är förknippade med vätskekylning, och hur kan de mildras?

Även om det erbjuder obesegrade fördelar kring effektivitet, hållbarhet och livstidsavkastning, kvarstår många myter om vätskekylning, särskilt kring tillförlitlighet, kostnad och integration. I verkligheten har framsteg inom teknik, material och design gjort vätskekylning säker, tillförlitlig och alltmer kostnadseffektiv. Nyckeln för operatörerna är att utvärdera dessa system mot verkliga prestandadata, inte föråldrade uppfattningar, och att designa med beprövade bästa metoder i åtanke.

När du tittar på vätskekylning är det lika viktigt att vara medveten om vilken lösning som är bäst för din anläggning. Med olika metoder (t.ex. direkt-till-chip [DTC], immersion) och en mängd leverantörer som erbjuder en mängd olika lösningar, bör du alltid utföra din due diligence när du överväger en vätskekylningssdistribution.

Fråga 8: Hur kommer min kyldesign att påverka utrymmesanvändning och rackdensitet?

Utrymme är lika värdefullt som kraft i moderna datacenteranläggningar. Högtdensitetsställ som stöds av effektiv vätskekylning kan dramatiskt minska golvytan och anläggningens fotavtryck. Detta gör det möjligt för operatörer att antingen skala arbetsbelastningar i befintliga fotavtryck eller minimera mark- och byggnadskostnader för nya byggnader. Att kunna göra mer med mindre utrymme minskar inte bara kostnader, utan öppnar också dörren för en mycket större variation av möjliga byggnadsplatser. Med mindre fotavtryck kan utvecklare bygga mer fritt och till och med bringa beräkningar närmare slutanvändaren. Att ställa dessa frågor i förväg säkerställer att kyldesignen är anpassad till både densitet och utrymmesanvändningsmål.

Fråga 9: Vilken är min långsiktiga motståndskraftsstrategi om arbetsbelastningar ökar eller regleringar skärps?

Datacenter är inte statiska. Ovänliga efterfrågeökningar, nya AI-applikationer och skärpta effektivitets- och hållbarhetskrav kan snabbt belasta infrastrukturen. Operatörerna måste fråga sig om deras kystrategi är tillräckligt anpassningsbar för att möta dessa ofta oväntade förändringar. Effektiva kyrsystem måste vara redo för att skala kapacitet, möta nya krav och integrera med framtida tekniker.

System som erbjuder moduläritet och leverantörer med robusta leverantörskedjor kommer att hjälpa till att isolera ditt datacenter från skiftande efterfrågan, vilket gör det möjligt för dig att skala mer lätt och uppgradera och integrera mer lätt om och när det behövs.

Fråga 10: Behandlar jag kylning som en strategisk möjliggörare – eller bara som en eftertanke?

Denna sista, övergripande fråga är förmodligen den viktigaste. När du överväger ditt kylningsystem, ta först en stund att ompröva kylningens roll i dina övergripande datacenteroperationer. För ofta behandlas kylning som bakgrundsinfrastruktur när det i verkligheten är en strategisk möjliggörare av prestanda, uptime och hållbarhet. Företag som investerar i genomtänkta kystrategier vinner inte bara operativ effektivitet, utan också en konkurrensfördel i tillförlitlighet, efterlevnad och långsiktiga kostnader.

Och eftersom AI fortsätter att ställa nya, mer intensiva krav på datacenter, är det avgörande att ta en långsiktig vy av kylning. Tänk inte bara på vad som är bäst, snabbast eller billigast för din distribution idag. Tänk på hur din kyrlösning positionerar dig 5, 10 eller till och med 15 år framöver. Om ditt kylningsystem knappt uppfyller kraven idag, kan du vara säker på att det inte längre kommer att vara tillräckligt om bara några år. Kom ihåg att kylning är central för din anläggnings övergripande framgång under hela dess livscykel.

Kylning är nu central för datacenters långsiktiga framgång – Välj klokt

Kylning är inte längre en bakgrundsfråga – det är central för varje datacenters nära och långsiktiga framgång. Genom att ställa dessa tio frågor från början kan operatörer minska distributions tid, minimera risker och säkerställa att anläggningarna är byggda för motståndskraft i en AI-driven värld som präglas av förändring och fluktuation.

Framtiden för branschen kommer att definieras inte bara av hur snabbt operatörer distribuerar kapacitet, utan av hur intelligent de designar för långsiktig hållbarhet och tillförlitlighet. De som behandlar kylning som en strategisk möjliggörare kommer att vara bäst positionerade för att leda i framtiden.

Kevin Roof är Global Director of Offer & Capture Management för LiquidStack. En mekanisk ingenjör och PMP med över ett decenniums erfarenhet av datacenterkylning, bringar Kevin ovärderliga insikter och tankeledarskap till den flytande kylningssfären.