Tankeledere

10 viktige spørsmål for å sikre en effektiv AI-datacenter kjøling

mm
Legg til Unite.AI blant dine foretrukne kilder på Google

Med økningen av AI og høy-ytelsesdatamaskiner, sprenger datatsentrene seg i rekordfart. Faktisk, mengden datacenter-kapasitet under bygging ved årsslutt 2024 var mer enn dobbelt sammenlignet med årsslutt 2023 (6 350 MW under bygging vs. ~3 078 MW). Samtidig er hårdwaren som brukes og arbeidsbelastningene som håndteres i disse datatsentrene stadig mer intense. Under disse raskt skiftende forholdene, er både risiko og utfordringer på veg opp.

Og med at gjennomsnittlige datatsentre bruker opp til 40% av sin totale energibudsjett på kjøling, er termisk håndtering raskt blitt en av de største utfordringene for bransjen. På den positive siden, har datatsenter-operatørene nå flere alternativer enn noen gang tidligere for å kjøle sine anlegg pålitelig, effektivt og kostnadseffektivt.

Selvfølgelig, når det finnes alternativer, finnes det også beslutninger som må tas. Så, når du vurdere ditt eget datatsenter, er her 10 viktige spørsmål du bør besvare for å få din operasjon i gang raskt, samtidig som du sikrer effisiens, pålitelighet og bærekraft for lengre tid.

Spørsmål 1: Hvor raskt kan jeg sette dette kjølingssystemet i drift uten å kompromittere påliteligheten?

I AI-kapprustningen, er den virkelige forskjellen for bransjesuksess ikke hvem som samler på seg flest GPU-er – det er hvem som setter dem i drift raskest. Tid-til-kraft (dvs. tiden fra initiering av en utrullering til den blir operativ) har blitt det nye slagfeltet, og avgjør hvor raskt bedrifter kan omdanne AI-investeringer til forretningsmessig effekt. Ledere vil ikke bare være de som har massive beregningsressurser, men de som låser dem opp først, og akselerer innovasjon, inntekt og konkurransefordel.

Men å skynde på kjølingsutrulleringen kan ha negative konsekvenser, og føre til ineffisiens, nedetid eller dyre ombygginger. Operatørene må spørre seg selv om deres valgte system kan settes i drift raskt og tåle tidens prøve. En strategi som balanserer implementeringshastighet med robusthet, gir både umiddelbar markedsmessig beredskap og langtids pålitelighet.

Spørsmål 2: Hvilken kjølemetode er best tilpasset mine prosjekters behov?

Det finnes ingen universell løsning for hver datatsenter-utrullering. Luftkjøling har lenge vært standarden, men den nærmer seg raskt sine fysiske grenser for å håndtere avansert hårdware og høytetthets-hylere typiske for AI-datatsentre. Væskekjøling tilbyr ubetinget effisiens i stor skala og fremtidssikret ytelse for stadig mer krevende arbeidsbelastninger. Hybridtilnærminger kan brokke gapet, men for lengre tid, vil AI-datatsentre komme til å avhenge av væskekjølingsløsninger for å håndtere stadig mer intense AI-arbeidsbelastninger. Valg av riktig metode for væskekjøling avhenger av arbeidsbelastningstype, tetthet, plassering og andre faktorer.

Det finnes to primære væskekjølemetoder i kommersiell bruk i dag: direkte-til-chip (DTC) og immersjonskjøling. Mens DTC for tiden er mer vanlig, forventes immersjonskjøling å få mer oppmerksomhet når chip-powers tettheter øker. DTC-systemer routerer kjølevæske direkte til varme-genererende komponenter som CPU-er og GPU-er gjennom kalde plater, og tilbyr rask effisiensgevinst med minimal infrastruktur-endring. Enkelfase-systemer er enklere og mer tilpassingsvennlige, mens to-fase-systemer bruker kjølemidler for å oppnå høyere varmeoverførings-ytelse med lavere pumpe-kraft, men større system-kompleksitet. Immersjonskjøling, på den andre siden, senker hele servere i dielektriske væsker – enten sirkulert (enkelfase) eller kokt og kondensert i lukkede tanker (to-fase).

Hvilken løsning som er rett for din omgivelse, avhenger av hårdvarens natur, arbeidsbelastninger, budsjett og mer. Men å være klar over sine alternativer, er vitalt for både kort- og langtids-viabilitet av ditt AI-datatsenter.

Spørsmål 3: Vil mitt kjølingssystem støtte i dagens arbeidsbelastninger og morgendagens AI-drevne tettheter?

Hvilket bringer oss til det neste store spørsmålet: vil mitt system tåle tidens prøve? Datatsenter-etterspørselen akselerer utenfor historiske normer. AI-trening-kluster, for eksempel, kan kreve 10-20 ganger mer kraft-tetthet enn tradisjonelle bedrifts-hylere. Spørsmålet operatørene må stille seg selv, er om deres kjølingsdesign kan håndtere fremtidige tettheter uten omfattende erstattning.

Økningen av AI, HPC (høy-ytelses-beregning) og stadig tettere hylereksempler, presser allerede luftkjøling til dens grenser. I Uptime Institutes 2024 Cooling Survey, sa majoriteten av operatørene at luftkjøling blir upraktisk og/eller for dyrt over ~20 kW per hylere. Imidlertid viser nåværende bransje-rapportering at AI-hylere allerede vanligvis presser 100 kW per hylere. Og disse tallene er allerede på veg opp. Nvidia avdekket nylig planer for sine Rubin Ultra-GPU-er med Kyber-hylere, som vil overstige 600 kW per hylere i 2027.

Ved å vite at luftkjøling er på vei mot å bli foreldet i AI-datatsenter-utrulleringer, kan operatørene se på hybrid- eller faserte tilnærminger hvor fullstendige, grønne felt-væskekjølings-utrulleringer ikke er et alternativ. Igjen, gitt den enorme tiden og kostnadene som legges i disse prosjektene, er langtids-viabilitet av største betydning. Så, når du velger kjølingsløsninger, sikre deg at de er klare for lengre tid.

Spørsmål 4: Hva er de totale kostnad-implikasjonene over hele livssyklusen?

Mens oppfront-kostnadene kan være øyneåpnende i datatsenter-rommet, er kapital-utgift (CAPEX) bare en del av historien. Operatørene bør beregne den totale kostnaden for eierskap (TCO), inkludert drifts-utgifter (OPEX) knyttet til strøm-forbruk, vedlikehold og ombygginger, når de vurderer sine kjølingsløsninger. Et system som kan synes dyrt oppfront, kan levere langtids-besparelser gjennom energi-effisiens, redusert nedetid og økt levetid. Den riktige kjølings-strategien er sjelden den billigste oppfront – det er den som optimaliserer kostnadene over 10-15-års fasilitets-livssyklusen.

Husk, disse er ikke kort-tids-utrulleringer. Jo mer liv du får ut av utrulleringen, jo mer verdi står du til å få. Å se beyond CAPEX og tenke på dine langtids-kostnader og -besparelser, er kritisk for å sikre at du får mest mulig ut av ditt datatsenter-prosjekt.

Spørsmål 5: Hvor vil denne kjølings-strategien påvirke min bærekrafts-profil?

Som nevnt tidligere, kan kjøling utgjøre 40% eller mer av et datatsenters totale energi-forbruk. Ettersom reguleringer og ESG-rapporterings-krav utvides, må operatørene spørre seg selv: hvordan påvirker dette systemet min karbon-avtrykk, energi-bruk og andre bærekrafts-forpliktelser? Løsninger som reduserer energi- eller ressurs-forbruk eller er i samsvar med globale standarder som Green Grid-rammeverket, er stadig mer ikke bare ønskelige, men også påkrevd for investor-tillit og regulatorisk overholdelse.

I mellomtiden er den offentlige sektoren stadig mer opptatt av redusert energi-forbruk. Monitoring Analytics, den uavhengige markedsvakten for midt-Atlanterhavs-gridet, produserte en rapport i juni som viste at 70% av den økte elektrisitets-kosten i fjor var et resultat av datatsenter-etterspørsel. Ikke overraskende, er forbrukerne i ferd med å lyfte alarmen, og statene vurdere noen alvorlige tiltak for å møte denne bekymringen, inkludert muligheten for tvangsskift under perioder med høy etterspørsel. Ved å investere i mer energi-effektive og bærekraftige kjølingsløsninger, kan organisasjonene posisjonere seg for å navigere både offentlig oppfatning og regulatoriske utfordringer som ligger foran.

Spørsmål 6: Hvor mye vann vil denne kjølings-tilnærmingen forbruke – og er det bærekraftig i min region?

Store datatsentre kan forbruke opptil 5 millioner gallon vann per dag. Det burde ikke være overraskende, at vann-mangel blir en avgjørende sak for datatsentre, spesielt i regioner som den amerikanske Sørvesten og deler av Europa hvor vann-rettigheter og -mangel-problemer fører til økt skarpsyn mot datatsentre. For å få det rett, må operatørene beregne den prosjekterte vann-forbruket til deres kjølingssystem og vurdere om det er i samsvar med lokale og regionale realiteter (i både tilgjengelighet og regulatoriske krav).

Ikke la deg lure av navnet – væskekjøling forbruker faktisk betydelig mindre vann enn tradisjonelle luftkjølingssystemer. Ifølge en studie publisert i Nature, reduserer væskekjøling data-senterets “blå vann”-forbruk med 31-52% sammenlignet med tradisjonell luftkjøling over dens livssyklus. Kjølingsløsninger som minimerer eller eliminerer vann-forbruk, kan hjelpe fasiliteter mot miljømessige og regulatoriske risikoer.

Spørsmål 7: Hva er risikoene eller begrensningene forbundet med væskekjøling, og hvordan kan de mildnes?

Selv om det tilbyr ubetinget fordeler rundt effisiens, bærekraft og levetids-ROI, består mange myter om væskekjøling, spesielt rundt pålitelighet, kostnad og integrering. I virkeligheten har fremgang i teknologi, materialer og design gjort væskekjøling trygg, pålitelig og stadig mer kostnadseffektiv. Nøkkelen for operatørene er å evaluere disse systemene mot virkelige verdens-data, ikke foreldede oppfatninger, og å designe med beviste beste praksis i mente.

Når du ser på væskekjøling, er det like viktig å være klar over hvilken løsning som er best for din fasilitet. Med forskjellige tilnærminger (f.eks. direkte-til-chip [DTC], immersjon) og en rekke leverandører som tilbyr et bredt utvalg av løsninger, bør du alltid utføre din egen due diligence når du vurderer en væskekjølings-utrullering.

Spørsmål 8: Hvor vil mitt kjølingsdesign påvirke rom-utnyttelse og hyle-tetthet?

Rom er like verdifullt som kraft i moderne datatsenter-fasiliteter. Høytetthets-hylere som støttes av effektiv væskekjøling, kan dramatisk redusere gulv-areal-krav og fasilitets-fotavtrykk. Dette tillater operatørene å enten skala arbeidsbelastninger i eksisterende fotavtrykk eller minimere land- og byggekostnader for nye bygninger. Å kunne gjøre mer med mindre rom, reduserer ikke bare kostnader, men åpner også døren for en mye bredere variasjon av viable steder for bygging. Med mindre fotavtrykk, kan utviklere bygge mer fritt og til og med bringe beregning nærmere sluttbrukeren. Å stille disse spørsmålene på forhånd, sikrer at kjølings-designet er i samsvar med både tetthet og rom-utnyttelse-mål.

Spørsmål 9: Hva er min langtids-resiliens-strategi hvis arbeidsbelastninger øker eller reguleringer strammer?

Datatsentre er ikke statiske. Uventede etterspørsels-økninger, nye AI-applikasjoner og strammere effisiens-/bærekrafts-krav kan raskt sette press på infrastruktur. Operatørene må spørre seg selv om deres kjølings-strategi er tilstrekkelig tilpassbar for å møte disse ofte uventede endringer. Effektive kjølingssystemer må være klare for å skala kapasitet, møte nye overholdelses-krav og integrere med fremtidige teknologier.

Systemer som tilbyr modulæritet og leverandører med robuste forsyningskjeder, vil hjelpe med å isolere ditt datatsenter fra skiftende etterspørsel, og tillate deg å skala mer lett og oppgradere og integrere mer lett hvis og når det er nødvendig.

Spørsmål 10: Behandler jeg kjøling som en strategisk muliggjører – eller bare en ettertanke?

Dette siste, overordnede spørsmålet er kanskje det viktigste. Når du vurderer ditt kjølingssystem, ta en øyeblikk til å omvurdere kjølings rolle i dine overordnede datatsenter-operasjoner. For ofte blir kjøling behandlet som bakgrunns-infrastruktur når, i virkeligheten, det er en strategisk muliggjører av ytelse, oppetid og bærekraft. Selskaper som investerer i gjennomtenkte kjølings-strategier, får ikke bare operasjonell effisiens, men også en konkurransefordel i pålitelighet, overholdelse og langtids-kostnader.

Og mens AI fortsatt setter nye, mer intense krav til datatsentre, er det kritisk å ta en langtids-syn på kjøling. Ikke bare tenk på hva som er best, raskest eller billigst for din utrullering i dag. Tenk på hvordan din kjølingsløsning posisjonerer deg 5, 10 eller til og med 15 år frem i tid. Hvis ditt kjølingssystem bare nøtter å møte kravene i dag, kan du være sikker på at det ikke lenger vil være tilstrekkelig bare noen få år frem i tid. Husk, kjøling er sentral for din fasilitets totale suksess gjennom hele dens livssyklus.

Kjøling er nå sentral for langtids datatsenter-suksess – Velg riktig

Kjøling er ikke lenger en bakgrunns- bekymring – det er sentral for hver datatsenters nær- og langtids-suksess. Ved å stille disse ti spørsmålene på forhånd, kan operatørene redusere utrulleringstid, minimere risiko og sikre at fasilitetene er bygget for resiliens i en AI-drevet verden definert av endring og flux.

Fremtiden for bransjen vil bli definert ikke bare av hvor raskt operatørene utruller kapasitet, men av hvordan de intelligently designer for langtids-bærekraft og pålitelighet. De som behandler kjøling som en strategisk muliggjører, vil være best posisjonert for å lede i årene som kommer.

Kevin Roof er Global Director of Offer & Capture Management for LiquidStack. En mekanisk ingeniør og PMP med over ett tiår med erfaring innen datacenterkjøling, bringer Kevin uvurderlige innsikter og ledelse til væskeavkjølingsområdet.