Tankeledere

Beskytte dine AI-investeringer: Hvorfor kjølingstrategi er viktigere enn noen gang tidligere

mm
Publisert
Oppdatert
Legg til Unite.AI blant dine foretrukne kilder på Google

Datacenters operatører gambler med millioner på foreldet kjølingsteknologi. Diskusjonen om datacenters kjøling endres ikke bare – den blir fullstendig omdefinert av AI-økonomien. Innsatsen har aldri vært høyere.

Den raske utviklingen av AI har forandret datacenters økonomi på måter få kunne forutse. Når en enkelt rekke med AI-tjenere koster rundt 3 millioner dollar – like mye som et luksus hus – endres risikoberegningen fundamentalt. Som Andreessen Horowitz-grunnlegger Ben Horowitz nylig advarte, kan datacenters som finasier disse massive hardware-investeringene “komme på feil side very fast” hvis de ikke håndterer sin infrastrukturstrategi med omsorg.

Dette nye virkelighetsbilde krever en fundamental omtenkning av kjølingsmetoder. Mens tradisjonelle målinger som PUE og driftskostnader fortsatt er viktige, er de sekundære i forhold til å beskytte disse multimillion-dollar hardware-investeringene. Den virkelige spørsmålet datacenters operatører bør stille seg, er: Hvordan kan vi best beskytte våre AI-infrastruktur-investeringer?

De skjulte risikoene ved tradisjonell kjøling

Bransjens historiske avhengighet av enkelt-fase, vann-basert kjølingsløsninger medfører stadig mer uakseptable risikoer i AI-æraen. Mens det har tjent datacenters godt i mange år, har termiske kravene til AI-arbeidsbyrdene presset denne teknologien beyond dens praktiske grenser. Årsaken er enkel fysikk: enkelt-fase-systemer krever høyere strømningshastigheter for å håndtere dagens termiske belastninger, og øker risikoen for lekkasjer og katastrofale feil.

Dette er ikke en hypotetisk risiko. En enkelt vannlekkasje kan øyeblikkelig ødelegge millioner i AI-hardware – hardware som ofte har måneder-lange leveringstider i dagens marked med begrensede ressurser. Kostnaden ved bare en katastrofal feil kan overstige en datacenters kjølings-infrastruktur-budsjett for hele året. Likevel fortsetter mange operatører å bruke disse systemene, og gambler i praksis med sine AI-investeringer på foreldet teknologi.

På Data Center World 2024 spurte Dr. Mohammad Tradat, NVIDIAs sjef for datacenter-mekanisk ingeniørarbeid, spurte, “Hvor lenge vil enkelt-fase kjøling leve? Den vil bli fasert ut meget snart… og da vil behovet være for to-fase, kjølemiddel-basert kjøling.” Dette er ikke bare en voksende oppfatning – det blir en bransje-konsensus bakket av fysikk og finansiell realitet.

En ny tilnærming til investeringsbeskyttelse

To-fase kjølingsteknologi, som bruker dielektriske kjølemidler i stedet for vann, endrer fundamentalt denne risiko-ligningen. Kostnaden ved å implementere et to-fase kjølingssystem – typisk rundt 200 000 dollar per rekke – bør sees på som forsikring for å beskytte en 5 millioner dollar AI-hardware-investering. For å sette dette i perspektiv, er det en premie på 4% for å beskytte din eiendom – betydelig lavere enn forsikringsrater for andre multi-million dollar forretningsinvesteringer. Forretningscasen blir enda klarere når du tar med i beregningen de potensielle kostnadene ved AI-trening-forstyrrelser og ledig infrastruktur under uventet nedtid.

For datacenters operatører og finansielle interessenter bør beslutningen om å investere i to-fase kjøling vurderes gjennom linsen for risikostyring og investeringsbeskyttelse. De relevante målingene bør inkludere ikke bare driftskostnader eller energi-effektivitet, men også den totale verdien av hardware som beskyttes, kostnadene ved potensielle feilscenarier, fremtids-sikringen for neste-generasjons-hardware og risiko-justert avkastning på kjølings-investering.

Ettersom AI fortsetter å drive opp tettheten og verdien av datacenter-infrastruktur, må bransjen utvikle sin tilnærming til kjølingsstrategi. Spørsmålet er ikke om å gå over til to-fase kjøling, men når og hvordan å gjøre overgangen samtidig som man minimiserer risikoen for eksisterende operasjoner og investeringer.

Smart operatører er allerede i ferd med å gjøre denne skiftet, mens andre risikerer å lære en dyrekjøpt lekse. I en æra hvor en enkelt rekke koster mer enn mange datacenters årlige driftsbudsjett, er det å gamble på foreldet kjølingsteknologi ikke bare risikabelt – det er potensielt katastrofalt. Tiden til å handle er nå – før denne risikoen blir en realitet.

mm

Josh Claman er styreleder og grunnleggende CEO i Accelsius, en global leder innen to-fase direkte-til-chip væskeavkjølingsteknologi for AI-datacenter. Han var med å etablere Accelsius i 2022 for å møte en av sektorens største utfordringer: de enorme energi- og vannkravene som AI-infrastrukturen legger på samfunnet. Under hans ledelse utviklet selskapet NeuCool, en lukket, vannløs avkjølingsplattform som er konstruert for termiske krav til neste generasjons AI-chip – og som kan levere opp til 50% energibesparelse sammenlignet med tradisjonell luftavkjøling, samtidig som den eliminerer avhengigheten av lokale vannforsyninger i fasilitetene.

Claman bringer mer enn 30 års erfaring med global teknologiledelse til rollen. Han har tidligere vært visepresident for offentlig og storbedrift for Amerika i Dell Technologies, hvor han overvaket forretningsenheter verdt flere milliarder dollar over hele Nord- og Sør-Amerika, og som generaldirektør i Dell UK – en del av en karriere som omfattet seniorstillinger i både AT&T og NCR. Han har senere vært president i ReachLocal, chief business officer i 3D-utskriftspioneren Stratasys, og administrerende direktør i det digitale helsefirmaet Rimidi.

Claman har en bachelorgrad med høyeste utmerkelse i historie og regjering fra University of Illinois Urbana-Champaign og en MBA fra Darla Moore School of Business ved University of South Carolina. Han skriver og taler ofte om sammenhengen mellom teknologi, energi og offentlig politikk, og har behandlet datacenters bærekraft i forum over hele Nord-Amerika og Europa. Han mener at bransjens langsiktige driftstillatelse avhenger like mye av tillit i samfunnet som av teknisk ytelse.