Tankeledere

Beskyttelse af din AI-investering: Hvorfor kølestrategi er vigtigere end nogensinde

mm
Udgivet den
Opdateret den
Føj Unite.AI til dine foretrukne kilder på Google

Datacenter-operatører spiller med millioner på forældet køleteknologi. Diskussionen om datacenter-køling ændres ikke bare – den gendefineres af AI’s økonomi. Spillet er aldrig været højere.

AI’s hurtige udvikling har forandret datacenter-økonomien på måder, som få havde forudset. Når en enkelt stak af AI-servere koster omkring 3 millioner dollar – lige så meget som et luksus hus – ændrer risikoberegningen sig fundamentalt. Som Andreessen Horowitz’ medstifter Ben Horowitz nylig advarede, kan datacenter, der finansierer disse massive hardware-investeringer, “komme i undertallige meget hurtigt”, hvis de ikke passer godt på deres infrastrukturstrategi.

Denne nye virkelighed kræver en grundlæggende omdefinering af køletilgange. Mens traditionelle målinger som PUE og driftsomkostninger stadig er vigtige, er de sekundære i forhold til at beskytte disse multimillion-dollars hardware-investeringer. Det virkelige spørgsmål, som datacenter-operatører skal stille sig, er: Hvordan beskytter vi bedst vores AI-infrastruktur-investering?

De skjulte risici ved traditionel køling

Branchens historiske afhængighed af enkeltfase, vand-baserede køleløsninger medfører stadig mere uacceptable risici i AI-æraen. Mens det har fungeret godt for datacenter i mange år, har AI-arbejdets termiske krav presset denne teknologi ud over dens praktiske grænser. Årsagen er simpel fysik: Enkeltfase-systemer kræver højere flow-rater for at håndtere dagens termiske belastninger, hvilket øger risikoen for lækager og katastrofale fejl.

Dette er ikke en hypotetisk risiko. En enkelt vandlækage kan ødelægge millioner i AI-hardware – hardware, der ofte har måneders leveringstider på i dagens forsyningsbegrænsede marked. Omkostningerne ved blot en enkelt katastrofal fejl kan overstige et datacenters køleinfrastrukturbudget for hele året. Alligevel fortsætter mange operatører med at afhænge af disse systemer, hvilket effektivt sætter deres AI-investering på spil med forældet teknologi.

Ved Data Center World 2024 spurgte Dr. Mohammad Tradat, NVIDIA’s chef for datacenter-mekanisk ingeniørarbejde, spurgte, “Hvor længe vil enkeltfase-køling leve? Det vil blive faset ud meget snart… og derefter vil behovet være for tofase, kølemiddel-baseret køling.” Dette er ikke bare en voksende opfattelse – det bliver en branchensensus, der bakkes op af fysik og finansielle realiteter.

En ny tilgang til investeringsbeskyttelse

Tofase-køleteknologi, der bruger dielektriske kølemidler i stedet for vand, ændrer fundamentalt denne risiko-ligning. Omkostningerne ved at implementere et tofase-kølesystem – typisk omkring 200.000 dollar per stak – skal ses som en forsikring for at beskytte en 5 millioner dollar AI-hardware-investering. For at sætte dette i perspektiv er det en 4% præmie for at beskytte din ejendom – betydeligt lavere end forsikringspræmier for andre multimillion-dollars forretningsinvesteringer. Forretningsfaldet bliver endnu mere klart, når du tager i betragtning de potentielle omkostninger ved AI-træningsafbrydelse og inaktive faciliteter under uventet nedtid.

For datacenter-operatører og finansielle interessenter skal beslutningen om at investere i tofase-køling vurderes gennem linserne på risikostyring og investeringsbeskyttelse. De relevante målinger skal inkludere ikke kun driftsomkostninger eller energoeffektivitet, men også den totale værdi af hardware, der beskyttes, omkostningerne ved potentielle fejlscenarier, fremtidssikringens værdi for næste generations hardware og den risikojusterede afkast på køleinvesteringen.

Da AI fortsætter med at drive op den tæthed og værdi af datacenter-infrastruktur, må branchen udvikle sin tilgang til kølestrategi. Spørgsmålet er ikke, om man skal gå over til tofase-køling, men hvornår og hvordan man skal gøre overgangen, mens man minimiserer risikoen for eksisterende operationer og investeringer.

Intelligente operatører er allerede i gang med at gøre dette skift, mens andre risikerer at lære en dyrekøbt lektion. I en æra, hvor en enkelt stak koster mere end mange datacenters årlige driftsbudgetter, er det ikke kun risikabelt at satse på forældet køleteknologi – det er potentielt katastrofalt. Tiden til at handle er nu – før denne risiko bliver en realitet.

mm

Josh Claman er den eksekutive formand og grundlæggende administrerende direktør for Accelsius, en global leder inden for to-fase direkte-til-chip væskeafkølingsteknologi til AI-datacentre. Han co-founded Accelsius i 2022 for at løse en af sektorens mest presserende udfordringer: de enorme energi- og vandkrav, der stilles til samfundene af AI-infrastruktur. Under hans ledelse udviklede virksomheden NeuCool, en lukket, vandløs afkølingsplatform, der er designet til de termiske krav til næste generations AI-chips - leverer op til 50% energibesparelse i forhold til traditionel luftafkøling, samtidig med at det eliminerer facilitetens afhængighed af lokale vandforsyninger.

Claman bringer mere end 30 års globale teknologiledelse til rollen. Han har tidligere fungeret som vicepræsident for offentlige og store virksomheder for Amerika i Dell Technologies, hvor han overvågede forretningsenheder til milliarder af dollars på tværs af Nord- og Sydamerika, og som generaldirektør for Dell UK - en del af en karriere, der omfattede fem kontinenter og inkluderede seniorteamroller i både AT&T og NCR. Han fungerede senere som præsident for ReachLocal, Chief Business Officer i 3D-printing-pioneren Stratasys og administrerende direktør for det digitale sundhedsfirma Rimidi.

Claman har en BA med højeste udmærkelse i historie og regering fra University of Illinois Urbana-Champaign og en MBA fra Darla Moore School of Business på University of South Carolina. Han skriver og taler ofte om intersectionen mellem teknologi, energi og offentlig politik, og har behandlet datacenter-bæredygtighed på fora på tværs af Nordamerika og Europa. Han mener, at branchens langsigtede licens til at operere afhænger lige så meget af samfundets tillid som af teknisk præstation.