Thought leaders

Bescherming van uw AI-investering: waarom een koelstrategie meer belangrijk is dan ooit

mm
Voeg Unite.AI toe aan je voorkeursbronnen op Google

Datacenter-operatoren gokken miljoenen met verouderde koeltechnologie. Het gesprek over datacenter-koeling verandert niet alleen – het wordt volledig herdefinieerd door de economie van AI. De inzet is nog nooit zo hoog geweest.

De snelle vooruitgang van AI heeft de economie van datacenters op manieren veranderd die weinigen hadden voorspeld. Wanneer een enkele rack met AI-servers rond de $3 miljoen kost – evenveel als een luxe huis – verandert de risicocalculatie fundamenteel. Zoals Ben Horowitz, mede-oprichter van Andreessen Horowitz, onlangs waarschuwde, kunnen datacenters die deze enorme hardware-investeringen financieren “zeer snel in de problemen komen” als ze hun infrastructuurstrategie niet zorgvuldig beheren.

Deze nieuwe realiteit vereist een fundamentele heroverweging van koelbenaderingen. Terwijl traditionele metrieken zoals PUE en operationele kosten nog steeds belangrijk zijn, zijn ze ondergeschikt aan het beschermen van deze miljoenen-dollar-hardware-investeringen. De echte vraag die datacenter-operatoren zich moeten stellen, is: Hoe beschermen we onze AI-infrastructuur-investering het beste?

De verborgen risico’s van traditionele koeling

De historische afhankelijkheid van de industrie van enkele-fase, watergebaseerde koeloplossingen met zich meebrengt steeds onaanvaardbaarere risico’s in de AI-tijdperk. Hoewel het datacenters jarenlang goed heeft gediend, hebben de thermische eisen van AI-werklasten deze technologie voorbij haar praktische limieten geduwd. De reden is eenvoudige fysica: enkele-fase-systemen vereisen hogere stroomtarieven om vandaag’s thermische belastingen te beheren, waardoor het risico van lekken en catastrofale storingen toeneemt.

Dit is geen hypothetisch risico. Een enkele waterlekkage kan miljoenen aan AI-hardware vernietigen – hardware die vaak maandenlange vervangingslevertijden heeft in de huidige markt met beperkte voorraden. De kosten van slechts één catastrofale storing kunnen de koelinfrastructuurbegroting van een datacenter voor een heel jaar overschrijden. Toch blijven veel operatoren afhankelijk van deze systemen, waardoor ze effectief hun AI-investering gokken op verouderde technologie.

Op Data Center World 2024 vroeg Dr. Mohammad Tradat, manager van Data Center Mechanical Engineering bij NVIDIA, “Hoe lang zal enkele-fase koeling nog leven? Het zal binnenkort worden uitgefaseerd… en dan zal de behoefte zijn aan twee-fase, koelmiddelgebaseerde koeling.” Dit is niet alleen een groeiende mening – het wordt een industrieconsensus die wordt ondersteund door fysica en financiële realiteit.

Een nieuwe benadering van beleggingsbescherming

Twee-fase koeltechnologie, die dielektrische koelmiddelen gebruikt in plaats van water, verandert fundamenteel deze risicovergelijking. De kosten van het implementeren van een twee-fase koelsysteem – meestal rond de $200.000 per rack – moeten worden gezien als verzekering voor het beschermen van een $5 miljoen AI-hardware-investering. Om dit in perspectief te plaatsen, is dat een premie van 4% om uw activa te beschermen – aanzienlijk lager dan verzekingspremies voor andere multi-miljoen-dollar-zakelijke investeringen. Het businessgeval wordt nog duidelijker wanneer u de potentiële kosten van AI-trainingsonderbreking en idle infrastructuur tijdens ongeplande downtime meeneemt.

Voor datacenter-operatoren en financiële stakeholders moet de beslissing om te investeren in twee-fase koeling worden beoordeeld door de lens van risicobeheer en beleggingsbescherming. De relevante metrieken moeten niet alleen operationele kosten of energiedoeltreffendheid omvatten, maar ook de totale waarde van de hardware die wordt beschermd, de kosten van potentiële foutscenario’s, de toekomstbestendigheidswaarde voor volgende generatie hardware en de risicogecorrigeerde rendement op koelinvestering.

Naarmate AI de dichtheid en waarde van datacenter-infrastructuur verder verhoogt, moet de industrie haar aanpak van koelstrategie evolueren. De vraag is niet of men moet overstappen op twee-fase koeling, maar wanneer en hoe men deze overgang moet maken terwijl het risico voor bestaande operaties en investeringen wordt geminimaliseerd.

Slimme operatoren zijn deze verschuiving al aan het maken, terwijl anderen het risico lopen een dure les te leren. In een tijdperk waarin een enkele rack meer kost dan de jaarlijkse operationele begroting van veel datacenters, is gokken met verouderde koeltechnologie niet alleen riskant – het is potentieel catastrofaal. Het is tijd om nu te handelen – voordat dat risico werkelijkheid wordt.

Josh Claman is de Executive Chairman en Founding CEO van Accelsius, een wereldleider in tweefasige direct-to-chip vloeistofkoelingstechnologie voor AI-datacenters. Hij richtte Accelsius in 2022 op om een van de grootste uitdagingen in de sector aan te pakken: de enorme energievraag en waterbehoefte die AI-infrastructuur aan gemeenschappen oplegt. Onder zijn leiding ontwikkelde het bedrijf NeuCool, een gesloten, waterloze koelplatform dat is ontworpen voor de thermische eisen van volgende generatie AI-chips - met een energibesparing van maximaal 50% ten opzichte van traditionele luchtkoeling en het elimineren van de afhankelijkheid van lokale watervoorzieningen.

Claman brengt meer dan 30 jaar wereldwijde technologische leiderschapservaring mee in deze functie. Hij was eerder Vice President of Public and Large Enterprise voor de Amerika's bij Dell Technologies, waar hij zorgde voor multibillion-dollar business units in Noord- en Zuid-Amerika, en General Manager van Dell UK - onderdeel van een carrière die zich uitstrekte over vijf continenten en seniorrollen omvatte bij zowel AT&T als NCR. Hij was later President van ReachLocal, Chief Business Officer bij 3D-printpionier Stratasys en Chief Executive Officer van het digitale gezondheidsbedrijf Rimidi.

Claman behaalde een BA met hoge onderscheiding in Geschiedenis en Bestuur aan de Universiteit van Illinois Urbana-Champaign en een MBA aan de Darla Moore School of Business van de Universiteit van South Carolina. Hij schrijft en spreekt regelmatig over de kruispunten van technologie, energie en openbaar beleid, en heeft datacenterduurzaamheid besproken op fora in heel Noord-Amerika en Europa. Hij gelooft dat de langetermijnvergunning van de industrie om te opereren evenveel afhankelijk is van gemeenschapstrust als van technische prestaties.