Myslitelé

Ochrana vaší investice do umělé inteligence: Proč strategie chlazení matters více než kdykoli dříve

mm
Publikováno
Aktualizováno
Přidejte Unite.AI mezi své preferované zdroje na Google

Provozovatelé datových center hazardují miliony na zastaralé technologie chlazení. Diskuze o chlazení datových center se nemění – je úplně předefinována ekonomickými aspekty umělé inteligence. Sázky nikdy nebyly vyšší.

Rychlý pokrok umělé inteligence transformoval ekonomiku datových center způsobem, který málokdo předpovídal. Když jedna skříň serverů pro umělou inteligenci stojí kolem 3 milionů dolarů – tolik, kolik stojí luxusní dům – fundamentálně se mění riziko. Jak nedávno varoval Ben Horowitz, spoluzakladatel Andreessen Horowitz, datacentra, která financují tyto obrovské investice do hardwaru, „mohou velmi rychle získat špatnou pozici“, pokud nebudou pečlivě řídit svou strategii infrastruktury.

Tato nová realita vyžaduje fundamentální přehodnocení přístupů k chlazení. Zatímco tradiční metriky, jako je PUE a provozní náklady, jsou stále důležité, jsou sekundární ve srovnání s ochranou těchto multimilionových investic do hardwaru. Skutečnou otázkou, kterou by si měli provozovatelé datových center klást, je: Jak nejlépe chránit naši investici do infrastruktury umělé inteligence?

Skrytá rizika tradičního chlazení

Historická závislost odství na jednofázových, vodou založených řeších chlazení nese stále nepřijatelnější rizika v éře umělé inteligence. Ačkoli tato technologie dobře sloužila datovým centrům po mnoho let, tepelné požadavky umělé inteligence ji přesáhly. Důvod je jednoduchá fyzika: jednofázové systémy vyžadují vyšší průtoky pro řízení dnešních tepelných zátěží, což zvyšuje riziko úniků a katastrofických selhání.

To není hypotetické riziko. Jediná vodní únik může okamžitě zničit miliony dolarů v hardwaru pro umělou inteligenci – hardwaru, který často má měsíce dlouhé doby dodání na dnešním trhu s omezenou dodávkou. Náklady na jediné katastrofické selhání mohou překročit rozpočet na infrastrukturu chlazení datového centra za celý rok. Přesto mnoho provozovatelů pokračuje v používání těchto systémů, efektivní hazardují s investicemi do umělé inteligence na zastaralé technologii.

Na Data Center World 2024 se Dr. Mohammad Tradat, manažer mechanického inženýrství datových center v NVIDIA, zeptal: „Jak dlouho bude jednofázové chlazení žít? Bude brzy vyřazeno… a poté bude potřeba dvoufázové chlazení se chladivem.“ To není jen rostoucí názor – stává se to průmyslovým konsenzem, který je založen na fyzice a finanční realitě.

Nový přístup k ochraně investic

Dvoufázová technologie chlazení, která místo vody používá dielektrické chladiva, fundamentálně mění toto riziko. Náklady na implementaci dvoufázového chladicího systému – obvykle kolem 200 000 dolarů za skříň – by měly být považovány za pojištění pro ochranu 5milionové investice do hardwaru pro umělou inteligenci. Abyste to viděli v perspektivě, je to 4% přirážka k ochraně vašeho majetku – podstatně nižší než pojistné sazby pro jiné obchodní investice v milionech dolarů. Obchodní případ se stává ještě jasnějším, když zohledníte potenciální náklady na přerušení školení umělé inteligence a nečinnost infrastruktury během neočekávané odstávky.

Pro provozovatele datových center a finanční zájemce by mělo být rozhodnutí investovat do dvoufázového chlazení hodnoceno z hlediska řízení rizik a ochrany investic. Relevantní metriky by měly zahrnovat nejen provozní náklady nebo energetickou efektivitu, ale také celkovou hodnotu chráněného hardwaru, náklady na potenciální scénáře selhání, hodnotu budoucí ochrany pro अगलí generaci hardwaru a riziko-upravený výnos z investice do chlazení.

Čím více umělá inteligence zvyšuje hustotu a hodnotu infrastruktury datových center, tím více se musí průmysl vyvíjet ve svém přístupu k strategii chlazení. Otázkou není, zda přejít na dvoufázové chlazení, ale kdy a jak provést přechod, zatímco minimalizuje riziko pro stávající operace a investice.

Chytrí provozovatelé již tento přechod provádějí, zatímco jiní riskují, že se naučí drahou lekci. V éře, kdy jedna skříň stojí více než mnoho ročních provozních rozpočtů datových center, hazardovat se zastaralou technologií chlazení není jen riskantní – je to potenciálně katastrofické. Čas jednat je nyní – předtím, než se toto riziko stane realitou.

mm

Josh Claman je výkonný předseda a zakladatel společnosti Accelsius, globální lídr ve dvoufázové přímé kapalné chlazení pro datové centry AI. Spolu se společníky založil Accelsius v roce 2022, aby řešil jednu z nejpalčivějších výzev odvětví: enormní energetické a vodní nároky, které AI infrastruktura klade na obce. Pod jeho vedením společnost vyvinula NeuCool, uzavřenou bezvodou chladicí platformu navrženou pro tepelné nároky nových AI čipů - poskytující až 50% úspory energie ve srovnání s tradičním vzduchovým chlazením a eliminující závislost zařízení na místních vodních zdrojích.

Claman přináší do role více než 30 let globálního technologického vedení. Předtím působil jako viceprezident pro veřejné a velké podniky pro Ameriku ve společnosti Dell Technologies, kde dohlížel na obchodní jednotky s.multi-miliardovým obratem po celé Severní a Jižní Americe, a jako generální manažer Dell UK - součást kariéry, která zahrnovala seniorní role ve společnostech AT&T a NCR. Později působil jako prezident ReachLocal, chief business officer ve společnosti 3D printing pioneer Stratasys a chief executive officer digitální zdravotnické společnosti Rimidi.

Claman získal titul BA s vysokým vyznamenáním v oboru Historie a vláda na University of Illinois Urbana-Champaign a MBA na Darla Moore School of Business na University of South Carolina. Píše a často hovoří o průsečíku technologie, energie a veřejné politiky a řešil udržitelnost datových center na fórech po celé Severní Americe a Evropě. Věří, že dlouhodobá licence odvětví k provozu závisí stejně na důvěře komunity jako na technickém výkonu.