Myslitelé

Ochrana vaší investice do umělé inteligence: Proč strategie chlazení matters více než kdykoli dříve

Josh Claman
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyDvoufázové chlazení slouží jako nezbytná pojistka pro více-milionové investice do AI…
Zobrazit více
  • Dvoufázové chlazení slouží jako nezbytná pojistka pro více-milionové investice do AI hardwaru.
  • Jednofázové vodní chlazení riskuje katastrofální selhání při extrémních tepelných nárocích umělé inteligence.
  • Expert společnosti NVIDIA předpovídá bezprostřední vytlačení jednofázové chladicí technologie.

Provozovatelé datových center hazardují miliony na zastaralé technologie chlazení. Diskuze o chlazení datových center se nemění – je úplně předefinována ekonomickými aspekty umělé inteligence. Sázky nikdy nebyly vyšší.

Rychlý pokrok umělé inteligence transformoval ekonomiku datových center způsobem, který málokdo předpovídal. Když jedna skříň serverů pro umělou inteligenci stojí kolem 3 milionů dolarů – tolik, kolik stojí luxusní dům – fundamentálně se mění riziko. Jak nedávno varoval Ben Horowitz, spoluzakladatel Andreessen Horowitz, datacentra, která financují tyto obrovské investice do hardwaru, „mohou velmi rychle získat špatnou pozici“, pokud nebudou pečlivě řídit svou strategii infrastruktury.

Tato nová realita vyžaduje fundamentální přehodnocení přístupů k chlazení. Zatímco tradiční metriky, jako je PUE a provozní náklady, jsou stále důležité, jsou sekundární ve srovnání s ochranou těchto multimilionových investic do hardwaru. Skutečnou otázkou, kterou by si měli provozovatelé datových center klást, je: Jak nejlépe chránit naši investici do infrastruktury umělé inteligence?

Skrytá rizika tradičního chlazení

Historická závislost odství na jednofázových, vodou založených řeších chlazení nese stále nepřijatelnější rizika v éře umělé inteligence. Ačkoli tato technologie dobře sloužila datovým centrům po mnoho let, tepelné požadavky umělé inteligence ji přesáhly. Důvod je jednoduchá fyzika: jednofázové systémy vyžadují vyšší průtoky pro řízení dnešních tepelných zátěží, což zvyšuje riziko úniků a katastrofických selhání.

To není hypotetické riziko. Jediná vodní únik může okamžitě zničit miliony dolarů v hardwaru pro umělou inteligenci – hardwaru, který často má měsíce dlouhé doby dodání na dnešním trhu s omezenou dodávkou. Náklady na jediné katastrofické selhání mohou překročit rozpočet na infrastrukturu chlazení datového centra za celý rok. Přesto mnoho provozovatelů pokračuje v používání těchto systémů, efektivní hazardují s investicemi do umělé inteligence na zastaralé technologii.

Na Data Center World 2024 se Dr. Mohammad Tradat, manažer mechanického inženýrství datových center v NVIDIA (NVDA ), zeptal: „Jak dlouho bude jednofázové chlazení žít? Bude brzy vyřazeno… a poté bude potřeba dvoufázové chlazení se chladivem.“ To není jen rostoucí názor – stává se to průmyslovým konsenzem, který je založen na fyzice a finanční realitě.

Nový přístup k ochraně investic

Dvoufázová technologie chlazení, která místo vody používá dielektrické chladiva, fundamentálně mění toto riziko. Náklady na implementaci dvoufázového chladicího systému – obvykle kolem 200 000 dolarů za skříň – by měly být považovány za pojištění pro ochranu 5milionové investice do hardwaru pro umělou inteligenci. Abyste to viděli v perspektivě, je to 4% přirážka k ochraně vašeho majetku – podstatně nižší než pojistné sazby pro jiné obchodní investice v milionech dolarů. Obchodní případ se stává ještě jasnějším, když zohledníte potenciální náklady na přerušení školení umělé inteligence a nečinnost infrastruktury během neočekávané odstávky.

Pro provozovatele datových center a finanční zájemce by mělo být rozhodnutí investovat do dvoufázového chlazení hodnoceno z hlediska řízení rizik a ochrany investic. Relevantní metriky by měly zahrnovat nejen provozní náklady nebo energetickou efektivitu, ale také celkovou hodnotu chráněného hardwaru, náklady na potenciální scénáře selhání, hodnotu budoucí ochrany pro अगलí generaci hardwaru a riziko-upravený výnos z investice do chlazení.

Čím více umělá inteligence zvyšuje hustotu a hodnotu infrastruktury datových center, tím více se musí průmysl vyvíjet ve svém přístupu k strategii chlazení. Otázkou není, zda přejít na dvoufázové chlazení, ale kdy a jak provést přechod, zatímco minimalizuje riziko pro stávající operace a investice.

Chytrí provozovatelé již tento přechod provádějí, zatímco jiní riskují, že se naučí drahou lekci. V éře, kdy jedna skříň stojí více než mnoho ročních provozních rozpočtů datových center, hazardovat se zastaralou technologií chlazení není jen riskantní – je to potenciálně katastrofické. Čas jednat je nyní – předtím, než se toto riziko stane realitou.

Josh Claman je výkonný předseda a zakládající generální ředitel společnosti Accelsius, globálního lídra v technologii dvoufázového kapalinového chlazení přímo na čipech pro datová centra AI. Spolu se společníky založil Accelsius v roce 2022, aby řešil jednu z nejpalčivějších výzev odvětví: enormní energetické a vodní nároky, které AI infrastruktura klade na obce. Pod jeho vedením společnost vyvinula NeuCool, uzavřenou bezvodou chladicí platformu navrženou pro tepelné nároky nových AI čipů - poskytující až 50% úspory energie ve srovnání s tradičním vzduchovým chlazením a eliminující závislost zařízení na místních vodních zdrojích.

Claman přináší do role více než 30 let globálního technologického vedení. Předtím působil jako viceprezident pro veřejné a velké podniky pro Ameriku ve společnosti Dell Technologies, kde dohlížel na obchodní jednotky s mnohamiliardovým obratem po celé Severní a Jižní Americe, a jako generální manažer Dell UK - součást kariéry, která se rozprostírala na pěti kontinentech a zahrnovala seniorní role ve společnostech AT&T a NCR. Později působil jako prezident ReachLocal, chief business officer ve společnosti Stratasys, průkopníkovi 3D tisku a chief executive officer digitální zdravotnické společnosti Rimidi.

Claman získal titul BA s vysokým vyznamenáním v oboru Historie a vláda na University of Illinois Urbana-Champaign a MBA na Darla Moore School of Business na University of South Carolina. Píše a často hovoří o průsečíku technologie, energie a veřejné politiky a řešil udržitelnost datových center na fórech po celé Severní Americe a Evropě. Věří, že dlouhodobé společenské přijetí činnosti odvětví závisí stejně na důvěře komunity jako na technickém výkonu.