Myslitelé

Datová centra pro umělou inteligenci potřebují víc než jen více chlazení: potřebují rychlejší inženýrství

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Umělá inteligence transformuje digitální práci, ale její dopad je stále více fyzický. Umělá inteligence ve velkém měřítku vyžaduje mnohem více energie než dříve. A datová centra, která tyto servery pro umělou inteligenci ubytovávají, se potýkají s tím, aby držely krok s poptávkou. Ve skutečnosti zpráva od Deloitte odhaduje, že do roku 2035 by poptávka po energii z datových center pro umělou inteligenci ve Spojených státech mohla vzrůst o více než třicetkrát.

Jedná se však nejen o otázku spotřeby energie. Datová centra, která tyto servery pro umělou inteligenci ubytovávají, musí také zohlednit enormní množství tepla, které tato technologie vytváří. Moderní klastry GPU mohou dosáhnout 50 kW na rack a více. To je desetinásobné zvýšení oproti standardním výpočetním serverům z minulého desetiletí.

Chladicí systémy, které byly dosud používány v datových centrech pro dostatečné řízení IT zátěží, jsou nyní překonávány těmito novými výstupy tepla. Infrastruktura prostě nedokáže držet krok, a tím se pro inženýry, kteří navrhují chladicí systémy datových center, vytváří nová výzva. Inženýři, kteří jsou odpovědní za návrh infrastruktury pro umělou inteligenci, stále častěji zjistí, že tradiční inženýrské pracovní postupy nemohou držet krok s rozsahem a rychlostí nasazení umělé inteligence.

Můžeme říci, že je to trochu paradoxní, ale umělá inteligence zvyšuje poptávku po kapacitě datových center a zároveň mění inženýrský proces, který se používá k jejich výstavbě. Stejné pokroky v oblasti umělé inteligence, které vytvářejí bezprecedentní požadavky na infrastrukturu, také začínají urychlovat způsob, jakým inženýři modelují, ověřují a optimalizují fyzické systémy, které tyto zátěže podporují.

De facto se umělá inteligence stává součástí procesu, který se používá k návrhu infrastruktury, která běží na umělé inteligenci.

V tomto světle mnoho inženýrských týmů přijímá cloudové, urychlené simulace, které umožňují vyhodnotit tepelný výkon, chladicí strategie a kompromisy v infrastruktuře před zahájením stavby.

Co se týče dnešní infrastruktury datových center, sázky jsou vysoké, a jakékoli pochybení může být devastující. Ověřování výkonu před stavbou se stalo imperativem pro dlouhodobý úspěch, nikoli závislost na předpokladech, pravidlech palce nebo pozdní validaci.

Tradiční chladicí infrastruktura pod tlakem

Bohužel pro inženýrské týmy jsou zátěže umělé inteligence fundamentálně odlišné od tradičních cloudových výpočtů. U umělé inteligence není žádný pokles, síťové požadavky, výstup tepla a požadavky na energii jsou konstantní.

Tento posun částečně odhaluje klíčové selhání mnoha datových center. Mnoho z nich bylo postaveno na základě předpokladu, že taková trvalá poptávka nebude nutná. A protože tyto chladicí systémy jsou často velmi energeticky náročné, začíná to být neudržitelné “přechlazovat” a předpokládat, že to bude pokrývat potřeby datového centra. Tento přístup a priorita dostupnosti bude způsobovat rychlý růst nákladů a spotřeby energie.

Nakonec se mnoho datových center ocitá na křižovatce, která není otázkou “více tepla”. Definujícím rizikem, které růst umělé inteligence přináší, je mnohem užší okraj pro chyby.

Pro vývojáře datových center může každý zpoždění ve validačním procesu ovlivnit závazky zákazníků, plánování kapacity nebo energetické náklady.

Historicky mohli inženýrské týmy kompenzovat nejistotu nadměrným dimenzováním, konzervativními návrhy a pozdní validací. Infrastruktura pro umělou inteligenci mění tuto rovnici. Rychlost nasazení, kapitálové investice a rostoucí hustota racků zanechávají daleko méně prostoru pro inženýrství metodou pokusů a omylů. Rozhodnutí, která mohla být ověřena později, musí být nyní prokázána mnohem dříve v procesu návrhu.

Nová realita: Ověřování tepelného výkonu před zahájením stavby

Snižující se okraj pro chyby nutí inženýrské týmy posunout tepelnou analýzu dříve v procesu návrhu, zatímco změny jsou stále levné a návrh je stále flexibilní. Místo toho, aby čekali, až budou objeveny vzduchové proudy, rozložení racků, strategie kontejnmentu nebo umístění chladicího zařízení během uvádění do provozu, mohou modelovat proudění vzduchu a přenos tepla před zahájením stavby.

To umožňuje inženýrům identifikovat horká místa, testovat chladicí strategie a porovnávat návrhové varianty za realistických provozních podmínek. Tým může vyhodnotit, zda studený vzduch dosáhne hustě obsazených racků, zda horký výfuk recirkuluje do vstupů zařízení, a zda je chladicí kapacita využívána účinně.

Zde hraje roli architektura platformy. Pro týmy, které pracují pod intenzivním tlakem, nemůže simulace zůstat omezena na malou skupinu specialistů s přístupem k vyhrazeným zdrojům HPC. Používání cloudové simulace umožňuje vysoce kvalitní analýzu celé inženýrské týmu, nikoli pouze malé skupině jednotlivců. To umožňuje týmům spouštět studie, porovnávat návrhové varianty a spolupracovat bez budování nebo údržby vlastních výpočetních infrastruktur.

S inženýrskou umělou inteligencí integrovanou do tohoto pracovního postupu začíná sama simulace měnit svůj význam. Historicky byla simulace omezena odbornými znalostmi, časem a výpočetními zdroji. Spouštění vysoce kvalitních studií často vyžadovalo specializované znalosti, vyhrazené hardware a dlouhé iterace.

Inženýrská umělá inteligence, využívající téměř autonomní agenty, které automatizují a urychlují inženýrské návrhové, simulační a analytické pracovní postupy, pomáhá snižovat tyto bariéry urychlením nastavení modelu, zpřístupněním relevantních poznatků a umožněním týmům vyhodnotit více návrhových variant za kratší dobu. Místo toho, aby se simulace rezervovala pro konečnou validační fázi, mohou inženýrské týmy použít urychlené pracovní postupy k průběžnému zkoumání alternativ během celého procesu návrhu.

Výsledkem není jen rychlejší simulace, ale rychlejší inovace.

Co to tedy znamená v praxi pro inženýrské týmy? Zvažte společnost, která vyrábí chladicí a ventilační systémy pro velké provozy, a potřebuje rychlejší způsob testování nových návrhů zařízení. Obvykle musí tyto společnosti postavit fyzické prototypy, přivést externí specialisty a strávit několik týdnů ověřováním, zda se vzduch pohybuje a mísí správně uvnitř systému.

Ale když tato společnost rozhodne použít simulační software k vytvoření virtuální verze testovacího nastavení, rovnice se změní. Tento přístup umožňuje inženýrům testovat proudění vzduchu a tepelný výkon na počítači před postavením skutečného produktu.

A výsledky často přinášejí skutečný dopad. Fáze před testováním může být zkrácena na pouhé 2-3 týdny a inženýrský čas může klesnout na 40 hodin místo 85 v tradičních pracovních postupech.

Ale skutečná hodnota zde spočívá v mnohem větším rozsahu. Skutečná hodnota spočívá v schopnosti inženýrského týmu klást více otázek a prozkoumávat možnosti dříve. Co se stane, když se zvýší hustota racků? Co se stane, když se změní proudění vzduchu? Co se stane, když se nezdaří předpoklady o redundanci?

Povolení této zvýšené úrovně průzkumu je to, co elevuje simulaci z analytického nástroje na klíčovou součást strategie návrhu infrastruktury.

Infrastruktura pro umělou inteligenci vyžaduje urychlené inženýrství

Další fáze infrastruktury pro umělou inteligenci nebude definována pouze velikostí zařízení, hustotou racků nebo chladicí kapacitou. Bude také definována rychlostí, s jakou inženýrské týmy mohou prokázat, že tyto systémy budou fungovat předtím, než budou postaveny.

To je místo, kde bude vznikat další konkurenční výhoda. Vývojáři datových center, kteří simulaci zavádějí dříve do procesu návrhu, dělají ji přístupnou pro inženýrské týmy a spojují ji s urychlenými pracovními postupy, budou lépe vybaveni pro přijímání rozhodnutí s jistotou předtím, než bude vázán kapitál a zahájena stavba.

Jak umělá inteligence bude dále měnit fyzické požadavky kladené na datová centra, bude také měnit způsob, jakým jsou tato zařízení navrhována. Organizace, které povedou tuto další éru, nebudou pouze reagovat na vyšší tepelné zátěže nebo těsnější energetické omezení. Budou budovat návrhové procesy, které budou schopny tyto zátěže předvídat.

David Heiny je CEO a spoluzakladatel společnosti SimScale. Vystudoval bakalářský obor matematiky a diplom v oboru strojního inženýrství na Technické univerzitě v Mnichově, stejně jako magisterský titul v oboru výpočetní vědy a inženýrství na Georgijském technologickém institutu. Jeho odbornost zahrnuje CFD, numerickou analýzu, vývoj softwaru a aplikovanou matematiku, které získal během studií a pracovních zkušeností (FZG – TU München, MAN Diesel & Turbo, FluiDyna GmbH,).

David také má čestný titul v oboru technického managementu z Centra pro digitální technologie a management (CDTM). David absolvoval Bavorskou elitní akademii (Bayerische EliteAkademie) společně se třemi dalšími spoluzakladateli SimScale – Vincenzem Dölle, Johannesem Probstem a Alexanderem Fischerem.