Lideri de opinie

10 Întrebări Esențiale pentru a Asigura o Implementare Eficace a Sistemului de Răcire a Centrului de Date cu Inteligență Artificială

mm
Adaugă Unite.AI la sursele tale preferate pe Google

În contextul creșterii rapide a inteligenței artificiale și a calculului de înaltă performanță, centrele de date se multiplică la un ritm fără precedent. De fapt, cantitatea de capacitate a centrelor de date în construcție la sfârșitul anului 2024 a depășit de două ori cantitatea de la sfârșitul anului 2023 (6.350 MW în construcție, comparativ cu aproximativ 3.078 MW). În același timp, hardware-ul utilizat și sarcinile de lucru gestionate de aceste centre de date devin din ce în ce mai intensive. În aceste condiții de schimbare rapidă, atât riscurile, cât și provocările sunt în creștere.

Și, deoarece centrele de date cheltuie, în medie, până la 40% din întregul buget energetic pentru răcire, gestionarea termică devine rapid una dintre principalele provocări ale industriei. Pe de altă parte, operatorii de centre de date au mai multe opțiuni ca niciodată pentru a-și răci facilitățile în mod fiabil, eficient și rentabil.

Desigur, atunci când există opțiuni, există și decizii de luat. Așadar, atunci când luați în considerare propria dvs. implementare a centrului de date, iată 10 întrebări esențiale pe care ar trebui să le răspundeți pentru a pune operațiunea în funcțiune rapid, asigurând în același timp eficiență, fiabilitate și durabilitate pe termen lung.

Întrebarea 1: Cum pot pune online acest sistem de răcire fără a compromite fiabilitatea?

În cursa armelor cu inteligență artificială, adevăratul diferențiator pentru succesul industriei nu este cine acumulează cele mai multe GPU-uri, ci cine le pune online cel mai repede. Timpul de punere în funcțiune (adică timpul de la inițierea unei implementări până la devenirea sa operațională) a devenit noul câmp de luptă, determinând cu câtă rapiditate întreprinderile pot transforma investițiile în inteligență artificială în impact comercial. Liderii nu vor fi doar cei care dețin resursele de calcul masive, ci și cei care le deblochează primii, accelerând inovația, veniturile și avantajul competitiv.

Dar grăbirea implementării sistemului de răcire poate avea consecințe negative, ducând la ineficiențe, întreruperi sau costuri de retrofitare. Operatorii trebuie să se întrebe dacă sistemul lor ales poate fi implementat rapid și să reziste testului timpului. O strategie care echilibrează viteza de implementare cu robustețea oferă atât pregătirea imediată pentru piață, cât și reziliența pe termen lung.

Întrebarea 2: Care este metoda de răcire cea mai potrivită pentru nevoile proiectului meu?

Nu există o soluție universal valabilă pentru fiecare implementare a centrului de date. Răcirea cu aer a fost mult timp standardul, dar ajunge rapid la limitele sale fizice în gestionarea hardware-ului avansat și a rafturilor de înaltă densitate, caracteristice centrelor de date cu inteligență artificială. Răcirea lichidă oferă o eficiență neegalată la scară și o performanță viitoare pentru sarcinile de lucru din ce în ce mai exigente. Abordările hibride pot acoperi decalajul, dar, pe termen lung, centrele de date cu inteligență artificială vor depinde de soluții de răcire lichidă pentru a gestiona sarcinile de lucru din ce în ce mai intensive. Alegerea metodei corecte de răcire lichidă depinde de tipul de sarcină de lucru, de densitate, de locație și de alți factori.

Există două metode principale de răcire lichidă utilizate în prezent în mod comercial: direct-pe-chip (DTC) și răcire prin imersie. Deși DTC este în prezent mai comun, se preconizează că răcirea prin imersie va câștiga teren pe măsură ce densitățile de putere ale cipurilor vor crește. Sistemele DTC direcționează lichidul de răcire direct către componentele generatoare de căldură, cum ar fi CPU-urile și GPU-urile, prin plăci reci, oferind câștiguri rapide de eficiență cu modificări minime ale infrastructurii. Sistemele cu o singură fază sunt mai simple și mai prietenoase pentru retrofitare, în timp ce sistemele cu două faze utilizează refrigeranți pentru a obține o performanță de transfer de căldură mai mare, cu o putere de pompare mai mică, dar și o complexitate a sistemului mai mare. Răcirea prin imersie, pe de altă parte, scufundă întregul server în fluide dielectrice – fie circulate (cu o singură fază), fie fierte și condensate în interiorul unor tancuri etanșe (cu două faze).

Care este soluția potrivită pentru mediul dvs. depinde de natura hardware-ului, a sarcinilor de lucru, a bugetului și a altor factori. Dar fiind conștient de opțiunile disponibile este vital pentru viabilitatea pe termen lung a centrului dvs. de date cu inteligență artificială.

Întrebarea 3: Va susține sistemul meu de răcire sarcinile de lucru actuale și densitățile conduse de inteligență artificială de mâine?

Care ne aduce la următoarea mare întrebare: va rezista sistemul meu testului timpului? Cererea de centre de date este în creștere dincolo de normele istorice. De exemplu, cluster-urile de antrenament cu inteligență artificială pot necesita de 10 până la 20 de ori mai multă densitate de putere decât rafturile tradiționale de întreprinderi. Întrebarea pe care operatorii trebuie să și-o pună este dacă proiectarea lor de răcire poate face față densităților viitoare fără a necesita o înlocuire completă.

Crescerea inteligenței artificiale, a calculului de înaltă performanță și a arhitecturilor de rafturi din ce în ce mai dense împing deja răcirea cu aer către limitele sale. În Studiul Uptime Institute din 2024 privind sistemele de răcire, majoritatea operatorilor au declarat că răcirea cu aer devine impracticabilă și/sau prea scumpă la orice punct de peste ~20 kW pe raft. Cu toate acestea, raportarea actuală a industriei arată că rafturile cu inteligență artificială deja depășesc frecvent 100 kW pe raft. Și aceste cifre sunt în creștere. Nvidia a prezentat recent planuri pentru procesoarele sale Rubin Ultra GPU cu rafturi Kyber, care vor depăși 600kW pe raft până în 2027.

Știind că răcirea cu aer este pe cale de a deveni învechită în implementările centrelor de date cu inteligență artificială, operatorii pot opta pentru abordări hibride sau etapizate, acolo unde implementările complete de răcire lichidă nu sunt o opțiune. Din nou, având în vedere timpul și costul imens investit în aceste proiecte, viabilitatea pe termen lung este de cea mai mare importanță. Prin urmare, atunci când selectați soluții de răcire, asigurați-vă că acestea sunt gata pentru drumul lung.

Întrebarea 4: Care sunt implicațiile totale de cost pe durata întregului ciclu de viață?

În timp ce cheltuielile inițiale pot fi uluitoare în domeniul centrelor de date, cheltuielile de capital (CAPEX) reprezintă doar o parte a poveștii. Operatorii ar trebui să calculeze costul total de proprietate (TCO), incluzând cheltuielile de operare (OPEX) legate de consumul de energie, întreținere și retrofitare, atunci când iau în considerare soluțiile lor de răcire. Un sistem care pare mai scump la început poate oferi economii pe termen lung prin eficiență energetică, reducerea timpului de întrerupere și creșterea duratei de viață. Strategia de răcire potrivită nu este întotdeauna cea mai ieftină la început – este cea care optimizează costurile pe durata de 10-15 ani a facilității.

Rețineți că acestea nu sunt implementări pe termen scurt. Cu cât obțineți mai multă viață din implementarea dvs., cu atât mai mult valorificați investiția. Gândiți-vă dincolo de CAPEX și luați în considerare costurile și economiile pe termen lung pentru a vă asigura că obțineți maximum din proiectul dvs. de centru de date.

Întrebarea 5: Cum va afecta această strategie de răcire profilul meu de durabilitate?

Așa cum s-a menționat anterior, răcirea poate reprezenta până la 40% din consumul total de energie al unui centru de date. Pe măsură ce reglementările și cerințele de raportare ESG se extind, operatorii trebuie să se întrebe: cum afectează acest sistem amprenta mea de carbon, consumul de energie și alte angajamente de durabilitate? Soluțiile care reduc consumul de energie sau de resurse sau care se aliniază cu standarde globale, cum ar fi cadrul Green Grid, devin din ce în ce mai preferate, dar și necesare pentru încrederea investitorilor și conformitatea regulamentară.

Între timp, sectorul public cere din ce în ce mai mult reducerea consumului de energie. Monitoring Analytics, organismul de supraveghere independent a rețelei de energie din zona mid-Atlantic, a realizat o cercetare în luna iunie care arată că 70% din creșterea prețului energiei electrice anul trecut a fost cauzată de cererea centrelor de date. Nu este de mirare că consumatorii sună alarma, iar statele iau în considerare măsuri serioase pentru a aborda această preocupare, inclusiv posibilitatea de a închide forțat în perioadele de consum ridicat. Prin investiții în soluții de răcire mai eficiente și durabile, organizațiile pot naviga atât percepția publică, cât și provocările regulamentare care urmează.

Întrebarea 6: Câtă apă va consuma această abordare de răcire și este aceasta durabilă în regiunea mea?

Centrele de date mari pot consuma până la 5 milioane de galoane de apă pe zi. Nu ar trebui să fie o surpriză faptul că lipsa apei devine o problemă definitorie pentru centrele de date, în special în regiuni precum sud-vestul american și părți din Europa, unde drepturile și lipsa apei conduc la o atenție sporită asupra centrelor de date. Pentru a face lucrurile bine, operatorii trebuie să calculeze utilizarea proiectată de apă a sistemului lor de răcire și să evalueze dacă se aliniază cu realitățile locale și regionale (atât în ceea ce privește disponibilitatea, cât și cerințele de reglementare).

Nu vă lăsați induși în eroare de nume – răcirea lichidă consumă de fapt mult mai puțină apă decât sistemele tradiționale de răcire cu aer. Conform unui studiu publicat de Nature, răcirea lichidă reduce consumul de apă “albastră” al centrelor de date cu 31-52% față de răcirea cu aer tradițională, pe durata de viață. Soluțiile de răcire care minimizează sau elimină consumul de apă pot ajuta la protejarea facilităților împotriva riscurilor și reglementărilor de mediu.

Întrebarea 7: Care sunt riscurile sau limitările asociate cu răcirea lichidă și cum pot fi mitigate?

Deși oferă avantaje fără precedent în ceea ce privește eficiența, durabilitatea și rentabilitatea pe termen lung, multe mituri persistă despre răcirea lichidă, în special în ceea ce privește fiabilitatea, costul și integrarea. În realitate, progresele tehnologice, materialele și proiectarea au făcut răcirea lichidă sigură, fiabilă și din ce în ce mai rentabilă. Cheia pentru operatori este să evalueze aceste sisteme împotriva datelor de performanță din lumea reală, nu a percepțiilor învechite, și să proiecteze cu cele mai bune practici dovedite.

Atunci când se examinează răcirea lichidă, este la fel de important să fie conștient de care soluție este cea mai bună pentru facilitățile dvs. Cu abordări diferite (de exemplu, direct-pe-chip [DTC], imersie) și o mulțime de furnizori care oferă o varietate de soluții, ar trebui să efectuați întotdeauna dvs. diligența atunci când luați în considerare o implementare de răcire lichidă.

Întrebarea 8: Cum va afecta proiectarea mea de răcire utilizarea spațiului și densitatea rafturilor?

Spațiul este la fel de valoros ca și puterea în facilitățile moderne de centre de date. Rafturile de înaltă densitate, susținute de răcirea lichidă eficientă, pot reduce dramatic cerințele de spațiu și amprenta facilităților. Acest lucru permite operatorilor să scaleze sarcinile de lucru în spațiile existente sau să minimizeze costurile de teren și construcție pentru noile clădiri. A face mai mult cu mai puțin spațiu nu numai că reduce costurile, dar deschide și o gamă mult mai largă de locații viabile pentru construcție. Cu amprente mai mici, dezvoltatorii pot construi mai liber și pot aduce chiar calculul mai aproape de utilizatorul final. Pregătirea acestor întrebări dinainte asigură că proiectarea de răcire este aliniată atât cu densitatea, cât și cu obiectivele de utilizare a spațiului.

Întrebarea 9: Care este strategia mea de reziliență pe termen lung în cazul în care sarcinile de lucru se intensifică sau reglementările se înăspresc?

Centrele de date nu sunt statice. Creșterile neașteptate ale cererii, noile aplicații cu inteligență artificială și mandatele de eficiență și durabilitate din ce în ce mai stricte pot pune rapid presiune asupra infrastructurii. Operatorii trebuie să se întrebe dacă strategia lor de răcire este suficient de adaptabilă pentru a face față acestor schimbări adesea neașteptate. Sistemele de răcire eficiente trebuie să fie gata să scaleze capacitatea, să îndeplinească noile cerințe de conformitate și să se integreze cu tehnologiile viitoare.

Sistemele care oferă modularitate și furnizorii cu lanțuri de aprovizionare robuste vor ajuta la izolarea centrului dvs. de date de schimbările cererii, permițându-vă să scalați mai ușor și să actualizați și integrați mai ușor atunci când este necesar.

Întrebarea 10: Tratez răcirea ca pe un factor strategic de facilitare sau doar ca pe o chestiune de fond?

Această ultimă întrebare, cuprinzătoare, este probabil cea mai importantă. Atunci când luați în considerare sistemul dvs. de răcire, luați un moment pentru a reevalua rolul răcirii în operațiunile generale ale centrului dvs. de date. Prea des, răcirea este tratată ca o infrastructură de fond, atunci când, în realitate, este un factor strategic de performanță, disponibilitate și durabilitate. Companiile care investesc în strategii de răcire bine gândite câștigă nu numai eficiență operațională, ci și un avantaj competitiv în ceea ce privește fiabilitatea, conformitatea și costurile pe termen lung.

Și pe măsură ce inteligența artificială pune cerințe noi și mai intensive asupra centrelor de date, este critic să luați o perspectivă pe termen lung asupra răcirii. Nu vă gândiți doar la ce este mai bine, mai rapid sau mai ieftin pentru implementarea dvs. de astăzi. Gândiți-vă la modul în care soluția dvs. de răcire vă poziționează pentru 5, 10 sau chiar 15 ani de acum înainte. Dacă sistemul dvs. de răcire abia îndeplinește cerințele de astăzi, puteți fi siguri că nu va mai face față în doar câțiva ani. Răcirea este centrală pentru succesul general al facilității dvs. pe tot parcursul ciclului său de viață.

Răcirea este Acum Centrală pentru Succesul pe Termen Lung al Centrelor de Date – Alegeți cu Înțelepciune

Răcirea nu mai este o problemă de fond – este centrală pentru succesul apropiat și pe termen lung al fiecărui centru de date. Prin a pune aceste zece întrebări de la început, operatorii pot reduce timpul de implementare, minimiza riscurile și asigura că facilitățile sunt construite pentru reziliență într-o lume condusă de inteligență artificială, definită de schimbare și fluctuație.

Viitorul industriei va fi definit nu numai de viteza cu care operatorii implementează capacitatea, ci și de modul în care proiectează inteligent pentru durabilitate și fiabilitate pe termen lung. Cei care tratează răcirea ca pe un factor strategic de facilitare vor fi cei mai bine poziționați pentru a conduce în anii care urmează, într-o lume condusă de inteligență artificială, definită de schimbare și fluctuație.

Kevin Roof este Directorul Global al Ofertei și Managementului de Captură pentru LiquidStack. Ca inginer mecanic și PMP cu peste un deceniu de experiență în răcirea centrelor de date, Kevin aduce perspective și conducere valoroasă în domeniul răcirii lichide.