Lideri de opinie

Protejarea investiției dvs. în AI: De ce strategia de răcire este mai importantă ca niciodată

mm
Publicat
Actualizat
Adaugă Unite.AI la sursele tale preferate pe Google

Operatorii de centre de date pariază milioane pe tehnologia de răcire învechită. Conversația despre răcirea centrelor de date nu se schimbă doar – este redefinită complet de economia AI. Mizele nu au fost niciodată mai mari.

Avansarea rapidă a inteligenței artificiale a transformat economia centrelor de date în moduri pe care puțini le-au prevăzut. Când un singur raft de servere AI costă aproximativ 3 milioane de dolari – cât o casă de lux – calculul riscului se schimbă fundamental. Așa cum a avertizat recent Ben Horowitz, co-fondator al Andreessen Horowitz, centrele de date care finantează aceste investiții masive în hardware “pot ajunge foarte repede în dificultate” dacă nu-și gestionează cu atenție strategia de infrastructură.

Această nouă realitate cere o reevaluare fundamentală a abordărilor de răcire. În timp ce metricele tradiționale, cum ar fi PUE și costurile de operare, sunt încă importante, ele sunt secundare în ceea ce privește protejarea acestor investiții masive în hardware. Întrebarea pe care ar trebui să o pună operatorii de centre de date este: Cum putem proteja cel mai bine investiția noastră în infrastructura AI?

Riscurile ascunse ale răcirii tradiționale

Dependența istorică a industriei de soluții de răcire cu apă, cu o singură fază, prezintă riscuri din ce în ce mai inacceptabile în era AI. Deși a servit bine centrele de date de-a lungul anilor, cerințele termice ale sarcinilor de lucru AI au depășit limitele practice ale acestei tehnologii. Motivul este simplu: sistemele cu o singură fază necesită debite de curgere mai mari pentru a gestiona încărcăturile termice de astăzi, ceea ce crește riscul de scurgeri și eșecuri catastrofale.

Aceasta nu este o riscul ipotetic. O singură scurgere de apă poate distruge instantaneu milioane de dolari în hardware AI – hardware care are, adesea, timpi de înlocuire de luni în piața actuală cu lipsă de componente. Costul unui singur eșec catastrofal poate depăși bugetul infrastructurii de răcire a unui centru de date pentru un an întreg. Cu toate acestea, mulți operatori continuă să se bazeze pe aceste sisteme, pariază efectiv investiția lor în AI pe tehnologie învechită.

La Data Center World 2024, Dr. Mohammad Tradat, managerul de inginerie mecanică a centrelor de date de la NVIDIA, a întrebat: “Cât timp va mai fi utilizată răcirea cu o singură fază? Va fi înlocuită foarte curând… și atunci va fi nevoie de răcire cu două faze, pe bază de refrigerent.” Acesta nu este doar un punct de vedere în creștere – este devenit un consens al industriei, susținut de fizică și realitate financiară.

O abordare nouă pentru protejarea investițiilor

Tehnologia de răcire cu două faze, care utilizează refrigerenți dielectrici în loc de apă, schimbă fundamental această ecuație a riscului. Costul implementării unui sistem de răcire cu două faze – de obicei, în jur de 200.000 de dolari pe raft – ar trebui considerat ca o asigurare pentru protejarea unei investiții de 5 milioane de dolari în hardware AI. Pentru a pune acest lucru în perspectivă, aceasta este o primă de 4% pentru a proteja activele dvs. – considerabil mai mică decât ratele de asigurare pentru alte investiții comerciale de milioane de dolari. Cazul de afaceri devine și mai clar atunci când luați în considerare costurile potențiale ale întreruperii antrenamentului AI și ale infrastructurii inoperative în timpul închiderii neplanificate.

Pentru operatorii de centre de date și stakeholderii financiari, decizia de a investi în răcirea cu două faze ar trebui evaluată prin prisma managementului riscului și protejării investițiilor. Metricele relevante ar trebui să includă nu doar costurile de operare sau eficiența energetică, ci și valoarea totală a hardware-ului protejat, costul potențial al scenariilor de eșec, valoarea de protejare pentru hardware-ul de generație următoare și rentabilitatea ajustată la risc a investiției în răcire.

Pe măsură ce AI continuă să crească densitatea și valoarea infrastructurii centrelor de date, industria trebuie să-și evolueze abordarea strategiei de răcire. Întrebarea nu este dacă să treacă la răcirea cu două faze, ci când și cum să facă această tranziție, minimizând riscul pentru operațiunile și investițiile existente.

Operatorii inteligenți fac deja acest pas, în timp ce alții riscă să învețe o lecție scumpă. Într-o eră în care un singur raft costă mai mult decât bugetul anual de operare al multor centre de date, parierea pe tehnologia de răcire învechită nu este doar riscantă – este potențial catastrofală. Timpul de a acționa este acum – înainte ca acest risc să devină realitate.

mm

Josh Claman este Președintele Executiv și CEO Fondator al Accelsius, un lider global în tehnologia de răcire lichidă directă la chip cu două faze pentru centrele de date AI. El a co-fondat Accelsius în 2022 pentru a aborda una dintre cele mai presante provocări ale sectorului: cererea enormă de energie și apă pe care infrastructura AI o impune comunităților. Sub conducerea sa, compania a dezvoltat NeuCool, o platformă de răcire închisă și fără apă, proiectată pentru cerințele termice ale cipurilor AI de nouă generație - oferind până la 50% economie de energie în comparație cu răcirea tradițională cu aer, în timp ce elimină dependența facilităților de aprovizionare cu apă locală.

Claman aduce peste 30 de ani de experiență în conducerea tehnologică la nivel global în acest rol. El a ocupat anterior funcția de Vicepreședinte al Departamentului de Întreprinderi Mari și Publice pentru America la Dell Technologies, supervizând unități de afaceri de miliarde de dolari în America de Nord și de Sud, și a fost Director General al Dell UK - parte a unei cariere care s-a desfășurat pe cinci continente și a inclus roluri de conducere atât la AT&T, cât și la NCR. Mai târziu, el a ocupat funcția de Președinte al ReachLocal, Director de Afaceri al pionierului în imprimarea 3D Stratasys și Director Executiv al companiei de sănătate digitală Rimidi.

Claman a obținut o diplomă de licență cu distincție în istorie și guvern de la Universitatea Illinois Urbana-Champaign și un MBA de la Școala de Afaceri Darla Moore de la Universitatea din Carolina de Sud. El scrie și vorbește frecvent despre intersecția tehnologiei, energiei și politicii publice și a abordat problema durabilității centrelor de date la forumuri din America de Nord și Europa. El crede că licența pe termen lung de a opera a industriei depinde la fel de mult de încrederea comunității, cât și de performanța tehnică.