Apetitul în creștere al AI pentru putere: sunt centrele de date gata să țină pasul?

Pe măsură ce inteligența artificială (AI) avansează, cererile sale de energie solicită centrele de date până la punctul de rupere. Tehnologii AI de nouă generație, cum ar fi AI generativă (genAI) nu transformă doar industriile – consumul lor de energie afectează aproape fiecare componentă a serverului de date – de la procesoare și memorie până la acceleratoare și rețele.

Aplicațiile GenAI, inclusiv Copilot de la Microsoft și ChatGPT de la OpenAI, necesită mai multă energie ca niciodată. Până în 2027, instruirea și întreținerea acestor sisteme de inteligență artificială ar putea consuma suficientă energie. electricitate pentru a alimenta o țară mică pentru un an întreg. Și tendința nu încetinește: în ultimul deceniu, cererea de energie pentru componente precum procesoare, memorie și rețea este estimată să crească cu 160% până în 2030, potrivit unui Goldman Sachs raport.

Utilizarea modelelor mari de limbaj consumă și energie. De exemplu, o interogare ChatGPT consumă de aproximativ zece ori o căutare tradițională pe Google. Având în vedere cerințele masive de energie ale inteligenței artificiale, pot fi gestionate sustenabil progresele rapide ale industriei sau vor contribui acestea și mai mult la consumul global de energie? Recentul studiu al McKinsey cercetare arată că aproximativ 70% din cererea în creștere pe piața centrelor de date este orientată către facilități echipate pentru a face față sarcinilor de lucru avansate de AI. Această schimbare schimbă fundamental modul în care centrele de date sunt construite și rulate, deoarece se adaptează la cerințele unice ale acestor sarcini genAI de mare putere.

„Centrele de date tradiționale funcționează adesea cu echipamente vechi, consumatoare de energie și capacități fixe care se luptă să se adapteze la sarcinile de lucru fluctuante, ceea ce duce la o risipă semnificativă de energie.” Mark Rydon, Chief Strategy Officer și co-fondator al platformei distribuite de cloud compute Aethir, mi-a spus. „Operațiunile centralizate creează adesea un dezechilibru între disponibilitatea resurselor și nevoile de consum, conducând industria într-un moment critic în care progresele ar putea risca să submineze obiectivele de mediu pe măsură ce cererile bazate pe inteligență artificială cresc.”

Liderii din industrie abordează acum provocarea direct, investind în design mai ecologice și arhitecturi eficiente din punct de vedere energetic pentru centrele de date. Eforturile variază de la adoptarea surselor de energie regenerabilă până la crearea de sisteme de răcire mai eficiente, care pot compensa cantitățile mari de căldură generate de sarcinile de lucru genAI.

Revoluționarea centrelor de date pentru un viitor mai ecologic

Lenovo a introdus recent ThinkSystem N1380 Neptune, un salt înainte în tehnologia de răcire cu lichid pentru centrele de date. Compania afirmă că inovația permite deja organizațiilor să implementeze calculatoare de mare putere pentru sarcinile de lucru genAI, cu un consum de energie semnificativ mai mic - cu până la 40% mai puțină putere în centrele de date. N1380 Neptune, folosește cel mai recent hardware NVIDIA, inclusiv GPU-urile Blackwell și GB200, permițând gestionarea modelelor AI cu trilioane de parametri într-o configurație compactă. Lenovo a spus că își propune să deschidă calea pentru centrele de date care pot opera rafturi de servere de 100 kW+ fără a fi nevoie de aer condiționat dedicat.

„Am identificat o cerință semnificativă din partea consumatorilor noștri actuali: centrele de date consumă mai multă energie atunci când gestionează sarcinile de lucru AI din cauza arhitecturilor de răcire învechite și a cadrelor structurale tradiționale.” Robert Daigle, director global de inteligență artificială la Lenovo, mi-a spus. „Pentru a înțelege mai bine acest lucru, am colaborat cu un client de calcul de înaltă performanță (HPC) pentru a-și analiza consumul de energie, ceea ce ne-a condus la concluzia că am putea reduce consumul de energie cu 40%.” El a adăugat că compania a luat în considerare factori precum puterea ventilatorului și consumul de energie al unităților de răcire, comparându-le cu sistemele standard disponibile prin serviciul de evaluare a centrelor de date Lenovo, pentru a dezvolta noua arhitectură a centrului de date în parteneriat cu Nvidia.

Companie de consultanță în tehnologia informației din Marea Britanie AVEVA, a spus că utilizează analiza predictivă pentru a identifica problemele cu compresoarele centrelor de date, motoarele, echipamentele HVAC, dispozitivele de tratare a aerului și multe altele.

„Am descoperit că antrenarea prealabilă a inteligenței artificiale generative este cea care consumă o cantitate masivă de energie.” Jim Chappell, șeful de AI și analiză avansată al AVEVA, mi-a spus. „Prin sistemele noastre predictive bazate pe inteligență artificială, ne propunem să găsim probleme cu mult înainte de orice SCADA sau sistem de control, permițând operatorilor de centre de date să remedieze problemele echipamentelor înainte ca acestea să devină probleme majore. În plus, avem un Vision AI Assistant care se integrează în mod nativ cu sistemele noastre de control pentru a ajuta la găsirea altor tipuri de anomalii, inclusiv a punctelor fierbinți de temperatură atunci când este utilizat cu o cameră de imagine termică.”

Între timp, calculul descentralizat pentru instruirea și dezvoltarea AI prin GPU-uri pe cloud apare ca o alternativă. a lui Aethir Rydon a explicat că prin distribuirea sarcinilor de calcul într-o rețea mai largă și mai adaptabilă, utilizarea energiei poate fi optimizată, prin alinierea cererii de resurse cu disponibilitatea, ceea ce duce la reduceri substanțiale ale deșeurilor încă de la început.

„În loc să se bazeze pe centre de date mari, centralizate, infrastructura noastră „Edge” dispersează sarcinile de calcul către noduri mai apropiate de sursa de date, ceea ce reduce drastic sarcina de energie pentru transferul de date și scade latența.” spuse Rydon. „Rețeaua Aethir Edge minimizează nevoia de răcire constantă de mare putere, deoarece sarcinile de lucru sunt distribuite în diferite medii, mai degrabă decât concentrate într-o singură locație, ajutând la evitarea sistemelor de răcire consumatoare de energie, tipice centrelor de date centrale.”

La fel, companiile inclusiv Amazon și Google experimentează cu surse de energie regenerabilă pentru a gestiona nevoile tot mai mari de energie în centrele lor de date. Microsoft, de exemplu, investește masiv în surse de energie regenerabilă și în tehnologii de creștere a eficienței pentru a reduce consumul de energie al centrului său de date. De asemenea, Google a luat măsuri pentru a trece la energia fără carbon și a explora sisteme de răcire care reduc la minimum utilizarea energiei în centrele de date. „Energia nucleară este probabil cea mai rapidă cale către centre de date fără carbon. Furnizorii majori de centre de date precum Microsoft, Amazon și Google sunt acum investind puternic în acest tip de generare de energie pentru viitor. Cu reactoare modulare mici (SMR), flexibilitatea și timpul până la producție fac din aceasta o opțiune și mai viabilă pentru a atinge zero net.” adăugat Chappell de la AVEVA.

Pot coexista AI și sustenabilitatea centrului de date?

Ugur Tigli, CTO la platforma de infrastructură AI MinIO, afirmă că, deși sperăm la un viitor în care inteligența artificială poate avansa fără o creștere uriașă a consumului de energie, acest lucru pur și simplu nu este realist pe termen scurt. „Efectele pe termen lung sunt mai dificil de prezis”, mi-a spus, „dar vom vedea o schimbare în forța de muncă, iar AI va ajuta la îmbunătățirea consumului de energie în general.” Tigli crede că, pe măsură ce eficiența energetică devine o prioritate a pieței, vom vedea o creștere în calcul alături de scăderi ale consumului de energie în alte sectoare, mai ales pe măsură ce acestea devin mai eficiente.

De asemenea, el a subliniat că există un interes tot mai mare în rândul consumatorilor pentru soluții de inteligență artificială mai ecologice. „Imaginați-vă o aplicație AI care funcționează cu o eficiență de 90%, dar care utilizează doar jumătate din putere – acesta este genul de inovație care ar putea declanșa cu adevărat.” „a adăugat el. Este clar că viitorul inteligenței artificiale nu înseamnă doar inovație, ci și sustenabilitate a centrelor de date. Fie că este vorba de dezvoltarea de hardware mai eficient sau de modalități mai inteligente de utilizare a resurselor, modul în care gestionăm consumul de energie al inteligenței artificiale va influența foarte mult designul și funcționarea centrelor de date.”

Rydon a subliniat importanța inițiativelor la nivel de industrie care se concentrează pe design durabil de centre de date, sarcini de lucru AI eficiente din punct de vedere energetic și partajarea deschisă a resurselor. „Aceștia sunt pași cruciali către operațiuni mai ecologice”, a spus el. „Afacerile care folosesc inteligența artificială ar trebui să colaboreze cu companii de tehnologie pentru a crea soluții care să reducă impactul asupra mediului. Lucrând împreună, putem îndrepta AI către un viitor mai durabil.”