Partnerstwa

Nexalus i RENDA wprowadzają Nova8 — chłodzony cieczą serwer AI do modernizacji centrów danych

Nexalus i RENDA przedstawiają Nova8 — samodzielny, chłodzony cieczą serwer AI przeznaczony do istniejących centrów danych, którego deklarowane parametry wymagają weryfikacji w testach z rzeczywistymi obciążeniami.

Theo Nash
Dodaj Unite.AI do preferowanych źródeł w Google
Official overhead product photograph of the RENDA Nova8 server showing its integrated cooling system
Kluczowe punktyNova8 koncentruje się na praktyczności modernizacji, dopasowując chłodzenie cieczą do…
Zobacz więcej
  • Nova8 koncentruje się na praktyczności modernizacji, dopasowując chłodzenie cieczą do standardowych szaf bez instalacji rurociągów na poziomie budynku.
  • Nexalus twierdzi, że osiąga do 20% większą przepustowość AI niż porównywalne systemy chłodzone powietrzem, ale liczby te pozostają niezweryfikowane.
  • Kupujący powinni weryfikować przepustowość na podstawie własnych obciążeń, zamiast polegać wyłącznie na specyfikacjach benchmarków.

Nexalus i RENDA wprowadziły na rynek RENDA Nova8 — chłodzony cieczą serwer AI dla organizacji, które chcą zwiększyć moc obliczeniową bez przebudowy infrastruktury chłodzącej wokół szaf rackowych. System zapowiedziano 17 listopada. Odpowiada on na coraz bardziej praktyczne pytanie związane z wdrażaniem AI: jaką użyteczną wydajność może zapewnić istniejący obiekt?

Firmy opisują Nova8 jako samodzielny system przeznaczony do wdrażania w istniejących centrach danych chłodzonych powietrzem. W komunikacie rozpowszechnionym przez ICR Nexalus twierdzi, że system może zapewnić do 20% większą przepustowość obliczeń AI i do 22% wyższą efektywność energetyczną niż porównywalne systemy chłodzone powietrzem. Są to deklaracje firmy, a nie wyniki niezależnie zweryfikowanych badań, i nie należy traktować ich jako gwarancji poprawy osiągów w przypadku każdego obciążenia.

Modernizacja infrastruktury AI

Zgodnie z zapowiedzią premiery, Nova8 mieści osiem procesorów graficznych NVIDIA RTX PRO 6000 Blackwell w obudowie 4U, pasującej do standardowej, 19-calowej szafy rackowej. Każdy procesor graficzny zaprojektowano tak, aby działał z pełną mocą 600 W. System chłodzenia nie wymaga od operatorów doprowadzenia instalacji cieczy chłodzącej do budynku.

W konstrukcji zastosowano opracowane przez Nexalus chłodzenie procesorów graficznych i procesora CPU przez uderzenie strumieni cieczy. Zamiast polegać wyłącznie na przepływie chłodziwa kanałami, system kieruje strumienie na płytkę umieszczoną nad najgorętszymi częściami układu. Partnerzy twierdzą, że wspólnie opracowali komponenty obliczeniowe i termiczne, traktując chłodzenie jako część architektury serwera, a nie dodatkowe wyposażenie.

Dla nabywcy infrastruktury to rozróżnienie ma znaczenie, ponieważ zakup akceleratorów i możliwość ich efektywnego wykorzystania to odrębne decyzje. Serwer, który fizycznie mieści się w istniejącej szafie rackowej, nadal musi spełniać wymagania obiektu dotyczące zasilania, warunków termicznych, sieci i serwisu. Samodzielny obieg chłodzenia może uprościć jeden z elementów tej oceny, ale nie eliminuje potrzeby sprawdzenia infrastruktury obiektu.

Co pokazują deklaracje dotyczące wydajności, a czego nie dowodzą

W komunikacie o premierze podano wyniki wewnętrznych testów modelu Llama 3.3: 55 000 tokenów na sekundę oraz efektywność na poziomie 8,6 tokena na wat. Opisano w nim również redundantny układ chłodzenia złożony z 10 pomp i 16 wentylatorów. Te parametry dają potencjalnym klientom konkretne kwestie do sprawdzenia, ale nie zastępują testów ich własnych aplikacji.

Sama wartość przepustowości nie pozwala określić, jak aplikacja produkcyjna będzie działać w praktyce. Nabywcy powinni zapytać, jakiej konfiguracji modelu, precyzji, długości wejścia i wyjścia, współbieżności oraz oprogramowania do obsługi użyto. Powinni też ustalić, czy podany pomiar mocy obejmuje cały serwer, wybrane komponenty czy szerszy zakres infrastruktury. Porównywanie pomiarów obejmujących różne zakresy może sprawić, że pozornie prosty wskaźnik efektywności procentowej będzie mylący.

Najbardziej użyteczna ocena obejmowałaby zestawienie przepustowości z docelowymi wartościami opóźnienia. Organizacja obsługująca interaktywne zapytania może inaczej cenić przewidywalny czas odpowiedzi niż organizacja przetwarzająca nocą duże partie danych. Obie mogą korzystać z tego samego sprzętu, a mimo to odmiennie ocenić koszty i wydajność. To ramy oceny, a nie dowód, że Nova8 spełnia lub nie spełnia któregokolwiek z tych wymagań.

Testowanie systemu w rzeczywistych warunkach

Firmy oferują zakwalifikowanym potencjalnym klientom zdalny dostęp do systemu w ramach programu Test Drive, a także globalne wsparcie posprzedażowe świadczone przez UNICOM Engineering. Dzięki temu zainteresowane organizacje mogą sprawdzić produkt, zanim wyciągną wnioski wyłącznie na podstawie ogłoszonych parametrów.

Aby próba była miarodajna, operator mógłby odtworzyć reprezentatywne obciążenie, utrzymać stałe ustawienia oprogramowania i porównać wyniki z rezultatami uzyskiwanymi w obecnym środowisku. Jednoczesne rejestrowanie poboru mocy, opóźnienia, przepustowości i stabilności działania przy długotrwałym obciążeniu pomogłoby odróżnić użyteczne ulepszenie infrastruktury od przewagi w teście porównawczym, która nie przekłada się na działanie docelowej aplikacji.

Warto również zwrócić uwagę na łatwość serwisowania. Operatorzy oceniający system chłodzony cieczą powinni ustalić, jak wymienia się komponenty, w jaki sposób wykrywane są usterki, które czynności konserwacyjne mogą wykonywać ich własne zespoły oraz czy warunki wsparcia odpowiadają wymaganiom dotyczącym dostępności. Te kwestie są szczególnie istotne, gdy produkt jest przedstawiany jako rozwiązanie do modernizacji istniejącej infrastruktury, a nie projektowania nowego obiektu.

Oferta Nova8 wykracza więc poza umieszczenie większej liczby procesorów graficznych w szafie rackowej. To próba udostępnienia obliczeń AI z chłodzeniem cieczą w ramach infrastruktury, którą organizacje już obsługują. To, czy takie podejście zapewni deklarowaną przewagę, będzie zależało od obciążeń klientów i weryfikacji w konkretnych obiektach, ale premiera stawia praktyczność modernizacji w centrum decyzji zakupowej.

Theo Nash jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się infrastrukturą AI, obliczeniami oraz systemami sprzętowymi napędzającymi współczesną sztuczną inteligencję. Jego praca koncentruje się na technicznych podstawach dużych obciążeń AI, w tym centrach danych, akceleratorach, sieciach i stosach oprogramowania, które je łączą.

Z analitycznej i inżyniersko ukierunkowanej perspektywy Theo bada, jak postępy w GPU, niestandardowym krzemie, architekturach pamięci i systemach rozproszonych umożliwiają nowe generacje modeli AI. Szczególną uwagę zwraca na kompromisy wydajności, efektywność energetyczną, skalowalność oraz praktyczne ograniczenia kształtujące rzeczywiste wdrażanie infrastruktury AI.

Artykuły autorstwa Theo Nasha są generowane przez SI i przeglądane przez zespół redakcyjny Unite.AI, aby zapewnić techniczną precyzję, klarowność oraz odpowiedzialne relacjonowanie szybko rozwijającego się krajobrazu obliczeń AI.