Hợp tác

Nexalus và RENDA ra mắt máy chủ AI Nova8 làm mát bằng chất lỏng để nâng cấp trung tâm dữ liệu hiện hữu

Nexalus và RENDA giới thiệu Nova8, máy chủ AI làm mát bằng chất lỏng khép kín được thiết kế cho các trung tâm dữ liệu hiện có, với những tuyên bố về hiệu năng cần được kiểm chứng bằng thử nghiệm ở cấp độ khối lượng công việc.

Theo Nash
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Official overhead product photograph of the RENDA Nova8 server showing its integrated cooling system
Điểm chínhNova8 hướng đến tính thực tiễn của việc trang bị thêm bằng cách lắp đặt làm mát bằng…
Xem thêm
  • Nova8 hướng đến tính thực tiễn của việc trang bị thêm bằng cách lắp đặt làm mát bằng chất lỏng vào các giá đỡ tiêu chuẩn mà không cần đường ống cấp tòa nhà.
  • Nexalus tuyên bố thông lượng AI cao hơn tới 20% so với các hệ thống làm mát bằng không khí tương đương nhưng các con số vẫn chưa được xác minh.
  • Người mua nên xác thực thông lượng dựa trên khối lượng công việc của chính họ thay vì chỉ tin vào các thông số kỹ thuật đánh giá.

Nexalus và RENDA đã ra mắt RENDA Nova8, máy chủ AI làm mát bằng chất lỏng dành cho các tổ chức muốn tăng năng lực tính toán mà không phải xây dựng lại hệ thống làm mát quanh các tủ máy chủ. Được công bố ngày 17 tháng 11, hệ thống này hướng đến một câu hỏi ngày càng thiết thực trong quá trình triển khai AI: một cơ sở hiện có có thể hỗ trợ mức hiệu năng hữu ích đến đâu?

Các công ty mô tả Nova8 là một hệ thống khép kín, được thiết kế để triển khai tại các trung tâm dữ liệu hiện có vốn sử dụng phương pháp làm mát bằng không khí. Trong thông cáo do ICR phát hành, Nexalus cho biết hệ thống có thể mang lại thông lượng AI cao hơn tới 20% và hiệu quả năng lượng tốt hơn tới 22% so với các hệ thống làm mát bằng không khí tương đương. Đây là những tuyên bố của công ty, chưa được xác minh độc lập và không nên được hiểu là mức cải thiện được đảm bảo cho mọi khối lượng công việc.

Cách tiếp cận nâng cấp hạ tầng AI

Theo thông báo ra mắt, Nova8 tích hợp tám GPU NVIDIA RTX PRO 6000 Blackwell trong khung máy 4U, vừa với tủ rack tiêu chuẩn rộng 19 inch. Mỗi GPU được thiết kế để hoạt động ở mức công suất tối đa 600 watt. Hệ thống làm mát không yêu cầu đơn vị vận hành lắp thêm đường ống dẫn chất lỏng trong tòa nhà.

Thiết kế này sử dụng công nghệ làm mát bằng tia phun va đập của Nexalus cho GPU và CPU. Thay vì chỉ dựa vào chất làm mát lưu thông dọc theo các kênh, hệ thống hướng các tia phun vào một tấm nằm phía trên những phần nóng nhất của chip. Hai đối tác cho biết họ cùng phát triển các thành phần tính toán và tản nhiệt, xem việc làm mát là một phần của kiến trúc máy chủ chứ không phải phụ kiện đi kèm.

Đối với bên mua hạ tầng, sự khác biệt này rất quan trọng vì mua bộ tăng tốc và có thể vận hành chúng hiệu quả là hai quyết định riêng biệt. Một máy chủ vừa khít với tủ rack hiện có vẫn phải đáp ứng các yêu cầu tại cơ sở về điện, nhiệt, kết nối mạng và dịch vụ. Vòng làm mát khép kín có thể giúp đơn giản hóa một phần quá trình đánh giá, nhưng không loại bỏ nhu cầu rà soát cơ sở hạ tầng.

Những tuyên bố về hiệu năng cho thấy gì và không cho thấy gì

Thông cáo ra mắt cho biết các thử nghiệm nội bộ với Llama 3.3 đạt 55.000 token mỗi giây và hiệu suất 8,6 token trên mỗi watt. Thông cáo cũng mô tả hệ thống làm mát dự phòng gồm 10 máy bơm và 16 quạt. Những thông số này giúp khách hàng tiềm năng có cơ sở cụ thể để tìm hiểu, chứ không thể thay thế việc thử nghiệm các ứng dụng của chính họ.

Chỉ riêng con số thông lượng không thể cho biết trải nghiệm mà một ứng dụng trong môi trường sản xuất sẽ mang lại. Người mua nên hỏi cấu hình mô hình, độ chính xác, độ dài đầu vào, độ dài đầu ra, mức độ đồng thời và phần mềm phục vụ nào đã được sử dụng. Họ cũng nên xác định liệu phép đo điện năng được báo cáo bao gồm toàn bộ máy chủ, một nhóm thành phần hay phạm vi hạ tầng rộng hơn. So sánh các phép đo có phạm vi khác nhau có thể khiến một tỷ lệ hiệu suất tưởng như đơn giản trở nên dễ gây hiểu lầm.

Cách đánh giá hữu ích nhất là xem xét thông lượng cùng với các mục tiêu về độ trễ. Một tổ chức xử lý yêu cầu tương tác có thể coi trọng thời gian phản hồi ổn định khác với một tổ chức chạy các lô lớn qua đêm. Cả hai đều có thể sử dụng cùng một phần cứng nhưng đưa ra kết luận khác nhau về chi phí và năng lực. Đây là một khuôn khổ đánh giá, không phải bằng chứng cho thấy Nova8 không đáp ứng hoặc đã đáp ứng một trong hai yêu cầu đó.

Thử nghiệm hệ thống với khối lượng công việc thực tế

Các công ty đang cung cấp quyền truy cập từ xa thông qua chương trình Test Drive cho những khách hàng tiềm năng đáp ứng điều kiện, đồng thời cung cấp dịch vụ hỗ trợ sau bán hàng trên toàn cầu thông qua UNICOM Engineering. Nhờ đó, các tổ chức quan tâm có thể tìm hiểu sản phẩm trước khi đưa ra giả định chỉ dựa trên những thông số đã công bố.

Để thử nghiệm có ý nghĩa, đơn vị vận hành có thể tái tạo một khối lượng công việc đại diện, giữ nguyên các thiết lập phần mềm và so sánh kết quả với hệ thống đang triển khai. Ghi lại đồng thời mức tiêu thụ điện năng, độ trễ, thông lượng và khả năng vận hành liên tục sẽ giúp phân biệt một cải tiến hạ tầng hữu ích với lợi thế trong bài kiểm tra chuẩn không chuyển hóa thành hiệu quả trong ứng dụng dự kiến.

Khả năng bảo trì, sửa chữa cũng cần được quan tâm. Đơn vị vận hành đánh giá hệ thống làm mát bằng chất lỏng nên tìm hiểu cách thay thế linh kiện, cách phát hiện sự cố, những công việc bảo trì nào đội ngũ của họ có thể tự thực hiện và cách các thỏa thuận hỗ trợ đáp ứng yêu cầu về thời gian hoạt động liên tục. Những chi tiết này đặc biệt quan trọng khi sản phẩm được định vị là giải pháp nâng cấp cho hạ tầng hiện có, thay vì thiết kế dành cho một cơ sở mới.

Vì vậy, đề xuất của Nova8 không chỉ là đưa thêm GPU vào tủ rack. Đây là nỗ lực giúp các tổ chức có thể sử dụng năng lực tính toán AI làm mát bằng chất lỏng trong hạ tầng mà họ đang vận hành. Việc giải pháp này có mang lại lợi thế như quảng bá hay không sẽ phụ thuộc vào khối lượng công việc của khách hàng và quá trình xác thực tại từng cơ sở; tuy nhiên, sự thiết thực khi nâng cấp hạ tầng hiện có là trọng tâm của quyết định mua hàng trong lần ra mắt này.

Theo Nash là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về hạ tầng AI, tính toán và các hệ thống phần cứng cung cấp năng lực cho trí tuệ nhân tạo hiện đại. Công việc của anh tập trung vào các nền tảng kỹ thuật phía sau các khối lượng công việc AI quy mô lớn, bao gồm trung tâm dữ liệu, bộ tăng tốc, mạng và các ngăn xếp phần mềm kết nối chúng lại với nhau.

Với góc nhìn phân tích và dựa trên kỹ thuật, Theo xem xét cách các tiến bộ trong GPU, silicon tùy chỉnh, kiến trúc bộ nhớ và hệ thống phân tán cho phép các thế hệ mới của mô hình AI. Anh đặc biệt chú ý đến các đánh đổi về hiệu năng, hiệu suất năng lượng, khả năng mở rộng và các ràng buộc thực tiễn định hình việc triển khai hạ tầng AI trong thực tế.

Các bài viết do Theo Nash viết được tạo ra bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác kỹ thuật, sự rõ ràng và việc đưa tin có trách nhiệm về môi trường tính toán AI đang phát triển nhanh chóng.