Máy gia tốc AI của Habana Labs sẽ được sử dụng trong siêu máy tính Voyager

Trung tâm Siêu máy tính San Diego (SDSC) tại UC San Diego đã chọn Phòng thí nghiệm Habana' đào tạo trí tuệ nhân tạo (AI) và máy gia tốc suy luận để cung cấp điện toán AI hiệu suất cao, hiệu suất cao trong Người đi du lịch bằng đường biển siêu máy tính. Habana Labs là nhà phát triển hàng đầu về máy gia tốc học sâu được xây dựng có mục đích.

Siêu máy tính du hành

Siêu máy tính Voyager sẽ mở rộng khả năng đào tạo AI với công nghệ kết nối độc đáo của Habana, cụ thể là 336 bộ xử lý Gaudi. Các bộ xử lý này đặc biệt tốt cho việc nhân rộng các ứng dụng đào tạo siêu máy tính lớn và Gaudi là bộ xử lý AI duy nhất trong ngành có thể tích hợp tự nhiên mười cổng Ethernet 100 Gigabit của RoCE v2 trên chip. Điều này cho phép linh hoạt trong việc mở rộng quy mô và giúp tránh tắc nghẽn thông lượng, vốn có thể hạn chế khả năng mở rộng quy mô. Bên cạnh đó, hệ thống Voyager còn chứa 16 bộ xử lý Habana Goya, được sử dụng để cung cấp năng lượng cho các mô hình suy luận AI. 

Amitava Majumdar là người đứng đầu bộ phận Dữ liệu cho phép Máy tính Khoa học của SDSC và là điều tra viên chính cho dự án Du hành. 

“Với các giải pháp sáng tạo được tối ưu hóa cho các hoạt động học sâu và khối lượng công việc AI, máy gia tốc Habana là lựa chọn lý tưởng để hỗ trợ nghiên cứu AI sắp tới của Voyager,” Majumdar cho biết. “Chúng tôi mong muốn được hợp tác với Habana, Intel và Supermicro để mang loại khả năng tính toán hiệu quả độc đáo này vào chương trình Du hành, giúp các nhà nghiên cứu hàn lâm tiếp cận một trong những hệ thống tập trung vào AI có khả năng nhất hiện nay.”

Hiệu suất và hiệu quả trong hoạt động AI được tăng lên nhờ chương trình đào tạo AI Habana Gaudi và bộ xử lý suy luận Goya. Đối với các nhà khoa học và nhà nghiên cứu dữ liệu có quyền truy cập vào Voyager, họ sẽ có thể tùy chỉnh các mô hình với lõi bộ xử lý Tensor và thư viện hạt nhân có thể lập trình. Họ cũng sẽ có thể dễ dàng triển khai bằng cách dựa vào nền tảng phần mềm SynapseAI của Habana. Nền tảng này hỗ trợ các khung máy học phổ biến và các mô hình AI cho các ứng dụng như thị giác, tự nhiên xử lý ngôn ngữ và các hệ thống gợi ý. 

Hệ thống AI do Supermicro cung cấp

Các hệ thống AI dựa trên Habana sẽ được cung cấp cho Du hành bởi Siêu mẫu, công ty hàng đầu thế giới về công nghệ điện toán doanh nghiệp, lưu trữ, kết nối mạng và điện toán xanh, đồng thời là đối tác công nghệ của Du hành. 

Các hệ thống bao gồm:

• Hệ thống đào tạo AI Supermicro X12 Gaudi – tám thẻ Gaudi HL-205 được kết hợp với bộ xử lý Intel Xeon Scalable thế hệ thứ 3 ổ cắm kép.
  
• Supermicro SuperServer 4029GP-T có tám thẻ Goya HL-100 PCLe dành cho suy luận AI, kết hợp với bộ xử lý Intel Xeon thế hệ thứ 2 có khả năng mở rộng ổ cắm kép. 

Ray Pang là phó chủ tịch phụ trách công nghệ và hỗ trợ kinh doanh tại Supermicro. 

"Việc kết hợp phần cứng máy chủ và lưu trữ tiên tiến, được tối ưu hóa cho ứng dụng của Supermicro với các sản phẩm đào tạo và suy luận AI của Habana là giải pháp tốt nhất cho dự án AI Voyager kéo dài nhiều năm của SDSC", Pang cho biết. "Chúng tôi tiếp tục hợp tác chặt chẽ với các nhà đổi mới hàng đầu để cung cấp các giải pháp cho các dự án tính toán chuyên sâu trên toàn thế giới tại các môi trường nghiên cứu và HPC hàng đầu cho các khám phá khoa học và y tế, tính toán và các giải pháp AI tiên tiến."

Eitan Medina là Giám đốc Kinh doanh tại Habana. 

Medina cho biết: “Chúng tôi rất vinh dự khi bộ xử lý AI của Habana đã được chọn để cung cấp năng lượng cho khối lượng công việc AI sẽ chạy trên siêu máy tính Du hành của Trung tâm siêu máy tính San Diego. “Việc triển khai các sản phẩm Gaudi và Goya của chúng tôi cho thấy cách các tổ chức học thuật hàng đầu như SDSC có thể khai thác hiệu quả và hiệu suất để giải quyết hiệu quả nhu cầu ngày càng tăng của khối lượng công việc nghiên cứu AI.”

Hệ thống sẽ ở trong Giai đoạn thử nghiệm trong ba năm đầu hoạt động và SDSC sẽ làm việc với các nhóm nghiên cứu từ thiên văn học, khoa học khí hậu, hóa học, vật lý hạt và các lĩnh vực khác. Trong giai đoạn thử nghiệm này, SDSC sẽ hợp tác với cộng đồng nghiên cứu AI và ghi lại các quy trình có thể được sử dụng làm tài nguyên trong tương lai. 

Trish Damkroger là phó chủ tịch kiêm tổng giám đốc nhóm Máy tính hiệu suất cao của Intel.

Damkroger cho biết: “Mức hiệu suất và hiệu suất mà Voyager sẽ yêu cầu chính xác là những gì mà kiến ​​trúc Intel được thiết kế cho. “Bộ xử lý Xeon Scalable của chúng tôi kết hợp với bộ tăng tốc Habana AI sẽ đảm bảo người dùng của Voyager có khả năng HPC và AI mà họ cần để cung cấp năng lượng cho nghiên cứu thay đổi cuộc chơi của họ.”