DG Matrix và InfraPartners Hợp tác Phát triển Nền tảng Cơ sở Hạ tầng Trí tuệ Nhân tạo để Giải quyết Bottleneck Công suất

Khi nhu cầu về cơ sở hạ tầng trí tuệ nhân tạo tăng tốc trên toàn thế giới, một trong những hạn chế lớn nhất của ngành không còn là việc tiếp cận GPU alone, mà là khả năng cung cấp đủ công suất và cơ sở hạ tầng vật lý nhanh chóng để hỗ trợ các công việc trí tuệ nhân tạo thế hệ tiếp theo. Trước bối cảnh này, DG Matrix và InfraPartners đã thông báo về một quan hệ đối tác tập trung vào việc xây dựng một nền tảng tích hợp nhằm tăng tốc triển khai các trung tâm dữ liệu sẵn sàng cho trí tuệ nhân tạo và “nhà máy trí tuệ nhân tạo”.

Sự hợp tác này kết hợp kiến trúc điện Interport 360 của DG Matrix với nền tảng trung tâm dữ liệu trí tuệ nhân tạo RapidNode được thiết kế trước của InfraPartners. Cùng nhau, các công ty cho biết họ đang tạo ra một mô hình cơ sở hạ tầng “từ lưới đến giá đỡ” thống nhất nhằm giảm thời gian triển khai trong khi chuẩn bị các cơ sở cho các thế hệ phần cứng trí tuệ nhân tạo trong tương lai.

Sự Phát triển của Trí tuệ Nhân tạo Đang Tăng Áp lực lên Cơ sở Hạ tầng Điện

Quan hệ đối tác này xuất hiện tại thời điểm khi các nhà cung cấp dịch vụ điện toán đám mây, nhà cung cấp dịch vụ điện toán đám mây và các nhà điều hành cơ sở hạ tầng trí tuệ nhân tạo đang phải đối mặt với sự chậm trễ ngày càng tăng liên quan đến việc kết nối lưới và thời gian xây dựng trung tâm dữ liệu truyền thống. Theo bài báo trắng của các công ty, hàng đợi kết nối lưới ở một số thị trường có thể kéo dài hàng năm, trong khi các dự án trung tâm dữ liệu truyền thống có thể yêu cầu từ hai đến三年 để xây dựng sau khi đã có điện.

Điều đó trở nên ngày càng quan trọng khi các cụm đào tạo trí tuệ nhân tạo tiếp tục tăng mật độ và tiêu thụ điện năng. Giám đốc điều hành NVIDIA (NVDA ) Jensen Huang đã từng cảnh báo rằng các trung tâm dữ liệu trong tương lai sẽ trở nên cơ bản bị giới hạn bởi điện, với sự sẵn có của cơ sở hạ tầng trực tiếp ảnh hưởng đến việc tạo doanh thu.

Các công ty cho rằng việc giải quyết thách thức này đòi hỏi sự tích hợp chặt chẽ hơn giữa cơ sở hạ tầng tính toán và hệ thống năng lượng, chứ không phải là đối xử với chúng như các lớp riêng biệt.

Kết hợp Nhà máy Trí tuệ Nhân tạo được Thiết kế Trước với Điện được Định nghĩa bởi Phần mềm

InfraPartners đã tập trung kinh doanh của mình vào các trung tâm dữ liệu trí tuệ nhân tạo được thiết kế trước, có thể nâng cấp, được thiết kế đặc biệt cho các công việc đòi hỏi GPU. Hệ thống RapidNode của công ty sử dụng một thiết kế tham chiếu tiêu chuẩn hóa, trong đó phần lớn cơ sở hạ tầng được xây dựng tại nhà máy trước khi triển khai. Theo bài báo trắng, khoảng 80% hệ thống được sản xuất và tích hợp ngoài trang web trước khi đến địa điểm triển khai.

Ý tưởng rộng lớn hơn đằng sau cơ sở hạ tầng trí tuệ nhân tạo được thiết kế trước là giảm thiểu sự chậm trễ dài và biến đổi kỹ thuật liên quan đến các cơ sở được xây dựng tại hiện trường. InfraPartners mô tả cách tiếp cận của mình là cho phép các trung tâm dữ liệu có thể mở rộng, có thể nâng cấp, được thiết kế xung quanh các kiến trúc GPU tiến hóa và mật độ giá đỡ cao hơn.

DG Matrix đóng góp phần cơ sở hạ tầng năng lượng của phương trình thông qua nền tảng Interport của mình, một kiến trúc biến áp trạng thái rắn được thiết kế để quản lý nhiều đầu vào và đầu ra điện năng đồng thời. Công ty mô tả Interport như một vải điện có thể cấu hình bằng phần mềm, có khả năng tích hợp các nguồn điện AC và DC, pin, máy phát điện, năng lượng tái tạo và các công việc trí tuệ nhân tạo trong một hệ thống thống nhất.

Nền tảng này cũng được thiết kế xung quanh các kiến trúc 800-VDC mới nổi, mà nhiều người trong ngành dự đoán các trung tâm dữ liệu trí tuệ nhân tạo trong tương lai sẽ áp dụng. Bài báo trắng cho biết Interport 360 được thiết kế cho cả mô hình phân phối AC và DC, cho phép các nhà điều hành cơ sở hạ tầng chuyển đổi sang các kiến trúc điện mới mà không cần thay thế hoàn toàn các hệ thống hiện có.

Chuyển đổi sang “Nhà máy Trí tuệ Nhân tạo” Thay vì Trung tâm Dữ liệu Truyền thống

Một chủ đề lặp lại trong toàn bộ thông báo quan hệ đối tác là ý tưởng rằng cơ sở hạ tầng trí tuệ nhân tạo đang tiến hóa khỏi các mô hình trung tâm dữ liệu truyền thống và chuyển sang các “nhà máy trí tuệ nhân tạo” chuyên dụng.

Không giống như các trung tâm dữ liệu doanh nghiệp truyền thống, các nhà máy trí tuệ nhân tạo phải quản lý các thế hệ GPU thay đổi nhanh chóng, tải nhiệt cao hơn, mật độ giá đỡ tăng và các yêu cầu điện năng thay đổi do các công việc đào tạo trí tuệ nhân tạo tạo ra. Bài báo trắng nhấn mạnh “quản lý tải điện trí tuệ nhân tạo” là một trong những khả năng cốt lõi của nền tảng, đề cập đến nhu cầu điện năng mạnh mẽ và biến đổi cao được tạo ra bởi các hệ thống đào tạo trí tuệ nhân tạo quy mô lớn.

Các công ty cho rằng kiến trúc tích hợp của họ được thiết kế để hấp thụ và ổn định các dao động điện năng này đồng thời hoạt động như một người tham gia lưới điện linh hoạt hơn. Điều đó bao gồm hỗ trợ cho các hệ thống năng lượng sau đồng hồ, chức năng cân bằng lưới và phần mềm tối ưu hóa năng lượng nhằm quản lý cả việc sử dụng điện toán và điện năng trong thời gian thực.

DG Matrix đã ngày càng định vị mình xung quanh sự chuyển đổi cơ sở hạ tầng rộng lớn hơn này. Công ty gần đây đã huy động được 60 triệu đô la trong vòng tài trợ Series A để mở rộng triển khai công nghệ biến áp trạng thái rắn của mình cho cơ sở hạ tầng trí tuệ nhân tạo và thị trường điện khí hóa.

Tiêu chuẩn Hóa Đang Trở thành Một Ưu tiên Chiến lược

Một trong những khía cạnh đáng chú ý nhất của quan hệ đối tác là sự nhấn mạnh vào tiêu chuẩn hóa và các mô hình triển khai có thể lặp lại. Các công ty mô tả nền tảng như một nền tảng có thể cấu hình bằng phần mềm cho nhiều khu vực địa lý, lớp điện áp, tần số và yêu cầu lưới mà không cần phải thiết kế lại hoàn toàn cho mỗi triển khai.

Cách tiếp cận này phản ánh một sự thay đổi rộng lớn hơn đang diễn ra trong toàn ngành cơ sở hạ tầng trí tuệ nhân tạo. Khi nhu cầu tăng tốc, các nhà điều hành đang ngày càng tìm kiếm cách công nghiệp hóa việc triển khai thay vì dựa vào các dự án tùy chỉnh cao cho từng cơ sở.

Bài báo trắng cũng lập luận rằng khả năng nâng cấp đang trở nên thiết yếu khi chu kỳ phần cứng trí tuệ nhân tạo trở nên ngắn hơn. Các cơ sở ban đầu được thiết kế cho mật độ giá đỡ thấp hơn hiện đang bị đẩy lên mật độ điện năng cao hơn đáng kể, buộc các nhà điều hành phải suy nghĩ lại về việc cơ sở hạ tầng có thể vẫn còn hiệu lực trong bao lâu mà không cần phải đại tu lớn.

InfraPartners đã nhấn mạnh công khai khái niệm này, mô tả cơ sở hạ tầng trí tuệ nhân tạo là điều gì đó phải tiến hóa liên tục cùng với sự thay đổi trong silic, làm mát và yêu cầu cung cấp điện.

Tương lai của Cơ sở Hạ tầng Trí tuệ Nhân tạo Có thể Phụ thuộc vào Linh hoạt về Điện

Quan hệ đối tác giữa DG Matrix và InfraPartners làm nổi bật một thực tế ngày càng tăng trong ngành trí tuệ nhân tạo: việc mở rộng quy mô trí tuệ nhân tạo đang trở thành một thách thức về năng lượng và cơ sở hạ tầng hơn là chỉ là một vấn đề về tính toán.

Khi các mô hình trí tuệ nhân tạo tiếp tục tăng về kích thước và triển khai mở rộng trên toàn cầu, lợi thế cạnh tranh trong tương lai có thể phụ thuộc vào việc các nhà điều hành có thể nhanh chóng bảo đảm điện, triển khai cơ sở hạ tầng và thích nghi với các yêu cầu phần cứng thay đổi nhanh chóng.

Các công ty tin rằng các hệ thống tích hợp kết hợp các nhà máy trí tuệ nhân tạo mô-đun, kiến trúc điện được định nghĩa bằng phần mềm và quản lý năng lượng linh hoạt có thể trở thành một phần cơ bản của các chiến lược triển khai trí tuệ nhân tạo thế hệ tiếp theo. Liệu mô hình đó có trở thành xu hướng chính hay không vẫn còn phải chờ xem, nhưng áp lực lên các tiện ích, lưới điện và thời gian xây dựng truyền thống đã buộc ngành phải suy nghĩ lại về cách cơ sở hạ tầng trí tuệ nhân tạo được xây dựng ngay từ đầu.