Vượt ra ngoài GPU: Tối ưu hóa nhà máy AI như một hệ thống

Nhà máy AI không phải là một trung tâm dữ liệu lớn hơn. Nhà máy này được xây dựng chuyên biệt để sản xuất token thông minh, chứ không phải để phục vụ trang web và email. Khi một nhà cung cấp dịch vụ đám mây quy mô siêu lớn hoặc nhà cung cấp đám mây thế hệ mới đầu tư hàng tỷ đô la và nhiều năm xây dựng nhà máy AI, GPU đảm nhận phần lớn khối lượng tính toán đương nhiên trở thành ưu tiên. Nhưng chỉ tối ưu hóa GPU thì không thể tối ưu hóa toàn bộ nhà máy xung quanh nó. Các hệ thống điện và quản lý nhiệt phải đáp ứng nhu cầu tính toán đó, và những quyết định trong một hệ thống có thể gây ảnh hưởng đáng kể đến các hệ thống khác. AI được tạo ra để tối ưu hóa các hệ thống phức tạp, vậy mà các nhà máy xây dựng nên AI thường chỉ được tối ưu hóa từng bộ phận một. Công nghệ bản sao ảo cho phép các kỹ sư xây dựng và tinh giản toàn bộ hệ thống, ngay cả trước khi khởi công.

Vì sao thiết kế thận trọng trở thành lựa chọn an toàn nhất

Do hậu quả tiềm tàng của sự cố hệ thống hoặc nút thắt hiệu năng có thể rất nghiêm trọng, các cơ sở đời đầu được xây dựng với biên độ an toàn quá lớn và phần cứng dư thừa. Khi chưa có lộ trình cho thế hệ trung tâm dữ liệu mới này, thận trọng trong xây dựng có thể được xem là cách tiếp cận an toàn nhất. Những biên độ này giúp bảo vệ hệ thống trước các vấn đề như nhiệt độ tăng đột biến gần các chip, vốn có thể khiến người vận hành chỉ còn vỏn vẹn một phút để ứng phó trước khi phần cứng hỏng. Tại một số cơ sở đời đầu, có tới 10 phần trăm công suất khả dụng bị để không như một khoản dự phòng không được sử dụng.

Các nhà máy AI phải đối mặt với nhiệt độ, thời tiết, sự cố thiết bị, công suất không đủ, thiếu sót trong thiết kế và vấn đề bảo trì. Với mức độ rủi ro cao như vậy, ở quy mô gigawatt, mỗi ngày công suất bị chậm đưa vào sử dụng có thể đồng nghĩa với doanh thu tạo token bị thất thoát khoảng 100 triệu USD. Khi không có cách nào dự đoán được hậu quả của những vấn đề đó, thận trọng dường như là điều cần thiết.

Thách thức càng lớn hơn khi những rủi ro này trải rộng trên nhiều hệ thống độc lập. Nhà máy AI phụ thuộc vào ba hệ thống gắn kết chặt chẽ với nhau: tính toán, cấp điện và quản lý nhiệt. GPU cần một chuỗi cấp điện phức tạp để hoạt động, đồng thời cần một hệ thống nhiệt không kém phần đòi hỏi để tản lượng nhiệt mà nó tạo ra. Khi tính toán, cấp điện và quản lý nhiệt được xem là những công đoạn riêng biệt, mỗi công đoạn được tối ưu hóa trong lĩnh vực của mình, các nhóm có thể không nhận ra quyết định trong một hệ thống ảnh hưởng thế nào đến những hệ thống khác. Điều này tạo ra những điểm mù và tình trạng mất cân đối, đặc biệt khi cấp điện và làm mát bị xem là yêu cầu hạ tầng chỉ cần giải quyết sau khi đã đưa ra các quyết định về tính toán.

Cấp điện và làm mát không thể tách rời khỏi tính toán. Chúng là một phần của hệ thống quyết định hiệu quả vận hành của năng lực tính toán. Vì vậy, cần chuyển từ tối ưu hóa từng hệ thống riêng lẻ sang tối ưu hóa toàn bộ nhà máy.

Lý do cần đồng tối ưu hóa

Để khắc phục vấn đề này, cần chuyển từ tối ưu hóa từng hệ thống độc lập sang đồng tối ưu hóa toàn bộ nhà máy. Việc xây dựng trong thế giới thực buộc các quyết định phải được đưa ra tuần tự: thiết kế một hệ thống, rồi xây dựng hệ thống khác xoay quanh nó, sau đó bổ sung thêm hệ thống để hỗ trợ. Điều đó khiến việc tối ưu hóa toàn nhà máy trở nên khó khăn, bởi mỗi quyết định đều thu hẹp các phương án khả dụng cho những hệ thống được triển khai tiếp theo. Đồng tối ưu hóa đòi hỏi phải chuyển quy trình này sang môi trường ảo, nơi có thể mô hình hóa, điều chỉnh và đánh giá toàn bộ hệ thống trước khi bất cứ điều gì được cố định trên thực tế, qua đó tạo ra một bản thiết kế động.

Mô hình hóa nhà máy trước khi nhà máy tồn tại

Đây là lúc công nghệ bản sao ảo ở cấp độ hệ thống trở nên thiết yếu.

Bản sao ảo sử dụng phương pháp mô hình hóa hệ thống hình thức để thể hiện đồng thời hạ tầng tính toán, cấp điện và quản lý nhiệt, đồng thời có thể mô hình hóa nhà máy AI trước khi nhà máy được xây dựng trên thực tế. Khác với bản sao số truyền thống tập trung vào một tài sản vật lý hiện hữu, bản sao ảo có thể mô hình hóa một hệ thống trước khi hệ thống đó tồn tại trên thực tế. Công nghệ này cho phép các kỹ sư thử nghiệm nhiều cấu hình khác nhau và tìm hiểu cách thay đổi ở một phần của hệ thống ảnh hưởng đến những phần còn lại ra sao, trước khi các lựa chọn đó trở thành cam kết triển khai trong thực tế.

Chẳng hạn, tăng mật độ GPU không đơn thuần có nghĩa là bổ sung thêm năng lực tính toán. Việc này có thể làm tăng tải điện, thay đổi yêu cầu thải nhiệt, ảnh hưởng đến vị trí lắp đặt thiết bị và phát sinh những yếu tố mới cần cân nhắc khi chạy thử và đưa vào vận hành. Mô hình hóa đồng thời các mối quan hệ đó giúp kỹ sư đánh giá những đánh đổi trước khi khởi công, thay vì chỉ phát hiện ra chúng khi dự án đang được triển khai.

Công nghệ bản sao ảo cho phép các kỹ sư mắc một sai lầm tốn kém trong môi trường ảo trước khi sai lầm đó trở nên tốn kém trong thế giới thực. Công nghệ này giúp xác định các vấn đề và cơ hội tiềm ẩn trong môi trường ảo, để các nhóm có thể giải quyết vấn đề trước khi chúng xuất hiện trong thực tế. Thử nghiệm các cấu hình trước khi chạy thử và đưa hệ thống vào vận hành thực tế cũng giúp phát hiện và loại bỏ ngay từ giai đoạn thiết kế những biên độ thiết kế không cần thiết, công suất điện bị bỏ phí và phần lãng phí do biên độ an toàn dư thừa. Ở quy mô lớn, ngay cả những mức cắt giảm nhỏ cũng có thể giúp tiết kiệm hàng triệu đô la vốn đầu tư và sớm tạo ra doanh thu hơn.

 Biến mô hình thành công cụ dự báo

Mô hình cũng có thể sử dụng mô phỏng dựa trên các quy luật vật lý để dự đoán hành vi của hệ thống. Khi các quy luật vật lý hoặc hóa học nền tảng đã được hiểu rõ, các công cụ mô phỏng có thể dự đoán hành vi của hệ thống. Khi dữ liệu vận hành dồi dào cho phép áp dụng một phương pháp hiệu quả hơn, các mô hình AI và học máy có thể bổ trợ cho những mô phỏng đó.

Kết quả là một môi trường để tìm hiểu cách các thành phần liên kết trong hệ thống vận hành và điều phối các quyết định giữa những lĩnh vực kỹ thuật. Mô hình cũng có thể phát triển khi dữ liệu vận hành được cung cấp, nhờ đó những bài học từ một cơ sở hoặc một chu kỳ vận hành có thể định hướng các thiết kế và quyết định trong tương lai.

Bản thiết kế cho nhà máy AI

Ngành công nghiệp đã bắt đầu xây dựng nền tảng cho cách tiếp cận này. Bản thiết kế DSX của NVIDIA đang hệ thống hóa một thiết kế tham chiếu cho các nhà máy AI quy mô gigawatt. NVIDIA đã bắt đầu hệ thống hóa phần tính toán của bản thiết kế bằng phương pháp mô hình hóa hệ thống và mô phỏng bản sao ảo, đồng thời mời các đối tác trong hệ sinh thái thuộc các lĩnh vực điện năng, làm mát và xây dựng, trong đó có Eaton, Vertiv và Jacobs, đóng góp phần thiết kế của riêng họ. Khả năng tương tác giữa các thiết kế tham chiếu được hỗ trợ bằng SysML vốn cho phép định nghĩa ở cấp hệ thống; còn OpenUSD cung cấp nền tảng cho dữ liệu lấy mô hình 3D làm trọng tâm.

Mục tiêu không phải là để mỗi công ty tối ưu hóa bộ phận của mình rồi kỳ vọng các bộ phận đó sẽ tự ăn khớp với nhau. Cần kết hợp chuyên môn về tính toán, điện năng, làm mát và cơ sở hạ tầng để mỗi công nghệ hàng đầu trong lĩnh vực của mình đều góp phần nâng cao hiệu suất của toàn hệ thống.

Mỗi ngành có thể tối ưu hóa trong lĩnh vực riêng, nhưng để tạo ra một sản phẩm hoàn chỉnh mạnh mẽ, cần tối ưu hóa các hệ thống đó cùng nhau. Khi cách tiếp cận này ngày càng hoàn thiện, nó cũng giúp hạ tầng AI vượt khỏi các dự án thí điểm đơn lẻ, biệt lập để tiến tới các hệ thống quy mô doanh nghiệp có khả năng quản lý những môi trường vận hành hết sức phức tạp.

Tối ưu hóa toàn bộ nhà máy, không chỉ riêng GPU

GPU sẽ tiếp tục đóng vai trò trung tâm đối với hiệu suất của nhà máy AI. Tuy nhiên, chỉ mua những GPU tốt nhất không đồng nghĩa với việc tối ưu hóa nhà máy xung quanh chúng. Thế hệ hạ tầng AI tiếp theo sẽ phụ thuộc vào việc thiết kế các hệ thống tính toán, điện năng và nhiệt như một hệ thống tích hợp, mô hình hóa những mối quan hệ đó trước khi đưa ra các cam kết triển khai vật lý lớn, đồng thời liên tục vận dụng những gì hệ thống học được để cải thiện các bước tiếp theo. Chúng ta không thể dự đoán tương lai hay ngăn chặn mọi sai lầm, nhưng công nghệ bản sao ảo có thể giúp các nhóm lập kế hoạch trước những điều không chắc chắn và tối ưu hóa nhà máy AI như một hệ thống.