Bảo Vệ Đầu Tư Của Bạn Vào Trí Tuệ Nhân Tạo: Tại Sao Chiến Lược Làm Mát Quan Trọng Hơn Bao Giờ Hết

Các nhà vận hành trung tâm dữ liệu đang đánh bạc hàng triệu đô la vào công nghệ làm mát lỗi thời. Cuộc trò chuyện xung quanh việc làm mát trung tâm dữ liệu không chỉ đang thay đổi – mà nó đang được định nghĩa lại hoàn toàn bởi kinh tế học của trí tuệ nhân tạo. Các ставка chưa bao giờ cao như vậy.

Sự tiến bộ nhanh chóng của trí tuệ nhân tạo đã biến đổi kinh tế trung tâm dữ liệu theo những cách mà ít người dự đoán. Khi một giá đỡ máy chủ trí tuệ nhân tạo có giá khoảng 3 triệu đô la – tương đương với giá một ngôi nhà sang trọng – thì tính toán rủi ro cơ bản thay đổi. Như Ben Horowitz, đồng sáng lập của Andreessen Horowitz, đã cảnh báo gần đây, các trung tâm dữ liệu tài trợ cho những khoản đầu tư phần cứng khổng lồ này “có thể trở nên quá nhanh” nếu họ không quản lý chiến lược cơ sở hạ tầng của mình một cách cẩn thận.

Thực tế mới này đòi hỏi phải suy nghĩ lại về các phương pháp làm mát. Trong khi các chỉ số truyền thống như PUE và chi phí vận hành vẫn quan trọng, chúng chỉ là thứ yếu so với việc bảo vệ những khoản đầu tư phần cứng trị giá hàng triệu đô la. Câu hỏi thực sự mà các nhà vận hành trung tâm dữ liệu nên đặt ra là: Làm thế nào để chúng tôi bảo vệ tốt nhất khoản đầu tư cơ sở hạ tầng trí tuệ nhân tạo của mình?

Nguy Cơ Ẩn Đằng Sau Sự Làm Mát Truyền Thống

Sự phụ thuộc lịch sử của ngành vào các giải pháp làm mát dựa trên nước, một pha, mang lại rủi ro không thể chấp nhận được trong kỷ nguyên trí tuệ nhân tạo. Mặc dù nó đã phục vụ trung tâm dữ liệu trong nhiều năm, nhưng nhu cầu nhiệt của các khối lượng công việc trí tuệ nhân tạo đã đẩy công nghệ này vượt quá giới hạn thực tế. Lý do đơn giản là vật lý: các hệ thống một pha yêu cầu lưu lượng cao hơn để quản lý tải nhiệt ngày nay, làm tăng nguy cơ rò rỉ và thất bại thảm khốc.

Đây không phải là một rủi ro mang tính giả định. Một sự rò rỉ nước đơn lẻ có thể phá hủy tức thời hàng triệu đô la phần cứng trí tuệ nhân tạo – phần cứng thường có thời gian dẫn thay thế hàng tháng trong thị trường bị hạn chế nguồn cung hiện nay. Chi phí của thậm chí một sự cố thảm khốc duy nhất có thể vượt quá ngân sách cơ sở hạ tầng làm mát của một trung tâm dữ liệu trong một năm. Tuy nhiên, nhiều nhà vận hành vẫn tiếp tục dựa vào những hệ thống này, hiệu quả là đánh bạc khoản đầu tư trí tuệ nhân tạo của họ vào công nghệ lỗi thời.

Tại Data Center World 2024, Tiến sĩ Mohammad Tradat, Quản lý Kỹ thuật Cơ học Trung tâm Dữ liệu của NVIDIA, đã hỏi, “Làm mát một pha sẽ sống được bao lâu? Nó sẽ bị loại bỏ rất sớm… và sau đó nhu cầu sẽ là làm mát hai pha, dựa trên chất làm mát.” Điều này không chỉ là một quan điểm ngày càng tăng – mà nó đang trở thành một sự đồng thuận trong ngành được hỗ trợ bởi vật lý và thực tế tài chính.

Một Phương Pháp Tiếp Cận Mới Để Bảo Vệ Đầu Tư

Công nghệ làm mát hai pha, sử dụng chất làm mát điện môi thay vì nước, cơ bản thay đổi phương trình rủi ro này. Chi phí thực hiện một hệ thống làm mát hai pha – thường khoảng 200.000 đô la mỗi giá đỡ – nên được xem là bảo hiểm để bảo vệ khoản đầu tư phần cứng trí tuệ nhân tạo 5 triệu đô la. Để đặt điều này vào góc độ, đó là một khoản phí bảo hiểm 4% để bảo vệ tài sản của bạn – thấp hơn đáng kể so với tỷ lệ bảo hiểm cho các khoản đầu tư kinh doanh đa triệu đô la khác. Trường hợp kinh doanh trở nên rõ ràng hơn khi bạn tính đến các chi phí tiềm năng của việc gián đoạn đào tạo trí tuệ nhân tạo và cơ sở hạ tầng không hoạt động trong thời gian ngừng hoạt động không kế hoạch.

Đối với các nhà vận hành trung tâm dữ liệu và các bên liên quan tài chính, quyết định đầu tư vào làm mát hai pha nên được đánh giá thông qua ống kính quản lý rủi ro và bảo vệ đầu tư. Các chỉ số liên quan nên bao gồm không chỉ chi phí vận hành hoặc hiệu quả năng lượng mà còn giá trị tổng thể của phần cứng được bảo vệ, chi phí của các kịch bản thất bại tiềm năng, giá trị tương lai cho phần cứng thế hệ tiếp theo và lợi tức đầu tư làm mát được điều chỉnh rủi ro.

Khi trí tuệ nhân tạo tiếp tục đẩy lên mật độ và giá trị của cơ sở hạ tầng trung tâm dữ liệu, ngành phải phát triển phương pháp tiếp cận của mình đối với chiến lược làm mát. Câu hỏi không phải là liệu có chuyển sang làm mát hai pha hay không, mà là khi nào và làm thế nào để chuyển đổi trong khi giảm thiểu rủi ro cho các hoạt động và đầu tư hiện có.

Các nhà vận hành thông minh đã đang thực hiện sự chuyển đổi này, trong khi những người khác có nguy cơ học một bài học đắt giá. Trong một kỷ nguyên mà một giá đỡ có thể có giá hơn nhiều so với ngân sách hoạt động hàng năm của nhiều trung tâm dữ liệu, việc đánh bạc vào công nghệ làm mát lỗi thời không chỉ rủi ro – mà nó có thể là thảm khốc. Thời gian để hành động là bây giờ – trước khi rủi ro đó trở thành hiện thực.