Niv-AI huy động được 12 triệu đô la để giải quyết nút thắt ẩn về năng lượng trong cơ sở hạ tầng AI

Một công ty khởi nghiệp mới đang tham gia vào không gian cơ sở hạ tầng AI ngày càng đông đúc với sự tập trung vào một hạn chế mà hiếm khi làm tiêu đề nhưng đang nhanh chóng trở thành một trong những thách thức quan trọng nhất của ngành: năng lượng.

Niv-AI đã xuất hiện từ bóng tối với 12 triệu đô la tiền vốn từ Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward, và Aurora. Công ty có trụ sở tại Tel Aviv này đang định vị mình tại điểm giao giữa hệ thống năng lượng và tính toán hiệu suất cao, nhắm vào những gì nó mô tả là một “khủng hoảng công suất năng lượng tức thời” trong các trung tâm dữ liệu hiện đại.

Vấn đề: Sự thèm khát năng lượng ngày càng tăng của AI

Khi các công việc AI tăng quy mô, đặc biệt là với việc áp dụng các GPU ngày càng dày đặc về năng lượng, các trung tâm dữ liệu đang gặp phải một hạn chế vật lý mà tối ưu hóa phần mềm alone không thể giải quyết. Trong khi khả năng tính toán tiếp tục tăng trưởng, khả năng cung cấp năng lượng ổn định ở mức millisecond đang tụt lại phía sau.

Các hệ thống giám sát truyền thống không được thiết kế cho các mẫu tiêu thụ năng lượng nhanh chóng, nhọn của các công việc AI hiện đại. Để tránh làm hỏng thiết bị hoặc mất ổn định lưới, các nhà vận hành thường quá mức bằng cách hạn chế sử dụng. Kết quả là sự thiếu sử dụng đáng kể cơ sở hạ tầng hiện có, với tới 30% công suất năng lượng hợp đồng hiệu quả đang ở trạng thái không hoạt động.

Sự không hiệu quả này có ý nghĩa tài chính. Các nhà vận hành trung tâm dữ liệu đang trả tiền cho công suất mà họ không thể sử dụng đầy đủ, trong khi các công ty AI phải đối mặt với các hạn chế làm chậm việc triển khai và tăng chi phí.

Một lớp mới giữa năng lượng và tính toán

Cách tiếp cận của Niv-AI giới thiệu một lớp điều khiển mới nằm giữa việc cung cấp năng lượng và các công việc tính toán. Tại trung tâm của nền tảng là những gì công ty gọi là “dấu vân tay điện” – một tầm nhìn độ phân giải cao về cách các công việc AI tiêu thụ năng lượng trong thời gian thực.

Sử dụng các cảm biến chuyên dụng, hệ thống thu thập các tín hiệu năng lượng chi tiết mà các đồng hồ truyền thống bỏ qua. Các tín hiệu này sau đó được xử lý bởi các mô hình AI được thiết kế để dự đoán các biến động ngắn hạn trong nhu cầu. Thay vì phản ứng sau khi xảy ra sự kiện, nền tảng chủ động điều chỉnh thời gian công việc, tinh chỉnh các hoạt động tính toán để làm mịn việc sử dụng năng lượng.

Trong thực tế, điều này hoạt động như một hệ thống quản lý giao thông cho điện trong trung tâm dữ liệu, cho phép các nhà vận hành đẩy cơ sở hạ tầng gần hơn đến giới hạn thực sự của nó mà không kích hoạt sự không ổn định.

Đi vượt quá các giải pháp phần cứng

Hầu hết các nỗ lực hiện tại để giải quyết các hạn chế về năng lượng dựa trên các giải pháp vật lý như pin, tụ điện hoặc giảm tải công việc một cách bảo thủ. Mặc dù hiệu quả đến một mức độ, những cách tiếp cận này thêm chi phí, phức tạp hoặc giảm hiệu suất.

Niv-AI đang đặt cược rằng một lớp điều khiển phần mềm có thể mở khóa các lợi ích tương tự hoặc lớn hơn mà không cần thêm phần cứng. Bằng cách cải thiện khả năng hiển thị và kiểm soát ở mức độ tinh粒, công ty nhằm mục đích cho phép các nhà vận hành trích xuất nhiều giá trị hơn từ cơ sở hạ tầng hiện có.

Sự thay đổi này phản ánh các xu hướng rộng lớn hơn trong tối ưu hóa trung tâm dữ liệu, nơi các cách tiếp cận định nghĩa bằng phần mềm ngày càng được sử dụng để quản lý các hạn chế vật lý.

Ảnh hưởng rộng lớn hơn đối với cơ sở hạ tầng AI

Nếu loại công nghệ này chứng minh được hiệu quả, nó có thể thay đổi cách thiết kế và vận hành các trung tâm dữ liệu trong thập kỷ tới. Thay vì coi các hạn chế về năng lượng là các ràng buộc cố định, các nhà vận hành có thể bắt đầu xem chúng như các biến số động có thể được quản lý chủ động trong thời gian thực.

Điều này có ý nghĩa vượt ra ngoài hiệu quả. Nó có thể trì hoãn hoặc giảm nhu cầu nâng cấp lưới điện tốn kém và xây dựng cơ sở mới, đặc biệt là ở các khu vực mà sự sẵn có năng lượng đã là một nút thắt. Nó cũng có thể ảnh hưởng đến cách các công việc AI được lên lịch, định giá và ưu tiên, giới thiệu một chiều mới của tối ưu hóa kết hợp giữa điều phối tính toán và quản lý năng lượng.

Ở mức độ hệ thống, sự hội tụ của kiểm soát năng lượng và tính toán gợi ý về một tương lai nơi cơ sở hạ tầng ngày càng được phối hợp trên các lớp từng được cô lập. Khi AI tiếp tục tăng trưởng, khả năng hòa hợp các lớp này có thể trở nên quan trọng như các tiến bộ trong kiến trúc mô hình hoặc thiết kế chip.