Mô hình và nền tảng AI

NVIDIA ra mắt nền tảng AIOps Minerva giúp giám sát nhà máy AI

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Ngày 22 tháng 10 năm 2026, NVIDIA ra mắt Minerva, mô tả đây là nền tảng AIOps giúp các nhóm vận hành sớm nhận biết những vấn đề về hạ tầng tại các nhà máy AI. Theo công ty, Minerva hợp nhất dữ liệu đo từ xa của cả hạ tầng lẫn khối lượng công việc AI, sau đó áp dụng các mô hình AI được thiết kế chuyên biệt để chuyển dữ liệu đó thành thông tin hữu ích cho hành động.

Theo NVIDIA, nhà máy AI nằm trong số những hoạt động phức tạp nhất thế giới, với những cụm GPU khổng lồ huấn luyện mô hình và cung cấp ứng dụng AI qua các mạng tốc độ cao. Ở quy mô đó, chỉ một thành phần suy giảm — chẳng hạn GPU chạy nóng hơn các GPU khác hoặc ổ NVMe giảm hiệu năng khi chịu tải — cũng có thể làm chậm cả một tác vụ; những dấu hiệu cảnh báo như vậy rất dễ bị bỏ sót. Minerva hướng đến điều NVIDIA gọi là sản lượng hữu ích của nhà máy AI: khối lượng công việc có ích mà hạ tầng tạo ra, được đo bằng số giờ GPU, thông lượng hữu ích, thời gian hoạt động của cụm và lượng token được tạo ra.

Đồ thị tri thức động về nhà máy AI

Các công cụ giám sát truyền thống thường chia trung tâm dữ liệu thành những chế độ xem riêng biệt, khiến các nhóm mạng, điện toán, độ tin cậy của hệ thống và học máy mỗi bên chỉ thấy một phần hoạt động. NVIDIA cho biết Minerva kết nối các tín hiệu từ GPU, mạng, lưu trữ, bộ lập lịch và khối lượng công việc.

Từ những tín hiệu đó, Minerva xây dựng một đồ thị tri thức động, lập bản đồ logic các GPU, SuperNIC, bộ chuyển mạch và cáp, cùng với những tác vụ đang chạy trên chúng. NVIDIA cho biết cách lập bản đồ này giúp người vận hành truy tìm thành phần gây ảnh hưởng đến một tác vụ huấn luyện chậm, ngay cả trong nhà máy AI có hàng trăm nghìn GPU.

Theo NVIDIA, nền tảng này phân tích hàng tỷ điểm dữ liệu mỗi giờ bằng phương pháp học máy có giám sát và không giám sát: hệ thống học cách nhận diện hành vi bình thường, đánh dấu những bất thường chưa từng gặp, dự đoán lỗi khi chúng bắt đầu xuất hiện và đối chiếu các sự kiện liên quan dựa trên cấu trúc liên kết của nhà máy AI. Thay vì chuyển từng triệu chứng riêng lẻ đến người vận hành, nền tảng có thể gộp hàng loạt sự kiện liên quan thành một sự cố tập trung, kèm theo nguyên nhân gốc rễ có khả năng xảy ra.

Trợ lý AI và quy trình khắc phục sự cố

Minerva được tích hợp sẵn một trợ lý AI và cũng có thể kết nối với các công cụ AI tác tử bên ngoài, cung cấp cho người vận hành giao diện ngôn ngữ tự nhiên dựa trên dữ liệu đo từ xa trực tiếp. Người vận hành có thể trao đổi để kiểm tra tình trạng cụm và nhận đề xuất khắc phục. Các nhóm có thể để người dùng trực tiếp thực hiện việc sửa lỗi, hoặc kết nối nền tảng với các hệ thống tự động hóa thông qua giao diện lập trình ứng dụng của hạ tầng và các hệ thống bên ngoài.

Bitdeer AI, đơn vị thông báo áp dụng nền tảng này vào ngày 22 tháng 10, gọi trợ lý tích hợp sẵn là Sherlock — trợ lý AI đa tác tử được tích hợp nguyên bản vào nền tảng Minerva — và cho biết máy chủ MCP cho phép người vận hành phân loại, xử lý sự cố và gỡ lỗi thông qua các cuộc trò chuyện bằng ngôn ngữ tự nhiên dựa trên dữ liệu đo từ xa trực tiếp. Theo Bitdeer AI, phần mềm có thể được triển khai như một nền tảng độc lập và được tích hợp với NVIDIA DSX OS. Thông báo của công ty cho biết phạm vi dữ liệu đo từ xa bao gồm GPU NVIDIA, SuperNIC ConnectX, DPU BlueField, bộ chuyển mạch mở rộng quy mô NVLink, Ethernet Spectrum-X theo hướng Đông–Tây và Bắc–Nam, NCCL, bộ lập lịch và khối lượng công việc AI.

Kết quả được công bố

NVIDIA cho biết nền tảng mang lại giá trị trên những chỉ số trọng yếu mà các nhà máy AI chú trọng: kéo dài khoảng thời gian giữa các lần gián đoạn nhờ phát hiện sự cố trước khi chúng xảy ra; rút ngắn thời gian sửa chữa nhờ xác định chính xác vấn đề khi có sự cố; và cung cấp thông tin chuyên sâu hơn bằng cách lọc dòng dữ liệu khổng lồ do hạ tầng AI hiện đại tạo ra, chỉ giữ lại một số ít cảnh báo thực sự quan trọng. Công ty cho biết nền tảng gộp các vấn đề liên quan thành một mục duy nhất có thể xử lý, giúp các nhóm AIOps chuyển từ bảo trì ứng phó sang bảo trì chủ động, qua đó hỗ trợ nhà máy AI tối đa hóa thời gian hoạt động của GPU.

Bitdeer AI báo cáo kết quả từ các thử nghiệm nội bộ của NVIDIA tại nhà máy AI: trong một trường hợp, Minerva rút ngắn thời gian trung bình sửa chữa sự cố nguồn điện của NVMe từ tình trạng ngừng hoạt động kéo dài nhiều ngày xuống còn sáu giờ; trong một trường hợp khác, nền tảng gộp 81 sự kiện nhiễu thành một cảnh báo duy nhất, giúp tiết kiệm 54 giờ thời gian hoạt động của cụm. Bitdeer AI cho biết các thử nghiệm nội bộ cũng cho thấy thời gian trung bình giữa các lần gián đoạn tăng lên nhờ bảo trì dự đoán; thời gian trung bình sửa chữa giảm xuống nhờ phân tích nguyên nhân gốc rễ tự động; số thông tin hữu ích có thể hành động tăng lên nhờ giảm nhiễu tiên tiến; và số giờ GPU hoạt động hiệu quả tăng lên, trực tiếp thúc đẩy sản lượng token.

Những đơn vị tiên phong áp dụng và đối tác OEM

IREN là một trong những đối tác của NVIDIA sử dụng Minerva để tối ưu hóa các nhà máy AI của mình. Denis Skrinnikoff, giám đốc công nghệ của IREN, phát biểu trong thông báo ra mắt: “NVIDIA Minerva cung cấp cho đội ngũ vận hành của chúng tôi một góc nhìn thống nhất về mạng, GPU và các tác vụ đang chạy trên đó, nhờ vậy chúng tôi có thể tập trung nhiều hơn vào bảo trì chủ động thay vì khắc phục sự cố.”

Bitdeer AI cho biết hiện hỗ trợ Minerva trong hoạt động của các nhà máy AI, đồng thời mô tả động thái này là bước tiếp nối cam kết cung cấp hạ tầng GPU đáng tin cậy, có sản lượng cao cho hoạt động huấn luyện và suy luận AI quy mô lớn. Công ty cho biết khả năng giám sát, bảo trì dự đoán và khắc phục sự cố bằng AI tác tử của nền tảng giúp phát hiện suy giảm trước khi ảnh hưởng đến các tác vụ, rút ngắn thời gian sửa chữa và duy trì nhiều GPU hơn ở trạng thái hoạt động hiệu quả cho khách hàng; phần mềm cũng được thiết kế để mở rộng quy mô từ các cụm nhỏ đến những nhà máy AI có hàng trăm nghìn GPU.

Lenovo cho biết trong bài đăng tại GTC Berlin của mình rằng Minerva có thể giúp các nhóm quản lý tính sẵn sàng và hiệu năng của hạ tầng AI khi môi trường mở rộng, đồng thời liệt kê nền tảng này cùng với Lenovo Hybrid AI Factory và các giải pháp NVIDIA. Lenovo cũng cho biết đang hợp tác với IBM và NVIDIA về các giải pháp nhà máy AI chủ quyền, nhằm giúp khách hàng kiểm soát hoạt động của chính họ.

Cùng với IREN, NVIDIA nêu Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI và Tesla là những đơn vị dự định triển khai Minerva. Theo NVIDIA, Dell Technologies, Lenovo và Supermicro sẽ cung cấp nền tảng này trong danh mục giải pháp vận hành nhà máy AI của họ.

Theo Nash là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về hạ tầng AI, tính toán và các hệ thống phần cứng cung cấp năng lực cho trí tuệ nhân tạo hiện đại. Công việc của anh tập trung vào các nền tảng kỹ thuật phía sau các khối lượng công việc AI quy mô lớn, bao gồm trung tâm dữ liệu, bộ tăng tốc, mạng và các ngăn xếp phần mềm kết nối chúng lại với nhau.

Với góc nhìn phân tích và dựa trên kỹ thuật, Theo xem xét cách các tiến bộ trong GPU, silicon tùy chỉnh, kiến trúc bộ nhớ và hệ thống phân tán cho phép các thế hệ mới của mô hình AI. Anh đặc biệt chú ý đến các đánh đổi về hiệu năng, hiệu suất năng lượng, khả năng mở rộng và các ràng buộc thực tiễn định hình việc triển khai hạ tầng AI trong thực tế.

Các bài viết do Theo Nash viết được tạo ra bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác kỹ thuật, sự rõ ràng và việc đưa tin có trách nhiệm về môi trường tính toán AI đang phát triển nhanh chóng.