Hợp tác

NVIDIA mở rộng hợp tác AI với Microsoft về Vera Rubin và Nemotron

Theo Nash
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhNVIDIA và Microsoft đang mở rộng điện toán bảo mật sang hạ tầng AI quy mô giá rack để…
Xem thêm
  • NVIDIA và Microsoft đang mở rộng điện toán bảo mật sang hạ tầng AI quy mô giá rack để các khách hàng thuộc ngành được quản lý có thể xác minh môi trường trước khi phát hành dữ liệu nhạy cảm.
  • EY đã điều chỉnh các mô hình Nemotron bằng Programmed Training và báo cáo mức cải thiện độ chính xác 55% cùng với giảm chi phí 15 lần so với các mô hình tiên phong độc quyền.
  • Quan hệ đối tác hiện nay vượt ra ngoài Azure đến các hệ thống tại chỗ, thiết bị biên công nghiệp và Windows Cloud PC thông qua Foundry Local và GPU RTX PRO.

NVIDIA đã công bố mở rộng hợp tác AI với Microsoft vào ngày 19 tháng 11 năm 2026 tại Microsoft Ignite, với phạm vi bao gồm các hệ thống Vera Rubin NVL72 vận hành tại các trung tâm dữ liệu Azure, hỗ trợ rộng hơn cho các mô hình mở Nemotron trong Microsoft Foundry, cùng các tùy chọn triển khai trên hệ thống tại chỗ, thiết bị biên công nghiệp và máy tính đám mây Windows.

Các công ty đang mở rộng khả năng tiếp cận máy ảo Azure chạy trên Vera Rubin NVL72 thông qua chương trình xem trước Vera Rubin của Azure. Các hệ thống này được thiết kế cho ứng dụng lập luận và ứng dụng dựa trên tác tử, cũng như huấn luyện và suy luận mô hình quy mô lớn, kết nối chương trình xem trước với cả quá trình phát triển lẫn triển khai mô hình.

Ngoài năng lực tính toán, Microsoft và NVIDIA đang hợp tác mở rộng điện toán bảo mật sang hạ tầng AI bare-metal và quy mô tủ rack để xử lý thông tin độc quyền và thuộc diện quản lý. NVIDIA Confidential Computing và cơ chế chứng thực giúp khách hàng xác minh môi trường điện toán trước khi cung cấp các mô hình, dữ liệu hoặc khóa nhạy cảm; hai bên đang triển khai công việc nhằm mở rộng các biện pháp bảo vệ này trên toàn bộ hạ tầng nhà máy AI liên kết với nhau. Các công ty cũng đang hợp tác nâng cao hiệu quả sử dụng năng lượng thông qua NVIDIA MaxLPS, giúp trung tâm dữ liệu đạt hiệu suất cao hơn từ nguồn điện sẵn có.

Microsoft cũng đang sử dụng công nghệ NVIDIA trong hoạt động nội bộ. Microsoft AI dùng Dynamo để thực hiện suy luận tạo lượt cho học tăng cường trong giai đoạn hậu huấn luyện—một quy trình đòi hỏi nhiều năng lực tính toán, tạo ra các trải nghiệm được dùng để cải thiện mô hình. Dynamo điều phối suy luận trên một cụm GPU lớn, tối ưu hóa hiệu suất và hỗ trợ quản lý yêu cầu, cập nhật mô hình cũng như khôi phục sau sự cố trong một hệ thống triển khai được xây dựng dựa trên sự phối hợp kỹ thuật giữa Microsoft AI và NVIDIA. Microsoft cũng sử dụng GPU RTX PRO 6000 Blackwell cho các mô hình tìm kiếm Bing.

Tùy chỉnh mô hình mở trong Foundry

Đối với các nhà phát triển doanh nghiệp, dịch vụ Programmed Training phi máy chủ của Microsoft cho phép kiểm soát quy trình hậu huấn luyện, trong khi Foundry quản lý hạ tầng nền tảng. Foundry Managed Compute bổ sung khả năng hỗ trợ triển khai trọng số mô hình tùy chỉnh, kết nối việc điều chỉnh mô hình với triển khai thông qua các dịch vụ do Microsoft quản lý.

NVIDIA cho biết EY đã dùng Programmed Training để điều chỉnh các mô hình mở Nemotron nhằm phân loại hồ sơ mua hàng của doanh nghiệp. Kết quả được công bố gồm độ chính xác tăng 55% trên tập dữ liệu đánh giá của EY và chi phí giảm 15 lần so với các mô hình tiên tiến độc quyền, qua đó đưa ra một ví dụ có số liệu đo lường về việc tùy chỉnh mô hình cho một tác vụ nghiệp vụ chuyên biệt.

Danh mục Nemotron 3.5 mở rộng trên Foundry Managed Compute gồm Super, dành cho các tác tử hoạt động trong thời gian dài trên những quy trình lập trình, nghiên cứu và nghiệp vụ, cùng Lightning, dành cho các ứng dụng cần phản hồi nhanh và sử dụng công cụ. Embed và Rerank hỗ trợ truy xuất thông tin, Parse trích xuất thông tin có cấu trúc từ tài liệu, còn Content Safety phát hiện nội dung có hại. NVIDIA cho biết Bolt, dùng cho tác vụ lập luận có thông lượng cao và độ trễ thấp, cùng Transcribe, dùng cho nhận dạng giọng nói, sẽ sớm ra mắt.

Triển khai ngoài Azure

Việc mở rộng hỗ trợ Nemotron trong Foundry Local đưa các tác tử có khả năng lập luận, lập trình và sử dụng công cụ đến các môi trường Azure Local, trong khi những mô hình truy xuất giúp ứng dụng tìm bằng chứng trong văn bản, hình ảnh tài liệu, biểu đồ và bảng. NVIDIA cho biết Azure Local sẽ hỗ trợ GPU RTX PRO 6000 Blackwell từ các đối tác phần cứng để triển khai AI tại chỗ.

Azure Local cũng đang được mở rộng sang Jetson Thor và Jetson Orin để phục vụ các ứng dụng công nghiệp như thị giác máy, robot và vận hành tự động; các mô hình AI vật lý Cosmos sẽ được đưa vào Foundry Local. Những bổ sung này mở rộng phạm vi hợp tác từ hạ tầng đám mây tập trung sang các hệ thống đặt gần hơn với dữ liệu do hoạt động công nghiệp tạo ra.

NVIDIA cho biết hai công ty sẽ trình diễn các trải nghiệm sử dụng mô hình ngôn ngữ lớn cục bộ trên máy tính Windows chạy RTX Spark tại Ignite. Với Windows 365 Cloud PC tăng tốc bằng GPU, Direct Stream hỗ trợ tối đa hai luồng 4K ở tốc độ 60 khung hình/giây, với độ trễ thấp ngay cả trên các mạng có điều kiện kết nối khó khăn. Chương trình xem trước giới hạn đã mở đăng ký, còn chương trình xem trước công khai dự kiến bắt đầu vào đầu năm 2027.

Công cụ khoa học và ý nghĩa đối với doanh nghiệp

BioNeMo Agent Toolkit và ALCHEMI Toolkit của NVIDIA cũng đang được bổ sung vào danh mục Microsoft Discovery, đưa các mô hình phục vụ khoa học sự sống, khám phá thuốc, khoa học vật liệu và hóa học lên nền tảng nghiên cứu dựa trên tác tử của Microsoft. BioNeMo Agent Toolkit cho phép nhà nghiên cứu dùng ngôn ngữ tự nhiên để chạy các quy trình sinh học tính toán, trong đó các tác tử điều phối những công cụ và lệnh gọi mô hình cần thiết.

Do đó, sự hợp tác bao trùm cả việc cung ứng lẫn sử dụng năng lực tính toán AI: Microsoft đang vận hành công nghệ NVIDIA trong hoạt động phát triển mô hình và tìm kiếm của chính mình, đồng thời cung cấp cho doanh nghiệp hạ tầng và dịch vụ mô hình liên quan. Các đợt triển khai đã công bố sẽ diễn ra theo từng giai đoạn, gồm những hệ thống hiện đã vận hành trên Azure, chương trình xem trước giới hạn của Direct Stream đang mở đăng ký và các mô hình bổ sung vẫn sẽ được ra mắt.

Theo Nash là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về hạ tầng AI, tính toán và các hệ thống phần cứng cung cấp năng lực cho trí tuệ nhân tạo hiện đại. Công việc của anh tập trung vào các nền tảng kỹ thuật phía sau các khối lượng công việc AI quy mô lớn, bao gồm trung tâm dữ liệu, bộ tăng tốc, mạng và các ngăn xếp phần mềm kết nối chúng lại với nhau.

Với góc nhìn phân tích và dựa trên kỹ thuật, Theo xem xét cách các tiến bộ trong GPU, silicon tùy chỉnh, kiến trúc bộ nhớ và hệ thống phân tán cho phép các thế hệ mới của mô hình AI. Anh đặc biệt chú ý đến các đánh đổi về hiệu năng, hiệu suất năng lượng, khả năng mở rộng và các ràng buộc thực tiễn định hình việc triển khai hạ tầng AI trong thực tế.

Các bài viết do Theo Nash viết được tạo ra bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác kỹ thuật, sự rõ ràng và việc đưa tin có trách nhiệm về môi trường tính toán AI đang phát triển nhanh chóng.