Databricks chính thức cung cấp AI Runtime cho hoạt động huấn luyện GPU

Ngày 21 tháng 10 năm 2026, Databricks thông báo AI Runtime (AIR) đã chính thức được cung cấp — một nền tảng GPU phi máy chủ được quản lý hoàn toàn, tích hợp trong Databricks Lakehouse, phục vụ việc huấn luyện và tinh chỉnh mô hình học sâu trên dữ liệu doanh nghiệp.

Databricks cho biết hàng trăm công ty, trong đó có Robinhood, PicPay, Merck, Flo Health, TinyFish và FactSet, đã sử dụng AIR để huấn luyện và đưa mô hình học sâu vào môi trường vận hành thực tế; các trường hợp ứng dụng trải rộng từ chăm sóc sức khỏe, sản xuất đến các tác tử phục vụ người tiêu dùng. Công ty cho biết nhóm Databricks AI Research của mình sử dụng nền tảng này để huấn luyện các mô hình đứng sau KARL và AI Parse, đồng thời mô tả AIR là nền tảng đã được kiểm chứng qua hơn 100.000 giờ huấn luyện GPU.

Công ty giới thiệu phiên bản này như một giải pháp cho tình trạng các nhóm AI dành nhiều thời gian bảo đảm năng lực GPU, xử lý sự cố và chờ thử nghiệm khởi chạy hơn là cải thiện mô hình. Theo thông báo, việc vận hành hạ tầng GPU tách biệt khỏi Lakehouse tạo ra những lỗ hổng trong quản trị và khiến dữ liệu huấn luyện nhạy cảm gặp rủi ro.

Hạ tầng GPU được quản lý

Databricks chịu trách nhiệm mua GPU, cấu hình cụm và quản lý mạng, nhờ đó khách hàng có thể bắt đầu huấn luyện mà không cần tự vận hành một nền tảng GPU hoàn chỉnh. Công ty cho biết họ thực hiện hàng chục lượt kiểm tra tình trạng GPU và mạng trước cũng như trong quá trình huấn luyện, để khối lượng công việc có thể mở rộng lên hàng trăm GPU một cách đáng tin cậy; nền tảng xác thực GPU trước khi lên lịch sử dụng, liên tục giám sát các khối lượng công việc đang chạy, đồng thời định kỳ kiểm tra GPU nhàn rỗi để phát hiện và loại bỏ các nút gặp trục trặc.

AIR xử lý dữ liệu huấn luyện bằng các bộ nạp tích hợp có khả năng truyền luồng và lưu vào bộ nhớ đệm, giúp giảm thời gian tác vụ phải chờ I/O. Công cụ đi kèm UCVolumeDataset được thiết kế để tăng thông lượng dữ liệu mà không cần xây dựng quy trình nạp dữ liệu tùy chỉnh. Người dùng có thể truy cập GPU từ giao diện dòng lệnh hoặc làm việc tương tác trong sổ tay và môi trường phát triển tích hợp (IDE). Databricks cho biết chỉ cần một lệnh CLI để chạy khối lượng công việc đầu tiên, còn tính năng AIR Skills có thể chuyển khối lượng công việc từ các cụm Kubernetes hoặc SLURM chỉ bằng một câu lệnh ngôn ngữ tự nhiên.

AIR tích hợp nguyên bản với Lakeflow, sản phẩm điều phối quy trình của công ty, giúp các khối lượng công việc GPU luôn đồng bộ với những quy trình ở phía trước và phía sau. Theo thông báo, để đưa một khối lượng công việc vào môi trường sản xuất, chỉ cần thêm vài dòng YAML; thông báo cũng đề cập đến các cơ chế ưu tiên và thu hồi tài nguyên tích hợp, giúp giảm thiểu thời gian GPU nhàn rỗi, cùng khả năng giám sát qua các công cụ như Genie ZeroOps. Trang sản phẩm AI Runtime liệt kê GPU NVIDIA theo nhu cầu với năng lực hoạt động đa vùng, huấn luyện phân tán trên nhiều GPU và nút với mạng RDMA được quản lý, cơ chế lưu điểm kiểm tra được tối ưu hóa cho các tác vụ chạy dài, cùng khả năng hỗ trợ vùng chứa Docker tùy chỉnh, bao gồm cả vùng chứa NVIDIA NGC.

Kostia Omelianchuk, nhà khoa học nghiên cứu ứng dụng kiêm trưởng nhóm công nghệ phụ trách lĩnh vực tại Superhuman, cho biết trong thông báo rằng nền tảng này giúp nhóm của ông chuyển hoạt động huấn luyện quy mô lớn từ một nút có tám GPU A100 sang 16 GPU H100 trên nhiều nút. Thời gian huấn luyện giảm từ khoảng bảy ngày xuống còn 48 giờ, tương đương tốc độ tăng 3,5 lần theo lời ông.

Khởi chạy và gỡ lỗi chỉ trong vài giây

Databricks cho biết AIR có độ trễ khởi chạy tính bằng giây, ngay cả trên các cụm lớn hỗ trợ RDMA với hàng chục GPU. Dịch vụ này sử dụng các nhóm GPU phi máy chủ luôn sẵn sàng và tải ảnh theo cơ chế trì hoãn, nhờ đó khởi chạy khối lượng công việc trong vài giây trong khi phần dữ liệu ảnh còn lại được tải ở chế độ nền. Người dùng có thể chạy các môi trường dựng sẵn hoặc sử dụng vùng chứa của riêng mình; tính năng lưu bộ nhớ đệm môi trường giúp mỗi môi trường chỉ cần được dựng một lần. Công ty cho biết AIR tương thích với tất cả các khung công tác lớn; trang sản phẩm nêu PyTorch và Ray trong số các lựa chọn được hỗ trợ.

Databricks cho biết trải nghiệm quan sát mới trong công cụ theo dõi thử nghiệm MLflow sẽ truyền nhật ký chỉ vài giây sau khi gửi một lượt chạy nếu người dùng thêm cờ watch vào lệnh AIR; trình xem nhật ký mới được xây dựng riêng cho hoạt động huấn luyện nhiều nút. Genie Code được tích hợp xuyên suốt trải nghiệm, với các kỹ năng tác tử được đóng gói sẵn để gỡ lỗi và tối ưu hiệu suất huấn luyện GPU. Công ty cho biết những kỹ năng này bao gồm các hiểu biết từ nhóm nghiên cứu và hiệu suất của họ, trong đó có cách họ giảm thời gian huấn luyện Qwen xuống còn một phần sáu trên AIR.

Joe Tyler, trưởng nhóm nghiên cứu AI tại Sonar, cho biết các kỹ sư nghiên cứu ở đó đã dùng AIR để thiết lập quy trình huấn luyện LLM và nhanh chóng thử nghiệm các giả thuyết, đồng thời theo dõi được từng giai đoạn của quy trình. Nikhil Sunderraj, kỹ sư máy học cấp cao tại FactSet, cho biết thời gian cần thiết để thiết lập, huấn luyện và triển khai một mô hình Text To Formula tùy chỉnh đã giảm từ vài ngày xuống còn vài giờ.

Bảo mật, quản trị và cách bắt đầu

Databricks cho biết AIR hoạt động trong phạm vi quản trị của Databricks và Unity Catalog, nơi áp dụng nhất quán quyền đọc và ghi đối với quyền truy cập dữ liệu, điểm kiểm tra và nhật ký của các khối lượng công việc GPU. Công ty cho biết AIR cung cấp cơ chế cô lập ở cấp máy ảo (VM), thay vì các cơ chế cô lập làm lộ nhân hệ điều hành máy chủ; nền tảng cũng hỗ trợ PrivateLink và các biện pháp kiểm soát lưu lượng ra cho dịch vụ phi máy chủ, được củng cố bằng những khoản đầu tư của công ty vào bảo mật phi máy chủ. Thông báo dẫn vụ việc OpenAI Hugging Face làm ví dụ cho thấy những rủi ro khi quản lý hạ tầng GPU tách biệt khỏi dữ liệu doanh nghiệp được quản trị.

Mức sử dụng AIR và chi phí được ghi nhận trong các bảng hệ thống thanh toán của Databricks cùng với các khối lượng công việc Databricks khác. Hồ sơ mức sử dụng theo từng khối lượng công việc cho biết những lượt huấn luyện nào tiêu tốn ngân sách GPU.

Robert Macy III, kỹ sư học máy tại Robinhood, cho biết AIR giúp các nhóm của ông chuyển từ giai đoạn thử nghiệm sang huấn luyện nhanh hơn, đồng thời tích hợp sẵn cơ chế quản trị và kiểm soát dữ liệu. Eran Barash, phó chủ tịch phụ trách trí tuệ nhân tạo và học máy tại QuantHealth, cho biết nhóm của ông mở rộng quy mô huấn luyện phân tán trên GPU phi máy chủ với hàng triệu bản ghi trong các quy trình dữ liệu hiện có. Zach Richardson, trưởng bộ phận AI tại TinyFish, cho biết nhóm của ông có thể huấn luyện trên GPU, đánh giá kết quả bằng MLflow và triển khai mô hình được xây dựng cho web của công ty mà không cần thiết lập hạ tầng riêng cho từng giai đoạn.

Databricks giới thiệu cho người dùng mới hướng dẫn bắt đầu nhanh, các sổ tay mẫu và tài liệu hướng dẫn dành cho người mới bắt đầu, cùng với kho mã nguồn ai-runtime-cookbook trên GitHub có thể sao chép. Theo công ty, kho này có thể khởi chạy khối lượng công việc GPU đầu tiên chỉ bằng một lệnh CLI. Công ty hướng dẫn khách hàng liên hệ với nhóm quản lý tài khoản để biết thêm thông tin.