Quỹ PyTorch Tích hợp Ray, Một Framework Máy tính Phân tán, để Xây dựng Một Ngôn ngữ Cơ sở Hạ tầng AI Thống nhất

Hệ sinh thái AI mã nguồn mở đã có một bước nhảy vĩ đại ngày hôm nay khi Quỹ PyTorch tuyên bố rằng Ray, framework máy tính phân tán ban đầu được phát triển bởi Anyscale, đã chính thức gia nhập hàng ngũ của mình. Việc này đánh dấu một bước quan trọng hướng tới một chồng hạ tầng AI thống nhất, tương tác và sẵn sàng sản xuất – một chồng mà gắn kết các lớp cơ bản của phát triển mô hình (PyTorch), suy luận phân tán (vLLM) và thực hiện lớn (Ray).

Cơ sở Thống nhất cho AI Mã nguồn Mở

Được tổ chức dưới sự bảo trợ của Linux Foundation, Quỹ PyTorch hoạt động như một trung tâm trung tâm cho một số công nghệ AI mã nguồn mở quan trọng nhất. Sứ mệnh của nó là giảm phân mảnh và thúc đẩy hợp tác trên mọi giai đoạn phát triển AI. Bằng cách tích hợp Ray cùng với PyTorch và vLLM, quỹ đang cung cấp những gì ngành công nghiệp đã cần từ lâu – một chồng thống nhất, từ đầu đến cuối, để xây dựng, đào tạo và triển khai AI trên quy mô lớn.

Sự tham gia của Ray cũng đại diện cho sự kết thúc của nhiều năm tiến hóa học thuật và công nghiệp. Sinh ra tại RISELab của UC Berkeley, Ray được thiết kế để đơn giản hóa máy tính phân tán cho các công việc AI và học máy. Nó cho phép các nhà phát triển mở rộng công việc một cách mượt mà từ một máy tính xách tay đến hàng nghìn máy mà không cần viết lại mã hoặc quản lý các hệ thống phức tạp. Hiện tại, Ray có hơn 39.000 ngôi sao trên GitHub và hơn 214 triệu lượt tải xuống, khiến nó trở thành một trong những framework máy tính phân tán được sử dụng rộng rãi nhất trên thế giới.

Ray Complements PyTorch và vLLM như thế nào

Ray nằm giữa các framework đào tạo và suy luận (như PyTorch, DeepSpeed và vLLM) và lớp điều phối container (như Kubernetes hoặc Slurm). Vị trí này cho phép Ray điều phối các công việc phân tán một cách hiệu quả trong khi bắc cầu khoảng cách giữa đào tạo mô hình và triển khai sản xuất quy mô lớn.

Các khả năng chính của Ray bao gồm:

• Xử lý dữ liệu đa phương thức: Xử lý các tập dữ liệu lớn, đa dạng – văn bản, hình ảnh, âm thanh và video – song song, tối đa hóa thông lượng và hiệu quả.
• Đào tạo trước và tinh chỉnh sau: Mở rộng PyTorch và các framework khác trên hàng nghìn GPU cho cả việc đào tạo trước và tinh chỉnh.
• Suy luận phân tán: Triển khai mô hình trong sản xuất với thông lượng cao và độ trễ thấp, quản lý động các đợt công việc trên các cụm dị hình.

Cùng nhau, những chức năng này làm cho Ray trở thành “keo” gắn kết giữa tạo mô hình, tối ưu hóa và phục vụ, hiệu quả hình thành lớp máy tính phân tán của hạ tầng AI hiện đại.

Điều này có ý nghĩa gì cho Nhà phát triển và Doanh nghiệp

Trong nền kinh tế AI ngày nay, các tổ chức phải đối mặt với những thách thức khổng lồ về khả năng mở rộng, khóa nhà cung cấp và hiệu quả tính toán. Các hệ thống độc quyền thường làm phân mảnh các quy trình làm việc và chậm lại sự đổi mới. Với việc Ray tham gia Quỹ PyTorch, các nhà phát triển có được một chồng tính toán mã nguồn mở, tương tác, loại bỏ nhiều điểm đau này.

Như Matt White, Giám đốc điều hành AI của Linux Foundation, giải thích, sự hợp tác này “kết hợp các thành phần quan trọng cần thiết để xây dựng các hệ thống AI thế hệ tiếp theo.” Sự thống nhất cho phép các nhóm phát triển các hệ thống AI tiên tiến – từ mô hình ngôn ngữ lớn đến các ứng dụng đa phương thức – mà không cần dựa vào cơ sở hạ tầng độc quyền đóng. Thay vào đó, các nhà phát triển có thể đào tạo và triển khai mô hình AI bằng một hệ sinh thái có thể mở rộng, mô-đun và được điều khiển bởi cộng đồng.

Ý nghĩa rộng lớn hơn cho AI Mã nguồn Mở

Sự hợp tác giữa PyTorch, vLLM và Ray chỉ ra một kỷ nguyên mới của tính tương tác mã nguồn mở. Với sự quản lý trung lập của Linux Foundation, ngành công nghiệp AI có được một mô hình bền vững để phát triển cơ sở hạ tầng chung – tương tự như cách Kubernetes đã tiêu chuẩn hóa điều phối đám mây.

Các nhà lãnh đạo trong ngành đã chia sẻ quan điểm này. Chris Aniszczyk của Cloud Native Computing Foundation lưu ý rằng “Ray và Kubernetes là bổ sung tự nhiên,” kết hợp sức mạnh điều phối và máy tính phân tán để cung cấp năng lượng cho các hệ thống AI thế hệ tiếp theo. Giám đốc kỹ thuật của Uber, Zhitao Li, thêm rằng Ray đã là một “phần cốt lõi” của nền tảng AI của họ, cung cấp đào tạo và xử lý dữ liệu quy mô lớn. Và Joe Spisak của Meta, một thành viên hội đồng quản trị của Quỹ PyTorch, gọi việc bổ sung Ray là một “cột mốc quan trọng cho AI mã nguồn mở,” nhấn mạnh cách nó tạo ra một chồng tính toán thống nhất, được điều khiển bởi cộng đồng.

Nhìn về Tương lai

Người đồng sáng lập Anyscale, Robert Nishihara, đã tóm tắt cột mốc này một cách ngắn gọn:

“Mục tiêu của chúng tôi là làm cho máy tính phân tán trở nên đơn giản như viết mã Python. Việc tham gia Quỹ PyTorch đảm bảo Ray sẽ tiếp tục là một xương sống mã nguồn mở, được điều khiển bởi cộng đồng, cho các nhà phát triển.”

Các nhà phát triển và người đóng góp có thể tham gia dự án thông qua kho lưu trữ GitHub của Ray hoặc tham dự Hội nghị thượng đỉnh Ray 2025 tại San Francisco vào tháng 11, nơi cộng đồng sẽ khám phá sâu hơn về ý nghĩa của nền tảng mã nguồn mở này đối với tương lai của khả năng mở rộng AI và tính khả dụng.

Trong bản chất, việc bổ sung Ray hoàn thành lớp thiếu sót trong hệ sinh thái AI mã nguồn mở – gắn kết lập mô hình, suy luận và thực hiện phân tán dưới một nền tảng. Đây là một bước quan trọng hướng tới một tương lai nơi cơ sở hạ tầng AI không chỉ mạnh mẽ hơn mà còn cởi mở, hiệu quả và thân thiện với nhà phát triển hơn.