Fundacja PyTorch Integrates Ray, a Distributed Computing Framework, to Build a Unified AI Infrastructure Stack

Ekosystem otwartego oprogramowania AI zrobił decydujący krok do przodu dziś, gdy Fundacja PyTorch ogłosiła, że Ray, framework obliczeń rozproszonych pierwotnie opracowany przez Anyscale, dołączył do jego szeregów. Ten krok oznacza znaczący postęp w kierunku zunifikowanego, interoperacyjnego i gotowego do produkcji stosu obliczeń AI – łączącego podstawowe warstwy rozwoju modelu (PyTorch), inferencji rozproszonej (vLLM) i dużej skali wykonania (Ray).

Zunifikowana Podstawa dla Otwartego Oprogramowania AI

Hostowana przez Fundację Linux, Fundacja PyTorch działa jako centralny hub dla niektórych z najważniejszych otwartych technologii AI. Jej misją jest zmniejszenie fragmentacji i wspieranie współpracy we wszystkich fazach rozwoju AI. Poprzez integrację Raya obok PyTorch i vLLM, fundacja dostarcza to, czego potrzebuje branża – spójny, kompletny stos do budowania, szkolenia i wdrażania AI w skali.
Włączenie Raya reprezentuje również kulminację lat ewolucji akademickiej i przemysłowej. Zrodzony w RISELab na Uniwersytecie Kalifornijskim w Berkeley, Ray został zaprojektowany w celu uproszczenia obliczeń rozproszonych dla AI i obciążeń związanych z uczeniem maszynowym. Umożliwia on deweloperom skalowanie zadań bezproblemowo od jednego laptopa do tysięcy maszyn bez przepisywania kodu lub zarządzania złożonymi systemami. Obecnie Ray ma ponad 39 000 gwiazd na GitHub i ponad 214 milionów pobrań, co czyni go jednym z najbardziej rozpowszechnionych frameworków obliczeń rozproszonych na świecie.

Jak Ray Uzupełnia PyTorch i vLLM

Ray znajduje się pomiędzy frameworkami szkolenia i inferencji (takimi jak PyTorch, DeepSpeed i vLLM) a warstwą orchestracji kontenerów (taką jak Kubernetes lub Slurm). Pozwala to Rayowi na efektywne koordynowanie obciążeń rozproszonych oraz mostkowanie przepaści pomiędzy szkoleniem modelu a wdrożeniem w skali produkcyjnej.
Kluczowe możliwości Raya obejmują:

• Przetwarzanie danych multimodalnych: Obsługuje ogromne, zróżnicowane zestawy danych – tekst, obrazy, audio i wideo – w trybie równoległym, maksymalizując przepływność i wydajność.
• Wstępne szkolenie i dostosowanie: Skaluje PyTorch i inne frameworki na tysiące procesorów graficznych zarówno do zadań wstępnego szkolenia, jak i do zadań dokładnego dostosowania.
• Inferencja rozproszona: Wdraża modele w produkcji z wysoką przepływnością i niską latencją, dynamicznie zarządzając nagłymi wzrostami obciążeń w heterogenicznych klastrach.

Wszystkie te funkcje sprawiają, że Ray jest “klejem”, który łączy tworzenie modelu, optymalizację i obsługę, efektywnie tworząc warstwę silnika obliczeń rozproszonych nowoczesnej infrastruktury AI.

Co to Oznacza dla Deweloperów i Przedsiębiorstw

W dzisiejszej gospodarce napędzanej przez AI, organizacje stają przed ogromnymi wyzwaniami związanymi ze skalowaniem, uzależnieniem od dostawców i niewydajnością obliczeń. Systemy własnościowe często fragmentują przepływy pracy i spowalniają innowacje. Z Rayem dołączonym do Fundacji PyTorch, deweloperzy zyskują w pełni otwarty, interoperacyjny stos obliczeń, który eliminuje wiele z tych punktów bólu.
Jak wyjaśnił Matt White, dyrektor generalny ds. AI w Fundacji Linux, ta współpraca „łączy krytyczne komponenty niezbędne do budowy systemów AI następnej generacji”. Zunifikowanie pozwala zespołom na tworzenie zaawansowanych systemów AI – od dużych modeli językowych do aplikacji multimodalnych – bez polegania na zamkniętej, własnościowej infrastrukturze. Zamiast tego, deweloperzy mogą szkolić i wdrażać modele AI przy użyciu ekosystemu, który jest skalowalny, modułowy i napędzany przez społeczność.

Szersze Implikacje dla Otwartego Oprogramowania AI

Współpraca pomiędzy PyTorch, vLLM i Ray wskazuje na nową erę otwartej interoperacyjności obliczeń. Z Fundacją Linux zapewniającą neutralne zarządzanie, branża AI zyskuje trwały model rozwoju wspólnej infrastruktury – podobnie jak to, jak Kubernetes zunifikował orchestrację chmury.
Liderzy branży podzielili ten pogląd. Chris Aniszczyk z Cloud Native Computing Foundation zauważył, że „Ray i Kubernetes są naturalnie komplementarne,” łącząc siłę orchestracji i obliczeń rozproszonych, aby napędzać systemy AI następnej generacji. Dyrektor inżynieryjny Ubera, Zhitao Li, dodał, że Ray jest już „kluczową częścią” ich platformy AI, napędzając duże szkolenia i przetwarzanie danych. Członek zarządu Fundacji PyTorch, Joe Spisak z Meta, nazwał dodanie Raya „znaczącym kamieniem milowym dla otwartego oprogramowania AI,” podkreślając, jak tworzy on zunifikowany, napędzany przez społeczność stos obliczeń.

Spójrzmy w Przyszłość

Współzałożyciel Anyscale, Robert Nishihara, podsumował ten kamień milowy zwięźle:

„Naszym celem jest uczynienie obliczeń rozproszonych tak prostymi, jak pisanie kodu Python. Dołączenie do Fundacji PyTorch zapewnia, że Ray pozostanie otwartym, napędzanym przez społeczność rdzeniem dla deweloperów.”

Deweloperzy i współtwórcy mogą zaangażować się w projekt za pośrednictwem repozytorium Ray na GitHub lub wziąć udział w Ray Summit 2025 w San Francisco w listopadzie, gdzie społeczność będzie dalej badać, co ten nowy otwarty fundament oznacza dla przyszłości skalowalności i dostępności AI.

W istocie, dodanie Raya uzupełnia brakującą warstwę w ekosystemie otwartego oprogramowania AI – łącząc modelowanie, inferencję i wykonywanie rozproszone pod jedną fundacją. Jest to przełomowy krok w kierunku przyszłości, w której infrastruktura AI nie tylko staje się bardziej potężna, ale także bardziej otwarta, wydajna i przyjazna dla deweloperów.