PyTorch Foundation Integreert Ray, een Gedistribueerd Rekenkundig Framework, om een Geünificeerde AI-infrastructuurstack te Bouwen

Het open source AI-ecosysteem heeft vandaag een beslissende stap voorwaarts gezet nu de PyTorch Foundation heeft aangekondigd dat Ray, het gedistribueerde rekenkundige framework dat oorspronkelijk is ontwikkeld door Anyscale, officieel tot zijn rangen is toegetreden. Deze stap markeert een significante stap naar een geünificeerde, interoperabele en productieklare AI-computestack – een die de fundamenten van modelontwikkeling (PyTorch), gedistribueerde inferentie (vLLM) en grootschalige uitvoering (Ray) met elkaar verbindt.

Een Geünificeerde Basis voor Open Source AI

Ondergebracht onder de Linux Foundation, fungeert de PyTorch Foundation als een centraal knooppunt voor enkele van de meest belangrijke open source AI-technologieën. De missie is om fragmentatie te verminderen en samenwerking te bevorderen over elke fase van AI-ontwikkeling. Door Ray naast PyTorch en vLLM te integreren, levert de foundation wat de industrie al lang nodig had – een coherente, eind-tot-eind-stack voor het bouwen, trainen en implementeren van AI op grote schaal.

De toevoeging van Ray vertegenwoordigt ook de culminatie van jaren van academische en industriële evolutie. Geboren bij UC Berkeley’s RISELab, was Ray ontworpen om gedistribueerd rekenen voor AI- en machine learning-werkbelastingen te vereenvoudigen. Het stelt ontwikkelaars in staat om taken naadloos te schalen van één laptop tot duizenden machines zonder code te herschrijven of complexe systemen te beheren. Vandaag de dag heeft Ray meer dan 39.000 GitHub-sterren en meer dan 214 miljoen downloads, waarmee het een van de meest breed geadopteerde gedistribueerde rekenkundige frameworks ter wereld is.

Hoe Ray PyTorch en vLLM Aanvult

Ray zit tussen de trainings- en inferentieframeworks (zoals PyTorch, DeepSpeed en vLLM) en de containerorkestratielaag (zoals Kubernetes of Slurm). Deze positie stelt Ray in staat om gedistribueerde werkbelastingen efficiënt te coördineren en de kloof tussen modeltraining en productieschaalimplementatie te overbruggen.

De belangrijkste mogelijkheden van Ray zijn:

• Meermodale dataprocessing: Verwerkt enorme, diverse datasets – tekst, afbeeldingen, audio en video – in parallel, waardoor de doorvoer en efficiëntie worden gemaximaliseerd.
• Pre-training en post-tuning: Schaalt PyTorch en andere frameworks over duizenden GPUs voor zowel pre-training als fine-tuningtaken.
• Gedistribueerde inferentie: Implementeert modellen in productie met hoge doorvoer en lage latentie, waardoor werkbelastingpieken dynamisch over heterogene clusters worden beheerd.

Samen vormen deze functies Ray tot de “lijm” die modelcreatie, optimalisatie en service bindt, waardoor effectief de gedistribueerde compute-engine-laag van de moderne AI-infrastructuur wordt gevormd.

Wat Dit Betekent voor Ontwikkelaars en Ondernemingen

In de huidige AI-gedreven economie worden organisaties geconfronteerd met immense uitdagingen rondom schalen, vendor-lock-in en rekeninefficiëntie. Proprietary systemen fragmenteren vaak workflows en vertragen innovatie. Met Ray die zich bij de PyTorch Foundation voegt, krijgen ontwikkelaars een volledig open source, interoperabele compute-stack die veel van deze pijn punten elimineert.

Zoals Matt White, GM van AI bij de Linux Foundation, uitlegde, unite “de kritieke componenten die nodig zijn om next-generation AI-systemen te bouwen.” De unificatie stelt teams in staat om geavanceerde AI-systemen te ontwikkelen – van grote taalmodellen tot multimodale toepassingen – zonder te vertrouwen op gesloten, propriëtaire infrastructuur. In plaats daarvan kunnen ontwikkelaars AI-modellen trainen en implementeren met behulp van een ecosysteem dat schaalbaar, modulair en community-gedreven is.

De Breder Implicaties voor Open Source AI

De samenwerking tussen PyTorch, vLLM en Ray wijst op een nieuwe era van open compute-interoperabiliteit. Met de Linux Foundation die neutraal bestuur biedt, krijgt de AI-industrie een duurzaam model voor het ontwikkelen van gedeelde infrastructuur – vergelijkbaar met hoe Kubernetes cloudorkestratie standaardiseerde.

Industriële leiders weerspiegelden deze gevoelens. Chris Aniszczyk van de Cloud Native Computing Foundation merkte op dat “Ray en Kubernetes zijn natuurlijk complementair,” waarbij orkestratie en gedistribueerde rekenkundige sterke punten worden gecombineerd om next-generation AI-systemen aan te drijven. Uber’s Director of Engineering, Zhitao Li, voegde eraan toe dat Ray al een “core onderdeel” is van hun AI-platform, waarmee grootschalige training en dataprocessing worden aangedreven. En Meta’s Joe Spisak, een PyTorch Foundation-bestuurslid, noemde Ray’s toevoeging een “significant mijlpaal voor open source AI,” waarbij werd benadrukt hoe het een geünificeerde, community-gedreven compute-stack creëert.

Kijken Naar de Toekomst

Anyscale’s mede-oprichter Robert Nishihara vat de mijlpaal samen:

“Ons doel is om gedistribueerd rekenen zo eenvoudig te maken als het schrijven van Python-code. Deelname aan de PyTorch Foundation zorgt ervoor dat Ray blijft een open, community-gedreven backbone voor ontwikkelaars.”

Ontwikkelaars en bijdragers kunnen deelnemen aan het project via de Ray GitHub-repository of de Ray Summit 2025 in San Francisco deze november, waar de community verder zal verkennen wat deze nieuwe open source-foundation betekent voor de toekomst van AI-schaalbaarheid en toegankelijkheid.

In wezen voltooit de toevoeging van Ray de ontbrekende laag in het open source AI-ecosysteem – door modelleur, inferentie en gedistribueerde uitvoering onder één foundation samen te brengen. Het is een cruciale stap naar een toekomst waarin AI-infrastructuur niet alleen krachtiger is, maar ook opener, efficiënter en ontwikkelaar-vriendelijker.