PyTorch Foundation Integrerer Ray, et Distribueret Computing Framework, for at Bygge en Samlet AI-Infrastruktur

Den åbne kildekode AI-økosystem tog et afgørende skridt fremad i dag, da PyTorch Foundation annoncerede, at Ray, det distribuerede computing framework, der oprindeligt blev udviklet af Anyscale, nu er en del af deres samling. Det er et betydeligt skridt mod en samlet, interoperabel og produktionsklar AI-computestak, der binder sammen de grundlæggende lag af modeludvikling (PyTorch), distribueret inference (vLLM) og storstileksekution (Ray).

En Samlet Grundlag for Åben Kildekode AI

PyTorch Foundation, der er vært på Linux Foundation, fungerer som en central hub for nogle af de vigtigste åbne kildekode AI-teknologier. Dens mission er at reducere fragmentering og fremme samarbejde på tværs af alle faser af AI-udvikling. Ved at integrere Ray sammen med PyTorch og vLLM, leverer fonden det, som industrien har længtes efter – en samlet, end-to-end-stak til bygning, træning og implementering af AI i stor skala.

Rays inklusion repræsenterer også kulminationen af år med akademisk og industrielt udvikling. Født på UC Berkeley’s RISELab, blev Ray designed til at simplificere distribueret computing for AI- og machine learning-arbejdsbelastninger. Det giver udviklere mulighed for at skala arbejdsbelastninger uden problemer fra en enkelt laptop til tusinder af maskiner uden at skulle omskrive kode eller styre komplekse systemer. I dag har Ray mere end 39.000 GitHub-stjerner og over 214 millioner downloads, hvilket gør det til et af de mest omfattende distribuerede computing-frameworks i verden.

Hvordan Ray Komplementerer PyTorch og vLLM

Ray sidder mellem trænings- og inference-rammer (såsom PyTorch, DeepSpeed og vLLM) og container-orchestration-laget (som Kubernetes eller Slurm). Denne position giver Ray mulighed for at koordinere distribuerede arbejdsbelastninger effektivt og brokke gapet mellem modeltræning og produktions-skala-deployment.

Rays nøglefunktioner omfatter:

• Flervalgsdata-processing: Behandler massive, diverse datasæt – tekst, billeder, lyd og video – i parallel, maksimerer gennemstrømning og effektivitet.
• For-træning og efter-justering: Skalerer PyTorch og andre rammer på tværs af tusinder af GPU’er til både for-træning og fin-justering.
• Distribueret inference: Implementerer modeller i produktion med høj gennemstrømning og lav ventetid, dynamisk styre arbejdsbelastnings-peak på tværs af heterogene kluster.

Sammen giver disse funktioner Ray “limen”, der binder sammen modeloprettelse, optimering og servering, og danner effektivt det distribuerede compute-engine-lag i moderne AI-infrastruktur.

Hvad Dette Betyder for Udviklere og Virksomheder

I dagens AI-drevne økonomi står organisationer over for enorme udfordringer omkring skala, vendor-lås og compute-ineffektivitet. Proprietære systemer fragmenterer ofte arbejdsprocesser og langsommere innovation. Med Ray, der nu er en del af PyTorch Foundation, får udviklere en fuldt åben kildekode, interoperabel compute-stak, der eliminerer mange af disse smertepunkter.

Som Matt White, GM of AI på Linux Foundation, forklarede, samarbejdet “forener de kritiske komponenter, der er nødvendige for at bygge næste generations AI-systemer.” Samlingen giver hold mulighed for at udvikle avancerede AI-systemer – fra store sprogmodeller til flervalgsapplikationer – uden at skulle afhænge af lukkede, proprietære infrastrukturer. I stedet kan udviklere træne og implementere AI-modeller ved hjælp af et økosystem, der er skalerbart, modulært og community-drevet.

De Brede Konsekvenser for Åben Kildekode AI

Samarbejdet mellem PyTorch, vLLM og Ray peger mod en ny æra af åben compute-interoperabilitet. Med Linux Foundation som neutral styre, får AI-industrien en bæredygtig model for udvikling af fælles infrastruktur – ligesom Kubernetes standardiserede cloud-orchestration.

Industriens ledere gentog denne holdning. Chris Aniszczyk fra Cloud Native Computing Foundation bemærkede, at “Ray og Kubernetes er naturligt komplementære,” kombinerer orchestration og distribueret computing-styrker for at drive næste generations AI-systemer. Uber’s direktør for ingeniørarbejde, Zhitao Li, tilføjede, at Ray allerede er en “central del” af deres AI-platform, der driver storstiletræning og data-processing. Og Meta’s Joe Spisak, en PyTorch Foundation-bestyrelsesmedlem, kaldte Rays tilføjelse en “vigtig milepæl for åben kildekode AI,” understreger, hvordan det skaber en samlet, community-drevet compute-stak.

At Se Fremad

Anyscale’s medstifter Robert Nishihara sammenfattede milepælen kortfattet:

“Vores mål er at gøre distribueret computing så let som at skrive Python-kode. At være en del af PyTorch Foundation sikrer, at Ray fortsætter med at være en åben, community-drevet rygrad for udviklere.”

Udviklere og bidragsydere kan engagere sig i projektet via Ray GitHub-repositoriet eller deltage i Ray Summit 2025 i San Francisco i november, hvor fællesskabet vil yderligere udforske, hvad denne nye åbne kildekode-fond betyder for fremtiden for AI-skalerbarhed og tilgængelighed.

I essensen fuldender Ray den manglende lag i den åbne kildekode AI-økosystem – bringer sammen modelering, inference og distribueret eksekution under en fond. Det er et afgørende skridt mod en fremtid, hvor AI-infrastruktur ikke kun er mere kraftfuld, men også mere åben, effektiv og udvikler-venlig.