PyTorch Foundation Integrerer Ray, et Distribuert Datamaskinrammeverk, for å Bygge en Samlet AI-infrastrukturstack

Det åpne kildekode AI-økosystemet tok et avgjørende skritt fremover i dag da PyTorch Foundation annonserte at Ray, det distribuerte datamaskinrammeverket som opprinnelig ble utviklet av Anyscale, har offisielt sluttet seg til deres rekker. Bevegelsen markerer et betydelig skritt mot en samlet, interoperabel og produksjonsklar AI-regneklynge – en som binder sammen de grunnleggende lagene av modellutvikling (PyTorch), distribuert inferens (vLLM) og stor skala eksekvering (Ray).

En Samlet Grunnlag for Åpen Kildekode AI

Vedlikeholdt under Linux Foundation, fungerer PyTorch Foundation som en sentral hub for noen av de viktigste åpne kildekode AI-teknologiene. Deres misjon er å redusere fragmentering og fremme samarbeid over hver fase av AI-utvikling. Ved å integrere Ray sammen med PyTorch og vLLM, leverer foundationen det industrien lenge har behøvd – en samlet, sluttpunkt-til-sluttpunkt-stakk for bygging, trening og distribusjon av AI i stor skala.

Rays inklusjon representerer også kulminasjonen av år med akademisk og industriell evolusjon. Født ved UC Berkeley’s RISELab, ble Ray designet for å forenkle distribuert datamaskin for AI- og maskinlæring-arbeidsbyrder. Det muliggjør for utviklere å skalerer jobber sømløst fra en enkelt bærbar datamaskin til tusenvis av maskiner uten å skrive om kode eller håndtere komplekse systemer. Per i dag, har Ray over 39 000 GitHub-stjerner og over 214 millioner nedlastinger, noe som gjør det til ett av de mest omfattende distribuerte datamaskinrammeverkene i verden.

Hvordan Ray Komplementerer PyTorch og vLLM

Ray sitter mellom trening- og inferens-rammeverkene (slik som PyTorch, DeepSpeed og vLLM) og containere-koordineringslaget (som Kubernetes eller Slurm). Denne posisjonen tillater Ray å koordinere distribuerte arbeidsbyrder effektivt mens den broer gapet mellom modelltrening og produksjonsskala-distribusjon.

Rays nøkkelkapasiteter inkluderer:

• Flervalgt data-behandling: Behandler massive, forskjellige datasett – tekst, bilder, lyd og video – parallelt, maksimerer gjennomstrømming og effisiens.
• For-trening og etter-justering: Skalerer PyTorch og andre rammeverk over tusenvis av GPU-er for både for-trening og fin-justering-oppgaver.
• Distribuert inferens: Distribuerer modeller i produksjon med høy gjennomstrømming og lav forsinkelse, dynamisk håndtering av arbeidsbyrde-utbrudd over heterogene kluster.

Sammen gjør disse funksjonene Ray til “limet” som binder sammen modellskapelse, optimalisering og tjeneste, og danner effektivt distribuert datamaskin-motoren i moderne AI-infrastruktur.

Hva Dette Betyr for Utviklere og Bedrifter

I dagens AI-drevne økonomi, møter organisasjoner enorme utfordringer rundt skalerbarhet, leverandør-lås og datamaskin-ineffisiens. Proprietære systemer fragmenterer ofte arbeidsflyter og sakte ned innovasjon. Med Ray som slutter seg til PyTorch Foundation, får utviklere en fullstendig åpen kildekode, interoperabel datamaskin-stakk som eliminerer mange av disse smertepunktene.

Som Matt White, GM av AI i Linux Foundation, forklarte, samarbeider dette “samler de kritiske komponentene nødvendige for å bygge neste-generasjons AI-systemer.” Samlingen tillater team å utvikle avanserte AI-systemer – fra store språkmodeller til flervalgte applikasjoner – uten å avhenge av lukkede, proprietære infrastrukturer. I stedet kan utviklere trene og distribuere AI-modeller ved hjelp av et økosystem som er skalerbart, modulært og community-drevet.

De Videre Implikasjonene for Åpen Kildekode AI

Samarbeidet mellom PyTorch, vLLM og Ray peker mot en ny æra av åpen datamaskin-interoperabilitet. Med Linux Foundation som gir nøytral styring, får AI-industrien en bærekraftig modell for utvikling av felles infrastruktur – lignende hvordan Kubernetes standardiserte sky-koordinering.

Industri-ledere ekkoet denne holdningen. Chris Aniszczyk av Cloud Native Computing Foundation noterte at “Ray og Kubernetes er naturlig komplementære,” kombinere koordinerings- og distribuert datamaskin-styrker for å drive neste-generasjons AI-systemer. Ubers direktør for ingeniørarbeid, Zhitao Li, la til at Ray allerede er en “kjerne-del” av deres AI-plattform, som driver stor skala-trening og data-behandling. Og Metas Joe Spisak, en PyTorch Foundation-styremedlem, kalte Rays tillegg en “betydelig milepæl for åpen kildekode AI,” understreket hvordan det skaper en samlet, community-drevet datamaskin-stakk.

Se Fremover

Anscyles medgrunnlegger Robert Nishihara summerer milepælen konsist:

“Vårt mål er å gjøre distribuert datamaskin like enkelt som å skrive Python-kode. Å slutte seg til PyTorch Foundation sikrer at Ray fortsetter å være en åpen, community-drevet ryggrad for utviklere.”

Utviklere og bidragsytere kan engasjere seg i prosjektet via Ray GitHub-repositoriet eller delta i Ray Summit 2025 i San Francisco i november, hvor samfunnet vil videre utforske hva denne nye åpne kildekode-grunnlaget betyr for fremtiden til AI-skalerbarhet og tilgjengelighet.

I essensen fullfører tillegg av Ray det manglende laget i det åpne kildekode AI-økosystemet – bringer sammen modellering, inferens og distribuert eksekvering under ett grunnlag. Det er et avgjørende skritt mot en fremtid hvor AI-infrastruktur ikke bare er mer kraftfull, men også mer åpen, effektiv og utvikler-vennlig.