Fundația PyTorch Integrează Ray, un cadru de calcul distribuit, pentru a construi o infrastructură unificată de inteligență artificială

O fundație unificată pentru inteligența artificială deschisă

Găzduită sub Linux Foundation, Fundația PyTorch acționează ca un hub central pentru unele dintre cele mai importante tehnologii de inteligență artificială deschisă. Misiunea sa este de a reduce fragmentarea și de a promova colaborarea în toate fazele dezvoltării inteligenței artificiale. Prin integrarea lui Ray alături de PyTorch și vLLM, fundația oferă ceea ce industria a necesitat de mult timp – o stivă coezivă, de la capăt la capăt, pentru construirea, antrenarea și implementarea inteligenței artificiale la scară. Includerea lui Ray reprezintă, de asemenea, culminarea a ani de evoluție academică și industrială. Născut la RISELab de la UC Berkeley,Ray a fost proiectat pentru a simplifica calculul distribuit pentru sarcinile de inteligență artificială și învățare automată. Acesta permite dezvoltatorilor să scaleze sarcinile fără efort de la un singur laptop la mii de mașini, fără a rescrie codul sau a gestiona sisteme complexe. Până în prezent, Ray are peste 39.000 de stele GitHub și peste 214 milioane de descărcări, făcându-l unul dintre cele mai răspândite cadre de calcul distribuit din lume.

Cum completează Ray PyTorch și vLLM

Ray se situează între cadrele de antrenare și inferență (cum ar fi PyTorch, DeepSpeed și vLLM) și stratul de orchestrare a containerelor (cum ar fi Kubernetes sau Slurm). Această poziție permite lui Ray să coordoneze eficient sarcinile distribuite și să acopere lacuna dintre antrenarea modelului și implementarea la scară de producție. Capacitățile cheie ale

• calcul distribuit al infrastructurii de inteligență artificială moderne. Procesarea multimodală a datelor: gestionează seturi de date masive și diverse –
• text, imagini, audio și video – în paralel, maximizând debitul și eficiența. Pre-antrenare și post-ajustare: scalează PyTorch și alte cadre peste mii de GPU-uri atât
• pentru pre-antrenare, cât și pentru sarcini de ajustare fină. Inferență distribuită: implementează modele în producție cu un debit ridicat și o latență

lui Ray includ: Împreună, aceste funcții fac din Ray “cleiul” care leagă crearea modelului, optimizarea și servirea, formând efectiv stratul de scăzută, gestionând dinamic izbucnirile de sarcină peste clusterelor eterogene.

Ce înseamnă acest lucru pentru dezvoltatori și întreprinderi

În economia actuală, condusă de inteligența artificială, organizațiile se confruntă cu provocări imense legate de scalare, blocajul furnizorilor și ineficiența calculului. Sistemele proprietare fragmentează adesea fluxurile de lucru și încetinesc inovația. Prin alăturarea lui Ray la Fundația PyTorch, dezvoltatorii câștigă o stivă de calcul complet deschisă și interoperabilă, care elimină multe dintre aceste puncte dureroase. După cum a explicat Matt White,director general al inteligenței artificiale la Linux Foundation, această colaborare “unește componentele critice necesare pentru a construi sisteme de inteligență artificială de generație următoare”. Unificarea permite echipelor să dezvolte sisteme avansate de inteligență artificială – de la modele de limbaj la aplicații multimodale – fără a se baza pe infrastructuri proprietare închise. În schimb, dezvoltatorii pot antrena și implementa modele de inteligență artificială utilizând un ecosistem care este escalabil, modular și condus de comunitate.

Implicațiile mai largi pentru inteligența artificială deschisă

Colaborarea dintre PyTorch, vLLM și Ray indică o nouă eră de interoperabilitate deschisă a calculului. Cu guvernarea neutră a Fundației Linux, industria de inteligență artificială câștigă un model durabil pentru dezvoltarea infrastructurii partajate – asemănător cu modul în care Kubernetes a standardizat orchestrarea cloud. Liderii din industrie au reflectat acest sentiment. Chris Aniszczyk de la Cloud Native Computing Foundation a remarcat că “Ray și Kubernetes sunt complementare înmod natural”, combinând orchestarea și calculul distribuit pentru a alimenta sistemele de inteligență artificială de generație următoare. Directorul de inginerie de la Uber, Zhitao Li, a adăugat că Ray este deja o “parte centrală” a platformei lor de inteligență artificială, alimentând antrenarea la scară largă și procesarea datelor. Și Joe Spisak de la Meta, un membru al consiliului deadministrație al Fundației PyTorch, a numit adăugarea lui Ray “un punct de referință semnificativ pentru inteligența artificială deschisă”, subliniind modul în care creează o stivă de calcul unificată și condusă de comunitate.

Privind înainte

Co-fondatorul Anyscale, Robert Nishihara, a rezumat acest punct de referință în

mod concis: “Scopul nostru este de a face calculul distribuit la fel de simplu ca scrierea codului Python. Alăturarea la Fundația PyTorch asigură că Ray rămâne o coloană vertebrală deschisă și condusă de

comunitate pentru dezvoltatori.” Dezvoltatorii și contributorii pot interacționa cu proiectul prin depozitul GitHub al lui Ray sau pot participa la Ray Summit 2025, care va avea loc la San Francisco în acest noiembrie, unde comunitatea va explora mai departe ce înseamnă această nouă fundație deschisă pentru viitorul scalabilității și accesibilității inteligenței artificiale. În esență, adăugarea lui Ray completează stratul lipsă în ecosistemul de inteligență artificială deschisă – reunind modelarea, inferența și executarea distribuită sub o singură fundație. Acesta este un pas crucial către un viitor în care infrastructura de inteligență artificială nu numai că este mai puternică, dar și mai deschisă, eficientă și prietenoasă pentru dezvoltatori.