Connect with us

Inteligență artificială

Fundația PyTorch Integrează Ray, un Cadru de Calcul Distribuit, pentru a Construi o Stivă Unificată de Infrastructură AI

mm

Ecosistemul deschis de inteligență artificială a făcut astăzi un salt decisiv, deoarece Fundația PyTorch a anunțat că Ray, cadru de calcul distribuit dezvoltat inițial de Anyscale, s-a alăturat oficial acestora. Această mișcare marchează un pas semnificativ către o stivă de calcul AI unificată, interoperabilă și gata de producție – una care leagă straturile fundamentale ale dezvoltării de modele (PyTorch), inferenței distribuite (vLLM) și executării la scară largă (Ray).

O Fundație Unificată pentru Inteligența Artificială Deschisă

Găzduită sub Linux Foundation, Fundația PyTorch acționează ca un hub central pentru unele dintre cele mai importante tehnologii de inteligență artificială deschisă. Misiunea sa este de a reduce fragmentarea și de a promova colaborarea în toate fazele dezvoltării inteligenței artificiale. Prin integrarea lui Ray alături de PyTorch și vLLM, fundația oferă ceea ce industria a necesitat de mult timp – o stivă coezivă, de la capăt la capăt, pentru crearea, antrenarea și implementarea inteligenței artificiale la scară.
Ray’s includerea reprezintă, de asemenea, culminarea a ani de evoluție academică și industrială. Născut la RISELab UC Berkeley, Ray a fost proiectat pentru a simplifica calculul distribuit pentru sarcinile de inteligență artificială și învățare automată. Acesta permite dezvoltatorilor să scaleze sarcinile în mod transparent de la un singur laptop la mii de mașini fără a rescrie codul sau a gestiona sisteme complexe. Până în prezent, Ray are peste 39.000 de stele GitHub și peste 214 milioane de descărcări, făcându-l unul dintre cele mai răspândite cadre de calcul distribuit din lume.

Cum Completează Ray PyTorch și vLLM

Ray se situează între cadrele de antrenare și inferență (cum ar fi PyTorch, DeepSpeed și vLLM) și stratul de orchestrare a containerelor (cum ar fi Kubernetes sau Slurm). Această poziție permite lui Ray să coordoneze sarcinile distribuite în mod eficient, punând podul dintre antrenarea modelului și implementarea la scară de producție.
Capacitățile cheie ale lui Ray includ:

  • Procesarea multimodală a datelor: Gestionează seturi masive și diverse de date – text, imagini, audio și video – în paralel, maximizând debitul și eficiența.
  • Pre-antrenare și post-ajustare: Scalează PyTorch și alte cadre pe mii de GPU-uri atât pentru sarcinile de pre-antrenare, cât și pentru cele de ajustare fină.
  • Inferență distribuită: Implementează modele în producție cu un debit ridicat și o latență scăzută, gestionând dinamic izbucnirile de sarcină pe clusterelor eterogene.

Împreună, aceste funcții fac din Ray “cleiul” care leagă crearea modelului, optimizarea și servirea, formând efectiv stratul de motor de calcul distribuit al infrastructurii moderne de inteligență artificială.

Ce Înseamnă Acest Lucru pentru Dezvoltatori și Întreprinderi

În economia actuală condusă de inteligența artificială, organizațiile se confruntă cu provocări imense legate de scalare, blocarea furnizorilor și ineficiența calculului. Sistemele proprietare fragmentează adesea fluxurile de lucru și încetinesc inovația. Cu Ray care se alătură Fundației PyTorch, dezvoltatorii câștigă o stivă de calcul complet deschisă, interoperabilă, care elimină multe dintre aceste puncte dureroase.
După cum a explicat Matt White, director general al inteligenței artificiale la Linux Foundation, această colaborare “unește componentele critice necesare pentru a construi sisteme de inteligență artificială de generație următoare.” Unificarea permite echipelor să dezvolte sisteme avansate de inteligență artificială – de la modele de limbaj la aplicații multimodale – fără a se baza pe infrastructuri proprietare și închise. În schimb, dezvoltatorii pot antrena și implementa modele de inteligență artificială utilizând un ecosistem care este escalabil, modular și condus de comunitate.

Implicațiile Mai Largi pentru Inteligența Artificială Deschisă

Colaborarea dintre PyTorch, vLLM și Ray indică o nouă eră de interoperabilitate a calculului deschis. Cu guvernarea neutră a Fundației Linux, industria inteligenței artificiale obține un model durabil pentru dezvoltarea infrastructurii partajate – similar cu modul în care Kubernetes a standardizat orchestrarea cloud.
Liderii industriei au reflectat acest sentiment. Chris Aniszczyk de la Cloud Native Computing Foundation a remarcat că “Ray și Kubernetes sunt complementare în mod natural,” combinând punctele forte ale orchestrării și calculului distribuit pentru a alimenta sistemele de inteligență artificială de generație următoare. Directorul de inginerie de la Uber, Zhitao Li, a adăugat că Ray este deja o “parte centrală” a platformei lor de inteligență artificială, alimentând antrenarea la scară largă și procesarea datelor. Și Joe Spisak de la Meta, un membru al consiliului de administrație al Fundației PyTorch, a numit adăugarea lui Ray o “piatră de hotar importantă pentru inteligența artificială deschisă,” subliniind modul în care creează o stivă de calcul unificată, condusă de comunitate.

Privind Înainte

Co-fondatorul Anyscale, Robert Nishihara, a rezumat acest moment decisiv astfel:

“Scopul nostru este de a face calculul distribuit la fel de simplu ca scrierea codului Python. Alăturarea Fundației PyTorch asigură că Ray rămâne o componentă deschisă, condusă de comunitate, pentru dezvoltatori.”

Dezvoltatorii și contributorii pot interacționa cu proiectul prin depozitul GitHub Ray sau pot participa la Ray Summit 2025 la San Francisco, în acest noiembrie, unde comunitatea va explora în continuare ce înseamnă această nouă fundație deschisă pentru viitorul scalabilității și accesibilității inteligenței artificiale.

În esență, adăugarea lui Ray completează stratul lipsă în ecosistemul de inteligență artificială deschisă – aducând împreună modelarea, inferența și executarea distribuită sub o singură fundație. Acesta este un pas crucial către un viitor în care infrastructura de inteligență artificială nu este doar mai puternică, ci și mai deschisă, eficientă și prietenoasă pentru dezvoltatori.

Antoine este un lider vizionar și partener fondator al Unite.AI, condus de o pasiune neclintita pentru a da forma și a promova viitorul inteligenței artificiale și al roboticii. Un antreprenor serial, el crede că inteligența artificială va fi la fel de disruptivă pentru societate ca și electricitatea, și este adesea prins vorbind cu entuziasm despre potențialul tehnologiilor disruptive și al inteligenței artificiale generale.

Ca futurist, el este dedicat explorării modului în care aceste inovații vor modela lumea noastră. În plus, el este fondatorul Securities.io, o platformă axată pe investiții în tehnologii de ultimă generație care redefinesc viitorul și reshapă întregi sectoare.