PyTorch-säätiö integroi Rayn, jakelun ja laskennan kehyksen, yhdenmukaisen tekoäly-infrastruktuurin rakentamiseksi

Avoin tekoäly-ekosysteemi teki tänään merkittävän askeleen eteenpäin, kun PyTorch-säätiö ilmoitti, että Ray, jakelu- ja laskennan kehys, joka on alun perin kehitetty Anyscale:llä, on virallisesti liittynyt siihen. Tämä liitto edustaa merkittävää askelta kohti yhdenmukaista, yhteensopivaa ja tuotantovalmiita tekoäly-laskentaohjelmistoa – yhtä, joka yhdistää perusrakenteelliset kerrokset mallikehityksestä (PyTorch), jakelulaskennasta (vLLM) ja suurten mittakaavojen suorittamisesta (Ray).

Yhdenmukainen perusta avoimelle tekoälylle

Linux-säätiön alaisuudessa toimiva PyTorch-säätiö toimii keskeisenä keskuksena joillekin tärkeimmille avoin tekoäly-teknologioille. Sen tehtävänä on vähentää fragmentaatiota ja edistää yhteistyötä kaikissa tekoälykehityksen vaiheissa. Rayn integroiminen PyTorchin ja vLLM:n rinnalle antaa säätiölle mitä teollisuus on pitkään kaivannut – yhtenäisen, kokonaisvaltaisen pinon tekoälyn rakentamiseen, kouluttamiseen ja käyttöönottoon.
Rayn liittymisen myötä on myös täytetty vuosien akateeminen ja teollinen kehitys. UC Berkeley:n RISELabissa syntynyt Ray suunniteltiin yksinkertaistamaan jakelulaskentaa tekoäly- ja koneoppimistehtävissä. Se mahdollistaa kehittäjille tehtävien skaalautumisen vaivattomasti yhdestä kannettavasta tietokoneesta tuhansiin koneisiin ilman koodin uudelleenkirjoittamista tai monimutkaisten järjestelmien hallintaa. Tällä hetkellä Raylla on yli 39 000 GitHub-tähteä ja yli 214 miljoonaa latausta, mikä tekee siitä yhden maailman laajimmin käytetyistä jakelulaskennan kehyksistä.

Miten Ray täydentää PyTorchia ja vLLM:ää

Ray sijaitsee koulutus- ja laskentakehysten (kuten PyTorch, DeepSpeed ja vLLM) ja kontti-orkestraatiokerroksen (kuten Kubernetes tai Slurm) välissä. Tämä asema mahdollistaa Raylle jakelutehtävien koordinoinnin tehokkaasti ja sillan rakentamisen mallin koulutuksen ja tuotantoon sopivan käyttöönoton välille.
Rayn avainominaisuudet ovat:

• Monitietoisuuden käsittely: Käsittelee massiivisia, monimuotoisia tietoja – tekstiä, kuvia, ääntä ja videota – rinnakkain, maksimoiden läpipääsyä ja tehokkuutta.
• Esikoulutus ja jälkitarkennus: Skaalautuu PyTorchia ja muita kehyksiä tuhansiin GPU:hin sekä esikoulutuksessa että hienosäätötehtävissä.
• Jakelulaskenta: Käyttöönotto malleja tuotannossa suurella läpipääsyä ja alhaisella viiveellä, dynaamisesti hallitsemalla työkuormien räjähdyskohtia heterogeenisissä klustereissa.

Nämä toiminnot tekevät Raysta “liimasta”, joka yhdistää mallin luomisen, optimoinnin ja palvelun, muodostaen tehokkaan jakelulaskennan moottorin modernin tekoäly-infrastruktuurin kerroksessa.

Mitä tämä merkitsee kehittäjille ja yrityksille

Nykyisessä tekoäly-vetisessä taloudessa organisaatiot kohtaavat valtavia haasteita skaalautuvuuden, toimittajariippuvuuden ja laskennan tehokkuuden suhteen. Omistajan ohjaimet usein fragmentoivat työvirran ja hidastavat innovaatiota. PyTorch-säätiön liittyessä Rayn, kehittäjät saavat täysin avoimen, yhteensopivan laskentaohjelmiston, joka poistaa monia näistä kipukohtia.
Kuten Matt White, AI:n johtaja Linux-säätiössä, selitti, tämä yhteistyö “yhdistää kriittiset komponentit, joita tarvitaan seuraavan sukupolven tekoälyjärjestelmien rakentamiseen.” Tämä yhdistäminen mahdollistaa tiimille kehittää edistyneitä tekoälyjärjestelmiä – suurista kielimalleista monimuotoisiin sovelluksiin – ilman suljettuja, omistajien ohjaimia. Sen sijaan kehittäjät voivat kouluttaa ja käyttöönottoon tekoälymalleja ekosysteemin, joka on skaalautuva, modulaarinen ja yhteisövetoinen.

Laajemmat vaikutukset avoimelle tekoälylle

PyTorchin, vLLM:n ja Rayn yhteistyö osoittaa uuden aikakauden avoimen laskenta-yhteensopivuuden suuntaan. Linux-säätiön tarjoamalla puolueettomalla hallinnolla tekoälyteollisuus saa kestävän mallin jaettujen infrastruktuurien kehittämiseen – samalla tavalla kuin Kubernetes standardisoi pilvi-orkestraation.
Teollisuuden johtajat toistivat tämän mielipiteen. Chris Aniszczyk Cloud Native Computing Foundationista totesi, että “Ray ja Kubernetes ovat luonnostaan täydentäviä,” yhdistäen orkestraation ja jakelulaskennan vahvuudet seuraavan sukupolven tekoälyjärjestelmien voimakkaaksi tekemiseksi. Uberin teknologiajohtaja Zhitao Li lisäsi, että Ray on jo “keskeinen osa” heidän tekoäly-alustastaan, voimakkaan koulutuksen ja datan käsittelyn mahdollistamiseksi. Meta:n Joe Spisak, PyTorch-säätiön hallituksen jäsen, kutsui Rayn lisäämistä “merkittäväksi merkkipaaluksi avoimelle tekoälylle,” korostamalla, miten se luo yhdenmukaisen, yhteisövetoinen laskentaohjelmiston.

Eteenpäin katse

Anyscale:n perustaja Robert Nishihara kiteytti tämän merkkipaaluksen lyhyesti:

“Tavoitteemme on tehdä jakelulaskenta yhtä suoraviivaista kuin Python-koodin kirjoittaminen. Liittyminen PyTorch-säätiöön varmistaa, että Ray jatkaa avoimena, yhteisövetoinen jakelulaskennan perustana kehittäjille.”

Kehittäjät ja avustajat voivat osallistua projektiin Rayn GitHub-arkistossa tai osallistua Ray Summit 2025:iin San Franciscossa tulevana marraskuuna, jossa yhteisö tutkii tarkemmin, mitä tämä uusi avoin säätiö merkitsee tekoälyn skaalautuvuuden ja saatavuuden tulevaisuudelle.

Rayn lisääminen täydentää puuttuvan kerroksen avoimessa tekoäly-ekosysteemissä – yhdistäen mallinnuksen, laskennan ja jakelun yhden säätiön alle. Se on ratkaiseva askel kohti tulevaisuutta, jossa tekoäly-infrastruktuuri on voimakkaampi, avoimempi, tehokkaampi ja kehittäjien kannalta ystävällisempi.