Connect with us

Kecerdasan buatan

Yayasan PyTorch Mengintegrasikan Ray, Kerangka Kerja Komputasi Terdistribusi, untuk Membangun Tumpukan Infrastruktur AI yang Terintegrasi

mm
Published
Updated

Ekosistem AI sumber terbuka melakukan lompatan besar hari ini karena Yayasan PyTorch mengumumkan bahwa Ray, kerangka kerja komputasi terdistribusi yang awalnya dikembangkan oleh Anyscale, secara resmi bergabung dengan barisan mereka. Langkah ini menandai langkah besar menuju tumpukan komputasi AI yang terintegrasi, interoperabel, dan siap produksi—yang menghubungkan lapisan dasar pengembangan model (PyTorch), inferensi terdistribusi (vLLM), dan eksekusi skala besar (Ray).

Yayasan Terintegrasi untuk AI Sumber Terbuka

Dengan host di bawah Linux Foundation, Yayasan PyTorch bertindak sebagai pusat hub untuk beberapa teknologi AI sumber terbuka paling penting. Misi mereka adalah untuk mengurangi fragmentasi dan memfasilitasi kolaborasi di seluruh fase pengembangan AI. Dengan mengintegrasikan Ray bersama PyTorch dan vLLM, yayasan ini memberikan apa yang telah lama dibutuhkan industri—tumpukan yang kohesif, ujung-ke-ujung untuk membangun, melatih, dan mengirimkan AI secara besar-besaran.
Ray’s inclusion juga mewakili puncak dari tahun-tahun evolusi akademis dan industri. Lahir di RISELab UC Berkeley, Ray dirancang untuk menyederhanakan komputasi terdistribusi untuk beban kerja AI dan pembelajaran mesin. Ini memungkinkan pengembang untuk menskalakan pekerjaan dengan mulus dari satu laptop ke ribuan mesin tanpa menulis ulang kode atau mengelola sistem kompleks. Sampai hari ini, Ray memiliki lebih dari 39.000 bintang GitHub dan lebih dari 214 juta unduhan, menjadikannya salah satu kerangka kerja komputasi terdistribusi yang paling banyak diadopsi di dunia.

Bagaimana Ray Melengkapi PyTorch dan vLLM

Ray berada di antara kerangka kerja pelatihan dan inferensi (seperti PyTorch, DeepSpeed, dan vLLM) dan lapisan orkestrasi wadah (seperti Kubernetes atau Slurm). Posisi ini memungkinkan Ray untuk mengkoordinasikan beban kerja terdistribusi dengan efisien sambil menjembatani kesenjangan antara pelatihan model dan penerapan skala produksi.

Related Topics:
mm

Antoine adalah seorang pemimpin visioner dan mitra pendiri Unite.AI, didorong oleh semangat yang tak tergoyahkan untuk membentuk dan mempromosikan masa depan AI dan robotika. Seorang wirausaha serial, ia percaya bahwa AI akan sama-sama mengganggu masyarakat seperti listrik, dan sering tertangkap berbicara tentang potensi teknologi mengganggu dan AGI.

As a futurist, ia berdedikasi untuk mengeksplorasi bagaimana inovasi ini akan membentuk dunia kita. Selain itu, ia adalah pendiri Securities.io, sebuah platform yang fokus pada investasi di teknologi-teknologi canggih yang mendefinisikan kembali masa depan dan membentuk kembali seluruh sektor.