PyTorch Vakfı, Birleşik Bir Yapay Zeka Altyapı Yığını Oluşturmak İçin Dağıtık Bilgi İşlem Çerçevesi Ray'i Entegre Ediyor

Açık kaynaklı yapay zeka ekosistemi bugün belirleyici bir sıçrama yaptı PyTorch Vakfı Bunu ilan etti ışın, başlangıçta tarafından geliştirilen dağıtılmış bilgi işlem çerçevesi herhangi bir ölçekte, resmen aramıza katıldı. Bu hamle, model geliştirmenin (PyTorch), dağıtılmış çıkarımın (vLLM) ve büyük ölçekli yürütmenin (Ray) temel katmanlarını birbirine bağlayan, birleşik, birlikte çalışabilir ve üretime hazır bir yapay zeka hesaplama yığınına doğru önemli bir adımı temsil ediyor.

Açık Kaynaklı Yapay Zeka için Birleşik Bir Temel

Linux Vakfı'nın bünyesinde barındırılan PyTorch Vakfı, en önemli bazı konular için merkezi bir merkez görevi görüyor. açık kaynak Yapay Zeka teknolojileri. Misyonu, parçalanmayı azaltmak ve yapay zeka geliştirmenin her aşamasında iş birliğini teşvik etmektir. Ray'i PyTorch ve vLLM ile entegre eden vakıf, sektörün uzun zamandır ihtiyaç duyduğu şeyi, yani yapay zekayı büyük ölçekte oluşturmak, eğitmek ve dağıtmak için tutarlı, uçtan uca bir yığın sunuyor.

Ray'in dahil edilmesi aynı zamanda yıllarca süren akademik ve endüstriyel evrimin doruk noktasını temsil ediyor. UC Berkeley'in RISELab'ıRay, yapay zeka ve makine öğrenimi iş yükleri için dağıtılmış bilgi işlem süreçlerini basitleştirmek üzere tasarlanmıştır. Geliştiricilerin, kodları yeniden yazmadan veya karmaşık sistemleri yönetmeden, işleri tek bir dizüstü bilgisayardan binlerce makineye sorunsuz bir şekilde ölçeklendirmelerini sağlar. Bugün itibarıyla Ray, 39,000 GitHub yıldızı ve 214 milyondan fazla indirmeye ulaşarak, dünyada en yaygın olarak benimsenen dağıtılmış bilgi işlem çerçevelerinden biri haline gelmiştir.

Ray, PyTorch ve vLLM'yi Nasıl Tamamlıyor?

Ray, eğitim ve çıkarım çerçeveleri (PyTorch, DeepSpeed ​​ve vLLM gibi) ile konteyner düzenleme katmanı (Kubernetes veya Slurm gibi) arasında yer alır. Bu pozisyon, Ray'in dağıtılmış iş yüklerini verimli bir şekilde koordine etmesini ve model eğitimi ile üretim ölçeğinde dağıtım arasındaki boşluğu kapatmasını sağlar.

Ray'in temel yetenekleri şunlardır:

• Çok modlu veri işleme: Metin, resim, ses ve video gibi büyük ve çeşitli veri kümelerini paralel olarak işleyerek verimi ve verimliliği en üst düzeye çıkarır.
• Ön eğitim ve ayarlama sonrası: Hem ön eğitim hem de ince ayar görevleri için PyTorch ve diğer çerçeveleri binlerce GPU'da ölçeklendirir.
• Dağıtılmış çıkarım: Üretimde yüksek verim ve düşük gecikmeyle modelleri dağıtır, heterojen kümeler arasında iş yükü patlamalarını dinamik olarak yönetir.

Bu işlevler bir araya geldiğinde Ray, model oluşturma, optimizasyon ve servis etme süreçlerini bir araya getiren "yapıştırıcı" görevi görür ve etkili bir şekilde dağıtılmış hesaplama motoru Modern yapay zeka altyapısının katmanı.

Bu, Geliştiriciler ve İşletmeler İçin Ne Anlama Geliyor?

Günümüzün yapay zeka odaklı ekonomisinde, kuruluşlar ölçeklendirme, tedarikçi bağımlılığı ve bilgi işlem verimsizliği gibi büyük zorluklarla karşı karşıyadır. Tescilli sistemler genellikle iş akışlarını parçalar ve inovasyonu yavaşlatır. Ray'in PyTorch Vakfı'na katılmasıyla, geliştiriciler bu sorunların çoğunu ortadan kaldıran tamamen açık kaynaklı, birlikte çalışabilir bir bilgi işlem yığınına kavuşuyor.

As Mat BeyazLinux Vakfı'nda Yapay Zeka Genel Müdürü olan , bu işbirliğinin "Yeni nesil yapay zeka sistemlerinin inşası için gereken kritik bileşenleri bir araya getiriyor." Birleştirme, ekiplerin kapalı, tescilli bir altyapıya ihtiyaç duymadan, büyük dil modellerinden çok modlu uygulamalara kadar gelişmiş yapay zeka sistemleri geliştirmelerine olanak tanır. Bunun yerine, geliştiriciler ölçeklenebilir, modüler ve topluluk odaklı bir ekosistem kullanarak yapay zeka modellerini eğitebilir ve dağıtabilirler.

Açık Kaynaklı Yapay Zeka İçin Daha Geniş Etkiler

PyTorch, vLLM ve Ray arasındaki iş birliği, açık bilgi işlem birlikte çalışabilirliğinde yeni bir çağa işaret ediyor. Linux Vakfı'nın tarafsız yönetim sağlamasıyla, yapay zeka sektörü, Kubernetes'in bulut düzenlemesini standartlaştırmasına benzer şekilde, paylaşımlı altyapı geliştirmek için sürdürülebilir bir model kazanıyor.

Sektör liderleri de aynı görüşte. chris aniszczyk Bulut Yerel Bilişim Vakfı'nın şu ifadeleri dikkat çekti:Ray ve Kubernetes doğal olarak birbirini tamamlar.” orkestrasyon ve dağıtılmış bilgi işlem güçlerini birleştirerek yeni nesil yapay zeka sistemlerini güçlendiriyor. Uber Mühendislik Direktörü, Zhitao Li, Ray'in zaten bir "çekirdek parça" Yapay zeka platformlarının büyük ölçekli eğitim ve veri işlemeyi desteklemesi. Ve Meta'nın Joe SpisakPyTorch Vakfı yönetim kurulu üyesi, Ray'in eklenmesini şöyle adlandırdı: "açık kaynaklı yapay zeka için önemli bir dönüm noktası" birleşik, topluluk odaklı bir bilgi işlem yığınının nasıl yaratıldığını vurguluyor.

Geleceğe Bakan Vizyon

Anyscale'in kurucu ortağı Robert Nishihara bu dönüm noktasını kısaca şöyle özetledi:

"Amacımız, dağıtık bilişimi Python kodu yazmak kadar basit hale getirmek. PyTorch Vakfı'na katılmak, Ray'in geliştiriciler için açık ve topluluk odaklı bir omurga olmaya devam etmesini sağlayacak."

Geliştiriciler ve katkıda bulunanlar, Ray GitHub deposu aracılığıyla projeyle etkileşime girebilir veya katılabilir. Ray Zirvesi 2025 Bu kasım ayında San Francisco'da düzenlenecek etkinlikte topluluk, bu yeni açık kaynaklı temelin yapay zeka ölçeklenebilirliği ve erişilebilirliğinin geleceği için ne anlama geldiğini daha ayrıntılı olarak araştıracak.

Esasen, Ray'in eklenmesi açık kaynaklı yapay zeka ekosistemindeki eksik katmanı tamamlıyor; modelleme, çıkarım ve dağıtılmış yürütme Tek bir temel altında. Bu, yapay zeka altyapısının yalnızca daha güçlü değil, aynı zamanda daha açık, verimli ve geliştirici dostu olduğu bir geleceğe doğru atılmış önemli bir adım.