PyTorch Vakfı, Birleştirilmiş AI Altyapısı İçin Dağıtılmış Hesaplama Çerçevesi Ray’i Entegre Ediyor

Açık Kaynaklı AI için Birleştirilmiş Temel

Linux Vakfı altında barındırılan PyTorch Vakfı, açık kaynaklı AI teknolojilerinin bazıları için merkezi bir hub görevi görüyor. Misyonu, AI geliştirme sürecinin her aşamasında parçalanmayı azaltmak ve işbirliğini teşvik etmektir. PyTorch ve vLLM’nin yanı sıra Ray’i entegre ederek, endüstri uzun süredir ihtiyaç duyduğu bir şeyi sunuyor: ölçeklenebilir, modüler ve topluluk odaklı bir AI geliştirme ve dağıtım ekosistemi. Ray’in dahil edilmesi ayrıca yıllarca süren akademik ve endüstriyel evrimin sonucunu temsil ediyor. UC Berkeley’nin RISELab’de doğanRay, AI ve makine öğrenimi iş yükleri için dağıtılmış hesaplama işlemlerini basitleştirmek için tasarlandı. Geliştiricilerin kod yazmadan veya karmaşık sistemleri yönetmeden tek bir laptop’tan binlerce makineye kadar işleri ölçeklemelerine olanak tanır. Bugün itibariyle Ray, 39.000’den fazla GitHub yıldızı ve 214 milyondan fazla indirme ile dünyanın en çok benimsenen dağıtılmış hesaplama çerçevelerinden biri haline geldi.

Ray, PyTorch ve vLLM’yi Nasıl Tamamlayıcı?

Ray, eğitim ve çıkarım çerçeveleri (örneğin PyTorch, DeepSpeed ve vLLM) ile konteynır düzenleme katmanı (örneğin Kubernetes veya Slurm) arasında yer alıyor. Bu konum, Ray’in dağıtılmış iş yüklerini verimli bir şekilde koordine etmesine ve model eğitimi ile üretim ölçekli dağıtım arasındaki boşluğu köprülemesine olanak tanır. Ray’in ana özellikleri şunları içerir: Bu işlevler

• “dağıtılmış hesap motoru” katmanını oluşturur. Çoklu veri işleme: Büyük, çeşitli veri kümelerini – metin, resim, ses ve video – paralel
• olarak işleyerek verimliliği ve hızını en üst düzeye çıkarır. Ön eğitim ve son ayar: PyTorch ve diğer çerçeveleri binlerce GPU üzerinde ölçeklendirerek hem
• ön eğitim hem de ince ayar işlemlerini gerçekleştirir. Dağıtılmış çıkarım: Modelleri üretim ortamında yüksek hız ve düşük gecikme ile dağıtır

birlikte, Ray’in model oluşturma, optimizasyon ve hizmet sunma işlemlerini birleştiren “bağlayıcı” görevi görmesini sağlar ve böylece modern AI altyapısının ve heterojen kümelerdeki iş yükü patlamalarını dinamik olarak yönetir.

Geliştiriciler ve Şirketler için Anlamı

Günümüzün yapay zeka odaklı ekonomisinde şirketler, ölçeklendirme, tedarikçi bağımlılığı ve hesaplama verimsizliği gibi büyük zorluklarla karşı karşıya. Tescilli sistemler genellikle iş akışlarını parçalara ayırır ve yeniliği yavaşlatır.Ray’in PyTorch Vakfı’na katılmasıyla geliştiriciler, birçok sorunu çözen, tamamen açık kaynaklı, çalıştırılabilir ve üretime hazır bir hesaplama yığını elde ediyor. ortadan kaldırıyor.Linux Vakfı’nın AI Genel Müdürü Matt White, bu işbirliğinin ” sonraki nesil AI sistemlerini inşa etmek için gerekli kritik bileşenleri birleştirdiğini ” açıkladı. Birleşme, geliştiricilerin büyük dil modellerinden çoklu modelli uygulamalara kadar gelişmiş AI sistemlerini kapalı, özel altyapıya bağlı kalmadan geliştirmelerine olanak tanır. Bunun yerine, geliştiriciler açık, modüler ve topluluk odaklı bir ekosistem kullanarak AI modellerini eğitebilir ve dağıtabilir.

Açık Kaynaklı AI için Daha Geniş Anlam

PyTorch, vLLM ve Ray arasındaki iş birliği, açık hesaplama işletiminde yeni bir dönemin başlangıcını işaret ediyor. Linux Vakfı’nın tarafsız yönetimiyle, yapay zeka endüstrisi, bulut orkestrasyon standardizasyonu gibi paylaşılan altyapı geliştirme için sürdürülebilir bir model kazanıyor. Sektör liderleri bu görüşü paylaşıyor. Bulut Yerel Hesaplama Vakfı’ndan Chris Aniszczyk şunları söyledi: Ray ve Kubernetes doğal olarak tamamlayıcı ” olduğunu belirtti vebu iki teknolojinin birleştirilmesinin, next-gen AI sistemlerini güçlendireceğini vurguladı. Uber’in Mühendislik Direktörü Zhitao Li, Ray’in zaten ” AI platformunun temel bir parçası ” olduğunu ve büyük ölçekli eğitim ve veri işleme için kullanıldığını ekledi. Meta’nın PyTorch Vakfı yönetim kurulu üyesi Joe Spisak, Ray’in eklenmesinin ” açık kaynaklıAI için önemli bir dönemeç ” olduğunu vurguladı ve bu hareketin, geliştiriciler için daha açık, verimli ve dostane bir AI altyapısı yaratılmasına katkıda bulunduğunu belirtti.

İleriye Bakış

Anyscale’ın ortak kurucusu Robert Nishihara, bu dönemeç hakkında

şunları söyledi: “Hedefimiz, dağıtılmış hesaplama işlemlerini Python kodu yazmak kadar basit hale getirmektir. PyTorch Vakfı’na katılmak, Ray’in açık ve topluluk odaklı bir şekilde geliştirilmeye devam

edeceğinin garantisi altına alır.” Geliştiriciler ve katkıda bulunanlar, Ray GitHub deposu veya Kasım ayında San Francisco’da düzenlenecek Ray Summit 2025’e katılarak projeye katkıda bulunabilirler. Topluluk, burada AI ölçeklenebilirliği ve erişilebilirliği için bu yeni açık kaynaklı temel ne anlama geliyor, bunu daha derinlemesine keşfedecek. Aslında, Ray’in eklenmesi, açık kaynaklı AI ekosisteminin eksik olan katmanını tamamlar – modelleme, çıkarım ve dağıtılmış yürütme işlemlerini bir araya getirir. Bu, AI altyapısının daha güçlü, açık, verimli ve geliştirici dostu bir geleceğe doğru önemli bir adımdır.