PyTorch Vakfı, Birleştirilmiş AI Altyapısı İçin Dağıtılmış Hesaplama Çerçevesi Ray’i Entegre Ediyor

Açık kaynaklı AI ekosistemi bugün PyTorch Vakfı’nın Anyscale tarafından orijinal olarak geliştirilen Ray adlı dağıtılmış hesaplama çerçevesini resmi olarak eklediğini duyurmasıyla önemli bir adım attı. Bu hareket, PyTorch (model geliştirme), vLLM (dağıtılmış çıkarım) ve Ray (büyük ölçekli yürütme) gibi temel katmanları bir araya getiren birleşik,互operable ve üretim için hazır bir AI hesaplama yığınına doğru önemli bir adımdır.

Açık Kaynaklı AI için Birleştirilmiş Temel

Linux Vakfı altında barındırılan PyTorch Vakfı, açık kaynaklı AI teknolojilerinin bazıları için merkezi bir hub görevi görüyor. Misyonu, AI geliştirme sürecinin her aşamasında parçalanmayı azaltmak ve işbirliğini teşvik etmektir. PyTorch ve vLLM’nin yanı sıra Ray’i entegre ederek, endüstri uzun süredir ihtiyaç duyduğu bir şeyi sunuyor: ölçeklenebilir, modüler ve topluluk odaklı bir AI geliştirme ve dağıtım ekosistemi.
Ray’in dahil edilmesi ayrıca yıllarca süren akademik ve endüstriyel evrimin sonucunu temsil ediyor. UC Berkeley’nin RISELab’de doğan Ray, AI ve makine öğrenimi iş yükleri için dağıtılmış hesaplama işlemlerini basitleştirmek için tasarlandı. Geliştiricilerin kod yazmadan veya karmaşık sistemleri yönetmeden tek bir laptop’tan binlerce makineye kadar işleri ölçeklemelerine olanak tanır. Bugün itibariyle Ray, 39.000’den fazla GitHub yıldızı ve 214 milyondan fazla indirme ile dünyanın en çok benimsenen dağıtılmış hesaplama çerçevelerinden biri haline geldi.

Ray, PyTorch ve vLLM’yi Nasıl Tamamlayıcı?

Ray, eğitim ve çıkarım çerçeveleri (örneğin PyTorch, DeepSpeed ve vLLM) ile konteynır düzenleme katmanı (örneğin Kubernetes veya Slurm) arasında yer alıyor. Bu konum, Ray’in dağıtılmış iş yüklerini verimli bir şekilde koordine etmesine ve model eğitimi ile üretim ölçekli dağıtım arasındaki boşluğu köprülemesine olanak tanır.
Ray’in ana özellikleri şunları içerir:

• Çoklu veri işleme: Büyük, çeşitli veri kümelerini – metin, resim, ses ve video – paralel olarak işleyerek verimliliği ve hızını en üst düzeye çıkarır.
• Ön eğitim ve son ayar: PyTorch ve diğer çerçeveleri binlerce GPU üzerinde ölçeklendirerek hem ön eğitim hem de ince ayar işlemlerini gerçekleştirir.
• Dağıtılmış çıkarım: Modelleri üretim ortamında yüksek hız ve düşük gecikme ile dağıtır ve heterojen kümelerdeki iş yükü patlamalarını dinamik olarak yönetir.

Bu işlevler birlikte, Ray’in model oluşturma, optimizasyon ve hizmet sunma işlemlerini birleştiren “bağlayıcı” görevi görmesini sağlar ve böylece modern AI altyapısının “dağıtılmış hesap motoru” katmanını oluşturur.

Geliştiriciler ve Şirketler için Anlamı

Bugünlerde AI odaklı ekonomide, şirketler ölçeklendirme, satıcı kilidi ve hesaplama verimsizliği gibi büyük zorluklarla karşı karşıya kalıyor. Özel sistemler genellikle iş akışlarını parçalıyor ve inovasyonu yavaşlatıyor. Ray’in PyTorch Vakfı’na katılmasıyla geliştiriciler, tam açık kaynaklı,互operable ve üretim için hazır bir hesap yığını kazanıyor ve bu da birçok ağrı noktalarını ortadan kaldırıyor.
Linux Vakfı’nın AI Genel Müdürü Matt White, bu işbirliğinin “sonraki nesil AI sistemlerini inşa etmek için gerekli kritik bileşenleri birleştirdiğini” açıkladı. Birleşme, geliştiricilerin büyük dil modellerinden çoklu modelli uygulamalara kadar gelişmiş AI sistemlerini kapalı, özel altyapıya bağlı kalmadan geliştirmelerine olanak tanır. Bunun yerine, geliştiriciler açık, modüler ve topluluk odaklı bir ekosistem kullanarak AI modellerini eğitebilir ve dağıtabilir.

Açık Kaynaklı AI için Daha Geniş Anlam

PyTorch, vLLM ve Ray arasındaki işbirliği, açık hesap互operabilitesi yeni bir döneme işaret ediyor. Linux Vakfı’nın tarafsız yönetimiyle, AI endüstrisi, paylaşılan altyapı geliştirmesi için sürdürülebilir bir modele kavuşuyor – bulut düzenleme standardizasyonu gibi.
Endüstri liderleri bu görüşü paylaştı. Bulut Yerel Hesaplama Vakfı’ndan Chris Aniszczyk, “Ray ve Kubernetes doğal olarak tamamlayıcı” olduğunu belirtti ve bu iki teknolojinin birleştirilmesinin, next-gen AI sistemlerini güçlendireceğini vurguladı. Uber’in Mühendislik Direktörü Zhitao Li, Ray’in zaten “AI platformunun temel bir parçası” olduğunu ve büyük ölçekli eğitim ve veri işleme için kullanıldığını ekledi. Meta’nın PyTorch Vakfı yönetim kurulu üyesi Joe Spisak, Ray’in eklenmesinin “açık kaynaklı AI için önemli bir dönemeç” olduğunu vurguladı ve bu hareketin, geliştiriciler için daha açık, verimli ve dostane bir AI altyapısı yaratılmasına katkıda bulunduğunu belirtti.

İleriye Bakış

Anyscale’ın ortak kurucusu Robert Nishihara, bu dönemeç hakkında şunları söyledi:

“Hedefimiz, dağıtılmış hesaplama işlemlerini Python kodu yazmak kadar basit hale getirmektir. PyTorch Vakfı’na katılmak, Ray’in açık ve topluluk odaklı bir şekilde geliştirilmeye devam edeceğinin garantisi altına alır.”

Geliştiriciler ve katkıda bulunanlar, Ray GitHub deposu veya Kasım ayında San Francisco’da düzenlenecek Ray Summit 2025’e katılarak projeye katkıda bulunabilirler. Topluluk, burada AI ölçeklenebilirliği ve erişilebilirliği için bu yeni açık kaynaklı temel ne anlama geliyor, bunu daha derinlemesine keşfedecek.

Aslında, Ray’in eklenmesi, açık kaynaklı AI ekosisteminin eksik olan katmanını tamamlar – modelleme, çıkarım ve dağıtılmış yürütme işlemlerini bir araya getirir. Bu, AI altyapısının daha güçlü, açık, verimli ve geliştirici dostu bir geleceğe doğru önemli bir adımdır.