PyTorch Vakfı, Birleştirilmiş AI Altyapısı Oluşturmak için Dağıtılmış Hesaplama Çerçevesi Ray’i Entegre Ediyor

Açık kaynaklı AI ekosistemi bugün PyTorch Vakfı’nın PyTorch Vakfı tarafından geliştirilen Ray adlı dağıtılmış hesaplama çerçevesini resmi olarak eklediğini duyurmasıyla önemli bir adım attı. Bu hareket, birleştirilmiş,互操作 ve üretim için hazır AI hesaplama yığınına doğru önemli bir adımdır – model geliştirme (PyTorch), dağıtılmış çıkarım (vLLM) ve büyük ölçekli yürütme (Ray) temel katmanlarını bir araya getiren.

Birleştirilmiş Açık Kaynaklı AI Vakfı

Linux Foundation altında barındırılan PyTorch Vakfı, açık kaynaklı AI teknolojilerinin bazıları için merkezi bir hub görevi görür. Misyonu, AI geliştirme sürecinin her aşamasında parçalanmayı azaltmak ve işbirliğini teşvik etmektir. Ray’i PyTorch ve vLLM ile birlikte entegre ederek, endüstri uzun süredir ihtiyaç duyduğu şeyleri sunuyor – birleştirilmiş, uçtan uca AI oluşturma, eğitme ve dağıtma yığını.
Ray’in dahil edilmesi ayrıca yıllarca süren akademik ve endüstriyel evrimin sonucunu temsil ediyor. UC Berkeley’nin RISELab‘inde doğan Ray, AI ve makine öğrenimi iş yükleri için dağıtılmış hesaplama işlemlerini basitleştirmek için tasarlandı. Geliştiricilerin kod yazmadan veya karmaşık sistemleri yönetmeden tek bir laptop’tan binlerce makineye kadar işleri ölçeklemelerine olanak tanır. Bugün itibariyle Ray, 39.000’den fazla GitHub yıldızı ve 214 milyondan fazla indirme ile dünyanın en çok benimsenen dağıtılmış hesaplama çerçevelerinden biri.

Ray’in PyTorch ve vLLM ile Nasıl Uyum Sağladığı

Ray, eğitim ve çıkarım çerçeveleri (PyTorch, DeepSpeed ve vLLM gibi) ile konteynır düzenleme katmanı (Kubernetes veya Slurm gibi) arasında bulunur. Bu konum, Ray’in dağıtılmış iş yüklerini verimli bir şekilde koordine etmesine ve model eğitimi ile üretim ölçekli dağıtım arasındaki boşluğu köprülemesine olanak tanır.
Ray’in ana özellikleri şunları içerir:

• Çoklu veri işleme: Büyük, çeşitli veri kümelerini – metin, resim, ses ve video – paralel olarak işler, verimliliği ve üretkenliği en üst düzeye çıkarır.
• Ön eğitim ve son ayar: PyTorch ve diğer çerçeveleri hem ön eğitim hem de ince ayar görevleri için binlerce GPU üzerinde ölçeklendirir.
• Dağıtılmış çıkarım: Modelleri üretim ortamında yüksek verimlilik ve düşük gecikme ile dağıtır, heterojen kümelerdeki iş yükü patlamalarını dinamik olarak yönetir.

Bu işlevler birlikte, model oluşturma, optimizasyon ve hizmet sunma işlemlerini birleştiren “yapıştırıcı” görevi gören dağıtılmış hesap motoru katmanını oluşturur ve modern AI altyapısını etkili bir şekilde oluşturur.

Bu, Geliştiriciler ve Şirketler için Ne Anlama Geliyor?

Bugün AI tarafından yönlendirilen ekonomide, şirketler ölçekleme, satıcı kilidi ve hesap verimsizliği konusunda büyük zorluklarla karşı karşıya. Özel sistemler genellikle iş akışlarını parçalar ve inovasyonu yavaşlatır. Ray’in PyTorch Vakfı’na katılmasıyla geliştiriciler, birçok ağrı noktalarını ortadan kaldıran tamamen açık kaynaklı,互操作 bir hesap yığını kazanıyorlar.
Linux Foundation’un AI Genel Müdürü Matt White olarak açıkladı, bu işbirliği “sonraki nesil AI sistemlerini oluşturmak için gerekli olan kritik bileşenleri bir araya getiriyor.” Birleştirme, takımların büyük dil modellerinden çoklu modlu uygulamalara kadar gelişmiş AI sistemleri oluşturmasına olanak tanır – kapalı, özel altyapıya bağlı kalmadan. Bunun yerine, geliştiriciler ölçeklenebilir, modüler ve topluluk tarafından yönlendirilen bir ekosistem kullanarak AI modellerini eğitebilir ve dağıtabilirler.

Açık Kaynaklı AI için Daha Geniş Anlam

PyTorch, vLLM ve Ray arasındaki işbirliği, açık hesap 互操作lığının yeni bir dönemine işaret ediyor. Tarafsız yönetim sağlayan Linux Foundation ile AI endüstrisi, paylaşılan altyapının geliştirilmesi için sürdürülebilir bir modele sahip oluyor – bulut düzenlemenin standardizasyonu gibi.
Endüstri liderleri bu görüşü paylaştı. Cloud Native Computing Foundation’dan Chris Aniszczyk, “Ray ve Kubernetes doğal olarak tamamlayıcıdır,” düzenleme ve dağıtılmış hesaplama güçlerini birleştirerek sonraki nesil AI sistemlerini güçlendirdiğini belirtti. Uber’in Mühendislik Direktörü Zhitao Li, Ray’in zaten “core part” của AI platformu olduğunu ve büyük ölçekli eğitim ve veri işleme işlemlerini gerçekleştirdiğini ekledi. Meta’nın Joe Spisak, PyTorch Vakfı yönetim kurulu üyesi, Ray’in eklenmesini “açık kaynaklı AI için önemli bir dönemeç” olarak nitelendirdi ve birleştirilmiş, topluluk tarafından yönlendirilen bir hesap yığını oluşturduğunu vurguladı.

İleriye Bakış

Anyscale’ın ortak kurucusu Robert Nishihara, bu dönemeç hakkında kısaca şunları söyledi:

“Hedefimiz, dağıtılmış hesaplama işlemlerini Python kodu yazmak kadar basit hale getirmektir. PyTorch Vakfı’na katılmak, Ray’in açık kaynaklı ve topluluk tarafından yönlendirilen bir dağıtılmış hesap motoru olarak kalmasını sağlar.”

Geliştiriciler ve katkıda bulunanlar, Ray GitHub deposu veya Ray Summit 2025 gibi topluluk etkinliklerine katılarak projeye katkıda bulunabilirler. Topluluk, yeni açık kaynaklı vakfın AI ölçeklenebilirliği ve erişilebilirliği için ne anlama geldiğini daha da keşfedecek.
Aslında, Ray’in eklenmesi açık kaynaklı AI ekosisteminin eksik olan katmanını tamamlar – modelleme, çıkarım ve dağıtılmış yürütme işlemlerini birleştirir. Bu, AI altyapısının daha güçlü, açık, verimli ve geliştirici dostu bir geleceğe doğru önemli bir adımdır.