Yapay zeka modelleri ve platformları
Databricks, GPU Eğitimi için AI Runtime’ı Genel Kullanıma Sunuyor
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Databricks, 21 Ekim 2026’da, kurumsal veriler üzerinde derin öğrenme modellerini eğitmek ve ince ayar yapmak için Databricks Lakehouse’a entegre edilmiş, tamamen yönetilen sunucusuz bir GPU platformu olan AI Runtime’ın genel kullanıma sunulduğunu duyurdu (AIR).
Databricks, Robinhood, PicPay, Merck, Flo Health, TinyFish ve FactSet’in de aralarında bulunduğu yüzlerce şirketin, sağlık, üretim ve tüketiciye yönelik ajanları kapsayan kullanım alanlarında derin öğrenme modellerini eğitmek ve üretim ortamına almak için AIR’ı hâlihazırda kullandığını söyledi. Şirket, kendi Databricks AI Research ekibinin de KARL ve AI Parse’ın arkasındaki modelleri eğitmek için platformdan yararlandığını belirtti ve AIR’ın 100.000’den fazla GPU-saatlik eğitim çalıştırmasıyla gerçek kullanım koşullarında sınandığını ifade etti.
Şirket, bu sürümü, modellerini geliştirmekten çok GPU kapasitesini güvence altına almak, arızaları yönetmek ve deneylerin başlatılmasını beklemek için zaman harcayan yapay zekâ ekiplerinin sorunlarına bir çözüm olarak konumlandırdı. Duyuruda, GPU altyapısını Lakehouse’tan ayrı çalıştırmanın yönetişim açıklarına yol açtığı ve hassas eğitim verilerini riske attığı belirtildi.
Yönetilen GPU Altyapısı
Databricks; GPU’ları temin etme, kümeleri yapılandırma ve ağ iletişimini yönetme sorumluluğunu üstleniyor. Böylece müşteriler, kendi tam kapsamlı GPU platformlarını işletmek zorunda kalmadan eğitime başlayabiliyor. Şirket, iş yüklerinin yüzlerce GPU’ya güvenilir biçimde ölçeklenebilmesi için eğitim öncesinde ve sırasında onlarca GPU ve ağ sağlığı kontrolü yaptığını söyledi. Platform, GPU’ları zamanlamadan önce doğruluyor, etkin iş yüklerini sürekli izliyor ve sağlıksız düğümleri tespit edip devre dışı bırakmak için boştaki GPU’ları düzenli aralıklarla test ediyor.
AIR, eğitim verilerini akış hâlinde aktarıp önbelleğe alan yerleşik yükleyiciler aracılığıyla işleyerek görevlerin G/Ç beklerken geçirdiği süreyi azaltıyor. Bu sisteme eşlik eden UCVolumeDataset aracı, özel bir veri yükleme hattı oluşturmaya gerek kalmadan veri aktarım hızını artırmayı amaçlıyor. Kullanıcılar GPU’lara komut satırı arayüzünden erişebiliyor veya not defterleri ve tümleşik geliştirme ortamlarında (IDE’ler) etkileşimli olarak çalışabiliyor. Databricks, ilk iş yükünün tek bir CLI komutuyla başlatılabildiğini ve AIR Skills özelliğinin Kubernetes veya SLURM kümelerindeki iş yüklerini tek bir doğal dil istemiyle taşıdığını söyledi.
AIR, şirketin iş hattı düzenleme ürünü Lakeflow ile yerel olarak bütünleşiyor; böylece GPU iş yükleri, önceki ve sonraki iş hatlarıyla eş zamanlı kalıyor. Duyuruya göre bir iş yükünü üretim ortamına taşımak için birkaç satır ek YAML yeterli. Duyuruda ayrıca, boştaki GPU süresini en aza indiren yerleşik öncelik ve öncelikli işlerin devreye alınması kontrollerinden ve Genie ZeroOps gibi araçlarla izleme olanağından söz edildi. AI Runtime ürün sayfasında çok bölgeli kapasiteye sahip, talep üzerine kullanılabilen NVIDIA GPU’lar; yönetilen RDMA ağıyla birden çok GPU ve düğümde dağıtık eğitim; uzun süre çalışan işler için optimize edilmiş kontrol noktası oluşturma ve NVIDIA NGC kapsayıcıları da dâhil olmak üzere özel Docker kapsayıcıları desteği listeleniyor.
Superhuman’da uygulamalı araştırma bilimcisi ve alan teknik lideri olan Kostia Omelianchuk, duyuruda platformun ekibinin büyük ölçekli eğitimi tek düğümdeki sekiz A100 GPU’dan birden çok düğüme dağıtılmış 16 H100 GPU’ya taşımasını sağladığını söyledi. Eğitim süresi yaklaşık yedi günden 48 saate indi; Omelianchuk bu sonucu 3,5 kat hızlanma olarak tanımladı.
Saniyeler İçinde Başlatma ve Hata Ayıklama
Databricks, AIR’ın onlarca GPU içeren büyük RDMA etkin kümelerde bile iş yüklerini saniyeler içinde başlattığını söyledi. Hizmet, önceden hazır sunucusuz GPU havuzlarından ve gecikmeli imaj yüklemeden yararlanıyor; iş yüklerini saniyeler içinde başlatırken imaj verilerinin geri kalanını arka planda yüklüyor. Kullanıcılar önceden oluşturulmuş ortamları çalıştırabiliyor veya kendi kapsayıcılarını kullanabiliyor; ortam önbelleğe alma sayesinde her ortam yalnızca bir kez oluşturuluyor. Şirket, AIR’ın tüm başlıca çerçevelerle uyumlu olduğunu belirtti; ürün sayfasında desteklenen seçenekler arasında PyTorch ve Ray de sayılıyor.
Databricks, MLflow deney izleme aracındaki yeni gözlemlenebilirlik deneyiminin, kullanıcılar bir AIR komutuna watch bayrağını eklediğinde, çalıştırma gönderildikten saniyeler sonra günlükleri akış hâlinde sunduğunu söyledi. Ayrıca, özellikle çok düğümlü eğitim için yeni bir günlük görüntüleyicisi oluşturuldu. Genie Code, sorunları ayıklamaya ve GPU eğitimi performansını optimize etmeye yönelik önceden paketlenmiş ajan becerileriyle deneyimin tümüne entegre edildi. Şirket, bu becerilerin araştırma ve performans ekiplerinin içgörülerini içerdiğini; bunlar arasında AIR’da Qwen eğitim süresini 6 kat azaltma yöntemlerinin de bulunduğunu belirtti.
Sonar’da baş yapay zekâ araştırmacısı olan Joe Tyler, araştırma mühendislerinin AIR’ı kullanarak LLM eğitim hatları kurduğunu, hattın her aşamasını görebildiğini ve varsayımları hızla sınayabildiğini söyledi. FactSet’te baş makine öğrenimi mühendisi olan Nikhil Sunderraj ise özel bir Text To Formula modelini kurmak, eğitmek ve devreye almak için gereken sürenin günlerden saatlere indiğini belirtti.
Güvenlik, Yönetişim ve Başlangıç
Databricks, AIR’ın Databricks ve Unity Catalog’un yönetişim sınırları içinde çalıştığını; Unity Catalog’un GPU iş yüklerinde veri erişimi, kontrol noktaları ve günlükler için tutarlı okuma ve yazma izinleri uyguladığını söyledi. Şirket, AIR’ın ana makine çekirdeğini açığa çıkaran yalıtım mekanizmaları yerine VM düzeyinde yalıtım sağladığını ve sunucusuz güvenlik yatırımlarıyla desteklenen PrivateLink ile sunucusuz dışa aktarım kontrollerini desteklediğini belirtti. Duyuruda, OpenAI Hugging Face olayının GPU altyapısını yönetişime tabi kurumsal verilerden ayrı yönetmenin risklerini ortaya koyduğu ifade edildi.
AIR kullanımı ve maliyetleri, diğer Databricks iş yükleriyle birlikte Databricks’in faturalandırma sistemi tablolarında görünür. İş yükü düzeyindeki kullanım kayıtları, hangi eğitim çalıştırmalarının GPU bütçesini tükettiğini gösterir.
Robinhood’da makine öğrenimi mühendisi olan Robert Macy III, AIR’ın ekiplerinin yönetişim ve veri denetimleri yerleşik olarak sunulduğu için deneme aşamasından eğitime daha hızlı geçmesine yardımcı olduğunu söyledi. QuantHealth’te yapay zekâ ve makine öğrenimi başkan yardımcısı olan Eran Barash, ekibinin mevcut veri iş akışları içinde milyonlarca kayıt üzerinde sunucusuz GPU’larla dağıtık eğitimi ölçeklendirdiğini söyledi. TinyFish’te yapay zekâdan sorumlu Zach Richardson, ekibinin GPU’larda eğitim yapabildiğini, sonuçları MLflow ile değerlendirebildiğini ve her aşama için ayrı altyapı kurmadan şirketin web için geliştirilmiş modelini sunabildiğini söyledi.
Databricks, yeni kullanıcıları hızlı başlangıç kılavuzuna, şablon not defterlerine ve başlangıç kılavuzlarına yönlendirdi. Şirket ayrıca GitHub’daki klonlanabilir ai-runtime-cookbook deposunun, tek bir CLI komutuyla ilk GPU iş yükünü başlatabileceğini belirtti. Şirket, daha fazla bilgi için müşterileri kendi hesap ekiplerine yönlendirdi.
