Yapay zeka modelleri ve platformları

Hedra, Gerçek Dünyadaki Yapay Zekâyı Eğitmek, Devreye Almak ve Geliştirmek İçin Model Factory’yi Başlattı

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Official Hedra artwork showing Hedra, AMD and Krea logos above a processor

Hedra, GPU altyapısını, modelin eğitim sonrası aşamasını, çıkarım optimizasyonunu ve üretim ortamından gelen geri bildirimleri tek bir iş akışında bir araya getiren Model Factory’yi kullanıma sunuyor. a16z’nin desteklediği araştırma şirketi; modelleri kendi verilerine ve çalışma koşullarına uyarlaması gereken robotik, üretim, biyoloji ve savunma ekiplerini hedefliyor.

Bu yaklaşım, kurumsal yapay zekâdaki pratik bir boşluğu ele alıyor: yetkin ve genel amaçlı bir model çoğu zaman yalnızca başlangıç noktasıdır. Böyle bir modeli video, sensör verileri veya fiziksel eylemler için güvenilir bir sisteme dönüştürmek; özel eğitim ortamları, uzmanlaşmış dağıtım yazılımları ve her yeni sürümü yerine getirmesi gereken göreve göre değerlendirme olanağı gerektirebilir.

Eğitim, Dağıtım ve Üretim Geri Bildirimini Bir Araya Getirmek

Model Factory, esnek GPU sanal alanlarını, Hedra araştırmacılarının otonom yapay zekâ ajanlarıyla birlikte yürüttüğü eğitim sonrası çalışmalarla birleştiriyor. Müşteriler verilerini ve simülasyon motorlarını sağlıyor; Hedra ise pekiştirmeli öğrenme ortamları ve veri kümeleri oluşturmaya yardımcı oluyor, ardından ortaya çıkan modellerin çalışma biçimini optimize ediyor.

Hedra’nın kurucusu ve CEO’su Michael Lingelbach, “Özyinelemeli öz gelişim, öncü modellerin geliştirilme biçimini şimdiden değiştiriyor,” dedi. “Sıradaki adım, verilerin video, sensörler ve simülasyondan oluştuğu gerçek dünya. Hedra Model Factory; robotik, üretim, biyoloji ve savunma ekiplerine kendi modellerini eğitim sonrası aşamada eğitmek, devreye almak ve geliştirmeyi sürdürmek için gereken altyapıyı sağlıyor.”

Devreye almanın ardından araştırmacılar üretim ortamındaki performansı inceliyor, modeli yeniden eğitiyor ve yalnızca müşterinin değerlendirmelerini geçen sürümleri yayımlıyor. Bu nedenle değerlendirme ölçütleri hizmetin merkezinde yer alıyor: daha hızlı bir modelin bile onu kullanan uygulamanın gerekliliklerini karşılaması gerekiyor.

Hedra, araştırmacıların ve otonom yapay zekâ bilim insanlarının deneyler, eğitim çalıştırmaları ve optimizasyon yöntemleri üzerinde yinelemeli biçimde çalışmasını özyinelemeli öz gelişim olarak tanımlıyor. Duyurulan süreç, üretim modellerinde kısıtlamasız otomatik değişiklikler yapmak yerine araştırmacıları ve müşteri değerlendirme aşamalarını içeriyor.

Fiziksel Yapay Zekâ Neden Bir Metin Modeli Sunum Yığınından Daha Fazlasını Gerektiriyor?

Hedra’nın World Model Runtime’ı (WMR), lansman hakkında ek bilgi sunuyor. Şirket bunu; NVIDIA ve AMD GPU’larını destekleyen, görüntü, video, dünya ve metin modellerine yönelik açık çekirdekli bir çıkarım motoru olarak tanımlıyor. Optimizasyonları; görsel iş yüklerinde GPU süresinin önemli bir bölümünü tüketebilen difüzyon adımlarını, kareler arası dikkat mekanizmalarını ve kodlama ile kod çözme işlemlerini hedefliyor.

Görme-dil-eylem modeli için çıkarım, girdileri yorumlamanın yanı sıra eylemler de üretir. Simüle edilmiş bir ortamda hem model hem de modelin eğitim deneyimini oluşturan ortam hızlandırıcılara ihtiyaç duyabilir. Bu nedenle iş akışını iyileştirmek, yalnızca bir model seçmekten ibaret değildir: veri aktarımını azaltmayı, sayısal hassasiyeti kalite gereksinimlerine göre ayarlamayı ve eğitimi sunum süreciyle eşgüdümlü yürütmeyi de içerebilir.

Şirketin GPU sanal alanı çözümü, ekiplerin kapsayıcıları, bağımlılıkları ve model kodunu yalıtılmış ortamlara taşımasına olanak tanırken yerleştirme, ölçeklendirme ve donanım kurtarma işlemlerini Hedra yönetiyor. Ekipler çalışma ortamlarını değiştirebilir, eğitim veya değerlendirme çalıştırabilir ve kontrol noktalarını ve diğer yapıtları dışa aktarabilir. Eğitim platformu, sunumdan önce kontrol noktalarının değerlendirilmesiyle birlikte denetimli ince ayarı, hafif LoRA bağdaştırıcılarını ve pekiştirmeli öğrenmeyi destekliyor.

Belirli Koşullarda Görüntü Düzenleme Hızında Altı Kat Artış

Lansman duyurusunda, optimizasyon sürecine örnek olarak Krea 3 ile görüntü düzenleme öne çıkarılıyor. Hedra, 2K çözünürlüklü bir görüntüyü düzenleme süresini bir haftadan kısa sürede, aynı dört AMD Instinct MI355X GPU üzerinde yaklaşık 22 saniyeden 3,6 saniyeye indirdiğini belirtiyor. Karşılaştırmada çıkarım optimizasyonu damıtmayla birleştiriliyor: temel ölçümde özgün bf16 model 30 örnekleme adımında kullanılırken, daha hızlı sürümde 14 adımda çalışan damıtılmış bir model kullanıldı.

Bu ayrım önemli; çünkü sonuç, hem modelin hesaplama biçiminde hem de onu çalıştıran yazılımda yapılan değişiklikleri yansıtıyor. Bu, platformda sunulan her model için genel geçer altı kat hızlanma değil, belirli bir iş yükü ve yapılandırma için bildirilen bir sonuç.

Hedra’nın ayrı Krea 3 mühendislik yazısı; daha düşük hassasiyetli matris işlemlerini, özel dikkat mekanizmalarını, birleştirilmiş işlemleri ve özel kopyalama motorlarına taşınan GPU’lar arası aktarımları ayrıntılandırıyor. 22,9 saniyeden 3,3 saniyeye inen karşılaştırma, isteğin tamamının gecikme süresini değil, difüzyon dönüştürücüsünün çalışma süresini ölçüyor. Bu nedenle söz konusu rakamlar, lansman duyurusunda verilen görüntü düzenleme sonucundan ayrı değerlendirilmelidir.

Video Fiziği ve Robot Donanımını Uyarlama

Hedra, fiziksel tutarlılık sağlaması için H3’ü yeniden eğittiğini de bildiriyor. Yeniden eğitilen model, Google DeepMind’ın Physics-IQ kıyaslamasında 34,9 puan alırken H3 Max 30,3 puan aldı; Hedra, görsel kalitenin karşılaştırılabilir olduğunu belirtiyor. Şirkete göre otonom olarak damıtılmış bir sürüm, MI355X GPU’larda beş saniyelik bir klibi üç saniyeden kısa sürede oluşturdu.

Bir başka örnekte, simülasyon çalışmasında eğitilmiş bir politikayı çalıştıran robottaki tutucu değiştirildi. Hedra’ya göre, yedek tutucunun erişim mesafesini ve kavrama noktasını bilek kamerasının görüntüsündekiyle eşleştirmek, yeniden eğitim yapmadan görev başarısını sıfıra yakın bir düzeyden yüzde 100’e yakın bir düzeye çıkardı. Bu bulgu, bildirilen simülasyon düzeneğiyle ilgilidir; sahada kullanılan robotlarda her türlü donanım değişikliğinin ek eğitim gerekmeksizin yönetilebileceğini kanıtlamaz.

Bu örnekler, aynı mühendislik sorununun farklı yönlerine işaret ediyor: bir modelin çalışma biçimini veya çalıştığı sistemi değiştirirken yararlı davranışları korumak.

Müşterilerin Sahip Olduğu Modelleri Temel Alan Bir Araştırma Hizmeti

Model Factory, 10 Kasım’dan itibaren kullanılabilir. Ekipler, özel modeller geliştirmek için Hedra araştırmacılarıyla birlikte çalışabilir, uzun vadeli taahhütlerde bulunmadan esnek GPU sanal alanı kapasitesiyle işe başlayabilir veya mevcut modellerini çıkarım motoruna taşıyabilir. Dağıtım seçenekleri arasında şirket içi altyapı ya da yakındaki bir iş ortağının veri merkezi bulunuyor. Optimizasyon hedefleri, gerçek zamandan hızlı çalışan dünya eylem modellerinden uç cihazlara sığan görsel-dil-eylem modellerine kadar uzanıyor.

Şirket, gelirinin önceki 12 ayda 15 katına çıktığını belirtiyor ancak duyuruda başlangıçtaki gelir miktarını açıklamadı. Şirketin genel bakış sayfası, platformu kendi görsel modellerini geliştirme ve hizmete sunma deneyiminin bir uzantısı olarak konumlandırıyor.

Müşteriler açısından temel değer önerisi, birbirine bağlı bir mühendislik döngüsü: modeli geliştirmek için alana özgü verilerden yararlanmak, donanım ve gecikme bütçesine göre optimize etmek, sonucu değerlendirmek ve üretim deneyimini bir sonraki yinelemeye aktarmak. Bu yaklaşımın ne kadar başarılı olacağı, temel GPU’ların hızına bağlı olduğu kadar göreve özgü değerlendirmelere ve dağıtım kısıtlarına da bağlı olacak.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.