Pathway 500 Milyon Dolar Değerlemeye Ulaşarak Yeni Finansman Elde Etti ve Post-Transformer AI’yi Ölçeklendirme

AI araştırma şirketi Pathway, 500 milyon dolar değerleme ile yeni finansman elde etti ve toplam tohum finansmanını 30 milyon dolara çıkardı. Bu, post-Transformer mimarisi etrafında inşa edilen yeni nesil modelleri ölçeklendirme planları doğrultusunda gerçekleşti.

Finansmanda Id4 Ventures, TQ Ventures, Red Bridge Ventures, Kadmos Capital ve WS Investment Co. gibi şirketler yer aldı. Pathway, yeni sermayenin büyük kısmının hesaplama kapasitesini genişletmek için kullanılacağını belirtti.

Pathway’in BDH-CQ akıl yürütme modeli için yeni sonuçlar, finansman ile birlikte geldi. Pathway, 150 milyon parametrelik modelin, ARC-AGI-1 değerlendirme setinde %29,5’lik bir skor elde ettiğini ve her görev için yaklaşık 0,0007 dolarlık bir maliyetle çalıştığını belirtti.

Finansman, Pathway’in Brute-Force Ölçeklendirme İle Rekabet Ettiği Bir Dönemde Geliyor

Mevcut sınır model yarışının büyük kısmı, daha büyük kümeler, daha fazla eğitim verisi, daha fazla parametre ve artan miktarda test zamanı hesaplama üzerine odaklanıyor. Pathway, farklı bir yaklaşım benimseyerek, endüstrinin bazı maliyet ve bellek sınırlarının mimari rather than sorunlar olduğunu savunuyor.

Pathway, BDH veya Dragon Hatchling mimarisini, akıl yürütme, bellek ve uyumun model itself içinde birleştirilmesini amaçlayan bir post-Transformer tasarımı olarak tanımlıyor.

Pathway, bu tasarımın, kalıcı durum, seyrek aktivite, yerel etkileşimler ve sürekli ayar gibi fikirlerden esinlendiğini belirtiyor.

Şirket, BDH-CQ’nin, görevlere güncellenen bir tekrar eden bellek durumu ile çalıştığını ve sistemın, yeni problemi içsel olarak çözdüğünü belirtti.

Pathway, Adam Kurzrok’u Ürün Başkanı olarak atadı. Kurzrok,以前 Google DeepMind’de Gemini için Ürün Müdürü olarak görev yaptı ve BDH tabanlı modellerin paketlenmesi, değerlendirilmesi ve dağıtılması konusunda ürün yönünü belirleyecek.

Şirket, ayrıca Łukasz Kaiser, Frankle, NYU profesörü Martín Farach-Colton ve ekonomist Jacques Attali’den oluşan bir danışman grubu kuruyor.

BDH-CQ’nin Farkı Nedir

BDH-CQ, BDH mimarisinin bir uzantısı ve bağlam içi öğrenme ve tekrar eden laten akıl yürütme üzerine tasarlandı.

BDH-CQ, ara akıl yürütme adımlarını metin olarak ifade etmek yerine, sürekli bir laten çalışma alanında hesaplamalar yapar.

Örnekler, tekrar eden bir bellek durumunu günceller ve sistem, yeni problemi içsel olarak çözer.

BDH-CQ, token tabanlı akıl yürütmenin uzun akıl yürütme izleri halinde pahalı hale gelebileceğini gösteriyor.

Pathway, bazı akıl yürütme iş yüklerinin, her ara hesaplama adımının metin olarak seri hale getirilmesini gerektirmeden daha verimli bir şekilde ele alınabileceğini savunuyor.

ARC-AGI Sonuçları, Maliyet Etkinliğini Ön Plana Çıkarıyor

Pathway’in 150 milyon parametrelik BDH-CQ modeli, ARC-AGI-1 değerlendirme setinde %29,5’lik bir skor elde etti.

Pathway, her görevin yaklaşık 0,85 saniye NVIDIA H200 GPU zamanı gerektirdiğini ve bu hesabın yaklaşık 0,00070 dolarlık bir maliyeti olduğunu belirtti.

Pathway, bu sonuçların, BDH-CQ’nin ARC-AGI-1 için previously reported maliyet-etkinlik Pareto sınırının ötesine geçtiğini gösterdiğini belirtti.

Pathway, BDH-CQ’nin, daha büyük akıl yürütme sistemlerine kıyasla daha yüksek bir akıl yürütme performansı sunduğunu ve bu nedenle endüstrinin dominant ölçeklendirme stratejisine bir alternatif olarak görülmesi gerektiğini savunuyor.

Teknik Sonuçlar, BDH-CQ’nin Zayıflıklarını da Gösteriyor

Genişletilmiş değerlendirme, daha nüanslı bir resim sunuyor.

BDH-CQ, ConceptARC’de farklı kavramsal kategorilerde farklı performans gösterdi.

Pathway, BDH-CQ’nin, sınır uzantısı ve dolu/dolmayan bölgeleri ayırt etme gibi görevlerde iyi performans gösterdiğini, ancak kopyalama ve sıralama gibi görevlerde daha zorlandığını belirtti.

Pathway, BDH-CQ’nin, daha büyük ve daha karmaşık görevlerde daha fazla zorlandığını ve bu nedenle, BDH-CQ’nin sınırlarının, görevlerin karmaşıklığına bağlı olarak değişebileceğini belirtti.

Pathway, Gerçek Zamanlı AI İçin Altyapı da Geliştiriyor

Pathway, BDH’nin yanı sıra, gerçek zamanlı veri işleme, büyük dil modeli uygulamaları ve geri çağırma-artırılmış nesil için bir veri işleme çerçevesi geliştiriyor.

Pathway, bu çerçevenin, AI sistemlerinin sürekli değişen verilere çalışabilmesini sağladığını ve böylece AI sistemlerinin, yalnızca statik veri kümelerine veya periyodik olarak yeniden oluşturulan dizinlere bağlı olmadığını belirtti.

Pathway, bu altyapının, BDH’nin itself ile uyumlu olduğunu ve AI sistemlerinin, değişen dış verilere tepki verebilmesini sağladığını belirtti.

Pathway için Sonraki Adımlar

Pathway, yeni sermayeyi kullanarak, daha büyük ve daha yetenekli BDH tabanlı sistemler geliştirmeyi planlıyor.

Pathway, matematiksel akıl yürütme, ARC-AGI-2 ve ARC-AGI-3 gibi görevleri ele almayı ve büyük bir dil modeli geliştirmeyi hedefliyor.

Pathway, BDH’nin, büyük ve genel amaçlı modellerde de avantajlarını koruduğunu kanıtlamayı amaçlıyor.

Pathway, finansal hizmetler, sağlık ve teknoloji gibi alanlarda, kalıcı bellek, değişen bilgi ve çıkarım maliyetlerinin AI sistemleri için önemli olabileceğini belirtti.

Pathway, 500 milyon dolarlık değerlemenin, endüstrinin dominant ölçeklendirme stratejisine bir alternatif olarak görülmesi gerektiğini gösteren önemli bir adım olduğunu belirtti.