Yapay zeka modelleri ve platformları

Backboard, AI Belleklerinde Yeni Küresel Standardı Belirledi – Gerçekten Ajanslı AI’ye Doğru Bir Adım

Antoine Tardif
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarBackboard'ın bellek-öncelikli mimarisi, AI ajanları ve modelleri arasında kalıcı…
Daha fazla göster
  • Backboard'ın bellek-öncelikli mimarisi, AI ajanları ve modelleri arasında kalıcı paylaşılan bağlam sağlar.
  • Bellek altyapısı, ajan AI'larını demolardan üretim ortamına taşımada kritik darboğaz haline geliyor.
  • Backboard'un kıyaslama lideri performansı, göreve özel optimizasyondan değil sistem düzeyinde tasarımdan kaynaklanır.

Backboard yapay zeka sistemleri için önemli bir eşiği geçerek, belleğin kırılgan bir eklenti yerine temel altyapı olarak ele alınabileceğini gösterdi. Şirket, şimdi LoCoMo ve LongMemEval gibi iki büyük AI bellek benchmark’ında da lider olduğunu açıkladı ve bu başarıyı tutarlı akademik ve bağımsız değerlendirme yöntemleriyle elde eden ilk platform oldu.

NewMathData tarafından yapılan bağımsız bir değerlendirmede, Backboard LongMemEval‘de %93,4’lük bir doğruluk oranıyla, bu benchmark’un orijinal şartnamesine göre çalıştırıldığında şimdiye kadarki en yüksek kamuoyuna açık skoru elde etti. Bu sonuç, daha önce yayımlanan %90,1’lik LoCoMo skoruna dayanmaktadır ve Backboard’u, hem kısa vadeli hassasiyet hem de uzun vadeli bağlamsal sürekliliği sürdürebilen sistemlerin çok küçük bir grubuna dahil etmektedir.

Gözlemler, Backboard’un cevaplarının, beklenen cevaplarla karşılaştırıldığında daha bağlamsal olarak doğru olmasına rağmen yanlış olarak işaretlendiği birkaç durum belirledi. Bu durumlarda, sistem, dar bir yorum yerine etkileşim sırasında zaten mevcut olan gerçek bilgileri entegre etti. Sonuç olarak, bildirilen skor, performansın üst sınırı değil, muhafazakar bir temel çizgisi olarak kabul edilmelidir.

Neden AI’de Bellek Sınırlayıcı Faktör Olmuştur

Çoğu modern AI sistemi, gerçek bir geçmişe sahip olmadığı izlenimini verir. Büyük dil modelleri, akıcı cevaplar üretmede mükemmel olsalar da, bir oturum bittikten veya bir prompt penceresi doldurulduktan sonra bağlamı unutma eğilimindedirler. Bu sınırlama, geliştiricilerin, durumu tekrar tekrar inşa etmek için geçici bilgi getirme çözümleri, prompt mühendisliği veya kırılgan araç zincirleri kullanmalarına neden olur; bu araçlar genellikle sistemlerin daha karmaşık hale gelmesiyle birlikte bozulur.

Bellek, sadece hatırlamayla ilgili değildir. Pratik uygulamalarda, bellek, bir AI sisteminin zaman içinde tutarlı kalıp kalamayacağını, görevler arasında koordine edip edemeyeceğini ve kullanıcılarla güven oluşturup oluşturamayacağını belirler. Dayanıklı bellek olmadan, sistemler sıfırlanır, hayal görür veya kendi kendileriyle çelişir. AI, tek tur etkileşimlerden uzun süreli iş akışlarına doğru ilerledikçe, bellek, birincil tıkanıklık haline gelmiştir.

Backboard, bu sorunu, belleği ilk sınıf altyapı olarak ele alarak çözmektedir. Uygulama katmanına belleği eklemek yerine, kalıcılık, gömme, alma ve orkestrasyonu birleşik bir platforma entegre eder ve bu platforma tek bir API aracılığıyla erişilir.

Benchmark Ayarlamasının Yerine Sistem Düzeyinde Bir Yaklaşım

Backboard, mimarisini benchmark skorlarını takip etmek için tasarlamadı. Değerlendirmeler, ya bağımsız olarak başlatıldı ya da sistemi akademik araştırmayla karşılaştırmak için içsel olarak kullanıldı. Elde edilen performans, gerçekçi koşullar altında sistem düzeyinde davranışın bir yansımasıdır, görev özelinde optimizasyon değildir.

Bu ayrım önemlidir, çünkü çoğu benchmark, model davranışını izole olarak ölçerken, gerçek dünya AI sistemleri birçok hareketli parçadan oluşur. Backboard’un sonuçları, bellek performansının, sadece model büyüklüğünün veya brute-force hesabının bir fonksiyonu olmadığını, aksine belleğin nasıl yapılandırıldığı, güncellendiği ve zaman içinde paylaşıldığının bir fonksiyonu olduğunu göstermektedir.

Platform, kalıcı uzun vadeli bellek, yerel gömme ve vektörleştirme, yerleşik bilgi getirmeyle artırılmış üretim, ajanlar arası paylaşılan bellek ve 17.000’den fazla büyük dil modeline erişim gibi özellikleri birleştirir; bunlara, kendi anahtarını getir desteği de dahildir. Bu öğeleri birleştiren Backboard, şirketlerin, üretim kısıtlamaları altında sık sık bozulan açık kaynaklı bileşenleri birleştirmelerine gerek kalmadan, bu bileşenlerin ihtiyacını ortadan kaldırır.

Ajanslı AI’yi Pratik Hale Getirmek

Ajanslı AI‘ye ilgi artmaya devam etmektedir, ancak çoğu uygulama, demo düzeyinin ötesine geçmekte zorluk yaşamaktadır. Nedeni basittir. Paylaşılan, kalıcı belleğe sahip olmayan ajanlar, etkili bir şekilde koordine edemez. Parçalanırlar, bağlamı kaybederler ve etkileşimler uzadıkça öngörülemez bir şekilde davranırlar.

Backboard, farklı temel modellere dayanan ajanlar arasında bile paylaşılan, kalıcı belleği sağlar. Bellek güvenilir olduğunda, ajanslı davranış doğal olarak ortaya çıkar, senaryolara göre yazılmaz. Sistemler, önceki kararları hatırlayabilir, oturumlar arasında sürekliliği koruyabilir ve sürekli yeniden prompt verilmeden eylemleri koordine edebilir.

Platformun temel bellek çerçevesi, durumu statik graflar veya tekrarlanan bilgi getirme yoluyla yeniden kurmak yerine zaman içinde tutarlılığı korumak için tasarlanmıştır. Bu, AI sistemlerinin karmaşıklık arttıkça tutarlı ve denetlenebilir kalmasına olanak tanır.

Unutmayı Göze Alamayan Sistemler İçin Tasarlanmıştır

Backboard’un mimarisi, kurucusu ve CEO’su Rob Imbeault‘un deneyimine dayanmaktadır. Imbeault, daha önce Assent‘i, bir erken aşama startup’tan 1,4 milyar doların üzerinde bir küresel kurumsal platformuna dönüştürmeye yardımcı olmuştur. Assent’te çalıştığı sistemler, müşteri operasyonlarının derinlerinde, düzenleyici uyumluluk ve karmaşık tedarik zinciri iş akışlarını desteklemektedir; burada süreklilik, doğruluk ve güven mutlak gerekliliklerdir.

Deneyimi, net bir kanaat oluşmasına yol açmıştır. En değerli altyapı, genellikle gösterişli değildir. Uzun süreler boyunca, tutarlı ve sessiz bir şekilde çalışan altyapıdır. Bu ortamlarda, sistemlerin bağlam kaybettiğinde sıfırlanmasına izin verilmez. Durum kaybolursa veya güven aşınırsa, sistem operasyonel olarak, sadece teknik olarak değil, başarısız olur.

Imbeault, modern AI’de yapısal bir uyumsuzluk görmüştür. Büyük dil modelleri hızla ilerlerken, temelde durumsuz kalmışlardır. Bağlam, oturumlar arasında kaybolur ve geliştiricilerin, kırılgan prompt zincirleri ve ad hoc alma katmanları aracılığıyla belleği yeniden inşa etmelerine neden olur. Bu yaklaşımlar demo için çalışabilir, ancak AI sistemleri sürekli olarak çalıştırıldığında, ajanlar arasında koordine edildiğinde ve zaman içinde geliştirildiğinde bozulur.

Backboard, bu boşluğu kapatmak için inşa edilmiştir. Bellek, uygulama mantığı yerine dayanıklı altyapı olarak ele alınmaktadır; bu da AI sistemlerinin, etkileşimler, modeller ve ajanlar arasında durumunu korumasına olanak tanır. Kalıcılık, doğruluk ve uzun vadeli güvenilirlik odaklanması, Backboard’un var olmadan önce oluşan bir inancı yansıtmaktadır: üretim ortamlarında, bellek hataları, küçük hatalar değil, sistemik risklerdir.

Bu bakış açısı, Backboard’un tasarım felsefesini temel alır. Hedef, yalnızca izole anlarda zekayı göstermek değil, karmaşıklık arttıkça ve zaman ufukları genişledikçe güvenilir bir yazılım gibi davranan AI sistemlerini mümkün kılmaktır.

AI’nin Geleceği İçin Ne Anlama Gelmektedir

Backboard‘un sonuçlarının daha geniş bir anlamı, AI’nin bir sonraki aşamasının, yalnızca daha büyük modeller veya daha uzun bağlam pencereleri tarafından değil, zaman içinde hatırlayabilen, akıl yürütebilen ve gelişebilen sistemler tarafından şekillendirileceği yönündedir.

Şirketler, AI’yi müşteri desteği, operasyonlar, araştırma ve uyumluluk gibi alanlarda dağıttıkça, kalıcı bellek, güven ve ölçeklenebilirliğin temelini oluşturmaktadır. Belleği altyapı düzeyinde çözen platformlar, ajanslı AI’nin deneyselden günlük kullanıma geçişini tanımlayacaktır.

Akademik ve bağımsız benchmark’lerde bellek mimarisini şimdi doğrulayan Backboard, gerçek dünya kısıtlamaları altında AI sistemi davranışını daha iyi anlamak ve değerlendirmek için ekiplere yardımcı olmaya odaklanmaktadır. Şirketin yakın zamanda duyurulacak Switchboard yeteneği, karmaşık AI yapılandırmalarını daha şeffaf ve öngörülebilir hale getirmeyi hedeflemektedir.

AI’nin geleceğini, akıllı prompt hilelerinden daha az, zaman içinde güvenilebilen sistemler ise daha fazla şekillendirecek. Bellek, bu değişimin temelidir ve Backboard’un son sonuçları, bu temelinin nihayet şekillenmeye başladığını göstermektedir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.