Yapay zeka modelleri ve platformları

Backboard, AI Belleklerinde Yeni Küresel Standardı Belirledi – Gerçekten Ajanslı AI’ye Doğru Bir Adım

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Backboard yapay zeka sistemleri için önemli bir eşiği geçerek, belleğin kırılgan bir eklenti yerine temel altyapı olarak ele alınabileceğini gösterdi. Şirket, şimdi LoCoMo ve LongMemEval gibi iki büyük AI bellek benchmark’ini lider olduğunu açıkladı ve bu başarıyı bağımsız akademik ve bağımsız değerlendirme yöntemleriyle elde eden ilk platform oldu.

NewMathData tarafından yapılan bağımsız bir değerlendirmede, Backboard LongMemEval’de %93,4’lük bir doğruluk oranıyla, bu benchmark’un orijinal spécifikasyonuna göre çalıştırıldığında şimdiye kadarki en yüksek kamuoyuna açık skoru elde etti. Bu sonuç, daha önce yayımlanan %90,1’lik LoCoMo skoruna dayanmaktadır ve Backboard’u, hem kısa vadeli precision hem de uzun vadeli bağlamsal sürekliliği sürdürebilen sistemlerin çok küçük bir grubuna dahil etmektedir.

Gözlemler, Backboard’un cevaplarının, beklenen cevaplarla karşılaştırıldığında daha bağlamsal olarak doğru olmasına rağmen yanlış olarak işaretlendiği birkaç durum belirledi. Bu durumlarda, sistem, dar bir yorum yerine etkileşim sırasında zaten mevcut olan gerçek bilgileri entegre etti. Sonuç olarak, bildirilen skor, performansın üst sınırı değil, muhafazakar bir temel çizgisi olarak kabul edilmelidir.

Neden AI’de Bellek Sınırlayıcı Faktör Olmuştur

Çoğu modern AI sistemi, gerçek bir geçmişe sahip olmadığı izlenimini verir. Büyük dil modelleri, akıcı cevaplar üretmede mükemmel olsalar da, bir oturum bittikten veya bir.prompt penceresi doldurulduktan sonra bağlamı unutma eğilimindedirler. Bu sınırlama, geliştiricilerin, state’i tekrar tekrar inşa etmek için retrieval hacks, prompt mühendisliği veya kırılgan araç zincirleri kullanmalarına neden olur; bu araçlar genellikle sistemlerin daha karmaşık hale gelmesiyle birlikte bozulur.

Bellek, sadece hatırlamayla ilgili değildir. Pratik uygulamalarda, bellek, bir AI sisteminin zaman içinde tutarlı kalıp kalıp olmadığını, görevler arasında koordine edip edemeyeceğini ve kullanıcılarla güven oluşturup oluşturamayacağını belirler. Dayanıklı bellek olmadan, sistemler sıfırlanır, hayal görür veya birbirleriyle çelişir. AI, tek tur etkileşimlerden uzun süreli iş akışlarına doğru ilerledikçe, bellek, birincil tıkanıklık haline gelmiştir.

Backboard, bu sorunu, belleği ilk sınıf altyapı olarak ele alarak çözmektedir. Uygulama katmanına belleği eklemek yerine, kalıcılık, gömme, alma ve orkestrasyonu birleşik bir platforma entegre eder ve bu platforma tek bir API aracılığıyla erişilir.

Benchmark Ayarlamasının Yerine Sistem Düzeyinde Bir Yaklaşım

Backboard, mimarisini benchmark skorlarını takip etmek için tasarlamadı. Değerlendirmeler, ya bağımsız olarak başlatıldı ya da sistemi akademik araştırmayla karşılaştırmak için içsel olarak kullanıldı. Elde edilen performans, gerçekçi koşullar altında sistem düzeyinde davranışın bir yansımasıdır, görev özelinde optimizasyon değildir.

Bu ayrım önemlidir, çünkü çoğu benchmark, model davranışını izole olarak ölçerken, gerçek dünya AI sistemleri birçok hareketli parçadan oluşur. Backboard’un sonuçları, bellek performansının, sadece model büyüklüğünün veya brute-force hesabının bir fonksiyonu olmadığını, sondern belleğin nasıl yapılandırıldığı, güncellendiği ve zaman içinde paylaşıldığının bir fonksiyonu olduğunu göstermektedir.

Platform, kalıcı uzun vadeli bellek, yerel gömme ve vektörleştirme, yerleşik alma-augmente üretim, ajanlar arası paylaşılan bellek ve 17.000’den fazla büyük dil modeline erişim gibi özellikleri birleştirir; bunlara, getir自己的 anahtar desteği de dahildir. Bu öğeleri birleştiren Backboard, şirketlerin, üretim kısıtlamaları altında sık sık bozulan açık kaynaklı bileşenleri birleştirmelerine gerek kalmadan, bu bileşenlerin ihtiyacını ortadan kaldırır.

Ajanslı AI’yi Pratik Hale Getirmek

Ajanslı AI’ye ilgi devam etmektedir, ancak çoğu uygulama, demo düzeyinin ötesine geçmekte zorluk yaşamaktadır. Nedeni basittir. Paylaşılan, kalıcı belleğe sahip olmayan ajanlar, etkili bir şekilde koordine edemez. Parçalanırlar, bağlamı kaybederler ve etkileşimler uzadıkça öngörülemez bir şekilde davranırlar.

Backboard, farklı temel modellere dayanan ajanlar arasında bile paylaşılan, kalıcı belleği sağlar. Bellek güvenilir olduğunda, ajanslı davranış doğal olarak ortaya çıkar, senaryolara göre yazılmaz. Sistemler, önceki kararları hatırlayabilir, oturumlar arasında sürekliliği koruyabilir ve sürekli yeniden.prompt olmadan eylemleri koordine edebilir.

Platformun temel bellek çerçevesi, durumun statiği aracılığıyla yeniden inşa etmek yerine zaman içinde tutarlılığı korumak için tasarlanmıştır. Bu, AI sistemlerinin karmaşıklık arttıkça tutarlı ve denetlenebilir kalmasına olanak tanır.

Silinemeyecek Sistemler İçin Yapılmıştır

Backboard’un mimarisi, kurucusu ve CEO’su Rob Imbeault’un deneyimine dayanmaktadır. Imbeault, daha önce Assent’i, bir erken aşama startup’tan 1,4 milyar doların üzerinde bir küresel entreprise platformuna dönüştürmeye yardımcı olmuştur. Assent’te çalıştığı sistemler, müşteri operasyonlarının derinlerinde, düzenleyici uyumluluk ve karmaşık tedarik zinciri iş akışlarını desteklemektedir; burada süreklilik, doğruluk ve güven mutlak gerekliliklerdir.

Deneyimi, net bir ikna oluşmasına yol açmıştır. En değerli altyapı, genellikle gösterişli değildir. Uzun süreler boyunca, tutarlı ve sessiz bir şekilde çalışan altyapídır. Bu ortamlarda, sistemlerin bağlam kaybettiğinde sıfırlanmasına izin verilmez. Durum kaybolursa veya güven aşınrsa, sistem operasyonel olarak, sadece teknik olarak değil, başarısız olur.

Imbeault, modern AI’de yapısal bir uyumsuzluk görmüştür. Büyük dil modelleri hızla ilerlerken, temelde durumsuz kalmışlardır. Bağlam, oturumlar arasında kaybolur ve geliştiricilerin, kırılgan.prompt zincirleri ve ad hoc alma katmanları aracılığıyla belleği yeniden inşa etmelerine neden olur. Bu yaklaşımlar demo için çalışabilir, ancak AI sistemleri sürekli olarak çalıştırıldığında, ajanlar arasında koordine edildiğinde ve zaman içinde geliştirildiğinde bozulur.

Backboard, bu boşluğu kapatmak için inşa edilmiştir. Bellek, uygulama mantığı yerine dayanıklı altyapı olarak ele alınmaktadır; bu da AI sistemlerinin, etkileşimler, modeller ve ajanlar arasında durumunu korumasına olanak tanır. Kalıcılık, doğruluk ve uzun vadeli güvenilirlik odaklanması, Backboard’un var olmadan önce oluşan bir inancı yansıtmaktadır: üretim ortamlarında, bellek hataları, küçük hatalar değil, sistemik risklerdir.

Bu bakış açısı, Backboard’un tasarım felsefesini temel alır. Hedef, yalnızca izole anlarda zekayı göstermek değil, karmaşıklık arttıkça ve zaman ufukları genişledikçe güvenilir bir yazılım gibi davranan AI sistemlerini ermögilmektir.

AI’nin Geleceği İçin Ne Anlama Gelmektedir

Backboard’un sonuçlarının daha geniş bir anlamı, AI’nin bir sonraki aşamasının, yalnızca daha büyük modeller veya daha uzun bağlam pencereleri tarafından değil, zaman içinde hatırlayabilen, nedenlenebilen ve gelişebilen sistemler tarafından şekillendirileceği yönündedir.

Şirketler, AI’yi müşteri desteği, operasyonlar, araştırma ve uyumluluk gibi alanlarda dağıttıkça, kalıcı bellek, güven ve ölçeklenebilirliğin temelini oluşturmaktadır. Belleği altyapı düzeyinde çözen platformlar, ajanslı AI’nin deneyselden günlük kullanıma geçişini tanımlayacaktır.

Akademik ve bağımsız benchmark’lerde bellek mimarisini şimdi doğrulayan Backboard, gerçek dünya kısıtlamaları altında AI sistemi davranışını daha iyi anlamak ve değerlendirmek için ekiplere yardımcı olmaya odaklanmaktadır. Şirketin yakın zamanda duyurulacak Switchboard yeteneği, karmaşık AI yapılandırmalarını daha şeffaf ve öngörülebilir hale getirmeyi hedeflemektedir.

AI’nin geleceği, zaman içinde güvenilir sistemler tarafından şekillendirilecek, değil, yalnızca akıllı.prompt hileleri tarafından. Bellek, bu değişimin temelidir ve Backboard’un son sonuçları, bu temelinin nihayet şekillenmeye başladığını göstermektedir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağı, AI ve robotik geleceğini şekillendirmeye ve tanıtmaya yönelik sarsılmaz bir tutkuya sahiptir. Bir seri girişimci olarak, AI'nin toplum için elektrik kadar yıkıcı olacağına inanmaktadır ve sık sık yıkıcı teknolojiler ve AGI'nin potansiyeli hakkında konuşmaktadır.

Bir gelecekçi olarak, bu yeniliklerin dünyamızı nasıl şekillendireceğini keşfetmeye adanmıştır. Ayrıca, Securities.io kurucusudur, bu platform geleceği yeniden tanımlayan ve tüm sektörleri yeniden şekillendiren teknolojilere yatırım yapmayı hedeflemektedir.