Yapay zeka temelleri
AI Aracı Hafızası Nedir? Kısa Süreli, Uzun Süreli, Bölümsel ve Anlamsal Hafıza Açıklaması
Ajan belleği tek bir veritabanı ya da sonsuz büyüyen bir istem değildir. Çalışma bağlamını, bölümleri, gerçekleri ve öğrenilmiş prosedürleri tutmak ve doğru zamanda doğru bilgiyi getirmek için tasarlanmış bir sistemdir.
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
AI ajan hafızası, bir ajanın anlık model yanıtının ötesinde ihtiyaç duyabileceği bilgileri depolayan, düzenleyen ve geri getiren sistemdir. Aktif görev durumunu, geçmiş deneyimleri, gerçekleri, tercihleri ve öğrenilmiş prosedürleri koruyabilir, ancak tek bir veritabanı değildir ve bir modelin bağlam penceresiyle aynı şey değildir.
Hafıza, bir ajanın uzun görevler ve tekrarlanan etkileşimler boyunca tutarlı kalmasına yardımcı olur. Ayrıca eski gerçeklerin, gizlilik risklerinin ve yanıltıcı geri getirmelerin ortaya çıkmasına da neden olabilir. Temel tasarım sorusu “Ajan her şeyi nasıl hatırlayabilir?” değil, “Ne hatırlamalı, ne kadar süreyle ve hangi yetki altında?”
Bağlam Hafıza Değildir
Bir modelin bağlam penceresi, belirli bir çıkarım sırasında mevcut olan bilgidir: talimatlar, mesajlar, araç sonuçları, getirilen belgeler ve diğer girişler. Geçici bir çalışma alanı gibi işlev görür.
Hafıza, hangi bilginin kalıcı olacağına ve seçilen kayıtların o çalışma alanına nasıl geri döneceğine karar veren daha geniş mekanizmadır. Konuşmalarla dolu bir veritabanı sadece depolamadır; sistem doğru bilgiyi doğru zamanda geri getirebildiğinde ve güvenilirliğini gösterebildiğinde faydalı hafıza haline gelir.
Bu ayrım önemlidir çünkü büyük bağlam pencereleri hafıza yönetimini çözmez. Bir istemi tüm önceki olaylarla doldurmak maliyeti artırır ve modeli alakasız veya çelişkili ayrıntılarla dikkatini dağıtabilir.
Ajan Hafızasının Başlıca Türleri
Bir üretim sistemi, konuşma durumu, yapılandırılmış veritabanları, vektör arama, olay günlükleri ve sürümlü talimatların bir karışımıyla tüm dörtünü uygulayabilir. Taksonomi, bilginin oynadığı rolü, onu depolayan veritabanı ürününü değil, tanımlar. Bir müşteri tercihi, ilişkisel bir tablo ya da bir vektör indeksi içinde bulunup bulunmadığına bakılmaksızın anlamsal hafızadır.
Çalışma veya Kısa Süreli Hafıza
Çalışma hafızası, mevcut görevin aktif durumunu tutar: hedef, mevcut plan, son gözlemler, açık sorular, araç çıktıları ve tamamlanmış adımlar. Genellikle bir kısmı konuşmada, bir kısmı ise yapılandırılmış bir durum nesnesinde depolanır.
Çalışma bağlamı sınırlı olduğundan, uzun süren ajanlar eski olayları özetleyebilir, önemli değişkenleri ayrı ayrı koruyabilir veya görevin yalnızca bir sonraki ilgili kısmını yükleyebilir.
Bölümsel Hafıza
Bölümsel hafıza, deneyimleri olaylar olarak kaydeder: ne oldu, ne zaman, hangi durumda, hangi eylemler yapıldı ve ne sonuçlandı. Bir ajan, belirli bir dağıtımın yapılandırma değişikliğinden sonra başarısız olduğunu veya bir kullanıcının belirtilen bir nedenden dolayı bir öneriyi reddettiğini hatırlayabilir.
Bölümsel kayıtlar, durum temelli akıl yürütmeyi destekleyebilir—mevcut durumla benzer geçmiş bir durumu bulmak. Önceki bir sonucun artık geçerli olmayan koşullara bağlı olabileceği için dikkatli atıf gerekir.
Anlamsal Hafıza
Anlamsal hafıza, gerçekleri ve kavramları tek bir olaydan bağımsız olarak temsil eder. Örnekler arasında bir müşterinin tercih ettiği dil, iç bir metriğin tanımı veya ürünler arasındaki ilişki yer alır.
Anlamsal hafıza belgelerde, vektör indekslerinde, ilişkisel veritabanlarında veya bilgi grafiklerinde bulunabilir. Önemli gerçekler, kaynağı, zaman damgalarını ve sahipliği içermelidir, böylece ajan yetkili kayıtları model tarafından üretilen özetlerden ayırt edebilir.
Prosedürel Hafıza
Prosedürel hafıza, işin nasıl yapılacağını yakalar: bir iş akışı, araç seçimi kuralı, kontrol listesi, başarılı plan veya yeniden kullanılabilir beceri. Mevcut sistemlerde bu genellikle sürümlü talimatlar, kod veya test edilmiş şablonlar şeklinde görülür, modelin sessizce kendini değiştirmesinden ziyade.
Prosedürel güncellemeleri sıradan konuşmadan ayırmak bir güvenlik özelliğidir. Tek bir olağandışı etkileşim, ajanın çalışma kurallarını otomatik olarak yeniden yazmamalıdır.
Bir Ajan Bir Şeyi Nasıl Hatırlar
| Çalışma belleği | Mevcut görev sırasında kullanılan geçici bağlam. |
|---|---|
| Episodik bellek | Seçili olayların ve önceki etkileşimlerin kayıtları. |
| Semantik bellek | Deneyimden türetilen genelleştirilmiş gerçekler veya kavramlar. |
| Unutma | Eski, hassas ve düşük değerli durumları sınırlayan kaldırma veya çürüme. |
Pratik bir bellek boru hattı dört aşamadan oluşur.
- Yakalama: bir mesajı, eylemi, sonucu veya çevresel değişikliği gözlemleyin.
- Seç ve kodla: bilginin saklanmaya değer olup olmadığını karar verin ve onu meta verilerle bir kayda dönüştürün.
- Depola: kaydı uygun bir sisteme erişim kontrolleri ve saklama politikasıyla yerleştirin.
- Geri getir: yeni bir görev geldiğinde, ilgili kayıtları ara, sıralayın ve bağlamda küçük bir seçim yerleştirin.
Bazı sistemler konsolidasyon ekler: tekrarlanan gözlemleri birleştirme, çiftleri çözme veya olayları kalıcı gerçeklere dönüştürme. Bu süreç, kaynağı veya belirsizliği silmemelidir.
Geri Getirmenin Nasıl Çalıştığı
Vektör benzerliği araması yaygındır çünkü ifadeler farklı olsa bile anlamsal olarak ilişkili kayıtları bulabilir. Ancak benzerlik tek başına yeterli değildir. Altı ay önceki bir tercih konu açısından ilgili olabilir ancak artık geçerli olmayabilir.
Sağlam geri getirme birkaç sinyali birleştirebilir:
- Anlamsal alaka: kaydın mevcut görevle ne kadar yakından eşleştiği;
- Yenilik: daha yeni bilginin daha fazla ağırlık alıp almayacağı;
- Önem: kaydın ana karar veya kısıtlamayı etkileyip etkilemediği;
- Otorite: kaynağın güvenilir bir sistem, kullanıcı veya model çıkarımı olup olmadığı;
- Kapsam: mevcut ajan ve kullanıcının erişimine izin verilip verilmediği;
- Çeşitlilik: seçilen anıların tek bir noktayı tekrarlamak yerine farklı bilgi ekleyip eklemediği.
Etkili Bellek Mimarileri
Generative Agents araştırması, ajanların gözlemleri depoladığı, alaka, yenilik ve öneme göre anıları geri getirdiği ve planlamayı yönlendirmek için üst düzey yansımalar oluşturduğu bir mimari tanıttı. Belleğin, simüle edilmiş davranışta süreklilik yaratabileceğini gösterdi.
MemGPT sınırlı bağlamı bir işletim sistemi benzetmesiyle ele alarak, bellek katmanları ve küçük bir aktif bağlam ile daha büyük dış depolama arasında açık hareket kullanmıştır. Daha geniş ders, bağlamın kıt bir kaynak olarak yönetilmesi gerektiğidir.
Bu fikirler modern ajanları etkiler, ancak üretim belleği genellikle daha basit bileşenler kullanır: yapılandırılmış bir görev durumu, bir olay günlüğü, bir vektör deposu ve açık kullanıcı tercihleri. Karmaşıklık, gösterilmiş bir ihtiyaca göre olmalıdır.
Bellek vs. Geri Getirerek Artırılmış Üretim
Geri getirme artırmalı üretim (RAG), harici bilgileri model bağlamına getirir. Ajan belleği aynı geri getirme tekniklerini kullanabilir, ancak kaynak ve yaşam döngüsü farklıdır.
Bir RAG sistemi, ajandan bağımsız olarak var olan düzenlenmiş bir bilgi tabanından geri getirme yapabilir. Bellek sistemi genellikle ajanın kendi etkileşimleriyle oluşturulan kayıtları içerir ve neyin yazılacağına, neyin okunacağına karar vermelidir. Sınır bulanıklaşabilir, ancak bellek kişiselleştirme, saklama ve kendi ürettiği veri risklerini getirir; bu riskler sıradan belge geri getirmede bulunmayabilir.
Yaygın Bellek Hataları
Çatışmalar kaçınılmazdır. Bir kullanıcı bir tercihi değiştirebilir, iki sistem bir hesap konusunda anlaşmazlık yaşayabilir veya bir özet önemli bir istisna atlayabilir. Güvenilir bellek zaman damgalarını ve kaynakları tutar, hangi sistemin yetkili olduğunu tanımlar ve sessizce ilk sıradaki kaydı seçmek yerine çözülemeyen çelişkileri ortaya çıkarır.
- Eski bellek: eski bir gerçek, daha yeni bir kayıt sistemi değerinin üzerine yazar.
- Yanlış bellek: model tarafından üretilen bir çıkarım, onaylanmış gibi saklanır.
- Getirme gürültüsü: benzer ancak alakasız kayıtlar modeli dağıtır.
- Aşırı kişiselleştirme: sistem, verilen bağlamın dışındaki bir tercihi uygular.
- Kullanıcılar arası sızıntı: bir kişi ya da kiracının kayıtları başka birinin bağlamında ortaya çıkar.
- Zehirleme: kötü niyetli içerik, sonraki ajan davranışını manipüle edebilmek için saklanır.
- Sınırsız saklama: hassas veriler, net bir amaç veya silme yolu olmaksızın kalır.
Belleği Sorumlu Şekilde Tasarlamak
Açık kategorilerle başlayın. Yetkili gerçekleri, kullanıcı tarafından sağlanan tercihleri, model özetlerini ve ham etkileşim günlüklerini ayırın. Kökeni ve zaman damgalarını saklayın. Yüksek etkili gerçeklere son kullanma kuralları verin veya kanıt çeliştiğinde onay gerektirin.
Kullanıcıların, uygun olduğunda kalıcı kişisel belleği görebilmeleri, düzeltebilmeleri ve silebilmeleri gerekir. Erişim kontrolü, hem depolama hem de getirme sırasında uygulanmalıdır. Veritabanında bulunan bir kayıt, otomatik olarak her ajan, görev veya kullanıcı için uygun değildir.
Belleği bir sistem olarak değerlendirin. Ajanın faydalı kayıtları getirip getirmediğini, alakasız olanları görmezden gelip gelmediğini, güncellenen gerçeklere saygı gösterip göstermediğini, zehirleme girişimlerine dayanıp dayanmadığını ve bellek mevcut olmadığında doğru davranıp davranmadığını test edin. İyileşmeyi eklenen gecikme, maliyet ve gizlilik maruziyetiyle ölçün.
Bellek, Ajanın Öğrenmesi Anlamına mı Geliyor?
Genellikle, model ağırlıkları değişmez. Çoğu ajan belleği, çalışma zamanında modele bağlam içinde getirilen harici bilgilerden oluşur. Bu, davranışı büyük ölçüde değiştirebilir, ancak temel modelin eğitilmesi veya ince ayar yapılmasından farklıdır. Ayrımı net tutmak, ekiplerin tersine döndürülebilirlik hakkında düşünmesine yardımcı olur: harici bir kayıt, modeli yeniden eğitmeye gerek kalmadan düzeltilebilir veya silinebilir.
Zorunlu değildir. Çoğu ajan belleği, sabit bir modele sağlanan bilgiyi değiştirir; modelin parametrelerini güncellemez. Sistem, bağlamı değiştiği için farklı davranabilir ve bu, temel sinir ağına müdahale etmeden öğrenmeye benzer bir etki yaratabilir.
Bu ayrım faydalıdır. Harici bellek, eğitim yoluyla gömülen bilgiye kıyasla daha kolay incelenebilir, düzeltilebilir, yönetilebilir ve silinebilir.
AI Ajan Belleği Hakkında Hatırlanması Gerekenler
AI ajan belleği, bir model etrafında bir getirme ve yönetim mimarisidir. Çalışma belleği mevcut görevi sürdürür; epizodik bellek deneyimleri kaydeder; anlamsal bellek gerçekleri korur; ve prosedürel bellek yeniden kullanılabilir çalışma yollarını kodlar.
En iyi bellek sistemi seçici, kaynak gösterilebilir, izin farkında ve kolay düzeltilebilir olmalıdır. Daha fazla hatırlamak amaç değildir. Ajanın doğru kanıtı doğru karara, güveni ihlal etmeden getirmesine yardımcı olmak hedeftir.
