Yapay Zekanın Bellek Krizi: Dijital Karanlığı İnşa Ediyoruz

Milyonlarca yapay zeka ajanı üretim sistemlerine giriyor. Bunların neredeyse hiçbiri operasyonel deneyimi paylaşamaz. Bu nedenle bu mimari seçim önemlidir ve doğru yapılırsa ne değişir.

Saat 14:06’da bir müşteri bir laptop için online sipariş verir.

Ödeme ajanı operasyonel veritabanını sorgular: temiz satın alma geçmişi, tutar normal aralıkta, previously kullanılan teslimat adresi, cihaz ve konum recent başarılı siparişlerle tutarlı. Her şey normal görünüyor. Ajan siparişi onaylar.

Aynı zamanda, bir davranış ajanı veri gölündeki tıklama verilerini işler. Oturumdan bir model çıkarır: kullanıcı, normal satın alma veya karşılaştırma davranışı olmadan doğrudan derin ödeme URL’sine gelir. Bu sinyal tek başına zayıftır, ancak hesap ele geçirme senaryolarında otherwise normal satın almalarla birleştirildiğinde bilinen bir öncüldür.

Davranış ajanı bu yorumu daha sonraki analiz ve model eğitimi için türetilen bilgi olarak kaydeder.

Ödeme ajanı bunu görmez. Çünkü sinyal hesaplanmadı veya görmezden gelindiği için değil, çünkü bilgi ödeme ajanının karar anında danışmadığı bir sistem içinde yaşıyor.

Her ajan kendi sınırı içinde doğru davranır. Her biri sahip olduğu sisteme yazılır ve bu sonuçlar diğer ajanlara paralel olarak çalışan diğer ajanlara görünmez. Kararlar yerel olarak doğrudur, ancak küresel olarak tamamlanmamıştır.

Laptop gönderilir.

Otuz altı saat sonra, ücret itiraz edilir. Araştırma, hesabın daha önce o gün ele geçirildiğini onaylar. Saldırgan, yalnızca erken uyarının davranış ajanının karar bağlamı dışında tutulduğu gerçeğine güvenerek işlemi normal sınırlar içinde tuttu.

Başarısızlık, eksik veri, yavaş işleme veya kötü model değildi. Bir ajan silosu idi: bilgi oluştu, ancak paylaşılmadı.

Ve bu, neredeyse kimsenin konuşmadığı bir sorunu ortaya koyuyor. Karar veren yapay zeka ajanlarının diğer yapay zeka ajanlarının zaten keşfettiği şeyi erişemeyeceği mimariler inşa ettik.

Matbaa Makinesinin Çözümlediği Problem

Matbaa makinesinden önce, bilgi kırılgandı. Bir bilim insanı öldüğünde, öğrendiklerinin çoğu onlarla birlikte ölürdü. Londra’da bir matematikçi, Paris’teki bir matematikçinin elli yıl sonra bağımsız olarak keşfedeceği ilkeleri keşfedebilirdi. İlerleme gerçekti, ancak yerel, yavaş ve tekrar tekrar sıfırlanıyordu.

Matbaa makinesi bireyleri daha akıllı yapmadı. Dışarıdan belleği dışsallaştırdı. Bilgi, tek bir zihne bağlı olmaktan çıkıp yaratıcısının ömrünü aşmaya başladı. Keşifler paylaşılabiliyordu, yeniden ziyaret edilebiliyordu ve nesiller boyunca üzerine inşa edilebiliyordu. İşte bu, ilerlemeyi biriktirmeyi mümkün kıldı.

Yapay zeka ile matbaa öncesi hatasını tekrarlayacağız.

Çoğu organizasyon artık üretim sistemlerinde yapay zeka ajanları dağıtmakta, müşteri desteği, yazılım geliştirme, araştırma ve sahtecilik algılama gibi alanlarda daha fazlasını aktif olarak deniyor. Bu ajanlar genellikle modern mikro hizmet mimarileri ile bağımsız hizmetler olarak dağıtılır, her biri kendi verisi ve operasyonel sınırı ile. Aynı organizasyon içinde bile, ajanlar kendi üretim deneyimlerinden bilgi çıkarırlar, ancak diğer ajanlarla ilgili kararlar alırken nadiren ürettiği bilgiyi paylaşırlar.

Sonuç olarak, operasyonel bilgi parçalıdır. Yerel kararlar gelişebilir, ancak deneyim sistemi genelinde birikemez. Herhangi bir ajan içinde hapsolmuş kalan her buluş, biriken bir buluş değildir.

Bu sefer sınırlayıcı faktör zeka veya hız değildir. Bellektir. Yapay zeka sistemlerinin keşfettiklerini dışsallaştırmak ve paylaşmak için bir yol olmadan, ilerleme daha sık sıfırlanır.

Paylaşılan Belleğin Gerçek Görünümü

Daha büyük bağlam pencereleri bireysel akıl yürütmeyi zenginleştirebilir, ancak ajanlar arasında kalıcı, paylaşılan deneyimi yaratmaz.

Paylaşılan bellek, modelleri geliştirerek değil, ajanların karar anında görebileceği şeyi değiştirerek sonuçları değiştirir.

Bir silo sistemi içinde, her ajan kendi sınırı içinde doğru davranır. Ödeme ajanı işlem riskini değerlendirir. Davranış ajanı tıklama desenlerini analiz eder. Her biri sahip olduğu sisteme sonuçlarını yazar ve bu sonuçlar diğer ajanlara görünmez. Kararlar yerel olarak doğrudur, ancak küresel olarak tamamlanmamıştır.

Paylaşılan bir bellek katmanı ile bu sınır ortadan kalkar.

Davranış ajanı bir oturumu işlerken, zayıf ancak anlamlı bir sinyal çıkarır: hesap ele geçirme girişimlerinin erken warning işaretleri ile ilişkili bir navigasyon modeli. Bu bilgiyi yalnızca offline analiz için değil, aktif oturuma bağlı paylaşılan belleğe yazar.

Dakikalar sonra, ödeme ajanı satın alma işlemini değerlendirirken bu belleği sorgular. İşlem hala normal görünüyor. Ancak ek bağlam görür: otherwise отсутств bir davranış uyarısı. Herhangi bir sinyal tek başına kararlı değildir. Birlikte, daha fazla doğrulama için eşiği geçer.

Ajanlar kendileri değişmedi. Modeller yeniden eğitilmedi. Merkezi bir kontrolör müdahale etmedi. Fark, görünürlüktedir: bir ajan tarafından oluşturulan bir fikir, karar anında diğerine görünür hale gelir.

Önemli olan, bu bilgi kalıcıdır. Sonuç daha sonra bilindiğinde – sahtekarlık veya meşru – sinyal ve sonuç arasındaki ilişki kaydedilir. Zaman içinde, sistem zayıf işaretlerin hangi onesinin önemli olduğunu ve hangi koşullarda önemli olduğunu gösteren ampirik bir kayıt biriktirir. Gelecek kararlar, tek bir etkileşim veya ajanın ötesine uzanan deneyim tarafından bilgilendirilir.

Paylaşılan bellek, bir veri ambarı veya operasyonel veritabanı değildir. Türetilen bağlam için düşük gecikme zamanlı bir alt yapıdır: sinyaller, yorumlar ve diğer ajanların karar alırken sorgulayabileceği ilişkiler.

Bu, deneyim nasıl biriktiğinin yoludur – herhangi bir model içinde değil, tüm sistem boyunca.

Ajan Silolarının Arkasındaki Mimarî Ticaret

Ajan siloları, bir uygulama hatası değildir. Bunlar, farklı bir tüketici için tasarlanmış girişimlerin mimari sonuçlarıdır.

Üretim sistemleri on yıllarca iş yükünü işlev tarafından ayırmıştır. Operasyonel sistemler düşük gecikme zamanlı, tutarlı işlemler için optimize edilmiştir, analitik sistemler ise büyük ölçekli toplama ve tarihsel model keşfi için optimize edilmiştir (OLTP vs. OLAP). Bu ayrım, nasıl bilgi tüketildiğini yansıtıyordu: analitik sonuçlar, makineler değil insanlar için üretiliyordu ve bu nedenle karar alma sürecinin dışında ve asenkron olarak gelmesi bekleniyordu.

Yapay zeka ajanları bu mimari ayrılığı miras alır, ancak buna uymaz.

Sonuç, yalnızca gecikmiş bir bakış değil, yapısal kör noktalardır. Analitik sistemlerde üretilen bilgiler, tasarım tarafından gerçek zamanlı kararlar already alınmışken keşfedilir. Karar anında yüzeyden çıkarılamayan, ancak diğer ajanların kararlarını değiştirebilecek sinyaller mevcuttur.

Mimari bozulmuş değildir. Otonom sistemlerin gereksinimlerine uymuyor.

Eksik Disiplin: Bağlam Mühendisliği

Paylaşılan bellek, çoğu ekibin çözemediği bir problemi ortaya koyar: hangi deneyimin kalıcı olacağını belirleme.

Yapay zeka sistemleri ham deneyimlerin büyük miktarlarını üretir – işlemler, tıklamalar, mesajlar, eylemler, sonuçlar. Bunların hepsini kalıcı hale getirmek ne pratiktir ne de faydalı. Kasıtlı seçim olmadan, paylaşılan bellek gürültüye dönüşür. zorluk, daha fazla veri toplamak değil, diğer ajanların kullanabileceği bağlamı şekillendirmektir.

Bu, bağlam mühendisliğinin rolüdür.

Bağlam mühendisliği, hangi gözlemlerin dayanıklı sinyallere dönüşeceğini, bu sinyallerin nasıl temsil edileceğini ve diğer ajanlara ne zaman ortaya çıkacağını belirleme disiplinidir. Ham olaylar ve ajan akıl yürütmesi arasında, geçici aktiviteyi paylaşılan, karar ilgili anlama dönüştürür.

Uygulamada, bu, desenleri, göstergeleri ve koşullu ilişkileri yükseltmek, çoğu ham deneyimi ise solmasına izin vermektir. Zayıf bir sinyal veya kenar durumu izole edilemeyebilir, ancak biriktirilir ve doğru anda yüzeye çıkarsa değerli hale gelir.

Bağlam mühendisliği, paylaşılan belleğin yalnızca deneyimi depolayıp depolamadığını, yoksa deneyim birikimini sağlayıp sağlamadığını belirler.

Doğru Yapıldığında Ne Olur

Bu, gelecekteki bir endişe değil, bugün altyapı ekipleri tarafından yapılan bir mimari karardır.

Varsayılan yol, izolasyondur. Yapay zeka ajanları bağımsız olarak davranır, yalnızca kendi deneyimlerine dayanır. Her biri hızlı, yerel olarak doğru kararlar alır, ancak zeka düzleşir. Aynı kenar durumları tekrar eder, zayıf sinyaller yeniden keşfedilir ve başarısızlıklar daha hızlı ve daha büyük hacimlerde tekrarlanır.

Alternatif, paylaşılan bir bellek katmanıdır.

Türetilen bağlam, karar anında kalıcı ve görünür olduğunda, deneyim buharlaşmayı durdurur. Keşfedilen bilgiler kaybolmaz. Zayıf sinyaller biriktirme yoluyla anlam kazanır. Kararlar, modellerin değişmesi değil, ajanların artık yalnız akıl yürütmemesi nedeniyle gelişir.

Bunun için daha büyük modellere, gerçek zamanlı yeniden eğitime veya merkezi kontrole gerek yoktur. Belleği, düşük gecikme zamanlı erişim, kalıcılık ve paylaşılan görünürlük için tasarlanmış birincil mimari katman olarak ele almak gerekir.

Mimari varsayılanlar hızla sertleşir. Paylaşılan bellek olmadan inşa edilen sistemler, ajanlar çoğaldıkça giderek daha zor bir şekilde dönüştürülür. Seçim basittir: deneyim biriken sistemler inşa edin veya sürekli sıfırlanan sistemler inşa edin.