AI Ajanınız Her Şeyi Biliyor — Ama Hiçbir Şey Anlamıyor

“Annemin ve babamın İrlanda’ya gideceği geziye katılalım” – bu görünüşte masum ifade, beni ürküttü.

Karım ve ben çok seyahat ediyoruz. Neyi sevdiğimizi biliyoruz. Karımın ebeveynleri ise nadiren evlerinden birkaç yüz mil uzaklaşır ve birlikte sadece bir kez – bizim düğünümüz için – ülkeyi terk etmişlerdir.

Bunun üzerine, bu gezi karımın babası tarafından karımın annesine bir Noel hediyesiydi, böylece o ailesini ziyaret edebilirdi, belki de son kez.

Bu geziyi tek bir kelimeyle özetleyebilirdim: felaket. Nasıl olup da bu kadar farklı deneyimler ve beklentileri sentezleyerek harika bir gezi yapabilir veya en azından gezi sonunda birbirimizden nefret etmemeyi sağlayabilirdik?

Kendine saygısı olan her teknoloji meraklısı gibi, teknolojiye başvurdum – özellikle de AI’ye.

Ama beklenmedik bir şekilde, AI destekli bir aile gezi planlama uygulamasını vibe coding ile geliştirdiğim küçük deney, bana kurumsal IT’de AI’yi uygulama hakkında neredeyse her şeyi öğretti.

AI’yi ne kadar çok bilgiyle beslerseniz o kadar aptallaşır

Çoğu kurumsal AI dağıtımı tahmin edilebilir bir modele uyar. Kuruluşlar, bir ajana bir dizi talimat verir ve bunu bir bilgi kaynağına bağlar, bu ya bir RAG (Retrieval-Augmented Generation) çerçevesi, mevcut bir bilgi tabanı veya hatta bir MCP sunucusu olabilir. Sonraki adımda, bir LLM ekleyin ve işini yaptırın.

Sorun burada, LLM’lerin temelde aptal olmasıdır. Bilgilerinin tümüne nasıl öncelik vereceğini bilmezler, bu nedenle her bir bağlam parçasını eşit ağırlıkta ele alma eğilimindedirler. Bir insanın, modelin neyin önemli neyin önemsiz olduğunu öğrenmesi için bir bilgi seçme ve düzenleme katmanı eklemesi gerekir. Düzenleme olmadan, her şeyi bilen ancak hiçbir şeyi anlamayan AI’ye sahip olursunuz.

Önemli Olan Üç Tür Hafıza

Etkili kurumsal AI düzenleme, üç özel hafıza türünden en iyi şekilde yararlanmayı içerir.

İlki, kurumsal hafızadır, bu başlangıçta oldukça temel görünebilir. Birisi “finansal hizmetler” dediğinde, ajan şirketin Finansal Hizmetler bölümünü kastettiğini, tüm endüstrinin değil, anlar. Bu, tanımlar, tercihler ve sık sık değişmeyen kurallarla dolu kalıcı kurumsal bilgi haline gelir. Bu bilgi kurumun stratejik önceliklerini, temel girişimlerini ve kurumsal dinamiklerini kapsayacak şekilde genişledikçe zengin bir kurumsal bağlam kaynağına dönüşür.

Sonraki adım, eylem geçmişidir, bu önemli kararlar, görevler ve olaylara odaklanır. Bir hizmet bileti açıldığında veya bir sistem dağıtıldığında, ajan bu belirli eylemi tanır ve eylem geçmişine kaydeder. Bu, kurumsal bağlamı birleştiren tarihsel kayıt haline gelir.

Son olarak, kısa süreli konuşma bağlamı vardır. Bunu, ajanla anbean gerçekleşen etkileşim olarak düşünün. O an için faydalıdır, ancak genellikle kısa sürede bağlam açısından önemini yitirir.

Bu üç hafıza türü bir araya geldiğinde, genel amaçlı AI modellerinde eksik olan ağırlıklandırma sistemini oluşturur. Şimdi, biri ajana iş hakkında bilgi verdiğinde, bu hafızaları sınıflandırır ve önceliklendirir, önemli olan bilgileri düzenler. Bu, AI’nin teslim etmesi gerekenin temelini oluşturur: sadece alan verisi değil, alan yargısı.

Düzenlenen Hafızanın Büyük Ölçekli Görünümü

Ama çerçeve üzerine bu kadar konuşmak yeter; uygulamada bu nasıl görünüyor? Bu ajanları kendimiz geliştirirken şunları keşfettik.

IT’de ortak bir senaryo, bir yardım masası ajanına bir sorun bileti göndermektir. Diyelim ki Outlook’unuz çalışmıyor, bu nedenle sorunu tanımlarsınız ve ajanın incelemesini ve bir çözüm önermesini beklersiniz.

Ancak düzenlenmiş hafızanız size yardım ederse, daha iyi bir süreç, Outlook hatasını gösteren bir ekran görüntüsü alıp ajana yüklemek olabilir. Şimdi ajan (1) kurumsal hafızayı kullanarak çalışma ortamınızı anlar; (2) ilgili olayları kontrol etmek için eylem geçmişine bakar; ve (3) belirli bir çözüm için bağlamsal yargı uygular, sadece genel bir cevap değil.

Sonuç, ekran görüntüsüne dayanarak cevap vermeye çalışan değil, gerçekten sorgulayan ve tüm çalışan bilgileri ile daha faydalı bir cevap veren zeki bir ajandır. Ajan, diğer sistem kullanıcılarını inceleyen bir ağ veya sürü etkisi oluşturabilir, Outlook sorununun sadece sizin için mi yoksa kurumsal bir sorun mu olduğunu görebilir.

Tarihin veya hafızanın bağlamsallaştırılması fark yaratıcıdır. Eğer hafızanızı etkili bir şekilde düzenlemezseniz, bunu yapanlar sizi geride bırakacaktır. Verileri zaman içinde yönetebilen ve neyi saklayacağını, neyi sunacağını, neyi bırakacağını bilen bir mimariye sahip olmak önemlidir.

Geziye Geri Dönüş

AI destekli gezi planlayıcım, kurumsal IT’de AI’ye bakışımı nasıl değiştirdi?

Benim inşa ettiğim şey, kişisel seyahat danışmanımız olarak hareket eden bir uygulamaydı ve her katılımcıyla bir “görüşme” yaparak başladı. Hepimiz gezi sırasında neyin önemli olduğunu açıkladık: neyi yapmamız gerektiği ve neyi atlayabileceğimiz. Daha da önemlisi, neden önemli olduğunu sordu – neden önemliydi, bizim için ne anlama geliyordu.

Bu bilgiyi kullanarak, iki şey yaptı. İlk olarak, herkesin arzularını ve tercihlerini temsil eden dengeli bir gezi planı oluşturdu – herkes plana bakarak arzularını görebiliyordu.

Ancak, elbette, ilk gezi planı sadece bir taslaktı. Hala birçok soru vardı.

Ve işte o zaman gerçek sihir gerçekleşti. Ajana bir otel veya bir cazibe merkezi veya bir sürüş hakkında sorduk ve verdiği cevaplar, bizim özel durumumuzun bağlamıyla zenginleştirildi: “Bu, çocuklar için uzun bir sürüş olacak, ancak kayınpederim kaleyi ve yanındaki benzersiz kahve dükkânını çok sevecektir – ve bu, karımın masaj yaptırabileceği tam doğru yer olabilir.”

Bizim için önemli olan şeyleri bu kadar zengin biçimde anlaması sayesinde, geziyi planlayıp iyileştirmemize başka türlü mümkün olacağını düşünmediğim bir şekilde yardımcı oldu.

Ve bu ilk anlardan birinde, kurumsal müşterilerimiz için ne inşa etmemiz gerektiğini anladım: kurumsal, işlemsel ve kişisel bağlamla dolu zeki sistemler, her cevap ve her etkileşim, o an ve etkileşime özgü benzersiz bir parmak izi gibi olacaktı: başka hiçbir şekilde gerçekleşemeyecek bir değer türünü sunacaktı.