Ajanlar Her Zaman İlk Gün Çalışan Gibi Davranır. Bunun İçin Tasarlama Zamanı Geldi.

2027 yılına kadar, %74 şirketin bir şekilde ajanları kullanması bekleniyor, bu son Deloitte araştırmasına göre. Yıllardır, uygulamalarımızı, web sitelerimizi, işletim sistemlerimizi ve belgelerimizi dolaşma deneyimini insan odaklı iyileştirmek için yazılım tasarlayıp inşa ediyoruz. Şimdi kullanıcı artık bir insan değil. Bu durum, panoları ve insan görevleri için tasarladığımız kontrollü iş akışlarından sapmanın ötesinde daha geniş etkiler taşıyor. Artık ajanların çalışma ortamlarını tasarlamamız gerekirken, aynı zamanda bu ortamlar içinde ajan deneyimini etkili bir şekilde yönlendirecek insan iş akışlarını da tasarlamamız gerekiyor.  

Ajanların bizden tekrarlanabilir ve güvenilir bir şekilde başarılı olmaları için neye ihtiyaç duyduklarını öğrenme aşamasının henüz başındayız. İçgüdü, ajan entegrasyonunu yalnızca bir istem ya da UI sorunu olarak ele almaktır. İyi yönetilen bir yürütme ortamı tasarlamak, kültürümüz açısından yeni bir alandır. Bununla birlikte, iyi tasarım ve iyi yönetimin temel ilkeleri değişmedi: ajana net bağlam, açık yönlendirme ve belirgin niyet sağlamamız gerekiyor.

Bağlam: Kodlamanın İlk Gelmesinin Nedeni

Bağlam, ajanların istediğimiz seviyede tekrarlanabilir bir şekilde teslim etmelerini sağlamak istiyorsak muhtemelen en önemli girdidir. Yazılım geliştirme, neredeyse her alandan daha fazla kayda sahiptir: depolar, API şemaları, sistemler arasındaki ilişkiler, kod incelemeleri ve topluluk tartışmaları. Bu yüzden AI öncü laboratuvarlarının kodlamayla başlaması mantıklı. Bağlamın zaten yazılı olduğu birkaç alandan biri budur. 

Ancak bir yazılım ekibindeki yeni bir çalışan size söyleyecek ki, tüm bu verilere rağmen ajanlar, hiç kimsenin belgelemeyeceği yazılı olmayan kurallara gömülü kurumsal hafızadan yoksun kalacak. Bu boşluk yaygındır: geliştiricilerin %43’ü AI araçlarının kendi proje veya kod tabanlarıyla ilgili yeterli bağlama sahip olmadığından endişe duyuyor. İçsel bilgi, belirli görevler için tercih edilen kütüphaneler gibi günlük geleneklerden, yüksek riskli operasyonel hayaletlere kadar uzanır: sonsuza dek kalıcı bir gece geç saat hotfix’i ya da görünüşte boş bir veritabanı sütunu, gizlice özel bir gelir raporunu destekler. Bu bağlam bir kıdemli mühendisin aklında, son bir Slack mesajında ya da hiç bir yerde bulunur. Kod tabanında nadiren yer alır.  

Eğer bu durum, en iyi belgelenmiş alanlardan biri olan yazılımda doğruysa, ajanların birçok başka sektörde ilk günden itibaren etkili performans göstermekte zorlanmasının nedenini görmek kolaydır. Sağlık ve hukukta, günlük çalışmayı şekillendiren kurumsal bilginin büyük bir kısmı öğrenilir ve içselleştirilir. Bu bilgi resmi belgelerde değil, insanların deneyiminde yaşar. Bir hukuk ajanı, belirli bir ortağın tercih ettiği yapı, ton ya da kısa bir özet için argümantasyonu bilmeyebilir; bir sağlık ajanı ise yoğun bir kliniğin klinisyen odaklı triajı desteklemek için kullandığı yerel iş akışları ve yükseltme uygulamalarını anlayamayabilir. Sadece dokümantasyon bu boşluğu kapatamaz, çünkü zorluk yalnızca bilgiye erişim değil; bağlamın aktarımıdır. Ajanlara başarılı olmaları için gerekeni vermek amacıyla, onları yeni bir çalışan gibi işe almalı ve yönlendirmeliyiz.

Yönlendirme: Osmozun Neden Çalışmadığı

Yeni bir ekip üyesinin işe alımı, sadece uygun materyalleri ve erişimi sağlamakla sınırlı değildir. Çevremizdekilerin başarısına yatırım yaptığımızda, yeni materyaller ve erişimle ne yapılması gerektiği konusunda sağlam bir yönlendirme sunarız: beklentiler, neyi başarmaya çalıştığımıza dair netlik ve süreç içinde geri bildirim. Bu aynı zihniyeti ajanları tasarlarken de uyguluyorum. Görevle ilgili net ve belirgin bir yönlendirme veriyorum (göreve göre). Bu, kıdemi ne olursa olsun her ekip üyesi için geçerlidir. Ancak yeni işe alım durumunda, yönlendirme daha da ileri gitmelidir, çünkü henüz kurumsal bir bağlamları yoktur.

Bir ajanı, asla yeni olmaktan çıkmayan bir yeni çalışan gibi düşünün. Hevesli ve yetenekli (ve dürüst olmak gerekirse, sınırsız enerjiye sahip), ancak zamanla bir insanın edindiği kadar çok yazılı olmayan kuralı öğrenip tutamaz. İnsanlar osmoz ve deneyimle öğrenirken, ajanlar çalışma ortamlarına açıkça yerleştirilen mimariden öğrenir.

Yeni bir çalışanla, zaman içinde sorular, geri bildirim ve organizasyonun süreçleri ve tercihleri hakkında edindiği yeni içgörülerle bu boşluğu kapatabilirsiniz. Gerçek kahve makinesi sohbetleri ya da ekip öğle yemekleri gibi. Bir ajanla ise bu boşluğu kapatmayı tasarımın içine yerleştirmeniz gerekir. Bu şunları içerebilir: 

• Ajanın, belgeleri bir yığın olarak vermek yerine, dayanıklı kuralları, göreve özgü gerçekleri ve ilgili geçmişi ayıran yapılandırılmış bir bağlam penceresi sağlaması.
• İzinlerini ve karar sınırlarını önceden tanımlaması: bağımsız olarak neler yapabilir, neler onay gerektirir ve neye asla erişmemelidir.
• Güçlü çıktının birkaç somut örneğini doğrudan deneyime yerleştirerek, ajanın işin nasıl yapılacağına dair net bir modeli olmasını sağlamak.
• Karşılaştığınız önceki çıkmazları paylaşmak.

İyi yönetilen bir ajan ortamı tasarlamak, modeli daha kolay çalıştırmakla ilgili değildir. Bu, insan mühendislik ekibini görünmez teknik borçlardan korumakla ilgilidir. Ancak iyi yönlendirilmiş bir ajan talimatları mükemmel şekilde izlese bile, hâlâ amacın ne olduğunu kaçırabilir. Yönlendirme ona ne yapacağını söyler, ancak “iyi”nin nasıl göründüğünü söylemez. Bu boşluk, niyetin devreye girdiği yerdir.

Niyet: Ajanların Neden Ortada Sürüklendiği

Ajanların, devasa miktarda bilgiyle eğitilmiş ve doğal olarak istatistiksel ortalamayı sunmaya eğilimli desen eşleştirme makineleri olduğunu hatırlamak önemlidir. Net ve açık bir niyet olmadan, bu ortalama çıktı tam olarak ajanın döndüreceği şey olur. Bir ajana “kullanıcı kimlik doğrulama uç noktası ekle” dediğinizde, temel şifreleme içeren textbook bir Express rotası üretir. Çalışır, ancak ekibinizin özel kimlik doğrulama hizmetini tamamen görmezden gelir, gerekli telemetrileri atlar ve standart hata biçimlendirmesini bozar. Kağıt üzerinde yeterli bir özellik gibi görünse de, bağlama bağlı olarak pratikte mimari bir hata olur. Bu tür “hataların” ne kadar kolay ortaya çıktığı abartılamaz.

Bunu önlemek için, yönlendirme aktif niyet doğrulaması ve kaydıyla eşleştirilmelidir. Korumalar sadece kodun derlenip derlenmediğini kontrol etmemeli, bu da önemli olsa da. Korumalar, genel çıktıyı üretime hazır işe dönüştüren görüşlü standartları, uç durum kurallarını ve alan bağlamını açıkça uygulamalıdır. Kayıt, insanlar için sistem durumu göstergesi olarak önem taşır. Bu izlenebilirlik güven için kritik öneme sahiptir.

İnsan etkileşimlerinde belirsizlik için çok alan vardır. Birisi size ilk bir versiyonu paylaşabilir ve birlikte neyin güçlü, neyin geliştirilmesi gerektiğini tartışabilirsiniz. Bu, insan iş arkadaşlarımızın otonom makineler olmasını beklemediğimiz için işe yarar. Ajan iş arkadaşlarının (daha otonom çalışmaları gerektiği) gücünü ve vaatlerini gerçekten yakalamak için, bu yönlendirici kontrollerin birçoğunu mühendislik olarak ekleyebiliriz. Geri bildirim hâlâ gerekli, ancak tamamen manuel çabaya dayanamaz. Net kabul kriterleri ve doğrulama kurallarını önceden yükleyerek, ajanın kendi iç geri bildirim döngülerini çalıştırmasını sağlarsınız. Hata önleme tasarımı ise bu yeni dünyada uygulayabileceğimiz bir diğer sağlam UX ilkesidir: ajanların bir eylemi onaylamadan önce düşük güveni işaretleme yeteneği vermek, sessizce en iyi tahmine varsayımda bulunmak yerine.

Metaforun Kırıldığı Yer

Yeni çalışan çerçevesi işe yarar, ta ki işe yaramaz hale gelene kadar. Bir insan çalışanla, deneyim yetkinlik, yetkinlik ise yargı doğurur. Yeni çalışanınızın bağlam ve yönlendirme ardındaki “neden”i içselleştirdiğini izlemek, zaman içinde güven inşa eder ve genelde bu birikimlidir. Bir ajanın bu deneyimi biriktirecek ve depolayacak bir yeri yoktur.

Yeni bir çalışanın ilk haftası ile yüzüncü haftası farklı görünür. Bir ajanın ilk görevi ile bininci görevi ise aynı görünür, bunu farklı kılacak bir şey tasarlayıp inşa etmediğiniz sürece. Bu, yeni tasarım zorluğumuzdur.

Ajan Sorumluluğu Tasarıma Bağlıdır

Sorumluluk ajanın içinde var olamıyorsa, onun etrafındaki iskelette var olmalıdır. Bu, yeni bir çalışana iş vermeden önce sorduğum aynı üç soruya indirgenir: Hangi bağlamı sahip? Hangi yönlendirmeyi verdim? Gerçek niyetim nedir?

Bir sonraki sefer bir ajana görev verirken, sadece çıktıyı kontrol etmeyin. Önce kendi girdilerinizi kontrol edin. Ona bir yeni çalışanın ilk günde ihtiyaç duyacağı bağlamı verdiniz mi? Yönlendirmeniz, kelimenin tam anlamıyla alındığında bile yeterince spesifik miydi? Niyetiniz, “ortanca cevap”ın yapabileceği en iyi şey olmadığını gösterecek kadar açık mıydı?

Bu net rehberliği elinizde (bayt olarak?) bulundurduğunuzda ilginç bir şey olur: bir ajanın güvenilir olabilmesi için uzun bir süreye ihtiyacı yoktur. Önceden inşa ettiğiniz bağlam, yönlendirme ve doğrulama, onun her görevde nasıl çalışacağını tanımlar. Yeni bir çalışan zamanla güveninizi kazanır; bir ajan ise tasarladığınız sistem üzerinden her seferinde bunu kazanmak zorundadır. Sorumluluk, zamanla gelişen bir şey değildir, baştan içinde inşa edilmiştir. Soru, ajanın daha fazla sorumluluğa ne zaman hazır olacağı değil; her tek görevde bu sorumluluğu kazanması için onu tasarlayıp tasarlamadığınızdır.