AI’nin Daha İyi Cevap Vermesini Sağlamak İçin Zaruri Olarak Kibar Olmak Gerekir Mi?

Halkın, AI’ye karşı kibar olup olmamanın yararlı olup olmadığı konusunda görüşü, son karar gibi sık sık değişiyor. Buna rağmen, artan sayıda kullanıcı, sadece alışkanlık veya endişe nedeniyle değil, aynı zamanda AI’den daha iyi ve üretken sonuçlar elde etme inancıyla, istemlerine “lütfen” veya “teşekkür ederim” eklemeye başladı.

Bu varsayım, kullanıcılar ve araştırmacılar arasında dolaşıyor ve.prompt-phrasing, araştırmacılar tarafından hizalama, güvenlik ve ton kontrolü için bir araç olarak incelenirken, kullanıcı alışkanlıkları bu beklentileri güçlendiriyor ve yeniden şekillendiriyor.

Örneğin, 2024’te Japonya’dan yapılan bir çalışma, kibar istemlerin büyük dil modellerinin davranışını değiştirebileceğini buldu. Bu çalışma, GPT-3.5, GPT-4, PaLM-2 ve Claude-2’yi İngilizce, Çince ve Japonca görevlerde test etti ve her istemi üç kibarlık seviyesinde yeniden yazdı. Çalışmanın yazarları, “kaba” veya “kaba” sözlerin daha düşük gerçeklik doğruluğuna ve daha kısa cevaplara yol açtığını, mentre orta derecede kibar taleplerin daha net açıklamalar ve daha az retlere yol açtığını gözlemledi.

Ek olarak, Microsoft kibar bir ton kullanmanızı Co-Pilot ile performans rather than kültürel bir bakış açısıyla önerir.

Ancak, George Washington Üniversitesi’nden yeni bir araştırma makalesi, bu giderek popüler hale gelen fikre meydan okuyor. Bu makale, büyük bir dil modelinin çıktısının ‘çökme’ye neden olacağı zamanı tahmin eden bir matematiksel çerçeve sunuyor. Yazarlar, kibar olmanın bu ‘çökme’yi anlamlı olarak geciktirmediğini veya önlemeyeceğini iddia ediyor.

Tipping Off

Araştırmacılar, kibar dil kullanımının genellikle bir isteğin ana konusuna bağlı olmadığını ve bu nedenle modelin odak noktasını anlamlı olarak etkilemediğini savunuyor. Bunu desteklemek için, bir dikkat başlığı nasıl güncellendiğini ve her yeni token işlenirken iç yönünü nasıl değiştirdiğini ayrıntılı bir şekilde formüle ediyorlar.

Bu nedenle, kibar dilin modelin çıktısının ne zaman bozulmaya başladığını önemli ölçüde etkilemediği öne sürülüyor. Makaleye göre, ‘çökme’ noktasını belirleyen, anlamlı tokenlerin iyi veya kötü çıktı yollarıyla olan genel hizalamasıdır – değil kibar dilin varlığı.

Kullanıcı isteminin basitleştirilmiş bir dikkat başlığı tarafından oluşturulan bir dizi. Model, iyi tokenlerle (G) başlar, ardından çıktı, kötü tokenlere (B) geçiş yaptığı bir ‘çökme’ noktasına (n*) ulaşır. İstekteki kibar terimler (P₁, P₂, vb.), bu değişimde hiçbir rol oynamaz, makalenin iddiasını destekler.

Eğer doğruysa, bu sonuç, hem popüler inanca hem de muhtemelen talimat ayarlamasının mantığına aykırıdır.

Hulking Out

Makale, modelin iç bağlam vektörünün (token seçimi için gelişen pusulası) nasıl değiştiğini inceliyor. Her tokenle, bu vektör yönünü günceller ve bir sonraki token, en çok hizalanan aday olarak seçilir.

İstek, iyi oluşumlu içeriğe yöneldiğinde, modelin cevapları istikrarlı ve doğru kalır; ancak zamanla, bu yönlendirme tersine dönebilir, modeli, giderek konudan sapmış, yanlış veya içsel olarak tutarsız çıktılara yönlendirebilir.

Bu geçişin ‘çökme’ noktası (yazarlar tarafından matematiksel olarak n* olarak tanımlanır), bağlam vektörünün ‘kötü’ bir çıktı vektörüyle ‘iyi’ bir vektörden daha çok hizalandığı anda gerçekleşir. Bu aşamada, her yeni token modeli yanlış yola daha da iter, giderek daha kusurlu veya aldatıcı bir çıktı kalıbını pekiştirir.

‘Çökme’ noktası n*, modelin iç yönünün hem iyi hem de kötü türdeki çıktılarla eşit olarak hizalandığı anda hesaplanır. Gömme uzayının geometrisi, hem eğitim korpusu hem de kullanıcı istemi tarafından şekillendirilir ve bu geçişin ne kadar hızlı gerçekleşeceğini belirler:

Yazarların basitleştirilmiş modelinde ‘çökme’ noktası n* nasıl ortaya çıkıyor. (a) Vektörlerin geometrik kurulumu, (b) test parametreleri kullanılarak vektörlerin çizimi ve (c) öngörülen ‘çökme’ noktasının simüle edilmiş sonuca göre karşılaştırılması. Uyum tamdır ve araştırmacıların iddiasını destekler.

Kibar terimlerin, modelin iyi veya kötü çıktılar arasında seçimini etkilemediği çünkü bunlar, isteğin ana konusuna anlamlı olarak bağlı değildir. Bunun yerine, bunlar modelin iç uzayının, modelin aslında ne karar verdiğinelittle ilgili olmayan kısımlarında sona erer.

İsteme böyle terimler eklendiğinde, modelin dikkate aldığı vektörlerin sayısı artar, ancak dikkat yolunu değiştirmeyen bir şekilde. Sonuç olarak, kibarlık terimleri istatistiksel gürültü gibi davranır: mevcuttur, ancak inerttir ve ‘çökme’ noktası n* değişmez.

Yazarlar şöyle diyor:

‘AI’mizin cevabının asi olup olmayacağı, LLM’mizin eğitimini sağlayan token gömme vektörlerine ve bizim istemimizin anlamlı tokenlerine bağlı – bize karşı kibar olup olmamamız değil.’

Bu çalışmada kullanılan model, kasıtlı olarak dar tutularak, tek bir dikkat başlığı ve lineer token dinamikleri üzerine odaklanıyor – basitleştirilmiş bir kurulum where her yeni token, iç durumu doğrudan vektör eklemesiyle günceller, doğrusal dönüşümler veya gating olmadan.

Bu basitleştirilmiş kurulum, yazarların kesin sonuçlar çıkarmasına ve modelin çıktısının nasıl ve ne zaman अचaniously değişebileceğinin net bir geometrik resmini elde etmesine olanak tanır.

Chatting Up..?

Ancak, bu düzeyde kesinlik, modelin kasıtlı olarak basit tutulmasından kaynaklanıyor. Yazarlar, Claude ve ChatGPT serisi gibi daha karmaşık çok başlıklı modellerde sonuçlarının doğrulanması gerektiğini kabul etseler de, teorinin daha büyük ölçeklerde tekrarlanabileceğine inanıyorlar ve şöyle diyorlar:

‘Bağlı Dikkat Başlıklarının ve katmanların sayısı arttıkça ortaya çıkan ek fenomenler, ilginç bir soru. Ancak, tek bir Dikkat Başlığı içindeki geçişler yine de gerçekleşecek ve bağlılıklar tarafından güçlendirilebilir veya senkronize edilebilir – bir zincir gibi, bir kişinin düşmesi diğerlerini de sürükler.’

Yazarların yaklaşık formülünden elde edilen ‘çökme’ noktası n* nasıl değişiyor. Yüzey, kibar terimlerin, iyi veya kötü içerik lehine明 bir konumda olsun, ‘çökme’ zamanını önemli ölçüde etkilemediğini gösterir. İşaretlenen değer (n* = 10), önceki simülasyonlarla eşleşir ve modelin iç mantığını destekler.

Ne olduğu henüz belli olmayan, modern transformer mimarilerine bu mekanizmanın hayatta kalıp kalamayacağı.

Çok başlıklı dikkat, uzmanlaşmış başlıklar arasındaki etkileşimleri tanır, bu da tanımlanan ‘çökme’ davranışını maskeleyebilir veya engelleyebilir.

Yazarlar bu karmaşıklığı kabul etseler de, dikkat başlıklarının genellikle gevşek bir şekilde bağlandığını ve tanımladıkları iç ‘çökme’nin, tam ölçekli sistemlerde güçlendirilmeyip Place of being yerine desteklenebileceğini savunuyorlar.

Modelin genişletilmesi veya üretim LLM’ler üzerinde empirik bir test olmadan, iddialar doğrulanmıyor. Ancak, mekanizma, takip araştırmaları için yeterli düzeyde kesin görünüyor ve yazarlar, teorinin ölçekte doğrulanması veya reddedilmesi için net bir fırsat sunuyor.

Signing Off

Şu anda, tüketici odaklı LLM’lerle kibar olma konusu, ya eğitilmiş sistemlerin kibar sorgulamaya daha faydalı cevaplar vereceği düşüncesi ya da kaba ve direkt bir iletişim tarzı ile bu sistemlere yaklaşmanın, kullanıcının gerçek sosyal ilişkilerine yayılma riski nedeniyle ele alınıyor.

LLM’lerin gerçek sosyal bağlamlarda yaygın olarak kullanılmadığı için, bu ikinci durumu destekleyen araştırma literatürü henüz mevcut değil; ancak yeni makale, bu tür AI sistemlerine karşı kibarlık yararları konusunda ilginç şüpheler uyandırıyor.

Stanford Üniversitesi’nden geçen Ekim ayında yapılan bir çalışma, LLM’leri insan gibi davranmanın, dilin anlamını bozmaya yol açabileceği sonucuna vardı:

[Bir] insan konuşmacıdan dostane veya samimi görünen bir ifade, bir AI sistemi tarafından yapıldığında istenmeyen olabilir, çünkü latter, ifadesinin arkasında anlamlı bir taahhüt veya niyet taşımaz, bu da ifadenin boş ve aldatıcı olmasına neden olur.

Ancak, yaklaşık %67’lik bir Amerikan, AI sohbet botlarına karşı kibar davrandıklarını söylüyor. Bu, Future Publishing’in 2025 anket sonuçlarına göre böyle.

* Yazarların inline alıntılarını hyperlinks’e çevirmem. Hyperlinks, bazı noktalarda belirli bir yayına değil, geniş bir dizi dipnot alıntısına işaret ettiğinden, bazı düzeyde keyfi veya örnek niteliğindedir.

İlk olarak 30 Nisan 2025 Çarşamba günü yayınlandı. 30 Nisan 2025 15:29:00’de düzenlendi.