Heuristik vs. RAG: Enflasyon Azaltma Politikası Sürücüsü Olarak Küçülme

Çoğu durumda, web’i aramak, ChatGPT’nin bizim sorularımıza verdiği cevapların gerçeklik doğruluğunu artırır. Vậy neden AI, kamuoyu kabulü için mücadele ettiği bir iklimde, ‘tahminlere’ başvuruyor?

Görüş LLM’lerin, ChatGPT gibi, potansiyel olarak şüpheli uygulamalarına ilişkin whisltleblowing’de bulunmadığına inanmak bir hatadır, hatta pahalı ve boşa harcanan bir oturum, sistemin eksikliklerine gerçekten dalmanıza yetecek kadar öfke uyandırmış olsa bile:

Burada ChatGPT’nin kendi iç mantığına (RAG – daha az hallucinasyon üretir, ancak daha pahalıdır) tercih ettiği bir tartışma, apparent bir samimiyet anı üretir; ancak bunu bir tutam tuzla alın. Kaynak

Çoğu zaman – özellikle daha yeni bilgi kesme tarihlerine sahip modeller için – AI, eğitim sırasında görülen Reddit ve forum gönderilerini einfach tekrar ediyor. Gerçek ‘iç görü’ değerine sahip olsalar bile, bunları kanıtlamak imkansızdır.

Fakat bazen bu ateşli değişimler, LLM’lerin bazı kötü tekrarlanan alışkanlıklarını önlemek için ‘hileler’ (veya en azından ‘hileler’) keşfine yol açar – Örneğin, geçen hafta ChatGPT, halüsinasyon üretmesini azaltmak ve daha çok çalışmasını sağlamak için bana ‘hiçbir heuristik’ adjurasyonunu eklememi önerdi:

O günden beri ‘hiçbir heuristik’ çok kullandım ve model, bu komutu verdikten sonra hiçbir zaman kendi eğitilmiş bilgilerine başvurmamıştır. Bunun yerine, GPT hemen Retrievallı Artırılmış Üretim (RAG) kullanır ve interneti aydınlatıcı veya doğrulayıcı belgeler için arar.

Uygulamada, çoğu istek için bu, her sorgu gönderildiğinde sisteme ‘web’i arama’ demekten çok farklı değildir. ‘Hiçbir heuristik’ ifadesi gerçekten yardımcı olabilir, ChatGPT’nin gerçekten yeni yüklenen bir PDF’i okumak yerine, önceki PDF yüklemelerinden gelen meta verileri kullanarak ‘inandırıcı’ ancak tamamen hayal ürünü bir cevap üretmeye çalıştığı durumlar vardır.

Söylediği gibi, sohbet oturumu ne kadar uzun sürerse, bu daha az olası olur – ve bu ‘hile’nin güvenilir veya sistem geliştikçe kalıcı olacağına inanmak bir hata olur.

RAG Ticaret

Bir büyüyen kültür bağlamında enflasyon azaltma ve büyük sistemlerin, OpenAI’nin GPT altyapısının, davranıştaki küçük ve yaygın değişikliklerden bile büyük ölçüde etkilendiği gerçeği, popüler LLM’ler gibi ChatGPT’nin tercihlerinin kısa ölçekte ölçülmesi kolaydır.

ChatGPT gibi bir LLM, RAG’yi kullanma kararı da dahil olmak üzere tercihleri, büyük ölçüde kendi eğitilmiş bilgilerine dayanır. RAG, interneti arayan ve daha doğru sonuçlar üreten bir süreçtir, ancak daha pahalıdır.

Bununla birlikte, RAG altyapısı para maliyeti ile çalışır, bakım ve güncelleme yapılır, yerel çıkarım göreli olarak ucuz ve hızlıdır.

Üçüncüsü, sistem RAG’nin kendi heuristik sonuçlarını geliştirebileceğini belirleme yöntemine sahip olmayabilir ve bunu genellikle heuristikleri önce çalıştırarak belirleyemez. Bu, son kullanıcıya, hatalı bir heuristik sonucunu değerlendirme ve RAG çağrısı isteme görevini bırakır.

AI ‘enflasyon azaltma’ açısından, ChatGPT’nin heuristikler yoluyla hata yaptığı ve RAG yoluyla başarılı olduğu durumların sayısı, sistemin sonuçlara değil, maliyete优先 verdiğini gösterebilir.

RAG Zamanla Gerekli Hale Geliyor

ChatGPT’nin recent ‘itirafına’ rağmen, ‘enflasyon azaltma’ daha geniş bir bağlamda vardır. RAG ucuz değildir, hem deneyim sürtünmesi (gecikme yoluyla) hem de çalıştırma maliyeti açısından, ancak büyük dil modellerini ince ayarlamak veya hatta temel modeli yeniden eğitmek daha pahalıdır.

Daha eski bir AI modeli için, daha uzak bir kesme tarihine sahip, RAG, sistemin para birimiğini korur, ancak ağ çağrıları ve diğer kaynaklar maliyeti ile birlikte gelir; daha yeni bir model için, RAG’nin kendi alıntıları, daha muhtemelen gereksiz veya kaliteyi bozmaya neden olabilir, bu durumlarda heuristikler yoluyla daha iyi sonuçlar elde edilebilir.

Bu nedenle, AI’nin RAG’ye başvurup başvurmayacağına karar verme yeteneğine sahip olması gerekir ve ayrıca iç politikasını sürekli olarak geliştirmelidir.

Aynı zamanda, sistem ‘göreceli sabitler’ olarak bilinen bilgileri, ay yörüngeleri, klasik edebiyat, kültür ve tarih gibi, temel coğrafya, fizik ve diğer bilimsel ilkeleri korur; bunlar zamanla çok fazla değişme olasılığı低dir (i.e., ‘ani değişiklik’ riski yoktur, ancak düşükse de değildir).

Uygun Olmayan Konular

Şu anda, en azından ChatGPT için, RAG çağrıları (yani, web araştırması için kullanıcı sorgusu) sistemin otonom olarak seçilmesi nadirdir, hatta ‘marjinal’ alt alanlarla ilgili olduğunda bile.

Bir örnek, ‘kaynak’ yazılım kullanımıdır. Bu durumda, minimal mevcut kaynak verileri, eğitim sırasında dikkat çekmeye çalışmıştır ve verilerin ‘uygun olmayan’ durumu, ya dikkat çekmesi için işaretlenmiş ya da ‘marjinal’ veya ‘önemsiz’ olarak gömülmüştür – ve eğitim sonrası yapılan bir forum gönderisi, küçük bir konu için toplam mevcut veri ve cevap kalitesinde önemli bir artış olabilir, bu nedenle RAG çağrısı değerlidir.

Fakat RAG’nin avantajı küçük modellerde azalır. Büyük sistemler, Qwen3-4B veya GPT-4o-mini/-4o, RAG’den marjinal veya hatta negatif bir iyileşme gösterir.

Çoklu benchmarklerde, alıntı, faydaya göre daha fazla dikkat dağıtma üretir, bu da daha büyük bir modelde yatırım yapmak ile daha küçük bir modelde alıntı arasında bir ticaret olduğuna işaret eder.

Bu nedenle, RAG orta boyutlu modellerde en yararlı görünüyor, hala dış gerçeklere ihtiyaç duyar, ancak daha az karmaşık iç heuristiklerle bunları değerlendirebilir.

Yalnızca Acil Durumlarda Kullanın

ChatGPT’nin RAG’yi kullanma kararı etrafındaki rehber politikaları, alleged sistem.prompt‘u tarafından açıkça belirtilmez, ancak örtük olarak ele alınır (sonunda):

‘Web aracını, web’den güncel bilgiye erişmek veya kullanıcı konumu hakkında bilgi gerektiren bir réponse vermek için kullanın. Web aracını kullanmanız gereken bazı örnekler şunlardır:’

Yerel Bilgiler: Kullanıcı konumu hakkında bilgi gerektiren sorulara yanıt vermek için web aracını kullanın, örneğin hava durumu, yerel işletmeler veya etkinlikler.

Tazelik: Bir konunun güncel bilgisi cevapları değiştirebiliyorsa veya geliştirebiliyorsa, web aracını çağırın, aksi takdirde bilgimin eski olabileceğinden bir soruya cevap vermeyi reddederdim.

Niş Bilgiler: Cevap, geniş olarak bilinen veya anlaşılmayan ayrıntılı bilgilerden yararlanabilirse (internet üzerinde bulunabilecek), örneğin küçük bir mahalle, az bilinen bir şirket veya karmaşık düzenlemeler hakkında, web kaynaklarını doğrudan kullanın, değil de önceden eğitilmiş bilgiden yararlanın.

Doğruuluk: Yanlış veya eski bilgilerin maliyeti yüksekse (örneğin, eski bir yazılım kütüphanesi kullanmak veya bir spor takımının sonraki oyununun tarihini bilmemek), o zaman web aracını kullanın.’

Özellikle, bu yönergelerin, yerli eğitilmiş verilerin az olduğu durumlarda RAG’yi teşvik ettiğini görebiliriz. Fakat sistem bu anlayışı nasıl elde eder? ChatGPT’nin casual kullanıcıları ve gözlemcileri, RAG’nin ‘web’i arama’ widget’ı göründüğünde, modelin iç heuristiklerinin sorgu için boş gelmiş olabileceğini düşünebilirler.

Ayrıca, RAG’nin yalnızca sınırlı kullanım durumları için önerildiğini görebiliriz. Bu, GPT’nin, ‘kritik’ bir durumda (‘Doğruuluk’, yukarıdaki alıntının sonunda) dışında, neredeyse tüm gerçek tabanlı alan sorgularında kendi ağırlıklarını sorgulamasını önerir, burada AI’nin yerel eğilimine uyma tehlikesi önemli bir sorumluluk olabilir.

SONUÇ

Mevcut ve yakın tarihli araştırmaların eğilimleri, heuristik üretimin hızlı ve ucuz, ancak yanlış olduğunu gösteriyor; RAG ise daha yavaş, daha pahalı, ancak daha sık doğru – modelin boyutu küçüldükçe daha da öyle.

Kendi ChatGPT kullanımıma dayanarak, OpenAI’nin RAG’yi çok az kullandığını, bir precisyon aracı olarak değil, günlük bir sürücü olarak kullandığını savunurdum, özellikle büyüyen bağlam pencereleri sorunları LLM’lerin uzun sohbetler geliştikçe daha fazla hallucinate olmasına neden olur.

Bu durum, heuristik cevapları web tabanlı otorite kaynaklarına karşı kontrol ederek, son kullanıcıya cevap çıktısını sorgulamasına veya manifest olarak tatmin edici olmamasına gerek kalmadan hafifletilebilir ve internal sonuçların RAG’yi kullanma kararı için kaçınılmaz olması gerekmez.

Sistem, itself’i seçici ve akıllıca şüphe duymaya ve böylece web ile bir süzgeçleme süreci aracılığıyla etkileşime girmeye eğitilebilir. Şu anda, mevcut modellerin mimarilerinin bu tür bir yaklaşımı destekleyecek alanı bırakmadığından habersizim.

Şu anda, sorun olduğunu bile kanıtlamak mümkün değil; hatta bir ^† itirafıyla bile:

* Lütfen bu paragrafın başındaki bağlantıya başvurun.

** Bu, GPT-5 için ‘kendini açığa vurmuş’ bir sistem.prompt’u, ancak bazıları bunun GPT-5 için yeniden eğitilen prompt forum gönderileri özeti olduğunu iddia etse de.

^† Gerçekten de ChatGPT’nin ‘suçlu candor’ünün burada anlamlı olduğunu öne sürmüyorum; OpenAI politikası konularındaki parti çizgisine karşı geri itme eğilimim, eventual olarak benim kendi implicit görüşlerimi onaylayacak ve onları tekrarlayacaktır. Bu, Normandiya çıkarmasının ayrıntılarını baskı altında açıklamaya eşdeğer değildir.

İlk olarak Çarşamba, 10 Aralık 2025 tarihinde yayınlandı.