Bir ‘Zen’ Yöntem ile Dil Modellerinin Hallüsinasyonlarını Durdurmak

ChatGPT’ye bir sorunun cevabını kontrol etmesi için rastgele bir cevap vermeden önce söylemek, onu daha fazla düşünmeye ve daha sık doğru cevabı vermesine neden olur – hatta önceki ‘rastgele’ cevabın gerçek soruyla hiçbir ilgisi olmasa bile.

Çin’den yeni bir makale, ChatGPT gibi dil modellerinin hallüsinasyon yapmasını engellemek ve cevapların kalitesini artırmak için çok düşük maliyetli bir yöntem geliştirdi: modelin önce tamamen farklı bir soruyu kontrol etmesini sağlamak.

LLM’nin ‘zihni’ temizleyerek gerçek bir sonraki soruya odaklanmasına yardımcı olabilecek bir ilişkisiz sorunun örneği. Kaynak

Bu Zen darbesi, fine-tuning, prompt-crafting ve paralel örneklem gibi diğer yöntemlere kıyasla performansı iyileştirmek için inanılmaz derecede ucuz bir yoldur ve hem açık hem de kapalı kaynaklı modellerde çalışır. Bu, birden fazla LLM mimarisine ortak bir temel karakter özelliğinin keşfini gösterir.

Yazarlar, bu şekilde çıktı iyileştirmesinin mümkün olan ekonomilerini şöyle açıklar:

‘Minimal ek ön bilgi ile uygulanması için VF, yalnızca rastgele veya önemsiz bir cevap sağlamak zorunda. Doğrulama süreci, normal bir CoT yoluna kıyasla çok daha az çıktı jetonu içeriyor, bazen hiçbir açık doğrulama süreci yok, bu nedenle çok az ek test-zamanı hesaplama gerektiriyor.’

Testlerde, bu yaklaşım – Doğrulama-İlk (VF) olarak adlandırılır – çeşitli görevlerde, matematiksel akıl yürütme dahil olmak üzere cevapları iyileştirebildi. Açık kaynaklı ve ticari platformlar üzerinde çalıştı.

Bu tekniğin neden işe yaradığı, dil modellerinin insan psikolojisinin eğilimlerini nasıl emip benimsediğiyle ilgili olabilir. Dolayısıyla doğrudan bir soru, modeli ‘savunmacı’ ve ‘sinirli’ yapabilirken, bir başkasının çalışmasını doğrulama talebi bu ‘hayatta kalma içgüdüleri’ni tetiklemez.

Temel fikir, bir cevabı doğrulamanın, sıfırdan oluşturmaktan daha az çaba gerektirdiği ve standart zincir-düşünce yolunu tamamlayabilecek farklı bir akıl yürütme yolunu tetikleyebileceğidir.

Modeli, kendi oluşturmadığı bir cevabı eleştirmeye zorlamak, ayrıca modelin kendi ilk izlenimlerine karşı aşırı güveni önleyen bir tür eleştirel düşünceyi de tetikleyebilir.

Çalışma, bu süreci ters-akıl-yolu terimiyle karakterize eder:

Bir proposed cevabı alıp geriye, soruya doğru akıl yürütmek, sırf sorunla başlayarak akıl yürütmeye kıyasla daha kısa bir yol izleyebilir ve standard zincir-düşünce akıl yürütmelerine tamamlayıcı bilgiler sunabilir.

Araştırmacılar, merkezi kavramı Iter-VF olarak adlandırdıkları bir dizi zaman-test ölçekleme yöntemine dönüştürdüler. Bu, cevapları yinelemeli olarak iyileştirir ve LLM mimarilerinde thường bulunan self-correcting stratejilerine özgü hata birikimi sorununu önler.

Yeni çalışma, Asking LLMs to Verify First is Almost Free Lunch olarak adlandırılmıştır ve Tsinghua Üniversitesi’ndeki Elektronik Mühendisliği Bölümü’nden iki araştırmacı tarafından yapılmıştır.

Yöntem

Yeni çalışmanın temel fikri, dil modellerindeki normal akıl yürütme akışını tersine çevirmektir. Modeli, bir soruyu sıfırdan çözmek yerine, önce bir aday cevabı verilir ve bu cevabın mantıklı olup olmadığı kontrol edilir.

Bu, modelin ters akıl yürütmeye zorlar, proposed cevaptan geriye, soruya doğru çalışır. Doğrulama tamamlandıktan sonra, model orijinal soruyu çözmeye devam eder.

Bu tersine çevirme, makaleye göre, dikkatsiz hataları azaltır ve daha yansıtıcı bir akıl yürütme tarzını teşvik eder, böylece LLM’nin gizli yapıları keşfetmesine ve aldatıcı varsayımları önmesine yardımcı olur.

Örneklere bakıldığında, modelin açıkça yanlış bir tahmin gibi ’10’ doğrulaması, standart zincir-düşünce yöntemine kıyasla daha iyi performans göstermesini sağlayabilir:

Modelin bir tahminin cevabını doğrulaması, tutarlılıkları tespit etmesine ve soruna daha dikkatli yaklaşmasına yardımcı olabilir. Bu örnekte, standart yaklaşım akıcı ancak yanlış bir çözüm üretirken, Doğrulama-İlk yöntemi daha nettir ve doğru sonucu verir.

Gerçek dünya sorunlarına gelince, özellikle açık uçlu görevlerde, modelin kendi cevabını kontrol etmesi daha uygundur. Bu nedenle, yöntem modelin kendi cevabını Doğrulama-İlk formatına geri besler:

Modelin kendi önceki çıktısını doğrulaması, mantıksal hatasını yakalar ve çözümü doğru olarak yeniden yazar. Doğrulama-İlk yöntemi, modelin specific hataya odaklanmasına yardımcı olur.

Bu yaklaşım, yukarıda bahsedilen Iter-VF‘yi oluşturur. Model, cevabını her defasında iyileştirerek bu döngüyü tekrarlar, yeniden eğitim veya özel araçlara gerek kalmaz. Diğer self-correcting stratejilerinin aksine, Iter-VF her adımda yalnızca en son cevabı dikkate alır, bu da akıl yürütme zincirlerinin biriken karmaşıklığını önler.

Veri ve Testler

Yazarlar, dört farklı alanda bu yöntemi değerlendirdiler: genel akıl yürütme görevleri, VF’nin önemsiz bir tahminle beslendiği görevler; zaman duyarlı görevler, Iter-VF’nin diğer ölçeklendirme yöntemleriyle karşılaştırıldığı görevler; açık uçlu sorunlar gibi kodlama ve API çağrıları, VF’nin modelin kendi önceki cevabını kullandığı görevler; ve kapalı kaynaklı ticari LLM’ler, iç akıl yürütme adımlarının erişilemediği görevler.

Yöntemi test etmek için araştırmacılar, matematik sorunları için GSM8K ve MATH500 olmak üzere üç akıl yürütme standardını kullandılar; ve lisans düzeyindeki bilim soruları için GPQA-Diamond.

Her durumda, model ya önemsiz bir tahmin (sayısal cevaplar için ‘1’ gibi) ya da rastgele karıştırılmış bir çoklu seçim seçeneğiyle doğrulama için başlangıç noktası olarak verildi. Özel ayarlamalar veya ön bilgiler eklenmedi ve karşılaştırma için temel, standard sıfır-şut zincir-düşünce yönlendirmesiydi.

Testler, 1B’den 72B’ye (parametre) kadar çeşitli Qwen2.5 ve Llama3 talimatlı modeller üzerinde yürütüldü. Qwen modelleri Qwen2.5-1.5B-Instruct, Qwen2.5-3B-Instruct, Qwen2.5-14B-Instruct ve Qwen2.5-72B-Instruct idi. Llama3 varyantları Llama3.2-1B-Instruct, Llama3.2-3B-Instruct, Llama3.1-8B-Instruct ve Llama3.3-70B-Instruct idi.

Gösterildiği gibi, Doğrulama-İlk yönlendirmesinin performansı, Qwen2.5 ve Llama3 ailelerindeki tüm model ölçeklerinde sabit kaldı ve 1B parametreden 72B’ye kadar net kazançlar gösterdi:

Qwen2.5 ve Llama3 ailelerindeki tüm model ölçeklerinde, Doğrulama-İlk yönlendirmesi standard zincir-düşünce yönlendirmesini GSM8K, MATH500 ve GPQA’da sürekli olarak outperformed etti.

Etki, özellikle GSM8K ve MATH500 gibi hesaplama-ağırlıklı matematik benchmarklerinde en güçlü oldu. Burada, yanlış bir cevabı doğrulamak, sıfırdan çözme girişiminden daha iyi akıl yürütmeyi tetikledi. GPQA-Diamond’da, depolanan bilgiye daha fazla bağlı olan yerde, avantaj daha küçüktü ancak tutarlıydı.

Doğrulama-İlk’in hesaplamalı maliyeti mütevazıydı: aşağıdaki tabloda, bir doğrulama adımının standard zincir-düşünce yönlendirmesine kıyasla yaklaşık %20-50 daha fazla çıktı jetonu eklediğini görebiliriz:

GSM8K, MATH500 ve GPQA benchmarklarındaki her yönlendirme yöntemi için ortalama çıktı jetonları.

Bu ek maliyet, çoklu örneklemeler veya geri planlama gerektiren stratejilere kıyasla çok daha düşüktü.

Aşağıdaki grafikte, yöntemin tahmini cevabın kalitesine karşı duyarlılığını görebiliriz. Şaşırtıcı bir şekilde, даже önemsiz (‘1’), inanılmaz (‘2025’) veya rastgele bir çoklu seçim seçeneği olarak verilse bile, Doğrulama-İlk yönlendirmesi standard yönlendirmeyi outperformed etti:

GSM8K, MATH500 ve GPQA’da önemsiz, inanılmaz veya doğru cevaplar doğrulandığında Doğrulama-İlk yönlendirmesinden elde edilen doğruluk kazançları.

Doğal olarak, doğruluk daha da arttı quando tahmin doğru olduğunda; ancak yöntem her durumda iyi çalıştı, bu da kazancın tahmini cevabın kendisinden değil, yalnızca doğrulama eyleminden kaynaklandığını gösteriyor.

Iter-VF, dört test-zamanı ölçekleme stratejisiyle karşılaştırıldı. Self-Correction yönteminde, model önceki akıl yürütme adımlarını yansıtarak cevaplarını revize etmeye yönlendirildi; PHP yönteminde, önceki cevaplar girdi olarak eklendi, ancak bunlardan nasıl yararlanılacağına dair talimatlar verilmedi.

Ek olarak, Self-Consistency yönteminde, birden fazla akıl yürütme yolu örneklendi ve final cevap, çoğunluk oyuyla seçildi; ve son olarak, Best-of-N yönteminde, birden fazla çıktı bağımsız olarak üretildi ve bir doğrulama yönlendirmesi kullanılarak sıralandı, en yüksek puan alan cevap seçildi.

Iter-VF’nin iki varyantı uygulandı: biri önemsiz bir tahminle (‘1’) başlatıldı, diğeri standard bir CoT çıktısıyla başlatıldı:

MATH500’de artan çıktı bütçeleri altında Iter-VF varyantlarının her ikisi de diğer tüm karşılaştırma yöntemlerini outperformed etti.

Iter-VF, düşük mevcut hesaplamada diğer tüm yöntemlerden daha iyi sonuçlar verdi, yazarlar bunu, Iter-VF’nin cevapları kontrol etmesinden değil, ilk cevapların kalitesinden kaynaklandığını belirttiler (çünkü hem VF hem de CoT varyantları benzer doğruluklara nhanh şekilde ulaştı).

PHP, önceki cevapları ipuçları olarak yeniden kullandığı halde daha kötü performans gösterdi, muhtemelen LLM’lerin bu ipuçlarını iyi kullanamamasından dolayı.

Self-Correction ve PHP’nin aksine, Iter-VF her adımda yalnızca en son cevabı dikkate alır. Bu Markovian yaklaşım, uzatılmış akıl yürütme zincirlerinin biriken karmaşıklığını önler – Self-Correction için özellikle zararlı bir zayıflık.

Paralel yöntemler gibi Self-Consistency ve Best-of-N, bu sorundan kaçındı, ancak gelişmeleri daha yavaş ve daha mütevazıydı.

(n.b. Sonuçlar bölümü, kapsamlı olmasına rağmen, okunması zor ve uzundur, bu nedenle kalan kapsamı büyük ölçüde kısaltmak zorundayız ve okuyucuyu daha fazla ayrıntı için kaynak makaleye yönlendireceğiz).

GPT-5 Nano ve GPT-5 Mini gibi kapalı ticari modellerde, Iter-VF performansı artırdı, ancak yalnızca girdi ve final cevabı erişilebildiği için iç akıl yürütme adımlarına bağlı olmadan:

Gizli akıl yürütme izleri olan GPT-5 modellerinde MATH500 ve GPQA’da Iter-VF uygulandığında doğruluk.

Sonuç

Yeni makale, sonuçlar bölümünden sonra karmaşıklığa dalıyor olsa da, bir AI model sınıfında genel bir özellik keşfetmesi ilgi çekici bir gelişmedir. Düzenli olarak bir LLM kullanan herkes, modellerin eksikliklerini çalışmak için geliştirdiği bir dizi hile geliştirmiştir ve bu kalıplar zamanla ortaya çıkar; ve herkes bu kadar genel ve uygulanabilir bir ‘hile’ bulmayı umar.

LLM’de bir bağlam penceresi uygulamak ve güncellemek için en büyük sorunlardan biri, oturum ilerlemesini koruma ve gerekli olduğunda yeni yönlerde ilerleme yeteneği arasında denge kurmaktır, böylece sahte hallüsinasyonlara veya konudan sapmaya düşülmez. Yeni makalede sunulan örnekte, LLM’yi yeniden odaklayıp sıfırlayan bir ‘uyanma çağrısı’ örneği görülür. Bu yöntemin gelecekteki projeler tarafından uyarlanıp evrilmesini görmek ilginç olacaktır.

Araştırmacılar, yeni yöntemlerinin ekonomisinden çok söz ediyorlar – bir yıl öncesine kadar önemli olmayan bir consideration. Hyperscale AI’nin etkileri, daha önce ‘saf araştırma’ döneminde önemsiz olarak görülen kaynak tasarruflarının artık kardinal ve temel hale geldiğini gösteriyor.

* Lütfen makaledeki bazı kısımların İngilizce standardının okuyucuyu karıştırmaması için alıntı sayısını sınırladığımı ve bunun yerine ana fikirleri özetlediğimi unutmayın. Daha fazla ayrıntı için okuyucuyu kaynak makaleye yönlendiriyorum.

İlk olarak 4 Aralık 2025 Perşembe günü yayınlandı.