Analojiye Dayalı ve Geri Adım İstemleme: Google DeepMind’in Son Araştırmalarına Yakından Bakış

Giriş

İstem mühendisliği, GPT-4 gibi büyük dil modellerine (LLM’ler) istenilen yanıtları üretmeleri için etkili istem yaratma üzerine odaklanıyor. İyi tasarlanmış bir istem, belirsiz veya yanlış bir yanıt ile kesin ve aydınlatıcı bir yanıt arasındaki farkı yaratabilir.

Geniş AI ekosisteminde, istem mühendisliği, dil modellerinden daha doğru ve bağlamsal olarak ilgili bilgi çıkarmak için kullanılan çeşitli yöntemlerden biridir. Diğer yöntemler arasında, modelin görevi anlamasına yardımcı olmak için birkaç örnek verilen few-shot öğrenme ve modelin daha küçük bir veri kümesinde daha fazla eğitim görmesi yoluyla yanıtlarını uzmanlaştıran fine-tuning bulunur.

Google DeepMind (GOOGL ), istem mühendisliğinin potansiyelini keşfetmeye devam eden AI topluluğunun bir parçası olarak, iki araştırma makalesi yayınladı.

Bu makaleler, dil modelleriyle iletişim kurma şeklimizi iyileştirmeye yönelik devam eden araştırmaların bir parçasıdır ve sorgu işleme ve veritabanı etkileşimi için istem yapısını iyileştirmeye yönelik yeni bakış açıları sunar.

Bu makale, bu araştırma makalelerinin ayrıntılarına girer, önerilen tekniklerin kavramlarını, metodolojilerini ve etkilerini açıklar ve bunları AI ve NLP’de sınırlı bilgiye sahip okuyucular için erişilebilir kılar.

Makale 1: Analoji Yoluyla Akıl Yürüten Büyük Dil Modelleri

“Large Language Models as Analogical Reasoners” başlıklı ilk makale, Analojiye Dayalı İstemleme adlı yeni bir yaklaşım sunuyor. Michihiro Yasunaga, Xinyun Chen ve diğer yazarlar, insanların yeni sorunları çözmek için geçmiş deneyimlerinden yararlandığı bilişsel süreç olan analoji yoluyla akıl yürütmeden esinleniyor.

Ana Kavramlar ve Metodoloji

Analojiye Dayalı İstemleme, LLM’lerin bir problemi çözmeye başlamadan önce ilgili örnekler veya bilgiyi kendileri oluşturmalarını teşvik eder. Bu yaklaşım, etiketlenmiş örneklere duyulan ihtiyacı ortadan kaldırarak genellik ve kullanım kolaylığı sağlar ve oluşturulan örneklerin her bir problem için uyarlanmasını sağlar.

Sol: Geleneksel yöntemler LLM’leri genel girdiler (0-shot CoT) veya etiketli örnekler (few-shot CoT) ile besler. Sağ: Yeni yaklaşım LLM’lerin problem çözmeden önce ilgili örnekler oluşturmasını sağlar ve örnekleri her soruna uyarlarken etiketleme ihtiyacını ortadan kaldırır.

Modelin Kendi Ürettiği Örnekler

Makalede sunulan ilk teknik, modelin kendi ürettiği örneklerdir. Fikir, LLM’lerin eğitim sırasında edindikleri geniş bilgi birikimini kullanarak yeni problemleri çözmelerine yardımcı olmaktır. Süreç, hedef problemi, ilgili problemleri ve çözümlerini hatırlamasını veya oluşturmasını sağlayan talimatlarla zenginleştirmeyi içerir.

Örneğin, bir problem verildiğinde, model üç farklı ve ilgili problemi hatırlaması, açıklaması ve çözümlerini açıklaması talimatı verilir. Bu sürecin tek geçişte yürütülmesi amaçlanır; böylece LLM ilgili örnekleri üretip başlangıçtaki problemi kesintisiz biçimde çözebilir. Biçimlendirmede ‘#’ sembollerinin kullanılması, yanıtın daha organize ve modelin takip etmesi daha kolay olmasını sağlar.

Makalede vurgulanan önemli teknik kararlar, ilgili ve çeşitli örneklerin oluşturulmasına odaklanma, tek geçişli bir yaklaşımın benimsenmesi ve üç ila beş örnek oluşturmanın en iyi sonuçları verdiğini göstermesi içerir.

Modelin Kendi Ürettiği Bilgi + Örnekler

İkinci teknik, kod oluşturma gibi daha karmaşık görevlerde karşılaşılan zorlukları ele almak için modelin kendi ürettiği bilgi + örnekler olarak sunulur. Bu senaryolarda, LLM’ler alt düzey örnekler üzerinde fazla odaklanabilir ve hedef problemleri çözerken genellemekte zorlanabilir. Bunu önlemek için, yazarlar, modelin temel kavramları tanımlamasını ve bir öğretici açıklama veya üst düzey temel ders sağlamasını teşvik eden ek bir talimat ile istemyı zenginleştirmeyi önerirler.

Bilgi ve örneklerin oluşturulma sırası kritik bir husustur. Yazarlar, bilgilerin örneklerden önce oluşturulmasının daha iyi sonuçlar verdiğini bulmuşlardır, çünkü bu, LLM’nin yalnızca yüzeysel benzerliklere değil, temel problem çözme yaklaşımlarına odaklanmasını sağlar.

Avantajlar ve Uygulamalar

Analojiye dayalı istemleme yaklaşımı çeşitli avantajlar sunar. Etiketli örnekler olmadan ayrıntılı akıl yürütme örnekleri sağlar, 0-shot ve few-shot zincir düşünme (CoT) yöntemleriyle ilgili zorlukları ele alır. Ayrıca, oluşturulan örnekler, sabit örnekler kullanan geleneksel az örnekli düşünce zinciri yöntemine kıyasla, her probleme uyarlanarak daha ilgili rehberlik sunar.

Makale, bu yaklaşımın çeşitli akıl yürütme görevlerinde, matematik problem çözme, kod oluşturma ve BIG-Bench’de diğer akıl yürütme görevlerinde etkinliğini gösterir.

Aşağıdaki tablolar, çeşitli istem yöntemlerinin farklı model mimarilerindeki performans ölçütlerini sunar. “Modelin Kendi Ürettiği Örnekler” yöntemi, doğruluk açısından diğer yöntemleri aşmaktadır. GSM8K doğruluğunda, bu yöntem PaLM2 modelinde %81,7 gibi en yüksek performansı gösterir. Benzer şekilde, MATH doğruluğunda GPT3.5-turbo’da %37,3 gibi en yüksek performansı gösterir.

Matematik görevlerinde performans, GSM8K ve MATH

İkinci tabloda, GPT3.5-turbo-16k ve GPT4 modelleri için “Modelin Kendi Ürettiği Bilgi + Örnekler” en iyi performansı gösterir.

Codeforces kod oluşturma görevinde performans

Makale 2: Bir Adım Geri Al: Büyük Dil Modellerinde Soyutlama Yoluyla Akıl Yürütmeyi Harekete Geçirme

Genel Bakış

İkinci makale, “Bir Adım Geri Al: Büyük Dil Modellerinde Soyutlama Yoluyla Akıl Yürütmeyi Harekete Geçirme” adlı bir çalışmayı sunar ve Step-Back İstemleme adlı bir tekniği tanıtır. Yazarlar, Huaixiu Steven Zheng, Swaroop Mishra ve diğerleri, LLM’lerin akıl yürütme yeteneklerini geliştirmeyi amaçlar ve onları doğru akıl yürütme yolunu takip etmeye yönlendirmeyi hedefler.

STEP-BACK İSTEMLEME, soyutlama ve akıl yürütme aşamalarını gösteren bir diyagram

Basit bir matematik sorusu kullanarak “Geri Adım Sorusu” tekniğini göstermek için bir örnek oluşturalım:

Orijinal Soru: Bir tren 60 km/h hızında seyahat eder ve 120 km mesafe kat ederse, bu kaç saat sürer?

Seçenekler:

3 saat
2 saat
1 saat
4 saat
Orijinal Cevap [Yanlış]: Doğru cevap 1).

Geri Adım Sorusu: Hız ve mesafe verildiğinde zamanı hesaplamak için temel formül nedir?

İlkeler:
Zamanı hesaplamak için formül:
Zaman = Mesafe / Hız

Nihai Cevap:
Formülü kullanarak, Zaman = 120 km / 60 km/h = 2 saat.
Doğru cevap 2) 2 saat.

Modern LLM’lerin bu soruyu kolayca cevaplayabileceği bilinse de, bu örnek, stepback tekniğinin nasıl çalışabileceğini göstermektedir. Daha zorlu senaryolarda aynı teknik, problemi sistematik biçimde parçalayarak çözmek için uygulanabilir. Aşağıda makalede gösterilen daha karmaşık bir örnek bulunuyor.

MMLU-Kimya veri setinde STEP-BACK İSTEMLEME

Ana Kavramlar ve Metodoloji

Step-Back İstemlemenin özü, LLM’lerin büyük resmi görmelerini teşvik etmektir. Bu, LLM’lerin detaylara odaklanmak yerine daha yüksek seviyeli kavramları ve ilkeleri çıkarmalarını sağlar. Bu süreç, LLM’lerin problemi daha bilgilendirilmiş ve prensipli bir perspektiften ele almasına olanak tanır.

İlk adım, LLM’lerin verilen örneklerden detayları soyutlamasını teşvik etmektir. Bu adım, LLM’lerin problemi daha yüksek seviyeli kavramlar ve ilkeler üzerinden ele almasına olanak tanır.

Yüksek seviyeli kavramlar çıkarıldıktan sonra, bunlar LLM’leri çözüme doğru akıl yürütme adımlarına yönlendirmek için kullanılır. Bu rehberlik, LLM’lerin mantıklı ve tutarlı bir yol izlemesini sağlar.

Yazarlar, Step-Back İstemlemenin etkinliğini doğrulamak için bir dizi deney yaparlar. Bu deneyler PaLM-2L modellerini STEM problemleri, bilgiye dayalı soru yanıtlama ve çok adımlı akıl yürütme dâhil zorlu görevlerde sınayarak yöntemi değerlendirmek için kapsamlı bir ortam sağlar.

Farklı Görevlerde Önemli İyileştirmeler

Sonuçlar etkileyicidir ve Step-Back İstemlemenin tüm görevlerde önemli performans kazançları sağladığını gösterir. Örneğin, bu teknik, MMLU Fizik ve Kimya’da PaLM-2L performansı %7 ve %11 oranında iyileştirir. Benzer şekilde, TimeQA’da %27 ve MuSiQue’de %7’lik iyileştirmeler sağlar.

STEP-BACK İSTEMLEMENİN performansı

Bu sonuçlar, Step-Back İstemlemenin LLM’lerin akıl yürütme yeteneklerini önemli ölçüde geliştirebileceğini vurgular.

Sonuç

Her iki makale de, Google DeepMind tarafından sunulan yenilikçi istem mühendisliği yaklaşımlarını sunar. Analojiye Dayalı İstemleme, analoji yoluyla akıl yürütme kavramını kullanarak modellerin kendi örneklerini ve bilgilerini üretmesini teşvik eder. Step-Back İstemleme ise soyutlama odaklı bir yaklaşım sunar ve modellerin yüksek seviyeli kavramları ve ilkeleri çıkarmasını teşvik eder.

Bu araştırma makaleleri, çeşitli alanlarda uygulanabilecek değerli bilgiler ve metodolojiler sağlar. İstem mühendisliği hakkında devam eden araştırmalarımızla, bu yaklaşımlar daha gelişmiş ve sofistike AI sistemlerine ulaşmak için kritik adımlar olarak hizmet eder.