Yapay zeka modelleri ve platformları
Meta’nın COCONUT’u: Dili Olmadan Düşünen AI Yöntemi
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Araştırmacılar ilk olarak büyük dil modellerinin (LLM) zincir düşünme yöntemiyle adım adım “düşünabileceğini” keşfettiklerinde, bu bir đột phá anı oldu – sonunda, bu kara kutuların düşünme sürecine göz atabiliyorduk. Ancak size AI modellerinin doğal dilde düşünmesi onları geri tutabileceğini söylesem ne dersiniz?
Bu, Meta ve UC San Diego’daki araştırmacıların yeni COCONUT (Sürekli Düşünme Zinciri) yöntemi ile ortaya çıkardıkları şey.
Karmaşık bir matematik problemi çözmeye çalışırken her adımdan bahsetmeniz gerektiğini düşünün. Sinir bozucu, değil mi? Şimdi, dil modellerinin karşılaştığı temel zorluğu anlamaya yakınlaşıyorsunuz.
AI modellerini doğal dilde düşünmeye zorladığımızda:
- Ürettikleri çoğu token sadece dilbilimsel bağlayıcılar – “sonra”, “sonra” ve “sonuç olarak” gibi kelimeler ki bunlar hiçbir düşünme değerine sahip değil
- Kritik karar noktaları, belirli kelimelere bağlı kalmak zorunda olmakla boğuluyor
- Model, gerçek problem çözme yerine dilbilimsel tutarlılığı korumaya önemli miktarda hesaplama çabası harcıyor
Araştırmacılar nörogörüntüleme çalışmalarında ilginç bir şey keşfettiler: insanların karmaşık akıl yürütme görevlerini çözdükleri zaman, beyinlerinin dil merkezleri thường şaşılacak kadar sessiz kalıyor. Ancak biz AI sistemlerini tam tersi şekilde inşa ettik – her akıl yürütme adımını kelimelere çevirmeye zorluyoruz.
Bir bulmacayı nasıl çözdüğünüzü düşünün. Aklınız muhtemelen aynı anda birden fazla olasılığı探iyor, belirsiz hipotezleri koruyor ve sadece çözümü paylaştığınızda düşüncelerinizi dile getiriyor. Ancak geleneksel zincir düşünme yöntemleri, AI modellerinin her ara adımdan bahsetmesini zorunlu kılarak bir “dilsel tıkanıklık” yaratıyor.
Bu anlayış, bir soru ortaya çıkardı: AI modellerini doğal “dillerinde” – gizli durumlarının sürekli, yüksek boyutlu alanında – düşünmeye izin verebilirsek ne olur? Yani onları her şeyi tokenlere çevirmeye zorlamaktan vazgeçersek?
COCONUT’un Yeniliğini Anlamak
Düşüncelerinizi yüksek sesle söylemek ile beyinde gerçekleşen gerçek zihinsel süreç arasındaki farkı düşünün. Bu fark – sözel düşünceler ile nöral aktivite arasındaki boşluk – Meta’nın araştırmacılarının COCONUT ile temas ettiği şey.
COCONUT’un gerçek đột phá noktası, AI modellerinin iki farklı şekilde düşünmesine izin vermesidir – tıpkı insanların yaptığı gibi. Karmaşık bir bulmacayı çözmeye çalıştığınızı düşünün – her olası hamleyi yüksek sesle anlatmazsınız, değil mi? Bunun yerine:
- Sorunu Anlamak: Bilgiyi alıyorsunuz (bulmaca kurallarını okuduğunuz gibi)
- Sessiz Düşünmek: Beyniniz kelimelere dökmeden birden fazla olasılığı keşfediyor
- Çözümü Paylaştırmak: Düşüncelerinizi sadece çözümünü paylaştığınızda dile getiriyorsunuz
COCONUT, AI modellerine aynı doğal esnekliği sunar. Geleneksel yöntemlerin yaptığı gibi her düşünceyi yüksek sesle anlatmaya zorlamak yerine, onları doğal nöral alanlarında düşünmeye izin verir – araştırmacıların “gizli alan” dedikleri şey.
Model, iki mod arasında sorunsuz bir şekilde geçiş yapar:
- Soruları anlamak veya cevaplar vermek için regular dili kullanır
- Ancak gerçek düşünme süreci için? Saf nöral desenleri kullanır, kelimelerin kısıtlamalarından özgür
Image: Meta
Eğitim Yolculuğu
COCONUT’un en ilginç yönlerinden biri, eğitim müfredatı. Bu özel olan şey, doğal öğrenme ilerlemesini nasıl yansıttığı. Karmaşık becerileri nasıl öğrettiğimizi düşünün – jemandı doğrudan derin uca atmazsınız. Gradually, complexity eklersiniz, her seviyeyi ustalaştıkça.
Araştırmacılar COCONUT için tam olarak bunu yaptı:
1. Aşama: Temel
İlk olarak, model geleneksel zincir düşünme yöntemiyle öğrenir. Bu, ona güçlü bir temel anlayış sağlar.
2. Aşama: Geçiş
Burada ilginç olan şey. Yazılı akıl yürütme adımları yavaş yavaş sürekli düşüncelerle değiştirilir. Eğitim tekerleklerinin yavaş yavaş kaldırılmasını, modelin kendi iç düşünce kalıplarını geliştirmesini düşünün.
3. Aşama: Denge
Son olarak, model derin düşünceyi gizli alanda ve net dille iletişim kurmayı sorunsuz bir şekilde birleştirmeyi öğrenir.
Eğitim sırasında, model hiç kimsenin açıkça programlamadığı yetenekler geliştirdi – Örneğin, aynı anda birden fazla akıl yürütme yolunu düşünmek. Bu ortaya çıkan davranış özellikle heyecan verici çünkü daha doğal AI akıl yürütme biçimlerine yaklaştığımızı gösteriyor. Bu beklenmedik gelişmeler genellikle en büyük đột pháları getiriyor.
Daha önce bahsettiğim nörogörüntüleme çalışmaları, insan beyninin karmaşık akıl yürütme görevlerini dil merkezlerini yoğun olarak kullanmadan çözdüğünü gösterdi. COCONUT benzer kalıplar geliştiriyor gibi görünüyor – derin düşünce için gizli alanında düşünüyor ve sadece iletişim için dili kullanıyor.
Rakamlar Bir Hikaye Anlatıyor
Araştırmadan birkaç önemli bulgu daha öne çıkıyor:
- Matematik Kelime Problemleri (GSM8k): Burada COCONUT, %34.1 doğruluk oranıyla geleneksel Zincir Düşünme (%42.9) altında kaldı, ancak temel yaklaşımlardan önemli ölçüde daha iyiydi.
- Mantıksal Çıkarsama (ProntoQA): COCONUT, %99.8 doğruluk oranıyla geleneksel Zincir Düşünme’nin (%98.8) önüne geçti. Ancak ilginç olan şey, bunu sadece 9 token kullanarak yapması, oysa geleneksel Zincir Düşünme 92.5 token kullanmıştı.
- Karmaşık Planlama (ProsQA): En etkileyici sonuçlar, gelişmiş akıl yürütme testinden geldi. COCONUT, %97 doğruluk oranıyla geleneksel yöntemlerin (%77.5) çok önüne geçti. Ve yine, bunu 14.2 token kullanarak yaptı, oysa geleneksel yöntemler 49.4 token kullanmıştı.
Bu sonuçların umut verici olmasının nedeni, sadece ham rakamlar değil, farklı düşünme türleri hakkında neler ortaya çıkardığı. COCONUT, matematiksel akıl yürütmede hala zemin kazanıyorken, karmaşık mantıksal planlama ve çıkarsama görevlerinde öne çıkıyor.
COCONUT, AI sistemlerinin nasıl akıl yürütebileceği konusunda temel bir yeniden düşünceyi temsil ediyor ve bizi daha doğal, verimli ve güçlü AI formlarına yaklaştırıyor. Dilden bağımsız düşünceye doğru yolculuk, daha yetenekli ve verimli AI sistemlerine doğru bir adımdır.
