GPT-4, AGI'ye Ulaşmak İçin Bir Atılım mı?

Microsoft kısa süre önce şu başlıklı bir araştırma makalesi yayınladı: Yapay Genel Zekanın Kıvılcımları: GPT-4 ile ilk deneyler. Microsoft tarafından açıklandığı gibi:

Bu kağıt GPT-4'ün OpenAI tarafından hâlâ aktif olarak geliştirilme aşamasındayken erken bir sürümüne ilişkin araştırmamızı rapor ediyor. GPT-4'ün (bu erken sürümünün) önceki AI modellerinden daha fazla genel zeka sergileyen yeni bir LLM kohortunun (örneğin ChatGPT ve Google'ın PaLM'si ile birlikte) parçası olduğunu iddia ediyoruz.

Bu makalede, GPT-4'ün ezberlemenin çok ötesine geçtiğini ve kavramlar, beceriler ve alanlar hakkında derin ve esnek bir anlayışa sahip olduğunu gösteren kesin kanıtlar bulunmaktadır. Gerçekte, genelleme yeteneği bugün yaşayan herhangi bir insanınkinden çok daha fazladır.

Daha önce tartışmış olmamıza rağmen AGI'nin faydaları, bir AGI sisteminin ne olduğuna dair genel fikir birliğini hızlı bir şekilde özetlemeliyiz. Temelde bir AGI, birden çok alanda genellenebilen ve kapsamı dar olmayan bir tür gelişmiş yapay zekadır. Dar AI örnekleri, otonom bir araç, bir sohbet robotu, bir satranç botu veya tek bir amaç için tasarlanmış herhangi bir diğer AI'yı içerir.

Karşılaştırıldığında bir AGI, yukarıdakilerden herhangi biri veya başka herhangi bir uzmanlık alanı arasında esnek bir şekilde geçiş yapabilir. gibi gelişmekte olan algoritmalardan yararlanacak bir yapay zekadır. öğrenme aktarımıve evrimsel öğrenme gibi eski algoritmalardan da yararlanırken, derin takviye öğrenme.

AGI'nin yukarıdaki açıklaması, GPT-4 kullanımıyla ilgili kişisel deneyimimin yanı sıra Microsoft tarafından yayınlanan araştırma makalesinde paylaşılan kanıtlarla eşleşiyor.

Makalede özetlenen istemlerden biri, GPT-4'ün asal sayıların sonsuzluğunun bir şiir biçiminde bir kanıtını yazmasıdır.

Böyle bir şiir yaratmanın gerekliliklerini incelersek, bunun matematiksel muhakeme, şiirsel anlatım ve doğal dil üretimi gerektirdiğini görürüz. Bu, çoğu insanın ortalama kapasitesini aşan bir zorluktur.

Makale, GPT-4'ün yalnızca genel ezberlemeye dayalı içerik mi ürettiğini yoksa bağlamı anlamaya ve muhakeme yeteneğine mi dayalı olduğunu anlamak istiyordu. Shakespeare tarzında bir şiiri yeniden yaratması istendiğinde bunu başardı. Bu, genel nüfusun yeteneğini çok aşan, zihin teorisini ve matematik dehasını içeren çok yönlü bir anlayış düzeyini gerektirir.

GPT-4 Zekası Nasıl Hesaplanır?

O zaman soru, bir LLM'nin zekasını nasıl ölçebileceğimiz haline gelir. Ve GPT-4 gerçek öğrenme veya sadece ezberleme davranışları sergiliyor mu?

Bir yapay zeka sistemini test etmenin mevcut yolu, sistemi bir dizi standart kıyaslama veri kümesi üzerinde değerlendirmek ve bunların eğitim verilerinden bağımsız olmalarını ve bir dizi görevi ve alanı kapsamalarını sağlamaktır. GPT-4'ün üzerinde eğitildiği neredeyse sınırsız miktarda veri nedeniyle bu tür testler neredeyse imkansızdır.

Makale, GPT-4'ün ezberlemenin çok ötesine geçtiğini ve kavramlar, beceriler ve alanlara ilişkin derin ve esnek bir anlayışa sahip olduğunu ikna edici bir şekilde gösteren yeni ve zor görevler/sorular oluşturmayı tartışıyor.

İstihbarat söz konusu olduğunda, GPT-4 kısa öyküler, senaryolar üretebilir ve en karmaşık formülleri hesaplayabilir.

GPT-4 ayrıca hem talimatlardan kod yazma hem de mevcut kodu anlama açısından çok yüksek düzeyde kod yazabilmektedir. GPT-4, çok çeşitli kodlama görevlerini gerçekleştirebilir.
düşük seviyeli montajdan yüksek seviyeli çerçevelere, basit veri yapılarından oyunlar gibi karmaşık programlara kadar gerçek dünya uygulamalarına yönelik kodlama zorlukları. GPT-4 ayrıca kod yürütme hakkında akıl yürütebilir, talimatların etkilerini simüle edebilir ve sonuçları doğal dilde açıklayabilir. GPT-4 sözde kod çalıştırabilir,

GPT-4, verilen hemen hemen her istem için mantıklı yanıtlar verebilir. Aslında zekası, karmaşıklığı içinde neredeyse yenilmezdir.

GPT-4 Sınırlamaları

Makale daha sonra GPT-4'ün tepkilerini ve davranışlarını nasıl incelediklerini, tutarlılığını, tutarlılığını ve doğruluğunu doğrulamak ve sınırlamalarını ve önyargılarını ortaya çıkarmak için devam ediyor.

En bariz sınırlama, onun halüsinasyon eğilimi. İşte GPT-4'ün tamamen yanlış olan cevabından emin olduğu makalede verilen bir halüsinasyon örneği.

Görünüşe göre GPT-4 bile halüsinasyonlarla ilgili bu mevcut sınırlamayı anlıyor, çünkü ona GPT halüsinasyonunun ne olduğunu sorduğumda verdiği cevap buydu:

Bir GPT halüsinasyonu, şu anda etkileşimde olduğunuz gibi bir Üretken Önceden Eğitilmiş Transformatör (GPT) modelinin gerçek bilgilere dayanmayan veya sağlanan bağlamla tutarlı olmayan bir yanıt ürettiği bir olguyu ifade eder. Bu halüsinasyonlar, model makul görünebilen ancak aslında yanlış, yanıltıcı veya anlamsız olan bir metin ürettiğinde ortaya çıkar.

Başka bir deyişle, bir LLM yapay zekasını dünyanın verileri üzerinde eğittiğinizde, bir sistemin yanlış verileri öğrenmesini nasıl önlersiniz? Yanlış bilgileri öğrenen ve kusan büyük bir dil modeli ve komplo teorileri, aslında insanlığın LLM'lerin geniş çapta benimsenmesiyle karşı karşıya kaldığı en büyük tuzaklardan ve tehditlerden biri olabilir. Bu aslında AGI'nin tehlikelerini tartışırken şaşırtıcı bir şekilde gözden kaçan AGI'dan gelen daha büyük tehditlerden biri olabilir.

GPT-4 İstihbarat Kanıtları

Makale, kendisine ne tür karmaşık bilgi istemlerinin yönlendirildiği önemli değil, GPT-4'ün beklentileri aşacağını gösteriyor. Makalede belirtildiği gibi:

Doğal dilde eşsiz ustalığı. Yalnızca akıcı ve tutarlı bir metin oluşturmakla kalmaz, aynı zamanda onu özetlemek, tercüme etmek veya son derece geniş bir dizi soruyu yanıtlamak gibi çeşitli şekillerde anlayabilir ve manipüle edebilir. Dahası, çeviri derken sadece farklı doğal diller arasında değil, aynı zamanda ton ve üslup açısından ve ayrıca tıp, hukuk, muhasebe, bilgisayar programlama, müzik ve daha fazlası gibi alanlarda yapılan çevirileri kastediyoruz.

GPT-4'e sahte teknik incelemeler verildi, diğer uçta bir insan olsaydı anında bir yazılım mühendisi olarak işe alınacakları bu bağlamda kolayca anlam ifade ediyordu. GPT-4'ün Çok Durumlu Çubuk Sınavındaki yeterliliğine ilişkin benzer bir ön test, %70'in üzerinde bir doğruluk gösterdi. Bu, gelecekte şu anda avukatlara verilen görevlerin çoğunu otomatik hale getirebileceğimiz anlamına geliyor. Aslında bazıları var şimdi robot avukatlar yaratmak için çalışan girişimler GPT-4 kullanarak.

Yeni Bilgi Üretmek

Makaledeki argümanlardan biri, GPT-4'ün gerçek anlayış düzeylerini kanıtlaması için geriye kalan tek şeyin, yeni matematik teoremlerini kanıtlamak gibi yeni bilgiler üretmesi olduğudur; bu, şu anda LLM'ler için erişilemeyen bir başarıdır.

Sonra tekrar bu bir AGI'nin kutsal kâsesidir. Bir AGI'nin yanlış ellerde kontrol edilmesinin tehlikeleri olsa da, bir AGI'nin yeni teoremler, tedaviler ve tedaviler keşfetmek için tüm tarihsel verileri hızlı bir şekilde analiz edebilmesinin faydaları neredeyse sonsuzdur.

Bir AGI, şu anda özel sektör finansmanından yoksun olan nadir genetik hastalıklara çare bulmaya, kanseri kesin olarak iyileştirmeye ve sürdürülemez enerjiye olan bağımlılığımızı ortadan kaldırmak için yenilenebilir enerjinin verimliliğini en üst düzeye çıkarmaya yönelik eksik halka olabilir. Aslında, AGI sistemine beslenen herhangi bir sonuçsal sorunu çözebilir. Sam Altman ve OpenAI ekibinin anladığı şey bu. AGI gerçekten son buluş çoğu sorunu çözmek ve insanlığa fayda sağlamak için gereklidir.

Elbette bu, AGI'yi kimin kontrol ettiği ve niyetlerinin ne olduğu şeklindeki nükleer düğme sorununu çözmez. Ne olursa olsun bu kâğıt GPT-4'ün AI araştırmacılarının sahip olduğu rüyayı gerçekleştirmeye yönelik bir sıçrama olduğunu savunarak olağanüstü bir iş çıkarıyor. 1956 yana, Yapay Zeka üzerine ilk Dartmouth Yaz Araştırma Projesi yaz atölyesi ilk kez başlatıldığında.

GPT-4'ün bir AGI olup olmadığı tartışmalı olsa da, insanlık tarihinde ilk kez bu testlerden geçebilen bir AI sistemi olduğu kolayca söylenebilir. Turing Testi.