AGI ve geleceğin yapay zekası

GPT-4 İnsanların 1956’dan Beri Hayalini Kurduğu AGI’ye Doğru Bir İlerleme mi?

Antoine Tardif
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarGPT-4'ün asal sayılar hakkında Shakespeare tarzı bir şiir yazma yeteneği, ezberin…
Daha fazla göster
  • GPT-4'ün asal sayılar hakkında Shakespeare tarzı bir şiir yazma yeteneği, ezberin ötesinde derin bir akıl yürütme yeteneğini kanıtlıyor.
  • Microsoft'un makalesi, GPT-4'ün önceki tüm yapay zeka modellerinden daha fazla genel zeka sergilediğini savunuyor.
  • AGI'nin en büyük riski, eğitim verilerinden yanlış bilgi uydurma eğilimi olabilir.

Microsoft (MSFT ) kısa süre önce Yapay Genel Zekanın Kıvılcımları: GPT-4 ile İlk Deneyler başlıklı bir araştırma makalesi yayımladı. Microsoft bunu şöyle açıklıyor:

Bu makale, OpenAI tarafından henüz aktif olarak geliştirilmekte olan GPT-4’ün erken bir sürümü üzerinde yürüttüğümüz araştırmayı ele alıyor. GPT-4’ün bu erken sürümünün, örneğin ChatGPT ve Google’ın PaLM modeliyle birlikte, önceki yapay zeka modellerinden daha genel bir zeka sergileyen yeni büyük dil modelleri kuşağının parçası olduğunu savunuyoruz.

Makale, GPT-4’ün ezberlemenin çok ötesine geçtiğini; kavramları, becerileri ve alanları derin ve esnek bir biçimde anladığını gösteren güçlü kanıtlar sunuyor. Aslında genelleme yeteneği, bugün yaşayan herhangi bir insanınkini büyük ölçüde aşıyor.

Daha önce yapay genel zekanın (AGI) faydalarını ele almış olsak da, bir AGI sisteminin ne olduğuna ilişkin genel kabulü kısaca özetlemeliyiz. AGI, dar bir kapsamla sınırlı kalmadan farklı alanlar arasında genelleme yapabilen gelişmiş bir yapay zeka türüdür. Otonom bir araç, sohbet botu, satranç botu veya tek bir amaç için tasarlanmış herhangi bir başka yapay zeka, dar kapsamlı yapay zekaya örnektir.

Buna karşılık AGI, yukarıdaki alanların herhangi biriyle başka uzmanlık alanları arasında esnek biçimde geçiş yapabilir. Transfer öğrenimi ve evrimsel öğrenme gibi yeni algoritmalardan yararlanırken, derin pekiştirmeli öğrenme gibi yerleşik algoritmaları da kullanır.

Bu AGI tanımı, GPT-4’ü kullanırken edindiğim kişisel deneyimle ve Microsoft’un yayımladığı araştırma makalesinde paylaşılan kanıtlarla örtüşüyor.

Makalede açıklanan istemlerden biri, GPT-4’ün asal sayıların sonsuzluğuna ilişkin bir kanıtı şiir biçiminde yazmasıdır.

Böyle bir şiir oluşturmanın gerekliliklerini incelediğimizde matematiksel akıl yürütme, şiirsel anlatım ve doğal dil üretimi gerektirdiğini görürüz. Bu, çoğu insanın ortalama becerisini aşacak bir zorluktur.

Araştırma, GPT-4’ün yalnızca genel ezberlemeye dayanarak içerik üretip üretmediğini veya bağlamı anlayıp akıl yürütebildiğini belirlemeyi amaçlıyordu. Bir şiiri Shakespeare tarzında yeniden yazması istendiğinde bunu başardı. Bu görev, insanların genelinin yeteneklerini aşan, zihin kuramı ve matematiksel deha içeren çok yönlü bir anlama düzeyi gerektirir.

GPT-4’ün zekası nasıl ölçülür?

O halde soru şudur: Bir büyük dil modelinin zekasını nasıl ölçebiliriz? GPT-4 gerçek öğrenme davranışları mı sergiliyor, yoksa yalnızca ezberliyor mu?

Bir yapay zeka sistemini sınamanın mevcut yolu, onu standart kıyaslama veri kümeleri üzerinde değerlendirmek; bu kümelerin eğitim verilerinden bağımsız olmasını ve çeşitli görevlerle alanları kapsamasını sağlamaktır. GPT-4’ün eğitildiği verilerin neredeyse sınırsız miktarı nedeniyle bu tür bir sınama neredeyse imkansızdır.

Makale, GPT-4’ün ezberlemenin çok ötesine geçtiğini ve kavramları, becerileri, alanları derin ve esnek biçimde anladığını ikna edici biçimde gösteren yeni ve zor görevler ile sorular oluşturmayı tartışıyor.

Zeka söz konusu olduğunda GPT-4 kısa öyküler ve senaryolar üretebilir, en karmaşık formülleri hesaplayabilir.

GPT-4, hem talimatlardan kod yazma hem de mevcut kodu anlama açısından çok yüksek düzeyde programlama yapabilir. Kodlama yarışmalarından gerçek dünya uygulamalarına, düşük seviyeli assembly dilinden yüksek seviyeli çerçevelere, basit veri yapılarından oyunlar gibi karmaşık programlara kadar geniş bir görev yelpazesini ele alabilir. Ayrıca kodun yürütülmesi hakkında akıl yürütebilir, talimatların etkilerini simüle edebilir ve sonuçları doğal dille açıklayabilir. GPT-4 sözde kodu bile çalıştırabilir.

GPT-4 kendisine verilen hemen her isteme mantıklı yanıtlar sunabilir. Aslında zekası, karmaşıklığı bakımından neredeyse rakipsizdir.

GPT-4’ün sınırlamaları

Makale daha sonra araştırmacıların GPT-4’ün tutarlılığını, bütünlüğünü ve doğruluğunu doğrulamak, sınırlamalarını ve önyargılarını ortaya çıkarmak için yanıtlarını ve davranışlarını nasıl incelediğini anlatıyor.

En belirgin sınırlama, halüsinasyon üretme eğilimidir. Aşağıda makaleden bir örnek yer alıyor: GPT-4, tamamen yanlış olan yanıtından emin görünüyordu.

GPT-4 bile halüsinasyonlarla ilgili bu mevcut sınırlamanın farkında görünüyor. GPT halüsinasyonunun ne olduğunu sorduğumda şu yanıtı verdi:

GPT halüsinasyonu, şu anda etkileşimde bulunduğunuz model gibi bir Üretken Önceden Eğitilmiş Dönüştürücü (GPT) modelinin, gerçek bilgilere dayanmayan veya sağlanan bağlamla tutarlı olmayan bir yanıt üretmesi olgusunu ifade eder. Bu halüsinasyonlar, modelin makul görünebilen ancak gerçekte yanlış, yanıltıcı veya anlamsız bir metin üretmesiyle ortaya çıkar.

Başka bir deyişle, bir büyük dil modelini dünyanın verileri üzerinde eğitirken sistemin yanlış verileri öğrenmesini nasıl önlersiniz? Bir büyük dil modelinin yanlış bilgileri ve komplo teorilerini öğrenip yeniden aktarması, bu modellerin geniş ölçekte benimsenmesiyle insanlığın karşılaşacağı en büyük tuzak ve tehditlerden biri olabilir. Bu, AGI’nin daha büyük tehditlerinden biri de olabilir; şaşırtıcı biçimde AGI’nin tehlikeleri tartışılırken sıklıkla gözden kaçırılır.

GPT-4’ün zekasına ilişkin kanıtlar

Makale, kendisine yöneltilen karmaşık istemin türü ne olursa olsun GPT-4’ün beklentileri aşacağını gösteriyor. Makalede belirtildiği gibi:

Doğal dildeki benzersiz ustalığı. Yalnızca akıcı ve tutarlı metin üretmekle kalmaz; metni özetleme, çevirme veya son derece geniş bir soru yelpazesine yanıt verme gibi çeşitli yollarla anlayıp işleyebilir. Üstelik çeviri derken yalnızca farklı doğal diller arasındaki çeviriyi değil; ton ve üslup değişikliklerini ve tıp, hukuk, muhasebe, bilgisayar programlama, müzik gibi alanlar arasındaki aktarımları da kastediyoruz.

GPT-4’e deneme amaçlı teknik değerlendirmeler uygulandı ve bunları kolayca geçti. Bu bağlamda karşı tarafta bir insan olsaydı, hemen yazılım mühendisi olarak işe alınırdı. GPT-4’ün Çok Eyaletli Baro Sınavı’ndaki yeterliliğine ilişkin benzer bir ön test, yüzde 70’in üzerinde doğruluk gösterdi. Bu, gelecekte şu anda avukatlara verilen birçok görevi otomatikleştirebileceğimiz anlamına geliyor. Nitekim bazı girişimler şimdi robot avukatlar oluşturmak için GPT-4’ü kullanıyor.

Yeni bilgi üretmek

Makaledeki savlardan biri, GPT-4’ün gerçek anlama düzeyini kanıtlaması için geriye yeni bilgi üretmesinin kaldığıdır. Yeni matematik teoremlerini kanıtlamak buna örnektir; bu başarı şu anda büyük dil modellerinin erişiminin dışındadır.

Öte yandan bu, AGI’nin Kutsal Kasesidir. AGI’nin yanlış kişilerin kontrolünde olması tehlikeler doğursa da, tüm tarihsel verileri hızla inceleyerek yeni teoremler, tedaviler ve iyileştirme yöntemleri keşfetmesinin faydaları neredeyse sınırsızdır.

AGI, şu anda özel sektör finansmanından yoksun olan nadir genetik hastalıklara tedavi bulunmasında, kanserin kalıcı olarak iyileştirilmesinde ve sürdürülemez enerjiye bağımlılığı ortadan kaldırmak için yenilenebilir enerjinin verimliliğinin en üst düzeye çıkarılmasında eksik halka olabilir. Aslında AGI sistemine verilen önemli herhangi bir sorunu çözebilir. Sam Altman ve OpenAI ekibinin anladığı da budur: AGI gerçekten son icattır; çoğu sorunu çözmek ve insanlığa fayda sağlamak için ihtiyaç duyulan son icat.

Elbette bu, AGI’yi kimin kontrol ettiği ve niyetlerinin ne olduğu şeklindeki nükleer düğme sorununu çözmez. Yine de bu makale, GPT-4’ün, yapay zeka araştırmacılarının ilk Dartmouth Yaz Yapay Zeka Araştırma Projesi çalıştayının düzenlendiği 1956’dan beri kurduğu hayale ulaşma yolunda bir sıçrama olduğunu olağanüstü biçimde savunuyor.

GPT-4’ün AGI olup olmadığı tartışmalı olsa da, insanlık tarihinde ilk kez Turing testini geçebilen bir yapay zeka sistemi olduğu rahatlıkla savunulabilir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.