Yapay Genel Zeka (AGI) Yoluna Birlikte Navigasyon: Dengeleyici Bir Yaklaşım

Yapay genel zeka (AGI) hızla ilerlerken, konuşma felsefi tartışmadan pratik öneme doğru kayıyor ve küresel işletmeleri ve insan potansiyelini dönüştürme fırsatı sunuyor.

Turing’in AGI Icons etkinlik serisi, AGI çözümlerinin pratik ve sorumlu gelişmelerini tartışmak için AI yenilikçilerini bir araya getiriyor. 24 Temmuz’da Turing, San Francisco’nun girişimciler ve teknoloji yenilikçileri için özel bir merkez olan SHACK15’te ikinci AGI Icons etkinliğimizi düzenledi. The Information’dan finans köşe yazarı Anita Ramaswamy’nin moderatörlüğünde, Quora CEO’su Adam D’Angelo ile birlikte AGI yolunu ve geliştirme zaman çizelgesi, gerçek dünya uygulamaları ve sorumlu dağıtım ilkeleri hakkında görüşler paylaştık.

AI’den AGI’ye Yol

AI araştırmalarını yönlendiren “kuzey yıldızı”, insan düzeyinde “zeka” peşinde koşmaktır. AGI’yi standart AI’dan ayıran, dar işlevsellikten daha büyük genellik (genişlik) ve performans (derinlik) yönünde ilerlemesidir, hatta insan yeteneklerini aşmaktadır.

Bu, “AGI’ye yol”dur, burada AI daha otonom sistemlere, üstün akıl yürütmeye, gelişmiş yeteneklere ve gelişmiş işlevlere doğru ilerler. Bu ilerlemeler beş taksonomik seviyeye ayrılmıştır:

• Seviye 0: AI Yok – Hesap makineleri gibi basit araçlar
• Seviye 1: Yeni AGI – Mevcut LLM’ler gibi ChatGPT
• Seviye 2: Yetkin AGI – Belirli görevlerde yetenekli yetişkinlerle eşdeğer AI sistemleri
• Seviye 3: Uzman AGI – Yetenekli yetişkinlerin %90’ının üzerinde AI sistemleri
• Seviye 4: Virtüöz AGI – %99’unda AI sistemleri
• Seviye 5: Süperinsan AGI – Tüm insanları aşan AI sistemleri

Kaynak

Tartışmamız sırasında, Adam AGI kavramını “insanların yapabileceği her şeyi yapabilen yazılım” olarak tanımladı. Makine öğrenimi araştırmacıları tarafından ele alınan karmaşık insan görevlerini sonunda devralacak bir gelecek hayal ediyor.

Bunu bir adım öteye götürerek, AGI’ye ilişkin görüşlerimi “çeşitli görevlere uygun bir ‘yapay beyin'” olarak karşılaştırdım, örneğin “makine çevirisi, karmaşık sorgular ve kodlama”. Bu, AGI ile daha öngörülü AI ve önceki dar AI ve ML formları arasındaki ayrımı vurguluyor. Emergent davranış gibi görünüyor.

AGI’ye Giden Yolun Gerçekçi Geliştirme Zaman Çizelgeleri

Tıpkı bir yolculukta olduğu gibi, AGI hakkında akıllardaki ilk soru, “Henüz orada mıyız?” Kısa cevap hayır, ancak AI araştırmaları hızlandıkça, sormamız gereken doğru soru, “AGI hırsını gerçekçi beklentilerle nasıl dengeleyebiliriz?” trởüyor.

Adam, AGI’den artan otomasyonun insan rollerini ortadan kaldırmak yerine değiştireceğini, daha hızlı ekonomik büyümeye ve daha verimli üretkenliğe yol açacağını vurguladı. “Bu teknoloji daha güçlü hale geldikçe, insanların bugün yaptığı %90’ının otomasyona geçeceği bir noktaya ulaşacağız, ancak herkes diğer şeylere kaymış olacak.”

Şu anda, dünyanın çoğu ekonomisi mevcut işgücü sayisiyle sınırlı. AGI’yi başardığımızda, bugünden mümkün olduğundan daha hızlı bir oranda ekonomiyi büyütebileceğiz.

Gerçek AGI’nin ne zaman gerçekleşeceği konusunda kesin bir zaman çizelgesi veremeyiz, ancak Adam ve ben, AGI ilerlemelerine yol açan beberapa AI ilerlemelerini örnek olarak gösterdik. Örneğin, Turing’in AI geliştirme araçlarındaki deneyleri, geliştirici verimliliğinde %33’lük bir artış gösterdi, bundan daha büyük bir potansiyeli işaret ediyor.

Gerçek Dünya Uygulamaları ve Etkileri

AGI’nin en umut verici uygulamalarından biri, yazılım geliştirme alanındadır. Büyük dil modelleri (LLM’ler), AGI’nin bir öncüsü, zaten yazılım geliştirmeyi iyileştirmek ve kod kalitesini artırmak için kullanılıyor. Bu AI dönemini fizikten çok biyolojiye yakın görüyorum, burada her tür bilgi işi gelişecektir. İnsanlık için ve insandan çok daha fazla verimlilik kilidini açılacaktır.

Perspektifim, deneyimimden geliyor, burada LLM’leri ve AI geliştirme araçlarını kullandığımda 10 katlık kişisel verimlilik artışını şahsen gördüm. Ayrıca Turing’de AI’yi teknik yetenekleri değerlendirmek ve doğru yazılım mühendislerini ve alan uzmanlarını doğru işlere eşleştirmek için kullanıyoruz.

Örneğin, LLM eğitim alanında gördüğüm, eğitmenlerin bu modelleri kullanarak geliştirici verimliliğini artırmak ve proje zamanlarını hızlandırmak. LLM’ler, rutin kodlama görevlerini otomatikleştirmek ve akıllı kod önerileri sunmak suretiyle, geliştiricilerin işlerinin daha stratejik ve yaratıcı yönlerine odaklanmalarını sağlıyor.

Adam, “LLM’ler tüm kodu yazmayacak, ancak yazılım temelini öğrenmek hala çok önemli” dedi. “Hesap makineleri aritmetiği öğrenme ihtiyacını ortadan kaldırmadı.” Ayrıca, “Geliştiriciler bu modelleri kullandıklarında daha değerli hale geliyor. LLM’lerin varlığı, geliştirici işleri için olumlu ve geliştiriciler için çok kazançlar olacak” diye ekledi.

Yazılım geliştirmenin altın çağına giriyoruz, burada bir yazılım mühendisi 10 kat daha verimli olabilir, daha fazla şey yaratabilir ve dünyaya fayda sağlayabilir.

Teknik ve Yönetim Zorlukları

AGI’nin vaat edilen potanseline rağmen, zorluklar ele alınmalıdır. Güvenli ve sorumlu AGI gelişimi için güçlü değerlendirme süreçleri ve düzenleyici çerçeveler gerekli.

Adam, en kötü senaryoları sınırlamak için kapsamlı test ve kumanda necessity üzerine nhấnetti. “Robust bir değerlendirme sürecine sahip olmak istiyorsunuz… ve test ettiğiniz dağılımı gerçek dünya kullanımına mümkün olduğunca yakın tutmak istiyorsunuz.”

Ve ben de aynı fikirdeyim. AGI ilerlemesinin当前 engeli artık hesaplama gücü veya veri değil, insan zekası. AI modellerini ince ayarlamak ve özelleştirmek için insan uzmanlığı çok önemli, bu nedenle Turing, modelleri insan zekasıyla dengelemek için üst düzey teknoloji uzmanlarını bulma ve eşleştirmeye odaklanıyor.

AGI zorluklarını doğrudan ele almalı ve yeteneklere odaklanmalı, genellik ve performans, ve potansiyeli göz önünde bulundurmalı.

Zorluklara İlişkin Perspektifler: İnsan-AGI Etkileşimlerini İyileştirme

AGI zorluklarını ele almak için bazı iyi uygulamalar şunlar:

• Yeteneklere veya “AGI’nin ne yapabileceğine” odaklanmak yerine, süreçlere veya “nasıl yaptığına” odaklanmak.
• AGI’nin temel bileşenleri olarak genellik ve performansı dengelemek.
• Bilişsel/metabilişsel görevlere ve öğrenme yeteneklerine odaklanmak, fiziksel görevlere/çıkışlara göre.
• AGI’yi potansiyeli ve yetenekleri ile ölçmek.
• Gerçek dünya görevleriyle uyumlu olarak, insanların değer verdiği gerçek dünya görevleriyle benchmark’leri hizalamak.
• AGI’ye giden yolun tek bir son nokta değil, bir yinelemeli süreç olduğunu unutmamak.

Bu iyi uygulamalara ek olarak, Adam ve ben, insan-AGI etkileşimlerini iyileştirmenin önemini vurguladık. Adam, bu modelleri nasıl ve ne zaman kullanmayı öğrenmenin değerini vurguladı, onları güçlü öğrenme araçları olarak görüyor ve herhangi bir programlama alt alanını hızlı bir şekilde öğretebiliyor, ancak temel kavramların anlaşılmasının önemini vurguluyor.

Benzer şekilde, her insanı LLM’lerin güçlü bir kullanıcısı yapmanın, çeşitli alanlarda verimliliği ve anlayışı önemli ölçüde artırabileceğini öneriyorum. LLM’ler, karmaşık bilgileri herkesin erişebileceği hale getirebilir, çeşitli alanlardaki verimliliği artırabilir. Ancak bu, aşama aşama, yinelemeli bir yaklaşım gerektirir: önce AI kaptanlarının insanları yardıma çağırması, sonra insan denetimi altında ajanlar ve sonunda iyi değerlendirilen görevlerde tam otonom ajanlar.

Bununla birlikte, eğitim sonrası ayrıştırma kritiktir, denetimli ince ayar (SFT) ve insan zekasını kullanarak özel modeller oluşturmayı içerir. Eğitimcileri, mühendisleri ve diğerlerini bulup eşleştirebilen şirketler, ince ayar ve özel mühendislik yeteneklerini hızlandıracaktır. OpenAI ve Anthropic gibi önde gelen şirketlerle işbirliği, bu modelleri çeşitli endüstrilere uygulamak için anahtardır.

Sorumlu AGI Geliştirme İlkeleri

“AGI gelişimi sorumlu ve etik olmalı, güvenlik ve şeffaflık sağlarken inovasyonu teşvik etmelidir.” – Adam D’Angelo

Sorumlu AGI gelişimi için beberapa temel ilkeye uymak gerekir:

• Güvenlik ve Güvenlik: AGI sistemlerinin güvenilir ve suistimal edilmeye karşı dayanıklı olduğunu đảmlemek, özellikle modeller yeni veri girişleri veya algoritmalar için ölçeklendirilirken.
• Şeffaflık: AGI’nin yetenekleri, sınırları ve “nasıl çalıştığı” hakkında gerçekçi olmak.
• Etik Düşünceler: Adalet, önyargı ve AGI’nin istihdam ve diğer sosyoekonomik faktörleri nasıl etkileyeceği konularını ele almak.
• Düzenleme: İlerlemeyi kamu güvenliği ile dengelemek için hükümetlerle ve diğer organizasyonlarla birlikte çalışmak.
• Benchmark’ler: Gelecek benchmark’lerin, AGI davranışını ve yeteneklerini etik düşünce ve taksonomi seviyelerine karşı ölçeklendirmesi gerekiyor.

Sonuç: AGI’ye Giden Yolun Üzerinde Durmak, Tek Bir Son Nokta Değil

AGI’ye giden yol karmaşıktır, ancak bu yolculukta her duraklama önemlidir. AGI’nin yinelemeli iyileştirmelerini ve bunların etkilerini anladığımızda, insanlar ve işletmeler bu gelişen teknolojiyi sorumlu bir şekilde benimseyebilecekler. Bu, sorumlu AGI gelişiminin özü, gerçek dünya etkileşimi bu yeni sınırı nasıl gezdiğimiz konusunda bizi bilgilendirir.