Yapay Genel Zekaya (AGI) Giden Yolda Birlikte Yürümek: Dengeli Bir Yaklaşım

As yapay genel zeka (AGI) hızla ilerledikçe, tartışmalar felsefi tartışmalardan pratik öneme sahip bir tartışmaya doğru kayıyor ve küresel işletmeleri ve insan potansiyelini dönüştürmek için muazzam fırsatlar sunuyor.

Turing'in AGI Icons etkinlik serisi, AGI çözümlerindeki pratik ve sorumlu ilerlemeleri tartışmak için yapay zeka yenilikçilerini bir araya getiriyor. 24 Temmuz'da Turing, San Francisco'nun girişimciler ve teknoloji yenilikçileri için özel merkezi olan SHACK15'te ikinci AGI Icons etkinliğimize ev sahipliği yaptı. The Information'ın finans köşe yazarı Anita Ramaswamy'nin moderatörlüğünde, AGI'ye giden yolu tartışmak ve geliştirme zaman çizelgeleri, gerçek dünya uygulamaları ve sorumlu dağıtım ilkelerine ilişkin içgörüleri paylaşmak için Quora CEO'su Adam D'Angelo ile oturdum.

Yapay Zekadan AGI'ya Giden Yol

Yapay zeka araştırmalarını yönlendiren "kuzey yıldızı", insan düzeyindeki "zeka" arayışıdır. YGZ'yi standart yapay zekadan ayıran şey, dar işlevsellikten daha büyük genelliğe (genişlik) ve performansa (derinliğe) doğru ilerlemesi, hatta insan yeteneklerini aşmasıdır.

Bu, yapay zekanın daha otonom sistemlere, üstün akıl yürütmeye, gelişmiş yeteneklere ve gelişmiş işlevselliğe doğru ilerlediği "YGZ'ye giden yoldur". Bu ilerlemeler beş taksonomik seviyeye ayrılmıştır:

• Seviye 0: Yapay zeka yok – Hesap makineleri gibi basit araçlar
• Seviye 1: Gelişen AGI – ChatGPT gibi mevcut Yüksek Lisanslar
• Seviye 2: Yetkili AGI – Yetenekli yetişkinleri belirli görevlerde eşleştiren yapay zeka sistemleri
• Seviye 3: Uzman AGI – Yetenekli yetişkinlerin yüzde 90'ında yapay zeka sistemleri
• Seviye 4: Virtuoso AGI – 99. yüzdelik dilimde yapay zeka sistemleri
• Seviye 5: İnsanüstü AGI – Tüm insanlardan daha iyi performans gösteren yapay zeka sistemleri

Kaynak

Tartışmamız sırasında Adam, YGZ kavramını "bir insanın yapabileceği her şeyi yapabilen yazılım" olarak tanımladı. Yapay zekanın kendisini geliştireceği ve sonunda makine öğrenimi araştırmacılarının üstlendiği karmaşık insan görevlerini üstleneceği bir gelecek tasavvur ediyor.

Bunu bir adım öteye taşıyarak, AGI hakkındaki görüşlerimi, "makine çevirisi, karmaşık sorgular ve kodlama" gibi çeşitli görevleri yerine getirebilen bir "yapay beyin" ile karşılaştırdım. Bu, AGI ile daha öngörücü yapay zeka ve ondan önce gelen dar kapsamlı makine öğrenimi biçimleri arasındaki farktır. Ortaya çıkan bir davranış gibi görünüyor.

AGI'ye Giden Yolda Gerçekçi Geliştirme Zaman Çizelgeleri

Tıpkı bir yolculukta olduğu gibi, AGI ile ilgili akla gelen en önemli soru "Henüz orada mıyız?" Kısa cevap hayır, ancak yapay zeka araştırmaları hızlandıkça sorulması gereken doğru soru şudur: "YGZ'yi nasıl dengeleyebiliriz?" hırs 'da gerçekçi beklentiler? "

Adam, Yapay Zeka (AGI) ile artan otomasyonun, insan rollerini ortadan kaldırmak yerine değiştireceğini, bunun da daha hızlı ekonomik büyümeye ve daha verimli bir üretkenliğe yol açacağını vurguladı. "Bu teknoloji güçlendikçe, insanların bugün yaptığı şeylerin %90'ının otomatikleştirildiği, ancak herkesin başka şeylere yöneldiği bir noktaya geleceğiz."

Şu anda dünya ekonomisinin büyük bir kısmı çalışabilecek insan sayısıyla sınırlanıyor. YGZ'ye ulaştığımızda ekonomiyi bugün mümkün olandan çok daha hızlı bir şekilde büyütebiliriz.

Gerçek AGI'nin ne zaman hayata geçirileceğine dair kesin bir zaman çizelgesi veremiyoruz, ancak Adam ve ben, yapay zeka ilerlemelerinin gelecekteki AGI ilerlemelerine yol açtığına dair birkaç örnek verdik. Örneğin, Turing'in yapay zeka geliştirici araçlarıyla yaptığı deneyler, geliştirici verimliliğinde %33'lük bir artış göstererek daha da büyük bir potansiyele işaret etti.

Gerçek Dünya Uygulamaları ve Etkileri

AGI'nin en umut verici uygulamalarından biri yazılım geliştirme alanında yatmaktadır. Büyük dil modelleri Yapay Zeka (AGI)'nin öncüsü olan LLM'ler, yazılım geliştirmeyi geliştirmek ve kod kalitesini iyileştirmek için halihazırda kullanılıyor. Bu yapay zeka çağını, her türlü bilgi işinin gelişeceği fizikten ziyade biyolojiye daha yakın görüyorum. İnsanlık için ve insanlıktan çok daha fazla üretkenlik açığa çıkacak.

Benim bakış açım, yüksek lisans ve yapay zeka geliştirici araçlarını kullanırken kişisel verimliliğin 10 kat arttığına tanık olduğum deneyimimden geliyor. Ayrıca Turing'de teknik yetenekleri değerlendirmek ve doğru yazılım mühendislerini ve doktora düzeyindeki alan uzmanlarını doğru işlerle eşleştirmek için yapay zekayı kullanıyoruz.

Örneğin, LLM eğitim alanında gördüğüm şey, eğitmenlerin geliştirici üretkenliğini artırmak ve proje zaman çizelgelerini hızlandırmak için bu modellerden yararlandığıdır. LLM'ler, rutin kodlama görevlerini otomatikleştirerek ve akıllı kod önerileri sağlayarak, geliştiricilere işlerinin daha stratejik ve yaratıcı yönlerine odaklanma olanağı tanır.

Adam, "LLM'ler tüm kodu yazmayacak, ancak yazılım temellerini anlamak hayati önem taşıyor. Hesap makineleri aritmetik öğrenme ihtiyacını ortadan kaldırmadı." diyerek sözlerini tamamladı. "Geliştiriciler bu modelleri kullandıklarında daha değerli hale geliyorlar. LLM'lerin varlığı, geliştirici işleri için olumlu bir gelişme ve geliştiriciler için birçok kazanım olacak." diye ekledi.

Yazılım geliştirmenin altın çağına giriyoruz; bir yazılım mühendisi 10 kat daha üretken olabiliyor, daha fazla şey yaratabiliyor ve dünyaya fayda sağlayabiliyor.

Teknik ve Yönetişim Zorlukları

YGZ'nin umut verici potansiyeline rağmen, zorlukların ele alınması gerekiyor. YGZ inovasyonunu kamu güvenliğiyle dengelemek için sağlam değerlendirme süreçleri ve düzenleyici çerçeveler gereklidir.

Adam, en kötü senaryoları sınırlamak için kapsamlı test ve deneme ortamına ihtiyaç duyulduğunu vurguladı. "Bir tür sağlam değerlendirme sürecine sahip olmak ve test ettiğiniz dağıtımın gerçek dünya kullanımına mümkün olduğunca yakın olmasını sağlamak istersiniz."

Ve katılıyorum. YGZ ilerlemesinin önündeki darboğaz artık bilgi işlem gücü veya verilerden ziyade insan zekasıdır. Yapay zeka modellerinde ince ayar yapmak ve kişiselleştirmek için insan uzmanlığı çok önemlidir; bu nedenle Turing, modelleri insan zekasıyla dengelemek için üst düzey teknoloji profesyonellerini kaynak bulmaya ve eşleştirmeye odaklanıyor.

Süreçler, genellik, performans ve potansiyel yerine yeteneklere odaklanarak YGZ zorluklarını doğrudan ele almalıyız.

Zorluklara İlişkin Perspektifler: İnsan-YGZ Etkileşimlerini İyileştirme

YGZ zorluklarının üstesinden gelmeye yönelik en iyi uygulamalardan bazıları şunlardır:

• Süreçler veya "bunu nasıl yaptığı" yerine yeteneklere veya "YGZ'nin ne yapabileceğine" odaklanın.
• AGI'nin temel bileşenleri olarak genellik ve performansı dengeleyin.
• Fiziksel görevler/çıktılar yerine bilişsel/metabilişsel görevlere ve öğrenme yeteneklerine odaklanın.
• AGI'yi potansiyeline ve yeteneklerine göre ölçün.
• Kriterleri insanların değer verdiği gerçek dünya görevleriyle uyumlu hale getirerek ekolojik geçerliliğe odaklanın.
• AGI'ye giden yolun tek bir son nokta olmadığını, yinelenen bir süreç olduğunu unutmayın.

Bu en iyi uygulamalara ek olarak Adam ve ben insan-YGZ etkileşimlerini geliştirmenin önemini vurguladık. Adam, bu modellerin nasıl ve ne zaman kullanılacağını öğrenmenin değerini vurguladı ve bunları programlamanın herhangi bir alt alanını hızlı bir şekilde öğretebilecek güçlü öğrenme araçları olarak görürken temelleri anlamanın önemini vurguladı.

Benzer şekilde, her insanı yüksek lisans eğitimlerinin güçlü bir kullanıcısı haline getirmenin, çeşitli alanlarda üretkenliği ve anlayışı önemli ölçüde artırabileceğini öne sürüyorum. Yüksek Lisans'lar karmaşık bilgileri herkes için erişilebilir hale getirerek çeşitli alanlarda üretkenliği artırabilir. Ancak bu, aşamalı, yinelenen bir yaklaşım gerektiriyor: Yapay zeka yardımcı pilotlarının insanlara yardım etmesiyle başlıyor, daha sonra insan gözetimindeki aracılara geçiyor ve sonunda iyi değerlendirilmiş görevlerde tamamen özerk aracılara ulaşıyor.

Bununla birlikte, denetimli ince ayarı (SFT) içeren ve özel modeller oluşturmak için insan zekasından yararlanan eğitim sonrası farklılaşma kritik öneme sahiptir. Eğitmenleri, mühendisleri ve diğerlerini kaynaklayabilen ve eşleştirebilen şirketler, ince ayar ve özel mühendislik yeteneklerini hızlandıracak. OpenAI ve Anthropic gibi önde gelen şirketlerle işbirliği yapmak da bu modellerin çeşitli endüstrilerde uygulanmasının anahtarıdır.

Sorumlu YGZ Geliştirmenin İlkeleri

“AGI geliştirme, güvenliği ve şeffaflığı sağlarken aynı zamanda inovasyonu teşvik ederek sorumlu ve etik olmalıdır.” – Adam D'Angelo

YGZ'nin sorumlu gelişimi, çeşitli temel ilkelere bağlı kalmayı gerektirir:

• Emniyet ve Güvenlik: Özellikle modeller yeni veri girişlerine veya algoritmalara uyum sağlayacak şekilde ölçeklendiğinde, AGI sistemlerinin güvenilir ve kötüye kullanıma karşı dayanıklı olmasını sağlamak.
• Şeffaflık: AGI'nin yetenekleri, sınırlamaları ve “nasıl çalıştığı” konusunda gerçekçi olmak.
• Etik Hususlar: Adillik, önyargı ve YGZ'nin istihdamı ve diğer sosyoekonomik faktörleri nasıl etkileyeceği ile mücadele etmek.
• Düzenleme: İlerlemeyi kamu güvenliğiyle dengeleyen çerçeveler geliştirmek için hükümetler ve diğer kuruluşlarla birlikte çalışmak.
• Kıyaslama: Gelecekteki kıyaslamaların, YGZ davranışını ve yeteneklerini etik hususlara ve sınıflandırma düzeylerine göre ölçmesi gerekir.

Sonuç: Tek bir uç noktaya değil, AGI'ye giden yola odaklanın

AGI'ye giden yol karmaşıktır ancak yol boyunca her durak yolculuk için önemlidir. AGI'nin yinelenen iyileştirmelerini ve sonuçlarını anlayarak insanlar ve işletmeler bu gelişen teknolojiyi sorumlu bir şekilde benimseyebilecektir. Bu, gerçek dünya etkileşiminin bu yeni sınırda nasıl ilerleyeceğimizi bilgilendirdiği sorumlu YGZ gelişiminin temel noktasıdır.