Yapay Genel Zeka (AGI) Yolculuğuna Birlikte Nasıl Yol Alınır: Dengeleyici Bir Yaklaşım

Yapay genel zeka (AGI) hızla ilerlerken, konuşma felsefi tartışmadan pratik öneme doğru kayıyor ve global işletmeleri ve insan potansiyelini dönüştürme fırsatı sunuyor.

Turing’in AGI Icons etkinlik serisi, AGI çözümlerinin pratik ve sorumlu gelişimini tartışmak için AI yenilikçilerini bir araya getiriyor. 24 Temmuz’da, San Francisco’nun girişimciler ve teknoloji yenilikçileri için özel bir merkez olan SHACK15’te ikinci AGI Icons etkinliğimizi düzenledik. The Information’dan finans köşe yazarı Anita Ramaswamy’nin moderatörlüğünde, Quora CEO’su Adam D’Angelo ile AGI yolculuğu hakkında konuştuğumuz ve geliştirme zaman çizelgesi, gerçek dünya uygulamaları ve sorumlu dağıtım ilkeleri hakkında fikir paylaştığımız bir oturum gerçekleştirdik.

AI’den AGI’ye Yol

AI araştırmalarının “kuzey yıldızı” insan düzeyindeki “zeka” peşinde koşmasıdır. AGI’yi standart AI’dan ayıran, dar işlevsellikten daha geniş ve daha derin bir performans düzeyine doğru ilerlemesidir.

Bu, “AGI’ye yol”dur, burada AI daha otonom sistemlere, gelişmiş akıl yürütme yeteneklerine, artan yeteneklere ve gelişmiş işlevselliğe doğru ilerler. Bu ilerlemeler beş taksonomik düzeyde sıralanır:

• Düzey 0: AI Yok – Hesap makineleri gibi basit araçlar
• Düzey 1: Yeni AGI – Mevcut LLM’ler gibi ChatGPT
• Düzey 2: Yetenekli AGI – Belirli görevlerde yetişkinlerle eşdeğer AI sistemleri
• Düzey 3: Uzman AGI – Yetişkinlerin %90’ının seviyesinde AI sistemleri
• Düzey 4: Virtüöz AGI – Yetişkinlerin %99’unun seviyesinde AI sistemleri
• Düzey 5: Süper İnsan AGI – Tüm insanları aşan AI sistemleri

Kaynak

Konuşmamız sırasında, Adam AGI kavramını “insanların yapabileceği her şeyi yapabilen yazılım” olarak tanımladı. AI’nin kendisini geliştirebileceği, sonunda makine öğrenimi araştırmacıları tarafından ele alınan karmaşık insan görevlerini devralacağı bir gelecek hayal ediyor.

Bunu biraz daha ileri götürerek, AGI’yi “yapay bir beyin” olarak gördüğümü ve bunun çeşitli görevleri gerçekleştirebileceğini, örneğin “makine çevirisi, karmaşık sorgular ve kodlama” gibi görevleri gerçekleştirebileceğini söyledim. Bu, AGI ile daha önce gelen daha öngörülü AI ve dar ML formları arasındaki farktır. Emergent davranış gibi görünüyor.

AGI’ye Giden Yolun Gerçekçi Geliştirme Zaman Çizelgesi

Bir yolculukta olduğu gibi, AGI hakkında akıllara gelen ilk soru “Oradayız mı?”dır. Kısa cevap hayır, ancak AI araştırmaları hızlandıkça, sormamız gereken doğru soru “AGI hırsını gerçekçi beklentilerle nasıl dengeleyebiliriz?”dir.

Adam, AGI’den kaynaklanan artan otomasyonun insan rollerini ortadan kaldırmak yerine değiştireceğini, daha hızlı ekonomik büyüme ve daha verimli üretkenliğe yol açacağını vurguladı. “Bu teknoloji daha güçlü hale geldikçe, insanların bugün yaptığı %90’ın otomasyonla gerçekleştirileceği bir noktaya ulaşacağız, ancak herkes başka şeylere kaymış olacak.”

Şu anda, dünya ekonomisinin büyük bir kısmı mevcut işgücü sayısına bağlı olarak sınırlıdır. AGI’yi başardığımızda, bugünden çok daha hızlı bir oranda ekonomiyi büyütebileceğiz.

Gerçek AGI’nin ne zaman gerçekleşeceğini kesin olarak söyleyemeyiz, ancak Adam ve ben, AI ilerlemelerinin gelecekteki AGI gelişimine yol açabileceği beberapa örneği paylaştık. Örneğin, Turing’in AI geliştirme araçlarındaki deneyleri, geliştirici verimliliğinde %33’lük bir artış gösterdi, bu da daha büyük potansiyeli işaret ediyor.

Gerçek Dünya Uygulamaları ve Etkileri

AGI’nin en umut verici uygulamalarından biri yazılım geliştirme alanındadır. Büyük dil modelleri (LLM’ler), AGI’nin bir öncüsü olarak, zaten yazılım geliştirmeyi iyileştirmek ve kod kalitesini artırmak için kullanılıyor. Bu AI dönemini fizikten çok biyolojiye yakın olarak görüyorum, burada tüm bilgi işleri iyileştirilecek. İnsanlık için çok daha fazla verimlilik açığa çıkacak.

Deneyimlerimden yola çıkarak, LLM’leri ve AI geliştirme araçlarını kullandığımda kişisel verimlilikte 10 kat artış gördüm. Ayrıca, Turing’de teknik yetenekleri değerlendirmek ve doğru yazılım mühendislerini ve alan uzmanlarını doğru işlere eşleştirmek için AI’yi kullanıyoruz.

LLM eğitim alanında gördüğüm şey, eğitmenlerin bu modelleri kullanarak geliştirici verimliliğini artırmak ve proje zamanlarını hızlandırmak için yararlandıklarıdır. Rutin kodlama görevlerini otomatikleştirmek ve akıllı kod önerileri sunmak, geliştiricilerin daha stratejik ve yaratıcı yönlerine odaklanmalarını sağlar.

Adam, “LLM’ler tüm kodu yazmayacak, ancak yazılım temelini anlamak hala çok önemli” dedi. “Hesap makineleri aritmetik öğrenme ihtiyacını ortadan kaldırmadı.” Ayrıca, “Geliştiriciler bu modelleri kullandıklarında daha değerli hale geliyorlar. LLM’lerin varlığı, geliştirici işleri için olumlu bir gelişme ve geliştiriciler için büyük kazanımlar olacak” diye ekledi.

Yazılım geliştirmenin altın çağına giriyoruz, burada bir yazılım mühendisi 10 kat daha üretken olabilir, daha fazla şey yaratabilir ve dünyaya fayda sağlayabilir.

Teknik ve Yönetim Zorlukları

AGI’nin vaat ettiği potansiyelin yanı sıra, zorluklar da ele alınmalıdır. Güvenilir ve kamu güvenliği için AGI sistemleri için güçlü değerlendirme süreçleri ve düzenleyici çerçeveler必要dır.

Adam, en kötü senaryoları sınırlamak için kapsamlı test ve kumanda süreçlerinin必要 olduğunu vurguladı. “Güvenilir bir değerlendirme sürecine sahip olmak istiyorsunuz… ve test ettiğiniz dağıtımların gerçek dünya kullanımına mümkün olduğunca yakın olmasını istiyorsunuz.”

Ben de aynı fikirdeyim. AGI ilerlemesinin current bottleneck’ı artık hesaplama gücü veya veri değil, insan zekasıdır. AI modellerini ince ayarlamak ve özelleştirmek için insan uzmanlığı çok önemlidir, bu nedenle Turing, modelleri insan zekasıyla dengelemek için en iyi teknoloji uzmanlarını bulup eşleştirmeye odaklanıyor.

AGI zorluklarını doğrudan ele almalı ve yeteneklere odaklanmalı, süreçlere değil, genellik ve performansa, ve potansiyele odaklanmalıyız.

Zorluklar Üzerine Perspektifler: İnsan-AGI Etkileşimlerini İyileştirme

AGI zorluklarını ele almak için bazı iyi uygulamalar şunlardır:

• Yeteneklere veya “AGI neler yapabilir?”e odaklanmak, süreçlere veya “nasıl yapar?”a değil.
• Genellik ve performansı AGI’nin temel bileşenleri olarak dengelemek.
• Bilişsel/metabilişsel görevlere ve öğrenme yeteneklerine, fiziksel görevlere/çıkışlara değil, odaklanmak.
• AGI’yi potansiyeli ve yetenekleri ile ölçmek.
• Gerçek dünya görevleri ile uyumlu benchmark’lar oluşturmak.
• AGI yolculuğunun tek bir son nokta değil, bir iteration süreci olduğunu unutmamak.

Bu iyi uygulamalara ek olarak, Adam ve ben, insan-AGI etkileşimlerini iyileştirmenin önemini vurguladık. Adam, bu modelleri nasıl ve ne zaman kullanmayı öğrenmenin değerini vurguladı, bunları güçlü öğrenme araçları olarak görüyor ve programlamanın herhangi bir alt alanını hızlı bir şekilde öğretebiliyor, ancak temel kavramların anlaşılmasının önemini vurguluyor.

Benzer şekilde, her insanı LLM’lerin güçlü bir kullanıcısı haline getirmenin, çeşitli alanlarda verimliliği ve anlayışı önemli ölçüde artırabileceğini öneriyorum. LLM’ler, karmaşık bilgileri herkes için erişilebilir hale getirebilir, böylece çeşitli alanlarda verimliliği artırabilir. Ancak bu, bir aşama aşama, iteratif bir yaklaşım gerektirir: önce AI kaptanlarının insanlara yardım etmesi, sonra insan denetimi altında ajanlar ve sonunda iyi değerlendirilen görevlerde tam otonom ajanlar.

Bununla birlikte, post-eğitim farklılaşması kritiktir ve denetimli ince ayar (SFT) ve insan zekasını kullanarak özel modeller oluşturmayı içerir. Eğitmenleri, mühendisleri ve diğerlerini bulup eşleştirebilen şirketler, ince ayar ve özel mühendislik yeteneklerini hızlandırabilir. OpenAI ve Anthropic gibi önde gelen şirketlerle işbirliği, bu modelleri çeşitli endüstrilere uygulamak için de önemlidir.

Sorumlu AGI Geliştirme İlkeleri

“AGI gelişimi sorumlu ve etik olmalıdır, güvenlik ve şeffaflık sağlar ve yeniliği teşvik eder.” – Adam D’Angelo

Sorumlu AGI gelişimi, beberapa temel ilkeye uymayı gerektirir:

• Güvenlik ve Güvenlik: AGI sistemlerinin güvenilir ve kötüye kullanımına karşı dayanıklı olması, özellikle yeni veri girişleri veya algoritmalarla ölçeklendirilirken.
• Şeffaflık: AGI’nin yetenekleri, sınırlamaları ve “nasıl çalıştığı” hakkında gerçekçi olmak.
• Etik Düşünceler: Adillik, önyargı ve AGI’nin istihdam ve diğer sosyo-ekonomik faktörleri nasıl etkileyeceği gibi konularla uğraşmak.
• Düzenleme: İlerleme ile kamu güvenliği arasında denge sağlamak için hükümetlerle ve diğer organizasyonlarla birlikte çalışmak.
• Benchmark’lar: Gelecek benchmark’lar, AGI davranışını ve yeteneklerini etik düşünceler ve taksonomi düzeyleri ile ölçmelidir.

SONUÇ: AGI’ye Giden Yolun Kendisi, Tek Bir Nokta Değil

AGI’ye giden yol karmaşıktır, ancak yolculuk boyunca her durak önemlidir. AGI’nin iteratif iyileştirmelerini ve bunların etkilerini anladığımızda, insanlar ve işletmeler bu gelişen teknolojiyi sorumlu bir şekilde benimseyebileceklerdir. Bu, sorumlu AGI gelişiminin özüdür, burada gerçek dünya etkileşimleri, bu yeni sınırı nasıl gezdiğimizizi bilgilendirir.