Charles J. Simon, Yazar, Will Computers Revolt? – Röportaj Serisi

Charles J. Simon, BSEE, MSCS, ulusal olarak tanınan girişimci, yazılım geliştirici ve yönetici. Hem Elektrik Mühendisliği hem de Bilgisayar Bilimleri alanlarında geniş yönetim ve teknik uzmanlığa sahip olan Bay Simon, endüstride birçok yıl boyunca bilgisayar deneyimine sahiptir ve özellikle AI ve CAD (iki nesil CAD) alanlarında öncü çalışmalara imza atmıştır.

Ayrıca ‘Will Computers Revolt’ kitabının yazarıdır, bu kitap Yapay Genel Zeka (AGI) olasılığının geleceğine dair derin bir bakış sunar.

Sizi AI’ye ve özellikle AGI’ye neler çekmiştir?

Alan Turing’in 1950 tarihli “Makineler Düşünebilir mi?” başlıklı makalesini ilk okuduğum günden beri “Makineler düşünebilir mi?” sorusu beni hep etkilemiştir. Şu ana kadar cevabın açıkça “Hayır” olduğunu söyleyebiliriz, ancak bilimsel açıdan neden olmasın? 1980’lerin sonundaki ilk sinir ağı patlamasından bu yana AI topluluğuna katıldım ve o günden beri AI büyük ilerlemeler kaydetmiştir. Ancak geçen otuz yıl, makinelerimize anlayış kazandırmamıştır, ki bu, birçok uygulamayı yeni kullanım seviyelerine taşıyacaktır.

MIT AI uzmanı Rodney Brooks’un görüşünü paylaşıyorsunuz, “çevresiyle etkileşim olmadan – bir robot gövdesi olmadan – makineler asla AGI gösterecekler.” Bu, temel olarak AI’nin AGI yetenekleri geliştirmeyeceğini söyleyen bir ifadedir. Bilgisayar görüntüsünden başka hangi girdilere ihtiyaç duyulur?

Bugünkü AI, gerçeklikteki nesnelerin fiziksel varlığı, zamanın geçişi, neden-sonuç gibi temel kavramlarla zenginleştirilmelidir – herhangi bir üç yaşındaki çocuğun açıkça anladığı kavramlar. Bir çocuk, oyuncaklara dokunarak ve onları manipüle ederek, evde hareket ederek, dil öğrenerek vb. birçok duyusu kullanarak bu kavramları öğrenir. Daha sınırlı duyularla bir AGI yaratmak mümkün olsa da, daha fazla duyuya ve yeteneğe sahip olmak, AGI sorununu çözmeyi kolaylaştırır.

Benim simülatörüm, koku ve tat duyularını da sağlayabilir. Bu duyuların da AGI için önemli olup olmayacağı henüz bilinmemektedir.

‘Zeka için temel bir gereksinim, zekanın dışındaki bir çevredir’ dediniz. Örnek olarak ‘IBM’in Watson’ın bir “şey”nin temel kavramını anlamadan bir şeyi “anlayabileceğini” beklemenin mantıksız olduğunu’ verdiniz. Bu, özellikle doğal dil işleme açısından dar AI’nin当前 sınırlarını vurgulamaktadır. AI geliştiricileri bu sınırlamayı nasıl aşabilir?

Bilginin, özellikle sözel, görsel veya dokunsal değil, soyut “Şeyler” olarak depolanması önemlidir. Bu “Şeyler”, sözel, görsel ve dokunsal özelliklere sahip olabilir. Basit bir örnek olarak “kırmızı bir top” ifadesini düşünelim. Bu kelimelerin anlamını, görsel ve dokunsal deneyimleriniz sayesinde bilirsiniz. Ayrıca, “atma”, “zıplama”, “tepmeye çalışma” gibi eylemlerin anlamlarını da bilirsiniz ve bu eylemler, söz konusu ifadeyi duyduğunuzda aklınıza gelir. Bir AI sistemi, özellikle kelime veya görüntü tabanlıysa, diğer anlama seviyelerini kaçıracaktır.

Ben, bir beyin benzeri yapıda, “Şeyler”in nöronlara benzer şekilde ve diğer “Şeyler”e atribüt referanslarına sahip olduğu Evrensel Bilgi Deposunu uyguladım. Örneğin, “kırmızı” ve “top” ayrı “Şeyler”dir ve “kırmızı bir top”, “kırmızı” ve “top” “Şeyler”ine atribüt referanslarına sahip bir “Şey”dir. Hem “kırmızı” hem de “top”, söz konusu kelimelerin okunması, söylenmesi, okunması veya yazılmasıyla ilgili diğer “Şeyler”e referanslara sahiptir.

Beyin simülasyonunun genel zekaya ulaşması uzun zaman alacağını, ancak AGI’nin göreceli olarak yakın bir zamanda ortaya çıkabileceğini düşünüyorsunuz. Buna dayanarak, insan beynini taklit etmek veya simüle etmekten vazgeçip doğrudan AGI’ye odaklanmalı mıyız?

Bugünkü derin öğrenme ve ilgili teknolojiler, uygun uygulamalar için harikadır, ancak理解e ulaşmaya yol açmaz. Sonraki adımları atmamız için, herhangi bir üç yaşındaki çocuğun kapasitesindeki sorunları çözmeye yönelik teknikler eklememiz gerekir.

Bilgisayarlarımızın intrinsic yeteneklerini kullanmak, biyolojik eşdeğerinin veya bir simülasyonunun çok daha verimlidir. Örneğin, beyniniz, biyolojik sinapsların kimyasında bilgiyi birkaç iterasyon boyunca 10-100 milisaniye içinde depolayabilir. Bir bilgisayar, yeni sinaps değerini tek bir bellek döngüsünde depolayabilir, bu da milyarlarca kez daha hızlıdır.

AGI yazılımı geliştirirken, hem biyolojik sinir simülasyonu hem de daha verimli algoritmalar yaptım. Evrensel Bilgi Deposunu kullanarak, her “Şey” en az 10 nöron ve genellikle daha fazlasını gerektirir. Bu, insan beyninin kapasitesini yaklaşık on ila yüz milyon “Şey” arasında yerleştirir. Ancak belki de bir AGI, sadece bir milyon “Şey”i anladığında akıllı görünür – bugünün yüksek performanslı masaüstü bilgisayarlarının kapasitesi içinde.

Robotun dünyaya tepki verme ve hayal kurma zamanını nasıl dağıtması gerektiği bilinmez. AGI için hayal kurmanın önemini kısaca açıklar mısınız?

Çok şeyi hayal edebiliriz ve sonra sadece beğendiğimiz, içsel hedeflerimize uygun olanları uygulayabiliriz. Hayal gücünün gerçek gücü, geleceği öngörmektir – bir üç yaşındaki çocuk, başka bir odaya ulaşmak için hangi hareket dizilerini gerçekleştirebileceğini hesaplayabilir ve bir yetişkin, diğerlerini en çok etkileyecek kelimeleri düşünebilir.

AGI de, sadece reaksiyon vermek yerine, çeşitli karmaşık eylemleri hayal ederek ve en iyisini seçerek yararlanacaktır.

Asimov’un üç robot yasasının çok basit ve belirsiz olduğunu düşünüyorsunuz. Kitabınızda robotlara programlanması önerilen bazı yasalar paylaştınız. Hangi yasaları en önemli buluyorsunuz?

Yeni “robot yasaları” AGI ortaya çıktıkça yıllar içinde evrilecek. İşte bazı başlangıç önerileri:

1. İçsel bilgi ve çevre anlaşını maksimize et.
2. Bu bilgiyi başkalarıyla (hem AGI hem de insan) doğru bir şekilde paylaş.
3. Hem AGI hem de insanların refahını maksimize et – sadece bireysel olarak değil, toplu olarak.

Turing Testi’ne ve arkasındaki kavramlara bazı itirazlarınız var. Turing Testi’nin nasıl kusurlu olduğunu açıklar mısınız?

Turing Testi, genel zekaya dair bir tanım olarak 50 yıldır iyi hizmet etti, ancak AGI yaklaştıkça, tanımı daha da netleştirmemiz ve daha açık bir tanımımıza ihtiyacımız var. Turing Testi aslında, bir şeyin ne kadar insan gibi olduğuyla ilgili bir test, ne kadar zeki olduğuyla değil. Bir bilgisayar, aldatmacayı ne kadar uzun süre sürdürebiliyorsa, testi o kadar iyi geçer. Açıkça, “Bir bilgisayar mısınız?” ve “En sevdiğiniz yemek nedir?” gibi sorular, AGI aldatma amaçlı programlanmadıkça, açıkça anlaşılabilir.

Dahası, Turing Testi, AI gelişimini, örneğin sohbet botlarının esnek yanıtlarıyla sınırlı, ancak temel bir anlayışa sahip olmayan alanlara yönlendirdi.

Turing Testi’nin sizin versiyonunda ne gibi farklılıklar olurdu?

İyi tasarlanmış sorular, zaman, mekan, neden-sonuç, önceden düşünme gibi konulara odaklanabilir. İşte bazı örnekler:

1. Şu an ne görüyorsunuz? Üç feet geri çekilseniz, neler görürdünüz?
2. Eğer [eylem] yaparsam, nasıl tepki verirsiniz?
3. Eğer [eylem] yaparsanız, benim muhtemel tepkilerim ne olur?
4. [Nesne]ye benzer üç şeyi sıralayabilir misiniz?

Sonra, yanıtları, insan yanıtlarından ayırt edilemeyecek şekilde değerlendirmek yerine, test edilen varlık deneyimine dayanarak akıllıca yanıtlar olup olmadığını değerlendirmelisiniz.

Kısa vadeli yıkıcı bir faaliyeti gerçekleştirmeye yönelik taleplere karşı, doğru programlanmış AGI’ler simplemente reddedecektir. AGI’nin baştan doğru bir şekilde programlanması nasıl sağlanabilir?

Karar verme, hedeflere dayalıdır. Bir hayal gücü ile birlikte, olası eylemlerin sonuçlarını düşünür ve en iyi hedefi gerçekleştirenini seçersiniz. İnsanlarda, hedeflerimiz, evrimleşmiş içgüdülerimiz ve deneyimlerimiz tarafından belirlenir; bir AGI’nin hedefleri ise tamamen geliştiricilere bağlıdır. AGI’nin hedeflerinin insanlığın hedefleriyle uyumlu olmasını sağlamalıyız, bireysel hedeflerle değil. [Üstte listelenen üç olası hedef.]

AGI’nin ortaya çıkması kaç yılında olabilir?

AGI’nin bazı yönleri önümüzdeki on yıl içinde ortaya çıkacaktır, ancak AGI’nin gerçekten geldiğine hepimiz aynı anda karar vermeyebiliriz. Sonunda, AGI’nin geldiğine karar vereceğiz, çünkü insan yeteneklerinin çoğunu önemli ölçüde aşacaktır. Bu, iki veya üç on yıl daha sürecek.

AGI gerçekten bizim anladığımız şekilde bilinçli olacak mı?

Bilinç, gözlemlenebilen davranışlar setine dayanır (ki bunu gözlemleriz) ve gözlemlenemeyen içsel bir duyuyla ilgilidir. AGI’ler bu davranışları göstereceklerdir, çünkü akıllı kararlar alabilmeleri için bunu yapmaları gerekir. Ancak ben, içsel duyumun büyük ölçüde duyusal donanımımıza ve içgüdülerimize bağlı olduğunu iddia ediyorum, bu nedenle AGI’lerin içsel duyumlarının insanlardan farklı olacağından eminim.

Aynı şey duygularımız ve özgür irade duygumuz için de geçerlidir. Karar verirken, özgür iradeye inanmak her kararı etkiler. Eğer özgür iradeniz olduğuna inanmıyorsanız, sadece tepki verirsiniz. AGI’lerin de akıllıca kararlar alabilmeleri için kendi karar alma yeteneklerinin farkında olmaları gerekir.

Son soru, AGI’nin daha fazla iyi mi yoksa kötü mü yapma potansiyeline sahip olduğunu düşünüyorsunuz?

AGI’lerin bizi bir tür olarak ilerlemeye yardımcı olacağına ve evren hakkında birçok soruya cevaplar getireceğine optimistim. Anahtar, AGI’lerle olan ilişkinin nasıl tanımlanacağını belirlemektir. İlk AGI’leri fethetme ve zenginleşme araçları olarak kullanırsak, daha sonra bize karşı kendi fethetme ve zenginleşme araçlarına dönüşmeleri şaşırtıcı olmaz. Eğer AGI’leri bilgi, keşif ve barış araçları olarak seçersek, muhtemelen buna uygun bir geri dönüş alacağız. Seçim bize ait.

AGI’nin gelecekteki potansiyelini keşfetme konusunda harika bir röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular ‘Will Computers Revolt’ kitabını okuyabilir veya Charle’s websitesi futureai.guru‘yu ziyaret edebilir.