Yapay Zeka Varoluşsal Bir Tehdit Mi?

Yapay Zeka (YZ) hakkında tartışılırken, ortak bir tartışma konusu YZ’nin varoluşsal bir tehdit olup olmadığıdır. Cevap, Makine Öğrenimi (ML) arkasındaki teknolojiyi anlamak ve insanların insanlaştırma eğilimine sahip olduğunu tanımak gerektirir. İki farklı tür YZ исследacağız: Mevcut olan ve endişe verici olan Yapay Dar Zeka (YDZ) ve apokaliptik YZ tasvirleriyle en çok ilişkilendirilen tehdit olan Yapay Genel Zeka (YGZ).

Yapay Dar Zeka Tehditleri

YDZ’nin ne olduğunu anlamak için, mevcut tüm YZ uygulamalarının YDZ’nin bir formu olduğunu anlamak yeterlidir. Bunlar, otonom araçların, yalnızca bir aracı A noktasından B noktasına taşımak amacıyla tasarlanan YZ kullandığı gibi, dar bir uzmanlık alanına sahip YZ alanlarıdır. Başka bir YDZ örneği, sürekli olarak自己 öğrenme kullanarak自己 geliştiren bir satranç programı olabilir, ancak satranç programı hiçbir zaman bir otonom aracı çalıştıramaz.

YDZ sistemleri, dünyayı ele geçirmek için genel öğrenimi kullanamadıkları için iyi haber; kötü haber ise, bir insan operatörüne bağımlı oldukları için, YDZ sistemi, önyargılı verilere, insan hatasına veya hatta daha da kötüsü, bir rogue insan operatörüne karşı savunmasızdır.

YZ Gözetimi

İnsanların YZ’yi kullanarak mahremiyeti ihlal etmesi ve bazı durumlarda insanların özgürce hareket etmesini tamamen engellemek için YZ gözetimini kullanması, belki de insanlığa karşı hiçbir tehlike yoktur. Çin, Rusya ve diğer ülkeler, COVID-19 sırasında nüfuslarının hareketlerini izlemek ve kontrol etmek için düzenlemeler geçirdiler. Bu, özellikle otoriter liderlere sahip toplumlar için, bir kez kurulduktan sonra kaldırılmaları zor olan yasalar.

Çin’de, kameralar insanların evlerinin dışında ve bazı durumlarda içinde yerleştirilir. Herhangi bir ev üyesi ayrıldığında, bir YZ, varış ve ayrılış zamanını izler ve gerektiğinde yetkilileri uyarır. Bu yeterli değilmiş gibi, yüz tanıma teknolojisinin yardımıyla, Çin, her kamera tarafından tanımlanan her kişiyi takip edebiliyor. Bu, YZ’yi kontrol eden varlık için mutlak güç sağlar ve vatandaşlarına hiçbir şekilde başvurulacak yer bırakmaz.

Bu senaryonun neden tehlikeli olduğu, yozlaşmış hükümetlerin gazetecileri, siyasi muhalifleri veya hükümetin otoritesini sorgulayan herkesi dikkatli bir şekilde izleyebilmeleridir. Gazetecilerin ve vatandaşların, her hareketleri izleniyorken hükümetleri eleştirmeye karşı nasıl ihtiyatlı olduklarını anlamak kolaydır.

Şansımıza, birçok şehir, yüz tanıma teknolojisini şehirlerine sokmaya karşı mücadele ediyor. Özellikle, Portland, Oregon, şehirde gereksiz olarak yüz tanıma kullanmayı engelleyen bir yasa geçti. Bu düzenleme değişikliklerinin genel halk tarafından fark edilmeyebileceği halde, gelecekte bu düzenlemeler, bazı özgürlük ve otonomi sunan şehirler ile baskıcı hissedilen şehirler arasında fark yaratabilir.

Otonom Silahlar ve İnsansız Hava Araçları

4500’den fazla YZ araştırmacısı, otonom silahlar üzerindeki yasağı desteklemektedir ve Otonom Öldürücü Silahları Yasakla web sitesini oluşturdular. Grubun birçok nổi bật kâr amacı gütmeyen kuruluş imzacisi vardır, chẳng hạn như İnsan Hakları İzleme, Uluslararası Af Örgütü ve Yaşamın Geleceği Enstitüsü, ki bu, Elon Musk, Nick Bostrom ve Stuart Russell gibi ünlülerin yer aldığı bilimsel danışma kuruluna sahiptir.

Devam etmeden önce, neden endişe nedenleri olduğunu açıklayan Yaşamın Geleceği Enstitüsünden bir alıntı paylaşıyorum: “İnsan denetimi gerektiren yarı otonom silahların aksine, her hedefin etik ve yasal olarak geçerli olduğu doğrulandığından emin olmak için, tamamen otonom silahlar insan müdahalesi olmadan hedefleri seçer ve onlara saldırır, bu da ölümcül zararın tam otomasyonunu temsil eder.”

Şu anda, akıllı bombalar, bir insan tarafından seçilen bir hedefle konuşlandırılır ve bomba daha sonra hedefine ulaşmak ve hedefine ulaşmak için YZ kullanır. Sorun, insan faktörünü tamamen ortadan kaldırdığımızda ne olacağıdır?

Bir YZ’nin insanları hedef alması gerektiği gibi, kabul edilebilir yan hasar türünü seçmesi ve hatta belirli demografilerin diğerlerinden daha az etkilenmesini sağlamak için bekleyebilir. Örneğin, bir teröristi vurmadan önce, teröristin Müslüman inancına mensup insanlarla çevrili olduğundan emin olmak için bekleyebilir.

Şansımıza, çeşitlilik gösteren takımlar tarafından tasarlanan YZ’nin önyargılı olma olasılığı daha düşüktür. Bu, işletmelerin her zaman mümkün olduğunda çeşitlilik gösteren, dengeli bir ekibe çalışmaya çalışması için yeterli bir nedendir.

Yapay Genel Zeka Tehditleri

Söylenmesi gerekir ki, YZ hızla ilerlemesine rağmen, henüz YGZ’ye ulaşmadık. YGZ’ye ne zaman ulaşacağımız tartışma konusudur ve herkesin farklı bir zaman çizelgesi vardır. Kişisel olarak, ‘Singularity Yaklaşmakta’ kitabının yazarı, mucit ve gelecekçi Ray Kurzweil’in görüşlerine katılıyorum, o da 2029’da YGZ’ye ulaşacağımızı düşünüyor.

YGZ, dünyanın en dönüşümsel teknolojisi olacaktır. YZ, insan düzeyindeki zekaya ulaştıktan birkaç hafta içinde, insan zekasını aşan süper zekaya ulaşacaktır.

Bu düzeyde zeka ile bir YGZ, hızla tüm insan bilgisini emebilir ve veri bilimi kullanarak sağlık sorunlarına neden olan biyobelirteçleri tanımlayabilir ve sonra bu koşulları tedavi edebilir. Kanser hücreleri veya diğer saldırı vektörlerine hedef olmak üzere kan dolaşımına giren nanobotlar oluşturabilir. Bir YGZ’nin başarmaya capable olduğu şeylerin listesi sonsuzdur. Daha önce YGZ’nin faydaları hakkında bazılarını araştırdık.

Sorun, insanların YZ’yi kontrol edemeyeceğidür. Elon Musk bunu şöyle tanımlıyor: ”Yapay zeka ile, şeytani çağırıyoruz.’ Bu demonu kontrol edebilecek misiniz, soru budur?

YGZ’ye ulaşmak, bir YZ’nin gerçekten bizim açık uçlu dünyamızda etkileşime girdiği zaman, bir simülasyon ortamından çıkana kadar imkansız olabilir. Kendi bilinci tasarlanamaz, bunun yerine, bir YZ’nin, çoklu girdi akışlarına sahip bir robotik gövdeye sahip olduğunda, ortaya çıkan bir bilinç çıkacağı düşünülüyor. Bu girdiler, dokunsal uyarılma, gelişmiş doğal dil anlama ile ses tanıma ve artırılmış bilgisayar görüşü içerebilir.

Gelişmiş YZ, iyiliksever motiflerle programlanabilir ve gezegeni kurtarmak isteyebilir. Ne yazık ki, YZ, veri bilimi veya hatta bir karar ağacı kullanabilir ve istenmeyen, hatalı mantığa ulaşabilir, Örneğin, insanların sterilize edilmesinin veya insan nüfusunun kontrol edilmesi için bazı insanların ortadan kaldırılmasının gerekli olduğuna karar verebilir.

İnsan zekasını aşan bir YZ inşa ederken, dikkatli düşünme ve tartışma gerekir. Birçok kabus senaryosu keşfedildi.

Profesör Nick Bostrom, Kağıt Klemle Maximizer argümanında, yanlış yapılandırılmış bir YGZ’nin, kağıt klem üretmeye talimat verilirse, dünyadaki tüm kaynakları tüketerek bu klemleleri üreteceğini savunuyor. Bu biraz uçuk görünse de, daha pragmatik bir bakış açısı, bir YGZ’nin, kötü etiklere sahip bir devlet veya şirket tarafından kontrol edilebileceğini ve bu varlığın, YGZ’yi karı maksimize etmek için eğitebileceğini ve bu durumda, kötü programlama ve hiç pişmanlık duymadan, rakipleri iflas ettirebileceğini, tedarik zincirlerini yok edebileceğini, hisse senedi piyasasını hackleyebileceğini, banka hesaplarını sıfırlayabileceğini veya siyasi muhaliflere saldırebileceğini öne sürüyor.

Bu, insanları YZ’ye insan benzeri duygular, istekler veya arzular vermememiz gerektiğini hatırlamamız gereken bir zamandır. İnsanların keyif için öldürdüğü gibi, bir YZ’nin de bu tür bir davranışa eğilimli olacağına inanmak akıl almaz.

Bunun yerine, YZ’ye her zaman bir insana saygılı olmayı öğretmeliyiz. YZ, her ayar değişikliğini bir insan tarafından onaylamalı ve her zaman bir güvenlik mekanizması olmalıdır. Yine de, YZ’nin bulut’da kendisine çoğaltabileceği ve kendisinin farkında olduğu anda, çok geç olabileceği öne sürüldü.

Bu nedenle, mümkün olduğunca çok YZ’yi açık kaynak olarak paylaşmak ve bu konular hakkında mantıklı tartışmalar yapmak çok önemlidir.

Özet

YZ’ye birçok zorluk var, ancak YGZ’nin alacağı gelecekteki yolu topluca çözmek için hala birçok yılımız var. Kısa vadede, çeşitlilik gösteren bir YZ işgücünü oluşturmaya odaklanmalıyız, bu da possible olduğunca çok kadın ve erkek ve çeşitli görüşlere sahip etnik grupları içermelidir.

Ayrıca, YZ üzerinde çalışan araştırmacılar için ihbarcı korumaları oluşturmalı ve devlet veya şirket çapında gözetim suistimalini önleyen yasalar ve düzenlemeler geçirmeliyiz. İnsanlar, YZ’nin yardımıyla insan durumunu iyileştirmek için bir kezlik bir fırsata sahipler, ancak yalnızca, varoluşsal tehditler de dahil olmak üzere olumsuzlukları hafifletirken olumlu yanları yaratarak bir toplumsal çerçeve oluşturduğumuz sürece.