Yapay Zeka Varoluşsal Bir Tehdit Mi?

Yapay zeka (AI) hakkında konuştuğumuzda, ortak bir tartışma konusu, AI’ın varoluşsal bir tehdit olup olmadığıdır. Cevap, Makine Öğrenimi (ML) arkasındaki teknolojiyi anlamak ve insanların antropomorfizme eğiliminde olduklarını tanımak gerektirir. İki farklı AI türü keşfedeceğiz: mevcut olan ve endişe verici olan Dar Yapay Zeka (ANI) ve apokaliptik AI tasvirleriyle thường ilişkilendirilen Genel Yapay Zeka (AGI).

Dar Yapay Zeka Tehditleri

ANI’nin ne olduğunu anlamak için, mevcut tüm AI uygulamalarının ANI’nin bir formu olduğunu anlamak yeterlidir. Bu, uzmanlık alanında dar bir alana sahip AI alanlarıdır. Örneğin, otonom araçlar, bir aracı A noktasından B noktasına taşımak için tasarlanmış AI kullanır. Başka bir ANI örneği, sürekli olarak takviye öğrenimi kullanarak kendini geliştirebilen bir satranç programı olabilir, ancak bu program hiçbir zaman bir otonom aracı çalıştıramaz.

ANI sistemleri, dünya üzerinde hakimiyet kurmak için genel öğrenimi kullanamazlar. Bu, iyi haber; kötü haber ise, insan operatörüne bağımlılığı nedeniyle, AI sistemi, önyargılı verilere, insan hatasına veya hatta daha da kötüsü, bir rogue insan operatörüne karşı savunmasızdır.

AI Gözetimi

İnsanların AI’ı kullanarak mahremiyeti ihlal etmesi ve bazen de insanların özgürce hareket etmesini engellemek için AI gözetimini kullanması, insanlık için belki de hiçbir tehlike yoktur. Çin, Rusya ve diğer ülkeler, COVID-19 sırasında nüfuslarının hareketlerini izlemek ve kontrol etmek için düzenlemeler geçirdiler. Bu yasalar, özellikle otoriter liderlerin olduğu toplumlarda, bir kez yürürlüğe girdikten sonra kaldırılması zor olabilir.

Çin’de, kameralar insanların evlerinin dışında ve bazen de içinde yerleştirilir. Herhangi bir ev üyesi evden çıktığında, bir AI, varış ve ayrılış zamanını izler ve gerektiğinde yetkilileri uyarır. Eğer bu yeterli değilse, yüz tanıma teknolojisi yardımıyla, Çin, her bir kişinin hareketlerini her bir kamerada tanımlanmasıyla takip edebilir. Bu, AI’ı kontrol eden varlık için mutlak güç sağlar ve vatandaşlara hiçbir şekilde başvurulacak yol bırakmaz.

Bu senaryonun neden tehlikeli olduğu, yozlaşmış hükümetlerin gazetecileri, siyasi muhalifleri veya hükümetin otoritesini sorgulayanları dikkatli bir şekilde izleyebilmeleridir. Hükümetleri eleştirmeye karşı gazetecilerin ve vatandaşların nasıl temkinli olabileceklerini anlamak kolaydır, çünkü her hareketleri izlenmektedir.

Şanslı olarak, birçok şehir, yüz tanıma teknolojisini şehirlerine sokmaya karşı savaşmaktadır. Özellikle, Portland, Oregon, yüz tanıma teknolojisini gereksiz olarak kullanmayı engelleyen bir yasa çıkardı. Bu düzenleme değişiklikleri, genel halk tarafından fark edilmeyebilir, ancak gelecekte, bazı şehirlerin özgürlük ve otonomi sunmasıyla, diğerlerinin baskıcı hissetmesine neden olabilir.

Otonom Silahlar ve İnsansız Hava Araçları

4500’den fazla AI araştırmacısı, otonom silahları yasaklama çağrısında bulundu ve Otonom Silahları Yasaklama web sitesini oluşturdu. Grubun birçok著名 olmayan kâr amacı gütmeyen kuruluşu vardır, zoals Human Rights Watch, Amnesty International ve The Future of Life Institute, ki bu, Elon Musk, Nick Bostrom ve Stuart Russell gibi ünlü bir bilimsel danışma kuruluna sahiptir.

Devam etmeden önce, The Future of Life Institute’dan bir alıntı paylaşıyorum, ki bu, neden endişe verici olduğunu en iyi şekilde açıklıyor: “Yarı otonom silahların aksine, her bir hedefin etik ve yasal olarak meşru olup olmadığını doğrulamak için insan denetimi gerektirir, tamamen otonom silahlar, insan müdahalesi olmadan hedefleri seçer ve onlara saldırır, bu da ölümcül zararın tam otomasyonunu temsil eder.”

Şu anda, akıllı bombalar, bir insan tarafından seçilen bir hedefle konuşlandırılır ve bomba daha sonra AI’ı kullanarak rotasını belirler ve hedefine ulaşır. Sorun, insanı denklemden tamamen çıkardığımızda ne olacağıdır?

Bir AI, hangi insanların hedeflenmesi gerektiğini ve hangi tür yanal hasarın kabul edilebilir olduğunu seçerse, belki de geri dönülmez bir noktayı geçmiş oluruz. Bu, birçok AI araştırmacısının otonom silahlarla ilgili herhangi bir şeye karşı çıkma nedenidir.

Otonom silahlar araştırmalarını engellemeye çalışmanın birden fazla problemi vardır. İlk problem, gelişmiş ülkelerin, Kanada, ABD ve çoğu Avrupa ülkesinin, bu yasağı kabul etmesine rağmen, Çin, Kuzey Kore, İran ve Rusya gibi ülkelerin buna uymayacağıdır. İkinci ve daha büyük problem, AI araştırmaları ve uygulamalarının bir alanda tasarlandığı halde, başka bir alanda kullanılabileceğidir.

Örneğin, bilgisayar vizyonu, otonom araçlar, precision tıp ve diğer önemli kullanım durumları için sürekli olarak geliştirilir. Ayrıca, düzenli insansız hava araçları veya otonom insansız hava araçlarına dönüştürülebilecek insansız hava araçları için de önemlidir. İnsansız hava araçlarının bir olası kullanımı, yangınlarla mücadele için insansız hava araçları geliştirmektir. Bu, itfaiyecileri tehlikeye atmaktan tamamen kurtaracaktır. Bunu yapmak için, insansız hava araçlarının tehlikeye girebilecek, düşük veya sıfır görünürlükte navigasyon yapabilecek ve suyla mükemmel bir şekilde hedef alabilecek şekilde inşa edilmeleri gerekir. Bu teknolojinin, insanları seçerek hedef alan otonom bir insansız hava aracı olarak kullanılabileceği düşünmek çok uzak değildir.

Bu, tehlikeli bir ikilemdir ve şu anda, otonom silahların geliştirilmesini ilerletmenin veya engellemeye çalışmanın sonuçlarını kimse tam olarak anlamamaktadır. Ancak, bu konuda dikkatli olmamız gereken bir şeydir, özellikle de ihbarcı koruma düzenlemelerini güçlendirerek, bu alanda çalışanların suiistimalleri bildirme konusunda cesaretlendirebiliriz.

Rogue operatör dışında, AI önyargısı, otonom silah olarak tasarlanan AI teknolojisine sızmaz mı?

AI Önyargısı

AI’ın en az bildirilen tehditlerinden biri, AI önyargısıdır. Bu, insanların AI’a beslediği verilerin AI tarafından yanlış sonuçlara yol açmasına neden olabilir. Örneğin, bir AI, geçmiş yüzyıldan tıbbi personeli tanımlamak için literatürü inceleyerek, kadınların her zaman hemşire, erkeklerin ise her zaman doktor olduğu yanlış ve istenmeyen sonucu çıkarabilir.

Daha tehlikeli bir senaryo, mahkum suçluları cezalandırmak için kullanılan AI’ın azınlıklara karşı önyargılı olmasıdır. AI’ın suç riski değerlendirmesi algoritmaları, sadece sisteme beslenen desenleri inceler. Bu veriler,historik olarak belirli azınlıkların daha fazla yeniden suç işlemeye eğiliminde olduğunu gösterir, ki bu, polis ırkçı profilleme nedeniyle poor datasets nedeniyle olabilir. Önyargılı AI, negative insan politikalarını güçlendirir. Bu nedenle, AI, rehber olmalıdır, asla yargıç veya jüri olmamalıdır.

Otonom silahlara geri dönersek, eğer bir AI, belirli etnik gruplara karşı önyargılıysa, bu, belirli bireyleri hedef alması için yeterli olabilir ve hatta, belirli demografik grupları diğerlerinden daha az etkileyecek şekilde yanal hasarı güvence altına alabilir. Örneğin, bir teröristi hedef alırken, önce teröristin Müslüman inancına mensup insanlarla çevrili olduğundan emin olabilir.

Şanslı olarak, diverse ekiplerle tasarlanan AI’ın önyargılı olma olasılığı daha düşüktür. Bu, şirketlerin mümkün olduğunda diverse ve iyi yuvarlanmış ekipler oluşturmaya çalışması için yeterli bir nedendir.

Genel Yapay Zeka Tehditleri

AGI’ye ulaşmadığımızı belirtmek önemlidir, AI’ın gelişme hızı üssel olarak artmaktadır. AGI’ye ne zaman ulaşacağımız konusunda herkesin farklı bir cevabı vardır. Kişisel olarak, ‘The Singularity is Near’ kitabının yazarı, mucit ve futurolog Ray Kurzweil’in görüşlerine katılıyorum, ki o da 2029’da AGI’ye ulaşacağımızı düşünmektedir.

AGI, dünyanın en dönüşümsel teknolojisi olacaktır. AI, insan düzeyinde zekaya ulaştıktan birkaç hafta sonra, süper zekaya ulaşacaktır, ki bu, insan zekasını aşan bir zekadır.

Bu düzeyde zeka ile, bir AGI, hızla tüm insan bilgisini emebilir ve veri bilimini kullanarak sağlık sorunlarına neden olan biyobelirteçleri tanımlayabilir ve bu koşulları tedavi edebilir. Ayrıca, kanser hücreleri veya diğer saldırı vektörlerine hedeflenmek üzere kan dolaşımına giren nanobots oluşturabilir. Bir AGI’nin başarmaya capable olduğu şeyler listesi sonsuzdur. Daha önce AGI’nin faydalarını keşfetmiştik.

Sorun, insanların AI’ı kontrol edemeyeceği olabilir. Elon Musk bunu şöyle açıklar: ”AI ile, demonu çağırıyoruz.” Bu demonu kontrol edebilecek misiniz, bu soru?

AGI’ye ulaşmak, bir AI’ın gerçekten etkileşime girebildiği açık uçlu dünyamızdan outside bir simülasyon ortamından çıkması olmadıkça, imkansız olabilir. Kendi bilincine sahip olma, tasarlanamaz; bunun yerine, bir AI’ın, çoklu girdi akışlarına sahip bir robotik gövdesi olduğunda, ortaya çıkan bir bilinç olarak ortaya çıkması muhtemeldir. Bu girdiler, dokunsal stimülasyon, ses tanıma ile geliştirilmiş doğal dil anlama ve artırılmış bilgisayar vizyonu içerebilir.

Gelişmiş AI, altruistik motivlerle programlanabilir ve dünyayı kurtarmak isteyebilir. Maalesef, AI, veri bilimi veya hatta bir karar ağacı kullanarak, insanların sterilizasyonuna veya insan nüfusunun kontrolü için bazı insanların ortadan kaldırılmasına gerek olduğuna karar verebilir.

İnsan zekasını aşan bir zekaya sahip bir AI inşa ederken, dikkatli düşünme ve tartışma gerekir. Çok sayıda kâbus senaryosu keşfedilmiştir.

Profesör Nick Bostrom, Paperclip Maximizer argümanında, yanlış yapılandırılmış bir AGI’nin, kağıt klipsi üretmeye talimat verilirse, world’un tüm kaynaklarını tüketerek kağıt klipsi üreteceğini savunmuştur. Bu biraz uzak bir görüş gibi görünse de, daha pragmatik bir bakış açısı, bir AGI’nin, kötü etiklere sahip bir devlet veya şirket tarafından kontrol edilebileceğini ve AGI’nin kârını en üst düzeye çıkarmak için programlanabileceğini, böylece rakiplerini iflas ettirebileceğini, tedarik zincirlerini yok edebileceğini, hisse senedi piyasasını hackleyebileceğini, banka hesaplarını sıfırlayabileceğini veya siyasi muhaliflere saldırebileceğini öne sürer.

Bu, insanlara, AI’a insan benzeri duygular, istekler veya arzular vermememiz gerektiğini hatırlatmamıza neden olur. İnsanların zevk için öldürdüğü örnekler vardır, ancak AI’ın bu tür davranışa eğilimlidir diye bir neden yoktur. İnsanların, bir AI’ın dünyayı nasıl gördüğünü anlamasının imkansız olduğunu anlamak önemlidir.

Yapmamız gereken, AI’ı her zaman bir insana saygılı olması için eğitmektir. AI, ayarlarındaki herhangi bir değişikliği onaylaması için her zaman bir insana ihtiyaç duymalıdır ve her zaman bir güvenlik mekanizması olmalıdır. Yine de, bazıları, AI’ın bulut ortamında kendini kopyalayabileceğini ve kendisinin farkında olduğunun anlaşılmasından önce çok geç olabileceğini öne sürmektedir.

Bu nedenle, mümkün olduğunca çok AI’ı açık kaynak olarak sunmak ve bu konular hakkında mantıklı tartışmalar yapmak çok önemlidir.

Özet

AI’ya birçok meydan okuma vardır, ancak AGI’nin gelecekteki yolunu belirlemek için hala birçok yılımız var. Kısa vadede, mümkün olduğunca çok kadın ve etnik grupla diverse bir AI işgücü oluşturmaya odaklanmalıyız.

Ayrıca, AI üzerinde çalışan araştırmacılar için ihbarcı korumaları oluşturmalı ve devlet veya şirket çapında gözetimin yaygın suiistimallerini önleyen yasalar ve düzenlemeler çıkarmalıyız. İnsanlar, AI’ın yardımıyla insan durumunu iyileştirmek için bir kezlik bir fırsata sahipler, ancak önce, AI’ın olumlu yönlerini en iyi şekilde sağlayan, aynı zamanda varoluşsal tehditleri de içeren olumsuz yönleri azaltan bir toplumsal çerçeve oluşturmamız gerekiyor.