Araştırmacılar, İnsanların Süper Akıllı Yapay Zekayı Kontrol Edemeyeceğini Söyledi

Yapay zekanın (AI) farkında olan herhangi biri, muhtemelen onun sonunda insan kontrolünden kurtulduğuna dair bir versiyon duymuştur. Bu sadece Bilim Kurgu filmlerinden bir tema değil, aynı zamanda sektörde birçok uzmanı ilgilendiren çok güçlü bir olasılık. Bilim adamları da dahil olmak üzere bu uzmanların çoğu, bu olasılığa hazırlanmaya başladığımızı ve mümkün olan her şekilde ondan kaçındığımızı savunuyor. 

Şimdi, uluslararası bir araştırma ekibi bu fikri aldı ve teorik hesaplamalarla destekledi. Max Planck İnsani Gelişme Enstitüsü'ndeki İnsan ve Makine Merkezi'nden bilim adamlarını içeren ekip, bu hesaplamaları süper zeki bir yapay zekayı kontrol etmenin nasıl mümkün olmayacağını göstermek için kullandı. 

Araştırma, geçtiğimiz günlerde dergide yayınlandı. Yapay Zeka Araştırmaları Dergisi. 

Süper Akıllı Yapay Zeka Sistemi

Süper zeki bir AI sistemine duyulan korku, böyle bir sistemin insanlardan çok daha üstün olacağı gerçeğiyle ilgilidir. Yalnızca bağımsız olarak öğrenmekle kalmayacak, aynı zamanda mevcut tüm verilere erişebilecek ve bunları son derece hızlı bir şekilde işleyebilecektir. 

Böyle bir olay, süper zeki yapay zekanın çevrimiçi olarak mevcut tüm makineleri sollamasına yol açabilir ve hastalıkları iyileştirmek ve insanlığın karşı karşıya olduğu diğer büyük sorunları çözmek gibi şeyler yapabilir ve yapacak olsa da, işlerin kontrolden çıkma riski de yüksektir. 

Manuel Cebrian, çalışmanın ortak yazarı ve Max Planck İnsani Gelişme Enstitüsü, İnsanlar ve Makineler Merkezi'nde Dijital Seferberlik Grubu Lideri. 

"Dünyayı kontrol eden süper zeki bir makine kulağa bilim kurgu gibi geliyor. Ancak, programcılar bunu nasıl öğrendiklerini tam olarak anlamadan, belirli önemli görevleri bağımsız olarak gerçekleştiren makineler zaten var. Bu nedenle, bunun bir noktada insanlık için kontrol edilemez ve tehlikeli hale gelip gelemeyeceği sorusu ortaya çıkıyor” diyor Cebrian. 

Sistemin Kontrolü

Böyle bir sistemi kontrol etmeye gelince iki büyük düşünce okulu vardır. İlk olarak, insanlar, tüm internet gibi bazı veri kaynaklarına erişimini kısıtlayarak süper zeki bir yapay zekanın yeteneklerini sınırlayabilir. Sistem dış dünya ile temas etmeden de çalışabilir. Bununla birlikte, bununla ilgili sorun, AI'nın potansiyelini büyük ölçüde sınırlayacak olmasıdır.

Sistem, yalnızca insanlığa fayda sağlayacak sonuçların peşinden gitmesine izin verilerek kontrol edilebilir ve bu, etik ilkelerin sisteme programlanmasıyla yapılabilir. 

Çalışma, süper zeki yapay zekanın herhangi bir koşulda insanlara zarar vermesini önleyen teorik bir sınırlama algoritması geliştiren ekibi içeriyordu. Bu, önce yapay zekanın davranışının bir simülasyonunu oluşturarak ve zararlı olabilecek herhangi bir davranışı tespit ederek elde edilebilir. Bu ümit verici teoriye rağmen, mevcut analizler böyle bir algoritmanın geliştirilemeyeceğini göstermektedir. 

Iyad Rahwan, İnsanlar ve Makineler Merkezi Direktörüdür.

"Eğer sorunu teorik bilgisayar biliminin temel kurallarına ayırırsanız, bir yapay zekaya dünyayı yok etmemesini emreden bir algoritmanın yanlışlıkla kendi operasyonlarını durdurabileceği ortaya çıkıyor. Böyle bir durumda, kontrol altına alma algoritmasının hala tehdidi analiz edip etmediğini veya zararlı yapay zekayı kontrol altına almak için durup durmadığını bilemezsiniz. Aslında bu, sınırlama algoritmasını kullanılamaz hale getiriyor" diyor Rahwan.

Diğer bir konu da, uzmanların, çoğunlukla insanlardan daha zeki olacağı gerçeğinden dolayı, süper zeki bir makinenin bu duruma ne zaman ulaştığının farkına bile varmayabilmesidir.