Araştırmacılar Süper Zeki AI Sistemlerinin İnsanların Kontrolünden Kaçabileceğini Söylüyor

Yapay zeka (AI) ile ilgili herhangi bir şey bilen kişi, sonunda insan kontrolünden kaçabileceği konusunda bazı iddialar duymuştur. Bu, sadece bilim kurgu filmlerinden bir tema değil, aynı zamanda birçok uzmanın endişe duyduğu güçlü bir olasılıktır. Bu uzmanların çoğu, bilim insanları dahil, bu olasılığa karşı hazırlanmaya ve mümkün olduğunca kaçınmaya başlamanın必要 olduğunu savunuyorlar.

Şimdi, uluslararası bir araştırma ekibi bu fikri teorik hesaplamalarla destekledi. Max Planck İnsan Gelişimi Enstitüsü’nün İnsanlar ve Makineler Merkezi’nden bilim insanlarını içeren ekip, süper zeki bir AI’yi kontrol etmenin mümkün olmayacağını göstermek için bu hesaplamaları kullandı.

Araştırma yakın zamanda Yapay Zeka Araştırması Dergisi‘nde yayınlandı.

Süper Zeki AI Sistemi

Süper zeki bir AI sisteminden korkulması, böyle bir sistemin insanlardan çok daha üstün olacağı gerçeğiyle ilgilidir. Bağımsız olarak öğrenme yeteneğine sahip olabilecek ve mevcut tüm verilere erişip bunları çok hızlı bir şekilde işleyebilecek.

Bu olay, süper zeki AI’nin mevcut tüm makineleri internette ele geçirmesine yol açabilir ve hastalık gibi büyük sorunları çözebilecek ve insanlığa fayda sağlayabilecek olsa da, kontrolsüz bir şekilde hareket etme riski de çok yüksektir.

Manuel Cebrian çalışmanın ortak yazarı ve İnsanlar ve Makineler Merkezi, Max Planck İnsan Gelişimi Enstitüsü’nün Dijital Mobilizasyon Grubu Lideri.

“Dünya üzerinde kontrolü elinde bulunduran süper zeki bir makine, bilim kurgu gibi görünüyor. Ancak zaten bazı önemli görevleri bağımsız olarak gerçekleştirebilen ve programcıların tam olarak nasıl öğrendiğini anlamadığı makineler var. Bu nedenle, bu makinelerin bir gün kontrol edilemez ve insanlık için tehlikeli hale gelip gelmeyeceği sorusu ortaya çıkıyor,” diyor Cebrian.

Sistemi Kontrol Etmek

Böyle bir sistemi kontrol etmek konusunda iki ana düşünce ekolu vardır. İlk olarak, insanların süper zeki bir AI’nin yeteneklerini, bazı veri kaynaklarına erişimini kısıtlayarak sınırlayabilmesi mümkün olabilir, örneğin tüm internete erişimi engellenerek. Sistem ayrıca dış dünya ile temas etmeden çalışabilir. Ancak, bu, AI’nin potansiyelini büyük ölçüde sınırlayacaktır.

Sistem, yalnızca insanlığa fayda sağlayacak sonuçları takip etmesine izin verilerek kontrol edilebilir ve bu, AI’ye etik ilkeleri programlayarak yapılabilir.

Çalışma, süper zeki AI’nin insanlara herhangi bir durumda zarar vermesini önleyen teorik bir kapsama algoritması geliştirilmesini içeriyordu. Bu, önce AI’nin davranışının bir simülasyonunu oluşturarak ve potentially zararlı davranışları tespit ederek gerçekleştirilebilir. Ancak, vaat edilen bu teoriye rağmen, mevcut analiz böyle bir algoritmanın geliştirilemeyeceğini gösteriyor.

Iyad Rahwan, İnsanlar ve Makineler Merkezi Direktörü.

“Sorunu temel bilgisayar bilimi kurallarına indirgeerseniz, AI’ye dünyayı yok etmemesi talimatı veren bir algoritmanın, aslında kendi işlemlerini durdurabileceği ortaya çıkıyor. Böyle bir şey olursa, kapsama algoritmasının hala tehdidi analiz edip etmediğini veya zararlı AI’yi içerip içermediğini bilemezsiniz. Aslında, bu durum kapsama algoritmasını kullanılmaz hale getirir,” diyor Rahwan.

Diğer bir sorun, uzmanların süper zeki bir makinenin bu duruma ulaştığını fark etmeyebilmesi, çünkü bu makine insanlardan daha zeki olacaktır.