İleri AI Teknolojileri Etik Sorunlar Sunar – Düşünce Liderleri

Alfred Crews, Jr tarafından, BAE Systems Inc.’in İstihbarat ve Güvenlik sektörünün başkan yardımcısı ve baş hukuk danışmanı

Geçen yıl, küresel salgın öncesi, Charleston’daki The Citadel İstihbarat Etik Konferansına katıldım ve ulusal güvenliği korumakla ilgili istihbarat toplama ile ilgili etik konusunu tartıştık. Savunma endüstrisinde, bilgi, hesaplama ve ileri teknolojilerin, özellikle yapay zeka (AI) ve makine öğrenimi (ML) alanlarında, yaygınlaştığını görüyoruz. Ancak, AI’ı istihbarat toplama veya gerçek zamanlı savaş bağlamında kullanmak önemli sorunlar yaratabilir.

AI ile kuantum hesaplama riskler sunar

Sorgulamak, analiz etmek ve bir yol belirlemek zorunda olduğumuz şey, AI’ı kuantum hesaplama yetenekleriyle birlikte savaş zamanı karar alma sürecinde kullanmaktır. Örneğin, Terminator’u hatırlayın? Teknolojiğimiz büyük adımlar atladığında, Skynet’in sunduğu gerçeklik önümüzde duruyor. “Skynet bizi yakalamaya geliyor mu?” diye kendimize sorabiliriz. Birlikte hatırlayalım; AI makineleri, insan tarafından yönlendirilmeden, kendi başlarına düşünme ve karar alma yeteneğine sahipti. Makineler, insanların bir hata olduğunu düşündüğünde, insanlığı yok etmeye çalıştılar. AI’ın büyük potansiyele sahip olduğunu düşünüyorum, ancak kontrol parametrelerine sahip olması gerekiyor, çünkü risk faktörü çok yüksek.

AI’ın etik belirsizlikleri ve felsefi ikilemi

ABD Savunma Bakanlığı’nın (DoD) kendi AI için Etik İlkeleri yayınlamasının nedeni, AI’ın yeni etik belirsizlikler ve riskler yarattığıdır. AI’ı kuantum hesaplama yetenekleriyle birleştirdiğinizde, karar alma yetisi değişir ve kontrolü kaybetme riski artar – bugün gerçekleştirebileceğimizden daha fazla. Kuantum hesaplama, insan beyninin işletim sistemini utandırmaya yetiyor, çünkü süper bilgisayarlar daha hızlı ve daha doğru hesaplamalar yapabiliyor.

Ayrıca, AI ile hesaplama kullanmak, felsefi bir ikilem yaratıyor. Makinelerin kendi iradelerine sahip olmasına izin vereceğimiz noktayı hangi noktada belirleyeceğiz? Makinelerin kendi başlarına düşünmesine izin verilirse, bu, makinelerin kendilerini farkında oldukları anlamına mı geliyor? Farkında olmak, yaşamın bir parçası mı? Toplum olarak, bu durumu tanımlamak için henüz bir yol belirlemedik. Dolayısıyla, makinelerin insan müdahalesi olmadan hareket etmesi, sonuçlar doğurabilir. Bir makine, insan müdahalesini durdurmak için ateş açabilir mi? Makine kendi başına çalışıyorsa, prizi çekip durdurabilir miyiz?

Görüşüme göre, AI’ı savunma amaçlı kullanmak kolaydır. Ancak, saldırı amaçlı kullanmak ne kadar kolay olur? Saldırıda, makineler, savaş alanında anında ateş açma kararları alacaktır. Bir makinenin düşman ateş açması, Cenevre Sözleşmesi ve silahlı çatışma yasalarını ihlal eder mi? Bu alana hızlı bir şekilde girerken, dünya, AI ve kuantum hesaplamanın savaşta kullanılmasının mevcut yasalara uygun olmasını sağlamalıdır.

DoD, otonom sistemlerle AI kullanırken, karar alma sürecinde her zaman bir insan olacağını belirtiyor; bir insan, silahı ateşlemek için son kararı verecektir. Bu, bizim kuralımız, ancak bir düşman, AI yeteneklerine sahip bir makineyle tüm kararları vermesi için başka bir yol mu seçer? O zaman makine, daha hızlı, daha akıllı ve daha doğru olan, üstünlüğe sahip olacaktır.

Yüz tanıma özelliğine sahip bir insansız hava aracı düşünün: İnsansız hava aracı, önceden belirlenmiş bir hedefi teröristle eşleştirdiği için kendi başına ateş açar. Ateş açmaktan kim sorumlu?

AI/ML’de önyargı

Araştırmalar, bir makinenin, insanlardan daha az hata yapabileceğini gösteriyor. Ancak araştırmalar, makine öğreniminde, makineye öğretmekle görevli insan tarafından oluşturulan önyargılar olduğunu da kanıtlıyor. DoD’un AI için Beş Etik İlkesi, mevcut önyargılara atıfta bulunarak, “Bakanlık, AI yeteneklerinde kasıtsız önyargıları en aza indirmek için bilinçli adımlar atacaktır” diyor. Yüz tanıma uygulamalarında, özellikle renkli insanların yanlış pozitif sonuçlarına karşı önyargılar olduğunu kanıtlanmış çalışmalar gösteriyor. AI’ı oluşturan kişi, AI’a karar verme yeteneği kazandırdığında, kendi içinde var olan önyargılardan habersiz olabilir.

Önyargıları nasıl ortadan kaldırabiliriz? AI çıktısı, yalnızca giren verilerin kalitesine bağlıdır. Bu nedenle, kontroller olmalıdır. Giren verilerin kontrolü zorunludur, çünkü AI sonuçlarının geçerliliğini etkileyen budur. Geliştiriciler, önyargıları ortadan kaldırmak için sürekli olarak kodu yeniden yazmak zorunda kalacaktır.

Dünya, teknolojinin en iyi kullanımını tanımlamalıdır

Teknoloji itself iyi veya kötü değildir. Bir ülkenin onu nasıl kullandığı, en iyi niyetleri yanlış yola sokabilir. Teknoloji, insan yaşamını etkileyen yollarda ilerledikçe, dünya, uygun eylemi tanımlamak için birlikte çalışmalıdır. AI uygulamalarında insan faktörünü çıkardığımızda, ateş açmadan önce o duraklama – o ahlaki pusula – da ortadan kalkar; insan, “Bu doğru mu?” diye sorduğu o an ortadan kalkar. Bir makine, insan müdahalesi olmadan eğitilmişse, o duraklama olmaz. Dolayısıyla, gelecekte, dünya bunu kabul edecek mi? Makinelerin savaş kararları almasına izin vermeye ne kadar ileri gidecek?