Teknoloji Danışma Grubu, Pentagon’un AI Kullanımına Limitler Getirmesini İstiyor

Pentagon, yapay zeka alanında ağır bir şekilde yatırım yapma niyetini açıkladı ve AI’nin ABD ordusunu olası ulusal güvenlik tehditlerine karşı daha güçlü ve dayanıklı hale getireceğini belirtti. Engadget’in raporuna göre, bu pasado perşembe günü Savunma İnovasyon Kurulu, askeri alanda AI kullanımına ilişkin bir dizi önerilen etik rehberlik ileri sürdü. Önerilerin listesi, istenmeyen yanlılığı önleme stratejilerini ve AI’yi durdurma prosedürlerine sahip yönetilebilir AI’yi içerir.

Wired raporlarına göre, Savunma İnovasyon Kurulu, Pentagon’a teknoloji endüstrisi deneyim ve yeteneği kazandırmak için Obama Yönetimi tarafından oluşturuldu. Kurul şu anda Google’ın eski CEO’su Eric Schmidt tarafından yönetiliyor. Departman, askeri projelerde AI’nin etik uygulanması için rehberlik oluşturma görevi ile最近 görevlendirildi. Perşembe günü kurul, rehberlik ve önerilerini inceleme için çıkardı. Rapor, askeri bağlamda AI kullanımıyla ilgili ciddi tartışmaların yapılma zamanının şimdi olduğunu, yoksa ciddi bir olayın bunu zorunlu kılacağını belirtiyor.

Yapay Zeka Haberlerine göre, bir eski askeri yetkili yakın zamanda Pentagon’un AI kullanımında geri kaldığını belirtti. Pentagon, bu farkı kapatmaya çalışıyor ve askeri alanda AI’nin geliştirilmesini ve genişletilmesini ulusal bir öncelik olarak ilan etti. AI etik uzmanları, Pentagon’un AI’de lider olma acelesinde, AI sistemlerinin etik dışı yollarda kullanılabileceğinden endişe ediyor. Bağımsız AI etik kurullarının kendi önerilerini yaptığı mentre, Savunma İnovasyon Kurulu, askeri alanda AI sistemleri geliştirirken ve uygularken askeriye tarafından her zaman izlenmesi gereken en az beş ilkeyi önerdi.

Kurul tarafından önerilen ilk ilke, askeri bağlamda kullanılan herhangi bir yapay zeka platformunun kullanımı, dağıtımı ve sonuçlarından her zaman insanların sorumlu olmasını gerektirir. Bu, 2012 yılında ölümcül gücün kullanılabileceği durumlarda insanların karar alma sürecinin bir parçası olmasını zorunlu kılan bir politika ile benzerlik gösteriyor. Listede, AI sistemlerinin her zaman anlaşılması ve belgelerinin eksiksiz bir şekilde hazırlanması gerektiğini belirten mühendisler tarafından inşa edilmesini sağlayan diğer ilkeler de dahil olmak üzere genel tavsiyeler veren diğer ilkeler bulunuyor. Bir başka ilke, askeri AI sistemlerinin her zaman güvenilirlik açısından test edilmesini öneriyor. Bu rehberlikler mantıklı görünse de, kurul bunların önemini vurgulamak istiyor.

Listedeki diğer ilkeler, AI algoritmaları için yanlılığın kontrolü ve AI’lerin istemeden zarar verebileceklerini tespit etme ve otomatik olarak devre dışı bırakma yeteneği ile ilgili. Rehberlik, gereksiz zarar oluşması durumunda AI’nin kendini devre dışı bırakabileceğini ve bir insan operatörün devralabileceğini belirtiyor. İlkeler taslağı, AI’nin çıktısının izlenebilir olmasını da öneriyor, böylece analistler AI’nin belirli bir kararı vermesine neyin yol açtığını görebiliyor.

Kurul tarafından ileri sürülen öneri seti, iki farklı fikri vurguluyor. İlkeler, AI’nin askeri operasyonların geleceğindeintegral olacağı, ancak AI’nin büyük ölçüde insan yönetimi ve karar alma süreçlerine bağlı olacağı gerçeğini yansıtıyor.

Pentagon’un kurulun önerilerini benimsemek zorunda olmamasına rağmen, Pentagon’un önerileri ciddiye aldığını görünüyor. Wired raporuna göre, Ortak Yapay Zeka Merkezi direktörü General Jack Shanahan, kurulun önerilerinin Pentagon’a “DoD AI stratejisinin belirlenen en yüksek etik standartlarını korurken, aynı zamanda ABD ordusunun teknoloji yenilikleri için katı test ve sahaya sürme standartlarını uygulama konusundaki güçlü geçmişini benimsemesine” yardımcı olacağını belirtti.

Teknoloji endüstrisi, askeri donanım ve yazılımların oluşturulmasında AI kullanımına karşı temkinli davranıyor. Microsoft ve Google çalışanları, askeri kurumlarla işbirliği konusunda protesto etti ve Google, Project Maven’de katkıda bulunmasını sağlayan sözleşmeyi yenilemeyeceğini açıkladı. Birkaç CEO, bilim insanı ve mühendis de bir taahhütname imzaladı ve “öldürücü otonom silahların geliştirilmesine, üretilmesine, ticaretine veya kullanımına” katılmama sözü verdi. Pentagon kurulun önerilerini benimserse, teknoloji endüstrisinin projelerde işbirliği yapmasına daha istekli olabileceği görülüyor, ancak zaman gösterecek.