Savunma Bakanlığı’nın AI Kullanımına İlişkin Sınırlar Konusunda Teknoloji Danışma Grubu

Savunma Bakanlığı, yapay zeka yatırımlarına ilişkin niyetini açıkça belirtmiştir ve AI’nin ABD askeri gücünü daha güçlü ve ulusal güvenlik tehditlerine karşı daha dayanıklı hale getireceğini belirtmiştir. Engadget’in raporuna göre, bu hafta perşembe günü Savunma İnovasyon Kurulu, askeri alanda AI kullanımına ilişkin bir dizi önerilen etik rehberlik ileri sürdü. Önerilerin listesi, istenmeyen önyargıları önleme ve yönetilebilir AI stratejilerini içerir ve bu AI’lerin acil durdurma prosedürlerine sahip olmasını sağlar, böylece AI’nin gereksiz zarar vermesini önler.

Wired raporuna göre, Savunma İnovasyon Kurulu, Obama Yönetimi tarafından Pentagon’un teknoloji endüstrisi deneyimini ve yeteneğini edinmesine rehberlik etmek amacıyla kuruldu. Kurul şu anda eski Google (GOOGL ) CEO’su Eric Schmidt tarafından yönetiliyor. Departman, yakın zamanda askeri projelerde AI’nin etik uygulamasına ilişkin rehberlik oluşturma görevini üstlendi. Perşembe günü kurul, önerilerini ve tavsiyelerini inceleme amacıyla yayınladı. Rapor, askeri bağlamda AI kullanımına ilişkin ciddi tartışmaların zamanının şimdi olduğunu, yoksa ciddi bir olayın böyle bir tartışma gerektireceğini belirtiyor.

Yapay Zeka Haberlerine göre, bir eski askeri yetkili yakın zamanda Pentagon’un AI kullanımında geri kaldığını belirtti. Pentagon, bu farkı kapatmaya çalışıyor ve askeri alanda AI’nin geliştirilmesini ve genişletilmesini ulusal bir öncelik olarak ilan etti. AI etikçileri, Pentagon’un AI lideri olma acelesinde, AI sistemlerinin etik dışı yollarda kullanılabileceğinden endişe ediyor. Bağımsız AI etik kurullarının kendi önerilerini sunmasına rağmen, Savunma İnovasyon Kurulu, askeri AI sistemlerinin geliştirilmesinde ve uygulanmasında askeri güçlerin her zaman uyması gereken en az beş ilkeyi önerdi.

Kurul tarafından önerilen ilk ilke, askeri bağlamda kullanılan herhangi bir yapay zeka platformunun kullanımından, dağıtılmasından ve sonuçlarından her zaman insanların sorumlu olmasını gerektirir. Bu, 2012 yılında yayınlanan ve insanların ölümcül güç kullanımına ilişkin karar süreçlerinde her zaman yer alması gerektiğini belirten bir politika ile benzerlik gösteriyor. Listede, AI sistemlerinin her zaman bunları iyi belgeleyen mühendisler tarafından inşa edilmesini sağlayan ve askeri AI sistemlerinin her zaman güvenilirlik açısından test edilmesini öneren diğer ilkeler de yer alıyor. Bu rehberliklerin ortak sentido olduğu düşünülse de, kurul bunların önemini vurgulamak istiyor.

Listenin diğer ilkeleri, AI algoritmaları için önyargı kontrolü ve AI’lerin istenmeyen zarara neden olabileceğini tespit etme ve otomatik olarak devre dışı bırakma yeteneği ile ilgilidir. Rehberlik, gereksiz zarar oluşması durumunda AI’nin kendini devre dışı bırakabileceğini ve bir insan operatörün devralabileceğini belirtir. İlkelerin taslağı, AI’lerin çıktısının izlenebilir olmasını da önerir, böylece analistler AI’nin belirli bir kararı almasına yol açan şeyi görebilir.

Kurul tarafından ileri sürülen öneriler, iki farklı fikir üzerine odaklanır. İlkeler, AI’nin gelecekteki askeri operasyonların ayrılmaz bir parçası olacağını, ancak AI’nin büyük ölçüde insan yönetimi ve karar alma süreçlerine bağlı olduğunu yansıtıyor.

Savunma Bakanlığı’nın kurulun önerilerini benimsemek zorunda olmamasına rağmen, Pentagon’un önerileri ciddiye aldığını görünüyor. Wired’in raporuna göre, Ortak Yapay Zeka Merkezi direktörü General Jack Shanahan, kurulun önerilerinin Savunma Bakanlığı’nın “DoD AI stratejisi kapsamında belirtilen en yüksek etik standartlarını korumaya yardımcı olacağını” ve “ABD askeri gücünün teknoloji yenilikleri için katı test ve sahaya sürme standartlarını uygulama konusundaki güçlü geçmişini benimsemeye” yardımcı olacağını belirtti.

Teknoloji endüstrisi, askeri donanım ve yazılım oluşturmak için AI kullanımına karşı hala temkinli. Microsoft (MSFT ) ve Google çalışanları, askeri kuruluşlarla işbirliği konusunda protesto etmişlerdir ve Google yakın zamanda Project Maven’e katkıda bulunma sözleşmesini yenilemeyeceğini açıklamıştır. Birkaç CEO, bilim insanı ve mühendis de öldürücü otonom silahların geliştirilmesine, üretilmesine, ticaretine veya kullanımına katılmama veya destekleme sözü vermiştir. Eğer Pentagon kurulun önerilerini benimserse, teknoloji endüstrisinin projelere işbirliği yapma isteğini artırabilir, ancak zaman gösterecektir.