Google, Şeffaflığı ve Hata Ayıklamayı Artırmak için Yeni Açıklanabilir AI Programı Oluşturdu

Google最近, kararlarını nasıl aldığını anlamak için bir AI programına nasıl fikir kazandırabileceğini görmek için tasarlanmış bir bulut platformunun oluşturulduğunu açıkladı. The Register’ın raporuna göre, bulut platformu Açıklanabilir AI olarak adlandırılmaktadır ve Google’ (GOOGL ) ın AI açıklanabilirliğine yatırım yapma konusundaki önemli bir girişimini temsil etmektedir.

Sanal sinir ağları, bugün kullanılan çoğu büyük AI sisteminde kullanılır. Büyük AI uygulamalarını çalıştıran sinir ağları çok karmaşık ve büyük olabilir ve bir sistemin karmaşıklığı arttıkça, belirli bir kararın neden alındığını anlamak giderek daha zor hale gelir. Google, beyaz kağıdında açıkladığı gibi, AI sistemleri daha güçlü hale geldikçe, daha karmaşık hale gelir ve bu nedenle hata ayıklamaları daha zor hale gelir. Şeffaflık da kaybolur, bu da önyargılı algoritmaların tanınmasını ve ele alınmasını zorlaştırır.

Karmaşık sistemlerin davranışını yönlendiren nedenlerin bu kadar zor anlaşılması genellikle ciddi sonuçlara yol açar. AI önyargısını mücadele etmekten başka, sahte korelasyonları gerçekten önemli ve ilginç korelasyonlardan ayırmayı da son derece zor hale getirir.

Çok sayıda şirket ve araştırma grubu, AI’nin “kara kutu” sorununu nasıl ele alınacağını ve belirli kararların neden alındığını yeterli şekilde açıklayan bir sistem oluşturmayı keşfediyor. Google’ın Açıklanabilir AI platformu, bu zorluğu ele alma girişimidir. Açıklanabilir AI, üç farklı araçtan oluşur. İlk araç, bir AI tarafından seçilen özelliklerini tanımlayan ve bir öznitelik puanı gösteren bir sistemdir; bu puan, belirli bir özelliğin final kehanette ne kadar etkili olduğunu temsil eder. Google’ın aracın raporunda, yağmur, mevcut sıcaklık, gün ve başlama zamanı gibi değişkenlere dayanarak bir bisiklet sürmesinin ne kadar süreceğini tahmin etmenin bir örneği verilmektedir. Ağ kararı verdikten sonra, hangi özelliklerin kehanette en çok etkili olduğunu gösteren bir geri bildirim verilir.

Görsel veriler için bu araç nasıl geri bildirim sağlar? Bu durumda, araç, kararın alınmasında en çok ağırlıkta olan görüntünün bölümlerini vurgulayan bir örtü üretir.

Araç setindeki bir diğer araç, “Nasıl Olurdu” aracıdır; bu, model performansı üzerindeki olası dalgalanmaları, bireysel özniteliklerin değiştirilmesi durumunda gösterir. Son olarak, son araç, insan inceleyicilere örnek sonuçları düzenli aralıklarla sunmak için ayarlanabilir.

Google’ın AI ve makine öğrenimi baş bilimcisi Dr. Andrew Moore, projenin ilham kaynağını anlattı. Moore, yaklaşık beş yıl önce akademik topluluğun AI kullanımının zararlı yan ürünlerine karşı endişe duymaya başladığını ve Google’ın sistemlerinin yalnızca etik yollarla kullanıldığından emin olmak istediğini açıkladı. Moore, bir bilgisayar görme programını, inşaat işçilerinin kask takıp takmadıklarını uyarlemek için tasarladıklarını, ancak izlemenin fazla ileri giderek insanlıktan çıkabileceğinden endişe ettiklerini söyledi. Moore, Google’ın genel bir yüz tanıma API’sini yayımlamama kararının benzer bir nedeni olduğunu söyledi; şirket, teknolojisini nasıl kullanıldığını kontrol etmek ve yalnızca etik yollarla kullanıldığından emin olmak istiyordu.

Moore ayrıca, AI kararlarının açıklanabilir olmasının neden bu kadar önemli olduğunu vurguladı:

“Eğer güvensiz bir sistem veya topluma önemli bir şey varsa ve modelinizin yanlış yaptığını düşünürseniz, bunu teşhis edebilmelisiniz. Açıklanabilirliğin ne yapabileceğini ve ne yapamayacağını dikkatli bir şekilde açıklamak istiyoruz. Bu, bir panasea değildir.