Araştırmacılar Güvenilirliği Artırmak İçin “DeepTrust” Aracını Geliştirdiler

Yapay zeka (AI) güvenliği ve güvenilirliği, teknolojinin en önemli yönlerinden biridir. Bu, farklı alanlardaki uzmanlar tarafından sürekli olarak geliştirilmekte ve iyileştirilmektedir ve toplumun her alanında AI’nin tam olarak uygulanması için çok önemlidir.

Bu yeni çalışmalardan biri, Güney Kaliforniya Üniversitesi’nden (USC) geliyor. USC Viterbi Mühendislik araştırmacıları, AI algoritmalarının verilerine ve tahminlerine güvenilmesini sağlayan otomatik göstergeler üretebilen bir araç geliştirdiler.

Araştırma, Frontiers in Artificial Intelligence dergisinde yayınlandı ve “Umudun Kaybolmadığı: Sinir Ağlarında Görüş ve Güvenilirliğin nicelendirilmesi” başlığını taşıyor. Makalenin yazarları arasında Mingxi Cheng, Shahin Nazarian ve Paul Bogdan yer alıyor.

Sinir Ağlarının Güvenilirliği

Bu alanda en büyük görevlerden biri, sinir ağlarının güvenilir tahminler üretmesini sağlamaktır. Çoğu durumda, bu, AI’ye dayanan teknolojinin tam olarak benimsenmesini engelleyen bir faktördür.

Örneğin, otonom araçlar, bağımsız olarak hareket etmek ve doğru kararlar vermek zorundadırlar. Hızlı bir şekilde karar vermelidirler ve yoldaki nesneleri tanımlamak ve ayırt etmek zorundadırlar. Bu, özellikle teknolojinin bir hız engeli, başka bir nesne veya canlıyı ayırt etmesi gereken senaryolarda çok önemlidir.

Diğer senaryolarda, otonom araç, karşıdan gelen bir araçla karşılaştığında ne yapacağını karar vermek zorunda kalabilir ve en zor karar, aracın başka bir araç, nesne veya canlıya çarpmak zorunda kalmasıdır.

Bunun anlamı, otonom aracın yazılımının doğru kararı verme yeteneğine aşırı derecede güvendiğimizdir. Karar verme süreci, saniyenin kesirlerinde gerçekleşmelidir. Bu, özellikle farklı sensörlerden gelen çelişkili bilgiler olduğunda daha da zorlaşır, örneğin kamera ve Lidar’dan gelen bilgisayar görüşü.

Baş yazar Minxi Cheng, bu projeyi, “İnsanların bile bazı karar alma senaryolarında kararsız olabileceğini düşündüm. Çelişkili bilgiler olduğunda, makinelerin bize bilmediklerini söyleyememesi neden?” diye düşünerek üstlendi.

DeepTrust

Araştırmacılar tarafından geliştirilen araç, DeepTrust olarak adlandırılmaktadır ve belirsizliği nicelendirebilmektedir. Paul Bogdan, Elektrik ve Bilgisayar Mühendisliği Bölümü’nde yardımcı doçenttir.

Ekibin DeepTrust’i geliştirmesi yaklaşık iki yıl sürdü. Araştırmacılar, öznel mantık kullanarak sinir ağlarını değerlendirdiler. Araç, 2016 başkanlık seçimlerinin anketlerini inceleyerek, Hillary Clinton’ın kazanma payının daha yüksek bir hata payına sahip olabileceğini öngördü.

DeepTrust aracı, ayrıca AI algoritmalarının güvenilirliğini test etmeyi de kolaylaştırıyor. Bu, milyonlarca veri noktasıyla eğitilen algoritmaları bağımsız olarak kontrol ederek yapılabilir, ancak bu çok zaman alan bir işlemdir.

Araştırmacılara göre, bu sinir ağı sistemlerinin mimarisi daha doğru ve güvenilirlik aynı anda maksimize edilebilir.

“Bilgimiz dahilinde, derin öğrenme, yapay zeka ve makine öğrenimi için güven nicelendirme modeli veya aracı yoktur. Bu, ilk yaklaşım ve yeni araştırma yönleri açıyor” diyor Bogdan.

Bogdan, DeepTrust’in AI’yi, “farkında ve uyarlanabilir” olabilecek bir seviyeye taşıyarak ilerlemesine yardımcı olabileceğine de inanmaktadır.