MIT Araştırma Ekibi Adversarial Örneklerine Karşı Dayanıklı AI Ağı Tasarladı

MIT’ten bir araştırma ekibi, AI’lerin yanlış öngörülerde bulunmasına ve yanlış eylemler gerçekleştirmesine neden olabilecek “adversarial” örneklerle başa çıkmalarına yardımcı olmak amacıyla bir derin öğrenme algoritması geliştirdi. MIT ekibi tarafından tasarlanan algoritma, AI sistemlerinin doğruluğunu korumasına ve karıştırıcı veri noktalarıyla karşılaştıklarında hatalar yapmalarını önlemelerine yardımcı olabilir.

AI sistemleri, bir olaya tepki vermek için olayın girdi özelliklerini analiz eder. Bir otonom araçta manevra yapmakla görevli bir AI, aracın kameralarından gelen verileri analiz ederek bu verilere dayanarak ne yapacağına karar verir. Ancak, AI tarafından analiz edilen görüntü verilerinin gerçek dünya’yı doğru bir şekilde temsil etmeyebileceği bir durum olabilir. Kamera sistemindeki bir arıza, bazı pikselleri değiştirebilir ve AI’nin yanlış sonuçlar çıkarmasına neden olabilir.

“Adversarial girdiler”, AI sistemleri için optik illüzyonlara benzer. Bunlar, AI’yi某 şekilde karıştırabilen girdilerdir. Adversarial girdiler, AI’yi hata yapması amacıyla, verilerin belirli bir şekilde sunulmasıyla oluşturulabilir. Örneğin, bir bilgisayar görüşü sistemi için, kedi resimlerinde küçük değişiklikler yaparak AI’nin bu resimleri bilgisayar monitörleri olarak sınıflandırmasına neden olabilir. MIT araştırma ekibi, AI’nin aldığı girdilere karşı bir miktar “kuşku” düzeyini korumasına olanak tanıyan bir algoritma tasarladı.

MIT araştırmacıları, yaklaşımını “Sertifikalı Adversarial Dayanıklılık için Derin Takviye Öğrenimi” veya CARRL olarak adlandırdı. CARRL, bir takviye öğrenme ağı ve geleneksel bir derin sinir ağından oluşur. Takviye öğrenme, bir modeli eğitmek için “ödül” kavramını kullanır ve modelin hedefine yaklaştıkça ödülü artırır. Takviye öğrenme modeli, bir Derin Q-Ağının (DQN) eğitiminde kullanılır. DQN’ler, geleneksel sinir ağlarına benzer, ancak ayrıca girdi değerleriyle bir ödül düzeyini ilişkilendirir.

CARRL, girdi verilerinin çeşitli olası değerlerini modelleyerek çalışır.

Diyelim ki AI, bir görüntüdeki bir noktanın konumunu takip etmeye çalışıyor. AI, bu noktanın konumunun adversarial bir etkiye sahip olabileceğini ve bu noktaya alternatif konumlar olabileceğini düşünür. Ağ, en kötü durumda noktanın konumuna göre karar verir ve bu en kötü durumda en yüksek ödüle sahip eylemi seçer.

Adversarial örneklerine karşı korunmanın geleneksel yöntemi, slightly değiştirilmiş girdi resimlerini AI ağına çalıştırmak ve aynı kararı verip vermediğini kontrol etmektir. Eğer resimdeki değişiklikler kararı önemli ölçüde etkilemiyorsa, ağın adversarial örneklerine karşı dayanıklı olduğu ihtimali yüksektir. Ancak, hızlı kararlar alınması gereken durumlar için bu yöntem uygulanabilir değildir, çünkü bu yöntem zaman alıcı ve hesaplama açısından pahalıdır. Bu nedenle, MIT ekibi, en kötü durum senaryosuna dayanarak karar verebilen bir sinir ağı tasarlamaya çalıştı.

MIT araştırmacıları, algoritmalarını bir Pong oyununda test etti. AI’ye, topun slightly daha aşağıda olduğu örnekler verdiler. Adversarial örneklerinin etkisi arttıkça, geleneksel düzeltme teknikleri başarısız olurken, CARRL daha fazla oyun kazandı. CARRL ayrıca bir çarpışma önleme görevinde test edildi. Görev, iki aracın birbirleriyle çarpışmadan pozisyonlarını değiştirmeye çalıştığı bir sanal ortamda gerçekleşti. Araştırma ekibi, ilk aracın ikinci aracı algılayışını değiştirdi ve CARRL, yüksek belirsizlik koşullarında bile ilk aracı erfolgreich olarak ikinci aracın etrafından yönlendirebildi, ancak bir noktada CARRL çok temkinli hale geldi ve hedefine ulaşamadı.

Her şeye rağmen, MIT Havacılık ve Uzay Mühendisliği Bölümü araştırma görevlisi Michael Everett, bu araştırmanın, robotların öngörülemez durumlarla başa çıkma yetenekleri için önemli sonuçları olabileceğini açıkladı. Everett, “İnsanlar adversarial olabilir, örneğin bir robotun sensörlerini engellemek veya onlarla etkileşime girmek için certain eylemler gerçekleştirebilirler” dedi. “Bir robot, insanların neler yapabileceğini düşünmeli ve bunlardan kaçınmaya çalışmalıdır. Hangi adversarial modellere karşı savunma yapmak istiyoruz? Bunu nasıl yapacağımızı düşünüyoruz.”