Çeşitli Uzmanlardan Oluşan Bir Takım, Sinir Ağları için Savunma Sistemi Geliştirdi

Michigan Üniversitesi’ndeki mühendisler, biyologlar ve matematikçilerden oluşan çeşitli bir ekip, adaptif bağışıklık sistemine dayalı sinir ağları için bir savunma sistemi geliştirdi. Sistem, çeşitli saldırı türlerine karşı sinir ağlarını savunabilir.

Kötü niyetli gruplar, derin öğrenme algoritmalarının girdisini yanlış yöne yönlendirmek için ayarlayabilir, bu da tanıma, makine görüsü, doğal dil işleme (NLP), dil çevirisi, düşmanlık tespiti ve daha fazlası gibi uygulamalar için büyük bir sorun olabilir.

Dayanıklı Adversarial Bağışıklık İlhamlı Öğrenme Sistemi

Yeni oluşturulan savunma sistemi, Dayanıklı Adversarial Bağışıklık İlhamlı Öğrenme Sistemi olarak adlandırılmaktadır. Çalışma IEEE Access dergisinde yayımlandı.

Alfred Hero, John H. Holland Distinguished University profesörüdür ve çalışmayı ortak liderlik etmektedir.

“RAILS, adaptif bağışıklık sistemine modellenen ilk adversarial öğrenme yaklaşımıdır ve doğuştan bağışıklık sisteminden farklı olarak çalışır” dedi Hero.

Ekibin bulduğu şey, zaten beyinden esinlenen derin sinir ağlarının, memeli bağışıklık sisteminin biyolojik sürecini de taklit edebileceğidir. Bu bağışıklık sistemi, spesifik patojenlere karşı savunma amacıyla tasarlanmış yeni hücreler oluşturur.

İndika Rajapakse, hesaplamalı tıp ve biyoinformatik alanında yardımcı profesör ve çalışmanın ortak lideridir.

“Bağışıklık sistemi sürprizlere karşı hazırlıklıdır. Harika bir tasarıma sahiptir ve her zaman bir çözüm bulur” dedi Rajapakse.

Bağışıklık Sistemini Taklit Etme

RAILS, bağışıklık sisteminin doğal savunmalarını taklit eder, bu da sinir ağına şüpheli girdileri tanımlamasını ve ele almasını sağlar. Biyolojik ekip, first olarak farelerin adaptif bağışıklık sistemlerinin bir antijene nasıl tepki verdiğini inceledi ve ardından bağışıklık sisteminden bir model oluşturdu.

Bilgi hakkında veri analizi, o zamanlar biyoinformatik alanında doktora öğrencisi olan Stephen Lindsly tarafından gerçekleştirildi. Lindsly, biyologlar ve mühendisler arasında bu bilgileri çevirdi, bu da Hero’nun ekibinin biyolojik süreci bilgisayarlarda modellemesine olanak tanıdı. Bunu yapmak için, ekip biyolojik mekanizmaları koda entegre etti.

RAILS savunmaları, adversarial girdilerle test edildi.

“Gerçekten biyolojik süreci yakaladığımızı doğrulamadık, RAILS’in öğrenme eğrilerini deneysel verilerden elde edilenlerle karşılaştırdığımız zamana kadar” dedi Hero. “Aynıydılar.”

RAILS, adversarial saldırılarla mücadele etmek için kullanılan iki ortak makine öğrenimi sürecini geride bıraktı. Bu iki süreç, Roust Deep k-En Yakın Komşu ve konvolüsyonel sinir ağlarıdır.

Ren Wang, elektrik ve bilgisayar mühendisliği alanında bir araştırma görevlisidir ve yazılımın geliştirilmesinden ve uygulanmasından büyük ölçüde sorumluydu.

“Bu çalışmanın çok vaat edilen bir yönü, genel çerçevemizin farklı saldırı türlerine karşı savunma sağlayabilmesidir” dedi Ren Wang.

Araştırmacılar, RAILS’i sekiz farklı adversarial saldırı türüne karşı çeşitli veri setlerinde görüntü tanıma kullanarak test etti. Her durumda iyileşme gösterdi ve ayrıca en zararlı adversarial saldırı türü olan Projeye Gradient Descent saldırısına karşı bile koruma sağladı. RAILS ayrıca genel doğruluğu artırdı.

“Bu, bu güzel dinamik sistemi anlamak için matematiği kullanma açısından harika bir örnektir” dedi Rajapakse. “RAILS’ten öğrendiklerimizle bağışıklık sistemini daha hızlı çalışması için yeniden programlayabileceğimiz ihtimali vardır.”