Echipă Diversă de Experți Dezvoltă Sistem de Apărare pentru Rețele Neurale

O echipă diversă de ingineri, biologi și matematicieni de la Universitatea din Michigan a dezvoltat un sistem de apărare pentru rețele neurale bazat pe sistemul imun adaptiv. Sistemul poate apăra rețelele neurale împotriva diferitelor tipuri de atacuri.

Grupuri malefice pot ajusta intrarea unui algoritm de învățare profundă pentru a-l direcționa în direcția greșită, ceea ce poate constitui o problemă majoră pentru aplicații precum identificarea, viziunea mașinilor, procesarea limbajului natural (NLP), traducerea limbajului, detectarea feudelor și multe altele.

Sistem de Învățare Imun-Inspirat Robust și Adversarial

Noul sistem de apărare construit se numește Sistem de Învățare Imun-Inspirat Robust și Adversarial. Lucrarea a fost publicată în IEEE Access.

Alfred Hero este profesor universitar distins John H. Holland. El a condus lucrarea.

„RAILS reprezintă prima abordare a învățării adversariale care este modelată după sistemul imun adaptiv, care funcționează diferit decât sistemul imun înnăscut”, a spus Hero.

Echipa a descoperit că rețelele neurale profunde, care sunt deja inspirate de creier, pot să imite și procesul biologic al sistemului imun al mamiferelor. Acest sistem imun generează noi celule care sunt proiectate pentru a apăra împotriva agenților patogeni specifici.

Indika Rajapakse este profesor asociat de medicină computațională și bioinformatică, precum și co-lider al studiului.

„Sistemul imun este construit pentru surprize. Are o proiectare uimitoare și va găsi întotdeauna o soluție”, a spus Rajapakse.

Imitarea Sistemului Imun

RAILS imită apărările naturale ale sistemului imun, ceea ce îi permite să identifice și să abordeze intrările suspecte în rețeaua neurală. Echipa biologică a studiat mai întâi modul în care sistemele imune adaptative ale șoarecilor au răspuns la un antigen înainte de a crea un model al sistemului imun.

Analiza datelor a fost efectuată de Stephen Lindsly, care a fost student doctorand în bioinformatică la momentul respectiv. Lindsly a ajutat la traducerea informațiilor între biologi și ingineri, ceea ce a permis echipei lui Hero să modeleze procesul biologic pe calculator. Pentru a face acest lucru, echipa a integrat mecanisme biologice în cod.

Apărările RAILS au fost testate cu intrări adversariale.

„Nu eram siguri că am capturat cu adevărat procesul biologic până nu am comparat curbele de învățare ale RAILS cu cele extrase din experimente”, a spus Hero. „Au fost exact la fel.”

RAILS a depășit două dintre cele mai comune procese de învățare a mașinilor care sunt utilizate în prezent pentru a lupta împotriva atacurilor adversariale. Aceste două procese sunt Roust Deep k-Nearest Neighbor și rețelele neurale convolutive.

Ren Wang este cercetător în inginerie electrică și informatică. El a fost în mare măsură responsabil pentru dezvoltarea și implementarea software-ului.

„O parte foarte promițătoare a acestui lucru este că cadrul nostru general poate apăra împotriva diferitelor tipuri de atacuri”, a spus Ren Wang.

Cercetătorii au utilizat apoi identificarea imaginilor ca test pentru a evalua RAILS împotriva a opt tipuri de atacuri adversariale în diferite seturi de date. A demonstrat îmbunătățiri în toate cazurile și a protejat chiar și împotriva atacului Projected Gradient Descent, care este cel mai dăunător tip de atac adversarial. RAILS a îmbunătățit, de asemenea, acuratețea generală.

„Acesta este un exemplu uimitor de utilizare a matematicii pentru a înțelege acest sistem dinamic frumos”, a spus Rajapakse. „Putem să luăm ceea ce am învățat din RAILS și să ajutăm la reprograrea sistemului imun pentru a funcționa mai repede.”