Różnorodny zespół ekspertów tworzy system obronny dla sieci neuronowych

Różnorodny zespół inżynierów, biologów i matematyków z Uniwersytetu Michigan stworzył system obronny dla sieci neuronowych oparty na układzie immunologicznym. System może bronić sieci neuronowych przed różnymi rodzajami ataków.

Nefarious grupy mogą dostosować dane wejściowe algorytmu głębokiego uczenia, aby skierować je w niewłaściwym kierunku, co może stanowić duży problem dla aplikacji takich jak identyfikacja, maszynowe widzenie, przetwarzanie języka naturalnego (NLP), tłumaczenie języka, wykrywanie sporów i wiele innych.

Wytrzymały system uczenia się oparty na immunologii

Nowo zbudowany system obronny nazywa się Wytrzymałym systemem uczenia się opartym na immunologii. Praca została opublikowana w IEEE Access.

Alfred Hero jest profesorem uniwersytetu. Współkierował pracą.

„RAILS reprezentuje pierwsze podejście do uczenia się wrogiego, które jest modelem układu immunologicznego, który działa inaczej niż układ immunologiczny wrodzony”, powiedział Hero.

Zespół odkrył, że głębokie sieci neuronowe, które są już zainspirowane mózgiem, mogą również naśladować biologiczny proces układu immunologicznego ssaków. Ten układ immunologiczny wytwarza nowe komórki, które są zaprojektowane do obrony przed określonymi patogenami.

Indika Rajapakse jest profesorem medycyny komputacyjnej i bioinformatyki, a także współkierownikiem badania.

„Układ immunologiczny jest zaprojektowany do niespodzianek. Ma niesamowitą konstrukcję i zawsze znajdzie rozwiązanie”, powiedział Rajapakse.

Naśladując układ immunologiczny

RAILS naśladuje naturalne mechanizmy obronne układu immunologicznego, co pozwala mu identyfikować i rozwiązywać podejrzane dane wejściowe do sieci neuronowej. Zespół biologiczny najpierw zbadał, jak układ immunologiczny myszy reagował na antygen, zanim stworzył model układu immunologicznego.

Analiza danych została przeprowadzona przez Stephena Lindsly, który był wówczas doktorantem bioinformatyki. Lindsly pomógł przetłumaczyć te informacje między biologami a inżynierami, co umożliwiło zespołowi Hero modelowanie procesu biologicznego na komputerach. Aby to zrobić, zespół połączył mechanizmy biologiczne z kodem.

Mechanizmy obronne RAILS zostały przetestowane z danymi wejściowymi wrogimi.

„Nie byliśmy pewni, czy naprawdę uchwyciliśmy biologiczny proces, dopóki nie porównaliśmy krzywych uczenia się RAILS z tymi, które zostały wyodrębnione z doświadczeń”, powiedział Hero. „Były one identyczne”.

RAILS przewyższył dwa najczęstsze procesy uczenia maszynowego, które są obecnie używane do walki z atakami wrogimi. Są to Roust Deep k-Nearest Neighbor i sieci neuronowe konwolucyjne.

Ren Wang jest stażystą w dziedzinie inżynierii elektrycznej i komputerowej. Był głównie odpowiedzialny za rozwój i wdrożenie oprogramowania.

„Jednym z bardzo obiecujących aspektów tej pracy jest to, że nasz ogólny framework może bronić się przed różnymi rodzajami ataków”, powiedział Ren Wang.

Następnie badacze użyli identyfikacji obrazu jako przypadku testowego, aby ocenić RAILS wobec ośmiu rodzajów ataków wrogich w różnych zbiorach danych. Wykazał poprawę we wszystkich przypadkach i nawet chronił przed atakiem Projected Gradient Descent, który jest najbardziej szkodliwym rodzajem ataku wrogości. RAILS również poprawił ogólną dokładność.

„To jest niesamowity przykład używania matematyki do zrozumienia tego pięknego dynamicznego systemu”, powiedział Rajapakse. „Możemy być w stanie wziąć to, czego nauczyliśmy się z RAILS, i pomóc przeprogramować układ immunologiczny, aby działał szybciej”.