Různorodý tým odborníků vyvíjí obranný systém pro neuronové sítě

Různorodý tým inženýrů, biologů a matematiků z Michiganské univerzity vyvinul obranný systém pro neuronové sítě založený na adaptivním imunitním systému. Tento systém může chránit neuronové sítě proti různým typům útoků.

Zlověstné skupiny mohou upravit vstup hlubokého učícího algoritmu, aby jej nasměrovaly špatným směrem, což může být velkým problémem pro aplikace, jako je identifikace, strojové vidění, zpracování přirozeného jazyka (NLP), překlad jazyka, detekce sporů a další.

Robustní adversářský imunitně-inspirovaný učební systém

Nově vytvořený obranný systém se nazývá Robustní adversářský imunitně-inspirovaný učební systém. Práce byla publikována v IEEE Access.

Alfred Hero je John H. Holland Distinguished University profesor. Vede práci.

„RAILS představuje první přístup k adversářskému učení, který je modelován podle adaptivního imunitního systému, který funguje jinak než vrozený imunitní systém,“ řekl Hero.

Tým zjistil, že hluboké neuronové sítě, které jsou již inspirovány mozkem, mohou také napodobovat biologický proces imunitního systému savců. Tento imunitní systém vytváří nové buňky, které jsou navrženy tak, aby chránily proti specifickým patogenům.

Indika Rajapakse je asociativní profesor výpočetní medicíny a bioinformatiky a také spolueditor studie.

„Imunitní systém je navržen pro překvapení. Má úžasný design a vždy najde řešení,“ řekl Rajapakse.

Napodobování imunitního systému

RAILS napodobuje přirozenou obranu imunitního systému, což mu umožňuje identifikovat a řešit podezřelé vstupy do neuronové sítě. Biologický tým nejprve studoval, jak se adaptivní imunitní systémy myší odpověděly na antigen, než vytvořil model imunitního systému.

Analýza dat byla provedena Stephenem Lindslym, který byl v té době doktorandem bioinformatiky. Lindsly pomohl přeložit tyto informace mezi biology a inženýry, což umožnilo Heroovu týmu modelovat biologický proces na počítačích. K tomu tým kombinoval biologické mechanismy do kódu.

Obranné mechanismy RAILS byly testovány s adversářskými vstupy.

„Nebyli jsme si jisti, zda jsme skutečně zachytili biologický proces, až jsme srovnali učební křivky RAILS s těmi, které byly extrahovány z experimentů,“ řekl Hero. „Byly přesně stejné.“

RAILS překonal dva nejčastěji používané procesy strojového učení, které se目前 používají k boji proti adversářským útokům. Tyto dva procesy jsou Roust Deep k-Nearest Neighbor a konvoluční neuronové sítě.

Ren Wang je výzkumný pracovník v oboru elektrotechniky a počítačového inženýrství. Byl z velké části zodpovědný za vývoj a implementaci softwaru.

„Jedna velmi slibná část této práce je, že náš obecný rámec může chránit proti různým typům útoků,“ řekl Ren Wang.

Vědci poté použili identifikaci obrázků jako testovací případ pro vyhodnocení RAILS proti osmi typům adversářských útoků v různých datech. Prokázal zlepšení ve všech případech a dokonce chránil proti Projected Gradient Descent útoku, který je nejvíce poškozující typ adversářského útoku. RAILS také zlepšil celkovou přesnost.

„Toto je úžasný příklad použití matematiky k pochopení tohoto krásného dynamického systému,“ řekl Rajapakse. „Můžeme využít, co jsme se naučili z RAILS, a pomoci přeprogramovat imunitní systém, aby fungoval rychleji.“