Různorodý tým odborníků vyvíjí obranný systém pro neuronové sítě

Různorodý tým inženýrů, biologů a matematiků na University of Michigan vyvinul obranný systém pro neuronové sítě založený na adaptivním imunitním systému. Systém dokáže bránit neuronové sítě proti různým typům útoků.

Nekalé skupiny mohou upravit vstup algoritmu hlubokého učení tak, aby jej nasměroval nesprávným směrem, což může sloužit jako hlavní problém pro aplikace, jako je identifikace, strojové vidění, zpracování přirozeného jazyka (NLP), překlad jazyka, detekce sporů a další. 

Robustní výukový systém inspirovaný imunitním systémem Adversarial

Nově zkonstruovaný obranný systém se nazývá Robust Adversarial Immune-Inspired Learning System. Práce vyšla v r Přístup IEEE. 

Alfred Hero je profesorem John H. Holland Distinguished University. Spoluvedl dílo. 

"RAILS představuje úplně první přístup k učení protivníka, který je modelován podle adaptivního imunitního systému, který funguje jinak než vrozený imunitní systém," řekl Hero. 

Tým zjistil, že hluboké neuronové sítě, které jsou již inspirovány mozkem, mohou také napodobovat biologický proces imunitního systému savců. Tento imunitní systém vytváří nové buňky, které jsou určeny k obraně proti specifickým patogenům. 

Indika Rajapakse je docentkou výpočetní medicíny a bioinformatiky a zároveň spoluvedoucí studie.

"Imunitní systém je stavěný na překvapení." Má úžasný design a vždy najde řešení,“ řekl Rajapakse. 

Napodobování imunitního systému

RAILS napodobuje přirozenou obranu imunitního systému, což mu umožňuje identifikovat a adresovat podezřelé vstupy do neuronové sítě. Biologický tým nejprve studoval, jak adaptivní imunitní systém myší reagoval na antigen, než vytvořil model imunitního systému. 

Analýzu dat pak provedl Stephen Lindsly, který byl v té době doktorandem bioinformatiky. Lindsly pomohl přeložit tyto informace mezi biology a inženýry, což Herovu týmu umožnilo modelovat biologický proces na počítačích. Za tímto účelem tým zakomponoval biologické mechanismy do kódu. 

Obrany RAILS byly testovány s nepřátelskými vstupy.

"Nebyli jsme si jisti, že jsme skutečně zachytili biologický proces, dokud jsme neporovnali křivky učení RAILS s těmi získanými z experimentů," řekl Hero. "Byli úplně stejní." 

RAILS překonaly dva z nejběžnějších procesů strojového učení, které se v současnosti používají k boji proti nepřátelským útokům. Tyto dva procesy jsou Roust Deep k-Nearest Neighbor a konvoluční neuronové sítě. 

Ren Wang je výzkumný pracovník v oblasti elektrotechniky a počítačového inženýrství. Byl z velké části zodpovědný za vývoj a implementaci softwaru. 

„Jednou z velmi slibných částí této práce je, že náš obecný rámec se může bránit proti různým typům útoků,“ řekl Ren Wang. 

Výzkumníci poté použili identifikaci obrazu jako testovací případ k vyhodnocení RAILS proti osmi typům nepřátelských útoků v různých souborech dat. Ve všech případech prokázal zlepšení a dokonce chránil před útokem Projected Gradient Descent, což je nejškodlivější typ nepřátelského útoku. RAILS také zlepšily celkovou přesnost.

"Toto je úžasný příklad použití matematiky k pochopení tohoto krásného dynamického systému," řekl Rajapakse. "Možná budeme schopni vzít to, co jsme se naučili od RAILS, a pomoci přeprogramovat imunitní systém, aby pracoval rychleji."