Rôznorodý tím expertov vyvíja obranný systém pre neurónové siete

Rôznorodý tím inžinierov, biológov a matematikov na University of Michigan vyvinul obranný systém pre neurónové siete založený na adaptívnom imunitnom systéme. Systém dokáže brániť neurónové siete pred rôznymi typmi útokov.

Nekalé skupiny môžu upraviť vstup algoritmu hlbokého učenia tak, aby ho nasmeroval nesprávnym smerom, čo môže slúžiť ako hlavný problém pre aplikácie, ako je identifikácia, strojové videnie, spracovanie prirodzeného jazyka (NLP), preklad jazyka, detekcia sporov a ďalšie. 

Robustný imunitný systém inšpirovaný nepriateľmi

Novovybudovaný obranný systém sa nazýva Robust Adversarial Immune-Inspired Learning System. Dielo vyšlo v r Prístup IEEE. 

Alfred Hero je uznávaným univerzitným profesorom Johna H. Hollanda. Spoluviedol prácu. 

"RAILS predstavuje úplne prvý prístup k učeniu protivníka, ktorý je modelovaný podľa adaptívneho imunitného systému, ktorý funguje inak ako vrodený imunitný systém," povedal Hero. 

Tím zistil, že hlboké neurónové siete, ktoré sú už inšpirované mozgom, môžu napodobňovať aj biologický proces imunitného systému cicavcov. Tento imunitný systém vytvára nové bunky, ktoré sú určené na obranu proti špecifickým patogénom. 

Indika Rajapakse je docentkou výpočtovej medicíny a bioinformatiky, ako aj spoluvedúcou štúdie.

„Imunitný systém je stavaný na prekvapenia. Má úžasný dizajn a vždy nájde riešenie,“ povedal Rajapakse. 

Napodobňovanie imunitného systému

RAILS napodobňuje prirodzenú obranu imunitného systému, čo mu umožňuje identifikovať a adresovať podozrivé vstupy do neurónovej siete. Biologický tím najprv študoval, ako adaptívne imunitné systémy myší reagovali na antigén, a až potom vytvorili model imunitného systému. 

Analýza údajov o informáciách potom vykonal Stephen Lindsly, ktorý bol v tom čase doktorandom bioinformatiky. Lindsly pomohla preložiť tieto informácie medzi biológmi a inžiniermi, čo umožnilo Herovmu tímu modelovať biologický proces na počítačoch. Na tento účel tím zmiešal biologické mechanizmy do kódu. 

Obrany RAILS boli testované s protichodnými vstupmi.

"Neboli sme si istí, že sme skutočne zachytili biologický proces, kým sme neporovnali krivky učenia RAILS s tými, ktoré sme získali z experimentov," povedal Hero. "Boli úplne rovnakí." 

RAILS prekonali dva z najbežnejších procesov strojového učenia, ktoré sa v súčasnosti používajú na boj proti útokom protivníka. Tieto dva procesy sú Roust Deep k-Nearest Neighbor a konvolučné neurónové siete. 

Ren Wang je výskumný pracovník v oblasti elektrotechniky a počítačového inžinierstva. Bol vo veľkej miere zodpovedný za vývoj a implementáciu softvéru. 

„Jednou z veľmi sľubných častí tejto práce je, že náš všeobecný rámec dokáže brániť rôznym typom útokov,“ povedal Ren Wang. 

Výskumníci potom použili identifikáciu obrazu ako testovací prípad na vyhodnotenie RAILS proti ôsmim typom nepriateľských útokov v rôznych súboroch údajov. Vo všetkých prípadoch preukázal zlepšenie a dokonca chránil pred útokom Projected Gradient Descent, ktorý je najškodlivejším typom útoku protivníka. RAILS tiež zlepšili celkovú presnosť.

"Toto je úžasný príklad použitia matematiky na pochopenie tohto krásneho dynamického systému," povedal Rajapakse. "Možno budeme schopní vziať to, čo sme sa naučili od RAILS, a pomôcť preprogramovať imunitný systém, aby pracoval rýchlejšie."