Mångsidig grupp av experter utvecklar försvarssystem för neuronnätverk

En mångsidig grupp av ingenjörer, biologer och matematiker vid University of Michigan har utvecklat ett försvarssystem för neuronnätverk baserat på det adaptiva immunsystemet. Systemet kan försvara neuronnätverk mot olika typer av attacker.

Ondskansfulla grupper kan justera indata för ett djupinlärningsalgoritm för att leda den på fel väg, vilket kan vara ett stort problem för applikationer som identifiering, maskinseende, naturlig språkbehandling (NLP), språköversättning, fejdidentifiering och mer. 

Robust Adversarial Immune-Inspired Learning System

Det nyligen konstruerade försvarssystemet kallas Robust Adversarial Immune-Inspired Learning System. Arbetet publicerades i IEEE Access. 

Alfred Hero är John H. Holland Distinguished University professor. Han ledde arbetet. 

“RAILS representerar den allra första ansatsen till adversarial inlärning som är modellerad efter det adaptiva immunsystemet, som fungerar annorlunda än det medfödda immunsystemet”, sa Hero. 

Laget fann att djupa neuronnätverk, som redan är inspirerade av hjärnan, också kan imitera den biologiska processen i däggdjurens immunsystem. Detta immunsystem genererar nya celler som är utformade för att försvara mot specifika patogener. 

Indika Rajapakse är biträdande professor i beräkningsmedicin och bioinformatik, samt medledare för studien.

“Immunsystemet är byggt för överraskningar. Det har en fantastisk design och kommer alltid att hitta en lösning”, sa Rajapakse. 

Att imitera immunsystemet

RAILS imiterar det naturliga försvaret i immunsystemet, vilket möjliggör att det kan identifiera och hantera misstänkta indata till neuronnätverket. Det biologiska laget studerade först hur de adaptiva immunsystemen hos möss svarade på en antigen innan de skapade en modell av immunsystemet. 

Dataanalys på informationen utfördes sedan av Stephen Lindsly, som var en doktorand i bioinformatik vid den tiden. Lindsly hjälpte till att översätta denna information mellan biologerna och ingenjörerna, vilket möjliggjorde för Heros lag att modellera den biologiska processen på datorer. För att göra detta, blandade laget biologiska mekanismer i koden. 

RAILS försvar testades med adversarial indata.

“Vi visste inte om vi verkligen hade fångat den biologiska processen tills vi jämförde inlärningskurvorna för RAILS med de som extraherades från experimenten”, sa Hero. “De var exakt desamma.” 

RAILS presterade bättre än två av de vanligaste maskinlärningsprocesserna som för närvarande används för att bekämpa adversarial attacker. Dessa två processer är Roust Deep k-Nearest Neighbor och convolutionella neuronnät. 

Ren Wang är en forskningsstipendiat i elektroteknik och datateknik. Han var till stor del ansvarig för utvecklingen och implementeringen av programvaran. 

“En mycket lovande del av detta arbete är att vår allmänna ramverk kan försvara mot olika typer av attacker”, sa Ren Wang. 

Forskarna använde sedan bildidentifiering som ett testfall för att utvärdera RAILS mot åtta typer av adversarial attacker i olika datamängder. Det visade förbättring i alla fall, och det skyddade även mot Projected Gradient Descent-attack, som är den mest skadliga typen av adversarial attack. RAILS förbättrade också den övergripande noggrannheten.

“Detta är ett fantastiskt exempel på att använda matematik för att förstå detta vackra dynamiska system”, sa Rajapakse. “Vi kanske kan ta det vi lärde oss från RAILS och hjälpa till att omprogrammera immunsystemet för att fungera snabbare.”