Squadra diversificata di esperti sviluppa sistema di difesa per reti neurali

Un team diversificato di ingegneri, biologi e matematici dell’Università del Michigan ha sviluppato un sistema di difesa per reti neurali basato sul sistema immunitario adattivo. Il sistema può difendere le reti neurali da vari tipi di attacchi.

Gruppi malintenzionati possono modificare l’input di un algoritmo di apprendimento profondo per dirigerlo nella direzione sbagliata, il che può rappresentare un problema significativo per applicazioni come l’identificazione, la visione artificiale, l’elaborazione del linguaggio naturale (NLP), la traduzione del linguaggio, la rilevazione di feud e altro.

Sistema di apprendimento immunitario robusto e avversario

Il nuovo sistema di difesa costruito si chiama Sistema di apprendimento immunitario robusto e avversario. Il lavoro è stato pubblicato su IEEE Access.

Alfred Hero è il professore universitario distinto John H. Holland. Ha guidato il lavoro.

“RAILS rappresenta il primo approccio all’apprendimento avversario che è modellato sul sistema immunitario adattivo, che funziona in modo diverso dal sistema immunitario innato”, ha detto Hero.

Il team ha scoperto che le reti neurali profonde, che sono già ispirate al cervello, possono anche imitare il processo biologico del sistema immunitario dei mammiferi. Questo sistema immunitario genera nuove cellule progettate per difendere contro specifici patogeni.

Indika Rajapakse è professore associato di medicina computazionale e bioinformatica, nonché co-leader dello studio.

“Il sistema immunitario è costruito per le sorprese. Ha un design incredibile e troverà sempre una soluzione”, ha detto Rajapakse.

Mimare il sistema immunitario

RAILS mimica le difese naturali del sistema immunitario, il che gli consente di identificare e affrontare input sospetti alla rete neurale. Il team biologico ha prima studiato come i sistemi immunitari adattivi dei topi rispondevano a un antigene prima di creare un modello del sistema immunitario.

L’analisi dei dati è stata poi eseguita da Stephen Lindsly, che all’epoca era uno studente di dottorato in bioinformatica. Lindsly ha aiutato a tradurre queste informazioni tra i biologi e gli ingegneri, il che ha consentito al team di Hero di modellare il processo biologico sui computer. Per farlo, il team ha integrato meccanismi biologici nel codice.

Le difese di RAILS sono state testate con input avversari.

“Non eravamo sicuri di aver realmente catturato il processo biologico fino a quando non abbiamo confrontato le curve di apprendimento di RAILS con quelle estratte dagli esperimenti”, ha detto Hero. “Erano esattamente le stesse”.

RAILS ha superato due dei processi di apprendimento automatico più comuni attualmente utilizzati per combattere gli attacchi avversari. Questi due processi sono Roust Deep k-Nearest Neighbor e reti neurali convoluzionali.

Ren Wang è un ricercatore nel dipartimento di ingegneria elettrica e informatica. È stato in gran parte responsabile dello sviluppo e dell’implementazione del software.

“Una parte molto promettente di questo lavoro è che il nostro quadro generale può difendere contro diversi tipi di attacchi”, ha detto Ren Wang.

I ricercatori hanno poi utilizzato l’identificazione delle immagini come caso di test per valutare RAILS contro otto tipi di attacchi avversari in vari set di dati. Ha dimostrato un miglioramento in tutti i casi e ha anche protetto contro l’attacco Projected Gradient Descent, che è il tipo più dannoso di attacco avversario. RAILS ha anche migliorato la precisione complessiva.

“Questo è un esempio incredibile di utilizzo della matematica per comprendere questo bellissimo sistema dinamico”, ha detto Rajapakse. “Potremmo essere in grado di prendere ciò che abbiamo imparato da RAILS e aiutare a riprogrammare il sistema immunitario per farlo funzionare più velocemente”.