Vielfältiges Team von Experten entwickelt Verteidigungssystem für neuronale Netze

Ein vielfältiges Team von Ingenieuren, Biologen und Mathematikern an der University of Michigan hat ein Verteidigungssystem für neuronale Netze auf der Basis des adaptiven Immunsystems entwickelt. Das System kann neuronale Netze gegen verschiedene Arten von Angriffen verteidigen.

Nefaria Gruppen können die Eingabe eines Deep-Learning-Algorithms anpassen, um es in die falsche Richtung zu lenken, was ein großes Problem für Anwendungen wie Identifizierung, Maschinelles Sehen, natürliche Sprachverarbeitung (NLP), Sprachübersetzung, Feind-Erkennung und mehr darstellen kann.

Robustes adversariales Immun- inspiriertes Lernsystem

Das neu konstruierte Verteidigungssystem wird als Robustes adversariales Immun-inspiriertes Lernsystem bezeichnet. Die Arbeit wurde in IEEE Access veröffentlicht.

Alfred Hero ist der John H. Holland Distinguished University Professor. Er leitete die Arbeit.

„RAILS repräsentiert den ersten Ansatz für adversariales Lernen, der nach dem adaptiven Immunsystem modelliert ist, das anders als das angeborene Immunsystem operiert“, sagte Hero.

Das Team fand heraus, dass tiefe neuronale Netze, die bereits vom Gehirn inspiriert sind, auch den biologischen Prozess des Immunsystems von Säugetieren nachahmen können. Dieses Immunsystem generiert neue Zellen, die dazu bestimmt sind, gegen bestimmte Krankheitserreger zu verteidigen.

Indika Rajapakse ist Associate Professor für computergestützte Medizin und Bioinformatik sowie Co-Leiter der Studie.

„Das Immunsystem ist für Überraschungen gebaut. Es hat eine atemberaubende Konstruktion und wird immer eine Lösung finden“, sagte Rajapakse.

Nachahmung des Immunsystems

RAILS ahmt die natürlichen Abwehrmechanismen des Immunsystems nach, was es ermöglicht, verdächtige Eingaben zum neuronalen Netzwerk zu identifizieren und anzusprechen. Das biologische Team studierte zunächst, wie das adaptive Immunsystem von Mäusen auf ein Antigen reagierte, bevor es ein Modell des Immunsystems erstellte.

Dann wurde eine Datenanalyse der Informationen durchgeführt von Stephen Lindsly, der zu diesem Zeitpunkt Doktorand in Bioinformatik war. Lindsly half dabei, diese Informationen zwischen den Biologen und Ingenieuren zu übersetzen, was es Heroes Team ermöglichte, den biologischen Prozess auf Computern zu modellieren. Dazu integrierten sie biologische Mechanismen in den Code.

Die Verteidigungsmechanismen von RAILS wurden mit adversarialen Eingaben getestet.

„Wir waren uns nicht sicher, ob wir den biologischen Prozess wirklich erfasst hatten, bis wir die Lernkurven von RAILS mit denen verglichen, die aus den Experimenten extrahiert wurden“, sagte Hero. „Sie waren genau gleich.“

RAILS übertraf zwei der häufigsten maschinellen Lernprozesse, die derzeit verwendet werden, um adversarialen Angriffen entgegenzuwirken. Diese beiden Prozesse sind Roust Deep k-Nearest Neighbor und Convolutional Neural Networks.

Ren Wang ist Forschungsstipendiat in Elektro- und Computertechnik. Er war hauptsächlich für die Entwicklung und Implementierung der Software verantwortlich.

„Ein sehr vielversprechender Teil dieser Arbeit ist, dass unser allgemeines Framework gegen verschiedene Arten von Angriffen verteidigen kann“, sagte Ren Wang.

Die Forscher verwendeten dann die Bilderkennung als Testfall, um RAILS gegen acht Arten von adversarialen Angriffen in verschiedenen Datensätzen zu bewerten. Es zeigte eine Verbesserung in allen Fällen und schützte sogar vor dem Projected Gradient Descent-Angriff, der die schädlichste Art von adversarialen Angriffen ist. RAILS verbesserte auch die Gesamtgenauigkeit.

„Dies ist ein atemberaubendes Beispiel dafür, wie man Mathematik verwendet, um dieses schöne dynamische System zu verstehen“, sagte Rajapakse. „Wir könnten das, was wir von RAILS gelernt haben, verwenden, um das Immunsystem zu umprogrammieren, um schneller zu arbeiten.“