MIT-Forschungsteam entwickelt künstliches neuronales Netzwerk, um adversarialen Beispielen zu widerstehen

Ein Team von Forschern des MIT hat ein Tiefenlernalgorithmus entwickelt, der dazu beitragen soll, künstliche Intelligenzen (KI) mit “adversarialen” Beispielen zu helfen, die dazu führen können, dass eine KI falsche Vorhersagen trifft und falsche Aktionen ausführt. Der vom MIT-Team entwickelte Algorithmus kann KI-Systemen helfen, ihre Genauigkeit beizubehalten und Fehler zu vermeiden, wenn sie mit verwirrenden Datenpunkten konfrontiert werden.

KI-Systeme analysieren die Eingabemerkmale eines Ereignisses, um zu entscheiden, wie sie auf das Ereignis reagieren. Ein KI-System, das für die Steuerung eines autonomen Fahrzeugs verantwortlich ist, muss die Daten von den Kameras des Fahrzeugs auswerten und entscheiden, was es auf der Grundlage der in diesen Bildern enthaltenen Daten tun soll. Es besteht jedoch die Möglichkeit, dass die Bildaten, die vom KI-System analysiert werden, keine genaue Darstellung der realen Welt sind. Ein Fehler im Kamerasystem könnte einige Pixel verändern, was dazu führt, dass das KI-System falsche Schlussfolgerungen über den geeigneten Kurs zieht.

“Adversarial-Eingaben” sind für ein KI-System wie optische Täuschungen. Sie sind Eingaben, die ein KI-System in irgendeiner Weise verwirren. Adversarial-Eingaben können mit dem ausdrücklichen Ziel erstellt werden, ein KI-System zu täuschen, indem sie Daten in einer Weise darstellen, die das KI-System glauben lässt, dass der Inhalt eines Beispiels etwas anderes ist. Zum Beispiel kann ein adversarialer Beispielsatz für ein Computer-Vision-System erstellt werden, indem man leichte Änderungen an Bildern von Katzen vornimmt, was dazu führt, dass das KI-System die Bilder fälschlicherweise als Computermonitore klassifiziert. Das MIT-Forschungsteam entwickelte einen Algorithmus, um gegen adversarialen Beispiele zu schützen, indem es dem Modell erlaubt, einen gewissen Grad an “Skepsis” gegenüber den Eingaben zu bewahren.

Die MIT-Forscher nannten ihren Ansatz “Zertifizierte Robustheit gegenüber adversarialen Beispielen für Deep-Reinforcement-Learning” oder CARRL. CARRL besteht aus einem Reinforcement-Learning-Netzwerk und einem traditionellen Tiefen-Neural-Netzwerk, die miteinander verbunden sind. Reinforcement-Learning verwendet das Konzept von “Belohnungen”, um ein Modell zu trainieren, indem es dem Modell proportional mehr Belohnung gibt, je näher es seinem Ziel kommt. Das Reinforcement-Learning-Modell wird verwendet, um ein Deep-Q-Netzwerk (DQN) zu trainieren. DQNs funktionieren wie traditionelle neuronale Netze, aber sie ordnen auch Eingabewerten eine Belohnung zu, ähnlich wie Reinforcement-Learning-Systeme.

CARRL funktioniert, indem es eine Reihe von verschiedenen möglichen Werten für Eingabedaten modelliert.

Wenn man annimmt, dass das KI-System versucht, die Position eines Punkts innerhalb eines größeren Bildes zu verfolgen, berücksichtigt das KI-System, dass die Position des Punkts das Ergebnis eines adversarialen Einflusses sein könnte und berücksichtigt Regionen, in denen der Punkt stattdessen sein könnte. Das Netzwerk trifft dann Entscheidungen auf der Grundlage des Worst-Case-Szenarios für die Position des Punkts und entscheidet sich für die Aktion, die die höchste Belohnung in diesem Worst-Case-Szenario produzieren würde.

Die typische Methode, um gegen adversarialen Beispiele zu schützen, besteht darin, leicht veränderte Versionen des Eingabebildes durch das KI-Netzwerk zu führen, um zu sehen, ob das gleiche Ergebnis immer erreicht wird. Wenn Änderungen am Bild das Ergebnis nicht dramatisch beeinflussen, besteht eine gute Chance, dass das Netzwerk gegen adversarialen Beispiele resistent ist. Diese Methode ist jedoch nicht praktikabel für Szenarien, in denen schnelle Entscheidungen getroffen werden müssen, da diese Methoden zeitaufwändig und rechenintensiv sind. Aus diesem Grund entwickelte das MIT-Team ein neuronales Netzwerk, das Entscheidungen auf der Grundlage von Worst-Case-Annahmen treffen kann, ein Netzwerk, das in Szenarien funktionieren kann, in denen Sicherheit kritisch ist.

Die MIT-Forscher testeten ihre Algorithmen, indem sie das KI-System ein Spiel von Pong spielen ließen. Sie fügten adversarialen Beispiele hinzu, indem sie dem KI-System Instanzen lieferten, in denen der Ball etwas weiter unten auf dem Bildschirm angezeigt wurde, als er tatsächlich war. Als der Einfluss der adversarialen Beispiele zunahm, begannen die Standardkorrekturtechniken zu versagen, während CARRL im Vergleich mehr Spiele gewann. CARRL wurde auch auf eine Kollisionsvermeidungsaufgabe getestet. Die Aufgabe fand in einer virtuellen Umgebung statt, in der zwei verschiedene Agenten versuchten, ihre Positionen ohne Zusammenstoß zu wechseln. Das Forschungsteam veränderte die Wahrnehmung des ersten Agenten von dem zweiten Agenten, und CARRL konnte den ersten Agenten erfolgreich um den zweiten Agenten herumsteuern, sogar in Bedingungen mit hoher Unsicherheit, obwohl es einen Punkt gab, an dem CARRL zu vorsichtig wurde und schließlich seine Destination ganz vermied.

Ungeachtet dessen erklärte Michael Everett, ein Postdoc im MIT-Department of Aeronautics and Astronautics, der die Studie leitete, dass die Forschung Auswirkungen auf die Fähigkeit von Robotern haben könnte, unvorhersehbare Situationen zu meistern. Wie Everett via MIT News erklärte:

„Menschen können adversarial sein, wie zum Beispiel, wenn sie vor einem Roboter stehen, um seine Sensoren zu blockieren, oder wenn sie mit ihnen interagieren, nicht unbedingt mit den besten Absichten“, sagt Everett. „Wie kann ein Roboter all die Dinge berücksichtigen, die Menschen vielleicht tun könnten, und versuchen, sie zu vermeiden? Welche Art von adversarialen Modellen wollen wir verteidigen? Das ist etwas, über das wir nachdenken, wie wir es tun können.“