Häufige Annahmen über Maschinelles Lernen könnten falsch sein

Tiefe neuronale Netze sind einer der grundlegendsten Aspekte der künstlichen Intelligenz (KI), da sie verwendet werden, um Bilder und Daten durch mathematische Modellierung zu verarbeiten. Sie sind für einige der größten Fortschritte in diesem Bereich verantwortlich, aber sie funktionieren auch auf verschiedene Weise nicht richtig. Diese Fehlfunktionen können einen kleinen bis nicht existierenden Einfluss haben, wie eine einfache Fehlidentifizierung, oder einen dramatischeren und tödlicheren, wie ein Selbstfahrfehler.

Neue Forschungsergebnisse der University of Houston deuten darauf hin, dass unsere gemeinsamen Annahmen über diese Fehlfunktionen falsch sein könnten, was uns helfen könnte, die Zuverlässigkeit der Netze in der Zukunft zu bewerten.

Die Studie wurde im November in der Zeitschrift Nature Machine Intelligence veröffentlicht.

„Adversarial Examples“

Maschinelles Lernen und andere Arten von KI sind in vielen Bereichen und Aufgaben von entscheidender Bedeutung, wie z.B. in Banken und Cybersicherheitssystemen. Laut Cameron Buckner, einem Associate Professor für Philosophie an der UH, muss man die Ausfälle verstehen, die durch „adversarial Examples“ verursacht werden. Diese adversarial Examples treten auf, wenn ein tiefes neuronales Netzwerk-System Bilder und andere Daten falsch interpretiert, wenn es auf Informationen außerhalb der Trainingsinputs stößt, die zum Entwickeln des Netzwerks verwendet wurden.

Die adversarial Examples sind selten, da sie oft von einem anderen maschinellen Lernnetzwerk erstellt oder entdeckt werden.

„Einige dieser adversarial Ereignisse könnten stattdessen Artefakte sein, und wir müssen besser verstehen, was sie sind, um zu wissen, wie zuverlässig diese Netze sind“, schrieb Buckner.

Buckner sagt, dass die Fehlfunktion durch die Wechselwirkung zwischen den tatsächlichen Mustern und dem verarbeiteten Netzwerk verursacht werden könnte, was bedeutet, dass es sich nicht um einen vollständigen Fehler handelt.

Muster als Artefakte

„Das Verständnis der Auswirkungen von adversarial Examples erfordert die Erforschung einer dritten Möglichkeit: dass mindestens einige dieser Muster Artefakte sind“, sagte Buckner. „Es gibt derzeit sowohl Kosten, wenn man diese Muster einfach verwirft, als auch Gefahren, wenn man sie naiv verwendet.“

Obwohl es nicht immer der Fall ist, ist die absichtliche Schädigung das größte Risiko in Bezug auf diese adversarial Ereignisse, die zu Fehlfunktionen des maschinellen Lernens führen.

„Es bedeutet, dass bösartige Akteure Systeme täuschen könnten, die auf einem ansonsten zuverlässigen Netzwerk angewiesen sind“, sagte Buckner. „Das hat Sicherheitsanwendungen.“

Das könnte beispielsweise Hacker sein, die ein Sicherheitssystem auf der Grundlage von Gesichtserkennungstechnologie durchbrechen, oder falsch beschriftete Verkehrszeichen, um autonome Fahrzeuge zu verwirren.

Andere vorherige Forschungen haben gezeigt, dass einige der adversarial Examples natürlicherweise vorkommen, wenn ein maschinelles Lernsystem Daten durch eine unerwartete Wechselwirkung falsch interpretiert, was sich von Fehlern in den Daten unterscheidet. Diese natürlichen Beispiele sind selten und die einzige Möglichkeit, sie derzeit zu entdecken, ist durch KI.

Buckner sagt jedoch, dass Forscher ihre Ansätze zur Behandlung von Anomalien überdenken müssen.

Diese Anomalien oder Artefakte werden von Buckner durch die Analogie eines Linsenflares in einem Foto erklärt, der nicht durch einen Defekt in der Kamera verursacht wird, sondern durch die Wechselwirkung von Licht mit der Kamera.

Wenn man weiß, wie man den Linsenflair interpretiert, kann man wichtige Informationen wie den Standort der Sonne extrahieren. Deshalb denkt Buckner, dass es möglich ist, gleichwertige Informationen aus unerwünschten Ereignissen im maschinellen Lernen zu extrahieren, die durch Artefakte verursacht werden.

Buckner sagt auch, dass all dies nicht automatisch bedeutet, dass das tiefe Lernen nicht gültig ist.

„Einige dieser adversarial Ereignisse könnten Artefakte sein“, sagte er. „Wir müssen wissen, was diese Artefakte sind, um zu wissen, wie zuverlässig die Netze sind.“