Forscher entwickeln schnelle Methode zur Berechnung von Konfidenzintervallen und melden, wenn ein Modell nicht vertrauenswürdig ist

Forscher vom MIT haben kürzlich eine Technik entwickelt, die es tiefen Lernnetzmodellen ermöglicht, schnell Konfidenzlevel zu berechnen, was Datenwissenschaftlern und anderen AI-Nutzern helfen kann, zu wissen, wann sie den Vorhersagen eines Modells vertrauen können.

AI-Systeme, die auf künstlichen neuronalen Netzen basieren, sind für immer mehr Entscheidungen verantwortlich, einschließlich vieler Entscheidungen, die die Gesundheit und Sicherheit von Menschen betreffen. Aus diesem Grund sollten neuronale Netze eine Methode haben, um die Zuverlässigkeit ihrer Ausgaben zu schätzen, damit Datenwissenschaftler beurteilen können, wie vertrauenswürdig ihre Vorhersagen sind. Kürzlich entwickelte ein Team von Forschern von Harvard und MIT eine schnelle Methode, um neuronale Netze zu ermöglichen, eine Angabe der Konfidenz eines Modells neben seinen Vorhersagen zu generieren.

Tiefen Lernmodelle sind in den letzten zehn Jahren immer komplexer geworden und können jetzt leicht die Leistung von Menschen bei der Datenklassifizierung überbieten. Tiefen Lernmodelle werden in Bereichen eingesetzt, in denen die Gesundheit und Sicherheit von Menschen gefährdet werden kann, wenn sie versagen, wie z.B. bei der Steuerung autonomer Fahrzeuge und der Diagnose von medizinischen Zuständen aus Scans. In diesen Fällen reicht es nicht aus, dass ein Modell 99% genau ist, da die 1% der Fälle, in denen das Modell versagt, zu einer Katastrophe führen können. Daher muss es eine Möglichkeit geben, wie Datenwissenschaftler die Zuverlässigkeit einer Vorhersage bestimmen können.

Es gibt einige Methoden, um Konfidenzintervalle für die Vorhersagen neuronaler Netze zu generieren, aber traditionelle Methoden zur Schätzung der Unsicherheit für ein neuronales Netz sind ziemlich langsam und rechenintensiv. Neuronale Netze können sehr groß und komplex sein und Milliarden von Parametern enthalten. Die Generierung von Vorhersagen kann bereits rechenintensiv und zeitaufwändig sein, und die Generierung eines Konfidenzlevels für die Vorhersagen dauert noch länger. Die meisten bisherigen Methoden zur Quantifizierung der Unsicherheit basierten auf der Stichprobennahme oder dem mehrfachen Ausführen eines Netzes, um eine Schätzung seiner Konfidenz zu erhalten. Dies ist nicht immer möglich für Anwendungen, die einen hohen Datenverkehr erfordern.

Wie vom MIT News berichtet, leitet Alexander Amini die kombinierte Forschungsgruppe von MIT und Harvard, und laut Amini beschleunigt die von ihren Forschern entwickelte Methode den Prozess der Generierung von Unsicherheitsschätzungen mithilfe einer Technik namens “deep evidential regression”. Amini erklärte über MIT, dass Datenwissenschaftler sowohl schnelle Modelle als auch zuverlässige Schätzungen der Unsicherheit benötigen, um unzuverlässige Modelle zu erkennen. Um sowohl die Geschwindigkeit des Modells als auch die Generierung einer Unsicherheitsschätzung zu erhalten, entwarfen die Forscher eine Möglichkeit, die Unsicherheit aus einem einzigen Lauf des Modells zu schätzen.

Die Forscher entwarfen das neuronale Netzmodell so, dass eine probabilistische Verteilung neben jeder Entscheidung generiert wurde. Das Netz hält während des Trainingsprozesses Beweise für seine Entscheidungen fest und generiert eine Wahrscheinlichkeitsverteilung auf der Grundlage dieser Beweise. Die evidentielle Verteilung repräsentiert die Konfidenz des Modells und repräsentiert die Unsicherheit sowohl für die endgültige Entscheidung als auch für die ursprünglichen Eingabedaten. Die Erfassung der Unsicherheit für sowohl Eingabedaten als auch Entscheidungen ist wichtig, da die Reduzierung der Unsicherheit von der Kenntnis der Quelle der Unsicherheit abhängt.

Die Forscher testeten ihre Unsicherheitsschätzungstechnik, indem sie sie auf eine Computer-Vision-Aufgabe anwendeten. Nachdem das Modell auf einer Reihe von Bildern trainiert worden war, generierte es sowohl Vorhersagen als auch Unsicherheitsschätzungen. Das Netz projizierte korrekt eine hohe Unsicherheit für Fälle, in denen die falsche Vorhersage gemacht wurde. “Es war sehr kalibriert auf die Fehler, die das Netz macht, was wir glauben, eines der wichtigsten Dinge bei der Beurteilung der Qualität eines neuen Unsicherheitsschätzers ist”, sagte Amini über die Testergebnisse des Modells.

Das Forscherteam führte weitere Tests mit ihrer Netzarchitektur durch. Um die Technik zu testen, testeten sie die Daten auch auf “out-of-distribution”-Daten, also Datensätzen, die aus Objekten bestehen, die das Netz noch nie gesehen hat. Wie erwartet, meldete das Netz eine höhere Unsicherheit für diese unbekannten Objekte. Wenn es auf Innenraumumgebungen trainiert wurde, zeigte das Netz eine hohe Unsicherheit, wenn es auf Bilder von Außenumgebungen getestet wurde. Die Tests zeigten, dass das Netz Entscheidungen hervorheben kann, bei denen seine Entscheidungen einer hohen Unsicherheit unterliegen und in bestimmten, risikoreichen Situationen nicht vertrauenswürdig sind.

Das Forscherteam berichtete sogar, dass das Netz erkennen kann, wenn Bilder manipuliert wurden. Wenn das Forscherteam Fotos mit adverser Störung veränderte, markierte das Netz die neu veränderten Bilder mit hohen Unsicherheitsschätzungen, obwohl die Wirkung für den durchschnittlichen menschlichen Beobachter zu subtil war, um gesehen zu werden.

Wenn die Technik zuverlässig ist, kann die tiefe evidentielle Regression die Sicherheit von AI-Modellen im Allgemeinen verbessern. Laut Amini kann die tiefe evidentielle Regression Menschen helfen, vorsichtige Entscheidungen zu treffen, wenn sie AI-Modelle in risikoreichen Situationen verwenden. Wie Amini über MIT News erklärte:

“Wir sehen immer mehr von diesen [neuronalen Netz]-Modellen, die aus dem Forschungslabor und in die reale Welt gelangen, in Situationen, die Menschen mit potenziell lebensbedrohlichen Konsequenzen berühren. Jeder Benutzer der Methode, ob es sich um einen Arzt oder eine Person im Beifahrersitz eines Fahrzeugs handelt, muss sich der Risiken oder Unsicherheiten bewusst sein, die mit dieser Entscheidung verbunden sind.”