Forscher entwickeln “DeepTrust”-Tool, um die Vertrauenswürdigkeit von KI zu erhöhen

Die Sicherheit und Vertrauenswürdigkeit von künstlicher Intelligenz (KI) ist einer der größten Aspekte dieser Technologie. Sie wird ständig von Top-Experten in den verschiedenen Bereichen verbessert und bearbeitet und wird für die vollständige Implementierung von KI in der Gesellschaft von entscheidender Bedeutung sein.

Einige dieser neuen Arbeiten kommen aus der University of Southern California, wo Forscher der USC Viterbi School of Engineering ein neues Tool entwickelt haben, das in der Lage ist, automatische Indikatoren für die Vertrauenswürdigkeit von KI-Algorithmen in ihren Daten und Vorhersagen zu generieren.

Die Forschung wurde in Frontiers in Artificial Intelligence veröffentlicht, mit dem Titel „Es gibt Hoffnung nach allem: Quantifizierung von Meinungen und Vertrauenswürdigkeit in neuronalen Netzen“. Die Autoren des Papiers sind Mingxi Cheng, Shahin Nazarian und Paul Bogdan von der USC Cyber Physical Systems Group.

Vertrauenswürdigkeit von neuronalen Netzen

Eine der größten Aufgaben in diesem Bereich ist es, neuronale Netze zu entwickeln, die Vorhersagen liefern können, die vertrauenswürdig sind. In vielen Fällen ist dies das, was die vollständige Übernahme von Technologien, die auf KI basieren, verhindert.

Zum Beispiel müssen selbstfahrende Fahrzeuge unabhängig handeln und genaue Entscheidungen auf Autopilot treffen. Sie müssen in der Lage sein, diese Entscheidungen extrem schnell zu treffen, während sie Objekte auf der Straße erkennen und interpretieren. Dies ist besonders wichtig in Szenarien, in denen die Technologie den Unterschied zwischen einem Geschwindigkeitsbegrenzer, einem anderen Objekt oder einem lebenden Wesen erkennen muss.

Andere Szenarien umfassen die Entscheidung des selbstfahrenden Fahrzeugs, was es tun soll, wenn ein anderes Fahrzeug frontal auf es zukommt, und die komplexeste Entscheidung von allen ist, ob das selbstfahrende Fahrzeug entscheiden muss, ob es ein anderes Fahrzeug, ein Objekt oder ein lebendes Wesen treffen soll.

All dies bedeutet, dass wir ein extremes Maß an Vertrauen in die Fähigkeit der Software des selbstfahrenden Fahrzeugs setzen, die richtige Entscheidung in Bruchteilen einer Sekunde zu treffen. Es wird noch schwieriger, wenn es widersprüchliche Informationen von verschiedenen Sensoren gibt, wie z.B. Computer-Vision-Kameras und Lidar.

Der Hauptautor Minxi Cheng entschied sich, dieses Projekt aufzunehmen, nachdem er gedacht hatte: “Auch Menschen können in bestimmten Entscheidungssituationen unsicher sein. In Fällen mit widersprüchlichen Informationen, warum können Maschinen uns nicht sagen, wenn sie es nicht wissen?”

DeepTrust

Das von den Forschern entwickelte Tool heißt DeepTrust und ist in der Lage, die Menge an Unsicherheit zu quantifizieren, laut Paul Bogdan, einem Associate Professor in der Abteilung für Elektrotechnik und Informatik.

Das Team verbrachte fast zwei Jahre mit der Entwicklung von DeepTrust, hauptsächlich durch die Verwendung von subjektiver Logik, um die neuronalen Netze zu bewerten. In einem Beispiel, in dem das Tool funktioniert, konnte es die Präsidentschaftswahlen von 2016 analysieren und vorhersagen, dass es einen größeren Fehlerbereich für den Sieg von Hillary Clinton gab.

Das DeepTrust-Tool macht es auch einfacher, die Zuverlässigkeit von KI-Algorithmen zu testen, die normalerweise auf bis zu Millionen von Datenpunkten trainiert werden. Die andere Möglichkeit, dies zu tun, besteht darin, jeden Datenpunkt unabhängig zu überprüfen, um die Genauigkeit zu testen, was eine extrem zeitaufwändige Aufgabe ist.

Laut den Forschern ist die Architektur dieser neuronalen Netzwerksysteme genauer, und Genauigkeit und Vertrauen können gleichzeitig maximiert werden.

“Unser Wissen gibt es kein Vertrauens-Quantifizierungsmodell oder -Tool für Deep Learning, künstliche Intelligenz und maschinelles Lernen. Dies ist der erste Ansatz und öffnet neue Forschungsrichtungen”, sagt Bogdan.

Bogdan glaubt auch, dass DeepTrust dazu beitragen kann, KI voranzutreiben, bis sie “bewusst und anpassungsfähig” ist.