Studie zeigt, dass KI-Modelle menschliche visuelle Verarbeitung nicht nachahmen

Eine neue Studie der York University zeigt, dass tiefe konvolutionale neuronale Netze (DCNNs) die menschliche visuelle Verarbeitung durch die Verwendung von konfiguraler Formwahrnehmung nicht nachahmen. Laut Professor James Elder, Co-Autor der Studie, könnte dies ernsthafte und gefährliche reale Auswirkungen auf KI-Anwendungen haben.

Die neue Studie mit dem Titel “Tiefenlernmodelle erfassen nicht die konfigurale Natur der menschlichen Formwahrnehmung” wurde im Cell Press-Journal iScience veröffentlicht.

Es handelte sich um eine gemeinsame Studie von Elder, der den York Research Chair in Human and Computer Vision sowie die Co-Direktor-Position des York-Zentrums für KI und Gesellschaft innehat, und Professor Nicholas Baker, der als Assistenzprofessor für Psychologie und ehemaliger VISTA-Postdoktorand an der York University tätig ist.

Neue visuelle Reize “Frankensteins”

Das Team stützte sich auf neue visuelle Reize, die als “Frankensteins” bezeichnet werden, um zu erforschen, wie sowohl das menschliche Gehirn als auch DCNNs holistische, konfigurale Objekteigenschaften verarbeiten.

“Frankensteins sind einfach Objekte, die auseinandergenommen und falsch wieder zusammengebaut wurden”, sagt Elder. “Dadurch haben sie alle richtigen lokalen Merkmale, aber an den falschen Stellen.”

Die Studie ergab, dass DCNNs nicht von Frankensteins verwirrt werden, wie es das menschliche visuelle System ist. Dies zeigt eine Unempfindlichkeit gegenüber konfiguralen Objekteigenschaften.

“Unsere Ergebnisse erklären, warum tiefe KI-Modelle unter bestimmten Bedingungen versagen und auf die Notwendigkeit hinweisen, Aufgaben jenseits der Objekterkennung zu berücksichtigen, um die visuelle Verarbeitung im Gehirn zu verstehen”, fährt Elder fort. “Diese tiefen Modelle nehmen ‘Abkürzungen’, wenn sie komplexe Erkennungsaufgaben lösen. Obwohl diese Abkürzungen in vielen Fällen funktionieren, können sie in einigen der realen KI-Anwendungen, an denen wir derzeit mit unseren Industrie- und Regierungspartnern arbeiten, gefährlich sein.”

Bild: York University

Reale Auswirkungen

Elder sagt, dass eine dieser Anwendungen das Videosicherheitssystem für den Verkehr ist.

“Die Objekte in einer belebten Verkehrsszene – die Fahrzeuge, Fahrräder und Fußgänger – verdecken sich gegenseitig und erreichen das Auge eines Fahrers als ein Durcheinander von unverbundenen Fragmenten”, sagt er. “Das Gehirn muss diese Fragmente richtig gruppieren, um die richtigen Kategorien und Orte der Objekte zu identifizieren. Ein KI-System für die Verkehrsüberwachung, das nur in der Lage ist, die Fragmente einzeln wahrzunehmen, wird bei dieser Aufgabe versagen und möglicherweise die Risiken für verletzliche Verkehrsteilnehmer missverstehen.”

Die Forscher sagen auch, dass Modifizierungen an der Ausbildung und Architektur, die darauf abzielen, Netze mehr wie das Gehirn zu machen, die konfigurale Verarbeitung nicht erreichten. Keines der Netze konnte die menschlichen Objekturteile von Versuch zu Versuch genau vorhersagen.

“Wir spekulieren, dass Netze, um die menschliche konfigurale Empfindlichkeit zu erreichen, trainiert werden müssen, um eine breitere Palette von Objektaufgaben jenseits der Kategorisierung zu lösen”, schlussfolgert Elder.