Badanie wykazuje, że modele AI nie odpowiadają ludzkiej percepcji wzrokowej

Nowe badanie przeprowadzone przez Uniwersytet Yorku wykazało, że głębokie sieci neuronowe convolutional (DCNN) nie odpowiadają ludzkiej percepcji wzrokowej poprzez użycie percepcji kształtu konfiguracyjnego. Zgodnie z oświadczeniem profesora Jamesa Elder, współautora badania, może to mieć poważne i niebezpieczne konsekwencje w świecie rzeczywistym dla aplikacji AI.

Nowe badanie zatytułowane „Modele głębokiego uczenia się nie są w stanie uchwycić konfiguracyjnej natury ludzkiej percepcji kształtu” zostało opublikowane w czasopiśmie Cell Press iScience.

Było to badanie przeprowadzone we współpracy z Elderem, który zajmuje stanowisko York Research Chair in Human and Computer Vision, a także pełni funkcję współdyrektora Centrum AI & Society na Uniwersytecie York, oraz profesorem Nicholasem Bakerem, który jest asystentem profesora psychologii i byłym stypendystą VISTA na Uniwersytecie York.

Nowe bodźce wzrokowe „Frankensteiny”

Zespół opierał się na nowych bodźcach wzrokowych, określanych jako „Frankensteiny”, które pomogły im zbadać, w jaki sposób zarówno ludzki mózg, jak i DCNN przetwarzają całościowe, konfiguracyjne właściwości obiektów.

„Frankensteiny to po prostu obiekty, które zostały rozebrane i ponownie złożone w niewłaściwy sposób”, mówi Elder. „W rezultacie mają wszystkie prawidłowe cechy lokalne, ale w niewłaściwych miejscach.”

Badanie wykazało, że DCNN nie są mylone przez Frankensteiny, tak jak ludzki system wzrokowy. To ujawnia brak wrażliwości na właściwości konfiguracyjne obiektów.

„Nasze wyniki wyjaśniają, dlaczego głębokie modele AI zawodzą w pewnych warunkach i wskazują na potrzebę rozważania zadań poza rozpoznawaniem obiektów, aby zrozumieć przetwarzanie wzrokowe w mózgu”, kontynuuje Elder. „Te głębokie modele mają tendencję do podejmowania „skrótów” przy rozwiązywaniu złożonych zadań rozpoznawania. Chociaż te skróty mogą działać w wielu przypadkach, mogą być niebezpieczne w niektórych zastosowaniach AI, nad którymi obecnie pracujemy z naszymi partnerami z branży i rządu.”

Zdjęcie: Uniwersytet York

Konsekwencje w świecie rzeczywistym

Elder mówi, że jednym z takich zastosowań są systemy bezpieczeństwa ruchu drogowego.

„Obiekty w zatłoczonym scenariuszu ruchu drogowego – pojazdy, rowery i piesi – przeszkadzają sobie nawzajem i docierają do oka kierowcy jako plątanina rozłącznych fragmentów”, mówi. „Mózg musi prawidłowo pogrupować te fragmenty, aby zidentyfikować prawidłowe kategorie i lokalizacje obiektów. System AI do monitorowania bezpieczeństwa ruchu drogowego, który jest w stanie postrzegać tylko fragmenty indywidualnie, zawiedzie w tym zadaniu, potencjalnie niezrozumiejąc ryzyka dla użytkowników dróg.”

Badacze twierdzą również, że modyfikacje szkolenia i architektury mające na celu uczynienie sieci bardziej podobnymi do mózgu nie osiągnęły przetwarzania konfiguracyjnego. Żadna z sieci nie była w stanie dokładnie przewidzieć sądów ludzkich co do obiektów w próbach.

„Spekulujemy, że aby dopasować ludzką wrażliwość konfiguracyjną, sieci muszą być szkolone do rozwiązywania szerszego zakresu zadań związanych z obiektami poza rozpoznawaniem kategorii”, kończy Elder