Studie ukazuje, že modely AI neodpovídají lidskému vizuálnímu zpracování

Nová studie z Yorkské univerzity ukazuje, že hluboké konvoluční neuronové sítě (DCNN) neodpovídají lidskému vizuálnímu zpracování pomocí configurační tvarové percepci. Podle profesora Jamese Eldera, spoluarautora studie, to může mít vážné a nebezpečné reálné důsledky pro aplikace AI.

Nová studie s názvem „Deep learning models fail to capture the configural nature of human shape perception“ byla zveřejněna v časopise Cell Press iScience.

Byla to spolupracující studie profesora Eldera, který je držitelem York Research Chair v oblasti lidského a počítačového vidění, a také spoludirektorem Yorkova centra pro AI a společnost, a profesora Nicholase Bakera, který je asistentem psychologie a bývalým postdoktorandem VISTA na Yorku.

Nové vizuální stimuly „Frankensteini“

Tým se spoléhal na nové vizuální stimuly, nazývané „Frankensteini“, které jim pomohly prozkoumat, jak lidský mozek a DCNN zpracovávají holistické, configurační objekty.

„Frankensteini jsou prostě objekty, které byly rozebrány a zase složeny, ale špatně,“ říká Elder. „Výsledkem je, že mají všechny správné lokální rysy, ale na špatných místech.“

Studie zjistila, že DCNN nejsou zmateny Frankensteiny, jako je lidský vizuální systém. To odhaluje nesenzitivitu vůči configuračním objektovým vlastnostem.

„Naše výsledky vysvětlují, proč hluboké modely AI selhávají za určitých podmínek a poukazují na potřebu zvažovat úkoly beyond objektové rozpoznání, aby bylo možné pochopit vizuální zpracování v mozku,“ pokračuje Elder. „Tyto hluboké modely tendují k tomu, aby braly „zkratky“, když řeší složité rozpoznávací úkoly. Zatímco tyto zkratky mohou fungovat ve mnoha případech, mohou být nebezpečné v některých reálných aplikacích AI, na kterých aktuálně pracujeme s našimi průmyslovými a vládními partnery.“

Obrázek: Yorkská univerzita

Reálné důsledky

Elder říká, že jednou z těchto aplikací jsou systémy pro bezpečnost silničního provozu.

„Objekty v rušné silniční scéně – vozidla, kola a chodci – se navzájem překrývají a doručují do oka řidiče jako spleť nesouvisejících fragmentů,“ říká. „Mozek potřebuje správně seskupit tyto fragmenty, aby identifikoval správné kategorie a umístění objektů. Systém AI pro monitorování silničního provozu, který je schopen vnímat pouze fragmenty jednotlivě, selže v tomto úkolu, potenciálně nesprávně chápající rizika pro zranitelné účastníky silničního provozu.“

Výzkumníci také říkají, že úpravy školení a architektury zaměřené na to, aby sítě byly více podobné lidskému mozku, nezískaly configurační zpracování. Žádná ze sítí nebyla schopna přesně předpovědět lidská objektivní hodnocení.

„Spekuluje se, že aby se sítě přiblížily lidské configurační citlivosti, musí být školeny na širší rozsah objektových úkolů beyond rozpoznání kategorií,“ uzavírá Elder.