Modely a platformy AI
Studie ukazuje, že modely AI neodpovídají lidskému vizuálnímu zpracování
Klíčové bodyModely AI pro zpracování obrazu nedokážou postihnout celistvé tvary objektů na rozdíl…
Zobrazit více
- Modely AI pro zpracování obrazu nedokážou postihnout celistvé tvary objektů na rozdíl od lidského vnímání.
- Tato nedokonalost může nebezpečně vést k chybnému vyhodnocení rizik v praktických aplikacích, jako je bezpečnost provozu.
- Možná bude nutné trénovat neuronové sítě na širší škále úkolů, které přesahují pouhé jednoduché rozpoznávání.
Nová studie z Yorkské univerzity ukazuje, že hluboké konvoluční neuronové sítě (DCNN) neodpovídají lidskému vizuálnímu zpracování založenému na konfiguračním vnímání tvaru. Podle profesora Jamese Eldera, spoluautora studie, to může mít vážné a nebezpečné reálné důsledky pro aplikace AI.
Nová studie s názvem „Deep learning models fail to capture the configural nature of human shape perception“ byla zveřejněna v časopise Cell Press iScience.
Byla to spolupracující studie profesora Eldera, který je držitelem York Research Chair v oblasti lidského a počítačového vidění, a také spoludirektorem Yorkova centra pro AI a společnost, a profesora Nicholase Bakera, který je odborným asistentem v oboru psychologie a bývalým postdoktorandem VISTA na Yorku.
Nové vizuální stimuly „Frankensteini“
Tým se spoléhal na nové vizuální stimuly, nazývané „Frankensteini“, které jim pomohly prozkoumat, jak lidský mozek a DCNN zpracovávají holistické a konfigurační vlastnosti objektů.
„Frankensteini jsou prostě objekty, které byly rozebrány a zase složeny, ale špatně,“ říká Elder. „Výsledkem je, že mají všechny správné lokální rysy, ale na špatných místech.“
Studie zjistila, že DCNN nejsou zmateny Frankensteiny, jako je lidský vizuální systém. To odhaluje nesenzitivitu vůči konfiguračním objektovým vlastnostem.
„Naše výsledky vysvětlují, proč hluboké modely AI selhávají za určitých podmínek a poukazují na potřebu zvažovat úkoly přesahující rozpoznávání objektů, aby bylo možné pochopit vizuální zpracování v mozku,“ pokračuje Elder. „Tyto hluboké modely tendují k tomu, aby braly „zkratky“, když řeší složité rozpoznávací úkoly. Zatímco tyto zkratky mohou fungovat ve mnoha případech, mohou být nebezpečné v některých reálných aplikacích AI, na kterých aktuálně pracujeme s našimi průmyslovými a vládními partnery.“

Obrázek: Yorkská univerzita
Reálné důsledky
Elder říká, že jednou z těchto aplikací jsou videosystémy pro bezpečnost silničního provozu.
„Objekty v rušné silniční scéně – vozidla, kola a chodci – se navzájem překrývají a doručují do oka řidiče jako spleť nesouvisejících fragmentů,“ říká. „Mozek potřebuje správně seskupit tyto fragmenty, aby identifikoval správné kategorie a umístění objektů. Systém AI pro monitorování silničního provozu, který je schopen vnímat pouze fragmenty jednotlivě, selže v tomto úkolu, potenciálně nesprávně chápající rizika pro zranitelné účastníky silničního provozu.“
Výzkumníci také říkají, že úpravy školení a architektury zaměřené na to, aby sítě byly více podobné lidskému mozku, nezískaly konfigurační zpracování. Žádná ze sítí nebyla schopna přesně předpovědět lidská hodnocení objektů v každém jednotlivém pokusu.
„Spekuluje se, že aby se sítě přiblížily lidské konfigurační citlivosti, musí být školeny na širší rozsah objektových úkolů přesahujících rozpoznávání kategorií,“ uzavírá Elder.












