AI మోడల్స్ హ్యూమన్ విజువల్ ప్రాసెసింగ్‌తో సరిపోలడం లేదని అధ్యయనం చూపిస్తుంది

యార్క్ యూనివర్శిటీ నుండి వచ్చిన ఒక కొత్త అధ్యయనం ప్రకారం డీప్ కన్వల్యూషనల్ న్యూరల్ నెట్‌వర్క్‌లు (DCNNలు) కాన్ఫిగర్ షేప్ పర్సెప్షన్‌ని ఉపయోగించడం ద్వారా మానవ విజువల్ ప్రాసెసింగ్‌తో సరిపోలడం లేదు. అధ్యయనం యొక్క సహ-రచయిత ప్రొఫెసర్ జేమ్స్ ఎల్డర్ ప్రకారం, ఇది AI అనువర్తనాలకు తీవ్రమైన మరియు ప్రమాదకరమైన వాస్తవ-ప్రపంచ చిక్కులను కలిగిస్తుంది. 

కొత్త అధ్యయనం పేరుతో "డీప్ లెర్నింగ్ మోడల్స్ మానవ ఆకార అవగాహన యొక్క కాన్ఫిగరల్ స్వభావాన్ని సంగ్రహించడంలో విఫలమవుతాయి” సెల్ ప్రెస్ జర్నల్‌లో ప్రచురించబడింది iScience. 

ఇది హ్యూమన్ అండ్ కంప్యూటర్ విజన్‌లో యార్క్ రీసెర్చ్ చైర్‌ను, అలాగే యార్క్ సెంటర్ ఫర్ AI & సొసైటీ యొక్క కో-డైరెక్టర్ హోదాను కలిగి ఉన్న ఎల్డర్ మరియు అసిస్టెంట్ సైకాలజీ ప్రొఫెసర్ మరియు మాజీ VISTA ప్రొఫెసర్ అయిన నికోలస్ బేకర్ చేసిన సహకార అధ్యయనం. యార్క్‌లో పోస్ట్‌డాక్టోరల్ ఫెలో.

నవల విజువల్ స్టిమ్యులి "ఫ్రాంకెన్‌స్టైయిన్స్" 

ఈ బృందం "ఫ్రాంకెన్‌స్టైయిన్స్"గా సూచించబడే నవల దృశ్య ఉద్దీపనలపై ఆధారపడింది, ఇది మానవ మెదడు మరియు DCNNలు రెండూ సంపూర్ణ, ఆకృతీకరణ వస్తువు లక్షణాలను ఎలా ప్రాసెస్ చేస్తాయో అన్వేషించడంలో వారికి సహాయపడింది. 

"ఫ్రాంకెన్‌స్టైయిన్‌లు కేవలం విడదీయబడిన మరియు తప్పు మార్గంలో తిరిగి ఉంచబడిన వస్తువులు" అని ఎల్డర్ చెప్పారు. "ఫలితంగా, వారు అన్ని సరైన స్థానిక లక్షణాలను కలిగి ఉన్నారు, కానీ తప్పు ప్రదేశాలలో ఉన్నారు." 

DCNNలు మానవ దృశ్య వ్యవస్థ వలె ఫ్రాంకెన్‌స్టైయిన్‌లచే అయోమయం చెందవని అధ్యయనం కనుగొంది. ఇది కాన్ఫిగరల్ ఆబ్జెక్ట్ లక్షణాలకు సున్నితత్వాన్ని వెల్లడిస్తుంది. 

"నిర్దిష్ట పరిస్థితులలో లోతైన AI నమూనాలు ఎందుకు విఫలమవుతాయో మా ఫలితాలు వివరిస్తాయి మరియు మెదడులోని విజువల్ ప్రాసెసింగ్‌ను అర్థం చేసుకోవడానికి వస్తువు గుర్తింపుకు మించిన పనులను పరిగణించవలసిన అవసరాన్ని సూచిస్తాయి" అని ఎల్డర్ కొనసాగిస్తున్నాడు. "ఈ లోతైన నమూనాలు సంక్లిష్ట గుర్తింపు పనులను పరిష్కరించేటప్పుడు 'సత్వరమార్గాలను' తీసుకుంటాయి. ఈ షార్ట్‌కట్‌లు చాలా సందర్భాలలో పని చేస్తున్నప్పటికీ, ప్రస్తుతం మేము మా పరిశ్రమ మరియు ప్రభుత్వ భాగస్వాములతో కలిసి పని చేస్తున్న కొన్ని వాస్తవ-ప్రపంచ AI అప్లికేషన్‌లలో అవి ప్రమాదకరంగా ఉంటాయి.

వాస్తవ-ప్రపంచ చిక్కులు

ఈ అప్లికేషన్లలో ఒకటి ట్రాఫిక్ వీడియో సేఫ్టీ సిస్టమ్స్ అని ఎల్డర్ చెప్పారు. 

"బిజీ ట్రాఫిక్ సీన్‌లోని వస్తువులు - వాహనాలు, సైకిళ్లు మరియు పాదచారులు - ఒకదానికొకటి అడ్డుపడతాయి మరియు డిస్‌కనెక్ట్ చేయబడిన శకలాలు గందరగోళంగా డ్రైవర్ కంటికి వస్తాయి" అని ఆయన చెప్పారు. “వస్తువుల సరైన వర్గాలు మరియు స్థానాలను గుర్తించడానికి మెదడు ఆ శకలాలను సరిగ్గా సమూహపరచాలి. శకలాలను వ్యక్తిగతంగా మాత్రమే గ్రహించగలిగే ట్రాఫిక్ భద్రతా పర్యవేక్షణ కోసం AI వ్యవస్థ ఈ పనిలో విఫలమవుతుంది, హాని కలిగించే రహదారి వినియోగదారులకు ప్రమాదాలను తప్పుగా అర్థం చేసుకోవచ్చు. 

నెట్‌వర్క్‌లను మరింత మెదడు-వంటివిగా మార్చే లక్ష్యంతో శిక్షణ మరియు నిర్మాణానికి మార్పులు కాన్ఫిగరల్ ప్రాసెసింగ్‌ను సాధించలేదని పరిశోధకులు అంటున్నారు. నెట్‌వర్క్‌లు ఏవీ ట్రయల్-బై-ట్రయల్ హ్యూమన్ ఆబ్జెక్ట్ తీర్పులను ఖచ్చితంగా అంచనా వేయలేకపోయాయి. 

"మానవ కాన్ఫిగరల్ సెన్సిటివిటీని సరిపోల్చడానికి, నెట్‌వర్క్‌లు వర్గం గుర్తింపుకు మించి విస్తృత శ్రేణి ఆబ్జెక్ట్ టాస్క్‌లను పరిష్కరించడానికి శిక్షణ పొందాలని మేము ఊహిస్తున్నాము" అని ఎల్డర్ ముగించారు