연구에 따르면 AI 모델은 인간의 시각 처리와 일치하지 않습니다.

York University의 새로운 연구에 따르면 DCNN(심층 컨벌루션 신경망)은 구성 모양 인식을 사용하여 인간의 시각적 처리와 일치하지 않습니다. 이 연구의 공동 저자인 James Elder 교수에 따르면 이것은 AI 응용 프로그램에 심각하고 위험한 실제 영향을 미칠 수 있습니다. 

"라는 제목의 새로운 연구딥 러닝 모델은 인간 모양 인식의 구성 특성을 포착하지 못합니다." 셀 프레스 저널에 실렸습니다. 아이사이언스. 

요크 AI & 사회 센터의 공동 소장이자 인간 및 컴퓨터 비전 분야의 요크 연구 의장을 맡고 있는 엘더(Elder)와 심리학 조교수이자 전 VISTA인 니콜라스 베이커(Nicholas Baker) 교수의 공동 연구였습니다. 요크의 박사후 연구원.

새로운 시각적 자극 "Frankensteins" 

팀은 "Frankensteins"라고 하는 새로운 시각적 자극에 의존하여 인간의 두뇌와 DCNN이 전체적이고 구성적인 개체 속성을 처리하는 방법을 탐색하는 데 도움을 주었습니다. 

"프랑켄슈타인은 단순히 분해되어 잘못된 방식으로 다시 조립된 물체입니다."라고 Elder는 말합니다. "결과적으로 그들은 모든 올바른 지역 기능을 가지고 있지만 잘못된 위치에 있습니다." 

이 연구는 DCNN이 인간의 시각 시스템처럼 프랑켄슈타인에 의해 혼동되지 않는다는 것을 발견했습니다. 이는 구성 개체 속성에 둔감함을 나타냅니다. 

"우리의 결과는 심층 AI 모델이 특정 조건에서 실패하는 이유를 설명하고 뇌의 시각적 처리를 이해하기 위해 물체 인식 이상의 작업을 고려해야 할 필요성을 지적합니다."라고 Elder는 계속합니다. “이 심층 모델은 복잡한 인식 작업을 해결할 때 '지름길'을 택하는 경향이 있습니다. 이러한 지름길은 많은 경우에 작동할 수 있지만 현재 업계 및 정부 파트너와 함께 작업하고 있는 일부 실제 AI 애플리케이션에서는 위험할 수 있습니다.”

이미지: 요크 대학교

실제 영향

Elder는 이러한 응용 프로그램 중 하나가 교통 비디오 안전 시스템이라고 말합니다. 

"교통량이 많은 차량, 자전거, 보행자와 같은 물체는 서로를 방해하고 단절된 파편의 뒤죽박죽으로 운전자의 눈에 도달합니다."라고 그는 말합니다. “뇌는 물체의 올바른 범주와 위치를 식별하기 위해 이러한 조각을 올바르게 그룹화해야 합니다. 파편만을 개별적으로 인식할 수 있는 교통 안전 모니터링을 위한 AI 시스템은 이 작업에 실패하여 취약한 도로 사용자에 대한 위험을 오해할 수 있습니다.” 

연구원들은 또한 네트워크를 보다 두뇌와 유사하게 만들기 위한 훈련 및 아키텍처 수정이 구성 처리를 달성하지 못했다고 말합니다. 네트워크 중 어느 것도 재판을 통해 사람의 대상 판단을 정확하게 예측할 수 없습니다. 

"우리는 인간의 구성 민감도와 일치하도록 네트워크가 카테고리 인식을 넘어 더 광범위한 객체 작업을 해결하도록 훈련되어야 한다고 추측합니다."라고 Elder는 결론을 내립니다.