연구: 인간의 시각 처리와 일치하지 않는 AI 모델

요크 대학의 새로운 연구에 따르면, 깊은 합성곱 신경망(DCNN)은 구성적 모양 인식을 사용하여 인간의 시각 처리와 일치하지 않는다. 연구의 공동 저자 인 제임스 엘더 교수에 따르면, 이것은 AI 응용 프로그램에 대해 심각하고 위험한 현실 세계의 의미를 가질 수 있다.

새로운 연구는 “인간의 모양 인식의 구성적 특성을 포착하지 못하는 깊은 학습 모델“로 제목이 붙여졌으며, Cell Press 저널 iScience에 발표되었다.

이 연구는 엘더와 함께 요크 대학의 AI 및 사회 연구 센터의 공동 디렉터이며, 요크 대학의 조직 심리학 교수이자 전 VISTA 포스닥 연구원인 니콜라스 베이커가 공동으로 수행한 연구이다.

새로운 시각적 자극 “프랑켄슈타인”

연구 팀은 인간의 뇌와 DCNN이 전체적, 구성적 객체 속성을 어떻게 처리하는지 탐구하기 위해 “프랑켄슈타인”이라고 불리는 새로운 시각적 자극을 사용하였다.

“프랑켄슈타인은 단순히 부분으로 분해되어 잘못된 순서로 다시 조립된 객체입니다.” 엘더는 말합니다. “결과적으로,它们는 올바른 지역적 특성을 가지고 있지만, 잘못된 위치에 있습니다.”

연구에 따르면, DCNN은 프랑켄슈타인에 의해 혼동되지 않는다. 이것은 구성적 객체 속성에 대한 둔감성을 보여준다.

“我们的 결과는 깊은 AI 모델이 특정 조건에서 실패하는 이유를 설명하며, 객체 인식 외의 작업을 고려하여 뇌의 시각 처리를 이해할 필요가 있음을 보여준다”고 엘더는 계속합니다. “이러한 깊은 모델은 복잡한 인식 작업을 해결할 때捷径을 취하는 경향이 있습니다. 이러한捷径은 많은 경우에 작동할 수 있지만, 현재 산업 및 정부 파트너와 함께 작업하고 있는 일부 실제 AI 응용 프로그램에서는 위험할 수 있습니다.”

이미지: 요크 대학

현실 세계의 의미

엘더는 이러한 응용 프로그램 중 하나가 교통 비디오 안전 시스템이라고 말합니다.

“바쁜 교통 장면中的 객체 – 차량, 자전거, 보행자 -는 서로를 가리고 운전자의 눈에 분리된 단편으로 도착합니다.”라고 그는 말합니다. “뇌는 이러한 단편을 올바르게 그룹화하여 객체의 올바른 범주와 위치를 식별해야 합니다. 개별적으로만 객체를 인식할 수 있는 교통 안전 모니터링을 위한 AI 시스템은 이 작업에 실패할 수 있으며, 취약한 도로 사용자에게 대한 위험을 잘못 이해할 수 있습니다.”

연구자들은 또한 네트워크를 더 뇌와 같은 방식으로 수정하여 구성적 처리를 달성하지 못했다고 말합니다. 어떤 네트워크도 인간의 객체 판단을 시도별로 정확하게 예측할 수 없었습니다.

“우리는 인간의 구성적 감도를 일치시키기 위해, 네트워크가 객체 인식 외의 더广泛한 객체 작업을 해결하도록 훈련되어야 한다고 추측합니다”고 엘더는 결론적으로 말합니다.