AI 모델 및 플랫폼

연구: 인간의 시각 처리와 일치하지 않는 AI 모델

Alex McFarland
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트AI 비전 모델은 인간의 인식과 달리 객체의 전체적인 형태를 파악하지 못합니다.
더 보기
  • AI 비전 모델은 인간의 인식과 달리 객체의 전체적인 형태를 파악하지 못합니다.
  • 이 결함은 교통 안전과 같은 실제 적용 상황에서 위험을 위험하게 오판할 수 있습니다.
  • 단순 인식을 넘어 더 광범위한 작업으로 네트워크를 훈련시킬 필요가 있을 수 있습니다.

요크 대학의 새로운 연구에 따르면, 깊은 합성곱 신경망(DCNN)은 구성적 모양 인식을 사용하여 인간의 시각 처리와 일치하지 않는다. 연구의 공동 저자 인 제임스 엘더 교수에 따르면, 이것은 AI 응용 프로그램에 대해 심각하고 위험한 현실 세계의 의미를 가질 수 있다.

새로운 연구는 “인간의 모양 인식의 구성적 특성을 포착하지 못하는 깊은 학습 모델“로 제목이 붙여졌으며, Cell Press 저널 iScience에 발표되었다.

이 연구는 요크 대학의 인간·컴퓨터 시각 연구 석좌이자 AI 및 사회 센터 공동 소장인 엘더와, 심리학 조교수이자 요크 대학의 전 VISTA 박사후연구원인 니콜라스 베이커 교수가 공동으로 수행했다.

새로운 시각적 자극 “프랑켄슈타인”

연구 팀은 인간의 뇌와 DCNN이 전체적, 구성적 객체 속성을 어떻게 처리하는지 탐구하기 위해 “프랑켄슈타인”이라고 불리는 새로운 시각적 자극을 사용하였다.

“프랑켄슈타인은 단순히 부분으로 분해되어 잘못된 순서로 다시 조립된 객체입니다.” 엘더는 말합니다. “결과적으로,이들은 올바른 지역적 특성을 가지고 있지만, 잘못된 위치에 있습니다.”

연구에 따르면, DCNN은 프랑켄슈타인에 의해 혼동되지 않는다. 이것은 구성적 객체 속성에 대한 둔감성을 보여준다.

“우리의 결과는 깊은 AI 모델이 특정 조건에서 실패하는 이유를 설명하며, 객체 인식 외의 작업을 고려하여 뇌의 시각 처리를 이해할 필요가 있음을 보여준다”고 엘더는 계속합니다. “이러한 깊은 모델은 복잡한 인식 작업을 해결할 때 지름길을 취하는 경향이 있습니다. 이러한 지름길은 많은 경우에 작동할 수 있지만, 현재 산업 및 정부 파트너와 함께 작업하고 있는 일부 실제 AI 응용 프로그램에서는 위험할 수 있습니다.”

이미지: 요크 대학

현실 세계의 의미

엘더는 이러한 응용 프로그램 중 하나가 교통 비디오 안전 시스템이라고 말합니다.

“바쁜 교통 장면 속 객체 – 차량, 자전거, 보행자 -는 서로를 가리고 운전자의 눈에 분리된 단편으로 도착합니다.”라고 그는 말합니다. “뇌는 이러한 단편을 올바르게 그룹화하여 객체의 올바른 범주와 위치를 식별해야 합니다. 단편을 개별적으로만 인식할 수 있는 교통 안전 모니터링을 위한 AI 시스템은 이 작업에 실패할 수 있으며, 취약한 도로 사용자에게 대한 위험을 잘못 이해할 수 있습니다.”

연구자들은 또한 네트워크를 뇌와 더 비슷하게 만들기 위해 학습과 구조를 수정했지만 구성적 처리를 달성하지 못했다고 말합니다. 어떤 네트워크도 인간의 객체 판단을 시도별로 정확하게 예측할 수 없었습니다.

“우리는 인간의 구성적 감도를 일치시키기 위해, 네트워크가 범주 인식 외의 더 광범위한 객체 관련 작업을 해결하도록 훈련되어야 한다고 추측합니다”고 엘더는 결론적으로 말합니다.

Alex는 Unite.AI의 AI 기반 뉴스 운영을 이끌고 있습니다. 저널리즘, 조사, 자동화를 결합해 인공지능에 관한 소식을 시의적절하게, 확장 가능한 방식으로 보도할 수 있도록 지원합니다. 그의 업무는 매체의 편집 기준을 유지하면서 새로운 AI 동향을 효율적으로 찾아 보도하는 데 기여합니다.