Дослідження показало, що моделі штучного інтелекту не відповідають візуальній обробці людини

Нове дослідження Йоркського університету показало, що глибокі конволюційні нейронні мережі (ДКНН) не відповідають візуальній обробці людини за допомогою сприйняття конфігураційної форми. За словами професора Джеймса Елдера, співавтора дослідження, це може мати серйозні та небезпечні наслідки для застосувань штучного інтелекту в реальному світі.

Нове дослідження під назвою “Глибокі моделі навчання не здатні захопити конфігураційну природу сприйняття форми людиною” було опубліковано в журналі Cell Press iScience.

Це було колаборативне дослідження Елдера, який займає посаду голови досліджень Йоркського університету в галузі людського та комп’ютерного зору, а також посаду співдиректора Центру штучного інтелекту та суспільства в Йорку, та професора Ніколаса Бейкера, який є асистентом професора психології та колишнім постдокторантом ВІСТА в Йорку.

Нові візуальні стимули “Франкенштейни”

Команда використовувала нові візуальні стимули, які називають “Франкенштейнами”, щоб дослідити, як людський мозок та ДКНН обробляють цілісні, конфігураційні властивості об’єктів.

“Франкенштейни – це просто об’єкти, які були розібрані та зібрані неправильно”, – говорить Елдер. “В результаті вони мають всі правильні локальні властивості, але в неправильних місцях”.

Дослідження показало, що ДКНН не плутаються “Франкенштейнами”, як людська візуальна система. Це свідчить про відсутність чутливості до конфігураційних властивостей об’єктів.

“Наші результати пояснюють, чому глибокі моделі штучного інтелекту не працюють у певних умовах, та вказують на необхідність розгляду завдань, що виходять за межі розпізнавання об’єктів, щоб зрозуміти візуальну обробку в мозку”, – продовжує Елдер. “Ці глибокі моделі часто використовують “скорочення” при розв’язанні складних завдань розпізнавання. Хоча ці скорочення можуть працювати в багатьох випадках, вони можуть бути небезпечними в деяких застосувань штучного інтелекту, над якими ми зараз працюємо з нашими промисловими та урядовими партнерами”.

Зображення: Йоркський університет

Наступні наслідки в реальному світі

Елдер каже, що одним із таких застосувань є системи відеомоніторингу безпеки дорожнього руху.

“Об’єкти на зайнятій дорозі – транспортні засоби, велосипеди та пішоходи – перекривають один одного та доходять до ока водія у вигляді заплутаного набору роз’єднаних фрагментів”, – говорить він. “Мозок потребує правильної групи цих фрагментів, щоб ідентифікувати правильні категорії та місця розташування об’єктів. Система штучного інтелекту для моніторингу безпеки дорожнього руху, яка здатна сприймати лише окремі фрагменти, буде невдалим у цьому завданні, потенційно неправильно розуміючи ризики для вразливих учасників дорожнього руху”.

Дослідники також кажуть, що модифікації навчання та архітектури, спрямовані на те, щоб зробити мережі більш подібними до людського мозку, не досягли конфігураційної обробки. жодна з мереж не могла точно передбачити судження людини про об’єкти у кожному окремому випадку.

“Ми припускаємо, що для досягнення людської чутливості до конфігурації мережі повинні бути навчені розв’язувати ширший спектр завдань з об’єктами, що виходять за межі розпізнавання категорій”, – підсумовує Елдер.