Исследование показывает, что модели ИИ не соответствуют человеческой зрительной обработке

Новое исследование Йоркского университета показывает, что глубокие свёрточные нейронные сети (DCNN) не соответствуют человеческой зрительной обработке с помощью конфигуральной формы восприятия. Согласно профессору Джеймсу Элдеру, соавтору исследования, это может иметь серьёзные и опасные последствия для реальных приложений ИИ.

Новое исследование под названием “Модели глубокого обучения не могут уловить конфигуральную природу человеческого восприятия формы” было опубликовано в журнале Cell Press iScience.

Это было совместное исследование Элдера, который занимает должность исследовательского председателя Йоркского университета в области человеческого и компьютерного зрения, а также должность ко-директора Центра ИИ и общества Йоркского университета, и профессора Николаса Бейкера, который является помощником профессора психологии и бывшим постдокторантом VISTA в Йоркском университете.

Новые визуальные стимулы “Франкенштейны”

Команда опиралась на новые визуальные стимулы, называемые “Франкенштейнами”, которые помогли им изучить, как человеческий мозг и DCNN обрабатывают целостные, конфигуральные объектные свойства.

“Франкенштейны – это просто объекты, которые были разобраны и собраны неправильно”, – говорит Элдер. “В результате они имеют все правильные локальные особенности, но в неправильных местах.”

Исследование показало, что DCNN не сбиты с толку “Франкенштейнами”, как человеческая зрительная система. Это раскрывает нечувствительность к конфигуральным объектным свойствам.

“Наши результаты объясняют, почему глубокие модели ИИ терпят неудачу при определенных условиях и указывают на необходимость учитывать задачи, выходящие за рамки распознавания объектов, чтобы понять зрительную обработку в мозге”, – продолжает Элдер. “Эти глубокие модели склонны использовать ‘обходные пути’ при решении сложных задач распознавания. Хотя эти обходные пути могут работать во многих случаях, они могут быть опасными в некоторых реальных приложениях ИИ, над которыми мы в настоящее время работаем с нашими промышленными и государственными партнерами.”

Изображение: Йоркский университет

Реальные последствия

Элдер говорит, что одним из таких приложений являются системы видеобезопасности трафика.

“Объекты в загруженной сцене трафика – транспортные средства, велосипеды и пешеходы – перекрывают друг друга и доходят до глаза водителя как набор разрозненных фрагментов”, – говорит он. “Мозг должен правильно сгруппировать эти фрагменты, чтобы определить правильные категории и местоположения объектов. Система ИИ для мониторинга безопасности трафика, которая может воспринимать только отдельные фрагменты, потерпит неудачу в этой задаче, потенциально неправильно понимая риски для уязвимых участников дорожного движения.”

Исследователи также говорят, что модификации обучения и архитектуры, направленные на то, чтобы сделать сети более похожими на мозг, не достигли конфигуральной обработки. Ни одна из сетей не смогла точно предсказать судебно-медицинские оценки объектов человека.

“Мы предполагаем, что для соответствия человеческой конфигуральной чувствительности сети должны быть обучены решать более широкий спектр задач объектов, выходящих за рамки распознавания категорий”, – заключает Элдер.