Estudo Mostra que Modelos de IA Não Correspondem ao Processamento Visual Humano

Um novo estudo da Universidade de York mostra que redes neurais convolucionais profundas (DCNNs) não correspondem ao processamento visual humano por meio da percepção de forma configural. De acordo com o Professor James Elder, coautor do estudo, isso pode ter implicações reais e perigosas para aplicações de IA.

O novo estudo intitulado “Modelos de aprendizado profundo falham em capturar a natureza configural da percepção de forma humana” foi publicado na revista Cell Press iScience.

Foi um estudo colaborativo de Elder, que ocupa a Cátedra de Pesquisa de Visão Humana e Computacional da York, bem como a posição de Co-Diretor do Centro de IA e Sociedade da York, e do Professor Nicholas Baker, que é professor assistente de psicologia e ex-bolsista de pós-doutorado da VISTA na York.

Estímulos Visuais Novos “Frankensteins”

A equipe confiou em estímulos visuais novos referidos como “Frankensteins”, que os ajudaram a explorar como o cérebro humano e as DCNNs processam propriedades de objeto configural e holísticas.

“Frankensteins são simplesmente objetos que foram desmontados e remontados do jeito errado”, diz Elder. “Como resultado, eles têm todas as características locais certas, mas nos lugares errados.”

O estudo descobriu que as DCNNs não são confundidas por Frankensteins como o sistema visual humano é. Isso revela uma insensibilidade às propriedades configurais de objeto.

“Nossos resultados explicam por que os modelos de IA profundos falham em certas condições e apontam para a necessidade de considerar tarefas além do reconhecimento de objeto para entender o processamento visual no cérebro”, continua Elder. “Esses modelos profundos tendem a tomar ‘atalhos’ ao resolver tarefas de reconhecimento complexas. Embora esses atalhos possam funcionar em muitos casos, eles podem ser perigosos em algumas das aplicações de IA reais que estamos trabalhando atualmente com nossos parceiros da indústria e do governo.”

Imagem: Universidade de York

Implicações no Mundo Real

Elder diz que uma dessas aplicações é o sistema de segurança de vídeo de trânsito.

“Os objetos em uma cena de trânsito movimentada — os veículos, bicicletas e pedestres — obstruem uns aos outros e chegam ao olho do motorista como um amontoado de fragmentos desconexos”, diz ele. “O cérebro precisa agrupar corretamente esses fragmentos para identificar as categorias e localizações corretas dos objetos. Um sistema de IA para monitoramento de segurança de trânsito que só consegue perceber os fragmentos individualmente falhará nessa tarefa, potencialmente mal interpretando os riscos para os usuários vulneráveis da estrada.”

Os pesquisadores também dizem que modificações no treinamento e arquitetura visando tornar as redes mais semelhantes ao cérebro não alcançaram o processamento configural. Nenhuma das redes pôde prever com precisão os julgamentos de objeto humano em julgamento por julgamento.

“Speculamos que, para corresponder à sensibilidade configural humana, as redes devem ser treinadas para resolver uma gama mais ampla de tarefas de objeto além do reconhecimento de categoria”, conclui Elder.