Estudio muestra que los modelos de inteligencia artificial no igualan el procesamiento visual humano

Un nuevo estudio de la Universidad de York muestra que las redes neuronales convolucionales profundas (DCNN) no igualan el procesamiento visual humano mediante la percepción de forma configural. Según el profesor James Elder, coautor del estudio, esto podría tener graves y peligrosas implicaciones en el mundo real para las aplicaciones de inteligencia artificial.

El nuevo estudio titulado “Modelos de aprendizaje profundo no capturan la naturaleza configural de la percepción de forma humana” se publicó en la revista Cell Press iScience.

Fue un estudio colaborativo de Elder, quien ocupa la Cátedra de Investigación de York en Visión Humana y Computacional, así como el cargo de Codirector del Centro de IA y Sociedad de York, y el profesor Nicholas Baker, quien es profesor asistente de psicología y ex becario postdoctoral de VISTA en York.

Estímulos visuales novedosos “Frankensteins”

El equipo se basó en estímulos visuales novedosos denominados “Frankensteins”, que les ayudaron a explorar cómo tanto el cerebro humano como las DCNN procesan las propiedades de objeto configural y holísticas.

“Los Frankensteins son simplemente objetos que se han desmontado y vuelto a armar de la manera incorrecta”, dice Elder. “Como resultado, tienen todas las características locales correctas, pero en los lugares incorrectos”.

El estudio encontró que las DCNN no se confunden con los Frankensteins como lo hace el sistema visual humano. Esto revela una insensibilidad a las propiedades de objeto configural.

“Nuestros resultados explican por qué los modelos de inteligencia artificial profunda fallan en ciertas condiciones y apuntan a la necesidad de considerar tareas más allá del reconocimiento de objetos para comprender el procesamiento visual en el cerebro”, continúa Elder. “Estos modelos profundos tienden a tomar ‘atajos’ al resolver tareas de reconocimiento complejas. Si bien estos atajos pueden funcionar en muchos casos, pueden ser peligrosos en algunas de las aplicaciones de inteligencia artificial que actualmente estamos trabajando con nuestros socios industriales y gubernamentales”.

Imagen: Universidad de York

Implicaciones en el mundo real

Elder dice que una de estas aplicaciones es el sistema de seguridad de video de tráfico.

“Los objetos en una escena de tráfico concurrida, los vehículos, bicicletas y peatones, se obstaculizan mutuamente y llegan al ojo del conductor como un montón de fragmentos desconectados”, dice. “El cerebro necesita agrupar correctamente esos fragmentos para identificar las categorías y ubicaciones correctas de los objetos. Un sistema de inteligencia artificial para la monitorización de la seguridad del tráfico que solo puede percibir los fragmentos individualmente fallará en esta tarea, potencialmente malentendiendo los riesgos para los usuarios de la carretera vulnerables”.

Los investigadores también dicen que las modificaciones en el entrenamiento y la arquitectura destinadas a hacer que las redes sean más similares al cerebro no lograron el procesamiento configural. Ninguna de las redes pudo predecir con precisión los juicios de objeto humano de prueba a prueba.

“Especulamos que para igualar la sensibilidad configural humana, las redes deben ser entrenadas para resolver una gama más amplia de tareas de objeto más allá del reconocimiento de categorías”, concluye Elder.