Suposiciones comunes sobre los fallos de aprendizaje automático podrían estar equivocadas

Las redes neuronales profundas son uno de los aspectos más fundamentales de la inteligencia artificial (IA), ya que se utilizan para procesar imágenes y datos a través de modelado matemático. Son responsables de algunos de los mayores avances en el campo, pero también fallan de diversas maneras. Estos fallos pueden tener un impacto pequeño o inexistente, como una simple mala identificación, o uno más dramático y letal, como un fallo en la conducción autónoma.

Una nueva investigación de la Universidad de Houston sugiere que nuestras suposiciones comunes sobre estos fallos podrían estar equivocadas, lo que podría ayudar a evaluar la confiabilidad de las redes en el futuro.

El artículo se publicó en Nature Machine Intelligence en noviembre.

“Ejemplos adversos”

El aprendizaje automático y otros tipos de IA son fundamentales en muchos sectores y tareas, como los sistemas bancarios y de ciberseguridad. Según Cameron Buckner, profesor asociado de filosofía en la Universidad de Houston, es necesario entender los fallos causados por los “ejemplos adversos”. Estos ejemplos adversos ocurren cuando un sistema de redes neuronales profundas malinterpreta imágenes y otros datos cuando se encuentra con información fuera de los datos de entrenamiento utilizados para desarrollar la red.

Los ejemplos adversos son raros, ya que muchas veces son creados o descubiertos por otra red de aprendizaje automático.

“Algunos de estos eventos adversos podrían ser en realidad artefactos, y necesitamos conocer mejor qué son para saber cuán confiables son estas redes”, escribió Buckner.

Buckner está diciendo que el fallo podría ser causado por la interacción entre los patrones reales involucrados y lo que la red intenta procesar, lo que significa que no es un error completo.

Patrones como artefactos

“Entender las implicaciones de los ejemplos adversos requiere explorar una tercera posibilidad: que al menos algunos de estos patrones son artefactos”, dijo Buckner. “Por lo tanto, hay actualmente tanto costos en descartar simplemente estos patrones como peligros en utilizarlos de manera ingenua”.

Aunque no siempre es el caso, la malicia intencional es el mayor riesgo con respecto a estos eventos adversos que causan fallos en el aprendizaje automático.

“Significa que actores maliciosos podrían engañar a sistemas que confían en una red de lo contrario confiable”, dijo Buckner. “Eso tiene aplicaciones de seguridad”.

Esto podría ser hackers que violan un sistema de seguridad basado en tecnología de reconocimiento facial, o señales de tráfico mal etiquetadas para confundir a vehículos autónomos.

Otras investigaciones anteriores han demostrado que algunos de los ejemplos adversos son naturales, que ocurren cuando un sistema de aprendizaje automático malinterpreta los datos a través de una interacción inesperada, lo que es diferente a los errores en los datos. Estos ejemplos naturales son raros, y la única forma actual de descubrirlos es a través de la IA.

Sin embargo, Buckner dice que los investigadores necesitan replantear la forma en que abordan las anomalías.

Estas anomalías, o artefactos, se explican a través de la analogía de un reflejo de lente en una fotografía, que no es causado por un defecto en la lente de la cámara, sino por la interacción de la luz con la cámara.

Si se sabe cómo interpretar el reflejo de lente, se puede extraer información importante, como la ubicación del sol. Por lo tanto, Buckner cree que es posible extraer información igualmente valiosa de eventos adversos en el aprendizaje automático que son causados por el artefacto.

Buckner también dice que todo esto no significa automáticamente que el aprendizaje profundo no sea válido.

“Algunos de estos eventos adversos podrían ser artefactos”, dijo. “Necesitamos saber qué son estos artefactos para saber cuán confiables son las redes”.