Equipo de investigación del MIT diseña una red de inteligencia artificial para resistir ejemplos adversarios

Un equipo de investigadores del MIT ha desarrollado un algoritmo de aprendizaje profundo destinado a ayudar a las inteligencias artificiales a lidiar con ejemplos “adversarios”, que pueden hacer que una inteligencia artificial tome decisiones incorrectas y realice acciones incorrectas. El algoritmo diseñado por el equipo del MIT puede ayudar a los sistemas de inteligencia artificial a mantener su precisión y evitar cometer errores cuando se enfrentan a puntos de datos confusos.

Los sistemas de inteligencia artificial analizan las características de entrada de un evento para decidir cómo responder a ese evento. Una inteligencia artificial responsable de maniobrar un vehículo autónomo debe tomar datos de las cámaras del vehículo y decidir qué hacer en función de los datos contenidos en esas imágenes. Sin embargo, existe la posibilidad de que los datos de la imagen que se analiza no sean una representación precisa del mundo real. Un error en el sistema de cámara podría alterar algunos de los píxeles, lo que lleva a la inteligencia artificial a sacar conclusiones incorrectas sobre el curso de acción adecuado.

Las “entradas adversas” son como ilusiones ópticas para un sistema de inteligencia artificial. Son entradas que confunden a la inteligencia artificial de alguna manera. Las entradas adversas pueden ser creadas con el objetivo expreso de hacer que la inteligencia artificial cometa errores, representando los datos de una manera que hace que la inteligencia artificial crea que el contenido de un ejemplo es una cosa en lugar de otra. Por ejemplo, es posible crear un ejemplo adversario para un sistema de visión por computadora haciendo cambios sutiles en las imágenes de gatos, lo que lleva a la inteligencia artificial a mal clasificar las imágenes como monitores de computadora. El equipo de investigación del MIT diseñó un algoritmo para ayudar a protegerse contra ejemplos adversarios permitiendo que el modelo mantenga un grado de “escepticismo” sobre las entradas que recibe.

Los investigadores del MIT llamaron a su enfoque “Robustez adversaria certificada para el aprendizaje de refuerzo profundo”, o CARRL. CARRL está compuesto por una red de aprendizaje de refuerzo y una red neuronal profunda tradicional unidas. El aprendizaje de refuerzo utiliza el concepto de “recompensas” para entrenar un modelo, otorgando al modelo una recompensa proporcionalmente mayor cuanto más se acerque a alcanzar su objetivo. El modelo de aprendizaje de refuerzo se utiliza para entrenar una Red Q-Neuronal, o DQN. Las DQN funcionan como redes neuronales tradicionales, pero también asocian valores de entrada con un nivel de recompensa, al igual que los sistemas de aprendizaje de refuerzo.

CARRL opera modelando una serie de valores posibles diferentes para los datos de entrada.

Suponiendo que la inteligencia artificial está tratando de rastrear la posición de un punto dentro de una imagen más grande, la inteligencia artificial considera que la posición del punto podría ser el resultado de la influencia adversaria y considera regiones donde el punto podría estar en su lugar. La red toma decisiones basadas en el peor escenario para la posición del punto, decidiendo la acción que produciría la mayor recompensa en este peor escenario.

El método típico para protegerse contra ejemplos adversarios implica ejecutar versiones ligeramente alteradas de la imagen de entrada a través de la red de inteligencia artificial para ver si siempre se toma la misma decisión. Si las alteraciones de la imagen no afectan drásticamente el resultado, es probable que la red sea resistente a los ejemplos adversarios. Sin embargo, este no es un enfoque viable para escenarios en los que se deben tomar decisiones rápidas, ya que estos son métodos de prueba intensivos en tiempo y computacionalmente costosos. Por esta razón, el equipo del MIT se propuso crear una red neuronal que pudiera tomar decisiones basadas en suposiciones de peor caso, capaz de operar en escenarios en los que la seguridad es crítica.

Los investigadores del MIT probaron sus algoritmos haciendo que la inteligencia artificial jugara un juego de Pong. Incluyeron ejemplos adversarios alimentando a la inteligencia artificial con instancias en las que la pelota se mostraba ligeramente más abajo en la pantalla de lo que realmente estaba. A medida que crecía la influencia de los ejemplos adversarios, las técnicas correctivas estándar comenzaron a fallar, mientras que CARRL pudo ganar más juegos en comparación. CARRL también se probó en una tarea de evasión de colisiones. La tarea se desarrolló en un entorno virtual en el que dos agentes diferentes trataron de cambiar de posición sin chocar. El equipo de investigación alteró la percepción del primer agente del segundo agente y CARRL pudo dirigir con éxito al primer agente alrededor del segundo agente, incluso en condiciones de alta incertidumbre, aunque llegó un punto en el que CARRL se volvió demasiado cauteloso y terminó evitando su destino por completo.

Independientemente, el investigador postdoctoral del Departamento de Aeronáutica y Astronáutica del MIT, Michael Everett, quien lideró el estudio, explicó que la investigación podría tener implicaciones para la capacidad de los robots para manejar situaciones impredecibles. Como explicó Everett a través de las noticias del MIT:

“Las personas pueden ser adversarias, como ponerse delante de un robot para bloquear sus sensores, o interactuar con ellos, no necesariamente con las mejores intenciones”, dice Everett. “¿Cómo puede un robot pensar en todas las cosas que la gente podría intentar hacer y tratar de evitarlas? ¿Qué tipo de modelos adversarios queremos defender? Eso es algo en lo que estamos pensando cómo hacerlo.”