Nueva investigación sugiere que los cerebros artificiales podrían beneficiarse del sueño

Una nueva investigación del Laboratorio Nacional de Los Álamos sugiere que los cerebros artificiales probablemente se beneficien de períodos de descanso como los cerebros vivos.

La investigación se presentará en el Taller de Mujeres en Visión por Computadora en Seattle el 14 de junio.

Yijing Watkins es una científica informática del Laboratorio Nacional de Los Álamos.

“Estudiamos redes neuronales de disparo, que son sistemas que aprenden de manera similar a como lo hacen los cerebros vivos”, dijo Watkins. “Estábamos fascinados por la perspectiva de entrenar un procesador neuromórfico de una manera análoga a como los humanos y otros sistemas biológicos aprenden de su entorno durante el desarrollo infantil”.

Resolviendo la inestabilidad en simulaciones de red

Watkins y el equipo encontraron que los períodos continuos de aprendizaje no supervisado llevaron a la inestabilidad en las simulaciones de la red. Sin embargo, una vez que el equipo introdujo las redes en estados que son el resultado de las ondas que los cerebros vivos experimentan durante el sueño, se pudo restaurar la estabilidad.

“Fue como si estuviéramos dando a las redes neuronales el equivalente a una buena noche de sueño”, dijo Watkins.

El equipo hizo el descubrimiento cuando estaban trabajando en el desarrollo de redes neuronales basadas en la forma en que los humanos y otros sistemas biológicos aprenden a ver. El equipo enfrentó algunos desafíos cuando se trataba de estabilizar redes neuronales simuladas que estaban sometidas a un entrenamiento de diccionario no supervisado. El entrenamiento de diccionario no supervisado implica clasificar objetos sin tener ejemplos previos para comparar.

Garrett Kenyon es un científico informático de Los Álamos y coautor del estudio.

“El problema de cómo mantener los sistemas de aprendizaje para que no se vuelvan inestables realmente solo surge cuando se intenta utilizar procesadores neuromórficos realistas y biológicos o cuando se intenta entender la biología en sí”, dijo Kenyon. “La gran mayoría de los investigadores de aprendizaje automático, aprendizaje profundo y inteligencia artificial nunca encuentran este problema porque en los sistemas artificiales que estudian tienen el lujo de realizar operaciones matemáticas globales que tienen el efecto de regular el beneficio dinámico general del sistema”.

El sueño como una solución de último recurso

Según los investigadores, exponer las redes a un análogo artificial del sueño fue su último recurso para estabilizarlas. Después de experimentar con diferentes tipos de ruido, que es similar al estático entre estaciones de radio, los mejores resultados vinieron de las ondas de ruido gaussiano. Este tipo de ruido incluye una amplia variedad y rangos de frecuencias y amplitudes.

Los investigadores llegaron a la hipótesis de que durante el sueño de ondas lentas el ruido imita la entrada recibida por las neuronas biológicas. Los resultados sugirieron que el sueño de ondas lentas podría desempeñar un papel en garantizar que las neuronas corticales no sufran alucinaciones y mantengan su estabilidad.

El equipo ahora trabajará en implementar el algoritmo en el chip neuromórfico Loihi de Intel, con la esperanza de que el sueño ayude a procesar información de una cámara de retina de silicio en tiempo real. Si la investigación determina que los cerebros artificiales se benefician del sueño, lo mismo es probablemente cierto para los androides y otras máquinas inteligentes.

Fuente: Utilizando ruido modulado sinusoidal como un sustituto del sueño de ondas lentas para lograr un aprendizaje de diccionario no supervisado estable en un modelo de codificación esparsa basada en picos, Taller de Mujeres en Visión por Computadora, 2020-06-14 (Seattle, Washington, Estados Unidos)