Nuova ricerca suggerisce che i cervelli artificiali potrebbero beneficiare del sonno

Una nuova ricerca proveniente dal Los Alamos National Laboratory suggerisce che i cervelli artificiali trarrebbero quasi certamente beneficio da periodi di riposo come i cervelli viventi.

La ricerca sarà presentata al Women in Computer Vision Workshop di Seattle il 14 giugno.

Yijing Watkins è una scienziata informatica del Los Alamos National Laboratory.

“Studiamo le reti neurali a impulsi, che sono sistemi che imparano molto come i cervelli viventi”, ha detto Watkins. “Eravamo affascinati dalla prospettiva di addestrare un processore neuromorfico in modo analogo a come gli esseri umani e altri sistemi biologici imparano dal loro ambiente durante lo sviluppo infantile.”

Risolvere l’instabilità nelle simulazioni di rete

Watkins e il team hanno scoperto che periodi continui di apprendimento non supervisionato hanno portato a instabilità nelle simulazioni di rete. Tuttavia, una volta che il team ha introdotto le reti in stati che sono il risultato delle onde che i cervelli viventi sperimentano durante il sonno, è stata possibile ripristinare la stabilità.

“Era come se stessimo dando alle reti neurali l’equivalente di una buona notte di sonno”, ha detto Watkins.

Il team ha fatto la scoperta mentre lavoravano allo sviluppo di reti neurali basate su come gli esseri umani e altri sistemi biologici imparano a vedere. Il team ha affrontato alcune sfide quando si è trattato di stabilizzare le reti neurali simulate che stavano subendo un addestramento lessicale non supervisionato. L’addestramento lessicale non supervisionato coinvolge la classificazione di oggetti senza avere esempi precedenti da utilizzare per il confronto.

Garrett Kenyon è uno scienziato informatico del Los Alamos e coautore dello studio.

“Il problema di come mantenere i sistemi di apprendimento dalla diventare instabili si verifica solo quando si tenta di utilizzare processori neuromorfici realistici biologicamente o quando si tenta di comprendere la biologia stessa”, ha detto Kenyon. “La stragrande maggioranza dei ricercatori di apprendimento automatico, apprendimento profondo e intelligenza artificiale non incontrano questo problema perché nei sistemi artificiali che studiano hanno il lusso di eseguire operazioni matematiche globali che hanno l’effetto di regolare il guadagno dinamico complessivo del sistema.”

Sonno come soluzione di ultima risorsa

Secondo i ricercatori, esporre le reti a un analogo artificiale del sonno è stata la loro ultima risorsa per stabilizzarle. Dopo aver sperimentato con diversi tipi di rumore, che è simile al rumore statico tra le stazioni radio, i migliori risultati sono provenuti dalle onde di rumore gaussiano. Questo tipo di rumore include una vasta varietà e gamma di frequenze e ampiezze.

I ricercatori hanno formulato l’ipotesi che durante il sonno a onde lente il rumore mimichi l’input ricevuto dai neuroni biologici. I risultati hanno suggerito che il sonno a onde lente potrebbe svolgere un ruolo nel garantire che i neuroni corticali non soffrano di allucinazioni e mantengano la loro stabilità.

Il team lavorerà ora sull’implementazione dell’algoritmo sul chip neuromorfico Loihi di Intel (INTC ), sperando che il sonno aiuterà a elaborare in modo stabile le informazioni da una camera retina di silicio in tempo reale. Se la ricerca determinerà che i cervelli artificiali traggono beneficio dal sonno, lo stesso è probabilmente vero per gli androidi e altre macchine intelligenti.

Fonte: Utilizzo del rumore sinusoidalmente modulato come surrogato del sonno a onde lente per realizzare un apprendimento lessicale non supervisionato stabile in un modello di codifica sparsa a impulsi, CVPR Women in Computer Vision Workshop, 2020-06-14 (Seattle, Washington, Stati Uniti)