Nyt forskning antyder, at kunstige hjerner kan have gavn af søvn

Nyt forskning fra Los Alamos National Laboratory antyder, at kunstige hjerner næsten med sikkerhed kan have gavn af perioder med hvile ligesom levende hjerner.

Forskningen vil blive præsenteret på Women in Computer Vision Workshop i Seattle den 14. juni.

Yijing Watkins er en computerforsker fra Los Alamos National Laboratory.

“Vi studerer spiking neurale netværk, som er systemer, der lærer på samme måde som levende hjerner,” sagde Watkins. “Vi var fascinerede af udsigten til at træne en neuromorf processor på en måde, der er analog til, hvordan mennesker og andre biologiske systemer lærer af deres omgivelser under barndomsudviklingen.”

Løsning af ustabilitet i netværksimulationer

Watkins og holdet fandt, at kontinuerlige perioder med usovervåget læring førte til ustabilitet i netværksimulationerne. Men når holdet introducerede netværkene til tilstande, der er et resultat af bølgerne, som levende hjerner oplever under søvn, kunne stabiliteten genskabes.

“Det var, som om vi gav de neurale netværk en god nats søvn,” sagde Watkins.

Holdet gjorde opdagelsen, da de arbejdede på at udvikle neurale netværk baseret på, hvordan mennesker og andre biologiske systemer lærer at se. Holdet stødte på nogle udfordringer, da det kom til at stabilisere simulerede neurale netværk, der gennemgik usovervåget ordbogsuddannelse. Usovervåget ordbogsuddannelse indebærer klassificering af objekter uden at have tidligere eksempler at bruge til sammenligning.

Garrett Kenyon er en computerforsker på Los Alamos og medforfatter til studiet.

“Spørgsmålet om, hvordan man kan forhindre, at læringssystemer bliver ustabile, opstår kun, når man forsøger at udnytte biologisk realistiske, spikende neuromorfe processorer eller når man forsøger at forstå biologien selv,” sagde Kenyon. “Det overvældende flertal af maskinlærings-, dybdlærings- og AI-forskere møder aldrig dette problem, fordi de i de meget kunstige systemer, de studerer, har luksusen af at udføre globale matematiske operationer, der har effekten af at regulere den samlede dynamiske gevinst for systemet.”

Søvn som en sidste udvej-løsning

Ifølge forskerne var eksponering af netværkene for en kunstig analog til søvn deres sidste udvej til at stabilisere dem. Efter at have eksperimenteret med forskellige typer støj, der ligner statisk mellem stationer på en radio, fik de bedste resultater fra bølger af Gaussisk støj. Denne type støj omfatter en bred vifte og række af frekvenser og amplituder.

Forskerne kom op med hypotesen, at under langsom bølgesøvn efterligner støjen input, der modtages af biologiske neuroner. Resultaterne antydede, at langsom bølgesøvn kan spille en rolle i at sikre, at corticale neuroner ikke lider af hallucinationer og opretholder deres stabilitet.

Holdet vil nu arbejde på at implementere algoritmen på Intel’s Loihi neuromorfe chip, i håb om, at søvnen kan hjælpe den med at stablet behandle information fra en siliciumretina-kamera i realtid. Hvis forskningen kan fastslå, at kunstige hjerner kan have gavn af søvn, er det sandsynligt, at det samme er tilfældet for androids og andre intelligente maskiner.

Kilde: Brug af sinusformet-moduleret støj som en surrogat for langsom bølgesøvn til at opnå stabil usovervåget ordbogsuddannelse i et spik-baseret sparse kodningsmodel, CVPR Women in Computer Vision Workshop, 2020-06-14 (Seattle, Washington, USA)