Neurala nätverk Lär dig bättre genom att efterlikna mänskliga sömnmönster

Ett team av forskare vid University of California – San Diego undersöker hur artificiella neurala nätverk kan efterlikna sömnmönster i den mänskliga hjärnan för att mildra problemet med katastrofal glömska. 

Forskningen publicerades i PLOS Computational Biology. 

I genomsnitt kräver människor 7 till 13 timmars sömn per 24 timmar. Medan sömn slappnar av i kroppen på många sätt förblir hjärnan fortfarande väldigt aktiv. 

Aktiv hjärna under sömn

Maxim Bazhenov, PhD, är professor i medicin och sömnforskare vid University of California San Diego School of Medicine. 

"Hjärnan är väldigt upptagen när vi sover och upprepar det vi lärt oss under dagen", säger Bazhenov. "Sömn hjälper till att omorganisera minnen och presenterar dem på det mest effektiva sättet."

Bazhenov och hans team har publicerat tidigare arbeten om hur sömn bygger rationellt minne, vilket är förmågan att minnas godtyckliga eller indirekta associationer mellan föremål, människor eller händelser. Det skyddar också mot att glömma gamla minnen. 

Problemet med katastrofal glömska

Artificiella neurala nätverk hämtar inspiration från den mänskliga hjärnans arkitektur för att förbättra AI-teknologier och -system. Även om dessa teknologier har lyckats uppnå övermänsklig prestanda i form av beräkningshastighet, har de en stor begränsning. När neurala nätverk lär sig sekventiellt, skriver ny information över tidigare information i ett fenomen som kallas katastrofal glömska.

"Däremot lär den mänskliga hjärnan sig kontinuerligt och införlivar ny data i befintlig kunskap, och den lär sig vanligtvis bäst när ny träning vävs samman med perioder av sömn för att konsolidera minnet", säger Bazhenov. 

Teamet använde spikande neurala nätverk som på konstgjord väg efterliknar naturliga neurala system. Istället för att kommuniceras kontinuerligt, överförs information som diskreta händelser, eller toppar, vid vissa tidpunkter.

Efterliknar sömn i neurala nätverk

Forskarna upptäckte att när spiknätverk tränades på nya uppgifter med enstaka off-line-perioder som efterliknade sömn, mildrades problemet med katastrofal glömska. I likhet med den mänskliga hjärnan säger forskarna att "sömn" gör det möjligt för nätverken att spela upp gamla minnen utan att explicit använda gamla träningsdata. 

"När vi lär oss ny information avfyras neuroner i specifik ordning och detta ökar synapserna mellan dem", säger Bazhenov. "Under sömnen upprepas spikmönstren som lärs oss under vårt vakna tillstånd spontant. Det kallas reaktivering eller replay. 

"Synaptisk plasticitet, förmågan att förändras eller formas, finns fortfarande på plats under sömnen och det kan ytterligare förbättra synaptiska viktmönster som representerar minnet, vilket hjälper till att förhindra att glömma eller för att möjliggöra överföring av kunskap från gamla till nya uppgifter." 

Teamet fann att genom att tillämpa detta tillvägagångssätt på artificiella neurala nätverk, hjälpte det nätverken att undvika katastrofal glömska. 

"Det innebar att dessa nätverk kunde lära sig kontinuerligt, som människor eller djur," fortsätter Bazhenov. "Att förstå hur den mänskliga hjärnan bearbetar information under sömnen kan hjälpa till att förbättra minnet hos människor. Ökad sömnrytm kan leda till bättre minne. 

"I andra projekt använder vi datormodeller för att utveckla optimala strategier för att tillämpa stimulering under sömnen, såsom hörseltoner, som förbättrar sömnrytmerna och förbättrar inlärningen. Detta kan vara särskilt viktigt när minnet inte är optimalt, till exempel när minnet försämras vid åldrande eller vid vissa tillstånd som Alzheimers sjukdom."