Neuronnätverk lär sig bättre genom att härma mänskliga sömnmodeller

Ett team av forskare vid University of California – San Diego undersöker hur artificiella neuronnätverk kan härma sömnmodeller i den mänskliga hjärnan för att mildra problemet med katastrofalt glömska.

Forskningen publicerades i PLOS Computational Biology.

I genomsnitt behöver människor 7 till 13 timmars sömn per 24 timmar. Medan sömn avslappnar kroppen på många sätt, förblir hjärnan mycket aktiv.

Aktiv hjärna under sömn

Maxim Bazhenov, PhD, är professor i medicin och sömnforskare vid University of California San Diego School of Medicine.

“Hjärnan är mycket sysselsatt när vi sover, upprepar det vi lärde oss under dagen”, säger Bazhenov. “Sömn hjälper till att omorganisera minnen och presenterar dem på det mest effektiva sättet.”

Bazhenov och hans team har publicerat tidigare arbete om hur sömn bygger rationell minne, som är förmågan att komma ihåg godtyckliga eller indirekta associationer mellan föremål, människor eller händelser. Det skyddar också mot att glömma gamla minnen.

Problemet med katastrofalt glömska

Artificiella neuronnätverk hämtar inspiration från den mänskliga hjärnans arkitektur för att förbättra AI-teknologier och system. Medan dessa teknologier har lyckats uppnå övermänsklig prestanda i form av beräkningshastighet, har de en stor begränsning. När neuronnätverk lär sig sekventiellt, skriver nya informationer över tidigare information i ett fenomen som kallas katastrofalt glömska.

“Till skillnad från detta lär sig den mänskliga hjärnan kontinuerligt och integrerar ny data i befintlig kunskap, och den lär sig vanligtvis bäst när ny utbildning varvas med perioder av sömn för minneskonsolidering”, säger Bazhenov.

Teamet använde spikande neuronnätverk som artificiellt härmar naturliga neurala system. Istället för att kommuniceras kontinuerligt, överförs information som diskreta händelser, eller spikar, vid vissa tidpunkter.

Att härma sömn i neuronnätverk

Forskarna upptäckte att när spikande nätverk tränades på nya uppgifter med tillfälliga offlineperioder som härmar sömn, mildrades problemet med katastrofalt glömska. Liksom den mänskliga hjärnan säger forskarna att “sömn” möjliggör för nätverken att återuppspela gamla minnen utan att uttryckligen använda gamla träningsdata.

“När vi lär oss ny information, avfyrar neuroner i en specifik ordning och detta ökar synapserna mellan dem”, säger Bazhenov. “Under sömn upprepas de spikmönster som lärdes under vår vakna tillstånd spontant. Det kallas reaktivering eller återuppspelning.

“Synaptisk plasticitet, förmågan att förändras eller formas, är fortfarande på plats under sömn och den kan ytterligare förbättra synaptiska viktmönster som representerar minnet, vilket hjälper till att förhindra glömska eller att möjliggöra överföring av kunskap från gamla till nya uppgifter.”

Teamet fann att genom att tillämpa denna metod på artificiella neuronnätverk, hjälpte det nätverken att undvika katastrofalt glömska.

“Det innebar att dessa nätverk kunde lära sig kontinuerligt, likt människor eller djur”, fortsätter Bazhenov. “Att förstå hur den mänskliga hjärnan bearbetar information under sömn kan hjälpa till att förbättra minnet hos människor. Att förbättra sömnrytmer kan leda till bättre minne.

“I andra projekt använder vi datormodeller för att utveckla optimala strategier för att applicera stimulering under sömn, såsom auditiva toner, som förbättrar sömnrytmer och förbättrar inlärning. Detta kan vara särskilt viktigt när minnet inte är optimalt, såsom när minnet försämras med åldern eller i vissa tillstånd som Alzheimers sjukdom.”