AI-modeller og plattformer
Nevrale nettverk lærer bedre ved å etterligne menneskelige søvnmønstre
Viktige punkterÅ gjenoppta søvnreplay i spikende nevrale nettverk forhindrer katastrofal glemsel under…
Vis mer
- Å gjenoppta søvnreplay i spikende nevrale nettverk forhindrer katastrofal glemsel under sekvensiell læring.
- Søvn gjør det mulig for kunstige nettverk å konsolidere gamle minner uten å kreve eksplisitt tilgang til opprinnelige treningsdata.
- Forståelse av søvnbasert minneprosessering kan føre til auditive stimuleringsterapier for aldersrelatert hukommelsessvikt.
Et team av forskere ved University of California – San Diego utforsker hvordan kunstige nevrale nettverk kan etterligne søvnmønstrene til menneskehjernen for å mildne problemet med katastrofal glemsel.
Forskningen ble publisert i PLOS Computational Biology.
I gjennomsnitt trenger mennesker 7 til 13 timer med søvn per 24 timer. Mens søvnen avslapper kroppen på mange måter, forblir hjernen svært aktiv.
Aktiv Hjerne Under Søvn
Maxim Bazhenov, PhD, er professor i medisin og søvnforsker ved University of California San Diego School of Medicine.
“Hjernen er svært opptatt når vi sover, og gjentar det vi lærte under dagen,” sier Bazhenov. “Søvnen hjelper med å reorganisere minner og presenterer dem på den mest effektive måten.”
Bazhenov og hans team har tidligere publisert arbeid om hvordan søvnen bygger minne for sammenhenger, som er evnen til å huske tilfeldige eller indirekte assosiasjoner mellom objekter, mennesker eller hendelser. Det beskytter også mot å glemme gamle minner.
Problemene Med Katastrofal glemsel
Kunstige nevrale nettverk henter inspirasjon fra menneskehjernens arkitektur for å forbedre AI-teknologier og systemer. Mens disse teknologiene har klart å oppnå overmenneskelig ytelse i form av beregningshastighet, har de en stor begrensning. Når nevrale nettverk lærer sekvensielt, overskriver ny informasjon tidligere informasjon i et fenomen kjent som katastrofal glemsel.
“I motsetning til dette lærer den menneskelige hjernen kontinuerlig og inkorporerer ny data i eksisterende kunnskap, og det lærer best når ny trening er vevd inn i perioder med søvn for konsolidering av minner,” sier Bazhenov.
Teamet brukte spikende nevrale nettverk som kunstig etterlignet naturlige nevrale systemer. I stedet for å kommunisere kontinuerlig, overføres informasjon som diskrete hendelser, eller spik, på bestemte tidspunkter.
Etterligning av søvn i nevrale nettverk
Forskerne oppdaget at når spikende nettverk ble trent på nye oppgaver med sporadiske perioder uten trening som etterlignet søvn, ble problemet med katastrofal glemsel mildnet. Liksom den menneskelige hjernen sier forskerne at “søvn” gjør det mulig for nettverkene å gjenta gamle minner uten å bruke gamle treningsdata eksplisitt.
“Når vi lærer ny informasjon, skyter neuroner i en bestemt rekkefølge og dette øker synapsene mellom dem,” sier Bazhenov. “Under søvn gjentas spikmønstrene som ble lært under våken tilstand spontant. Dette kalles reaktivering eller gjentakelse.
“Synaptisk plastisitet, evnen til å endres eller formes, er fortsatt til stede under søvn og kan ytterligere forbedre synaptiske vektpatroner som representerer minnet, og hjelpe med å forebygge glemsel eller å muliggjøre overføring av kunnskap fra gamle til nye oppgaver.”
Teamet fant ut at ved å bruke denne tilnærmingen til kunstige nevrale nettverk, hjalp det nettverkene med å unngå katastrofal glemsel.
“Det betød at disse nettverkene kunne lære kontinuerlig, som mennesker eller dyr,” fortsetter Bazhenov. “Å forstå hvordan den menneskelige hjernen prosesserer informasjon under søvn kan hjelpe med å forbedre minne hos menneskelige subjekter. Å forbedre søvnrytmer kan føre til bedre minne.
“I andre prosjekter, bruker vi datamodeller til å utvikle optimale strategier for å bruke stimulering under søvn, som lydtoner, som forbedrer søvnrytmer og forbedrer læring. Dette kan være spesielt viktig når minne ikke er optimalt, som når minne svekkes med alderen eller i visse tilstander som Alzheimers sykdom.”












