Neurónové siete sa učia lepšie napodobňovaním vzorcov ľudského spánku

Tím vedcov z Kalifornskej univerzity v San Diegu skúma, ako by umelé neurónové siete mohli napodobňovať spánkové vzorce ľudského mozgu, aby sa zmiernil problém katastrofického zabúdania. 

Výskum bol publikovaný v roku XNUMX PLOS Výpočtová biológia. 

V priemere ľudia potrebujú 7 až 13 hodín spánku za 24 hodín. Zatiaľ čo spánok uvoľňuje telo mnohými spôsobmi, mozog zostáva stále veľmi aktívny. 

Aktívny mozog počas spánku

Maxim Bazhenov, PhD, je profesorom medicíny a výskumníkom spánku na Lekárskej fakulte Kalifornskej univerzity v San Diegu. 

"Mozog je veľmi zaneprázdnený, keď spíme, opakuje to, čo sme sa naučili počas dňa," hovorí Bazhenov. "Spánok pomáha reorganizovať spomienky a prezentuje ich najefektívnejším spôsobom."

Bazhenov a jeho tím publikovali predchádzajúce práce o tom, ako spánok buduje racionálnu pamäť, čo je schopnosť zapamätať si ľubovoľné alebo nepriame asociácie medzi objektmi, ľuďmi alebo udalosťami. Chráni tiež pred zabudnutím starých spomienok. 

Problém katastrofického zabudnutia

Umelé neurónové siete čerpajú inšpiráciu z architektúry ľudského mozgu na zlepšenie technológií a systémov AI. Tieto technológie síce dokázali dosiahnuť nadľudský výkon v podobe výpočtovej rýchlosti, no majú jedno veľké obmedzenie. Keď sa neurónové siete učia postupne, nové informácie prepíšu predchádzajúce informácie, čo je jav, ktorý sa nazýva katastrofické zabúdanie.

"Na rozdiel od toho sa ľudský mozog neustále učí a začleňuje nové údaje do existujúcich vedomostí a zvyčajne sa najlepšie učí, keď sa nový tréning prelína s obdobiami spánku na konsolidáciu pamäte," hovorí Bazhenov. 

Tím použil špičkové neurónové siete, ktoré umelo napodobňujú prirodzené neurónové systémy. Namiesto nepretržitej komunikácie sa informácie prenášajú ako diskrétne udalosti alebo špičky v určitých časových bodoch.

Napodobňovanie spánku v neurónových sieťach

Výskumníci zistili, že keď sa špikové siete trénovali na nové úlohy s občasnými off-line obdobiami napodobňujúcimi spánok, problém katastrofického zabúdania sa zmiernil. Podobne ako v ľudskom mozgu vedci tvrdia, že „spánok“ umožňuje sieťam prehrávať staré spomienky bez explicitného použitia starých tréningových dát. 

"Keď sa dozvieme nové informácie, neuróny sa spúšťajú v špecifickom poradí a to zvyšuje synapsie medzi nimi," hovorí Bazhenov. „Počas spánku sa spontánne opakujú vzorce naučené počas nášho bdelého stavu. Nazýva sa to reaktivácia alebo opätovné prehrávanie. 

"Synaptická plasticita, schopnosť byť zmenená alebo tvarovaná, je stále na mieste počas spánku a môže ďalej posilniť synaptické vzorce hmotnosti, ktoré predstavujú pamäť, čo pomáha predchádzať zabudnutiu alebo umožňuje prenos vedomostí zo starých úloh na nové." 

Tím zistil, že aplikáciou tohto prístupu na umelé neurónové siete pomohol sieťam vyhnúť sa katastrofálnemu zabudnutiu. 

"Znamenalo to, že tieto siete sa môžu neustále učiť, ako ľudia alebo zvieratá," pokračuje Bazhenov. „Pochopenie toho, ako ľudský mozog spracováva informácie počas spánku, môže pomôcť rozšíriť pamäť u ľudských subjektov. Zlepšenie spánkového rytmu môže viesť k lepšej pamäti. 

„V iných projektoch používame počítačové modely na vývoj optimálnych stratégií na aplikáciu stimulácie počas spánku, ako sú zvukové tóny, ktoré zlepšujú spánkový rytmus a zlepšujú učenie. To môže byť obzvlášť dôležité, keď pamäť nie je optimálna, napríklad keď pamäť upadá pri starnutí alebo pri niektorých stavoch, ako je Alzheimerova choroba.“