Neuronale Netze lernen besser durch Nachahmung von menschlichen Schlafmustern

Ein Team von Forschern an der University of California – San Diego erkundet, wie künstliche neuronale Netze Schlafmuster des menschlichen Gehirns nachahmen können, um das Problem des katastrophalen Vergessens zu mildern.

Die Forschung wurde in PLOS Computational Biology veröffentlicht.

Im Durchschnitt benötigen Menschen 7 bis 13 Stunden Schlaf pro 24 Stunden. Während der Schlaf den Körper auf viele Weise entspannt, bleibt das Gehirn sehr aktiv.

Aktives Gehirn während des Schlafes

Maxim Bazhenov, PhD, ist Professor für Medizin und Schlafforscher an der University of California San Diego School of Medicine.

“Das Gehirn ist sehr beschäftigt, wenn wir schlafen, und wiederholt das, was wir tagsüber gelernt haben”, sagt Bazhenov. “Der Schlaf hilft, Erinnerungen zu reorganisieren und sie auf die effizienteste Weise darzustellen.”

Bazhenov und sein Team haben bereits frühere Arbeiten über die Art und Weise veröffentlicht, wie der Schlaf rationales Gedächtnis aufbaut, das die Fähigkeit ist, willkürliche oder indirekte Assoziationen zwischen Objekten, Personen oder Ereignissen zu erinnern. Es schützt auch vor dem Vergessen alter Erinnerungen.

Das Problem des katastrophalen Vergessens

Künstliche neuronale Netze ziehen ihre Inspiration aus der Architektur des menschlichen Gehirns, um künstliche Intelligenz-Technologien und -Systeme zu verbessern. Während diese Technologien es geschafft haben, übermenschliche Leistungen in Form von Rechengeschwindigkeit zu erzielen, haben sie eine große Einschränkung. Wenn neuronale Netze sequenziell lernen, überschreibt neue Information die vorherige Information in einem Phänomen, das als katastrophales Vergessen bezeichnet wird.

“Im Gegensatz dazu lernt das menschliche Gehirn kontinuierlich und integriert neue Daten in bestehendes Wissen, und es lernt am besten, wenn neue Trainingsperioden mit Perioden des Schlafes für die Konsolidierung von Erinnerungen abwechseln”, sagt Bazhenov.

Das Team verwendete spiking neuronale Netze, die künstliche natürliche Systeme nachahmen. Anstatt kontinuierlich kommuniziert zu werden, wird die Information als diskrete Ereignisse oder Spikes zu bestimmten Zeitpunkten übertragen.

Nachahmung des Schlafes in neuronalen Netzen

Die Forscher entdeckten, dass wenn spiking-Netze auf neue Aufgaben mit gelegentlichen Offline-Perioden trainiert wurden, die den Schlaf nachahmten, das Problem des katastrophalen Vergessens gemildert wurde. Ähnlich wie das menschliche Gehirn sagen die Forscher, dass “Schlaf” es den Netzen ermöglicht, alte Erinnerungen abzuspielen, ohne explizit alte Trainingsdaten zu verwenden.

“Wenn wir neue Informationen lernen, feuern Neuronen in einer bestimmten Reihenfolge und dies erhöht die Synapsen zwischen ihnen”, sagt Bazhenov. “Während des Schlafes werden die während unseres Wachzustands gelernten Spiking-Muster spontan wiederholt. Es wird als Reaktivierung oder Wiederholung bezeichnet.

“Die synaptische Plastizität, die Fähigkeit, verändert oder geformt zu werden, ist während des Schlafes noch vorhanden und kann die synaptischen Gewichtsmuster, die die Erinnerung darstellen, weiter verstärken, um das Vergessen zu verhindern oder um das Wissen von alten zu neuen Aufgaben zu übertragen.”

Das Team fand heraus, dass durch die Anwendung dieses Ansatzes auf künstliche neuronale Netze half, den Netzen zu ermöglichen, katastrophales Vergessen zu vermeiden.

“Es bedeutete, dass diese Netze kontinuierlich lernen konnten, wie Menschen oder Tiere”, fährt Bazhenov fort. “Das Verständnis, wie das menschliche Gehirn Informationen während des Schlafes verarbeitet, kann helfen, das Gedächtnis bei menschlichen Probanden zu verbessern. Die Verbesserung der Schlafrhythmen kann zu einem besseren Gedächtnis führen.

“In anderen Projekten verwenden wir Computermodelle, um optimale Strategien zu entwickeln, um während des Schlafes Stimulationen anzuwenden, wie z. B. akustische Töne, die die Schlafrhythmen verbessern und das Lernen verbessern. Dies kann besonders wichtig sein, wenn das Gedächtnis nicht optimal ist, wie z. B. wenn das Gedächtnis im Alter oder bei bestimmten Erkrankungen wie der Alzheimer-Krankheit abnimmt.”