Neuronale Netze lernen besser, indem sie menschliche Schlafmuster nachahmen

Ein Forscherteam der University of California – San Diego untersucht, wie künstliche neuronale Netze Schlafmuster des menschlichen Gehirns nachahmen könnten, um das Problem des katastrophalen Vergessens zu mildern. 

Die Forschung wurde in veröffentlicht PLoS Computational Biology. 

Im Durchschnitt benötigt der Mensch 7 bis 13 Stunden Schlaf pro 24 Stunden. Während der Schlaf den Körper in vielerlei Hinsicht entspannt, bleibt das Gehirn dennoch sehr aktiv. 

Aktives Gehirn im Schlaf

Maxim Bazhenov, PhD, ist Professor für Medizin und Schlafforscher an der University of California San Diego School of Medicine. 

„Das Gehirn ist im Schlaf sehr beschäftigt und wiederholt, was wir tagsüber gelernt haben“, sagt Bazhenov. „Schlaf hilft dabei, Erinnerungen neu zu ordnen und sie auf die effizienteste Weise zu präsentieren.“

Bazhenov und sein Team haben frühere Arbeiten darüber veröffentlicht, wie Schlaf das rationale Gedächtnis aufbaut, also die Fähigkeit, sich an willkürliche oder indirekte Assoziationen zwischen Objekten, Personen oder Ereignissen zu erinnern. Es schützt auch davor, alte Erinnerungen zu vergessen. 

Das Problem des katastrophalen Vergessens

Künstliche neuronale Netze lassen sich von der Architektur des menschlichen Gehirns inspirieren, um KI-Technologien und -Systeme zu verbessern. Obwohl es diesen Technologien gelungen ist, eine übermenschliche Leistung in Form von Rechengeschwindigkeit zu erreichen, weisen sie eine große Einschränkung auf. Wenn neuronale Netze sequentiell lernen, überschreiben neue Informationen frühere Informationen in einem Phänomen, das als katastrophales Vergessen bezeichnet wird.

„Im Gegensatz dazu lernt das menschliche Gehirn kontinuierlich und integriert neue Daten in bestehendes Wissen. Typischerweise lernt es am besten, wenn neues Training mit Schlafphasen zur Gedächtnisfestigung verknüpft wird“, sagt Bazhenov. 

Das Team nutzte Spike-Neuronale Netze, die natürliche neuronale Systeme künstlich nachahmen. Anstatt kontinuierlich zu kommunizieren, werden Informationen zu bestimmten Zeitpunkten als diskrete Ereignisse oder Spitzen übermittelt.

Nachahmung des Schlafs in neuronalen Netzen

Die Forscher fanden heraus, dass das Problem des katastrophalen Vergessens gemildert wurde, wenn Spike-Netzwerke auf neue Aufgaben trainiert wurden und gelegentliche Offline-Perioden im Schlaf nachahmten. Ähnlich wie beim menschlichen Gehirn, sagen die Forscher, ermöglicht „Schlaf“ den Netzwerken, alte Erinnerungen wiederzugeben, ohne explizit alte Trainingsdaten zu verwenden. 

„Wenn wir neue Informationen lernen, feuern Neuronen in einer bestimmten Reihenfolge und dies erhöht die Synapsen zwischen ihnen“, sagt Bazhenov. „Während des Schlafs wiederholen sich die im Wachzustand gelernten Spitzenmuster spontan. Man nennt es Reaktivierung oder Wiederholung. 

„Synaptische Plastizität, die Fähigkeit, verändert oder geformt zu werden, ist auch im Schlaf vorhanden und kann die synaptischen Gewichtsmuster, die das Gedächtnis repräsentieren, weiter verbessern und dabei helfen, Vergessen zu verhindern oder den Wissenstransfer von alten zu neuen Aufgaben zu ermöglichen.“ 

Das Team stellte fest, dass die Anwendung dieses Ansatzes auf künstliche neuronale Netze den Netzen dabei half, katastrophales Vergessen zu vermeiden. 

„Das bedeutete, dass diese Netzwerke kontinuierlich lernen konnten, wie Menschen oder Tiere“, fährt Bazhenov fort. „Zu verstehen, wie das menschliche Gehirn Informationen im Schlaf verarbeitet, kann dazu beitragen, das Gedächtnis menschlicher Probanden zu verbessern. Eine Verbesserung des Schlafrhythmus kann zu einem besseren Gedächtnis führen. 

„In anderen Projekten entwickeln wir mithilfe von Computermodellen optimale Strategien für die Stimulation im Schlaf, beispielsweise durch Hörtöne, die den Schlafrhythmus verbessern und das Lernen verbessern. Dies kann besonders wichtig sein, wenn das Gedächtnis nicht optimal ist, beispielsweise wenn das Gedächtnis mit zunehmendem Alter nachlässt oder bei bestimmten Erkrankungen wie der Alzheimer-Krankheit.“