Neue Forschung legt nahe, dass künstliche Gehirne von Ruhephasen profitieren könnten

Neue Forschungsergebnisse aus dem Los Alamos National Laboratory deuten darauf hin, dass künstliche Gehirne wahrscheinlich von Ruhephasen profitieren, ähnlich wie lebende Gehirne.

Die Forschungsergebnisse werden auf dem Women in Computer Vision Workshop in Seattle am 14. Juni präsentiert.

Yijing Watkins ist eine Computerwissenschaftlerin am Los Alamos National Laboratory.

“Wir untersuchen spiking neuronale Netze, die auf eine Weise lernen, die lebenden Gehirnen ähnelt”, sagte Watkins. “Wir waren fasziniert von der Aussicht, einen neuromorphen Prozessor auf eine Weise zu trainieren, die der Art und Weise ähnelt, wie Menschen und andere biologische Systeme aus ihrer Umgebung während der Kindheitsentwicklung lernen.”

Lösung der Instabilität in Netzwerksimulationen

Watkins und ihr Team fanden heraus, dass kontinuierliche Phasen des unsupervised Lernens zu Instabilität in den Netzwerksimulationen führten. Als das Team jedoch die Netzwerke mit Zuständen konfrontierte, die das Ergebnis der Wellen sind, die lebende Gehirne während des Schlafes erleben, konnte die Stabilität wiederhergestellt werden.

“Es war, als ob wir den neuronalen Netzen das Äquivalent einer guten Nachtruhe gaben”, sagte Watkins.

Das Team machte diese Entdeckung, als sie an der Entwicklung neuronaler Netze arbeiteten, die auf die Art und Weise basieren, wie Menschen und andere biologische Systeme lernen, zu sehen. Das Team stieß auf einige Herausforderungen, als es darum ging, simulierte neuronale Netze zu stabilisieren, die einer unsupervised Dictionary-Ausbildung unterzogen wurden. Unsupervised Dictionary-Ausbildung beinhaltet die Klassifizierung von Objekten ohne vorherige Beispiele zur Vergleichsmöglichkeit.

Garrett Kenyon ist ein Computerwissenschaftler am Los Alamos und Co-Autor der Studie.

“Das Problem, wie man Lernsysteme davon abhält, instabil zu werden, tritt eigentlich nur auf, wenn man versucht, biologisch realistische, spiking neuromorphe Prozessoren zu verwenden oder wenn man versucht, die Biologie selbst zu verstehen”, sagte Kenyon. “Die überwiegende Mehrheit der Maschinenlern-, Deep-Learning- und KI-Forscher stoßen nie auf dieses Problem, da sie in den sehr künstlichen Systemen, die sie untersuchen, die Möglichkeit haben, globale mathematische Operationen durchzuführen, die die Wirkung haben, den gesamten dynamischen Gewinn des Systems zu regulieren.”

Schlaf als letzte Lösung

Laut den Forschern war die Exposition der Netzwerke gegenüber einem künstlichen Analogon des Schlafes ihre letzte Lösung, um sie zu stabilisieren. Nachdem sie mit verschiedenen Arten von Rauschen experimentiert hatten, die ähnlich dem Rauschen zwischen Radiosendern sind, ergaben die besten Ergebnisse aus den Wellen des Gauß-Rauschens. Diese Art von Rauschen umfasst eine breite Vielfalt und Reichweite von Frequenzen und Amplituden.

Die Forscher kamen zu der Hypothese, dass während des Slow-Wave-Schlafes das Rauschen die Eingabe nachahmt, die biologische Neuronen erhalten. Die Ergebnisse deuteten darauf hin, dass der Slow-Wave-Schlaf eine Rolle bei der Sicherstellung spielen könnte, dass kortikale Neuronen nicht an Halluzinationen leiden und ihre Stabilität bewahren.

Das Team wird nun daran arbeiten, den Algorithmus auf Intels Loihi-Neuromorph-Chip umzusetzen, in der Hoffnung, dass der Schlaf dabei helfen wird, Informationen von einer Silizium-Retina-Kamera in Echtzeit stabil zu verarbeiten. Wenn die Forschung feststellt, dass künstliche Gehirne von Schlaf profitieren, ist es wahrscheinlich, dass dies auch für Androiden und andere intelligente Maschinen gilt.

Quelle: Verwendung von sinusförmig moduliertem Rauschen als Surrogat für Slow-Wave-Schlaf, um stabiles unsupervised Dictionary-Lernen in einem spike-basierten Sparse-Coding-Modell zu erreichen, CVPR Women in Computer Vision Workshop, 2020-06-14 (Seattle, Washington, USA)