Algorithmus löst komplexe Lernaufgaben mit extremer Energieeffizienz

Ein interdisziplinäres Forschungsteam hat bei der Entwicklung einer Maschine, die Informationen so effizient verarbeiten kann wie das menschliche Gehirn, einen bedeutenden Fortschritt erzielt. Dieses Ziel wurde im Bereich der künstlichen Intelligenz lange angestrebt. Das Team an der Universität Heidelberg in Deutschland und der Universität Bern in der Schweiz wurde von Dr. Mihai Petrovici geleitet.

Die Forschungsergebnisse wurden in der Zeitschrift Nature Machine Intelligence veröffentlicht.

Biologisch inspirierte künstliche neuronale Netze

Das Team wandte sich biologisch inspirierten künstlichen neuronalen Netzen zu, um diese Herausforderung zu meistern. Spiking neuronale Netze imitieren die Struktur und Funktion eines natürlichen Nervensystems und gelten aufgrund ihrer Eigenschaften, die sie leistungsfähig, schnell und energieeffizient machen, als vielversprechende Kandidaten. Eine der Hauptherausforderungen bestand darin, solche komplexen Systeme zu trainieren, und das Team ist jetzt dabei, dies mit dem neu implementierten Algorithmus zu erreichen.

Neuronen im Gehirn übertragen Informationen mithilfe kurzer elektrischer Impulse, die als Spikes bezeichnet werden. Diese werden ausgelöst, wenn ein bestimmtes Reizschwellenwert überschritten wird. Der Informationsaustausch wird stark von der Häufigkeit beeinflusst, mit der ein einzelnes Neuron Spikes produziert, und der zeitlichen Abfolge der einzelnen Spikes.

Julian Göltz ist ein Doktorand in der Forschungsgruppe.

“Der Hauptunterschied zwischen biologischen Spiking-Netzen und künstlichen neuronalen Netzen besteht darin, dass sie aufgrund der spike-basierten Informationsverarbeitung komplexe Aufgaben wie Bilderkennung und Klassifizierung mit extremer Energieeffizienz lösen können”, erklärt Göltz.

Das volle Potenzial ausschöpfen

Das menschliche Gehirn und die künstlichen Spiking-Neuronalen Netze erfordern, dass die einzelnen Neuronen ordnungsgemäß miteinander verbunden sind, um ihr volles Potenzial zu erreichen. Deshalb mussten die Forscher herausfinden, wie gehirninspirierte oder neuromorphe Systeme so angepasst werden können, dass sie Spike-Eingaben korrekt verarbeiten.

Laura Kriener ist ein weiteres Mitglied des Forschungsteams.

“Diese Frage ist grundlegend für die Entwicklung leistungsfähiger künstlicher Netze auf der Grundlage biologischer Modelle”, sagt Kriener.

Spezielle Algorithmen müssen verwendet werden, um sicherzustellen, dass Neuronen in einem Spiking-Neuronalen Netzwerk zur richtigen Zeit feuern, und diese Algorithmen passen die Verbindungen zwischen den Neuronen an, damit das Netzwerk die erforderlichen Aufgaben ausführen kann. Eine solche Aufgabe kann beispielsweise die Klassifizierung von Bildern mit hoher Präzision sein.

Dies ist der Algorithmus, den das Team entwickelt hat.

“Mit diesem Ansatz können wir Spiking-Neuronale Netze trainieren, um Informationen ausschließlich in einzelnen Spikes zu codieren und zu übertragen. Sie erzielen dadurch die gewünschten Ergebnisse besonders schnell und effizient”, erklärt Göltz.

Die Forscher konnten auch eine mit diesem Algorithmus trainierte Neuronale Netzwerk auf einer physikalischen Plattform implementieren. Die Plattform war die BrainScaleS-2-Neuromorphe-Hardware-Plattform, die an der Universität Heidelberg entwickelt wurde.

Die Forscher sagen, dass das BrainScaleS-System Informationen bis zu tausend Mal schneller verarbeitet als das menschliche Gehirn und dabei wesentlich weniger Energie als herkömmliche Computersysteme benötigt.

Das System ist Teil des europäischen Human Brain Project. Das Projekt integriert Technologien wie neuromorphe Rechnertechnik in eine offene Plattform namens EBRAINS.

“Unsere Arbeit ist jedoch nicht nur für die neuromorphe Rechnertechnik und biologisch inspirierte Hardware interessant. Sie erkennt auch die Nachfrage der wissenschaftlichen Gemeinschaft an, sogenannte Deep-Learning-Ansätze auf die Neurowissenschaften zu übertragen und damit die Geheimnisse des menschlichen Gehirns weiter aufzudecken”, sagt Dr. Petrovici.