Neues System soll das Energieverbrauchsproblem von KI lösen

Computer, die auf künstlicher Intelligenz (KI) basieren, benötigen viel Energie, und dieser Bedarf an Rechenleistung verdoppelt sich etwa alle drei bis vier Monate. Wenn es um Rechenzentren für Cloud-Computing geht, die von KI- und Machine-Learning-Anwendungen verwendet werden, verbrauchen sie mehr elektrische Energie pro Jahr als einige kleine Länder. Viele Forscher warnen davor, dass dieses System nicht nachhaltig ist.

Ein Team von Forschern unter der Leitung der University of Washington hat eine Lösung entwickelt, um dieses Problem zu lösen – neue optische Computerhardware für KI und Machine Learning. Diese Hardware ist schneller und viel energieeffizienter als herkömmliche Elektronik. Sie hilft auch, das “Rauschen” zu lösen, das durch optisches Computing verursacht wird und die Rechengenauigkeit stören kann.

Die Forschung wurde am 21. Januar in Science Advances veröffentlicht.

Rauschen als Eingabe verwenden

In der Forschungsarbeit demonstrierte das Team, wie ein optisches Computersystem für KI und Machine Learning einige des Rauschens als Eingabe verwenden kann, um die kreative Ausgabe des künstlichen neuronalen Netzes (ANN) im System zu verbessern.

Changming Wu ist ein Doktorand der University of Washington im Bereich Elektrotechnik und Informatik und Erstautor der Arbeit.

“Wir haben einen optischen Computer entwickelt, der schneller ist als ein herkömmlicher Digitalcomputer”, sagte Wu. “Und auch, dieser optische Computer kann neue Dinge auf der Grundlage von zufälligen Eingaben erstellen, die aus dem optischen Rauschen generiert werden, das die meisten Forscher zu vermeiden versuchten.”

Das Rauschen im optischen Computing wird durch streifende Lichtpartikel oder Photonen verursacht, die von den Lasern im Gerät und der Hintergrund-Thermstrahlung erzeugt werden. Um das Rauschen zu bekämpfen, verband das Team den optischen Computing-Kern mit einem generativen adversarialen Netzwerk (GAN). Sie testeten dann verschiedene Rauschminderungstechniken, wie z.B. die Verwendung einiger des erzeugten Rauschens als zufällige Eingaben für das GAN.

Das Team sagte dem GAN, dass es lernen sollte, die Zahl “7” wie ein Mensch zu schreiben, was bedeutete, dass es die Aufgabe durch das Beobachten von visuellen Beispielen für Handschriften lernen musste, bevor es wiederholt übte. Aufgrund seiner Form musste der optische Computer digitale Bilder erstellen, die einen ähnlichen Stil wie die Beispiele hatten.

Mo Li ist ein Professor der University of Washington im Bereich Elektrotechnik und Informatik und Senior-Autor der Arbeit.

“Anstatt das Netzwerk zu trainieren, um handschriftliche Zahlen zu lesen, trainierten wir das Netzwerk, Zahlen zu schreiben, indem es visuelle Beispiele für Handschriften nachahmte, auf die es trainiert worden war”, sagte Li. “Wir haben mit Hilfe unserer Computerwissenschaft-Kollaborateure an der Duke University auch gezeigt, dass das GAN die negative Auswirkung des optischen Computing-Hardwares auf die Rauschen durch die Verwendung eines Trainingsalgorithmus, der robust gegenüber Fehlern und Rauschen ist, mindern kann. Mehr als das, das Netzwerk verwendet tatsächlich die Rauschen als zufällige Eingabe, die zum Erstellen von Ausgabe-Instanzen benötigt wird.”

Als das GAN weiterhin übte, die Zahl zu schreiben, entwickelte es seinen eigenen einzigartigen Schreibstil. Es konnte schließlich Zahlen von 1 bis 10 in Computersimulationen schreiben.

Größeres Gerät aufbauen

Das Team wird nun versuchen, das Gerät in größerem Maßstab aufzubauen, indem es die aktuelle Halbleitertechnologie verwendet, was die Leistung verbessern und es dem Team ermöglichen wird, komplexere Aufgaben durchzuführen.

“Dieses optische System stellt eine Computer-Hardware-Architektur dar, die die Kreativität künstlicher neuronaler Netze in KI und Machine Learning verbessern kann, aber wichtiger ist, es zeigt die Machbarkeit dieses Systems in großem Maßstab, wo Rauschen und Fehler gemindert und sogar genutzt werden können”, sagte Li. “KI-Anwendungen wachsen so schnell, dass ihr Energieverbrauch in Zukunft nicht nachhaltig sein wird. Diese Technologie hat das Potenzial, den Energieverbrauch zu reduzieren und KI und Machine Learning umweltfreundlich und sehr schnell zu machen, mit höherer Leistung insgesamt.”