Was sind Neuronale Netze?

Was sind künstliche Neuronale Netze (ANNs)?

Viele der größten Fortschritte im Bereich KI werden durch künstliche Neuronale Netze vorangetrieben. Künstliche Neuronale Netze (ANNs) sind die Verbindung von mathematischen Funktionen, die in einer von den Neuralnetzen des menschlichen Gehirns inspirierten Form kombiniert werden. Diese ANNs sind in der Lage, komplexe Muster aus Daten zu extrahieren und diese Muster auf unbekannte Daten anzuwenden, um die Daten zu klassifizieren bzw. zu erkennen. Auf diese Weise “lernt” die Maschine. Das ist eine kurze Übersicht über Neuronale Netze, aber lassen Sie uns einen genaueren Blick auf Neuronale Netze werfen, um besser zu verstehen, was sie sind und wie sie funktionieren.

Multi-Layer-Perceptron erklärt

Bevor wir uns komplexeren Neuralen Netzen zuwenden, werden wir uns zunächst mit einer einfachen Version eines ANNs, dem Multi-Layer-Perceptron (MLP), auseinandersetzen.

Stellen Sie sich eine Montagestraße in einer Fabrik vor. Auf dieser Montagestraße erhält ein Arbeiter ein Teil, macht einige Anpassungen daran und gibt es dann an den nächsten Arbeiter in der Straße weiter, der das Gleiche tut. Dieser Prozess wird fortgesetzt, bis der letzte Arbeiter in der Straße das Teil fertigstellt und es auf ein Band legt, das es aus der Fabrik transportiert. In dieser Analogie gibt es mehrere “Schichten” in der Montagestraße, und Produkte bewegen sich zwischen den Schichten, während sie von Arbeiter zu Arbeiter gehen. Die Montagestraße hat auch einen Eingangspunkt und einen Ausgangspunkt.

Ein Multi-Layer-Perceptron kann als eine sehr einfache Produktionslinie betrachtet werden, die aus drei Schichten besteht: einer Eingabeschicht, einer versteckten Schicht und einer Ausgabeschicht. Die Eingabeschicht ist der Punkt, an dem die Daten in den MLP eingegeben werden, und in der versteckten Schicht werden die Daten von einer Reihe von “Arbeitern” bearbeitet, bevor sie an die Ausgabeschicht weitergegeben werden, die das Produkt an die Außenwelt liefert. Im Falle eines MLP werden diese Arbeiter als “Neuronen” (oder manchmal Knoten) bezeichnet, und wenn sie die Daten bearbeiten, wenden sie eine Reihe von mathematischen Funktionen an.

Innerhalb des Netzwerks gibt es Strukturen, die Knoten miteinander verbinden, die als “Gewichte” bezeichnet werden. Gewichte sind Annahmen darüber, wie Datenpunkte miteinander in Beziehung stehen, während sie durch das Netzwerk gehen. Um es anders auszudrücken, spiegeln Gewichte den Einfluss wider, den ein Neuron auf ein anderes Neuron hat. Die Gewichte gehen durch eine “Aktivierungsfunktion”, wenn sie den aktuellen Knoten verlassen, was eine Art mathematische Funktion ist, die die Daten transformiert. Sie transformieren lineare Daten in nicht-lineare Darstellungen, was es dem Netzwerk ermöglicht, komplexe Muster zu analysieren.

Die Analogie zum menschlichen Gehirn, die durch “künstliches Neuronales Netz” impliziert wird, kommt von der Tatsache, dass die Neuronen, die das menschliche Gehirn bilden, auf ähnliche Weise miteinander verbunden sind wie die Knoten in einem ANNs.

Multi-Layer-Perceptrons existieren seit den 1940er Jahren, aber es gab eine Reihe von Einschränkungen, die sie nicht besonders nützlich machten. Im Laufe der letzten paar Jahrzehnte wurde jedoch eine Technik namens “Backpropagation” entwickelt, die es den Netzen ermöglichte, die Gewichte der Neuronen anzupassen und so effektiver zu lernen. Backpropagation ändert die Gewichte im Neuronalen Netz, was es dem Netz ermöglicht, die tatsächlichen Muster in den Daten besser zu erfassen.

Tiefe Neuronale Netze

Tiefe Neuronale Netze nehmen die grundlegende Form des MLP und machen es größer, indem sie mehr versteckte Schichten in die Mitte des Modells hinzufügen. Anstatt einer Eingabeschicht, einer versteckten Schicht und einer Ausgabeschicht gibt es viele versteckte Schichten in der Mitte, und die Ausgaben einer versteckten Schicht werden die Eingaben für die nächste versteckte Schicht, bis die Daten das Netzwerk vollständig durchlaufen haben und zurückgegeben werden.

Die mehrfachen versteckten Schichten eines tiefen Neuronalen Netzes können komplexere Muster als der traditionelle Multi-Layer-Perceptron interpretieren. Verschiedene Schichten des tiefen Neuronalen Netzes lernen die Muster verschiedener Teile der Daten. Wenn die Eingabedaten beispielsweise Bilder sind, kann der erste Teil des Netzwerks die Helligkeit oder Dunkelheit der Pixel interpretieren, während die späteren Schichten Formen und Kanten erkennen, die verwendet werden können, um Objekte im Bild zu erkennen.

Unterschiedliche Arten von Neuronalen Netzen

Es gibt verschiedene Arten von Neuronalen Netzen, und jede Art von Neuronalem Netz hat ihre eigenen Vorteile und Nachteile (und daher ihre eigenen Einsatzfälle). Die Art von tiefem Neuronalen Netz, die oben beschrieben wurde, ist die häufigste Art von Neuronalen Netzen und wird oft als Feedforward-Neuronales Netz bezeichnet.

Eine Variation von Neuronalen Netzen ist das Rekurrente Neuronale Netz (RNN). Im Falle von Rekurrenten Neuronalen Netzen werden Schleifmechanismen verwendet, um Informationen aus vorherigen Zuständen der Analyse zu speichern, was bedeutet, dass sie Daten interpretieren können, bei denen die Reihenfolge wichtig ist. RNNs sind nützlich bei der Ableitung von Mustern aus sequenziellen/chronologischen Daten. Rekurrente Neuronale Netze können ein- oder bidirektional sein. Im Falle eines bidirektionalen Neuronalen Netzes kann das Netz Informationen aus späteren Teilen der Sequenz sowie aus früheren Teilen der Sequenz verwenden. Da das bidirektionale RNN mehr Informationen berücksichtigt, kann es die richtigen Muster aus den Daten besser ableiten.

Ein Convolutionales Neuronales Netz ist eine spezielle Art von Neuronalen Netz, die gut darin ist, die Muster in Bildern zu interpretieren. Ein CNN funktioniert, indem es einen Filter über die Pixel des Bildes legt und eine numerische Darstellung der Pixel im Bild erhält, die es dann auf Muster analysieren kann. Ein CNN ist so strukturiert, dass die convolutionalen Schichten, die die Pixel aus dem Bild extrahieren, zuerst kommen, und dann die dicht verbundenen Feedforward-Schichten kommen, die tatsächlich lernen, Objekte zu erkennen, nach diesem.