Hvad er Neurale Netværk?

Hvad er Kunstige Neurale Netværk (ANNs)?

Mange af de største fremskridt i AI er drevet af kunstige neurale netværk. Kunstige Neurale Netværk (ANNs) er forbindelsen af matematiske funktioner forbundet sammen i en format inspireret af de neurale netværk, der findes i det menneskelige hjerte. Disse ANNs er i stand til at trække komplekse mønster ud af data, anvende disse mønster på usete data for at klassificere/kende data. På denne måde “lærer” maskinen. Det er en hurtig gennemgang af neurale netværk, men lad os tage en nærmere kig på neurale netværk for bedre at forstå, hvad de er og hvordan de fungerer.

Multi-Layer Perceptron Forklaret

Før vi ser på mere komplekse neurale netværk, vil vi tage et øjeblik til at se på en simpel version af et ANN, en Multi-Layer Perceptron (MLP).

Forestil dig en samlebånd på en fabrik. På dette samlebånd modtager en arbejder en vare, laver nogle justeringer på den og passerer den herefter til den næste arbejder i linjen, der gør det samme. Denne proces fortsætter, indtil den sidste arbejder i linjen sætter de sidste finish på varen og lægger den på en bånd, der vil føre den ud af fabrikken. I denne analogi er der flere “lag” i samlebåndet, og produkterne bevæger sig mellem lagene, mens de bevæger sig fra arbejder til arbejder. Samlebåndet har også et indgangspunkt og et udgangspunkt.

En Multi-Layer Perceptron kan betragtes som en meget simpel produktionslinje, bestående af i alt tre lag: et inputlag, et skjult lag og et outputlag. Inputlaget er, hvor data indføres i MLP, og i det skjulte lag behandler et antal “arbejdere” data, før de passerer det videre til outputlaget, der giver produktet til omverdenen. I tilfælde af en MLP er disse arbejdere kaldet “neuroner” (eller noder) og når de behandler data, manipulerer de dem gennem en række matematiske funktioner.

Inden for netværket er der strukturer, der forbinder node til node, kaldet “vægte“. Vægte er en antagelse om, hvordan datapunkter er relateret, mens de bevæger sig gennem netværket. For at sige det på en anden måde, vægte reflekterer niveauet af indflydelse, som en neuron har over en anden neuron. Vægte passerer gennem en “aktiveringsfunktion”, når de forlader den aktuelle node, som er en type matematisk funktion, der transformerer data. De transformerer lineær data til ikke-lineære repræsentationer, hvilket ermöglicer netværket at analysere komplekse mønster.

Analogien til det menneskelige hjerte, der er impliceret af “kunstigt neuralt netværk”, kommer fra, at neuronerne, der udgør det menneskelige hjerte, er forbundet sammen på en lignende måde, som noder i et ANN er forbundet.

Selvom multi-lag perceptron har eksisteret siden 1940’erne, var der en række begrænsninger, der forhindrede dem i at være særligt nyttige. Men over de sidste par årtier er der blevet udviklet en teknik kaldet “backpropagation“, der har gjort det muligt for netværk at justere vægtene af neuronerne og dermed lære meget mere effektivt. Backpropagation ændrer vægtene i det neurale netværk, hvilket ermöglicer netværket at bedre fange de faktiske mønster inden for data.

Dybe Neurale Netværk

Dybe neurale netværk tager den grundlæggende form af MLP og gør den større ved at tilføje flere skjulte lag i midten af modellen. Så i stedet for at have et inputlag, et skjult lag og et outputlag, er der mange skjulte lag i midten, og outputtet af et skjult lag bliver input til det næste skjulte lag, indtil data er gået hele vejen gennem netværket og er blevet returneret.

De multiple skjulte lag i et dybt neuralt netværk kan fortolke mere komplekse mønster end den traditionelle multilayer perceptron. Forskellige lag i det dybe neurale netværk lærer mønsterne af forskellige dele af data. For eksempel, hvis inputdata består af billeder, kan den første del af netværket fortolke lysstyrken eller mørkheden af pixels, mens de senere lag vil finde former og kanter, der kan bruges til at genkende objekter i billedet.

Forskellige Typer Af Neurale Netværk

Der er forskellige typer af neurale netværk, og hver af de forskellige neurale netværkstyper har sine egne fordele og ulemper (og derfor deres egne brugsområder). Den type dybt neuralt netværk, der er beskrevet ovenfor, er den mest almindelige type neuralt netværk, og det kaldes ofte for et feedforward neuralt netværk.

En variation over neurale netværk er det Recurrent Neurale Netværk (RNN). I tilfælde af Recurrent Neurale Netværk, bruges løkke-mekanismer til at holde information fra tidligere tilstande af analyse, hvilket bedeut, at de kan fortolke data, hvor rækkefølgen er vigtig. RNN’er er nyttige til at udlede mønster fra sekventielle/kronologiske data. Recurrent Neurale Netværk kan være enten unidirektionelle eller bidirektionelle. I tilfælde af en bidirektionel neural netværk, kan netværket tage information fra senere i sekvensen samt tidligere dele af sekvensen. Da den bidirektionelle RNN tager mere information i betragtning, er den bedre i stand til at trække de rigtige mønster ud af data.

Et Convolutional Neuralt Netværk er en speciel type neuralt netværk, der er dygtig til at fortolke mønstrene, der findes inden for billeder. Et CNN opererer ved at passere en filter over billedets pixels og opnå en numerisk repræsentation af pixelene inden for billedet, som det herefter kan analysere for mønster. Et CNN er struktureret, så convolutionelle lag, der trækker pixelene ud af billedet, kommer først, og derefter kommer de tæt forbundne feed-forward lag, der vil lære at genkende objekter, kommer efter dette.