Wat is neurale netwerke?

Wat is kunsmatige neurale netwerke (ANNs)?

Baie van die grootste vooruitgang in KI is aangedryf deur kunsmatige neurale netwerke. Kunsmatige neurale netwerke (ANN'e) is die verbinding van wiskundige funksies wat saamgevoeg is in 'n formaat wat geïnspireer is deur die neurale netwerke wat in die menslike brein gevind word. Hierdie ANN'e is in staat om komplekse patrone uit data te onttrek, om hierdie patrone toe te pas op onsigbare data om die data te klassifiseer/herken. Op hierdie manier "leer" die masjien. Dit is 'n vinnige oorsig oor neurale netwerke, maar kom ons kyk nader na neurale netwerke om beter te verstaan ​​wat hulle is en hoe hulle werk.

Multi-laag Perceptron Verduidelik

Voordat ons na meer komplekse neurale netwerke kyk, gaan ons 'n oomblik neem om na 'n eenvoudige weergawe van 'n ANN te kyk, 'n Multi-Layer Perceptron (MLP).

Stel jou 'n monteerlyn by 'n fabriek voor. Op hierdie monteerlyn ontvang een werker 'n item, maak 'n paar aanpassings daaraan, en gee dit dan deur aan die volgende werker in die lyn wat dieselfde doen. Hierdie proses gaan voort totdat die laaste werker in die ry die item afronding sit en dit op 'n band sit wat dit uit die fabriek sal neem. In hierdie analogie is daar veelvuldige "lae" na die monteerlyn, en produkte beweeg tussen lae soos hulle van werker na werker beweeg. Die monteerlyn het ook 'n toegangspunt en 'n uitgangpunt.

'n Multi-Layer Perceptron kan beskou word as 'n baie eenvoudige produksielyn, gemaak uit drie lae totaal: 'n invoerlaag, 'n versteekte laag en 'n uitsetlaag. Die invoerlaag is waar die data in die MLP ingevoer word, en in die versteekte laag hanteer 'n aantal "werkers" die data voordat dit na die uitsetlaag deurgee wat die produk aan die buitewêreld gee. In die geval van 'n MLP word hierdie werkers "neurone" (of soms nodusse) genoem en wanneer hulle die data hanteer, manipuleer hulle dit deur 'n reeks wiskundige funksies.

Binne die netwerk is daar strukture wat nodus verbind met nodus genoem "gewigte”. Gewigte is 'n aanname oor hoe datapunte verwant is soos hulle deur die netwerk beweeg. Om dit anders te stel, gewigte weerspieël die vlak van invloed wat een neuron oor 'n ander neuron het. Die gewigte gaan deur 'n "aktiveringsfunksie" soos hulle die huidige nodus verlaat, wat 'n tipe wiskundige funksie is wat die data transformeer. Hulle transformeer lineêre data in nie-lineêre voorstellings, wat die netwerk in staat stel om komplekse patrone te analiseer.

Die analogie met die menslike brein wat deur "kunsmatige neurale netwerk" geïmpliseer word, kom van die feit dat die neurone waaruit die menslike brein bestaan, saamgevoeg word op 'n soortgelyke wyse as hoe nodusse in 'n ANN gekoppel is.

Terwyl meerlaagperseptrone sedert die 1940's bestaan ​​het, was daar 'n aantal beperkings wat verhoed het dat hulle veral nuttig was. In die loop van die afgelope paar dekades het 'n tegniek genaamd "terugpropagasie” is geskep wat netwerke toegelaat het om die gewigte van die neurone aan te pas en daardeur baie meer effektief te leer. Terugpropagasie verander die gewigte in die neurale netwerk, wat die netwerk in staat stel om die werklike patrone binne die data beter vas te lê.

Diep Neurale Netwerke

Diep neurale netwerke neem die basiese vorm van die MLP aan en maak dit groter deur meer versteekte lae in die middel van die model by te voeg. So in plaas daarvan dat daar 'n invoerlaag, 'n versteekte laag en 'n uitvoerlaag is, is daar baie versteekte lae in die middel en die uitsette van een versteekte laag word die insette vir die volgende versteekte laag totdat die data dit heeltemal gemaak het deur die netwerk en is teruggestuur.

Die veelvuldige verborge lae van 'n diep neurale netwerk is in staat om meer komplekse patrone te interpreteer as die tradisionele meerlaagperseptron. Verskillende lae van die diep neurale netwerk leer die patrone van verskillende dele van die data. Byvoorbeeld, as die invoerdata uit beelde bestaan, kan die eerste gedeelte van die netwerk die helderheid of donkerte van pixels interpreteer, terwyl die latere lae vorms en rande sal uitsoek wat gebruik kan word om voorwerpe in die beeld te herken.

Verskillende tipes neurale netwerke

Daar is verskeie tipes neurale netwerke, en elkeen van die verskillende neurale netwerktipes het sy eie voordele en nadele (en dus hul eie gebruiksgevalle). Die tipe diep neurale netwerk wat hierbo beskryf word, is die mees algemene tipe neurale netwerk, en dit word dikwels na verwys as 'n feedforward neurale netwerk.

Een variasie op neurale netwerke is die herhalende neurale netwerk (RNN). In die geval van herhalende neurale netwerke, word lusmeganismes gebruik om inligting van vorige toestande van analise te hou, wat beteken dat hulle data kan interpreteer waar die volgorde saak maak. RNN'e is nuttig om patrone van opeenvolgende/chronologiese data af te lei. Herhalende neurale netwerke kan eenrigting of tweerigting wees. In die geval van 'n tweerigting neurale netwerk, kan die netwerk inligting van later in die ry sowel as vroeëre gedeeltes van die ry neem. Aangesien die tweerigting-RNN meer inligting in ag neem, is dit beter in staat om die regte patrone uit die data te teken.

'n Konvolusionele neurale netwerk is 'n spesiale tipe neurale netwerk wat vaardig is om die patrone wat in beelde voorkom, te interpreteer. 'n CNN werk deur 'n filter oor die pixels van die prent te stuur en 'n numeriese voorstelling van die pixels binne die prent te verkry, wat dit dan vir patrone kan ontleed. 'n CNN is so gestruktureer dat die konvolusionele lae wat die pixels uit die beeld trek, eerste kom, en dan kom die dig gekoppelde terugvoerlae, dié wat eintlik sal leer om voorwerpe te herken, hierna kom.