Τι είναι τα Νευρωνικά Δίκτυα;

Τι είναι τα Τεχνητά Νευρωνικά Δίκτυα (ANNs);

Πολλοί από τους μεγαλύτερους προγραμματισμούς στην τεχνητή νοημοσύνη οφείλονται στα τεχνητά νευρωνικά δίκτυα. Τα Τεχνητά Νευρωνικά Δίκτυα (ANNs) είναι η σύνδεση μαθηματικών συναρτήσεων που ενώνονται σε ένα φορμάτ που εμπνέεται από τα νευρωνικά δίκτυα που βρίσκονται στον ανθρώπινο εγκέφαλο. Αυτά τα ANNs είναι ικανά να εξάγουν σύνθετα πρότυπα από δεδομένα, εφαρμόζοντας αυτά τα πρότυπα σε μη είδη δεδομένων για να ταξινομήσουν/αναγνωρίσουν τα δεδομένα. Με αυτόν τον τρόπο, η μηχανή «μαθαίνει». Αυτή είναι μια γρήγορη επισκόπηση των νευρωνικών δικτύων, αλλά ας δούμε πιο κοντά τα νευρωνικά δίκτυα για να κατανοήσουμε τι είναι και πώς λειτουργούν.

Εξήγηση του Multi-Layer Perceptron

Πριν εξετάσουμε πιο σύνθετα νευρωνικά δίκτυα, θα σταθούμε για μια στιγμή σε μια απλή εκδοχή του ANNs, ένα Multi-Layer Perceptron (MLP).

Φανταστείτε μια γραμμή συναρμολόγησης σε ένα εργοστάσιο. Σε αυτή τη γραμμή, ένας εργάτης λαμβάνει ένα αντικείμενο, κάνει κάποιες ρυθμίσεις σε αυτό και στη συνέχεια το περνάει στον επόμενο εργάτη στη γραμμή, ο οποίος κάνει το ίδιο. Αυτή η διαδικασία συνεχίζεται μέχρι ο τελευταίος εργάτης στη γραμμή να βάλει τις τελικές πινελιές στο αντικείμενο και να το τοποθετήσει σε μια ζώνη που θα το μεταφέρει έξω από το εργοστάσιο. Σε αυτή την αναλογία, υπάρχουν πολλά «στρώματα» στη γραμμή συναρμολόγησης και τα προϊόντα κινούνται μεταξύ των στρωμάτων καθώς κινούνται από εργάτη σε εργάτη. Η γραμμή συναρμολόγησης έχει επίσης ένα σημείο εισόδου και ένα σημείο εξόδου.

Ένα Multi-Layer Perceptron μπορεί να θεωρηθεί ως μια πολύ απλή γραμμή παραγωγής, αποτελούμενη από τρία στρώματα συνολικά: ένα στρώμα εισόδου, ένα κρυφό στρώμα και ένα στρώμα εξόδου. Το στρώμα εισόδου είναι εκεί όπου τα δεδομένα εισάγονται στο MLP και στο κρυφό στρώμα κάποιοι «εργάτες» χειρίζονται τα δεδομένα πριν τα περάσουν στο στρώμα εξόδου, το οποίο δίνει το προϊόν στον εξωτερικό κόσμο. Σε περίπτωση του MLP, αυτοί οι εργάτες ονομάζονται «νευρώνες» (ή иногда κόμβοι) και όταν χειρίζονται τα δεδομένα, τα χειρίζονται μέσω μιας σειράς μαθηματικών συναρτήσεων.

Εντός του δικτύου, υπάρχουν δομές που συνδέουν τον κόμβο με τον κόμβο, που ονομάζονται «βαρύτητες». Οι βαρύτητες είναι μια υπόθεση σχετικά με το πώς τα δεδομένα συνδέονται καθώς κινούνται μέσα στο δίκτυο. Για να το πούμε με άλλον τρόπο, οι βαρύτητες αντανακλούν το επίπεδο επιρροής που έχει ένας νευρώνας στον άλλον νευρώνα. Οι βαρύτητες περνούν από μια «συνάρτηση ενεργοποίησης» καθώς εξέρχονται από τον τρέχοντα κόμβο, η οποία είναι ένα είδος μαθηματικής συνάρτησης που μετατρέπει τα δεδομένα. Μετατρέπουν γραμμικά δεδομένα σε μη γραμμικές αναπαραστάσεις, που επιτρέπουν στο δίκτυο να αναλύσει σύνθετα πρότυπα.

Η αναλογία με τον ανθρώπινο εγκέφαλο που υποδηλώνεται από «τεχνητό νευρωνικό δίκτυο» προέρχεται από το γεγονός ότι οι νευρώνες που αποτελούν τον ανθρώπινο εγκέφαλο είναι συνδεδεμένοι με παρόμοιο τρόπο με τον τρόπο που οι κόμβοι σε ένα ANN συνδέονται.

Ενώ τα multi-layer perceptrons υπάρχουν από τη δεκαετία του 1940, υπήρξαν ορισμένα περιορισμένα που εμπόδισαν να είναι ιδιαίτερα χρήσιμα. Ωστόσο, κατά τη διάρκεια των τελευταίων δύο δεκαετιών, μια τεχνική που ονομάζεται «backpropagation» δημιουργήθηκε, η οποία επέτρεψε στα δίκτυα να điều chỉnh τα βάρη των νευρώνων και να μάθουν πολύ πιο αποτελεσματικά. Η backpropagation αλλάζει τα βάρη στο νευρωνικό δίκτυο, επιτρέποντας στο δίκτυο να συλλάβει καλύτερα τα πραγματικά πρότυπα μέσα στα δεδομένα.

Βαθιά Νευρωνικά Δίκτυα

Τα βαθιά νευρωνικά δίκτυα λαμβάνουν τη βασική μορφή του MLP και την κάνουν μεγαλύτερη προσθέτοντας περισσότερα κρυφά στρώματα στη μέση του μοντέλου. Έτσι, αντί να υπάρχει ένα στρώμα εισόδου, ένα κρυφό στρώμα και ένα στρώμα εξόδου, υπάρχουν πολλά κρυφά στρώματα στη μέση και οι έξοδοι ενός κρυφού στρώματος γίνονται οι εισόδοι για το επόμενο κρυφό στρώμα μέχρι τα δεδομένα να έχουν περάσει από όλο το δίκτυο και να έχουν επιστραφεί.

Τα πολλαπλά κρυφά στρώματα ενός βαθιά νευρωνικού δικτύου είναι ικανά να ερμηνεύσουν πιο σύνθετα πρότυπα από το παραδοσιακό multilayer perceptron. Διαφορετικά στρώματα του βαθιά νευρωνικού δικτύου μαθαίνουν τα πρότυπα διαφορετικών μερών των δεδομένων. Για παράδειγμα, αν τα δεδομένα εισόδου αποτελούνται από εικόνες, το πρώτο μέρος του δικτύου μπορεί να ερμηνεύσει την φωτεινότητα ή το σκούρο των pixel, ενώ τα μεταγενέστερα στρώματα θα επιλέξουν σχήματα και άκρες που μπορούν να χρησιμοποιηθούν για να αναγνωρίσουν αντικείμενα στην εικόνα.

Διάφορα Είδη Νευρωνικών Δικτύων

Υπάρχουν διάφορα είδη νευρωνικών δικτύων και κάθε είδος νευρωνικού δικτύου έχει τα δικά του πλεονεκτήματα και μειονεκτήματα (και επομένως τις δικές του περιπτώσεις χρήσης). Ο τύπος του βαθιά νευρωνικού δικτύου που περιγράφηκε παραπάνω είναι ο πιο συνηθισμένος τύπος νευρωνικού δικτύου και συχνά ονομάζεται feedforward νευρωνικό δίκτυο.

Μια παραλλαγή των νευρωνικών δικτύων είναι το Recurrent Neural Network (RNN). Σε περίπτωση Recurrent Neural Networks, χρησιμοποιούνται μηχανισμοί βρόχου για να κρατήσουν πληροφορίες από προηγούμενες καταστάσεις ανάλυσης, που σημαίνει ότι μπορούν να ερμηνεύσουν δεδομένα όπου η σειρά έχει σημασία. Τα RNNs είναι χρήσιμα στη εξαγωγή προτύπων από διαδοχικά/χρονολογικά δεδομένα. Τα Recurrent Neural Networks μπορούν να είναι είτε μονοκατευθυνόμενα είτε δικατευθυνόμενα. Σε περίπτωση ενός δικατευθυνόμενου νευρωνικού δικτύου, το δίκτυο μπορεί να λάβει πληροφορίες από μεταγενέστερα σημεία της ακολουθίας, καθώς και από προηγούμενα τμήματα της ακολουθίας.既然 το δικατευθυνόμενο RNN λαμβάνει περισσότερες πληροφορίες υπόψη, είναι καλύτερο να εξάγει τα σωστά πρότυπα από τα δεδομένα.

Ένα Convolutional Neural Network είναι ένα ειδικό είδος νευρωνικού δικτύου που είναι ικανό να ερμηνεύσει τα πρότυπα που βρίσκονται μέσα στις εικόνες. Ένα CNN λειτουργεί περνώντας ένα φίλτρο πάνω από τα pixel της εικόνας και επιτυγχάνοντας μια αριθμητική αναπαράσταση των pixel μέσα στην εικόνα, η οποία μπορεί στη συνέχεια να αναλυθεί για πρότυπα. Ένα CNN είναι δομημένο так, ώστε τα στρώματα convolution που βγάζουν τα pixel από την εικόνα να έρχονται πρώτα, και στη συνέχεια τα πυκνά συνδεδεμένα feed-forward στρώματα που θα μάθουν να αναγνωρίσουν αντικείμενα, έρχονται μετά από αυτό.