Τι είναι τα νευρωνικά δίκτυα;

Τι είναι τα τεχνητά νευρωνικά δίκτυα (ΑΝΝ);

Πολλές από τις μεγαλύτερες προόδους στην τεχνητή νοημοσύνη είναι οδηγείται από τεχνητά νευρωνικά δίκτυα. Τα τεχνητά νευρωνικά δίκτυα (ANN) είναι η σύνδεση μαθηματικών συναρτήσεων που ενώνονται μεταξύ τους σε μια μορφή εμπνευσμένη από τα νευρωνικά δίκτυα που βρίσκονται στον ανθρώπινο εγκέφαλο. Αυτά τα ANN είναι ικανά να εξάγουν πολύπλοκα μοτίβα από δεδομένα, εφαρμόζοντας αυτά τα μοτίβα σε αόρατα δεδομένα για την ταξινόμηση/αναγνώριση των δεδομένων. Με αυτόν τον τρόπο, το μηχάνημα «μαθαίνει». Αυτή είναι μια γρήγορη περιγραφή των νευρωνικών δικτύων, αλλά ας ρίξουμε μια πιο προσεκτική ματιά στα νευρωνικά δίκτυα για να κατανοήσουμε καλύτερα τι είναι και πώς λειτουργούν.

Πολυστρωματικό Perceptron Επεξήγηση

Πριν εξετάσουμε πιο πολύπλοκα νευρωνικά δίκτυα, θα αφιερώσουμε λίγο χρόνο για να δούμε μια απλή έκδοση ενός ANN, ένα Perceptron πολλαπλών στρωμάτων (MLP).

Φανταστείτε μια γραμμή συναρμολόγησης σε ένα εργοστάσιο. Σε αυτήν τη γραμμή συναρμολόγησης, ένας εργαζόμενος λαμβάνει ένα αντικείμενο, κάνει κάποιες προσαρμογές σε αυτό και στη συνέχεια το μεταβιβάζει στον επόμενο εργαζόμενο στη γραμμή που κάνει το ίδιο. Αυτή η διαδικασία συνεχίζεται μέχρι ο τελευταίος εργάτης στη σειρά να βάλει τις τελευταίες πινελιές στο αντικείμενο και να το βάλει σε μια ζώνη που θα το βγάλει από το εργοστάσιο. Σε αυτήν την αναλογία, υπάρχουν πολλαπλά "στρώματα" στη γραμμή συναρμολόγησης και τα προϊόντα μετακινούνται μεταξύ των στρωμάτων καθώς μετακινούνται από εργαζόμενο σε εργαζόμενο. Η γραμμή συναρμολόγησης έχει επίσης ένα σημείο εισόδου και ένα σημείο εξόδου.

Ένα Multi-Layer Perceptron μπορεί να θεωρηθεί ως μια πολύ απλή γραμμή παραγωγής, που αποτελείται από τρία συνολικά επίπεδα: ένα στρώμα εισόδου, ένα κρυφό στρώμα και ένα στρώμα εξόδου. Το επίπεδο εισόδου είναι το σημείο όπου τα δεδομένα τροφοδοτούνται στο MLP και στο κρυφό επίπεδο κάποιος αριθμός «εργαζομένων» χειρίζεται τα δεδομένα πριν τα διαβιβάσει στο επίπεδο εξόδου που δίνει το προϊόν στον έξω κόσμο. Στην περίπτωση ενός MLP, αυτοί οι εργαζόμενοι ονομάζονται «νευρώνες» (ή μερικές φορές κόμβοι) και όταν χειρίζονται τα δεδομένα τα χειρίζονται μέσω μιας σειράς μαθηματικών συναρτήσεων.

Μέσα στο δίκτυο, υπάρχουν δομές που συνδέουν τον κόμβο με τον κόμβο που ονομάζονται "βάρη". Τα βάρη είναι μια υπόθεση σχετικά με το πώς συνδέονται τα σημεία δεδομένων καθώς κινούνται μέσα στο δίκτυο. Για να το θέσω διαφορετικά, τα βάρη αντικατοπτρίζουν το επίπεδο επιρροής που έχει ένας νευρώνας σε έναν άλλο νευρώνα. Τα βάρη περνούν από μια «συνάρτηση ενεργοποίησης» καθώς φεύγουν από τον τρέχοντα κόμβο, ο οποίος είναι ένας τύπος μαθηματικής συνάρτησης που μετασχηματίζει τα δεδομένα. Μετατρέπουν τα γραμμικά δεδομένα σε μη γραμμικές αναπαραστάσεις, γεγονός που επιτρέπει στο δίκτυο να αναλύει πολύπλοκα μοτίβα.

Η αναλογία με τον ανθρώπινο εγκέφαλο που υπονοείται από το «τεχνητό νευρωνικό δίκτυο» προέρχεται από το γεγονός ότι οι νευρώνες που αποτελούν τον ανθρώπινο εγκέφαλο ενώνονται μεταξύ τους με παρόμοιο τρόπο με τον τρόπο που συνδέονται οι κόμβοι σε ένα ANN.

Ενώ τα πολυστρωματικά perceptron υπάρχουν από τη δεκαετία του 1940, υπήρχαν ορισμένοι περιορισμοί που τα εμπόδιζαν να είναι ιδιαίτερα χρήσιμα. Ωστόσο, κατά τη διάρκεια των τελευταίων δύο δεκαετιών, μια τεχνική που ονομάζεται "οπίσθιο πολλαπλασιασμόΔημιουργήθηκε που επέτρεψε στα δίκτυα να προσαρμόσουν τα βάρη των νευρώνων και έτσι να μάθουν πολύ πιο αποτελεσματικά. Η αντίστροφη διάδοση αλλάζει τα βάρη στο νευρωνικό δίκτυο, επιτρέποντας στο δίκτυο να συλλαμβάνει καλύτερα τα πραγματικά μοτίβα μέσα στα δεδομένα.

Βαθιά Νευρωνικά Δίκτυα

Τα βαθιά νευρωνικά δίκτυα παίρνουν τη βασική μορφή του MLP και το κάνουν μεγαλύτερο προσθέτοντας περισσότερα κρυφά στρώματα στη μέση του μοντέλου. Έτσι, αντί να υπάρχει ένα επίπεδο εισόδου, ένα κρυφό στρώμα και ένα στρώμα εξόδου, υπάρχουν πολλά κρυφά στρώματα στη μέση και οι έξοδοι ενός κρυφού στρώματος γίνονται οι είσοδοι για το επόμενο κρυφό στρώμα έως ότου τα δεδομένα τελειώσουν μέσω του δικτύου και επιστράφηκαν.

Τα πολλαπλά κρυφά στρώματα ενός βαθιού νευρωνικού δικτύου είναι σε θέση να ερμηνεύουν πιο πολύπλοκα μοτίβα από το παραδοσιακό πολυστρωματικό perceptron. Διαφορετικά στρώματα του βαθιού νευρωνικού δικτύου μαθαίνουν τα μοτίβα διαφορετικών τμημάτων των δεδομένων. Για παράδειγμα, εάν τα δεδομένα εισόδου αποτελούνται από εικόνες, το πρώτο τμήμα του δικτύου μπορεί να ερμηνεύσει τη φωτεινότητα ή το σκοτάδι των pixel, ενώ τα μεταγενέστερα στρώματα θα επιλέξουν σχήματα και άκρες που μπορούν να χρησιμοποιηθούν για την αναγνώριση αντικειμένων στην εικόνα.

Διαφορετικοί τύποι νευρωνικών δικτύων

Υπάρχουν διάφοροι τύποι νευρωνικών δικτύων και καθένας από τους διάφορους τύπους νευρωνικών δικτύων έχει τα δικά του πλεονεκτήματα και μειονεκτήματα (και επομένως τις δικές του περιπτώσεις χρήσης). Ο τύπος του βαθιού νευρωνικού δικτύου που περιγράφηκε παραπάνω είναι ο πιο κοινός τύπος νευρωνικού δικτύου και συχνά αναφέρεται ως νευρωνικό δίκτυο τροφοδοσίας.

Μια παραλλαγή των νευρωνικών δικτύων είναι το Recurrent Neural Network (RNN). Στην περίπτωση των επαναλαμβανόμενων νευρωνικών δικτύων, χρησιμοποιούνται μηχανισμοί βρόχου για τη διατήρηση πληροφοριών από προηγούμενες καταστάσεις ανάλυσης, πράγμα που σημαίνει ότι μπορούν να ερμηνεύσουν δεδομένα όπου η σειρά έχει σημασία. Τα RNN είναι χρήσιμα για την εξαγωγή μοτίβων από διαδοχικά/χρονολογικά δεδομένα. Τα επαναλαμβανόμενα νευρωνικά δίκτυα μπορεί να είναι είτε μονής κατεύθυνσης είτε αμφίδρομα. Στην περίπτωση ενός αμφίδρομου νευρωνικού δικτύου, το δίκτυο μπορεί να λάβει πληροφορίες από αργότερα της ακολουθίας καθώς και προηγούμενα τμήματα της ακολουθίας. Δεδομένου ότι το αμφίδρομο RNN λαμβάνει υπόψη περισσότερες πληροφορίες, είναι καλύτερο να αντλήσει τα σωστά μοτίβα από τα δεδομένα.

Το Συνελικτικό Νευρωνικό Δίκτυο είναι ένας ειδικός τύπος νευρωνικού δικτύου που είναι ικανός να ερμηνεύει τα μοτίβα που βρίσκονται μέσα στις εικόνες. Ένα CNN λειτουργεί περνώντας ένα φίλτρο πάνω από τα εικονοστοιχεία της εικόνας και επιτυγχάνοντας μια αριθμητική αναπαράσταση των εικονοστοιχείων μέσα στην εικόνα, τα οποία στη συνέχεια μπορεί να αναλύσει για μοτίβα. Ένα CNN είναι δομημένο έτσι ώστε τα συνελικτικά στρώματα που τραβούν τα εικονοστοιχεία από την εικόνα να έρχονται πρώτα και μετά να έρχονται τα πυκνά συνδεδεμένα στρώματα τροφοδοσίας προς τα εμπρός, αυτά που θα μάθουν πραγματικά να αναγνωρίζουν αντικείμενα.