Τι είναι η Γραμμική Παλινδρόμηση;

Τι είναι η Γραμμική Παλινδρόμηση;

Η γραμμική παλινδρόμηση είναι ένας αλγόριθμος που χρησιμοποιείται για να προβλέψει ή να οπτικοποιήσει μια σχέση μεταξύ δύο διαφορετικών χαρακτηριστικών/μεταβλητών. Σε εργασίες γραμμικής παλινδρόμησης, υπάρχουν δύο είδη μεταβλητών που εξετάζονται: η εξαρτημένη μεταβλητή και η ανεξάρτητη μεταβλητή. Η ανεξάρτητη μεταβλητή είναι η μεταβλητή που стоит μόνη της, χωρίς να επηρεάζεται από την άλλη μεταβλητή. Όταν η ανεξάρτητη μεταβλητή調節, τα επίπεδα της εξαρτημένης μεταβλητής θα μεταβληθούν. Η εξαρτημένη μεταβλητή είναι η μεταβλητή που μελετάται και είναι αυτή που το μοντέλο παλινδρόμησης επιλύει/προβλέπει. Σε εργασίες γραμμικής παλινδρόμησης, κάθε παρατήρηση/παράδειγμα αποτελείται από cả την τιμή της εξαρτημένης μεταβλητής και την τιμή της ανεξάρτητης μεταβλητής.

Αυτή ήταν μια γρήγορη εξήγηση της γραμμικής παλινδρόμησης, αλλά ας βεβαιωθούμε ότι κατανοούμε καλύτερα τη γραμμική παλινδρόμηση εξετάζοντας ένα παράδειγμα και αναλύοντας το τύπο που χρησιμοποιεί.

Κατανόηση της Γραμμικής Παλινδρόμησης

Υποθέτουμε ότι έχουμε ένα σύνολο δεδομένων που καλύπτει τις διαστάσεις των σκληρών δίσκων και το κόστος των δίσκων.

Ας υποθέσουμε ότι το σύνολο δεδομένων μας αποτελείται από δύο διαφορετικά χαρακτηριστικά: την ποσότητα μνήμης και το κόστος. Όσο περισσότερη μνήμη αγοράζουμε για einen υπολογιστή, τόσο περισσότερο αυξάνεται το κόστος της αγοράς. Αν.plotάρουμε τα μεμονωμένα δεδομένα σε ένα διαγράμμα σκέδασης, μπορεί να πάρουμε ένα γράφημα που μοιάζει κάπως così:

Η ακριβής αναλογία μνήμης προς κόστος μπορεί να διαφέρει μεταξύ κατασκευαστών και μοντέλων σκληρών δίσκων, αλλά γενικά, η τάση των δεδομένων είναι μια που ξεκινά από την κάτω αριστερή γωνία (όπου οι σκληροί δίσκοι είναι και φθηνοί και έχουν μικρότερη χωρητικότητα) και κινείται προς την άνω δεξιά (όπου οι δίσκοι είναι πιο ακριβοί και έχουν μεγαλύτερη χωρητικότητα).

Αν είχαμε την ποσότητα μνήμης στο άξονα X και το κόστος στο άξονα Y, μια γραμμή που καταγράφει τη σχέση μεταξύ των μεταβλητών X και Y θα ξεκινήσει από την κάτω αριστερή γωνία και θα τρέξει προς την άνω δεξιά.

Η λειτουργία ενός μοντέλου παλινδρόμησης είναι να καθορίσει μια γραμμική συνάρτηση μεταξύ των μεταβλητών X και Y που περιγράφει καλύτερα τη σχέση μεταξύ των δύο μεταβλητών. Σε γραμμική παλινδρόμηση, υποθέτουμε ότι το Y μπορεί να υπολογιστεί από κάποια συνδυασμό των εισοδικών μεταβλητών. Η σχέση μεταξύ των εισοδικών μεταβλητών (X) και των στόχων (Y) μπορεί να απεικονιστεί με τη διαγραφή μιας γραμμής μέσω των σημείων στο γράφημα. Η γραμμή αντιπροσωπεύει τη συνάρτηση που περιγράφει καλύτερα τη σχέση μεταξύ X και Y (για παράδειγμα, για κάθε φορά που το X αυξάνεται κατά 3, το Y αυξάνεται κατά 2). Ο στόχος είναι να βρεθεί μια βέλτιστη “γραμμή παλινδρόμησης”, ή η γραμμή/συνάρτηση που ταιριάζει καλύτερα στα δεδομένα.

Οι γραμμές συνήθως αναπαρίστανται από το τύπο: Y = m*X + b. Το X αναφέρεται στην ανεξάρτητη μεταβλητή ενώ το Y είναι η εξαρτημένη μεταβλητή. Εν τω μεταξύ, το m είναι η κλίση της γραμμής, όπως ορίζεται από την “άνοδο” sobre την “τρέχουσα”. Οι praktikoi της μηχανικής μάθησης αναπαρίστανται το διάσημο τύπο της γραμμής με немного διαφορετικό τρόπο, χρησιμοποιώντας τον τύπο:

y(x) = w0 + w1 * x

Στον παραπάνω τύπο, το y είναι η μεταβλητή-στόχος ενώ το “w” είναι τα παραμέτρα του μοντέλου και η είσοδος είναι “x”. Έτσι, ο τύπος διαβάζεται ως: “Η συνάρτηση που δίνει το Y, ανάλογα με το X, είναι ίση με τα παραμέτρα του μοντέλου πολλαπλασιασμένα με τις εισόδους”. Τα παραμέτρα του μοντέλου調節 κατά τη διάρκεια της εκπαίδευσης για να ληφθεί η καλύτερη γραμμή παλινδρόμησης.

Πολυπλή Γραμμική Παλινδρόμηση

Φωτογραφία: Cbaf μέσω Wikimedia Commons, Δημόσια Δομή (https://commons.wikimedia.org/wiki/File:2d_multiple_linear_regression.gif)

Η διαδικασία που περιγράφηκε παραπάνω ισχύει για την απλή γραμμική παλινδρόμηση, ή παλινδρόμηση σε σύνολα δεδομένων όπου υπάρχει μόνο μια einzige ανεξάρτητη μεταβλητή. Ωστόσο, μια παλινδρόμηση μπορεί επίσης να γίνει με πολλές μεταβλητές. Σε περίπτωση “πολυπλής γραμμικής παλινδρόμησης”, ο τύπος επεκτείνεται από τον αριθμό των μεταβλητών που βρίσκονται στο σύνολο δεδομένων. Με άλλα λόγια, ενώ ο τύπος για την κανονική γραμμική παλινδρόμηση είναι y(x) = w0 + w1 * x, ο τύπος για την πολυπλή γραμμική παλινδρόμηση θα ήταν y(x) = w0 + w1x1 plus τα βάρη και οι εισόδους για τις διάφορες μεταβλητές. Αν αναπαραστήσουμε τον tổng αριθμό των βαρών και των μεταβλητών ως w(n)x(n), τότε θα μπορούσαμε να αναπαραστήσουμε τον τύπο ως:

y(x) = w0 + w1x1 + w2x2 + … + w(n)x(n)

Μετά την καθορισμό του τύπου για την γραμμική παλινδρόμηση, το μοντέλο μηχανικής μάθησης θα χρησιμοποιήσει διαφορετικές τιμές για τα βάρη, σχεδιάζοντας διαφορετικές γραμμές προσαρμογής. Θυμηθείτε ότι ο στόχος είναι να βρεθεί η γραμμή που ταιριάζει καλύτερα στα δεδομένα για να καθορίσει ποια από τις πιθανές συνδυασμούς βαρών (και επομένως ποια πιθανή γραμμή) ταιριάζει καλύτερα στα δεδομένα και περιγράφει τη σχέση μεταξύ των μεταβλητών.

Μια συνάρτηση κόστους χρησιμοποιείται για να μετρήσει πόσο κοντά είναι οι υποθετικές τιμές Y στις πραγματικές τιμές Y όταν δοθεί μια συγκεκριμένη τιμή βάρους. Η συνάρτηση κόστους για την γραμμική παλινδρόμηση είναι ο μέσος τετραγωνικός σφάλμα, ο οποίος λαμβάνει einfach τον μέσο (τετραγωνικό) σφάλμα μεταξύ της προβλεπόμενης τιμής και της πραγματικής τιμής για όλα τα δεδομένα στο σύνολο δεδομένων. Η συνάρτηση κόστους χρησιμοποιείται για να υπολογίσει ένα κόστος, το οποίο καταγράφει τη διαφορά μεταξύ της προβλεπόμενης τιμής-στόχου και της πραγματικής τιμής-στόχου. Αν η γραμμή προσαρμογής είναι μακριά από τα δεδομένα, το κόστος θα είναι υψηλότερο, ενώ το κόστος θα γίνει μικρότερο όσο η γραμμή πλησιάζει στην απεικόνιση των πραγματικών σχέσεων μεταξύ των μεταβλητών. Τα βάρη του μοντέλου entonces調節 μέχρι να βρεθεί η διαμόρφωση βαρών που παράγει το μικρότερο σφάλμα.