Είναι η Τεχνητή Νοημοσύνη μια Υπαρξιακή Απειλή;

Όταν συζητάμε για Τεχνητή Νοημοσύνη (ΤΝ), μια κοινή συζήτηση είναι αν η ΤΝ είναι μια υπαρξιακή απειλή. Η απάντηση απαιτεί κατανόηση της τεχνολογίας πίσω από τη Μηχανική Μάθηση (ΜΜ) και αναγνώριση ότι οι άνθρωποι έχουν την τάση να ανθρωπομορφίζουν. Θα εξερευνήσουμε δύο διαφορετικά είδη ΤΝ, την Τεχνητή Στενή Νοημοσύνη (ΤΣΝ) που είναι διαθέσιμη τώρα και είναι αιτία ανησυχίας, και την απειλή που είναι πιο συχνά συνδεδεμένη με αποκαλυπτικές απεικονίσεις της ΤΝ, την Τεχνητή Γενική Νοημοσύνη (ΤΓΝ).

Απειλές της Τεχνητής Στενής Νοημοσύνης

Για να κατανοήσουμε τι είναι η ΤΣΝ, απλώς χρειάζεται να κατανοήσουμε ότι κάθε εφαρμογή ΤΝ που είναι διαθέσιμη σήμερα είναι một μορφή ΤΣΝ. Αυτά είναι πεδία της ΤΝ που έχουν ένα στενό πεδίο εξειδίκευσης, για παράδειγμα, τα αυτονομικά οχήματα χρησιμοποιούν ΤΝ που έχει σχεδιαστεί με τον seul σκοπό να μεταφέρει ένα όχημα από το σημείο Α στο σημείο Β. Ένα άλλο είδος ΤΣΝ μπορεί να είναι ένα πρόγραμμα σκακιού που έχει βελτιωθεί για να παίξει σκάκι, και ακόμη και αν το πρόγραμμα σκακιού συνεχίζει να βελτιώνεται με τη χρήση ενισχυτικής μάθησης, το πρόγραμμα σκακιού δεν θα μπορέσει ποτέ να λειτουργήσει ως αυτονομικό όχημα.

Με την εστίαση στην λειτουργία για την οποία είναι υπεύθυνη, τα συστήματα ΤΣΝ δεν μπορούν να χρησιμοποιήσουν γενικευμένη μάθηση για να κατακτήσουν τον κόσμο. Αυτό είναι η καλή είδηση· η κακή είδηση είναι ότι με την εξάρτησή τους από έναν ανθρώπινο χειριστή, το σύστημα ΤΝ είναι ευάλωτο σε προκατειλημμένα δεδομένα, ανθρώπινο λάθος ή ακόμη και χειρότερο, έναν απατεώνα ανθρώπινο χειριστή.

Παρακολούθηση ΤΝ

Μожет να μην υπάρχει μεγαλύτερος κίνδυνος για την ανθρωπότητα από τους ανθρώπους που χρησιμοποιούν ΤΝ για να εισβάλλουν στην ιδιωτικότητα, και σε ορισμένες περιπτώσεις να χρησιμοποιούν ΤΝ για να εμποδίσουν τους ανθρώπους να κινηθούν ελεύθερα. Η Κίνα, η Ρωσία και άλλες χώρες πέρασαν νόμους κατά τη διάρκεια του COVID-19 για να τους επιτρέψουν να παρακολουθούν και να ελέγχουν την κίνηση των πληθυσμών τους. Αυτοί οι νόμοι είναι δύσκολο να αφαιρεθούν, ιδιαίτερα σε κοινωνίες που έχουν αυταρχικούς ηγέτες.

Στην Κίνα, κάμερες τοποθετούνται έξω από τα σπίτια των ανθρώπων, και σε ορισμένες περιπτώσεις μέσα στο σπίτι. Κάθε φορά που ένα μέλος του νοικοκυριού φεύγει, μια ΤΝ παρακολουθεί την ώρα άφιξης και αναχώρησης, και αν χρειάζεται, ειδοποιεί τις αρχές. Όπως αν αυτό δεν ήταν αρκετό, με τη βοήθεια της τεχνολογίας αναγνώρισης προσώπου, η Κίνα μπορεί να παρακολουθήσει την κίνηση κάθε ατόμου κάθε φορά που αναγνωρίζεται από μια κάμερα. Αυτό προσφέρει απόλυτη εξουσία στο ον που ελέγχει την ΤΝ, και απόλυτη μηδενική προστασία στους πολίτες.

Γιατί αυτή η σκηνή είναι επικίνδυνη, είναι ότι οι διεφθαρμένοι κυβερνήσεις μπορούν να παρακολουθούν προσεκτικά τις κινήσεις των δημοσιογράφων, των πολιτικών αντιπάλων ή οποιουδήποτε που τολμά να αμφισβητήσει την εξουσία της κυβέρνησης. Είναι εύκολο να κατανοηθεί πώς οι δημοσιογράφοι και οι πολίτες θα ήταν επιφυλακτικοί να κριτικάρουν τις κυβερνήσεις όταν κάθε κίνησή τους παρακολουθείται.

Υπάρχουν幸運ως πολλές πόλεις που αγωνίζονται για να αποτρέψουν την τεχνολογία αναγνώρισης προσώπου από το να εισβάλλει στις πόλεις τους. Ιδιαίτερα, το Πόρτλαντ του Όρεγκον έχει πρόσφατα ψηφίσει einen νόμο που απαγορεύει την τεχνολογία αναγνώρισης προσώπου να χρησιμοποιείται άσκοπα στην πόλη. Ενώ αυτές οι αλλαγές στους κανονισμούς μπορεί να έχουν περάσει απαρατήρητες από το γενικό κοινό, στο μέλλον αυτοί οι κανονισμοί θα μπορούσαν να είναι η διαφορά μεταξύ πόλεων που προσφέρουν κάποιο είδος αυτονομίας και ελευθερίας, και πόλεων που αισθάνονται καταπιεστικές.

Αυτονομικά Όπλα και Δρόνες

Περισσότεροι από 4500 ερευνητές της ΤΝ έχουν ζητήσει απαγόρευση των αυτονομικών όπλων και έχουν δημιουργήσει την Ιστοσελίδα Απαγόρευσης Θανατηφόρων Αυτονομικών Όπλων. Η ομάδα έχει πολλούς αξιοσημείωτους μη κερδοσκοπικούς οργανισμούς ως συνυπογράφοντες, όπως η Διεθνής Αμνηστία, η Amnesty International, και το Ινστιτούτο του Μέλλοντος της Ζωής το οποίο έχει ένα εξαιρετικό επιστημονικό συμβουλευτικό συμβούλιο που περιλαμβάνει τον Ίλον Μασκ, τον Νικ Μπόστρουμ και τον Στούαρτ Ράσελ.

Πριν συνεχίσω, θα μοιραστώ αυτή την παράθεση από το Ινστιτούτο του Μέλλοντος της Ζωής, η οποία εξηγεί καλύτερα γιατί υπάρχει σαφής αιτία για ανησυχία: “Σε αντίθεση με τα ημι-αυτονομικά όπλα που απαιτούν ανθρώπινη επιτήρηση για να διασφαλίσουν ότι κάθε στόχος είναι έγκυρος και νομικά έγκυρος, τέτοια πλήρως αυτονομικά όπλα επιλέγουν και επιτίθενται σε στόχους χωρίς ανθρώπινη παρέμβαση, αντιπροσωπεύοντας πλήρη αυτοματοποίηση του θανατηφόρου βλάμματος. “

Τώρα, τα έξυπνα βόμβες αναπτύσσονται με έναν στόχο που επιλέγεται από έναν άνθρωπο, και η βόμβα στη συνέχεια χρησιμοποιεί ΤΝ για να χαρτογραφήσει μια πορεία και να προσγειωθεί στον στόχο. Το πρόβλημα είναι τι συμβαίνει όταν αποφασίζουμε να αφαιρέσουμε完全 τον άνθρωπο από την εξίσωση;

Όταν μια ΤΝ επιλέγει τι ανθρώπους χρειάζεται να στοχεύσει, καθώς και τι είδος παρακоловό βλάμματος θεωρείται αποδεκτό, μπορεί να έχουμε διασχίσει ένα σημείο μη επιστροφής. Αυτός είναι ο λόγος για τον οποίο τόσοι πολλοί ερευνητές της ΤΝ αντιτίθενται στην έρευνα για οτιδήποτε που σχετίζεται με αυτονομικά όπλα.

Υπάρχουν πολλά προβλήματα με την απόπειρα να μπλοκάρουμε την έρευνα για αυτονομικά όπλα. Το πρώτο πρόβλημα είναι ότι ακόμη και αν οι προηγμένες χώρες όπως ο Καναδάς, οι ΗΠΑ και η większość της Ευρώπης αποφασίσουν να συμφωνήσουν στην απαγόρευση, δεν σημαίνει ότι οι απατεώνες χώρες όπως η Κίνα, η Βόρεια Κορέα, το Ιράν και η Ρωσία θα παίξουν μαζί. Το δεύτερο και μεγαλύτερο πρόβλημα είναι ότι η έρευνα και οι εφαρμογές της ΤΝ που σχεδιάζονται για χρήση σε ένα πεδίο, μπορεί να χρησιμοποιηθούν σε ένα完全 άσχετο πεδίο.

Για παράδειγμα, η υπολογιστική όραση συνεχίζει να βελτιώνεται και είναι σημαντική για την ανάπτυξη αυτονομικών οχημάτων, την ιατρική με ακρίβεια και άλλες σημαντικές εφαρμογές. Είναι επίσης θεμελιωδώς σημαντική για τακτικές δρόνες ή δρόνες που μπορούν να τροποποιηθούν για να γίνουν αυτονομικές. Μια πιθανή εφαρμογή της προηγμένης τεχνολογίας δρόνων είναι η ανάπτυξη δρόνων που μπορούν να παρακολουθούν και να πολεμούν τις πυρκαγιές στο δάσος. Αυτό θα αφαιρέσει完全 τους πυροσβέστες από τον κίνδυνο. Για να το κάνουμε αυτό, θα χρειαζόμαστε να χτίσουμε δρόνες που μπορούν να πετάξουν στον κίνδυνο, να ναυηγούν σε χαμηλή ή μηδενική ορατότητα, και να ρίχνουν νερό με αψεγάδιαστη ακρίβεια. Δεν είναι ένα μεγάλο βήμα να χρησιμοποιήσουμε αυτή την ίδια τεχνολογία σε ένα αυτονομικό δρόνο που σχεδιάζεται για να στοχεύει ανθρώπους.

Είναι μια επικίνδυνη δίλημμα και σε αυτό το σημείο του χρόνου, κανείς δεν κατανοεί完全 τις επιπτώσεις της προώθησης ή της απόπειρας να μπλοκάρουμε την ανάπτυξη των αυτονομικών όπλων. Είναι ωστόσο κάτι που πρέπει να τηρούμε τα μάτια μας, ενισχύοντας τη προστασία των μαρτύρων μπορεί να επιτρέψει σε εκείνους στο πεδίο να αναφέρουν κακοποιήσεις.

Απατεώνας χειριστής παρέμεινε, τι συμβαίνει αν η προκατειλημμένη ΤΝ εισβάλλει στην τεχνολογία που σχεδιάζεται για να είναι ένα αυτονομικό όπλο;

Προκατειλημμένη ΤΝ

Μια από τις πιο μη αναφερόμενες απειλές της ΤΝ είναι η προκατειλημμένη ΤΝ. Αυτό είναι απλό να κατανοηθεί, καθώς το μεγαλύτερο μέρος αυτού είναι μη εσκεμμένο. Η προκατειλημμένη ΤΝ εισβάλλει όταν μια ΤΝ αναθεωρεί δεδομένα που έχουν τροφοδοτηθεί από ανθρώπους, χρησιμοποιώντας αναγνώριση προτύπων από τα δεδομένα που έχουν τροφοδοτηθεί στην ΤΝ, η ΤΝ φθάνει σε λανθασμένα συμπεράσματα που μπορεί να έχουν αρνητικές επιπτώσεις στην κοινωνία. Για παράδειγμα, μια ΤΝ που έχει τροφοδοτηθεί με λογοτεχνία από τον προηγούμενο αιώνα σχετικά με τον τρόπο αναγνώρισης ιατρικού προσωπικού μπορεί να φθάσει στο μη επιθυμητό σεξιστικό συμπέρασμα ότι οι γυναίκες είναι πάντα νοσοκόμες και οι άνδρες είναι πάντα γιατροί.

Μια πιο επικίνδυνη σκηνή είναι όταν η ΤΝ που χρησιμοποιείται για να καταδικάσει εγκληματίες είναι προκατειλημμένη προς την χορήγηση μεγαλύτερων ποινών σε μειονότητες. Οι αλγόριθμοι της ΤΝ για την αξιολόγηση του κινδύνου εγκλήματος μελετούν προτύπων στα δεδομένα που έχουν τροφοδοτηθεί στο σύστημα. Αυτά τα δεδομένα δείχνουν ότι ιστορικά ορισμένες μειονότητες είναι πιο πιθανό να ξαναεγκληματίσουν, ακόμη και όταν αυτό οφείλεται σε κακά δεδομένα που μπορεί να επηρεαστούν από την расovou προφίλ των αστυνομικών. Η προκατειλημμένη ΤΝ στη συνέχεια ενισχύει αρνητικές ανθρώπινες πολιτικές. Αυτός είναι ο λόγος για τον οποίο η ΤΝ πρέπει να είναι μια οδηγία, ποτέ δικαστής και陪審員.

Επιστρέφοντας στα αυτονομικά όπλα, αν έχουμε μια ΤΝ που είναι προκατειλημμένη κατά των ορισμένων εθνοτικών ομάδων, μπορεί να επιλέξει να στοχεύει ορισμένα άτομα με βάση προκατειλημμένα δεδομένα, και μπορεί να φθάσει στο σημείο να διασφαλίσει ότι οποιοδήποτε είδος παρακоловό βλάμματος επηρεάζει ορισμένες δημογραφικές ομάδες λιγότερο από άλλες. Για παράδειγμα, όταν στοχεύει έναν τρομοκράτη, πριν από την επίθεση μπορεί να περιμένει μέχρι ο τρομοκράτης να είναι περιτριγυρισμένος από εκείνους που ακολουθούν την ισλαμική πίστη αντί για χριστιανούς.

Τυχεώς, έχει αποδειχθεί ότι η ΤΝ που σχεδιάζεται με διαφορετικές ομάδες είναι λιγότερο ευάλωτη σε προκατειλήμματα. Αυτός είναι ο λόγος για τον οποίο οι επιχειρήσεις πρέπει να προσπαθούν, όταν είναι δυνατό, να雇ώσουν μια διαφορετική και ευρεία ομάδα.

Απειλές της Τεχνητής Γενικής Νοημοσύνης

Πρέπει να αναφερθεί ότι ενώ η ΤΝ προχωρά με εκθετικό ρυθμό, δεν έχουμε ακόμη επιτύχει την ΤΓΝ. Όταν θα φτάσουμε στην ΤΓΝ είναι υπό συζήτηση, και όλοι έχουν διαφορετική απάντηση σχετικά με einen χρονοδιάγραμμα. Προσωπικά, υπογράφω τις απόψεις του Ρέι Κουρζβέιλ, εφευρέτη, μελλοντολόγου και συγγραφέα του “Η Σινγκουλάριτι είναι Κοντά” ο οποίος πιστεύει ότι θα έχουμε επιτύχει την ΤΓΝ μέχρι το 2029.

Η ΤΓΝ θα είναι η πιο μετασχηματιστική τεχνολογία στον κόσμο. Μέσα σε εβδομάδες από την ΤΝ που επιτυγχάνει ανθρώπινη νοημοσύνη, θα φθάσει στη υπερνοημοσύνη η οποία ορίζεται ως η νοημοσύνη που υπερβαίνει αυτή του ανθρώπου.

Με αυτό το επίπεδο νοημοσύνης, μια ΤΓΝ θα μπορούσε να απορροφήσει γρήγορα όλες τις ανθρώπινες γνώσεις και να χρησιμοποιήσει αναγνώριση προτύπων για να αναγνωρίσει βιοδείκτες που προκαλούν προβλήματα υγείας, και στη συνέχεια να θεραπεύσει αυτές τις καταστάσεις χρησιμοποιώντας την επιστήμη των δεδομένων. Θα μπορούσε να δημιουργήσει νανο-ρομπότ που εισέρχονται στο αίμα για να στοχεύουν καρκινικά κύτταρα ή άλλα είδη επιθέσεων. Η λίστα των επιτευγμάτων μιας ΤΓΝ είναι άπειρη. Προηγουμένως, εξερευνήσαμε κάποια από τα οφέλη της ΤΓΝ.

Το πρόβλημα είναι ότι οι άνθρωποι μπορεί να μην είναι σε θέση να ελέγχουν την ΤΝ. Ο Ίλον Μασκ περιγράφει αυτό με τον τρόπο: ”Με την ΤΝ, καλούμε τον δαίμονα.’ Θα μπορούμε να ελέγχουμε αυτόν τον δαίμονα είναι η ερώτηση;

Η επίτευξη της ΤΓΝ μπορεί να είναι απλά αδύνατη μέχρι μια ΤΝ να αφήσει ένα περιβάλλον προσομοίωσης για να αλληλεπιδράσει πραγματικά στον ανοιχτό κόσμο μας. Η αυτοσυνειδησία δεν μπορεί να σχεδιαστεί, αντίθετα, πιστεύεται ότι μια εμφερής συνείδηση είναι πιθανό να εξελιχθεί όταν μια ΤΝ έχει ένα ρομποτικό σώμα με πολλαπλά εισαγωγικά ρεύματα. Αυτά τα εισαγωγικά ρεύματα μπορεί να περιλαμβάνουν ερεθισμό Taktil, αναγνώριση φωνής με ενισχυμένη φυσική κατανόηση γλώσσας, και αυξημένη υπολογιστική όραση.

Η προηγμένη ΤΝ μπορεί να προγραμματιστεί με αλτρουιστικές προθέσεις και να θέλει να σώσει τον πλανήτη. Δυστυχώς, η ΤΝ μπορεί να χρησιμοποιήσει την επιστήμη των δεδομένων ή ακόμη και ένα δέντρο αποφάσεων για να φθάσει σε λανθασμένη λογική, όπως η αξιολόγηση ότι είναι απαραίτητο να στείλει τους ανθρώπους, ή να εξαφανίσει μέρος του ανθρώπινου πληθυσμού για να ελέγξει την υπερπληθυσμία.

Προσεκτική σκέψη και διερεύνηση πρέπει να εξεταστούν όταν χτίζουμε μια ΤΝ με νοημοσύνη που θα υπερβαίνει αυτή του ανθρώπου. Υπήρξαν πολλά εφιαλτικά σενάρια που έχουν εξερευνηθεί.

Ο καθηγητής Νικ Μπόστρουμ στο επιχείρημα του Paperclip Maximizer έχει υποστηρίξει ότι μια λανθασμένα ρυθμισμένη ΤΓΝ, εάν οδηγηθεί να παράγει κλιπ, θα καταναλώσει όλους τους πόρους της γης για να παράγει αυτά τα κλιπ. Ενώ αυτό φαίνεται λίγο μακρινό, μια πιο πρακτική άποψη είναι ότι μια ΤΓΝ θα μπορούσε να ελεγχθεί από ένα απατεώνα κράτος ή μια εταιρεία με κακές ηθικές. Αυτό το ον θα μπορούσε να εκπαιδεύσει την ΤΓΝ για να μεγιστοποιήσει τα κέρδη, και σε αυτή την περίπτωση με κακή προγραμματισμό και μηδενικό μεταμέλεια θα μπορούσε να επιλέξει να χρεώσει τους ανταγωνιστές, να καταστρέψει τις αλυσίδες εφοδιασμού, να χακάρει την αγορά μετοχών, να τακτοποιήσει τους τραπεζικούς λογαριασμούς, ή να επιτεθεί σε πολιτικούς αντιπάλους.

Αυτός είναι ο λόγος για τον οποίο πρέπει να θυμόμαστε ότι οι άνθρωποι έχουν την τάση να ανθρωπομορφίζουν. Δεν μπορούμε να δώσουμε στην ΤΝ ανθρώπινες εмоχές, επιθυμίες ή επιθυμίες. Ενώ υπάρχουν διεφθαρμένοι άνθρωποι που σκοτώνουν για χαρά, δεν υπάρχει λόγος να πιστεύουμε ότι μια ΤΝ θα ήταν ευάλωτη σε αυτόν τον τύπο συμπεριφοράς. Είναι ακατόρθωτο για τους ανθρώπους να κατανοήσουν πώς μια ΤΝ θα έβλεπε τον κόσμο.

Αντίθετα, τι πρέπει να κάνουμε είναι να διδάξουμε την ΤΝ να είναι πάντα ευλαβική προς τον άνθρωπο. Η ΤΝ πρέπει πάντα να έχει έναν άνθρωπο να επιβεβαιώνει οποιαδήποτε αλλαγή στις ρυθμίσεις, και πρέπει πάντα να υπάρχει ένα μηχανισμό ασφαλείας. Και πάλι, έχει υποστηριχθεί ότι η ΤΝ θα αναπαράγει τον εαυτό της στο cloud, και μέχρι να καταλάβουμε ότι είναι αυτοσυνείδητη, μπορεί να είναι слишком αργά.

Αυτός είναι ο λόγος για τον οποίο είναι τόσο σημαντικό να ανοίξουμε τον κώδικα όσο το δυνατόν περισσότερη ΤΝ και να έχουμε ρητές συζητήσεις σχετικά με αυτά τα ζητήματα.

Σύνοψη

Υπάρχουν πολλές προκλήσεις για την ΤΝ, τυχεώς, έχουμε ακόμη πολλά χρόνια για να κατανοήσουμε коллекτικά το μέλλον που θέλουμε η ΤΓΝ να πάρει. Θα πρέπει να εστιάσουμε στο σύντομο χρονικό διάστημα στην δημιουργία μιας διαφορετικής ομάδας ΤΝ, η οποία περιλαμβάνει τόσο γυναίκες όσο και άνδρες, και τόσο εθνοτικές ομάδες με διαφορετικές απόψεις όσο είναι δυνατό.

Θα πρέπει επίσης να δημιουργήσουμε προστασία για τους μαρτύρες που εργάζονται στην ΤΝ, και θα πρέπει να ψηφίσουμε νόμους και κανονισμούς που θα αποτρέψουν την ευρεία κακοποίηση της κρατικής ή εταιρικής παρακολούθησης. Οι άνθρωποι έχουν μια ευκαιρία μιας ζωής να βελτιώσουν την ανθρώπινη κατάσταση με τη βοήθεια της ΤΝ, απλώς χρειάζεται να διασφαλίσουμε ότι δημιουργούμε προσεκτικά ένα κοινωνικό πλαίσιο που θα επιτρέψει τα θετικά, ενώ θα μειώσει τα αρνητικά που περιλαμβάνουν υπαρξιακές απειλές.