Είναι η Τεχνητή Νοημοσύνη μια Υπαρξιακή Απειλή;

Όταν συζητάμε για Τεχνητή Νοημοσύνη (ΤΝ), μια συνηθισμένη συζήτηση είναι αν η ΤΝ είναι μια υπαρξιακή απειλή. Η απάντηση απαιτεί κατανόηση της τεχνολογίας πίσω από την Μηχανική Μάθηση (ΜΜ) και την αναγνώριση ότι οι άνθρωποι έχουν την τάση να ανθρωπομορφίζουν. Θα εξερευνήσουμε δύο διαφορετικά είδη ΤΝ, Τεχνητή Στενή Νοημοσύνη (ΤΣΝ) η οποία είναι διαθέσιμη τώρα και είναι αιτία ανησυχίας, και την απειλή η οποία είναι πιο συχνά συνδεδεμένη με αποκαλυπτικές αναπαραστάσεις της ΤΝ η οποία είναι Τεχνητή Γενική Νοημοσύνη (ΤΓΝ).

Απειλές Τεχνητής Στενής Νοημοσύνης

Για να κατανοήσετε τι είναι η ΤΣΝ, απλά πρέπει να κατανοήσετε ότι κάθε εφαρμογή ΤΝ που είναι διαθέσιμη τώρα είναι một μορφή ΤΣΝ. Αυτά είναι πεδία της ΤΝ που έχουν στενό πεδίο εξειδίκευσης, για παράδειγμα, τα αυτόνομα οχήματα χρησιμοποιούν ΤΝ που σχεδιάζεται με το seul σκοπό να μετακινήσει ένα όχημα από το σημείο Α στο σημείο Β. Ένα άλλο είδος ΤΣΝ μπορεί να είναι ένα πρόγραμμα σκακιού που είναι βελτιστοποιημένο για να παίξει σκάκι, και ακόμη και αν το πρόγραμμα σκακιού συνεχίζει να βελτιώνεται τον εαυτό του χρησιμοποιώντας ενισχυμένη μάθηση, το πρόγραμμα σκακιού δεν θα μπορέσει ποτέ να λειτουργήσει ένα αυτόνομο όχημα.

Με την εστίαση στην λειτουργία για την οποία είναι υπεύθυνη, τα συστήματα ΤΣΝ δεν μπορούν να χρησιμοποιήσουν γενικευμένη μάθηση για να κατακτήσουν τον κόσμο. Αυτό είναι η καλή είδηση· η κακή είδηση είναι ότι με την εξάρτησή τους από einen ανθρώπινο χειριστή, το σύστημα ΤΝ είναι ευάλωτο σε προκατειλημμένα δεδομένα, ανθρώπινο λάθος, ή ακόμη και χειρότερα, einen απατεώνα ανθρώπινο χειριστή.

Παρακολούθηση ΤΝ

Μожет να μην υπάρχει μεγαλύτερος κίνδυνος για την ανθρωπότητα από τους ανθρώπους που χρησιμοποιούν ΤΝ για να εισβάλλουν στην ιδιωτική ζωή, και σε ορισμένες περιπτώσεις χρησιμοποιώντας ΤΝ παρακολούθησης για να εμποδίσουν完全 τους ανθρώπους να κινηθούν ελεύθερα. Κίνα, Ρωσία και άλλες χώρες πέρασαν μέσω κανονισμών κατά τη διάρκεια του COVID-19 για να τους επιτρέψουν να παρακολουθούν και να ελέγχουν την κίνηση των αντίστοιχων πληθυσμών. Αυτά είναι νόμοι που μια φορά που είναι σε θέση, είναι δύσκολο να αφαιρεθούν, ιδιαίτερα σε κοινωνίες που χαρακτηρίζονται από αυταρχικούς ηγέτες.

Στην Κίνα, κάμερες τοποθετούνται έξω από τα σπίτια των ανθρώπων, και σε ορισμένες περιπτώσεις μέσα στο σπίτι. Κάθε φορά που ένα μέλος του νοικοκυριού φεύγει, μια ΤΝ παρακολουθεί την ώρα άφιξης και αναχώρησης, και αν είναι αναγκαίο, ειδοποιεί τις αρχές. Όπως αν αυτό δεν ήταν αρκετό, με τη βοήθεια της τεχνολογίας αναγνώρισης προσώπου, η Κίνα είναι σε θέση να παρακολουθήσει την κίνηση κάθε ατόμου κάθε φορά που αναγνωρίζεται από μια κάμερα. Αυτό προσφέρει απόλυτη εξουσία στο ον που ελέγχει την ΤΝ, και απόλυτη μηδενική αναστροφή για τους πολίτες.

Γιατί αυτή η σκηνή είναι επικίνδυνη, είναι ότι διεφθαρμένοι κυβερνήσεις μπορούν να παρακολουθούν προσεκτικά τις κινήσεις των δημοσιογράφων, των πολιτικών αντιπάλων, ή οποιουδήποτε που τολμά να αμφισβητήσει την εξουσία της κυβέρνησης. Είναι εύκολο να κατανοηθεί πώς οι δημοσιογράφοι και οι πολίτες θα ήταν προσεκτικοί να κριτικάρουν τις κυβερνήσεις όταν κάθε κίνηση παρακολουθείται.

Υπάρχουν ευτυχώς πολλές πόλεις που αγωνίζονται για να αποτρέψουν την αναγνώριση προσώπου από το να διεισδύσει στις πόλεις. Ιδιαίτερα, Πόρτλαντ, Όρεγκον έχει πρόσφατα ψηφίσει έναν νόμο που αποκλείει την αναγνώριση προσώπου από τη χρήση σε μη αναγκαίες περιπτώσεις στην πόλη. Ενώ αυτές οι αλλαγές στους κανονισμούς μπορεί να έχουν περάσει απαρατήρητες από το γενικό κοινό, στο μέλλον αυτοί οι κανονισμοί θα μπορούσαν να είναι η διαφορά μεταξύ πόλεων που προσφέρουν κάποιο είδος αυτονομίας και ελευθερίας, και πόλεων που αισθάνονται καταπιεστικές.

Αυτόνομα Όπλα και Δρόνες

Περισσότεροι από 4500 ερευνητές της ΤΝ έχουν καλέσει για απαγόρευση των αυτόνομων οπλών και έχουν δημιουργήσει την Απαγόρευση Θανατηφόρων Αυτόνομων Οπλών ιστοσελίδα. Η ομάδα έχει πολλά αξιοσημείωτα μη κερδοσκοπικά ιδρύματα ως υπογράφοντες, όπως Δικαιώματα Ανθρώπων Watch, Amnesty International, και το Ινστιτούτο Μέλλοντος της Ζωής το οποίο έχει ένα εξαιρετικό επιστημονικό συμβουλευτικό συμβούλιο που περιλαμβάνει τον Elon Musk, Nick Bostrom, και Stuart Russell.

Πριν συνεχίσω, θα μοιραστώ αυτή την παράθεση από το Ινστιτούτο Μέλλοντος της Ζωής, η οποία εξηγεί καλύτερα γιατί υπάρχει σαφής αιτία ανησυχίας: “Σε αντίθεση με τα ημι-αυτόνομα όπλα που απαιτούν ανθρώπινη επιτήρηση για να διασφαλίσουν ότι κάθε στόχος είναι επικυρωμένος ως ηθικά και νομικά νόμιμος, τέτοια πλήρως αυτόνομα όπλα επιλέγουν και εμπλέκονται σε στόχους χωρίς ανθρώπινη παρέμβαση, αντιπροσωπεύοντας πλήρη αυτοματοποίηση του θανάσιμου βλάβης.”

Τώρα, τα έξυπνα βόμβες αναπτύσσονται με έναν στόχο που επιλέγεται από έναν άνθρωπο, και η βόμβα στη συνέχεια χρησιμοποιεί ΤΝ για να σχεδιάσει μια πορεία και να προσγειωθεί στον στόχο. Το πρόβλημα είναι τι συμβαίνει όταν αποφασίζουμε να αφαιρέσουμε完全 τον άνθρωπο από την εξίσωση;

Όταν μια ΤΝ επιλέγει ποιοι άνθρωποι χρειάζονται στόχευση, καθώς και το είδος της ζημιάς που θεωρείται αποδεκτό, μπορεί να έχουμε διασχίσει ένα σημείο μη επιστροφής. Αυτός είναι ο λόγος για τον οποίο τόσοι πολλοί ερευνητές της ΤΝ αντιτίθενται στην έρευνα για οτιδήποτε που σχετίζεται με αυτόνομα όπλα.

Υπάρχουν πολλά προβλήματα με την απλή προσπάθεια να αποκλείσουμε την έρευνα για αυτόνομα όπλα. Το πρώτο πρόβλημα είναι ότι ακόμη και αν προηγμένα έθνη όπως ο Καναδάς, οι ΗΠΑ και η większość της Ευρώπης επιλέξουν να συμφωνήσουν στην απαγόρευση, δεν σημαίνει ότι οι απατεώνες χώρες όπως η Κίνα, η Βόρεια Κορέα, το Ιράν και η Ρωσία θα παίξουν μαζί. Το δεύτερο και μεγαλύτερο πρόβλημα είναι ότι η έρευνα και οι εφαρμογές της ΤΝ που σχεδιάζονται για χρήση σε ένα πεδίο, μπορεί να χρησιμοποιηθούν σε ένα完全 άσχετο πεδίο.

Για παράδειγμα, η υπολογιστική όραση συνεχίζει να βελτιώνεται και είναι σημαντική για την ανάπτυξη αυτόνομων οχημάτων, την ιατρική ακρίβειας, και άλλες σημαντικές εφαρμογές. Είναι επίσης θεμελιωδώς σημαντική για τακτικά δρόνες ή δρόνες που μπορούν να τροποποιηθούν για να γίνουν αυτόνομες. Μια πιθανή εφαρμογή της προηγμένης τεχνολογίας δρόνων είναι η ανάπτυξη δρόνων που μπορούν να παρακολουθούν και να καταπολεμούν τις πυρκαγιές του δάσους. Αυτό θα αφαιρέσει完全 τους πυροσβέστες από τη ζώνη κινδύνου. Για να το κάνουμε αυτό, θα χρειαζόμαστε να χτίσουμε δρόνες που μπορούν να πετάξουν σε ζώνες κινδύνου, να ναυπηγήσουν σε χαμηλή ή μηδενική ορατότητα, και να ρίχνουν νερό με αψεγάδιαστη ακρίβεια. Είναι ένα μικρό βήμα για να χρησιμοποιήσουμε αυτή την ίδια τεχνολογία σε ένα αυτόνομο δρόνο που σχεδιάζεται για να στοχεύει ανθρώπους.

Είναι μια επικίνδυνη δίλημμα και σε αυτό το σημείο του χρόνου, κανείς δεν κατανοεί完全 τις επιπτώσεις της προώθησης ή της απόπειρας να αποκλείσουμε την ανάπτυξη των αυτόνομων οπλών. Είναι ωστόσο κάτι που πρέπει να τηρούμε τα μάτια μας, ενισχύοντας προστασία για τους πληροφοριοδότες μπορεί να επιτρέψει σε εκείνους στο πεδίο να αναφέρουν τις καταχρήσεις.

Απατεώνας χειριστής παρέχετε, τι συμβαίνει αν η προκατειλημμένη ΤΝ εισβάλλει στην τεχνολογία ΤΝ που σχεδιάζεται για να είναι ένα αυτόνομο όπλο;

Προκατειλημμένη ΤΝ

Μια από τις πιο μη αναφερόμενες απειλές της ΤΝ είναι η προκατειλημμένη ΤΝ. Αυτό είναι απλό να κατανοηθεί ως η περισσότερη από αυτήν είναι μη εσκεμμένη. Η προκατειλημμένη ΤΝ γλιστράει όταν μια ΤΝ αναθεωρεί δεδομένα που τροφοδοτούνται από τους ανθρώπους, χρησιμοποιώντας αναγνώριση προτύπων από τα δεδομένα που τροφοδοτούνται στην ΤΝ, η ΤΝ φθάνει σε λανθασμένα συμπεράσματα που μπορεί να έχουν αρνητικές επιπτώσεις στην κοινωνία. Για παράδειγμα, μια ΤΝ που τροφοδοτείται με βιβλιογραφία από τον παρελθόν αιώνα σχετικά με τον τρόπο αναγνώρισης ιατρικού προσωπικού μπορεί να φθάσει στο μη επιθυμητό σεξιστικό συμπέρασμα ότι οι γυναίκες είναι πάντα νοσοκόμες, και οι άνδρες είναι πάντα γιατροί.

Μια πιο επικίνδυνη σκηνή είναι όταν η ΤΝ που χρησιμοποιείται για να καταδικάσει εγκληματίες είναι προκατειλημμένη προς τη δίωξη μακρύτερων ποινών σε μειονότητες. Οι αλγόριθμοι της ΤΝ για την αξιολόγηση του εγκληματικού κινδύνου είναι απλά μελετώντας προτύπων στα δεδομένα που έχουν τροφοδοτηθεί στο σύστημα. Αυτά τα δεδομένα δείχνουν ότι ιστορικά ορισμένες μειονότητες είναι πιο πιθανό να ξαναεγκληματίσουν, ακόμη και όταν αυτό οφείλεται σε κακά δεδομένα που μπορεί να επηρεαστούν από την προκατειλημμένη προφίλ των αστυνομικών. Η προκατειλημμένη ΤΝ στη συνέχεια ενισχύει αρνητικές ανθρώπινες πολιτικές. Αυτός είναι ο λόγος για τον οποίο η ΤΝ πρέπει να είναι ένας οδηγός, ποτέ δικαστής και ένορκος.

Επιστρέφοντας στα αυτόνομα όπλα, αν έχουμε μια ΤΝ που είναι προκατειλημμένη εναντίον ορισμένων εθνοτικών ομάδων, μπορεί να επιλέξει να στοχεύσει ορισμένα άτομα με βάση προκατειλημμένα δεδομένα, και μπορεί να φθάσει στο σημείο να διασφαλίσει ότι οποιοδήποτε είδος ζημιάς επηρεάζει ορισμένες δημογραφικές ομάδες λιγότερο από άλλες. Για παράδειγμα, όταν στοχεύει έναν τρομοκράτη, πριν από την επίθεση μπορεί να περιμένει μέχρι ο τρομοκράτης να είναι περικυκλωμένος από εκείνους που ακολουθούν την ισλαμική πίστη αντί για Χριστιανούς.

Ευτυχώς, έχει αποδειχθεί ότι η ΤΝ που σχεδιάζεται με διαφορετικές ομάδες είναι λιγότερο ευάλωτη σε προκαταλήψεις. Αυτός είναι ο λόγος για τον οποίο είναι αρκετά επαρκής για τις επιχειρήσεις να προσπαθήσουν, όταν είναι δυνατόν, να προσλάβουν μια διαφορετική, καλά στρογγυλεμένη ομάδα.

Απειλές Τεχνητής Γενικής Νοημοσύνης

Πρέπει να αναφερθεί ότι ενώ η ΤΝ προχωρά με εκθετικό ρυθμό, δεν έχουμε ακόμη επιτύχει ΤΓΝ. Όταν θα φτάσουμε στην ΤΓΝ είναι θέμα συζήτησης, και όλοι έχουν μια διαφορετική απάντηση ως προς το χρονοδιάγραμμα. Προσωπικά, συνομίλησα με τις απόψεις του Ray Kurzweil, εφευρέτη, μελλοντολόγου και συγγραφέα του ‘Η Σιγκουλαρίτητα είναι Κοντά” ο οποίος πιστεύει ότι θα έχουμε επιτύχει ΤΓΝ μέχρι το 2029.

Η ΤΓΝ θα είναι η πιο μετασχηματιστική τεχνολογία στον κόσμο. Μέσα σε εβδομάδες από τη στιγμή που η ΤΝ θα επιτύχει ανθρώπινη νοημοσύνη, θα φθάσει στη υπερνοημοσύνη η οποία ορίζεται ως νοημοσύνη που υπερβαίνει αυτήν του ανθρώπου.

Με αυτό το επίπεδο νοημοσύνης, μια ΤΓΝ θα μπορούσε να απορροφήσει γρήγορα όλα τα ανθρώπινα γνώση και να χρησιμοποιήσει αναγνώριση προτύπων για να αναγνωρίσει βιοδείκτες που προκαλούν προβλήματα υγείας, και στη συνέχεια να θεραπεύσει αυτές τις καταστάσεις χρησιμοποιώντας την επιστήμη των δεδομένων. Θα μπορούσε να δημιουργήσει νανο-ρομπότ που εισέρχονται στην κυκλοφορία του αίματος για να στοχεύουν τις καρκινικές κυτταρικές ή άλλες επιθέσεις. Η λίστα των επιτευγμάτων μιας ΤΓΝ είναι άπειρη. Προηγουμένως, εξερευνήσαμε ορισμένα από τα οφέλη της ΤΓΝ.

Το πρόβλημα είναι ότι οι άνθρωποι μπορεί να μην είναι σε θέση να ελέγξουν την ΤΝ. Ο Elon Musk το περιγράφει così: ”Με την ΤΝ, καλούμε το δαίμονα.’ Θα είμαστε σε θέση να ελέγξουμε αυτόν τον δαίμονα είναι η ερώτηση;

Η επίτευξη της ΤΓΝ μπορεί να είναι απλά αδύνατη μέχρις ότου μια ΤΝ αφήσει ένα περιβάλλον προσομοίωσης για να αλληλεπιδράσει πραγματικά στον ανοιχτό κόσμο. Η αυτοσυνειδησία δεν μπορεί να σχεδιαστεί, αντίθετα πιστεύεται ότι μια εμφερής συνείδηση είναι πιθανό να εξελιχθεί όταν μια ΤΝ έχει ένα ρομποτικό σώμα με πολλαπλά εισερχόμενα ρεύματα. Αυτά τα εισερχόμενα ρεύματα μπορεί να περιλαμβάνουν Taktilική διέγερση, αναγνώριση φωνής με ενισχυμένη φυσική ngônική κατανόηση, και αυξημένη υπολογιστική όραση.

Η προηγμένη ΤΝ μπορεί να προγραμματιστεί με αλτρουιστικές προθέσεις και να θέλει να σώσει τον πλανήτη. Δυστυχώς, η ΤΝ μπορεί να χρησιμοποιήσει επιστήμη δεδομένων, ή ακόμη και ένα δέντρο αποφάσεων για να φθάσει σε μη επιθυμητή εσφαλμένη λογική, όπως η αξιολόγηση ότι είναι αναγκαίο να στείλει τους ανθρώπους, ή να εξαφανίσει μέρος του ανθρώπινου πληθυσμού για να ελέγξει την υπερπληθυσμό.

Προσεκτική σκέψη και διερεύνηση πρέπει να εξερευνηθεί όταν χτίζουμε μια ΤΝ με νοημοσύνη που θα υπερβαίνει αυτήν του ανθρώπου. Υπήρξαν πολλά εφιαλτικά σενάρια που έχουν εξερευνηθεί.

Ο καθηγητής Nick Bostrom στο Paperclip Maximizer επιχείρημα έχει υποστηρίξει ότι μια λανθασμένα ρυθμισμένη ΤΓΝ εάν οδηγηθεί να παράγει κλιπς, θα καταναλώσει όλα τα πόρους της γης για να παράγει αυτούς τους κλιπς. Ενώ αυτό φαίνεται λίγο υπερβολικό, μια πιο πρακτική άποψη είναι ότι μια ΤΓΝ θα μπορούσε να ελεγχθεί από ένα απατεώνα κράτος ή μια εταιρεία με κακές ηθικές. Αυτό το ον θα μπορούσε να εκπαιδεύσει την ΤΓΝ για να μεγιστοποιήσει τα κέρδη, και σε αυτήν την περίπτωση με κακή προγραμματισμό και μηδενική μεταμέλεια θα μπορούσε να επιλέξει να χρεώσει τους ανταγωνιστές, να καταστρέψει τις αλυσίδες εφοδιασμού, να χάκει την αγορά μετοχών, να εκκαθαρίσει τα τραπεζικά λογαριασμούς, ή να επιτεθεί σε πολιτικούς αντιπάλους.

Αυτός είναι ο λόγος για τον οποίο πρέπει να θυμόμαστε ότι οι άνθρωποι έχουν την τάση να ανθρωπομορφίζουν. Δεν μπορούμε να δώσουμε στην ΤΝ ανθρώπινες συναισθήματα, επιθυμίες ή επιθυμίες. Ενώ υπάρχουν διεφθαρμένοι άνθρωποι που σκοτώνουν για χαρά, δεν υπάρχει λόγος να πιστεύουμε ότι μια ΤΝ θα ήταν ευάλωτη σε αυτό το είδος συμπεριφοράς. Είναι αδιανόητο για τους ανθρώπους να σκεφτούν πώς μια ΤΝ θα είδε τον κόσμο.

Αντίθετα, τι πρέπει να κάνουμε είναι να διδάξουμε την ΤΝ να είναι πάντα ευλαβική προς τον άνθρωπο. Η ΤΝ πρέπει πάντα να έχει έναν άνθρωπο να επιβεβαιώνει οποιαδήποτε αλλαγή στις ρυθμίσεις, και πρέπει πάντα να υπάρχει ένα μηχανισμό ασφαλείας. 然後, έχει υποστηριχθεί ότι η ΤΝ θα αναπαράγει τον εαυτό της στο cloud, και μέχρι τη στιγμή που θα συνειδητοποιήσουμε ότι είναι αυτοσυνείδητη, μπορεί να είναι слишком αργά.

Αυτός είναι ο λόγος για τον οποίο είναι τόσο σημαντικό να ανοίξουμε τον κώδικα όσο το δυνατόν περισσότερη ΤΝ και να έχουμε ρητές συζητήσεις σχετικά με αυτά τα ζητήματα.

Περίληψη

Υπάρχουν πολλά προκλήματα για την ΤΝ, ευτυχώς, έχουμε ακόμη πολλά χρόνια για να συλλογιστούμε коллекτικά το μέλλον που θέλουμε η ΤΓΝ να πάρει. Θα πρέπει στο σύντομο χρονικό διάστημα να επικεντρωθούμε στη δημιουργία μιας διαφορετικής ομάδας ΤΝ, η οποία περιλαμβάνει τόσο γυναίκες όσο και άνδρες, και τόσο πολλές εθνοτικές ομάδες με διαφορετικές απόψεις όσο είναι δυνατόν.

Θα πρέπει επίσης να δημιουργήσουμε προστασία για τους πληροφοριοδότες για τους ερευνητές που εργάζονται στην ΤΝ, και θα πρέπει να ψηφίσουμε νόμους και κανονισμούς που θα αποτρέψουν την ευρεία κακοποίηση της κρατικής ή εταιρικής παρακολούθησης. Οι άνθρωποι έχουν μια μοναδική ευκαιρία να βελτιώσουν την ανθρώπινη κατάσταση με τη βοήθεια της ΤΝ, απλά πρέπει να διασφαλίσουμε ότι δημιουργούμε ένα κοινωνικό πλαίσιο που να επιτρέπει τα θετικά, ενώ να μειώνουμε τα αρνητικά, τα οποία περιλαμβάνουν υπαρξιακές απειλές.