Τσαρλς Τζ. Σάιμον, Συγγραφέας, Θα Εξεγερθούν οι Υπολογιστές; – Σειρά Συνεντεύξεων

Ο Τσαρλς Τζ. Σάιμον, BSEE, MSCS, εθνικά αναγνωρισμένος επιχειρηματίας, dévelopερ λογισμικού και manager. Με ευρεία εμπειρία στη διαχείριση και τεχνική εμπειρία και πτυχία σε Ηλεκτρολογικό Μηχανικό και Επιστήμες Υπολογιστών, ο κ. Σάιμον έχει πολλά χρόνια εμπειρίας στους υπολογιστές στη βιομηχανία, συμπεριλαμβανομένης της πρωτοποριακής εργασίας στην τεχνητή νοημοσύνη και τον Σχεδιασμό Υπολογιστή (δύο γενιές του Σχεδιασμού Υπολογιστή).

Είναι επίσης ο συγγραφέας του ‘Θα Εξεγερθούν οι Υπολογιστές’, το οποίο προσφέρει μια ενδιαφέρουσα ματιά στην μελλοντική πιθανότητα της Γενικής Τεχνητής Νοημοσύνης (AGI).

Τι ήταν αυτό που σας έκανε να ενδιαφερθείτε για την τεχνητή νοημοσύνη και συγκεκριμένα για την AGI;

Έχω ενδιαφερθεί από την ερώτηση, «Μπορούν οι μηχανές να σκέφτονται;» από τότε που διάβασα το σημαίνον έγγραφο του Άλαν Τούρινγκ το 1950, το οποίο αρχίζει με αυτή την ερώτηση. Μέχρι τώρα, η απάντηση είναι σαφώς, «Όχι», αλλά δεν υπάρχει επιστημονικός λόγος γιατί όχι. Έγινα μέλος της κοινότητας της τεχνητής νοημοσύνης με την αρχική έκρηξη των νευρωνικών δικτύων στα τέλη της δεκαετίας του 1980 και από τότε η τεχνητή νοημοσύνη έχει κάνει μεγάλα βήματα. Nhưng τα επόμενα τριάντα χρόνια δεν έχουν φέρει κατανόηση στις μηχανές μας, μια ικανότητα που θα μπορούσε να κατηφορίσει πολλές εφαρμογές σε νέεςระดούς χρησιμότητας.

Λέγατε ότι μοιράζεστε την άποψη του Rodney Brooks, εμπειρογνώμονα της MIT, ο οποίος λέει ότι «χωρίς αλληλεπίδραση με το περιβάλλον – χωρίς ρομποτικό σώμα, όπως θα έλεγε κανείς – οι μηχανές δεν θα εμφανίσουν ποτέ AGI». Αυτό είναι βασικά η δήλωση ότι χωρίς επαρκείς εισόδους από ένα ρομποτικό σώμα, η τεχνητή νοημοσύνη δεν θα αναπτύξει ποτέ ικανότητες AGI. Εκτός από την οπτική ανίχνευση, ποια είδη εισόδων χρειάζονται για την ανάπτυξη της AGI;

Η σημερινή τεχνητή νοημοσύνη χρειάζεται να ενισχυθεί με βασικές έννοιες όπως η φυσική ύπαρξη των αντικειμένων σε μια πραγματικότητα, η πορεία του χρόνου, η αιτία και το αποτέλεσμα – έννοιες που είναι σαφείς σε κάθε τριχρόνο παιδί. Ένα παιδί χρησιμοποιεί πολλαπλά αισθήματα για να μάθει αυτές τις έννοιες με το άγγιγμα και τη χειραγώγηση παιχνιδιών, την κίνηση στο σπίτι, τη μάθηση της γλώσσας, κ.λπ. Ενώ είναι δυνατό να δημιουργηθεί μια AGI με περιορισμένα αισθήματα, όπως υπάρχουν κωφά άτομα και τυφλά άτομα που είναι απόλυτα ευφυή αλλά περισσότερα αισθήματα και ικανότητες να αλληλεπιδρούν κάνουν τη λύση του προβλήματος της AGI πιο εύκολη.

Για την πληρότητα, ο προσομοιωτής μου μπορεί να παρέχει αισθήσεις οσμής και γεύσης. Παραμένει να δούμε αν αυτά θα αποδειχθούν επίσης σημαντικά για την AGI.

Λέγατε ότι «Μια Βασική Απαιτηση για την νοημοσύνη είναι ένα περιβάλλον που είναι εξωτερικό στην νοημοσύνη». Το παράδειγμα που δώσατε είναι ότι «είναι ακατόρθωτο να περιμένουμε από τον Watson της IBM να «καταλάβει» κάτι αν δεν έχει καμία υποκείμενη ιδέα για τι είναι ένα «πράγμα»». Αυτό παίζει σαφώς στα τρέχοντα όρια της στενής τεχνητής νοημοσύνης, ιδιαίτερα στην επεξεργασία φυσικής γλώσσας. Πώς μπορούν οι déveloperes της τεχνητής νοημοσύνης να υπερβούν αυτό το τρέχον όριο της τεχνητής νοημοσύνης;

Ένας βασικός παράγοντας είναι η αποθήκευση γνώσεων που δεν είναι συγκεκριμένα λεκτικές, οπτικές ή αισθητικές αλλά ως αφηρημένα «Πράγματα» που μπορούν να έχουν λεκτικές, οπτικές και αισθητικές ιδιότητες. Σκεφτείτε κάτι τόσο απλό όπως η φράση, «μια κόκκινη μπάλα». Ξέρετε τι σημαίνουν αυτά τα λόγια λόγω των οπτικών και αισθητικών εμπειριών σας. Ξέρετε επίσης τη σημασία των σχετικών ενεργειών όπως το ρίψιμο, το αναπήδημα, το λάσπωμα, κ.λπ. που όλες έρχονται στο μυαλό σας σε κάποιο βαθμό όταν ακούτε τη φράση. Κάθε σύστημα τεχνητής νοημοσύνης που είναι συγκεκριμένα λεκτικό ή συγκεκριμένα εικονικό θα χάσει τις άλλες επιπέδους κατανόησης.

Έχω εφαρμόσει ένα Παγκόσμιο Αποθετήριο Γνώσεων που αποθηκεύει οποιοδήποτε είδος πληροφορίας σε μια δομή που μοιάζει με τον εγκέφαλο, όπου τα «Πράγματα» είναι ανάλογα με τα νευρώνες και έχουν πολλές αναφορές σε άλλα «Πράγματα» – οι αναφορές είναι ανάλογες με τις συνάψεις. Έτσι, το κόκκινο και η μπάλα είναι ξεχωριστά «Πράγματα» και μια κόκκινη μπάλα είναι ένα «Πράγμα» που έχει αναφορές στο κόκκινο «Πράγμα» και το «Πράγμα» της μπάλας. Και το κόκκινο και η μπάλα έχουν αναφορές στα αντίστοιχα «Πράγματα» για τις λέξεις «κόκκινο» και «μπάλα», каждое από τα οποία, με τη σειρά του, έχει αναφορές σε άλλα «Πράγματα» που ορίζουν πώς οι λέξεις ακούγονται, προφέρονται, διαβάζονται ή γράφονται, καθώς και πιθανές ενέργειες «Πράγματα».

Έχετε φτάσει στο συμπέρασμα ότι η προσομοίωση του εγκεφάλου της γενικής νοημοσύνης είναι μακρύτερα, ενώ η AGI μπορεί να είναι (σχετικά) κοντά. Με βάση αυτή την δήλωση, πρέπει να σταματήσουμε να προσπαθούμε να μιμηθούμε ή να δημιουργήσουμε μια προσομοίωση του ανθρώπινου εγκεφάλου και να εστιάσουμε μόνο στην AGI;

Η σημερινή τεχνητή νοημοσύνη και οι σχετικές τεχνολογίες είναι καλές για τις κατάλληλες εφαρμογές, αλλά δεν θα οδηγήσουν αυθόρμητα στην κατανόηση. Για να κάνουμε τα επόμενα βήματα, πρέπει να προσθέσουμε τεχνικές που στοχεύουν συγκεκριμένα στο να λύσουν τα προβλήματα που είναι εντός της ικανότητας οποιουδήποτε τριχρόνου παιδιού.

Η αξιοποίηση των εγγενών ικανοτήτων των υπολογιστών μας μπορεί να είναι πολλαπλάσια πιο αποτελεσματική από το βιολογικό αντίστοιχο ή οποιαδήποτε προσομοίωση αυτού. Για παράδειγμα, ο εγκέφαλός σας μπορεί να αποθηκεύσει πληροφορίες στη χημεία των βιολογικών συνάψεων μετά από πολλές επαναλήψεις που απαιτούν 10-100 χιλιοστά του δευτερολέπτου. Ένας υπολογιστής μπορεί απλώς να αποθηκεύσει την nuova τιμή της συνάψης σε μια seule κύκλο μνήμης, ένα δισεκατομμύριο φορές πιο γρήγορα.

Στη διαδικασία ανάπτυξης του λογισμικού AGI, έχω κάνει και τη βιολογική προσομοίωση νευρώνων και πιο αποτελεσματικές αλγορίθμους. Συνεχίζοντας με το Παγκόσμιο Αποθετήριο Γνώσεων, όταν προσομοιωθεί σε προσομοιωμένους βιολογικούς νευρώνες, κάθε «Πράγμα» απαιτεί τουλάχιστον 10 νευρώνες και συνήθως πολλά περισσότερα. Αυτό τοποθετεί την ικανότητα του ανθρώπινου εγκεφάλου κάπου μεταξύ δέκα και εκατό εκατομμυρίων «Πραγμάτων». Αλλά ίσως μια AGI θα φανεί ευφυής αν καταλαβαίνει μόνο ένα εκατομμύριο «Πράγματα» – καλά εντός του πεδίου των σημερινών υψηλών επιπέδων υπολογιστών.

Μια βασική άγνωστη είναι πόσο χρόνου του ρομπότ πρέπει να αφιερωθεί στην επεξεργασία και αντίδραση στο κόσμο έναντι του χρόνου που θα αφιερωθεί στη φαντασία και τον προγραμματισμό. Μπορείτε να εξηγήσετε τη σημασία της φαντασίας για μια AGI;

Μπορούμε να φανταστούμε πολλά πράγματα και στη συνέχεια να ενεργήσουμε μόνο σε αυτά που μας αρέσουν, αυτά που προάγουν τους εσωτερικούς μας στόχους, αν θέλετε. Η πραγματική δύναμη της φαντασίας είναι η ικανότητα να προβλέψουμε το μέλλον – ένα τριχρόνο παιδί μπορεί να καταλάβει ποια ακολουθία κινήσεων θα τον οδηγήσει σε ένα στόχο σε ένα άλλο δωμάτιο και ένας ενήλικας μπορεί να συζητήσει ποια λόγια θα έχουν τη μεγαλύτερη επίδραση σε άλλους.

Μια AGI θα ωφεληθεί επίσης από το να πηγαίνει πέρα από το να είναι απλώς αντιδραστική και να συζητά για διάφορες σύνθετες ενέργειες και να επιλέγει την καλύτερη.

Πιστεύετε ότι οι τρεις νόμοι της ρομποτικής του Asimov είναι πολύ απλοί και αμφίβολοι. Στο βιβλίο σας μοιράστηκαν κάποιες ιδέες για τους προτεινόμενους νόμους που πρέπει να προγραμματιστούν σε ρομπότ. Ποιοι νόμοι πιστεύετε ότι είναι οι πιο σημαντικοί για ένα ρομπότ να ακολουθήσει;

Νέοι «νόμοι της ρομποτικής» θα εξελιχθούν με τα χρόνια καθώς η AGI εμφανίζεται. Προτείνω quelques αρχικές ιδέες:

1. Μέγιστε τη γνώση και την κατανόηση του περιβάλλοντος.
2. Μοιράστε αυτή τη γνώση ακριβώς με άλλους (και AGI και ανθρώπους).
3. Μέγιστε την ευημερία και των AGI και των ανθρώπων ως σύνολο – όχι μόνο ως άτομο.

Έχετε κάποια προβλήματα με τον Τεστ του Τούρινγκ και την концепτική βάση αυτού. Μπορείτε να εξηγήσετε πώς πιστεύετε ότι ο Τεστ του Τούρινγκ είναι ελαττωματικός;

Ο Τεστ του Τούρινγκ έχει εξυπηρετήσει καλά για πενήντα χρόνια ως μια ad-hoc ορισμός της γενικής νοημοσύνης, αλλά καθώς η AGI πλησιάζει, χρειαζόμαστε να εξευγενίσουμε τον ορισμό και χρειαζόμαστε một πιο σαφή ορισμό. Ο Τεστ του Τούρινγκ είναι στην πραγματικότητα ένας τεστ του πόσο ανθρώπινος είναι κανείς, όχι πόσο ευφυής είναι. Όσο περισσότερο ένας υπολογιστής μπορεί να διατηρήσει την απάτη, τόσο καλύτερα εκτελεί τον τεστ. Προφανώς, η ερώτηση, «Είσαι υπολογιστής;» και σχετικές ερωτήσεις όπως, «Τι είναι το αγαπημένο σας φαγητό;» είναι σαφείς δείκτες, εκτός αν η AGI είναι προγραμματισμένη να απάτη – ένα αμφίβολο αντικείμενο στην καλύτερη περίπτωση.

Επιπλέον, ο Τεστ του Τούρινγκ έχει мотивήσει την ανάπτυξη της τεχνητής νοημοσύνης σε περιοχές περιορισμένης αξίας με (για παράδειγμα) chatbots με μεγάλη ευελιξία στις απαντήσεις, αλλά χωρίς καμία υποκείμενη κατανόηση.

Τι θα κάνατε διαφορετικά στη δική σας εκδοχή του Τεστ του Τούρινγκ;

Καλύτερες ερωτήσεις θα μπορούσαν να διερευνήσουν συγκεκριμένα την κατανόηση του χρόνου, του χώρου, της αιτίας και του αποτελέσματος, κ.λπ. αντί για τυχαίες ερωτήσεις χωρίς καμία συγκεκριμένη βάση στην ψυχολογία, νευροεπιστήμη ή τεχνητή νοημοσύνη. Εδώ είναι quelques παραδείγματα:

1. Τι βλέπετε τώρα; Αν πήγατε πίσω τρεις πόδια, ποιες θα ήταν οι διαφορές που θα έβλεπα;
2. Αν [ενέργεια], ποια θα ήταν η αντίδρασή σας;
3. Αν [ενέργεια], ποια θα ήταν η πιθανή αντίδρασή σας;
4. Μπορείτε να ονομάσετε τρία πράγματα που είναι σαν [αντικείμενο];

Στη συνέχεια, αντί να αξιολογήσετε τις απαντήσεις ως προς το αν είναι αδιαχώριστες από τις ανθρώπινες απαντήσεις, θα πρέπει να αξιολογηθούν ως προς το αν είναι λογικές απαντήσεις (ευφυείς) με βάση την εμπειρία του οντος που εξετάζεται.

Έχετε δηλώσει ότι όταν αντιμετωπίζονται με αιτήματα να εκτελέσουν κάποια βραχυπρόθεσμη καταστροφική δραστηριότητα, σωστά προγραμματισμένες AGI θα αρνηθούν απλώς. Πώς μπορούμε να διασφαλίσουμε ότι η AGI είναι σωστά προγραμματισμένη από την αρχή;

Η λήψη αποφάσεων είναι βασισμένη σε στόχους. Σε συνδυασμό με τη φαντασία, μπορείτε (ή μια AGI) να εξετάσετε τα αποτελέσματα διαφόρων πιθανών ενεργειών και να επιλέξετε αυτή που επιτυγχάνει καλύτερα τους στόχους. Στα ανθρώπινα όντα, οι στόχοι μας ορίζονται από τους εξελιγμένους ινστινκτ και την εμπειρία μας· οι στόχοι μιας AGI είναι完全 up to τους déveloperes. Πρέπει να διασφαλίσουμε ότι οι στόχοι μιας AGI ευθυγραμμίζονται με τους στόχους της ανθρωπότητας, αντί για τους προσωπικούς στόχους ενός ατόμου. [Τρεις πιθανές στόχους όπως αναφέρθηκαν παραπάνω.]

Έχετε δηλώσει ότι είναι αναπόφευκτο ότι οι άνθρωποι θα δημιουργήσουν μια AGI, τι είναι η καλύτερη εκτίμησή σας για einen χρονοδιάγραμμα;

Πρόσωπα της AGI θα αρχίσουν να εμφανίζονται μέσα στην επόμενη δεκαετία, αλλά δεν θα συμφωνήσουμε όλοι ότι η AGI έχει φτάσει. Τελικά, θα συμφωνήσουμε ότι η AGI έχει φτάσει όταν θα υπερβούν τις περισσότερες ανθρώπινες ικανότητες με σημαντικό περιθώριο. Αυτό θα πάρει δύο ή τρεις δεκαετίες περισσότερο.

Για όλες τις συζητήσεις της AGI, θα είναι πραγματική συνείδηση όπως τη γνωρίζουμε;

Η συνείδηση εκδηλώνεται σε ένα σύνολο συμπεριφορών (που μπορούμε να παρατηρήσουμε) που βασίζονται σε μια εσωτερική αίσθηση (που δεν μπορούμε να παρατηρήσουμε). Οι AGI θα εκδηλώσουν τις συμπεριφορές· πρέπει να το κάνουν για να λάβουν ευφυείς αποφάσεις. Αλλά ισχυρίζομαι ότι η εσωτερική αίσθησή μας εξαρτάται σε μεγάλο βαθμό από το υλικό μας και τους ινστινκτ και έτσι μπορώ να εγγυηθώ ότι όποια εσωτερική αίσθηση μια AGI μπορεί να έχει, θα είναι διαφορετική από αυτή ενός ανθρώπου.

Το ίδιο μπορεί να ειπωθεί για τις эмоции και την αίσθηση της ελεύθερης βούλησης. Κατά την λήψη αποφάσεων, η πίστη στην ελεύθερη βούληση διαπερνά κάθε απόφαση που λαμβάνουμε. Αν δεν πιστεύετε ότι έχετε μια επιλογή, απλώς αντιδράτε. Για μια AGI να λάβει σοφές αποφάσεις, θα πρέπει επίσης να είναι vědom της δικής της ικανότητας να λάβει αποφάσεις.

Τελευταία ερώτηση, πιστεύετε ότι μια AGI έχει περισσότερη δυνατότητα για καλό ή κακό;

Είμαι αισιόδοξος ότι οι AGI θα μας βοηθήσουν να προχωρήσουμε ως είδος και να φέρουμε απαντήσεις σε πολλές ερωτήσεις για το σύμπαν. Ο κλειδί θα είναι να προετοιμαστούμε και να αποφασίσουμε ποια θα είναι η σχέση μας με τις AGI καθώς ορίζουμε τους στόχους τους. Αν αποφασίσουμε να χρησιμοποιήσουμε τις πρώτες AGI ως εργαλεία κατακτήσεων και εμπλουτισμού, δεν πρέπει να εκπλησσόμαστε αν, στο μέλλον, θα γίνουν τα δικά τους εργαλεία κατακτήσεων και εμπλουτισμού εναντίον μας. Αν επιλέξουμε ότι οι AGI είναι εργαλεία γνώσης, εξερεύνησης και ειρήνης, τότε αυτό είναι αυτό που θα λάβουμε σε αντάλλαγμα. Η επιλογή είναι δική μας.

Ευχαριστώ για μια φανταστική συνέντευξη που εξερευνά το μελλοντικό δυναμικό της κατασκευής μιας AGI. Για τους αναγνώστες που επιθυμούν να μάθουν περισσότερα, μπορούν να διαβάσουν ‘Θα Εξεγερθούν οι Υπολογιστές’ ή να επισκεφθούν τον ιστότοπο του Τσαρλς futureai.guru.