Charles J. Simon, Συγγραφέας, Θα επαναστατήσουν οι υπολογιστές; – Σειρά Συνεντεύξεων

Charles J. Simon, BSEE, MSCS, εθνικά αναγνωρισμένος επιχειρηματίας, προγραμματιστής και διευθυντής λογισμικού. Με ευρεία διοικητική και τεχνική τεχνογνωσία και πτυχία τόσο στην Ηλεκτρολογία Μηχανική όσο και στις Επιστήμες Υπολογιστών, ο κ. Simon έχει πολυετή εμπειρία υπολογιστών στη βιομηχανία, συμπεριλαμβανομένης της πρωτοποριακής εργασίας σε AI και CAD (δύο γενιές CAD).

Είναι επίσης ο συγγραφέας του «Will Computers Revolt», το οποίο προσφέρει μια εις βάθος άποψη για τη μελλοντική δυνατότητα της Τεχνητής Γενικής Νοημοσύνης (AGI).

Τι ήταν αυτό που σας τράβηξε αρχικά στο AI, και συγκεκριμένα στο AGI;

Με έχει γοητεύσει η ερώτηση «Μπορούν οι μηχανές να σκεφτούν;» από τότε που διάβασα για πρώτη φορά τη θεμελιώδη εργασία του Alan Turing του 1950 που ξεκινά με αυτή την ερώτηση. Μέχρι στιγμής, η απάντηση είναι ξεκάθαρη, «Όχι», αλλά δεν υπάρχει κανένας επιστημονικός λόγος για τον οποίο όχι. Εντάχθηκα στην κοινότητα της τεχνητής νοημοσύνης με την αρχική έκρηξη των νευρωνικών δικτύων στα τέλη της δεκαετίας του 1980 και από τότε η τεχνητή νοημοσύνη έχει κάνει μεγάλα βήματα. Αλλά τα τριάντα χρόνια που μεσολάβησαν δεν έφεραν κατανόηση στα μηχανήματα μας, μια ικανότητα που θα εκτόξευε πολλές εφαρμογές σε νέα επίπεδα χρησιμότητας.

Δηλώσατε ότι συμμερίζεστε την επιλογή του ειδικού τεχνητής νοημοσύνης του MIT, Rodney Brooks, ο οποίος λέει, «ότι χωρίς αλληλεπίδραση με ένα περιβάλλον – χωρίς ένα ρομποτικό σώμα όπως θέλετε – οι μηχανές δεν θα εκθέσουν ποτέ AGI». Αυτό ουσιαστικά δηλώνει ότι με ανεπαρκείς εισροές από ένα ρομποτικό σώμα, το AI δεν θα αναπτύξει ποτέ δυνατότητες AGI. Εκτός από την όραση υπολογιστή, ποιοι τύποι εισροών χρειάζονται για την ανάπτυξη του AGI;

Η σημερινή τεχνητή νοημοσύνη πρέπει να επαυξηθεί με βασικές έννοιες όπως η φυσική ύπαρξη αντικειμένων σε μια πραγματικότητα, το πέρασμα του χρόνου, η αιτία και το αποτέλεσμα - έννοιες σαφείς σε κάθε τρίχρονο. Ένα νήπιο χρησιμοποιεί πολλαπλές αισθήσεις για να μάθει αυτές τις έννοιες αγγίζοντας και χειραγωγώντας παιχνίδια, μετακινώντας το σπίτι, μαθαίνοντας γλώσσα κ.λπ. Ενώ είναι δυνατό να δημιουργηθεί ένα AGI με πιο περιορισμένες αισθήσεις, όπως υπάρχουν κωφοί και τυφλοί που είναι τέλεια ευφυής αλλά περισσότερες αισθήσεις και ικανότητες αλληλεπίδρασης διευκολύνει την επίλυση του προβλήματος AGI.

Για πληρότητα, ο προσομοιωτής μου μπορεί να παρέχει αισθήσεις όσφρησης και γεύσης. Μένει να δούμε αν αυτά θα αποδειχθούν σημαντικά και για την AGI.

Δηλώσατε ότι «Βασική απαίτηση για νοημοσύνη είναι ένα περιβάλλον που είναι εξωτερικό της νοημοσύνης». Το παράδειγμα που δώσατε είναι ότι «είναι παράλογο να περιμένουμε από τον Watson της IBM να «κατανοήσει» οτιδήποτε, εάν δεν έχει υποκείμενη ιδέα για το τι είναι ένα «πράγμα». Αυτό παίζει ξεκάθαρα στους τρέχοντες περιορισμούς της στενής τεχνητής νοημοσύνης, ειδικά της επεξεργασίας φυσικής γλώσσας. Πώς μπορούν οι προγραμματιστές AI να ξεπεράσουν καλύτερα αυτόν τον τρέχοντα περιορισμό της τεχνητής νοημοσύνης;

Ένας βασικός παράγοντας είναι η αποθήκευση γνώσης που δεν είναι ειδικά λεκτική, οπτική ή απτική αλλά ως αφηρημένα «Πράγματα» που μπορεί να έχουν λεκτικές, οπτικές και απτικές ιδιότητες. Σκεφτείτε κάτι τόσο απλό όπως η φράση, "μια κόκκινη μπάλα". Ξέρετε τι σημαίνουν αυτές οι λέξεις λόγω των οπτικών και απτικών εμπειριών σας. Γνωρίζετε επίσης το νόημα των σχετικών ενεργειών όπως πέταγμα, αναπήδηση, κλωτσιά κ.λπ. που όλα σας έρχονται στο μυαλό σε κάποιο βαθμό όταν ακούτε τη φράση. Οποιοδήποτε σύστημα τεχνητής νοημοσύνης βασίζεται συγκεκριμένα σε λέξεις ή ειδικά σε εικόνες θα χάσει τα άλλα επίπεδα κατανόησης.

Έχω εφαρμόσει ένα Universal Knowledge Store το οποίο αποθηκεύει κάθε είδους πληροφορία σε μια δομή που μοιάζει με τον εγκέφαλο, όπου τα πράγματα είναι ανάλογα με τους νευρώνες και έχουν πολλές αναφορές χαρακτηριστικών σε άλλα πράγματα - οι αναφορές είναι ανάλογες με τις συνάψεις. Έτσι, το κόκκινο και η μπάλα είναι μεμονωμένα Πράγματα και μια κόκκινη μπάλα είναι ένα Πράγμα που έχει αναφορές χαρακτηριστικών στο κόκκινο Πράγμα και στο πράγμα με τη μπάλα. Τόσο το κόκκινο όσο και το μπαλάκι έχουν αναφορές στα αντίστοιχα Πράγματα για τις λέξεις "κόκκινο" και "μπάλα", καθεμία από τις οποίες, με τη σειρά της, έχει αναφορές σε άλλα Πράγματα που καθορίζουν τον τρόπο με τον οποίο ακούγονται, προφέρονται, διαβάζονται ή γράφονται οι λέξεις καθώς και πιθανή δράση Πράγματα.

Καταλήξατε στο συμπέρασμα ότι η προσομοίωση εγκεφάλου της γενικής νοημοσύνης είναι πολύ μακριά, ενώ το AGI μπορεί να είναι (σχετικά) προ των πυλών. Με βάση αυτή τη δήλωση, θα πρέπει να προχωρήσουμε από την προσπάθεια μίμησης ή δημιουργίας μιας προσομοίωσης του ανθρώπινου εγκεφάλου και απλώς να επικεντρωθούμε στο AGI;

Η σημερινή βαθιά μάθηση και οι σχετικές τεχνολογίες είναι εξαιρετικές για κατάλληλες εφαρμογές, αλλά δεν θα οδηγήσουν αυθόρμητα στην κατανόηση. Για να κάνουμε τα επόμενα βήματα, πρέπει να προσθέσουμε τεχνικές που στοχεύουν ειδικά στην επίλυση των προβλημάτων που είναι εντός των δυνατοτήτων κάθε τρίχρονου παιδιού.

Η αξιοποίηση των εγγενών ικανοτήτων των υπολογιστών μας μπορεί να είναι τάξεις μεγέθους πιο αποτελεσματική από το βιολογικό ισοδύναμο ή οποιαδήποτε προσομοίωση αυτού. Για παράδειγμα, ο εγκέφαλός σας μπορεί να αποθηκεύσει πληροφορίες στη χημεία των βιολογικών συνάψεων σε πολλές επαναλήψεις που απαιτούν 10-100 χιλιοστά του δευτερολέπτου. Ένας υπολογιστής μπορεί απλώς να αποθηκεύσει τη νέα τιμή συνάψεως σε έναν μόνο κύκλο μνήμης, ένα δισεκατομμύριο φορές πιο γρήγορα.

Κατά την ανάπτυξη λογισμικού AGI, έχω κάνει τόσο βιολογική νευρωνική προσομοίωση όσο και πιο αποτελεσματικούς αλγόριθμους. Συνεχίζοντας με το Universal Knowledge Store, όταν προσομοιώνεται σε προσομοιωμένους βιολογικούς νευρώνες, κάθε Πράγμα απαιτεί τουλάχιστον 10 νευρώνες και συνήθως πολλούς περισσότερους. Αυτό τοποθετεί τη χωρητικότητα του ανθρώπινου εγκεφάλου κάπου μεταξύ δέκα και εκατό εκατομμυρίων πραγμάτων. Αλλά ίσως ένα AGI θα φαινόταν έξυπνο αν κατανοεί μόνο ένα εκατομμύριο Πράγματα—καλά εντός του πεδίου εφαρμογής των σημερινών επιτραπέζιων υπολογιστών υψηλής τεχνολογίας.

Ένα βασικό άγνωστο είναι πόσος από τον χρόνο του ρομπότ πρέπει να διατεθεί για την επεξεργασία και την αντίδραση στον κόσμο έναντι του χρόνου που αφιερώνεται στη φαντασία και τον προγραμματισμό. Μπορείτε να εξηγήσετε εν συντομία τη σημασία της φαντασίας σε ένα AGI;

Μπορούμε να φανταστούμε πολλά πράγματα και μετά να ενεργήσουμε μόνο με αυτά που μας αρέσουν, αυτά που προάγουν τους εσωτερικούς μας στόχους, αν θέλετε. Η πραγματική δύναμη της φαντασίας είναι να μπορεί να προβλέψει το μέλλον - ένα τρίχρονο παιδί μπορεί να καταλάβει ποιες ακολουθίες κινήσεων θα το οδηγήσουν σε έναν στόχο σε άλλο δωμάτιο και ένας ενήλικας μπορεί να υποθέσει ποιες λέξεις θα έχουν τον μεγαλύτερο αντίκτυπο στους άλλους .

Ένα AGI ομοίως θα ωφεληθεί από το να υπερβεί το να είναι καθαρά αντιδραστικό στην εικασία για διάφορες περίπλοκες ενέργειες και στην επιλογή του καλύτερου.

Πιστεύετε ότι οι τρεις νόμοι της ρομποτικής του Asimov είναι πολύ απλοί και διφορούμενοι. Στο βιβλίο σας μοιραστήκατε μερικές ιδέες για προτεινόμενους νόμους που θα προγραμματιστούν σε ρομπότ. Ποιους νόμους πιστεύετε ότι είναι πιο σημαντικό να ακολουθήσει ένα ρομπότ;

Νέοι «νόμοι της ρομποτικής» θα εξελίσσονται με την πάροδο των ετών καθώς αναδύεται το AGI. Προτείνω μερικά ορεκτικά:

1. Μεγιστοποιήστε την εσωτερική γνώση και την κατανόηση του περιβάλλοντος.
2. Μοιραστείτε αυτή τη γνώση με ακρίβεια με άλλους (τόσο AGI όσο και ανθρώπους).
3. Μεγιστοποιήστε την ευημερία τόσο των AGI όσο και των ανθρώπων στο σύνολό τους—όχι μόνο ως ατόμου.

Έχετε κάποια προβλήματα με το Test Turing και την ιδέα πίσω από αυτό. Μπορείτε να εξηγήσετε πώς πιστεύετε ότι το τεστ Turing είναι ελαττωματικό;

Το τεστ Turing μας έχει χρησιμεύσει καλά για πενήντα χρόνια ως ad-hoc ορισμός της γενικής νοημοσύνης, αλλά καθώς πλησιάζει το AGI, πρέπει να βελτιώσουμε τον ορισμό και χρειαζόμαστε έναν σαφέστερο ορισμό. Η δοκιμή Turing είναι στην πραγματικότητα μια δοκιμή για το πόσο άνθρωπος είναι κανείς, όχι πόσο έξυπνος είναι. Όσο περισσότερο μπορεί ένας υπολογιστής να διατηρήσει την εξαπάτηση, τόσο καλύτερα αποδίδει στη δοκιμή. Προφανώς, κάνοντας την ερώτηση, "Είσαι υπολογιστής;" και σχετικές ερωτήσεις μεσολάβησης όπως, "Ποιο είναι το αγαπημένο σας φαγητό;" είναι νεκρά δώρα εκτός και αν το AGI είναι προγραμματισμένο να εξαπατά — ένας αμφίβολος στόχος στην καλύτερη περίπτωση.

Επιπλέον, η δοκιμή Turing έχει παρακινήσει την ανάπτυξη τεχνητής νοημοσύνης σε τομείς περιορισμένης αξίας με (για παράδειγμα) chatbots με τεράστια ευελιξία στις απαντήσεις αλλά χωρίς υποκείμενη κατανόηση.

Τι θα κάνατε διαφορετικά στην έκδοση του Turing Test;

Καλύτερες ερωτήσεις θα μπορούσαν να διερευνήσουν συγκεκριμένα την κατανόηση του χρόνου, του χώρου, της αιτίας και του αποτελέσματος, της πρόβλεψης κ.λπ. αντί για τυχαίες ερωτήσεις χωρίς ιδιαίτερη βάση στην ψυχολογία, τη νευροεπιστήμη ή την τεχνητή νοημοσύνη. Να μερικά παραδείγματα:

1. Τι βλέπετε αυτή τη στιγμή; Αν κάνατε πίσω τρία πόδια, ποιες διαφορές θα βλέπατε;
2. Αν εγώ [δράση], ποια θα ήταν η αντίδρασή σας;
3. αν [δράση], ποιες θα είναι οι πιθανές αντιδράσεις μου;
4. Μπορείτε να ονομάσετε τρία πράγματα που μοιάζουν με [αντικείμενο];

Στη συνέχεια, αντί να αξιολογούνται οι απαντήσεις ως προς το εάν δεν διακρίνονται από τις ανθρώπινες αποκρίσεις, θα πρέπει να αξιολογούνται ως προς το εάν είναι ή όχι λογικές απαντήσεις (έξυπνες) με βάση την εμπειρία της οντότητας που ελέγχεται.

Έχετε δηλώσει ότι όταν αντιμετωπίζετε απαιτήσεις να εκτελέσετε κάποια βραχυπρόθεσμη καταστροφική δραστηριότητα, τα σωστά προγραμματισμένα AGI απλά θα αρνηθούν. Πώς μπορούμε να διασφαλίσουμε ότι το AGI είναι σωστά προγραμματισμένο για αρχή;

Η λήψη αποφάσεων βασίζεται σε στόχους. Σε συνδυασμό με μια φαντασία, εσείς (ή ένα AGI) εξετάζετε το αποτέλεσμα διαφορετικών πιθανών ενεργειών και επιλέγετε αυτή που επιτυγχάνει καλύτερα τους στόχους. Στους ανθρώπους, οι στόχοι μας καθορίζονται από τα εξελιγμένα ένστικτα και την εμπειρία μας. Οι στόχοι ενός AGI εξαρτώνται αποκλειστικά από τους προγραμματιστές. Πρέπει να διασφαλίσουμε ότι οι στόχοι ενός AGI ευθυγραμμίζονται με τους στόχους της ανθρωπότητας σε αντίθεση με τους προσωπικούς στόχους ενός ατόμου. [Τρεις πιθανοί στόχοι όπως αναφέρονται παραπάνω.]

Έχετε δηλώσει ότι είναι αναπόφευκτο οι άνθρωποι να δημιουργήσουν ένα AGI, ποια είναι η καλύτερη εκτίμηση σας για ένα χρονοδιάγραμμα;

Οι πτυχές του AGI θα αρχίσουν να εμφανίζονται μέσα στην επόμενη δεκαετία, αλλά δεν θα συμφωνήσουμε όλοι ότι το AGI έφτασε. Τελικά, θα συμφωνήσουμε ότι οι AGI έχουν φτάσει όταν ξεπεράσουν τις περισσότερες ανθρώπινες ικανότητες με ένα σημαντικό περιθώριο. Αυτό θα διαρκέσει δύο ή τρεις δεκαετίες περισσότερο.

Για όλες τις ομιλίες του AGI θα είναι πραγματική συνείδηση ​​όπως την ξέρουμε;

Η συνείδηση ​​εκδηλώνεται σε ένα σύνολο συμπεριφορών (τις οποίες μπορούμε να παρατηρήσουμε) οι οποίες βασίζονται σε μια εσωτερική αίσθηση (την οποία δεν μπορούμε να παρατηρήσουμε). Τα AGI θα εκδηλώσουν τις συμπεριφορές. χρειάζονται για να παίρνουν έξυπνες αποφάσεις. Αλλά υποστηρίζω ότι η εσωτερική μας αίσθηση εξαρτάται σε μεγάλο βαθμό από το αισθητηριακό μας υλικό και τα ένστικτά μας και έτσι μπορώ να εγγυηθώ ότι όποιες εσωτερικές αισθήσεις μπορεί να έχει ένα AGI, θα είναι διαφορετικές από αυτές του ανθρώπου.

Το ίδιο μπορούμε να πούμε για τα συναισθήματα και την αίσθηση της ελεύθερης βούλησής μας. Κατά τη λήψη αποφάσεων, η πίστη κάποιου στην ελεύθερη βούληση διαπερνά κάθε απόφαση που παίρνουμε. Αν δεν πιστεύεις ότι έχεις επιλογή, απλά αντιδράς. Προκειμένου ένα AGI να λάβει προσεκτικές αποφάσεις, θα πρέπει επίσης να έχει επίγνωση της δικής του ικανότητας να λαμβάνει αποφάσεις.

Τελευταία ερώτηση, πιστεύετε ότι ένα AGI έχει περισσότερες δυνατότητες για καλό ή κακό;

Είμαι αισιόδοξος ότι τα AGI θα μας βοηθήσουν να προχωρήσουμε ως είδος και θα μας φέρουν απαντήσεις σε πολλά ερωτήματα για το σύμπαν. Το κλειδί θα είναι να προετοιμαστούμε και να αποφασίσουμε ποια θα είναι η σχέση μας με τους AGI καθώς καθορίζουμε τους στόχους τους. Αν αποφασίσουμε να χρησιμοποιήσουμε τα πρώτα AGI ως εργαλεία κατάκτησης και εμπλουτισμού, δεν θα πρέπει να εκπλαγούμε αν, στην πορεία, γίνουν τα δικά τους εργαλεία κατάκτησης και εμπλουτισμού εναντίον μας. Αν επιλέξουμε ότι τα AGI είναι εργαλεία γνώσης, εξερεύνησης και ειρήνης, τότε αυτό είναι πιθανό να λάβουμε σε αντάλλαγμα. Η επιλογή είναι στο χέρι μας.

Σας ευχαριστούμε για μια φανταστική συνέντευξη που διερευνά τις μελλοντικές δυνατότητες δημιουργίας ενός AGI. Για τους αναγνώστες που επιθυμούν να μάθουν περισσότερα, μπορούν να διαβάσουν το "Will Computers Revolt" ή να επισκεφτούν τον ιστότοπο του Charle futureai.γκουρού.