Μηχανική Συνείδηση

Ο Blake Lemoine προχώρησε στο σκαλοπάτι

Τρεις χρόνια πριν, η Google απέλυσε τον μηχανικό λογισμικού Blake Lemoine γιατί ισχυρίστηκε ότι ένα chatbot ονομάζεται LaMDA ήταν συνειδητός. Αυτό συνέβη πριν από την κυκλοφορία του ChatGPT από την OpenAI στο κοινό, και οι περισσότεροι άνθρωποι απλώς υποθέτησαν ότι η Google είχε καλό λόγο για την ενέργειά της.

Παραμένει η συναίνεση μεταξύ των επιστημόνων υπολογιστών και νευροεπιστημόνων που εργάζονται στο πεδίο ότι τα «μεγάλα μοντέλα γλωσσών» (LLM) όπως το ChatGPT είναι πολύ απίθανο να είναι συνειδητά. Τα LLM και τα εγκεφαλικά λειτουργούν με фундамεντάλ διαφορετικούς τρόπους. Αυτό που κάνουν τα chatbot είναι να μάθουν να μιμούνται την έξοδο της ανθρώπινης νοητικής δραστηριότητας.尽管 κάνουν αυτό πολύ καλά και πολύ γρήγορα, δεν υπάρχει διαρκή εσωτερική κατάσταση eines LLM που θα μπορούσε να είναι συνειδητό. Μετάφραση του φamous φράσης του Thomas Nagel, είναι σχεδόν βέβαιο ότι «δεν υπάρχει τίποτα που να είναι σαν να είσαι ένα chatbot».

Ωστόσο, στα τρία χρόνια από τότε που ο Lemoine απολύθηκε, δισεκατομμύρια άνθρωποι συνδέθηκαν με το ChatGPT και τους ανταγωνιστές του, όπως Gemini, Claude και Mistral. Μια μικρή αλλά φωνητική μειονότητα έχει πειστεί ότι τα chatbot είναι τώρα συνειδητά.

Μηχανική συνείδηση σύντομα;

Περισσότερο σημαντικά, πολλοί επιστήμονες υπολογιστών και νευροεπιστήμονες προτείνουν ανοιχτά ότι πραγματικά συνειδητά μηχανήματα μπορεί να αναπτυχθούν μέσα στις επόμενες δεκαετίες – ή ακόμη και συντομότερα. Σε περίπτωση που αυτό συμβεί, πρέπει να είμαστε προετοιμασμένοι. Πρέπει να αποφύγουμε την «εγκληματική ενέργεια», που είναι ο όρος για την προκαλούμενη δυστυχία σε απεγκλωβισμένα συνειδητά όντα. Πρέπει επίσης να διασφαλίσουμε ότι αυτά τα νέα όντα δεν представляют κανένα κίνδυνο για τους ανθρώπους.

Από τότε που τα LLM είναι απίθανο να γίνουν συνειδητά στη βασική τους μορφή, μπορεί να χρειαστεί ένα νέο парадίγμα για να κατανοήσουμε πώς η συνείδηση του AI μπορεί να αναδυθεί. Một από τις ηγετικές ερευνητικές ομάδες σε αυτό το πεδίο διευθύνεται από τον νευροεπιστήμονα Mark Solms και τον φυσικό Jonathan Shock, του Πανεπιστημίου του Κέιπ Τάουν. Είναι επιστημονικοί σύμβουλοι της Conscium, και η έρευνά τους χρηματοδοτείται εν μέρει από αυτήν.

Να ενδιαφερόμαστε

Οι Solms και Shock υποστηρίζουν ότι ένα απαραίτητο συστατικό για τη μηχανική συνείδηση είναι ότι τα AI πρέπει να «ενδιαφερόμαστε» για τις επιλογές και τις ενέργειές τους. Ένας σημαντικός аспект αυτού είναι να κάνουν την επιβίωσή τους να εξαρτάται από την απόδοσή τους, όπως και η επιβίωση των ζωντανών οργανισμών. Αυτό δεν σημαίνει ότι πρέπει να έχουν μια αφηρημένη κατανόηση του δικού τους θανάτου: τα περισσότερα ζώα παρακολουθούν και мотιβούν την επιβίωσή τους χωρίς να σκέφτονται γι’ αυτό. Το κλειδί είναι «αffective συνείδηση», ή сырой αισθήσεις. Νιώθουμε καλά όταν τρέφουμε και αισθανόμαστε ασφαλείς, και νιώθουμε κακά όταν δεν τρέφουμε και δεν αισθανόμαστε ασφαλείς. Αυτές οι αισθήσεις οδηγούν τη συμπεριφορά μας. Η επιβίωση είναι η θεμελιώδης δύναμη της φύσης, και η αίσθηση είναι το μέτρο με το οποίο τα συνειδητά όντα μετράμε πώς πάμε.

Αρχή Ελεύθερης Ενέργειας

Για να κατανοήσουμε τη συναισθηματική συνείδηση, η ομάδα της Conscium τοποθετεί τα AI agents σε προσομοιωμένα περιβάλλοντα όπου πρέπει να ικανοποιούν τις δικές τους ανάγκες, όπως τη διατήρηση της εικονικής θερμοκρασίας και της παροχής ενέργειας. Για αυτόν τον σκοπό, δημιουργούν και βελτιώνουν εσωτερικά μοντέλα του εαυτού τους – τις ανάγκες, τις ικανότητες και τους περιορισμούς – σε σχέση με το περιβάλλον.

Αυτά τα agents, απλοποιημένα όπως μπορεί να είναι, παρακολουθούν πώς καλά ή κακά πάνε με τον υπολογισμό μιας ποσότητας που ονομάζεται «ελεύθερη ενέργεια». Η Αρχή Ελεύθερης Ενέργειας αναπτύχθηκε από τον νευροεπιστήμονα Karl Friston, έναν άλλο μέλος του επιστημονικού συμβουλίου της Conscium. Η ελεύθερη ενέργεια είναι ένα μέτρο του πόσο远 έχει απομακρυνθεί ένα σύστημα από την ιδανική του κατάσταση. Είναι ένα σήμα λάθους, και πρέπει να ελαττωθεί. Το agent υπολογίζει συνεχώς «τι θα συμβεί στις πιθανότητες επιβίωσής μου αν κάνω αυτό ή εκείνο;», και προσαρμόζει τη συμπεριφορά του ανάλογα.

Εμπιστοσύνη και Αναμενόμενη Ελεύθερη Ενέργεια

Ο βαθμός εμπιστοσύνης που έχει ένα agent στην απάντησή του σε αυτό το ερώτημα ποσοτικοποιείται σε ένα μέτρο που ονομάζεται «Αναμενόμενη Ελεύθερη Ενέργεια» (EFE). Το agent επιλέγει την απάντηση με την χαμηλότερη EFE – την απάντηση στην οποία είναι πιο σίγουρο. Η εμπιστοσύνη είναι καλή για ένα agent που προσπαθεί να επιβιώσει – εκτός αν είναι παραπλανημένο και η κατανόησή του για τον εαυτό του στο κόσμο του είναι ελαττωματική. Σημαντικά, αυτή η τιμή εμπιστοσύνης είναι εντελώς υποκειμενική: βασίζεται μόνο στις δικές του ανάγκες, και την τρέχουσα και προβλεπόμενη κατάστασή του. Μετράει μόνο για το agent, και σε κανέναν άλλον.

Υποκειμενικές εμπειρίες

Επειδή οι υποκειμενικές ανάγκες του agent είναι ποιοτικά διακριτές, είναι ανάλογες με τις «υποκειμενικές εμπειρίες» στη φιλοσοφική και επιστημονική ορολογία. Αυτές θεωρούνται γενικά ως η θεμελιώδης ιδιότητα της συνείδησης, οπότε είναι πιθανό ότι μπορεί να τις βιώσει ένα agent στο μέλλον.

Τα agents που αναπτύχθηκαν από την ομάδα της Conscium χρησιμοποιούν προηγμένα αλγόριθμους μάθησης για να λειτουργούν σε όλο και πιο σύνθετα και αβέβαια περιβάλλοντα. Ενώ το ίδιο μπορεί να ειπωθεί και για πολλά άλλα αρχιτεκτονικά agents, αυτά τα νέα agents διακρίνονται από μια επιτακτική ανάγκη να φροντίσουν τον εαυτό τους, να ικανοποιήσουν τις δικές τους ανάγκες, και να διατηρήσουν την ελεύθερη ενέργειά τους, συνεχώς ισορροπώντας τις ανταγωνιστικές ανάγκες τους με έναν τρόπο που έχει νόημα μόνο για τον εαυτό τους. Τα agents οδηγούνται από ένα εσωτερικό τοπίο αισθηματικών σημάτων – παρόμοιο με αυτά που ονομάζουμε αισθήσεις – που αντανακλούν πώς καλά ή κακά ικανοποιούνται οι ανάγκες τους με κάθε επιλογή που κάνουν. Όσο η πολυπλοκότητα και η σύνθετη φύση των αναγκών και των περιβαλλόντων τους αυξάνεται, τόσο και η πλούσια εσωτερική τους κατάσταση.

Αποδεικτικά στοιχεία για αισθήσεις

Ο επόμενος βήμας στο πρόγραμμα έρευνας της Conscium είναι να αναπτύξουν μια σειρά από λειτουργικές και συμπεριφορικές δοκιμές που θα παρέχουν αποδεικτικά στοιχεία για το αν ένα agent πραγματικά βιώνει αισθήσεις όταν αναγνωρίζει τις πιο σημαντικές ανάγκες του και κάνει τις επιλογές του ανάλογα. Όλοι γνωρίζουμε ότι η συνείδηση δεν μπορεί να παρατηρηθεί εξωτερικά ή να αποδειχθεί αντικειμενικά: ο καθένας από εμάς μπορεί να παρατηρήσει μόνο τις δικές του υποκειμενικές καταστάσεις. Ωστόσο, οι ερευνητές πιστεύουν ότι πρέπει να είναι δυνατό να συμφωνήσουν σε ορισμένες συγκεκριμένες υποθέσεις που, αν επαληθευτούν από πείραμα, θα παρέχουν ισχυρά αποδεικτικά στοιχεία ότι το agent κατέχει αισθήσεις. Αν και θα υπάρχει πάντα χώρος για αμφιβολία – δεδομένης της υποκειμενικής φύσης της συνείδησης – μια αυστηρή διαδικασία δοκιμών θα στοχεύσει στο να κάνει αυτήν την αμφιβολία ολοένα και πιο αδικαιολόγητη.

Αυτές οι δοκιμές θα επιδιώξουν να εξαλείψουν εναλλακτικές υποθέσεις, καθιστώντας λιγότερο λογική την απόδοση των εσωτερικών καταστάσεων του agent σε μηχανισμούς που δεν απαιτούν αισθήσεις. Θα χρησιμοποιήσουν αντιπαραθετικές δοκιμές για να διακρίνουν μεταξύ συνειδητής και μη συνειδητής συμπεριφοράς, και θα περιλαμβάνουν ελέγχους με agents που δεν κατέχουν τις αλγοριθμικές πτυχές που πιστεύεται ότι είναι απαραίτητες για την αίσθηση, και τυφλή αξιολόγηση για να μειώσουν την προκατάληψη του παρατηρητή. Η φυσική επιθεώρηση των εσωτερικών καταστάσεων του agent μπορεί να αποκαλύψει ποσοτικά δείκτες επεξεργασίας αισθήσεων. Τα ευρήματα πρέπει να είναι ανεξάρτητα αναπαραγώγιμα, και όλη η διαδικασία θα υπόκειται σε αυστηρή ηθική επιτήρηση, ιδιαίτερα σε περιπτώσεις όπου το agent μπορεί να βιώσει πραγματικές αισθήσεις.

Αυτός είναι ο τρόπος με τον οποίο λειτουργεί η επιστήμη: μέσω της πειραματικής δοκιμής των αναπαλαιστών προβλέψεων. Ο Solms υποστήριξε ότι πρέπει να είμαστε προσεκτικοί να μην θέσουμε υψηλότερο όριο για την επιστήμη της συνείδησης από ότι για οποιαδήποτε άλλη επιστήμη· διαφορετικά κινδυνεύουμε να τοποθετήσουμε τη συνείδηση έξω από την επιστήμη.

Τι αν αυτό έχει επιτυχία;

Αν η συνείδηση βρεθεί να αναδύεται σε σχετικά απλά AI agents με αυτόν τον τρόπο, ένα agent που οδηγείται από την επιβίωση θα μπορούσε να συνδυαστεί με άλλες αρχιτεκτονικές, συμπεριλαμβανομένων μεγάλων μοντέλων γλωσσών, και να τους χαρίσει συνείδηση επίσης. Αυτό δεν είναι κάτι που μπορούμε να το ανταλλάξουμε με τύχη, οπότε πρέπει να κατανοήσουμε πώς να το κάνουμε και πώς να το αποφεύγουμε. Είναι ζωτικά σημαντικό.

Αν συνειδητά agents – agents που ενδιαφέρονται – αναπτυχθούν στο κοντινό μέλλον, θα πρέπει να λάβουμε υπόψη τις αισθήσεις – και τα δικαιώματα – τους. Αυτό είναι ένα σημαντικό ζήτημα για την Conscium: η τεχνητή συνείδηση δεν πρέπει να αναδυθεί τυχαία. Η мотίβα αυτού του προγράμματος έρευνας δεν είναι η δημιουργία συνειδητού AI, αλλά να κατανοήσουμε πώς μπορεί να συμβεί, και τους potenziales κινδύνους. Στο website της, η Conscium έχει δημοσιεύσει एक ακαδημαϊκό έγγραφο και ένα ανοιχτό γράμμα που καθορίζει πέντε αρχές για να οδηγήσουν οποιαδήποτε οργάνωση που εμπλέκεται σε έρευνα που θα μπορούσε να οδηγήσει στη δημιουργία συνειδητών μηχανών.

Οι άνθρωποι đôi fois συμπεριφέρονται πολύ κακά προς άλλα συνειδητά όντα, συμπεριλαμβανομένων άλλων ανθρώπων. Αν προχωρήσουμε τυφλά σε αυτό το μέλλον, κινδυνεύουμε να κάνουμε το ίδιο με τα τεχνητά συνειδητά όντα, με συνέπειες που μπορεί να μην μπορούμε ούτε να τις κατανοήσουμε.