Ένα κάλεσμα για μετριοπαθή ανθρωπομορφισμό στις πλατφόρμες AI

ΓΝΩΜΗ Κανείς στον φανταστικό Star Wars σύμπαν δεν λαμβάνει σοβαρά υπόψη του τον AI. Στο ιστορικό ανθρώπινο χρονοδιάγραμμα της 47χρονης επιστημονικής φαντασίας της франšíζας του George Lucas, οι απειλές από μοναδικότητες και συνείδηση του machine learning είναι απουσιάζουν, και ο AI περιορίζεται σε αυτόνομους κινητούς ρομπότ (‘droids’) – τα οποία συνήθως απορρίπτονται από τους πρωταγωνιστές ως απλά ‘μηχανήματα’.

Ωστόσο, τα περισσότερα ρομπότ του Star Wars είναι υψηλά ανθρωπομορφικά, σαφώς σχεδιασμένα για να αλληλεπιδρούν με ανθρώπους, να συμμετέχουν σε ‘οργανική’ κουλτούρα και να χρησιμοποιούν τις προσομοιώσεις της συναισθηματικής τους κατάστασης για να συνδεθούν με ανθρώπους. Αυτές οι ικανότητες φαίνεται να έχουν σχεδιαστεί για να βοηθήσουν τους εαυτούς τους, ή ακόμη και να εξασφαλίσουν τη δική τους επιβίωση.

Οι ‘πραγματικοί’ άνθρωποι του Star Wars φαίνεται να είναι αδιάφοροι σε αυτές τις τακτικές. Σε ένα κυνικό πολιτιστικό μοντέλο που φαίνεται να έχει εμπνευστεί από τις διάφορες εποχές της δουλείας στην Ρωμαϊκή Αυτοκρατορία και τις πρώτες Ηνωμένες Πολιτείες, ο Luke Skywalker δεν διστάζει να αγοράσει και να περιορίσει ρομπότ στο πλαίσιο δούλων· ο μικρός Anakin Skywalker εγκαταλείπει το ημιτελές του πρότζεκτ C3PO σαν ένα μη αγαπημένο παιχνίδι· και, σχεδόν νεκρός από τις ζημιές που υπέστη κατά την επίθεση στο Death Star, ο ‘θαρραλέος’ R2D2 λαμβάνει περίπου την ίδια ανησυχία από τον Luke όσο και ένα τραυματισμένο κατοικίδιο.

Αυτό είναι μια πολύ 1970s οπτική για την τεχνητή νοημοσύνη*· αλλά既然 η νοσταλγία και το κανονικό μοντέλο που εμπνέεται από τις διάφορες εποχές της δουλείας στην Ρωμαϊκή Αυτοκρατορία και τις πρώτες Ηνωμένες Πολιτείες, αυτή η ανθρώπινη αδιαφορία για τον AI έχει sido ένα ανθεκτικό στοιχείο της франšíζας, ακόμη και μπροστά σε μια αυξανόμενη λίστα τηλεοπτικών εκπομπών και ταινιών (όπως Her και Ex Machina) που απεικονίζουν την κάθοδό μας σε μια ανθρωπομορφική σχέση με τον AI.

Κρατήστε το Πραγματικό

Οι οργανικοί Star Wars χαρακτήρες έχουν πραγματικά τη σωστή στάση; Δεν είναι μια δημοφιλής σκέψη αυτή τη στιγμή, σε ένα επιχειρηματικό κλίμα που έχει οριστεί για μέγιστη εμπλοκή με επενδυτές, συνήθως μέσω ιογενών επιδείξεων οπτικών ή κειμενικών προσομοιώσεων του πραγματικού κόσμου, ή ανθρωπομορφικών συστημάτων αλληλεπίδρασης όπως τα Μεγάλα Γλωσσικά Μοντέλα (LLMs).

Παρά ταύτα, μια νέα και σύντομη εργασία από το Stanford, το Carnegie Mellon και την Microsoft Research, στοχεύει στην αδιαφορία γύρω από τον ανθρωπομορφισμό στον AI.

Οι συγγραφείς χαρακτηρίζουν την αντιλαμβανόμενη ‘αμοιβαία επίδραση’ μεταξύ ανθρώπινων και τεχνητών επικοινωνιών ως einen πιθανό κίνδυνο που πρέπει να μετριαστεί επειγόντως, για eine σειρά λόγων^†:

‘[Πιστεύουμε ότι πρέπει να κάνουμε περισσότερα για να αναπτύξουμε τις γνώσεις και τα εργαλεία για να αντιμετωπίσουμε καλύτερα την ανθρωπομορφική συμπεριφορά, συμπεριλαμβανομένης της μέτρησης και της μετριασμού τέτοιων συστημικών συμπεριφορών όταν θεωρούνται μη επιθυμητές.

‘Αυτό είναι κρίσιμο γιατί -μεταξύ πολλών άλλων ανησυχιών- το γεγονός ότι τα συστήματα AI παράγουν περιεχόμενο που ισχυρίζεται ότι έχει π.χ. συναισθήματα, κατανόηση, ελεύθερη βούληση ή μια υποκείμενη αίσθηση του εαυτού, μπορεί να υποβαθμίσει την αίσθηση της ελευθερίας των ανθρώπων, με αποτέλεσμα οι άνθρωποι να μπορεί να αποδώσουν ηθική ευθύνη στους συστήματα, υπερεκτιμώντας τις ικανότητες του συστήματος, ή υπερεξαρτώντας τους από αυτά τα συστήματα ακόμη και όταν είναι λανθασμένα.’

Ανθρωπομορφισμός Γλώσσας;

Η νέα εργασία υποστηρίζει ότι η δυνατότητα του γενετικού AI να ανθρωπομορφιστεί δεν μπορεί να καθοριστεί χωρίς τη μελέτη των κοινωνικών επιπτώσεων τέτοιων συστημάτων μέχρι τώρα, και ότι αυτό είναι ένα παραμελημένο αντικείμενο στην βιβλιογραφία.

Μέρος του προβλήματος είναι ότι ο ανθρωπομορφισμός είναι δύσκολο να οριστεί,既然 ότι κεντρικά επικεντρώνεται στη γλώσσα, μια ανθρώπινη λειτουργία. Η πρόκληση έγκειται, επομένως, στο να οριστεί τι ‘μη ανθρώπινη’ γλώσσα ακριβώς ακούγεται ή φαίνεται.

Παράδοξα, αν και η εργασία δεν το αναφέρει, η δημόσια αμφιβολία για τον AI οδηγεί ολοένα και περισσότερους ανθρώπους να απορρίπτουν το AI-γενικό κείμενο που μπορεί να εμφανιστεί πιστευτό ως ανθρώπινο, και ακόμη και να απορρίπτουν ανθρώπινο περιεχόμενο που έχει επισημανθεί σκόπιμα ως AI.

Προειδοποιητικά Σημάδια

Η εργασία αναφέρει αμφιβολίες για τη χρήση γενικών αποκαλύψεων σχετικά με το αν μια επικοινωνία διευκολύνεται από machine learning. Οι συγγραφείς υποστηρίζουν ότι η συστηματοποίηση τέτοιων προειδοποιήσεων δεν περιβάλλει επαρκώς την ανθρωπομορφική επίδραση των πλατφορμών AI, εάν η έξοδος συνεχίζει να εμφανίζει ανθρώπινες ιδιότητες^†:

‘Για παράδειγμα, μια συνήθως συνιστώμενη παρέμβαση είναι η συμπερίληψη στην έξοδο του συστήματος AI μιας αποκάλυψης ότι η έξοδος παράγεται από ένα σύστημα AI. Πώς να εφαρμόσουμε τέτοιες παρεμβάσεις στην πράξη και αν μπορούν να είναι αποτελεσματικές μόνο μπορεί να μην είναι πάντα σαφές.

Συμπέρασμα

Αν σκεφτόμαστε τα συστήματα AI με τον ίδιο απορριπτικό τρόπο όπως οι οργανικοί Star Wars χαρακτήρες αντιμετωπίζουν τα δικά τους ρομπότ (δηλαδή, ως ambulatory αναζητητές, ή απλά μεταφορείς μηχανιστικών λειτουργιών), θα είχαμε πιθανώς λιγότερο κίνδυνο να αναπτύξουμε αυτά τα κοινωνικά απεχθή χαρακτηριστικά στις ανθρώπινες αλληλεπιδράσεις μας – γιατί θα τα βλέπαμε σε ένα εντελώς μη ανθρώπινο πλαίσιο.

Ωστόσο, η εμπλοκή της ανθρώπινης γλώσσας με την ανθρώπινη συμπεριφορά καθιστά αυτό δύσκολο, αν όχι αδύνατο, μια φορά που μια ερώτηση επεκτείνεται από τον ελάχιστο του Google αναζήτησης σε πλούσιο контέκστ μιας συνομιλίας.

Επιπλέον, ο εμπορικός τομέας (όπως και ο τομέας διαφήμισης) είναι ισχυρά κινητοποιημένος για τη δημιουργία εθιστικών ή απαραίτητων πλατφορμών επικοινωνίας, για την κράτηση πελατών και την ανάπτυξη.

Σε κάθε περίπτωση, αν τα συστήματα AI απαντούν πραγματικά καλύτερα σε ευγενείς ερωτήσεις παρά σε απογυμνωμένες ανακρίσεις, το контέκστ μπορεί να μας επιβληθεί επίσης για αυτόν τον λόγο.

* Ακόμη και το 1983, το έτος που κυκλοφόρησε η τελευταία είσοδος στην αρχική Star Wars, οι φόβοι γύρω από την αύξηση του machine learning είχαν οδηγήσει στο αποκαλυπτικό War Games, και τη μελλοντική Terminator франšíζας.

^† Όπου ήταν απαραίτητο, έχω μετατρέψει τις εσωτερικές παραπομπές των συγγραφέων σε υπερσύνδεσμους και έχω παραλείψει κάποιες από τις παραπομπές, για ευκολία ανάγνωσης.

Πρώτη δημοσίευση την Δευτέρα, 14 Οκτωβρίου 2024