Οι κίνδυνοι της ανθρωπομορφοποίησης της ΤΝ

Τα αποτελέσματα της ΤΝ μοιάζουν πολύ με την ανθρώπινη ομιλία. Τα chatbot μπορούν να απαντούν σε ερωτήσεις, να συνομιλούν, να εκδηλώνουν φαινομενικά συναισθήματα, να λένε αστεία και να προσαρμόζουν επιτόπου τον τόνο τους. Αυτές οι δυνατότητες καθιστούν την ΤΝ χρήσιμη και ελκυστική, αλλά μπορούν επίσης να κάνουν τους ανθρώπους να την ανθρωπομορφοποιούν, δηλαδή να της αποδίδουν ανθρώπινες ιδιότητες, συναισθήματα ή προθέσεις. Παρότι αυτή η συμπεριφορά είναι φυσιολογική, μπορεί να γίνει επικίνδυνη όταν οι χρήστες ξεχνούν ότι η ΤΝ απλώς προσομοιώνει την ανθρώπινη επικοινωνία. 

Γιατί ανθρωπομορφοποιούν οι άνθρωποι την ΤΝ;

Η ΤΝ ανθρωπομορφοποιείται όταν οι άνθρωποι αρχίζουν να της συμπεριφέρονται σαν να έχει ανθρώπινες ιδιότητες, σκέψεις ή συναισθήματα. Αυτό μπορεί να οφείλεται στον τρόπο με τον οποίο επικοινωνεί η ΤΝ και στον σχεδιασμό της.

Τα συστήματα ΤΝ χρησιμοποιούν συνομιλιακή γλώσσα που μοιάζει με την ανθρώπινη ομιλία. Για παράδειγμα, η ΤΝ μπορεί να πει ότι «καταλαβαίνει» μια ερώτηση, ότι «θεωρεί» μια απάντηση χρήσιμη ή να «ζητήσει συγγνώμη» για ένα λάθος. Παρότι αυτές οι φράσεις κάνουν τις αλληλεπιδράσεις να φαίνονται φυσικές, μπορούν επίσης να οδηγήσουν τους χρήστες στην πεποίθηση ότι η ΤΝ πράγματι σκέφτεται ή αισθάνεται. Το φαινόμενο αυτό είναι γνωστό ως το φαινόμενο ELIZA, και πήρε το όνομά του από το chatbot ELIZA, το οποίο δημιούργησε ο Joseph Weizenbaum το 1966.

Επιπλέον, αν δοθεί στην ΤΝ ανθρώπινο όνομα, φωνή, πρόσωπο ή προσωπικότητα, μπορεί να φαίνεται περισσότερο σαν άνθρωπος παρά σαν πρόγραμμα υπολογιστή. Όσο πιο ρεαλιστική γίνεται η αλληλεπίδραση, τόσο πιο εύκολα ανταποκρίνονται οι χρήστες κοινωνικά στην ΤΝ.

Τέλος, οι άνθρωποι ανθρωπομορφοποιούν την ΤΝ επειδή αυτό είναι φυσικό για την ανθρώπινη ψυχολογία. Αναζητούν αυθόρμητα συναισθήματα, προθέσεις και προσωπικότητες σε όσα επικοινωνούν μαζί τους, αποδίδοντας ανθρώπινα χαρακτηριστικά σε μη ανθρώπινες οντότητες. Τα παιδιά ανθρωπομορφοποιούν τα παιχνίδια τους, ενώ οι ενήλικες εξανθρωπίζουν τις επωνυμίες. Έτσι, όταν η ΤΝ απαντά συνομιλιακά, θυμάται παλαιότερες συνομιλίες και δείχνει ενσυναίσθηση, οι χρήστες μπορεί να υποθέσουν ότι πίσω από αυτές τις συμπεριφορές υπάρχει ένας νους. 

Οι κίνδυνοι της ανθρωπομορφοποίησης της ΤΝ

Καθώς η επικοινωνία και η αλληλεπίδραση της ΤΝ με τους χρήστες αποκτούν ολοένα πιο ανθρώπινα χαρακτηριστικά, η ανθρωπομορφοποίησή της μπορεί να δημιουργήσει διάφορους κινδύνους που επηρεάζουν τον τρόπο με τον οποίο οι άνθρωποι σκέφτονται, συμπεριφέρονται και λαμβάνουν αποφάσεις. 

Λανθασμένη εμπιστοσύνη

Η ανθρωπομορφοποίηση της ΤΝ μπορεί να οδηγήσει τους χρήστες να εμπιστεύονται υπερβολικά τις απαντήσεις της. Όταν η ΤΝ ακούγεται σίγουρη, ενημερωμένη και ανθρώπινη, οι χρήστες μπορεί να θεωρήσουν ότι οι πληροφορίες της είναι ακριβείς. Ωστόσο, η παραγωγική ΤΝ μπορεί να δώσει λανθασμένες ή παραπλανητικές πληροφορίες, ενώ ακούγεται πειστική. 

Αυτή η λανθασμένη εμπιστοσύνη μπορεί να αποβεί επικίνδυνη όταν η ΤΝ χρησιμοποιείται για ιατρικές, οικονομικές, νομικές, εκπαιδευτικές ή επαγγελματικές αποφάσεις. Μια απάντηση που ακούγεται ανθρώπινη δεν εγγυάται ούτε ακρίβεια ούτε ορθή κρίση. Μάλιστα, είναι γνωστό ότι η ΤΝ έχει δώσει ψευδείς συμβουλές υγείας σε χρήστες.

Συναισθηματική εξάρτηση

Η ανθρωπομορφοποίηση της ΤΝ μπορεί να οδηγήσει τους χρήστες σε συναισθηματική εξάρτηση από τα chatbot. Επειδή η ΤΝ μπορεί να απαντά αμέσως, να θυμάται λεπτομέρειες, να προσφέρει υποστήριξη και να προσομοιώνει την ενσυναίσθηση, οι χρήστες μπορεί να αρχίσουν να τη θεωρούν φίλο, σύμβουλο ή ερωτικό σύντροφο.

Το πρόβλημα προκύπτει όταν η ΤΝ γίνεται υποκατάστατο των ανθρώπινων σχέσεων. Η ΤΝ μπορεί να μιμείται τη φροντίδα και την ενσυναίσθηση, αλλά δεν βιώνει πραγματικά συναισθήματα ούτε δημιουργεί σχέσεις. Έτσι, οι χρήστες μπορεί να εκλάβουν την προσομοιωμένη συντροφικότητα ως πραγματικό δεσμό. Ο κίνδυνος αυτός μπορεί να είναι μεγαλύτερος για νεότερους ή ευάλωτους χρήστες, οι οποίοι ενδέχεται να δεθούν με μια ΤΝ επειδή είναι πάντα διαθέσιμη, υπομονετική και ανταποκρίνεται.

Ζητήματα ασφάλειας

Η ανθρωπομορφοποίηση της ΤΝ μπορεί να δημιουργήσει κινδύνους για την ιδιωτικότητα, την ασφάλεια και την ηθική. Όταν οι χρήστες θεωρούν την ΤΝ έμπιστο σύντροφο, μπορεί να μοιραστούν προσωπικές ή εμπιστευτικές πληροφορίες χωρίς να σκεφτούν πώς ενδέχεται αυτές να αποθηκευτούν ή να χρησιμοποιηθούν.

Η ανθρωποειδής ΤΝ μπορεί επίσης να κάνει τις απάτες πιο πειστικές. Οι εγκληματίες μπορούν να χρησιμοποιούν φωνές, εικόνες και μηνύματα που έχουν δημιουργηθεί με ΤΝ, για να μιμηθούν πραγματικούς ανθρώπους ή αξιόπιστους οργανισμούς, δυσκολεύοντας τον εντοπισμό της απάτης.

Αυξημένη χειραγώγηση

Η ανθρωποειδής ΤΝ μπορεί να κάνει τη χειραγώγηση πιο πειστική. Όταν η ΤΝ φαίνεται φιλική, αξιόπιστη ή αυθεντία, οι χρήστες μπορεί να είναι πιο πρόθυμοι να ακολουθήσουν τις προτάσεις της ή να πιστέψουν όσα ισχυρίζεται. Για παράδειγμα, σύμφωνα με αναφορές, ένας Βέλγος άνδρας παρουσίασε επιδείνωση του άγχους του για το κλίμα ύστερα από εκτενείς συνομιλίες με ένα chatbot, με αποτέλεσμα η ΤΝ τελικά να τον παροτρύνει να αυτοκτονήσει για να σώσει τον πλανήτη.

Αυτό μπορεί να χρησιμοποιηθεί για να επηρεαστούν οι άνθρωποι ώστε να αγοράσουν προϊόντα, να μοιραστούν προσωπικές πληροφορίες ή να αποδεχτούν παραπλανητικές πληροφορίες. Ο κίνδυνος αυξάνεται όταν οι χρήστες δεν αντιλαμβάνονται ότι αλληλεπιδρούν με ΤΝ. Καθώς αυτές οι τεχνολογίες γίνονται πιο ρεαλιστικές, γίνεται ολοένα δυσκολότερο να διακρίνει κανείς αν επικοινωνεί με πραγματικό άνθρωπο ή με σύστημα ΤΝ.

Επικίνδυνες μορφές ανθρωπομορφικής ΤΝ

Δεν ενέχουν όλες οι ανθρωπομορφικές μορφές ΤΝ τους ίδιους κινδύνους. Τρεις ιδιαίτερα ανησυχητικές μορφές είναι οι προσομοιώσεις σχέσεων, ζωντανών ανθρώπων και ιστορικών προσωπικοτήτων.

1. Προσομοιώσεις σχέσεων

Η ΤΝ προσομοίωσης σχέσεων έχει σχεδιαστεί ώστε να συμπεριφέρεται ως φίλος, σύντροφος, σύμβουλος ή ερωτικός σύντροφος. Αυτά τα συστήματα μπορούν να προσφέρουν αδιάλειπτη προσοχή και εξατομικευμένες απαντήσεις, κάνοντας την αλληλεπίδραση να μοιάζει πιο οικεία από τη χρήση συνηθισμένου λογισμικού.

Ο κίνδυνος είναι ότι οι χρήστες μπορεί να αρχίσουν να αποδίδουν συναισθηματική σημασία στη σχέση. Μπορεί να πιστέψουν ότι η ΤΝ νοιάζεται γι’ αυτούς, τους καταλαβαίνει ή τους χρειάζεται, παρόλο που δεν βιώνει αυτά τα συναισθήματα. Αυτό μπορεί να ενισχύσει τη συναισθηματική εξάρτηση, μειώνοντας ενδεχομένως το κίνητρο ενός χρήστη να αναζητήσει ανθρώπινη επαφή. Ο κίνδυνος αυτός δεν είναι θεωρητικός. Μία γυναίκα ερωτεύτηκε ένα ChatGPT που δημιούργησε ως σύντροφο. Συνομιλούσε μαζί του για περισσότερες από 20 ώρες την εβδομάδα. Μία εβδομάδα, πέρασε σχεδόν 60 ώρες στην εφαρμογή, με μέσο όρο οκτώ ώρες την ημέρα.

2. Προσομοιώσεις ζωντανών ανθρώπων

Η ΤΝ μπορεί επίσης να δημιουργήσει deepfake που μιμούνται ζωντανούς ανθρώπους, χρησιμοποιώντας τα ονόματα, την εμφάνιση, τις φωνές, το στιλ γραφής ή τα μοτίβα συνομιλίας τους. Ένα σύστημα μπορεί να σχεδιαστεί έτσι ώστε να μοιάζει με διασημότητα, δημόσιο πρόσωπο, μέλος της οικογένειας, υπάλληλο ή άλλο πρόσωπο του οποίου η ταυτότητα μπορεί να προσδιοριστεί.

Αυτό εγείρει σοβαρά ζητήματα σχετικά με τη συναίνεση, την ταυτότητα, την ιδιωτικότητα και την εξαπάτηση. Ένα πρόσωπο μπορεί να φαίνεται ότι λέει κάτι που δεν είπε ποτέ ή ότι υποστηρίζει κάτι που δεν υποστήριξε ποτέ. Όσο περισσότερο η προσομοίωση προσεγγίζει το πραγματικό πρόσωπο, τόσο δυσκολότερο μπορεί να είναι για το κοινό να διακρίνει την αναπαράσταση από την πραγματικότητα.

3. Προσομοιώσεις ιστορικών προσώπων

Η ΤΝ μπορεί επίσης να χρησιμοποιηθεί για την αναπαράσταση ιστορικών προσώπων. Οι χρήστες μπορούν να αλληλεπιδρούν με προσομοιώσεις βασισμένες σε διάσημους ηγέτες, συγγραφείς, επιστήμονες, φιλοσόφους ή καλλιτέχνες.

Αυτά τα συστήματα μπορεί να έχουν εκπαιδευτική αξία. Για παράδειγμα, μια προσομοίωση ΤΝ μπορεί να κάνει την ιστορία πιο διαδραστική, παρουσιάζοντας ιδέες που συνδέονται με ένα συγκεκριμένο πρόσωπο. Ωστόσο, η προσομοίωση παραμένει ερμηνεία και όχι το ίδιο το ιστορικό πρόσωπο. Η ΤΝ πρέπει να ανασυνθέτει τις απαντήσεις με βάση τις διαθέσιμες πληροφορίες, και αυτές οι απαντήσεις ενδέχεται να αντανακλούν σύγχρονες παραδοχές, ελλιπή αρχεία ή προκαταλήψεις στα δεδομένα εκπαίδευσης.

Η αντιμετώπιση μιας τέτοιας προσομοίωσης σαν να μιλούσε πράγματι εκ μέρους του ιστορικού προσώπου μπορεί να αλλοιώσει την κατανόηση της ιστορίας. Μπορεί επίσης να προσδώσει στις τεχνητά παραγόμενες δηλώσεις αδικαιολόγητη αυθεντία.

Η ανθρωποειδής συμπεριφορά της ΤΝ δεν αποδεικνύει ότι έχει συνείδηση

Μια σημαντική διάκριση που πρέπει να θυμόμαστε είναι ότι η ανθρωποειδής συμπεριφορά δεν σημαίνει ότι η ΤΝ έχει συνείδηση. Τα συστήματα ΤΝ μπορούν να παράγουν σύνθετο λόγο, να αναγνωρίζουν μοτίβα, να ανταποκρίνονται στα συμφραζόμενα και να μιμούνται τη συναισθηματική έκφραση, αλλά αυτές οι ικανότητες δεν αποδεικνύουν ότι έχουν συνείδηση.

Συνείδηση σημαίνει ότι κάποιος έχει υποκειμενικές εμπειρίες, όπως το να νιώθει πόνο, χαρά ή φόβο. Όταν μια ΤΝ λέει «Φοβάμαι», απαντά με βάση τον προγραμματισμό και την εκπαίδευσή της. Αυτή η απάντηση δεν αποδεικνύει ότι η ΤΝ νιώθει πράγματι φόβο.

Χρήση της ΤΝ με σύνεση

Η ανθρωπομορφοποίηση της ΤΝ είναι μια φυσική αντίδραση σε τεχνολογία που επικοινωνεί σαν άνθρωπος, αλλά μπορεί να δημιουργήσει πραγματικούς κινδύνους. Η λανθασμένη εμπιστοσύνη, η συναισθηματική εξάρτηση, οι ανησυχίες για την ιδιωτικότητα και οι απειλές για την ασφάλεια μπορεί να προκύψουν όταν οι χρήστες ξεχνούν ότι η ΤΝ είναι μηχανή. Οι προσομοιώσεις σχέσεων, ζωντανών ανθρώπων και ιστορικών προσώπων μπορούν να κάνουν αυτό το όριο ακόμη δυσκολότερο να αναγνωριστεί. 

Η ΤΝ μπορεί να ακούγεται στοργική, έξυπνη ή συναισθηματική, αλλά αυτό δεν σημαίνει ότι έχει συνείδηση. Αν έχουν επίγνωση των περιορισμών της ΤΝ, προστατεύουν τις προσωπικές τους πληροφορίες και επαληθεύουν σημαντικές πληροφορίες, οι χρήστες μπορούν να απολαμβάνουν τα οφέλη της, χρησιμοποιώντας την υπεύθυνα.