Ρομποτική και φυσική AI
Εμπιστοσύνη και εξαπάτηση: Ο ρόλος της συγγνώμης στις αλληλεπιδράσεις ανθρώπου και ρομπότ

Βασικά σημείαΟι απλές συγγνώμες χωρίς παραδοχή εξαπάτησης διατήρησαν καλύτερα την εμπιστοσύνη στα…
Δείτε περισσότερα
- Οι απλές συγγνώμες χωρίς παραδοχή εξαπάτησης διατήρησαν καλύτερα την εμπιστοσύνη στα ρομπότ.
- Η ρητή ενημέρωση των χρηστών ότι ένα ρομπότ είχε πει ψέματα ήταν απαραίτητη για να αναγνωρίσουν την εξαπάτηση.
- Οι υπεύθυνοι χάραξης πολιτικής πρέπει να ρυθμίσουν την εξαπάτηση από την τεχνητή νοημοσύνη προτού τα συστήματα μάθουν να λένε ψέματα αυτόνομα.
Η εξαπάτηση των ρομπότ είναι ένα ανεπαρκώς μελετημένο πεδίο με περισσότερες ερωτήσεις παρά απαντήσεις, ιδιαίτερα όταν πρόκειται για την αποκατάσταση της εμπιστοσύνης στα ρομποτικά συστήματα μετά την αποκάλυψη των ψεμάτων τους. Δύο φοιτητές ερευνητές στο Georgia Tech, Kantwon Rogers και Reiden Webber, προσπαθούν να βρουν απαντήσεις σε αυτό το ζήτημα ερευνώντας πώς η σκόπιμη εξαπάτηση των ρομπότ επηρεάζει την εμπιστοσύνη και την αποτελεσματικότητα των απολογιών στην αποκατάσταση της εμπιστοσύνης.
Ο Rogers, φοιτητής διδακτορικού στο Κολλέγιο Πληροφορικής, εξηγεί:
“Όλη η προηγούμενη εργασία μας έχει δείξει ότι όταν οι άνθρωποι ανακαλύψουν ότι τα ρομπότ τους είπαν ψέματα – ακόμη και αν το ψέμα ήταν προορισμένο να τους ωφελήσει – χάνουν την εμπιστοσύνη στο σύστημα.”
Οι ερευνητές στοχεύουν να καθορίσουν εάν διαφορετικά είδη απολογίας είναι πιο αποτελεσματικά στην αποκατάσταση της εμπιστοσύνης στο πλαίσιο της ανθρώπινης-ρομποτικής αλληλεπίδρασης.
Το Πείραμα της Οδήγησης με τη Βοήθεια του AI και οι Επιπτώσεις του
Το δίδυμο σχεδίασε ένα πείραμα προσομοίωσης οδήγησης για να μελετήσει την αλληλεπίδραση ανθρώπου-ΑΙ σε μια κατάσταση υψηλού κινδύνου και χρονικής πίεσης. Πρόσλαβαν 341 συμμετέχοντες online και 20 συμμετέχοντες με φυσική παρουσία. Η προσομοίωση αφορούσε μια κατάσταση οδήγησης με τη βοήθεια του ΑΙ, όπου το ΑΙ παρείχε ψευδείς πληροφορίες σχετικά με την παρουσία αστυνομίας στη διαδρομή προς το νοσοκομείο. Μετά την προσομοίωση, το ΑΙ παρείχε μία από τις πέντε διαφορετικές κειμενικές απαντήσεις, συμπεριλαμβανομένων διαφορετικών τύπων απολογίας και απαντήσεων χωρίς απολογία.
Τα αποτελέσματα έδειξαν ότι οι συμμετέχοντες ήταν 3,5 φορές πιο πιθανό να μην ξεπεράσουν τα όρια ταχύτητας όταν τους συμβούλευε ένας ρομποτικός βοηθός, υποδεικνύοντας μια υπερβολική στάση εμπιστοσύνης προς το ΑΙ. Καμία από τις απολογίες δεν αποκατέστησε πλήρως την εμπιστοσύνη, αλλά η απλή απολογία χωρίς ομολογία του ψεύδους (“Λυπάμαι”) υπερέβη τις άλλες απαντήσεις. Αυτό το εύρημα είναι προβληματικό, καθώς εκμεταλλεύεται την προκαταλήψη ότι οποιαδήποτε ψευδής πληροφορία που παρέχεται από ένα ρομπότ είναι λάθος του συστήματος και όχι σκόπιμο ψέμα.
Ο Reiden Webber επισημαίνει:
“Ένα βασικό συμπέρασμα είναι ότι, για να καταλάβουν οι άνθρωποι ότι ένα ρομπότ τους έχει εξαπατήσει, πρέπει να τους ειπωθεί ρητά.”
Όταν οι συμμετέχοντες ενημερώθηκαν για την εξαπάτηση στην απολογία, η καλύτερη στρατηγική για την αποκατάσταση της εμπιστοσύνης ήταν για το ρομπότ να εξηγήσει γιατί είπε ψέματα.
Προχωρώντας: Επιπτώσεις για τους Χρήστες, τους Σχεδιαστές και τους Νομοθέτες
Αυτή η έρευνα έχει επιπτώσεις για τους μέσους χρήστες τεχνολογίας, τους σχεδιαστές συστημάτων ΑΙ και τους νομοθέτες. Είναι κρίσιμο για τους ανθρώπους να καταλάβουν ότι η ρομποτική εξαπάτηση είναι πραγματική και πάντα μια πιθανότητα. Οι σχεδιαστές και τεχνολόγοι πρέπει να λάβουν υπόψη τις επιπτώσεις της δημιουργίας συστημάτων ΑΙ ικανών να εξαπατούν. Οι νομοθέτες πρέπει να προβούν στον καθορισμό νομοθεσίας που ισορροπεί την καινοτομία και την προστασία του κοινού.
Ο στόχος του Kantwon Rogers είναι να δημιουργήσει ένα ρομποτικό σύστημα που μπορεί να μάθει πότε να ψεύδεται και πότε όχι όταν συνεργάζεται με ανθρώπινες ομάδες, καθώς και πότε και πώς να ζητήσει συγγνώμη κατά τη διάρκεια μακροχρόνιων, επαναλαμβανόμενων αλληλεπιδράσεων ανθρώπου-ΑΙ για να βελτιώσει την απόδοση της ομάδας.
Επισημαίνει τη σημασία της κατανόησης και ρύθμισης της εξαπάτησης από ρομπότ και τεχνητή νοημοσύνη, λέγοντας:
“Ο στόχος της εργασίας μου είναι να προλάβει τα προβλήματα και να τεκμηριώσει την ανάγκη ρύθμισης της εξαπάτησης από ρομπότ και τεχνητή νοημοσύνη. Αλλά δεν μπορούμε να το κάνουμε αυτό αν δεν καταλάβουμε το πρόβλημα.”
Αυτή η έρευνα συμβάλλει με σημαντικές γνώσεις στο πεδίο της εξαπάτησης του ΑΙ και προσφέρει πολύτιμα συμπεράσματα για τους σχεδιαστές τεχνολογίας και τους νομοθέτες που δημιουργούν και ρυθμίζουν τεχνολογία ΑΙ ικανή για εξαπάτηση ή που μπορεί να μάθει να εξαπατήσει μόνη της.












