Νέα έρευνα φωτίζει την εμπιστοσύνη ανθρώπων-ρομπότ

Μια νέα έρευνα, υπό την ηγεσία του Εργαστηρίου Έρευνας του Στρατού των Ηνωμένων Πολιτειών, μαζί με το Ινστιτούτο Προσομοιώσεων και Εκπαίδευσης του Πανεπιστημίου της Κεντρικής Φλόριντας, φωτίζει το επίπεδο εμπιστοσύνης που έχουν οι άνθρωποι στους ρομπότ. Το νέο έργο επικεντρώθηκε στη σχέση μεταξύ ανθρώπων και ρομπότ και αν οι άνθρωποι δίνουν περισσότερη αξία στο λόγο ή στα λάθη του ρομπότ.

Η νέα έρευνα εξέτασε την ομαδική συνεργασία ανθρώπων-πρακτόρων, ή HAT, και πώς η εμπιστοσύνη, η εργασιακή φόρτιση και οι αντιλήψεις των ανθρώπων για τους πρακτόρες, όπως τα ρομπότ, τα ακατοίκητα οχήματα και τους λογισμικούς πρακτόρες, επηρεάζονται από τη διαφάνεια των πρακτόρων. Η διαφάνεια των πρακτόρων είναι όταν ένας άνθρωπος μπορεί να αναγνωρίσει την πρόθεση, τη διαδικασία σκέψης και τους μελλοντικούς σχεδιασμούς των πρακτόρων.

Η νέα έρευνα δείχνει ότι η εμπιστοσύνη των ανθρώπων στα ρομπότ μειώνεται κάθε φορά που το ρομπότ κάνει ένα λάθος. Αυτό ισχύει ανεξάρτητα από το αν το ρομπότ έχει είναι διαφανές με τη διαδικασία σκέψης του.

Η νέα έρευνα δημοσιεύθηκε στο τεύχος Αυγούστου του IEEE-Transactions on Human-Machine Systems. Το έγγραφο είχε τον τίτλο «Διαφάνεια και αξιοπιστία των πρακτόρων στη συνεργασία ανθρώπων-ρομπότ: Η επίδραση στην εμπιστοσύνη και την αντίληψη της αξιοπιστίας».

Η παραδοσιακή έρευνα σχετικά με την ομαδική συνεργασία ανθρώπων-πρακτόρων χρησιμοποιεί πλήρως αξιόπιστους πρακτόρες που δεν κάνουν λάθη. Ωστόσο, αυτή η νέα μελέτη ήταν μια από τις λίγες που εξέτασαν πώς η διαφάνεια των πρακτόρων αλληλεπιδρά με την αξιοπιστία των πρακτόρων. Η μελέτη περιελάμβανε ένα ρομπότ που έκανε λάθη ενώ οι άνθρωποι το παρακολουθούσαν και τους ζητήθηκε να αξιολογήσουν αν το ρομπότ ήταν λιγότερο αξιόπιστο. Κατά τη διάρκεια της διαδικασίας, οι άνθρωποι είχαν εποπτική θέα στη διαδικασία σκέψης του ρομπότ.

Η Δρ. Τζούλια Ράιτ είναι η κύρια ερευνήτρια του έργου και είναι ερευνήτρια στο Εργαστήριο Έρευνας του Στρατού των Ηνωμένων Πολιτειών, ή ARL.

«Η κατανόηση του πώς η συμπεριφορά του ρομπότ επηρεάζει τους ανθρώπινους συναδέλφους του είναι κρίσιμη για την ανάπτυξη αποτελεσματικών ομαδικών συνεργασιών ανθρώπων-ρομπότ, καθώς και για τον σχεδιασμό διεπαφών και μεθόδων επικοινωνίας μεταξύ μελών της ομάδας», είπε. «Αυτή η έρευνα συμβάλλει στις προσπάθειες του Στρατού για τις Πολυμεταβλητές Επιχειρήσεις, για να διασφαλιστεί η υπεροχή στις ικανότητες του τεχνητού νοού, αλλά είναι επίσης διεπιστημονική, καθώς τα ευρήματά της θα ενημερώσουν το έργο των ψυχολόγων, ρομποτικών, μηχανικών και σχεδιαστών συστημάτων που εργάζονται για την διευκόλυνση καλύτερης κατανόησης μεταξύ ανθρώπων και αυτόνομων πρακτόρων, με στόχο να κάνουν τους αυτόνομους συναδέλφους και όχι απλά εργαλεία».

Αυτό το νέο έργο ήταν μέρος ενός μεγαλύτερου έργου γνωστού ως Αυτόνομος Μέλος Ομάδας (ASM) που χρηματοδοτείται από την Πρωτοβουλία Έρευνας Αυτονομίας του Γραφείου του Υπουργού Άμυνας. Το ASM είναι ένα πραγματικό μικρό ρομπότ εδάφους που χρησιμοποιείται σε μια ομάδα πεζικού. Μπορεί να επικοινωνήσει και να αλληλεπιδρά με την ομάδα.

Η μελέτη περιελάμβανε συμμετέχοντες που παρακολουθούσαν ομάδες ανθρώπων-πρακτόρων σε ένα προσομοιωμένο περιβάλλον. Το ASM ήταν μέρος της ομάδας και κινούνταν μέσα από einen διαδρομή εκπαίδευσης. Η εργασία για τους παρατηρητές ήταν να παρακολουθήσουν την ομάδα και να αξιολογήσουν το ρομπότ. Κατά τη διάρκεια της διαδρομής εκπαίδευσης, η ομάδα παρουσιάστηκε με διάφορες διαφορετικές εκδηλώσεις και εμπόδια. Οι στρατιώτες μπόρεσαν να διαπεράσουν κάθε ένα σωστά, αλλά υπήρχαν φορές που το ρομπότ δεν μπορούσε να κατανοήσει το εμπόδιο και έκανε λάθη. Το ρομπότ μερικές φορές μοιράστηκε τη λογική του πίσω από ορισμένες ενέργειες, καθώς και το αναμενόμενο αποτέλεσμα.

Η μελέτη βρήκε ότι οι συμμετέχοντες ήταν πιο ενδιαφερόμενοι για τα λάθη του ρομπότ σε σχέση με τη λογική και τη σκέψη που stál πίσω τους. Η αξιοπιστία του ρομπότ έπαιξε σημαντικό ρόλο στην αξιολόγηση της εμπιστοσύνης και των αντιλήψεων των συμμετεχόντων. Όταν το ρομπότ έκανε ένα λάθος, οι παρατηρητές αξιολόγησαν την αξιοπιστία του χαμηλότερα.

Η αξιοπιστία και η εμπιστοσύνη αυξήθηκαν όταν η διαφάνεια του πρακτόρα αυξήθηκε, ή όταν το ρομπότ μοιράστηκε λεπτομέρειες και τη λογική πίσω από τις αποφάσεις του. Ωστόσο, η αξιοπιστία και η εμπιστοσύνη ήταν ακόμη χαμηλότερες από τα ρομπότ που δεν υπέφεραν από σφάλμα. Αυτό υποδηλώνει ότι η μοιρασία της λογικής και της σκέψης μπορεί να βοηθήσει με κάποια από τα ζητήματα εμπιστοσύνης και αξιοπιστίας που περιβάλλουν τα ρομπότ.

«Προηγούμενες μελέτες δείχνουν ότι ο контекstas έχει σημασία για την καθορισμό της χρησιμότητας των πληροφοριών διαφάνειας», είπε η Ράιτ. «Πρέπει να κατανοήσουμε καλύτερα ποιες εργασίες απαιτούν πιο sâuστόχαστη κατανόηση της λογικής του πρακτόρα και πώς να διακρίνουμε τι αυτή η βάθος θα περιελάμβανε. Η μελλοντική έρευνα πρέπει να εξερευνήσει τρόπους για την παροχή πληροφοριών διαφάνειας με βάση τις απαιτήσεις των εργασιών».

Αυτή η νέα έρευνα θα παίξει κρίσιμο ρόλο στο πεδίο λόγω της αυξανόμενης αλληλεπίδρασης που λαμβάνει χώρα μεταξύ ανθρώπων και ρομπότ. Ένας από τους τομείς που θα είναι πιο σημαντικός είναι ο στρατός. Όπως φαίνεται σε αυτές τις ασκήσεις, τα ρομπότ και οι στρατιώτες θα είναι τελικά πλάι-πλάι. Όπως ένας στρατιώτης πρέπει να έχει εμπιστοσύνη σε έναν άλλο στρατιώτη, το ίδιο θα ισχύσει και για τα ρομπότ. Αν αυτό είναι δυνατό και τα ρομπότ γίνουν συνηθισμένα σε ομάδες πεζικού, θα είναι μια άλλη περίπτωση της διείσδυσης του τεχνητού νοού στην αμυντική βιομηχανία.