Ηγέτες σκέψης

Εφησυχασμός απέναντι στην αυτοματοποίηση: Πώς να επανεντάξουμε τους ανθρώπους στη διαδικασία

Juliette Powell Art Kleiner
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι ανθρώπινοι χειριστές που παρακολουθούν αυτόνομα συστήματα γίνονται εφησυχαστικοί και…
Δείτε περισσότερα
  • Οι ανθρώπινοι χειριστές που παρακολουθούν αυτόνομα συστήματα γίνονται εφησυχαστικοί και αποτυγχάνουν να αντιδράσουν όταν ο κίνδυνος εμφανιστεί ξαφνικά.
  • Ο εφησυχασμός απέναντι στην αυτοματοποίηση σημαίνει ότι οι άνθρωποι εμπιστεύονται τις μηχανές τόσο βαθιά ώστε σταματούν να προσέχουν τον δρόμο.
  • Η δημιουργική τριβή μέσω ποικίλων εισροών από την κοινότητα πριν από την ανάπτυξη είναι απαραίτητη για την πρόληψη του εφησυχασμού σε μεγάλη κλίμακα απέναντι στην αυτοματοποίηση.

Σε μια δραματική στροφή των γεγονότων, τα Robotaxis, τα αυτόνομα οχήματα που παραλαμβάνουν επιβάτες χωρίς ανθρώπινο χειριστή, κυκλοφόρησαν πρόσφατα στο Σαν Φρανσίσκο. Μετά από μια διαμάχη 7 ωρών σε δημόσια ακρόαση, η απόφαση επεβλήθη από την Επιτροπή Δημοσίων Υπηρεσιών της Καλιφόρνιας. παρότι υπήρχαν διαμαρτυρίες, υπάρχει μια αίσθηση αναπόφευκτου. Η Καλιφόρνια έχει χαλαρώσει σταδιακά τους περιορισμούς από τις αρχές του 2022. Οι νέοι κανόνες επιτρέπουν στις δύο εταιρείες με άδειες – Waymo της Alphabet (GOOG ) και Cruise της GM – να στείλουν αυτά τα ταξί σε οποιοδήποτε σημείο σε όλη την πόλη, εκτός από τους αυτοκινητόδρομους, και να χρεώνουν επιβάτες.

Η ιδέα των αυτόνομων ταξί συχνά προκαλεί δύο αντικρουόμενα συναισθήματα: ενθουσιασμό («ταξί με πολύ χαμηλότερο κόστος!») και φόβο («θα με χτυπήσουν ή τα παιδιά μου;»). Έτσι, οι ρυθμιστές συχνά απαιτούν να δοκιμαστούν τα αυτοκίνητα με επιβάτες που μπορούν να επέμβουν και να ελέγχουν τους χειρισμούς πριν από ένα δυστύχημα. Δυστυχώς, το να έχουμε ανθρώπους σε εγρήγορση, έτοιμους να ανακαταλάβουν τον έλεγχο των συστημάτων σε πραγματικό χρόνο, μπορεί να μην είναι ο καλύτερος τρόπος για να διασφαλιστεί η ασφάλεια.

Στην πραγματικότητα, από τους 18 θανάτους στις Ηνωμένες Πολιτείες που συνδέονται με συγκρούσεις αυτόνομων οχημάτων (μέχρι τον Φεβρουάριο του τρέχοντος έτους), όλα είχαν κάποια μορφή ανθρώπινου ελέγχου, είτε στο αυτοκίνητο είτε από απόσταση. Αυτό περιλαμβάνει ένα από τα πιο διάσημα, το οποίο συνέβη αργά το βράδυ σε έναν ευρύ δρόμο στα προάστια του Tempe, στην Αριζόνα, το 2018. Ένα αυτόνομο δοκιμαστικό όχημα της Uber σκότωσε μια 49χρονη γυναίκα ονόματι Elaine Herzberg, η οποία περπατούσε σπρώχνοντας το ποδήλατό της για να διασχίσει τον δρόμο. Η χειρίστρια στη θέση του οδηγού έβλεπε κάτω, και έστρεψε ξανά το βλέμμα της προς τον δρόμο περίπου ένα δευτερόλεπτο πριν από την πρόσκρουση. Άρχισε να στρίβει το τιμόνι πολύ αργά. Το δυστύχημα οδήγησε την Uber να αναστείλει τις δοκιμές των αυτόνομων οχημάτων. Τελικά, πούλησε το τμήμα των αυτόνομων οχημάτων, το οποίο ήταν ένα βασικό μέρος της επιχειρηματικής στρατηγικής της.

Η χειρίστρια δήλωσε ένοχη για έκθεση σε κίνδυνο και καταδικάστηκε σε τρία χρόνια επιτήρησης, όχι σε φυλάκιση. Το περιστατικό αναδεικνύει τον εφησυχασμό απέναντι στην αυτοματοποίηση, ένα φαινόμενο που είχε εντοπιστεί ήδη στα πρώτα χρόνια της εκπαίδευσης πιλότων. Η υπερβολική εμπιστοσύνη είναι μια συχνή δυναμική με τα συστήματα AI. Όσο πιο αυτόνομα είναι το σύστημα, τόσο περισσότερο οι ανθρώπινοι χειριστές τείνουν να το εμπιστεύονται και να μην δίνουν πλήρη προσοχή. Βαριόμαστε παρακολουθώντας αυτές τις τεχνολογίες. Όταν επίκειται πράγματι ένα δυστύχημα, δεν το περιμένουμε και δεν αντιδράμε εγκαίρως.

Οι άνθρωποι είναι φυσικά ικανοί σε αυτό που ο ειδικός κινδύνων Ron Dembo αποκαλεί «σκέψη με επίγνωση του κινδύνου» – έναν τρόπο σκέψης που ακόμη και τα πιο εξελιγμένα συστήματα μηχανικής μάθησης δεν μπορούν να μιμηθούν. Αυτό είναι η ικανότητα να αναγνωρίσουμε, όταν η απάντηση δεν είναι προφανής, ότι πρέπει να επιβραδύνουμε ή να σταματήσουμε. Η σκέψη κινδύνου είναι κρίσιμη για τα αυτόνομα συστήματα, και αυτό δημιουργεί ένα δίλημμα. Οι άνθρωποι θέλουν να είναι στη διαδικασία, αλλά να τους βάλουμε στον έλεγχο όταν επαναπαύονται τόσο πολύ στα αυτόνομα συστήματα, μπορεί να κάνει τα πράγματα χειρότερα.

Πώς, λοιπόν, μπορούν οι προγραμματιστές των αυτόνομων συστημάτων να λύσουν αυτό το δίλημμα, ώστε τα πειράματα όπως αυτό που διεξάγεται στο Σαν Φρανσίσκο να τελειώσουν θετικά; Η απάντηση είναι η πρόσθετη προσοχή όχι μόνο πριν από τη στιγμή της πρόσκρουσης, αλλά και στις πρώτες φάσεις του σχεδιασμού και της ανάπτυξης. Όλα τα συστήματα AI εμπεριέχουν κινδύνους όταν αφήνονται ανεξέλεγκτα. Τα αυτόνομα αυτοκίνητα δεν θα είναι ελεύθερα από κίνδυνο, ακόμη και αν αποδειχθούν ασφαλέστερα, κατά μέσο όρο, από τα ανθρώπινα οδηγούμενα αυτοκίνητα.

Το δυστύχημα της Uber δείχνει τι συμβαίνει όταν δεν εξετάζουμε συνειδητά τους κινδύνους. Για να το κάνουμε αυτό, χρειαζόμαστε δημιουργική τριβή: να συμπεριλάβουμε πολλές ανθρώπινες οπτικές πολύ πριν από την κυκλοφορία αυτών των συστημάτων. Με άλλα λόγια, το να εξετάζουμε τις επιπτώσεις των συστημάτων AI και όχι μόνο τις εφαρμογές τους απαιτεί την οπτική των κοινοτήτων που θα επηρεαστούν άμεσα από την τεχνολογία.

Η Waymo και η Cruise έχουν και οι δύο υπερασπιστεί το ρεκόρ ασφάλειας των οχημάτων τους, με βάση την στατιστική πιθανότητα. Παρόλα αυτά, αυτή η απόφαση μετατρέπει το Σαν Φρανσίσκο σε ένα ζωντανό πείραμα. Όταν τα αποτελέσματα θα έχουν συναθροιστεί, θα είναι πολύ σημαντικό να καταγραφούν τα σωστά δεδομένα, να μοιραστούν οι επιτυχίες και οι αποτυχίες, και να επιτρέψουν στις επηρεαζόμενες κοινότητες να συμμετάσχουν μαζί με τους ειδικούς, τους πολιτικούς και τους επιχειρηματίες. Με άλλα λόγια, να διατηρήσουμε όλους τους ανθρώπους στη διαδικασία. Αλλιώς, κινδυνεύουμε με τον εφησυχασμό απέναντι στην αυτοματοποίηση – την προθυμία να αναθέσουμε την λήψη αποφάσεων στα συστήματα AI – σε πολύ μεγάλη κλίμακα.

Η Juliette Powell και ο Art Kleiner είναι συν-συγγραφείς του νέου βιβλίου Το Δίλημμα της AI: 7 Αρχές για Υπεύθυνη Τεχνολογία.

Η Juliette Powell είναι συγγραφέας, δημιουργός τηλεοπτικών εκπομπών με 9.000 ζωντανές εκπομπές στο ενεργητικό της, καθώς και τεχνολόγος και κοινωνιολόγος. Είναι επίσης σχολιάστρια στο Bloomberg TV/Business News Networks και ομιλήτρια σε συνέδρια που διοργανώνονται από το The Economist και τον Διεθνή Οργανισμό Χρηματοδότησης. Η ομιλία της στο TED έχει 130.000 προβολές στο YouTube.

Ο Art Kleiner είναι συγγραφέας, συντάκτης και μελλοντολόγος. Στα βιβλία του περιλαμβάνονται τα The Age of Heretics, Who Really Matters, Privilege and Success και The Wise. Ήταν συντάκτης του strategy+business, του βραβευμένου περιοδικού που εκδίδει η PwC.