Αυτοματοποίηση Αδιαφορίας: Πώς να Επανεντάξουμε τους Ανθρώπους στη Διαδικασία

Σε μια δραματική στροφή των γεγονότων, τα Robotaxis, τα αυτονομικά οχήματα που παραλαμβάνουν επιβάτες χωρίς ανθρώπινο χειριστή, κυκλοφόρησαν πρόσφατα στο Σαν Φρανσίσκο. Μετά από μια διαμάχη 7 ωρών σε δημόσια ακρόαση, η απόφαση επεβλήθη από την Επιτροπή Δημοσίων Υπηρεσιών της Καλιφόρνιας.尽管 υπήρχαν διαμαρτυρίες, υπάρχει μια αίσθηση αναπόφευκτου. Η Καλιφόρνια έχει χαλαρώσει σταδιακά τους περιορισμούς από τις αρχές του 2022. Οι νέες κανόνες επιτρέπουν στις δύο εταιρείες με άδειες – Waymo της Alphabet και Cruise της GM – να στείλουν αυτά τα ταξί σε οποιοδήποτε σημείο εντός της 7-τετραγωνικών-μιλίων πόλης, εκτός από τις αυτοκινητοβορές, και να χρεώνουν επιβάτες.

Η ιδέα των αυτονομικών ταξί συχνά προκαλεί δύο αντικρουόμενες συναισθήσεις: ενθουσιασμό («ταξί με πολύ χαμηλότερο κόστος!») και φόβο («θα με χτυπήσουν ή τα παιδιά μου;»). Έτσι, οι ρυθμιστές συχνά απαιτούν να δοκιμαστούν τα αυτοκίνητα με επιβάτες που μπορούν να επέμβουν και να ελέγχουν τους χειρισμούς πριν από einen δυστύχημα. Δυστυχώς, το να έχουμε ανθρώπους σε εγρήγορση, έτοιμους να ανακαταλάβουν τον έλεγχο των συστημάτων σε πραγματικό χρόνο, μπορεί να μην είναι ο καλύτερος τρόπος για να διασφαλιστεί η ασφάλεια.

Στην πραγματικότητα, από τα 18 θάνατα στις Ηνωμένες Πολιτείες που συνδέονται με συντριμμές αυτονομικών οχημάτων (μέχρι τον Φεβρουάριο του τρέχοντος έτους), όλα είχαν κάποια μορφή ανθρώπινου ελέγχου, είτε στο αυτοκίνητο είτε από απόσταση. Αυτό περιλαμβάνει ένα από τα πιο διάσημα, το οποίο συνέβη αργά το βράδυ σε einen ευρύ δρόμο στα προάστια του Tempe, στην Αριζόνα, το 2018. Ένα αυτονομικό δοκιμαστικό όχημα της Uber σκότωσε μια 49χρονη γυναίκα named Elaine Herzberg, η οποία τρέχοντας με το ποδήλατό της για να διασχίσει τον δρόμο. Ο ανθρώπινος χειριστής στο επιβατικό κάθισμα έβλεπε κάτω, και το αυτοκίνητο δεν τον προειδοποίησε μέχρι λιγότερο από ένα δευτερόλεπτο πριν από την πρόσκρουση. Πήρε το τιμόνι πολύ αργά. Το δυστύχημα οδήγησε την Uber να σταματήσει τον έλεγχο των αυτονομικών οχημάτων. Τελικά, πούλησε το τμήμα των αυτονομικών οχημάτων, το οποίο ήταν ένα βασικό μέρος της επιχειρηματικής στρατηγικής της.

Ο χειριστής τελικά βρέθηκε στη φυλακή λόγω της αδιαφορίας της αυτοματοποίησης, ενός φαινομένου που ανακαλύφθηκε για πρώτη φορά στις πρώτες μέρες της πτητικής εκπαίδευσης. Η υπερβολική εμπιστοσύνη είναι μια συχνή δυναμική με τα συστήματα AI. Όσο πιο αυτονομικά είναι το σύστημα, τόσο περισσότερο οι ανθρώπινοι χειριστές τείνουν να το εμπιστεύονται και να μην δίνουν πλήρη προσοχή. Γινόμαστε βαρετοί παρακολουθώντας αυτές τις τεχνολογίες. Όταν ένα δυστύχημα είναι πραγματικά πρόκειται να συμβεί, δεν το περιμένουμε και δεν αντιδράμε εγκαίρως.

Οι άνθρωποι είναι φυσικά ικανοί στο λεγόμενο «σκέψη κινδύνου» – έναν τρόπο σκέψης που ακόμη και τα πιο εξελιγμένα συστήματα μηχανικής μάθησης δεν μπορούν να μιμηθούν. Αυτό είναι η ικανότητα να αναγνωρίσουμε, όταν η απάντηση δεν είναι προφανής, ότι πρέπει να επιβραδύνουμε ή να σταματήσουμε. Η σκέψη κινδύνου είναι κρίσιμη για τα αυτονομικά συστήματα, και αυτό δημιουργεί ένα δίλημμα. Οι άνθρωποι θέλουν να είναι στη διαδικασία, αλλά να τους βάλουμε στον έλεγχο όταν βασίζονται τόσο αδιαφορικά στα αυτονομικά συστήματα, μπορεί να κάνει τα πράγματα χειρότερα.

Πώς, λοιπόν, μπορούν οι dévelopπεροι των αυτονομικών συστημάτων να λύσουν αυτό το δίλημμα, ώστε τα πειράματα όπως αυτό που διεξάγεται στο Σαν Φρανσίσκο να τελειώσουν θετικά; Η απάντηση είναι η πρόσθετη προσοχή όχι μόνο πριν από τη στιγμή της πρόσκρουσης, αλλά και στις πρώτες φάσεις του σχεδιασμού και της ανάπτυξης. Όλα τα συστήματα AI εμπεριέχουν κινδύνους όταν αφήνονται ανεξέλεγκτα. Τα αυτονομικά αυτοκίνητα δεν θα είναι ελεύθερα από κίνδυνο, ακόμη και αν αποδειχθούν ασφαλέστερα, κατά μέσο όρο, από τα ανθρώπινα οδηγούμενα αυτοκίνητα.

Το δυστύχημα της Uber δείχνει τι συμβαίνει όταν δεν σκεφτόμαστε με προθέσεις. Για να το κάνουμε αυτό, χρειαζόμαστε δημιουργική τριβή: να φέρουμε πολλές ανθρώπινες προοπτικές σε λειτουργία πολύ πριν από την κυκλοφορία αυτών των συστημάτων. Με άλλα λόγια, να σκεφτόμαστε τις επιπτώσεις των συστημάτων AI αντί για τις εφαρμογές απαιτεί την προοπτική των κοινοτήτων που θα επηρεαστούν άμεσα από την τεχνολογία.

Η Waymo και η Cruise έχουν και οι δύο υπερασπιστεί το ρεκόρ ασφάλειας των οχημάτων τους, με βάση την στατιστική πιθανότητα. Παρόλα αυτά, αυτή η απόφαση μετατρέπει το Σαν Φρανσίσκο σε ένα ζωντανό πείραμα. Όταν τα αποτελέσματα θα έχουν συναθροιστεί, θα είναι πολύ σημαντικό να καταγραφούν τα σωστά δεδομένα, να μοιραστούν οι επιτυχίες και οι αποτυχίες, και να επιτρέψουν στις επηρεαζόμενες κοινότητες να συμμετάσχουν μαζί με τους ειδικούς, τους πολιτικούς και τους επιχειρηματίες. Με άλλα λόγια, να διατηρήσουμε όλους τους ανθρώπους στη διαδικασία. Αλλιώς, κινδυνεύουμε με την αδιαφορία της αυτοματοποίησης – την意愿 να αναθέσουμε την λήψη αποφάσεων στα συστήματα AI – σε πολύ μεγάλη κλίμακα.

Η Juliette Powell και ο Art Kleiner είναι συν-συγγραφείς του νέου βιβλίου Το Δίλημμα της AI: 7 Αρχές για Ευθύνη Τεχνολογία.