Αυτοματισμός Απαθής: Πώς να Ξαναβάλουμε τους Ανθρώπους στη Διαδικασία

Σε μια δραματική στροφή των γεγονότων, τα Robotaxis, αυτονομικά οχήματα που παραλαμβάνουν επιβάτες χωρίς ανθρώπινο χειριστή, κυκλοφόρησαν πρόσφατα στο Σαν Φρανσίσκο. Μετά από μια δια kontroλεστική 7ωρη δημόσια ακρόαση, η απόφαση επικυρώθηκε από την Επιτροπή Δημοσίων Υπηρεσιών της Καλιφόρνιας.尽管 τις διαμαρτυρίες, υπάρχει μια αίσθηση αναπόφευκτου στο αέρα. Η Καλιφόρνια έχει χαλαρώσει σταδιακά τους περιορισμούς από τις αρχές του 2022. Οι νέες κανόνες επιτρέπουν στις δύο εταιρείες με άδειες – Waymo της Alphabet και Cruise της GM – να στείλουν αυτά τα ταξί οπουδήποτε μέσα στην 7-τετράγωνη-μίλια πόλη εκτός των αυτοκινητοδρόμων και να χρεώνουν τους επιβάτες. Η ιδέα των αυτονομικών ταξί συνήθως προκαλεί δύο αντικρουόμενες συναισθήματα: Ενθουσιασμό («ταξί με πολύ χαμηλότερο κόστος!») και φόβο («θα με χτυπήσουν ή τα παιδιά μου;»). Έτσι, οι ρυθμιστές συχνά απαιτούν ότι τα αυτοκίνητα να δοκιμαστούν με επιβάτες που μπορούν να παρέμβουν και να διαχειριστούν τους ελέγχους πριν από ένα ατύχημα. Δυστυχώς, το να έχουμε ανθρώπους σε εγρήγορση, έτοιμους να ανακαταλάβουν τους ελέγχους σε πραγματικό χρόνο, μπορεί να μην είναι ο καλύτερος τρόπος για να διασφαλιστεί η ασφάλεια. Στην πραγματικότητα, από τους 18 θανάτους στις Ηνωμένες Πολιτείες που σχετίζονται με ατυχήματα αυτονομικών αυτοκινήτων (μέχρι τον Φεβρουάριο του τρέχοντος έτους), όλοι είχαν κάποια μορφή ανθρώπινου ελέγχου, είτε στο αυτοκίνητο είτε από απόσταση. Αυτό περιλαμβάνει ένα από τα πιο διάσημα, που συνέβη αργά το βράδυ σε einen ευρύ suburβανικό δρόμο στο Tempe, Arizona, το 2018. Ένα αυτονομικό δοκιμαστικό όχημα της Uber σκότωσε μια 49χρονη γυναίκα με το όνομα Elaine Herzberg, η οποία τρέχοντας με το ποδήλατό της για να διασχίσει το δρόμο. Ο ανθρώπινος χειριστής στο επιβατικό κάθισμα κοίταζε κάτω, και το αυτοκίνητο δεν τον προειδοποίησε μέχρι λιγότερο από ένα δευτερόλεπτο πριν από την πρόσκρουση. Πήρε το τιμόνι πολύ αργά. Το ατύχημα οδήγησε την Uber να αναστείλει τον δοκιμασμό των αυτονομικών αυτοκινήτων. Τελικά, πούλησε το τμήμα των αυτονομικών οχημάτων, το οποίο ήταν ένα κρίσιμο μέρος της επιχειρηματικής στρατηγικής της. Ο χειριστής τελικά βρέθηκε στη φυλακή λόγω αυτοματισμού απαθούς, ένα φαινόμενο που ανακαλύφθηκε για πρώτη φορά στις πρώτες μέρες της εκπαίδευσης πιλότων. Η υπερβολική εμπιστοσύνη είναι μια συχνή δυναμική με τα συστήματα AI. Όσο πιο αυτονομικά είναι το σύστημα, τόσο περισσότερο οι ανθρώπινοι χειριστές τείνουν να το εμπιστεύονται και να μην προσφέρουν πλήρη προσοχή. Γινόμαστε βαρετοί παρακολουθώντας αυτές τις τεχνολογίες. Όταν ένα ατύχημα είναι πραγματικά κοντά να συμβεί, δεν το περιμένουμε και δεν αντιδράμε εγκαίρως. Οι άνθρωποι είναι φυσικοί στο τι ο Ron Dembo ονομάζει «σκέψη κινδύνου» – ένας τρόπος σκέψης που ακόμη και τα πιο εξελιγμένα συστήματα машинικής μάθησης δεν μπορούν να μιμηθούν. Αυτή είναι η ικανότητα να αναγνωρίσουμε, όταν η απάντηση δεν είναι προφανής, ότι πρέπει να επιβραδύνουμε ή να σταματήσουμε. Η σκέψη κινδύνου είναι κρίσιμη για τα αυτοματοποιημένα συστήματα, και αυτό δημιουργεί ένα δίλημμα. Οι άνθρωποι θέλουν να είναι στη διαδικασία, αλλά το να τους βάλουμε σε έλεγχο όταν βασίζουμε τόσο απαθώς στις αυτοματοποιημένες τεχνολογίες, μπορεί να κάνει τα πράγματα χειρότερα. Πώς, τότε, μπορούν οι dévelopπεροι των αυτοματοποιημένων συστημάτων να λύσουν αυτό το δίλημμα, ώστε τα πειράματα όπως αυτό που diễnίζεται στο Σαν Φρανσίσκο να τελειώσουν θετικά; Η απάντηση είναι η πρόσθετη επιμέλεια όχι μόνο πριν από τη στιγμή της πρόσκρουσης, αλλά και στις πρώτες стадίες σχεδιασμού και ανάπτυξης. Όλα τα συστήματα AI εμπεριέχουν κινδύνους όταν αφήνονται ανεξέλεγκτα. Τα αυτονομικά αυτοκίνητα δεν θα είναι απαλλαγμένα από κινδύνους, ακόμη και αν αποδειχθούν ασφαλέστερα, κατά μέσο όρο, από τα ανθρώπινα οδηγούμενα αυτοκίνητα. Το ατύχημα της Uber δείχνει τι συμβαίνει όταν δεν σκεφτόμαστε με προθέσεις. Για να το κάνουμε αυτό, χρειαζόμαστε δημιουργική τριβή: να φέρουμε πολλές ανθρώπινες προοπτικές σε παιχνίδι πολύ πριν από την κυκλοφορία αυτών των συστημάτων. Με άλλα λόγια, να σκεφτόμαστε τις επιπτώσεις των συστημάτων AI αντί για τις εφαρμογές απαιτεί την προοπτική των κοινοτήτων που θα επηρεαστούν άμεσα από την τεχνολογία. Η Waymo και η Cruise έχουν και οι δύο υπερασπιστεί το ρεκόρ ασφάλειας των οχημάτων τους, με το επιχείρημα της στατιστικής πιθανότητας. Παρόλα αυτά, η απόφαση αυτή μετατρέπει το Σαν Φρανσίσκο σε ένα ζωντανό πείραμα. Όταν τα αποτελέσματα θα καταμετρηθούν, θα είναι πολύ σημαντικό να συλλεχθούν τα σωστά δεδομένα, να μοιραστούν οι επιτυχίες και οι αποτυχίες, και να αφήσουν τις επηρεαζόμενες κοινότητες να συμμετάσχουν μαζί με τους ειδικούς, τους πολιτικούς και τους επιχειρηματίες. Με άλλα λόγια, να διατηρήσουμε όλους τους ανθρώπους στη διαδικασία. Διαφορετικά, κινδυνεύουμε με αυτοματισμό απαθούς – την意愿 να αναθέσουμε την λήψη αποφάσεων στα συστήματα AI – σε πολύ μεγάλη κλίμακα. Οι Juliette Powell και Art Kleiner είναι συν-συγγραφείς του νέου βιβλίου Το Δίλημμα του AI: 7 Αρχές για Υπεύθυνη Τεχνολογία.