Τι σημαίνει πραγματικά το Human-in-the-loop;

Στις αρχές του 20ου αιώνα, ο Βρετανός φιλόσοφος Gilbert Ryle έ_coinσε τον όρο “ghost in the machine”. Γράφοντας στο The Concept of Mind, ο Ryle χρησιμοποίησε τη μεταφορά για να αντιταχθεί στον δυαλισμό του νου και του σώματος, ο οποίος υποστηρίζει ότι ο νους και το σώμα υπάρχουν ως ξεχωριστές ουσίες. Για τον Ryle, αυτή η διάκριση ήταν ένα λάθος, καθώς η γνώση και η σωματική δράση ήταν αδιαίρετες, μέρος ενός ενιαίου συστήματος και όχι δύο αλληλεπιδρώντων μερών.

Με την έλευση της τεχνητής νοημοσύνης, μια παρόμοια μεταφορά εμφανίζεται τώρα όταν μιλάμε για τους χρήστες εργαλείων τεχνητής νοημοσύνης για να αυξήσουν την παραγωγικότητα: το συχνά χρησιμοποιούμενο “human-in-the-loop”. Αν οι άνθρωποι και τα έξυπνα συστήματα είναι τώρα πιο συνδεδεμένα παρά ποτέ, κατασκευάζουμε μια αψεγάδιαστη σύντηξη ή δημιουργούμε μια βολική ψευδαίσθηση ελέγχου;

Οι νεοσύστατες εταιρείες βασίζονται πολύ σε αυτήν την έννοια για να μιλήσουν για τα εργαλεία τους. Ενώ υπόσχεται καινοτομία και ανακούφιση, η πραγματικότητα είναι συχνά πιο复雑. Η ευθύνη μπορεί εύκολα να γίνει αόριστη και η ευθύνη πιο δύσκολο να αναζητηθεί.

Όταν τα συστήματα τεχνητής νοημοσύνης προχωρούν σε ευαίσθητες περιοχές – από την εκπαίδευση στον πόλεμο – τα στοιχήματα δεν είναι πλέον αφηρημένα. Τι σημαίνει πραγματικά το human-in-the-loop και είναι αυτό απλώς ένας ευφημισμός για όταν εξαφανίζονται τελείως;

1. Human-in-the-loop ως ασπίδα ευθύνης

Χρησιμοποιώντας ασεβώς, ο όρος human-in-the-loop μπορεί να είναι ένας εύκολος τρόπος να μεταφέρει την ευθύνη χωρίς να ασχοληθεί πραγματικά με αυτήν. Όπως έχουν παρατηρήσει πολλοί, μια ανθρώπινη υπογραφή στο τέλος μιας διαδικασίας δεν εγγυάται ηθική ακεραιότητα, đặc biệt αν το υποκείμενο σύστημα είναι κακώς σχεδιασμένο ή ανεπαρκώς κατανοητό.

Η Maysa Hawwash, ιδρύτρια και διευθύντρια της Scale X, έχει γράψει για την ολίσθηση μακριά από την ευθύνη και είναι ξεκάθαρη σχετικά με τον τρόπο με τον οποίο η έννοια χρησιμοποιείται συχνά. “Δεν είναι πραγματικά διαφορετικό από άλλους τρόπους μεταφοράς του βάρους.” Η Hawwash είπε στο Startup Beat, χρησιμοποιώντας το παράδειγμα του πώς οι διευθυντές ανθρώπινου δυναμικού χρησιμοποιούν μια πολιτική υπογραφής για να μεταφέρουν την εταιρεία μακριά από την ευθύνη. “Εάν έχετε αυτήν την πολιτική και οι άνθρωποι την διαβάζουν και την υπογράφουν, τότε ως εταιρεία, τεχνικά δεν είστε υπεύθυνοι, σωστά;” είπε.

Τι προκύπτει είναι ένα μοτίβο που είναι οικείο σε εταιρικά συστήματα όπου η ευθύνη μεταφέρεται αντί να εξαλείφεται. Η Hawwash βλέπει αυτό ως τον τεμπέλη τρόπο να αποφευχθεί η κριτική σκέψη ή η κατανόηση των περιοχών όπου μπορεί να επηρεάσει τους ανθρώπους ή τις κοινότητες. “Έτσι, μεταφέρετε το βάρος, και τότε δεν έχει σημασία αν οι άνθρωποι κατανοούν την πολιτική, δεν έχει σημασία αν η πολιτική έχει νόημα.”

Σε αυτήν την πλαισίωση, το “human-in-the-loop” κινδυνεύει να γίνει λιγότερο για την σημαντική παρέμβαση και περισσότερο για την προκαταρκτική κάλυψη. Ο κίνδυνος εδώ δεν είναι μόνο σημασιολογικός. Όταν η επιτήρηση μειώνεται σε μια υπογραφή, ο ανθρώπινος ρόλος γίνεται συμβολικός αντί για ουσιαστικός.

Η Hawwash αναφέρθηκε σε μια πρόσφατη στρατιωτική ατυχία – το σχολείο στο Minab, Ιράν – όπου οι άνθρωποι ενέκριναν μια επίθεση, αλλά η παρουσία ενός ανθρώπινου λήπτη αποφάσεων δεν ισοδυναμούσε απαραίτητα με ηθική σαφήνεια ή επαρκή διεξαγωγή. “Όταν είστε σε πόλεμο ή εκτελείτε μια σύνθετη χειρουργική επέμβαση, δεν έχετε το लकί της ώρας για να χρησιμοποιήσετε το human-in-the-loop ως ασπίδα.”

2. Σχεδιασμός για ευθύνη, όχι μόνο επιτήρηση

Η εναλλακτική λύση δεν είναι να εγκαταλείψουμε τα συστήματα human-in-the-loop, αλλά να τα λάβουμε σοβαρά ως δεσμεύσεις σχεδιασμού. Αυτό σημαίνει να μεταφερθούμε πέρα από την συμβολική επιτήρηση προς τις προμελετημένες δομές ευθύνης.

“Υπάρχει αυτή η μεγάλη διεκδίκηση να λάβουμε περισσότερη τεχνητή νοημοσύνη στην αγορά. Δεν υπάρχει πολύ σκέψη από πλευράς σχεδιασμού, όπως τι είναι η επιρροή στο hạ游 για τις κοινότητες, τους ανθρώπους ή τους τελικούς χρήστες,” είπε η Hawwash.

Η ταχύτητα έχει γίνει ο κυρίαρχος ανταγωνιστικός παράγοντας. Σε αυτόν τον αγώνα, η ευθύνη συχνά αναβληθεί παρά να ενσωματωθεί. Το αποτέλεσμα είναι ένα αντιδραστικό μοντέλο ηθικής, όπου η διόρθωση των προβλημάτων συμβαίνει μετά την ανάπτυξη αντί να προβλεφθεί κατά τη διάρκεια της ανάπτυξης.

Η προσβασιμότητα μπορεί να επιταχύνει την υιοθέτηση, αλλά οδηγεί επίσης σε πιο ενισχυμένες συνέπειες. Τα συστήματα δεν περιορίζονται πλέον σε τεχνικούς χρήστες, καθώς μπορούν να διαμορφώσουν αποφάσεις για ανθρώπους με διαφορετικά επίπεδα κατανόησης και περιεχομένου. Σε ένα τέτοιο περιβάλλον, η ευθύνη δεν μπορεί να ανατεθεί στον τελικό χρήστη.

3. Human-in-the-loop ως ακρίβεια και ευθύνη

Ο Abhay Gupta, συνιδρυτής της Frizzle, προσφέρει μια πιο επιχειρηματική προοπτική – μια που βασίζεται στη δημιουργία ενός συστήματος όπου η ανθρώπινη επιτήρηση είναι και πρακτική και απαραίτητη.

Η εταιρεία του προέκυψε από ένα συγκεκριμένο πρόβλημα: οι υπερβολικά εργαζόμενοι δάσκαλοι. “Στην πόλη ακούτε για τραπεζίτες και συμβούλους που εργάζονται 70 ώρες την εβδομάδα, αλλά δεν ακούτε για δασκάλους που εργάζονται τόσο. Έτσι, από περιέργεια, συνεντεύξαμε εκατοντάδες δασκάλους και σε όλη τη διάρκεια, η βαθμολόγηση ήταν η μεγαλύτερη πηγή χρόνου για αυτούς.”

Η αυτοματοποίηση της βαθμολόγησης μπορεί να φανεί απλή, αλλά η πολυπλοκότητα των χειρόγραφων μαθηματικών εισάγει πραγματικές περιορισμούς για την τεχνητή νοημοσύνη. “Υπάρχει το ζήτημα της ακρίβειας. Η τεχνητή νοημοσύνη δεν είναι τέλεια, οπότε κατασκευάσαμε ένα σύστημα human-in-the-loop. Αν η τεχνητή νοημοσύνη δεν είναι βέβαιη – όπως με τα ακατάστατα χειρόγραφα – σημαδεύει για τον δάσκαλο να αναθεωρήσει και να εγκρίνει ή να απορρίψει.”

Εδώ, ο ανθρώπινος ρόλος δεν είναι απλώς διακοσμητικός. Το σύστημα αναγνωρίζει ρητά την αβεβαιότητα του και στέλνει αυτές τις περιπτώσεις σε έναν άνθρωπο. “Για μας, είναι θέμα ακρίβειας. Θα υπάρξουν πάντα περιπτώσεις ακμής – ίσως 1-3% – όπου η τεχνητή νοημοσύνη πασχίζει, οπότε ένας άνθρωπος πρέπει να παρέμβει.”

Αυτή η προσέγγιση αναδιαμορφώνει το human-in-the-loop ως einen μηχανισμό για τον έλεγχο ποιότητας. Ο Gupta πηγαίνει παραπέρα: “Στην καρδιά της, η τεχνητή νοημοσύνη δεν είναι 100% ακριβής – μπορεί να ονειρευτεί ή να παράγει λάθος εξόδους. Το human-in-the-loop λειτουργεί ως ο τελικός έλεγχος ποιότητας πριν τα αποτελέσματα φτάσουν στον τελικό χρήστη. Είναι επίσης θέμα ευθύνης. Κάποιος πρέπει να είναι υπεύθυνος για την έξοδο, και αυτή τη στιγμή αυτό πρέπει ακόμη να είναι ένας άνθρωπος.”

Είναι επίσης θέμα διατήρησης του ανθρώπινου πλευρά της διδασκαλίας. “Είναι επίσης για τη διατήρηση του ανθρώπινου πλευρά της διδασκαλίας. Οι δάσκαλοι έχουν διαφορετικά στυλ, οπότε τους επιτρέψαμε να προσαρμόσουν τον τρόπο με τον οποίο παρέχεται η ανατροφοδότηση”

Επαναπροσδιορισμός του Human-in-the-loop

Η φράση “human in the loop” φέρει μια ανακουφιστική απλότητα. Υποδηλώνει ότι ανεξάρτητα από το πόσο προηγμένα γίνονται τα συστήματά μας, ένας άνθρωπος παραμένει στον έλεγχο και δεν είμαστε απλώς “φαντάσματα στη μηχανή”. Αλλά καθώς οι νεοσύστατες εταιρείες αναπτύσσουν όλο και περισσότερο την τεχνητή νοημοσύνη σε περιβάλλοντα υψηλών στοιχείων, αυτή η ανακούφιση απαιτεί σκέψη.

Το βαθύτερο ζήτημα είναι το σχεδιασμό. Αν οι κίνδυνοι ενός συστήματος είναι κακώς κατανοητοί ή ελαχιστοποιούνται σκόπιμα, η εισαγωγή ενός ανθρώπου στο τέλος δεν κάνει τίποτα για να διορθώσει τις θεμελιώδεις ελαττώματα. Κρίσιμα, αυτό σημαίνει επίσης να ορίσουμε τον ρόλο του ανθρώπου όχι ως πτώση, αλλά ως ολοκληρωμένο μέρος της λειτουργίας του συστήματος. Ένας άνθρωπος στο loop δεν πρέπει απλώς να εγκρίνει το αποτέλεσμα. Οι νεοσύστατες εταιρείες πρέπει να επιδιώξουν να ενδυναμώσουν το προσωπικό τους να διαμορφώσει, να προκαλέσει και, όταν χρειάζεται, να αντικαταστήσει με εξουσία.