Ηγέτες σκέψης
Τι σημαίνει πραγματικά το human-in-the-loop;

Βασικά σημείαΗ ανθρώπινη παρέμβαση συχνά μεταθέτει την ευθύνη στους χρήστες χωρίς να διασφαλίζει…
Δείτε περισσότερα
- Η ανθρώπινη παρέμβαση συχνά μεταθέτει την ευθύνη στους χρήστες χωρίς να διασφαλίζει ηθικό σχεδιασμό συστήματος.
- Η Frizzle χρησιμοποιεί ανθρώπινη επίβλεψη για την ακρίβεια βαθμολόγησης όταν η τεχνητή νοημοσύνη δεν μπορεί να διαχειριστεί δυσανάγνωστους γραφικούς χαρακτήρες.
- Οι ουσιαστικοί ανθρώπινοι ρόλοι απαιτούν την ενδυνάμωση του προσωπικού να αμφισβητεί και να παρακάμπτει την τεχνητή νοημοσύνη, όχι απλώς να την εγκρίνει.
Στις αρχές του 20ου αιώνα, ο Βρετανός φιλόσοφος Gilbert Ryle επινόησε τον όρο “ghost in the machine”. Γράφοντας στο The Concept of Mind, ο Ryle χρησιμοποίησε τη μεταφορά για να αντιταχθεί στον δυαλισμό του νου και του σώματος, ο οποίος υποστηρίζει ότι ο νους και το σώμα υπάρχουν ως ξεχωριστές ουσίες. Για τον Ryle, αυτή η διάκριση ήταν ένα λάθος, καθώς η νόηση και η σωματική δράση ήταν αδιαίρετες, μέρος ενός ενιαίου συστήματος και όχι δύο αλληλεπιδρώντων μερών.
Με την έλευση της τεχνητής νοημοσύνης, μια παρόμοια μεταφορά εμφανίζεται τώρα όταν μιλάμε για τους χρήστες εργαλείων τεχνητής νοημοσύνης για να αυξήσουν την παραγωγικότητα: το συχνά χρησιμοποιούμενο “human-in-the-loop”. Αν οι άνθρωποι και τα έξυπνα συστήματα είναι τώρα πιο συνδεδεμένα παρά ποτέ, κατασκευάζουμε μια αψεγάδιαστη σύντηξη ή δημιουργούμε μια βολική ψευδαίσθηση ελέγχου;
Οι νεοσύστατες εταιρείες βασίζονται πολύ σε αυτήν την έννοια για να μιλήσουν για τα εργαλεία τους. Ενώ υπόσχεται καινοτομία και ανακούφιση, η πραγματικότητα είναι συχνά πιο σύνθετη. Η ευθύνη μπορεί εύκολα να γίνει αόριστη και γίνεται δυσκολότερο να εντοπιστεί ποιος λογοδοτεί.
Όταν τα συστήματα τεχνητής νοημοσύνης προχωρούν σε ευαίσθητες περιοχές – από την εκπαίδευση στον πόλεμο – το διακύβευμα δεν είναι πλέον αφηρημένο. Τι σημαίνει πραγματικά το human-in-the-loop και είναι αυτό απλώς ένας ευφημισμός για όταν οι άνθρωποι εξαφανίζονται τελείως;
1. Human-in-the-loop ως ασπίδα ευθύνης
Αν χρησιμοποιείται απρόσεκτα, ο όρος human-in-the-loop μπορεί να γίνει εύκολος τρόπος μεταφοράς της ευθύνης χωρίς ουσιαστική ενασχόληση με αυτήν. Όπως έχουν παρατηρήσει πολλοί, μια ανθρώπινη υπογραφή στο τέλος μιας διαδικασίας δεν εγγυάται ηθική ακεραιότητα, ιδίως αν το υποκείμενο σύστημα είναι κακώς σχεδιασμένο ή ανεπαρκώς κατανοητό.
Η Maysa Hawwash, ιδρύτρια και διευθύνουσα σύμβουλος της Scale X, έχει γράψει για την ολίσθηση μακριά από την ευθύνη και είναι ξεκάθαρη σχετικά με τον τρόπο με τον οποίο η έννοια χρησιμοποιείται συχνά. “Δεν είναι πραγματικά διαφορετικό από άλλους τρόπους μεταφοράς του βάρους”, είπε η Hawwash στο Startup Beat, χρησιμοποιώντας το παράδειγμα του πώς οι διευθυντές ανθρώπινου δυναμικού χρησιμοποιούν μια πολιτική υπογραφής για να μεταφέρουν την εταιρεία μακριά από την ευθύνη. “Εάν έχετε αυτήν την πολιτική και οι άνθρωποι τη διαβάζουν και την υπογράφουν, τότε ως εταιρεία, τεχνικά δεν είστε υπεύθυνοι, σωστά;” είπε.
Αυτό που προκύπτει είναι ένα μοτίβο που είναι οικείο σε εταιρικά συστήματα όπου η ευθύνη μεταφέρεται αντί να εξαλείφεται. Η Hawwash το βλέπει ως εύκολη διέξοδο για την αποφυγή της κριτικής σκέψης ή της κατανόησης των πεδίων όπου μπορεί να επηρεάσει τους ανθρώπους ή τις κοινότητες. “Έτσι, μεταφέρετε το βάρος, και τότε δεν έχει σημασία αν οι άνθρωποι κατανοούν την πολιτική, δεν έχει σημασία αν η πολιτική έχει νόημα.”
Σε αυτήν την πλαισίωση, το “human-in-the-loop” κινδυνεύει να γίνει λιγότερο για ουσιαστική παρέμβαση και περισσότερο για διαδικαστική κάλυψη. Ο κίνδυνος εδώ δεν είναι μόνο σημασιολογικός. Όταν η επιτήρηση μειώνεται σε μια υπογραφή, ο ανθρώπινος ρόλος γίνεται συμβολικός αντί για ουσιαστικός.
Η Hawwash αναφέρθηκε σε μια πρόσφατη στρατιωτική θηριωδία – το σχολείο στο Minab, Ιράν – όπου οι άνθρωποι ενέκριναν μια επίθεση, αλλά η παρουσία ενός ανθρώπινου λήπτη αποφάσεων δεν ισοδυναμούσε απαραίτητα με ηθική σαφήνεια ή επαρκή περίσκεψη. “Όταν είστε σε πόλεμο ή εκτελείτε μια σύνθετη χειρουργική επέμβαση, δεν έχετε την πολυτέλεια του χρόνου για να χρησιμοποιήσετε το human-in-the-loop ως ασπίδα.”
2. Σχεδιασμός για ευθύνη, όχι μόνο επιτήρηση
Η εναλλακτική λύση δεν είναι να εγκαταλείψουμε τα συστήματα human-in-the-loop, αλλά να τα λάβουμε σοβαρά ως δεσμεύσεις σχεδιασμού. Αυτό σημαίνει να μεταφερθούμε πέρα από τη συμβολική επιτήρηση προς τις προμελετημένες δομές ευθύνης.
“Υπάρχει αυτή η μεγάλη κούρσα για να βγει περισσότερη τεχνητή νοημοσύνη απευθείας στην αγορά. Δεν υπάρχει πολλή σκέψη από πλευράς σχεδιασμού, όπως τι είναι ο μετέπειτα αντίκτυπος στις κοινότητες, τους ανθρώπους ή τους τελικούς χρήστες,” είπε η Hawwash.
Η ταχύτητα έχει γίνει ο κυρίαρχος ανταγωνιστικός παράγοντας. Σε αυτόν τον αγώνα, η ευθύνη συχνά αναβάλλεται αντί να ενσωματώνεται. Το αποτέλεσμα είναι ένα αντιδραστικό μοντέλο ηθικής, όπου η διόρθωση των προβλημάτων συμβαίνει μετά την έναρξη χρήσης, αντί τα προβλήματα να προβλέπονται κατά την ανάπτυξη.
Η προσβασιμότητα μπορεί να επιταχύνει την υιοθέτηση, αλλά οδηγεί επίσης σε εντονότερες συνέπειες. Τα συστήματα δεν περιορίζονται πλέον σε τεχνικούς χρήστες, καθώς μπορούν να διαμορφώσουν αποφάσεις για ανθρώπους με διαφορετικά επίπεδα κατανόησης και πλαισίου. Σε ένα τέτοιο περιβάλλον, η ευθύνη δεν μπορεί να ανατεθεί στον τελικό χρήστη.
3. Human-in-the-loop ως ακρίβεια και ευθύνη
Ο Abhay Gupta, συνιδρυτής της Frizzle, προσφέρει μια πιο λειτουργική οπτική – μια που βασίζεται στη δημιουργία ενός συστήματος όπου η ανθρώπινη επιτήρηση είναι και πρακτική και απαραίτητη.
Η εταιρεία του προέκυψε από ένα συγκεκριμένο πρόβλημα: οι υπερβολικά εργαζόμενοι δάσκαλοι. “Στην πόλη ακούτε για τραπεζίτες και συμβούλους που εργάζονται 70 ώρες την εβδομάδα, αλλά δεν ακούτε για δασκάλους που εργάζονται τόσο. Έτσι, από περιέργεια, συνεντεύξαμε εκατοντάδες δασκάλους και σε όλες τις περιπτώσεις η βαθμολόγηση ήταν η εργασία που τους απορροφούσε τον περισσότερο χρόνο.”
Η αυτοματοποίηση της βαθμολόγησης μπορεί να φανεί απλή, αλλά η πολυπλοκότητα των χειρόγραφων μαθηματικών εισάγει πραγματικούς περιορισμούς για την τεχνητή νοημοσύνη. “Υπάρχει το ζήτημα της ακρίβειας. Η τεχνητή νοημοσύνη δεν είναι τέλεια, οπότε κατασκευάσαμε ένα σύστημα human-in-the-loop. Αν η τεχνητή νοημοσύνη δεν είναι βέβαιη – όπως με τα ακατάστατα χειρόγραφα – επισημαίνει την περίπτωση ώστε ο εκπαιδευτικός να την ελέγξει και να την εγκρίνει ή να την απορρίψει.”
Εδώ, ο ανθρώπινος ρόλος δεν είναι απλώς διακοσμητικός. Το σύστημα αναγνωρίζει ρητά την αβεβαιότητά του και στέλνει αυτές τις περιπτώσεις σε έναν άνθρωπο. “Για μας, είναι θέμα ακρίβειας. Θα υπάρξουν πάντα οριακές περιπτώσεις – ίσως 1-3% – όπου η τεχνητή νοημοσύνη πασχίζει, οπότε ένας άνθρωπος πρέπει να παρέμβει.”
Αυτή η προσέγγιση αναδιαμορφώνει το human-in-the-loop ως έναν μηχανισμό για τον έλεγχο ποιότητας. Ο Gupta πηγαίνει παραπέρα: “Στην καρδιά της, η τεχνητή νοημοσύνη δεν είναι 100% ακριβής – μπορεί να παράγει παραισθήσεις ή να παράγει λάθος εξόδους. Το human-in-the-loop λειτουργεί ως ο τελικός έλεγχος ποιότητας πριν τα αποτελέσματα φτάσουν στον τελικό χρήστη. Είναι επίσης θέμα ευθύνης. Κάποιος πρέπει να είναι υπεύθυνος για την έξοδο, και αυτή τη στιγμή αυτό πρέπει ακόμη να είναι ένας άνθρωπος.”
Ο ανθρώπινος ρόλος διατηρεί και κάτι λιγότερο μετρήσιμο: τη σχεσιακή πλευρά της διδασκαλίας. “Πρόκειται επίσης για τη διατήρηση της ανθρώπινης πλευράς της διδασκαλίας. Οι δάσκαλοι έχουν διαφορετικά στυλ, οπότε τους επιτρέπουμε να προσαρμόζουν τον τρόπο με τον οποίο παρέχεται η ανατροφοδότηση”
Επαναπροσδιορισμός του Human-in-the-loop
Η φράση “human in the loop” φέρει μια ανακουφιστική απλότητα. Υποδηλώνει ότι ανεξάρτητα από το πόσο προηγμένα γίνονται τα συστήματά μας, ένας άνθρωπος παραμένει στον έλεγχο και δεν είμαστε απλώς “φαντάσματα στη μηχανή”. Αλλά καθώς οι νεοσύστατες εταιρείες αναπτύσσουν όλο και περισσότερο την τεχνητή νοημοσύνη σε περιβάλλοντα όπου το διακύβευμα είναι υψηλό, αυτή η ανακούφιση απαιτεί σκέψη.
Το βαθύτερο ζήτημα είναι ο σχεδιασμός. Αν οι κίνδυνοι ενός συστήματος είναι κακώς κατανοητοί ή ελαχιστοποιούνται σκόπιμα, η εισαγωγή ενός ανθρώπου στο τέλος ελάχιστα συμβάλλει στη διόρθωση των θεμελιωδών ελαττωμάτων. Κρίσιμα, αυτό σημαίνει επίσης να ορίσουμε τον ρόλο του ανθρώπου όχι ως εφεδρική λύση, αλλά ως ολοκληρωμένο μέρος της λειτουργίας του συστήματος. Ένας άνθρωπος στο loop δεν πρέπει απλώς να εγκρίνει το αποτέλεσμα. Οι νεοσύστατες εταιρείες πρέπει να επιδιώξουν να ενδυναμώσουν το προσωπικό τους να διαμορφώνει τα αποτελέσματα, να τα αμφισβητεί και, όταν χρειάζεται, να τα ακυρώνει με πραγματική εξουσία.












