Αν ο υπάλληλός σας συμπεριφερόταν σαν AI, θα τον είχατε απολύσει μέχρι τώρα

Φανταστείτε ότι μόλις προσλάβατε κάποιον νέο και τις περισσότερες ημέρες είναι αποδοτικός, γνώστης, ευφράδτης και αυτοπεποίθητος. Είναι όλα όσα ελπίζατε να είναι, επιδεικνύοντας πολλά από τα χαρακτηριστικά ενός εξαιρετικού υπαλλήλου.

Τώρα φανταστείτε ότι ενίοτε, όταν αντιμετωπίζουν μια ερώτηση στην οποία δεν γνωρίζουν την απάντηση, απλώς φτιάχνουν κάτι. Είναι ευρέως ρέον, πειστικό, οπότε αρχικά το παίρνετε ως δεδομένο. Αλλά όταν έχει συνέπειες για την επιχείρηση, επιστρέφετε σε αυτόν τον υπάλληλο, τον αμφισβητείτε – και δεν μπορεί να εξηγήσει τη διαδικασία σκέψης του ή να μοιραστεί τη λογική του. Μπορείτε ακόμη και να του εξηγήσετε ότι είναι λάθος, για να αντιμετωπιστεί με επιμονή αντίθετη και με περισσότερες εφευρέσεις για να το στηρίξει. Μετά τη δεύτερη ή τρίτη φορά που συμβαίνει αυτό, θα τον είχατε πιθανότατα απολύσει, ή τουλάχιστον του έχετε δώσει προειδοποίηση; Η απάντηση για τους περισσότερους εργοδότες είναι σχεδόν σίγουρα ναι.

Μου φαίνεται αινιγματικό ότι οι επιχειρήσεις παραδίδουν πλέον κρίσιμες ροές εργασίας και λήψη αποφάσεων σε έναν «υπάλληλο» που είναι γνωστό ότι εμφανίζει αυτή τη συμπεριφορά. Ο μόνος λόγος που περνά απαρατήρητο είναι επειδή αυτός ο «υπάλληλος» είναι λογισμικό και όχι άνθρωπος.

Γιατί η AI δεν αποτυγχάνει όπως οι άνθρωποι

Υπάρχει μια κοινή, λανθασμένη υπόθεση μεταξύ των επιχειρήσεων που υλοποιούν AI ότι αν η τεχνολογία έχει ποσοστό σφάλματος, πρόκειται περίπου για το ίδιο πρόβλημα όπως το ανθρώπινο σφάλμα και μπορεί να διαχειριστεί με τον ίδιο τρόπο. Αλλά οι έλεγχοι, οι αξιολογήσεις και η κλιμάκωση δεν λειτουργούν πάντα με μεγάλα γλωσσικά μοντέλα (LLMs). Έχουν σχεδιαστεί να ακούγονται σαν άνθρωποι, αλλά αν κοιτάξετε τι υπάρχει κάτω από το καπό, θα δείτε ότι δεν λειτουργούν καθόλου όπως εμείς.

Αν ένας κορυφαίος υπάλληλος κάνει ένα λάθος, θα υποθέσουμε ότι το σφάλμα ήταν ειλικρινές – έδωσαν τον καλύτερό τους εαυτό και έσφαλαν. Συμβαίνει. Αν δημιουργήσουν σκόπιμα μια απάντηση για να ξεφύγουν από το ότι δεν ξέρουν κάτι, και το κάνουν επανειλημμένα, θα το θεωρούσαμε κακή συμπεριφορά. Οι διευθυντές ξέρουν πού να εστιάσουν την εποπτεία τους, επειδή η δυσκολία και τα περιθώρια σφάλματος συμπίπτουν. Μπορούν να ζητήσουν από τον υπάλληλο να εξηγήσει τη λογική του και να τον ερωτήσουν γι’ αυτήν. Ο υπάλληλος συνήθως ξέρει πότε είναι εκτός των δυνατοτήτων του και το δηλώνει. Και μετά από ένα σφάλμα, μαθαίνει, ώστε το ίδιο λάθος να μην επαναλαμβάνεται σε συνεχή κύκλο.

Τα συστήματα AI αντιστρέφουν κάθε μία από αυτές τις υποθέσεις. Η προεπιλεγμένη τους αντίδραση στην αποτυχία είναι μια ευρέως ρέουσα, αυτοπεποίθητη εφεύρεση. Παράγουν μια πειστική απάντηση που είναι απλώς ψευδής, κάτι που θα τερμάτιζε την καριέρα ενός ανθρώπου. Τα LLMs έχουν σχεδιαστεί να παράγουν τη στατιστικά πιο πιθανή συνέχεια ενός κειμένου, και όταν δεν γνωρίζουν την απάντηση, συχνά παράγουν κάτι που ακούγεται σωστό. Οι ερευνητές της OpenAI έχουν παραδεχθεί ότι κάποιο επίπεδο πραγματικού σφάλματος είναι στατιστική αναπόφευκτη συνέπεια του τρόπου λειτουργίας αυτών των μοντέλων, και ότι η εκπαίδευση ανταμείβει μια αυτοπεποίθητη εικασία αντί για μια ειλικρινή παραδοχή αβεβαιότητας.

Πού εισέρχονται οι νευροσυμβολικές προσεγγίσεις

Αυτό είναι ακριβώς αυτό που σχεδιάζονται να διορθώσουν οι νευροσυμβολικές προσεγγίσεις. Συνδυάζουν νευρωνικά δίκτυα, που είναι εξαιρετικά στην κατανόηση ακατάστατης, πραγματικής γλώσσας και δεδομένων, με ντετερμινιστική, βασισμένη σε κανόνες λογική. Αυτό σημαίνει ότι τα συμπεράσματα ενός συστήματος προέρχονται από ρητή λογική που μπορεί να επιθεωρηθεί, αντί να προέρχονται από μια διαδικασία που κανείς δεν μπορεί να δει μέσα της.

Χωρίς αυτό το πρόσθετο επίπεδο λογικής που παρέχει η νευροσυμβολική τεχνολογία, τα σφάλματα της AI δεν συσχετίζονται με τη δυσκολία της εργασίας όπως συμβαίνει με τα ανθρώπινα – είναι απρόβλεπτα. Μπορούν να εμφανιστούν σε ασήμαντες εργασίες ενώ οι δύσκολες περνούν αβίαστα, καθιστώντας δύσκολο να προσδιοριστεί πού να εστιάσει η ανθρώπινη εποπτεία. Οι εξηγήσεις τους, όταν δίνονται, παράγονται μετά το γεγονός αντί να παρέχουν μια αληθινή περιγραφή του πώς έφτασαν σε ένα συμπέρασμα. Το ίδιο λάθος μπορεί να επαναλαμβάνεται ακατάληπτα, επειδή δεν υπάρχει κανείς μέσα στο σύστημα που να το μάθει ή να λογοδοτήσει γι’ αυτό.

Εμπιστοσύνη χωρίς κατανόηση

Οι ερευνητές έχουν καταγράψει ότι όταν οι άνθρωποι είναι καινούργιοι σε ένα σύστημα, τείνουν να το εγκαταλείπουν μετά από ένα μόνο ορατό σφάλμα· αλλά όταν είναι εξοικειωμένοι, μετατοπίζονται στην αντίθετη άκρη – αποδεχόμενοι τα αποτελέσματά του απλώς επειδή έχουν συνηθίσει σε αυτά, όχι επειδή τα αποτελέσματα έγιναν πιο αξιόπιστα. Σπάνια παρατηρείται το σωστό επίπεδο εμπιστοσύνης, επειδή αυτό εξαρτάται από το αν οι άνθρωποι καταλαβαίνουν πότε ένα σύστημα AI είναι πιθανό να είναι λάθος και μπορούν να το αναγνωρίσουν.

Αυτό δεν σημαίνει ότι η AI δεν πρέπει να εμπιστεύεται με σημαντική εργασία. Σημαίνει ότι ήμασταν διατεθειμένοι να της δώσουμε ένα είδος εμπιστοσύνης που δεν θα δώναμε σε ένα άτομο, εν μέρει επειδή δεν υπάρχει προφανές άτομο για να λογοδοτήσει όταν αποτυγχάνει.

Αν η AI πρόκειται να αναλάβει δουλειά που βασίζεται στην κρίση, όπως θα έκανε ένας πολύτιμος συνάδελφος, πρέπει να πληροί τα ίδια βασικά πρότυπα. Οι απαντήσεις πρέπει να είναι επαληθεύσιμες, με η λογική ορατή, και να αποδέχονται το γεγονός ότι μερικές φορές, το καλύτερο που μπορεί να κάνει είναι να πει “I don’t know”.