Αν ο υπάλληλός σας συμπεριφερόταν σαν AI, θα τον είχατε απολύσει μέχρι τώρα

Φανταστείτε ότι μόλις προσλάβατε κάποιον νέο και τις περισσότερες ημέρες είναι αποδοτικός, γνώστης, ευφραδής και έχει αυτοπεποίθηση. Είναι όλα όσα ελπίζατε να είναι, επιδεικνύοντας πολλά από τα χαρακτηριστικά ενός εξαιρετικού υπαλλήλου.

Τώρα φανταστείτε ότι ενίοτε, όταν αντιμετωπίζει μια ερώτηση στην οποία δεν γνωρίζει την απάντηση, απλώς επινοεί κάτι. Το διατυπώνει με ευχέρεια και πειστικότητα, οπότε αρχικά το παίρνετε ως δεδομένο. Αλλά όταν έχει συνέπειες για την επιχείρηση, επιστρέφετε σε αυτόν τον υπάλληλο, τον αμφισβητείτε – και δεν μπορεί να εξηγήσει τη διαδικασία σκέψης του ή να μοιραστεί τη λογική του. Μπορείτε ακόμη και να του εξηγήσετε ότι κάνει λάθος, αλλά εκείνος επιμένει για το αντίθετο και προσθέτει περισσότερους επινοημένους ισχυρισμούς για να το στηρίξει. Μετά τη δεύτερη ή τρίτη φορά που συμβαίνει αυτό, θα τον είχατε πιθανότατα απολύσει, ή τουλάχιστον θα του είχατε δώσει προειδοποίηση; Η απάντηση για τους περισσότερους εργοδότες είναι σχεδόν σίγουρα ναι.

Μου φαίνεται αινιγματικό ότι οι επιχειρήσεις παραδίδουν πλέον κρίσιμες ροές εργασίας και λήψη αποφάσεων σε έναν «υπάλληλο» που είναι γνωστό ότι εμφανίζει αυτή τη συμπεριφορά. Ο μόνος λόγος που συνεχίζεται χωρίς έλεγχο είναι επειδή αυτός ο «υπάλληλος» είναι λογισμικό και όχι άνθρωπος.

Γιατί η AI δεν αποτυγχάνει όπως οι άνθρωποι

Υπάρχει μια κοινή, λανθασμένη υπόθεση μεταξύ των επιχειρήσεων που υλοποιούν AI ότι αν η τεχνολογία έχει ποσοστό σφάλματος, πρόκειται περίπου για το ίδιο πρόβλημα όπως το ανθρώπινο σφάλμα και μπορεί να αντιμετωπιστεί με τον ίδιο τρόπο. Αλλά οι έλεγχοι, οι αξιολογήσεις και η κλιμάκωση δεν λειτουργούν πάντα με μεγάλα γλωσσικά μοντέλα (LLMs). Έχουν σχεδιαστεί να ακούγονται σαν άνθρωποι, αλλά αν κοιτάξετε τι υπάρχει κάτω από το καπό, θα δείτε ότι δεν λειτουργούν καθόλου όπως εμείς.

Αν ένας κορυφαίος υπάλληλος κάνει ένα λάθος, θα υποθέσουμε ότι το σφάλμα έγινε καλόπιστα – έδωσε τον καλύτερό του εαυτό και έσφαλε. Συμβαίνει. Αν επινοήσει σκόπιμα μια απάντηση για να κρύψει ότι δεν ξέρει κάτι, και το κάνει επανειλημμένα, θα το θεωρούσαμε κακή συμπεριφορά. Οι διευθυντές ξέρουν πού να εστιάσουν την εποπτεία τους, επειδή η δυσκολία και τα περιθώρια σφάλματος συμπίπτουν. Μπορούν να ζητήσουν από τον υπάλληλο να εξηγήσει τη λογική του και να τον ερωτήσουν γι’ αυτήν. Ο υπάλληλος συνήθως ξέρει πότε είναι εκτός των δυνατοτήτων του και το δηλώνει. Και μετά από ένα σφάλμα, μαθαίνει, ώστε το ίδιο λάθος να μην επαναλαμβάνεται σε συνεχή κύκλο.

Τα συστήματα AI αντιστρέφουν κάθε μία από αυτές τις υποθέσεις. Η προεπιλεγμένη τους αντίδραση στην αποτυχία είναι μια επινόηση διατυπωμένη με ευχέρεια και αυτοπεποίθηση. Παράγουν μια πειστική απάντηση που είναι απλώς ψευδής, κάτι που θα τερμάτιζε την καριέρα ενός ανθρώπου. Τα LLMs έχουν σχεδιαστεί να παράγουν τη στατιστικά πιο πιθανή συνέχεια ενός κειμένου, και όταν δεν γνωρίζουν την απάντηση, συχνά παράγουν κάτι που ακούγεται σωστό. Οι ερευνητές της OpenAI έχουν παραδεχθεί ότι κάποιο επίπεδο σφάλματος ως προς τα γεγονότα είναι στατιστικά αναπόφευκτη συνέπεια του τρόπου λειτουργίας αυτών των μοντέλων, και ότι η εκπαίδευση ανταμείβει μια εικασία διατυπωμένη με αυτοπεποίθηση αντί για μια ειλικρινή παραδοχή αβεβαιότητας.

Πού εισέρχονται οι νευροσυμβολικές προσεγγίσεις

Αυτό είναι ακριβώς αυτό που σχεδιάζονται να διορθώσουν οι νευροσυμβολικές προσεγγίσεις. Συνδυάζουν νευρωνικά δίκτυα, που είναι εξαιρετικά στην κατανόηση της γλώσσας και των δεδομένων του πραγματικού κόσμου, ακόμη και όταν δεν είναι καλά δομημένα, με ντετερμινιστική, βασισμένη σε κανόνες λογική. Αυτό σημαίνει ότι τα συμπεράσματα ενός συστήματος προέρχονται από ρητή λογική που μπορεί να επιθεωρηθεί, αντί να προέρχονται από μια διαδικασία που κανείς δεν μπορεί να δει μέσα της.

Χωρίς αυτό το πρόσθετο επίπεδο λογικής που παρέχει η νευροσυμβολική τεχνολογία, τα σφάλματα της AI δεν συσχετίζονται με τη δυσκολία της εργασίας όπως συμβαίνει με τα ανθρώπινα – είναι απρόβλεπτα. Μπορούν να εμφανιστούν σε ασήμαντες εργασίες ενώ οι δύσκολες περνούν αβίαστα, καθιστώντας δύσκολο να προσδιοριστεί πού να εστιάσει η ανθρώπινη εποπτεία. Οι εξηγήσεις τους, όταν δίνονται, παράγονται μετά το γεγονός αντί να παρέχουν μια αληθινή περιγραφή του πώς έφτασαν σε ένα συμπέρασμα. Το ίδιο λάθος μπορεί να επαναλαμβάνεται επ’ αόριστον, επειδή δεν υπάρχει κανείς μέσα στο σύστημα που να μάθει από αυτό ή να λογοδοτήσει γι’ αυτό.

Εμπιστοσύνη χωρίς κατανόηση

Οι ερευνητές έχουν καταγράψει ότι όταν οι άνθρωποι δεν είναι ακόμη εξοικειωμένοι με ένα σύστημα, τείνουν να το εγκαταλείπουν μετά από ένα μόνο ορατό σφάλμα· αλλά όταν είναι εξοικειωμένοι, μετατοπίζονται στο αντίθετο άκρο – αποδεχόμενοι τα αποτελέσματά του απλώς επειδή έχουν συνηθίσει σε αυτά, όχι επειδή τα αποτελέσματα έγιναν πιο αξιόπιστα. Σπάνια παρατηρείται το σωστό επίπεδο εμπιστοσύνης, επειδή αυτό εξαρτάται από το αν οι άνθρωποι καταλαβαίνουν πότε ένα σύστημα AI είναι πιθανό να είναι λάθος και μπορούν να το αναγνωρίσουν.

Αυτό δεν σημαίνει ότι δεν πρέπει να εμπιστευόμαστε σημαντικές εργασίες στην AI. Σημαίνει ότι ήμασταν διατεθειμένοι να της δώσουμε ένα είδος εμπιστοσύνης που δεν θα δώναμε σε ένα άτομο, εν μέρει επειδή δεν υπάρχει προφανές άτομο για να λογοδοτήσει όταν αποτυγχάνει.

Αν η AI πρόκειται να αναλάβει δουλειά που βασίζεται στην κρίση, όπως θα έκανε ένας πολύτιμος συνάδελφος, πρέπει να πληροί τα ίδια βασικά πρότυπα. Οι απαντήσεις πρέπει να είναι επαληθεύσιμες, με ορατό συλλογισμό, και η AI πρέπει να αποδέχεται το γεγονός ότι μερικές φορές, το καλύτερο που μπορεί να κάνει είναι να πει «Δεν ξέρω».