Πώς το Εξηγήσιμο AI Κτίζει Εμπιστοσύνη και Ευθύνη

Οι επιχειρήσεις έχουν ήδη βουτήξει με το κεφάλι στο AI, αγωνιζόμενοι να αναπτύξουν chatbots, γενераторες περιεχομένου και εργαλεία υποστήριξης αποφάσεων σε όλα τα τμήματα. Σύμφωνα με τη McKinsey, το 78% των εταιρειών χρησιμοποιούν AI σε τουλάχιστον μια επιχειρηματική λειτουργία.

Ο πανδαιμόνιος αυτός ενθουσιασμός είναι κατανοητός — όλοι βλέπουν την πιθανή αξία. Αλλά σε αυτή τη βουτιά, πολλές οργανώσεις παραβλέπουν το γεγονός ότι όλες οι τεχνολογίες βασισμένες σε νευρωνικά δίκτυα, συμπεριλαμβανομένων όλων των LLM και γενετικών συστημάτων AI που χρησιμοποιούνται σήμερα και για το προβλέψιμο μέλλον, μοιράζονται ένα σημαντικό ελάττωμα: Είναι απρόβλεπτες και σε τελική ανάλυση ακαταμάχητες.

Όπως κάποιοι έχουν μάθει, μπορεί να υπάρξουν πραγματικά παράπτωμα ως αποτέλεσμα. Σε ένα διαθέσιμο πωλητή Chevrolet που είχε αναπτύξει ένα chatbot στην ιστοσελίδα του, ένας πελάτης έπεισε το ChatGPT-ενεργοποιημένο bot να του πουλήσει ένα Chevy Tahoe αξίας 58.195 δολαρίων για μόλις 1 δολάριο. Ένας άλλος πελάτης έπεισε το ίδιο chatbot να γράψει ένα σενάριο Python για σύνθετες εξισώσεις δυναμικής ροής, το οποίο το έκανε με χαρά. Το διαθέσιμο πωλητή απενεργοποίησε τα bots μετά από αυτά τα περιστατικά που έγιναν ιδιαίτερα δημοφιλή.

Πέρυσι, η Air Canada έχασε σε δικαστήριο μικρών απαιτήσεων όταν υποστήριξε ότι το chatbot της, το οποίο έδωσε σε ένα επιβάτη ανακριβείς πληροφορίες για μια έκπτωση πένθους, «είναι ένα ξεχωριστό νομικό πρόσωπο που ευθύνεται για τις δικές του ενέργειες».

Αυτή η απρόβλεπτη συμπεριφορά οφείλεται στη θεμελιώδη αρχιτεκτονική των LLM. Είναι τόσο μεγάλες και σύνθετες που είναι αδύνατο να κατανοηθεί πώς φτάνουν σε συγκεκριμένες απαντήσεις ή να προβλεφθεί τι θα παράγουν μέχρι να παράγουν μια έξοδο. Οι περισσότερες οργανώσεις απαντούν σε αυτό το ζήτημα αξιοπιστίας χωρίς να το αναγνωρίζουν πλήρως.

Η λύση του κοινικού λογισμού είναι να ελέγξουν τα αποτελέσματα του AI με το χέρι, το οποίο λειτουργεί αλλά περιορίζει δραστικά το δυναμικό της τεχνολογίας. Όταν το AI περιορίζεται να είναι προσωπικός βοηθός — συντάσσοντας κείμενο, λαμβάνοντας σημειώσεις συνεδριάσεων, συνοψίζοντας έγγραφα και βοηθώντας στην κωδικοποίηση — προσφέρει μετριοπαθείς κέρδη παραγωγικότητας. Δεν είναι αρκετά για να επαναφέρουν την οικονομία.

Τα πραγματικά οφέλη του AI θα έρθουν όταν σταματήσουμε να το χρησιμοποιούμε για να βοηθήσουμε τις υπάρχουσες εργασίες και αντί για αυτό να ξανασχεδιάσουμε ολόκληρες διαδικασίες, συστήματα και εταιρείες για να χρησιμοποιούν το AI χωρίς ανθρώπινη εμπλοκή σε κάθε βήμα. Σκεφτείτε την επεξεργασία δανείων: αν μια τράπεζα δώσει στους υπαλλήλους δανείων ένα βοηθό AI για να συνοψίσουν αιτήσεις, μπορεί να εργαστούν 20-30% πιο γρήγορα. Αλλά η ανάπτυξη του AI για να χειριστεί ολόκληρη τη διαδικασία απόφασης (με κατάλληλα μέτρα ασφαλείας) θα μπορούσε να μειώσει τους κόστους πάνω από 90% και να εξαλείψει σχεδόν όλο τον χρόνο επεξεργασίας. Αυτή είναι η διαφορά μεταξύ της σταδιακής βελτίωσης και της μετασχηματίσεως.

Ο δρόμος για την αξιόπιστη εφαρμογή του AI

Η αξιοποίηση του πλήρους δυναμικού του AI χωρίς να υποκύψουμε στην απρόβλεπτη συμπεριφορά του απαιτεί một σύνθετο συνδυασμό τεχνικών προσεγγίσεων και στρατηγικής σκέψης. Ενώ μερικές τρέχουσες μεθόδους προσφέρουν μερικές λύσεις, το καθένα έχει σημαντικές περιορισμούς.

Ορισμένες οργανώσεις προσπαθούν να μετριάσουν τα ζητήματα αξιοπιστίας μέσω της πίεσης του συστήματος — υποτιθέμενης πίεσης της συμπεριφοράς του AI σε επιθυμητές κατευθύνσεις ώστε να ανταποκρίνεται σε συγκεκριμένες εισόδους. Ερευνητές του Anthropic έδειξαν τη fragility αυτής της προσέγγισης αναγνωρίζοντας ένα «χαρακτηριστικό της Γέφυρας του Χρυσού» στο νευρωνικό δίκτυο του Claude και, με την τεχνητή ενίσχυση, προκάλεσαν στον Claude μια ταυτότητας κρίση. Όταν ρωτήθηκε για τη φυσική του μορφή, αντί να αναγνωρίσει ότι δεν είχε καμία, ο Claude ισχυρίστηκε ότι ήταν η Γέφυρα του Χρυσού ο ίδιος. Αυτό το πείραμα αποκάλυψε πόσο εύκολα μπορεί να τροποποιηθεί η βασική λειτουργία ενός μοντέλου και ότι κάθε πίεση αντιπροσωπεύει μια ανταλλαγή, потенτικά βελτιώνοντας κάποιο аспέκτης της απόδοσης ενώ υποβαθμίζει άλλους.

Μια άλλη προσέγγιση είναι να έχει το AI να παρακολουθεί άλλα AI. Ενώ αυτή η στρωματοποιημένη προσέγγιση μπορεί να πιάσει κάποια λάθη, εισάγει πρόσθετη複잡ότητα και ακόμα δεν φτάνει στην ολοκληρωμένη αξιοπιστία. Τα προγραμματισμένα φράγματα είναι μια πιο άμεση παρέμβαση, όπως το μπλοκάρισμα απαντήσεων που περιέχουν συγκεκριμένα κλειδιά ή μοτίβα, όπως προκαταρκτικά συστατικά για όπλα. Ενώ είναι αποτελεσματικά ενάντια σε γνωστά ζητήματα, αυτά τα φράγματα δεν μπορούν να προβλέψουν νέες προβληματικές εξόδους που προκύπτουν από αυτά τα σύνθετα συστήματα.

Μια πιο αποτελεσματική προσέγγιση είναι η κατασκευή διαδικασιών που επικεντρώνονται στο AI και μπορούν να λειτουργούν αυτόνομα, με στρατηγική τοποθέτηση ανθρώπινης επιτήρησης για να πιάσουν ζητήματα αξιοπιστίας πριν προκαλέσουν πραγματικά προβλήματα. Δεν θα θέλατε το AI να εγκρίνει ή να απορρίπτει αιτήσεις δανείων απευθείας, αλλά το AI θα μπορούσε να διεξάγει μια αρχική αξιολόγηση για ανθρώπινους χειριστές να αναθεωρήσουν. Αυτό μπορεί να λειτουργήσει, αλλά εξαρτάται από την ανθρώπινη επιτήρηση για να πιάσει τα λάθη του AI και υπονόμευε τις πιθανές αποδοτικές κέρδη από τη χρήση του AI.

Κατασκευάζοντας για το μέλλον

Αυτές οι μερικές λύσεις δείχνουν προς μια πιο ολοκληρωμένη προσέγγιση. Οι οργανώσεις που επανασκέφτονται θεμελιωδώς πώς γίνεται η δουλειά τους αντί να simply ενισχύουν τις υπάρχουσες διαδικασίες με βοήθεια AI θα κερδίσουν το μεγαλύτερο πλεονέκτημα. Αλλά το AI δεν πρέπει ποτέ να είναι το τελευταίο βήμα σε μια διαδικασία υψηλού κινδύνου ή απόφασης, οπότε ποια είναι ο καλύτερος δρόμος προς τα εμπρός;

Πρώτα, το AI κατασκευάζει μια επαναλαμβανόμενη διαδικασία που θα παραδώσει συνεπή αποτελέσματα με διαφάνεια. Δεύτερον, οι άνθρωποι αναθεωρούν τη διαδικασία για να βεβαιωθούν ότι κατανοούν πώς λειτουργεί και ότι οι εισόδους είναι κατάλληλες. Τέλος, η διαδικασία εκτελείται αυτόνομα – χρησιμοποιώντας κανένα AI – με περιοδική ανθρώπινη αναθεώρηση των αποτελεσμάτων.

Σκεφτείτε την ασφαλιστική βιομηχανία. Η συμβατική προσέγγιση θα μπορούσε να προσθέσει βοηθούς AI για να βοηθήσουν τους επεξεργαστές αιτήσεων να εργαστούν πιο αποτελεσματικά. Μια πιο επαναστατική προσέγγιση θα χρησιμοποιούσε το AI για να αναπτύξει νέα εργαλεία — όπως η υπολογιστική όραση που αναλύει φωτογραφίες ζημιών ή ενισχυμένα μοντέλα ανίχνευσης απάτης που αναγνωρίζουν ύποπτα μοτίβα — και στη συνέχεια να συνδυάσει αυτά τα εργαλεία σε αυτόματα συστήματα που διέπονται από σαφείς, κατανοητές κανόνες. Οι άνθρωποι θα σχεδίαζαν και θα παρακολουθούσαν αυτά τα συστήματα αντί να επεξεργάζονται αιτήσεις.

Αυτή η προσέγγιση διατηρεί την ανθρώπινη επιτήρηση στο κρίσιμο σημείο όπου έχει τη μεγαλύτερη σημασία: το σχέδιο και η επαλήθευση του συστήματος. Επιτρέπει εξωνυμικές αποδοτικές κέρδη ενώ εξαλείφει τον κίνδυνο ότι η απρόβλεπτη συμπεριφορά του AI θα οδηγήσει σε βλαβερές εξόδους σε μεμονωμένες περιπτώσεις.

Ένα AI θα μπορούσε να αναγνωρίσει πιθανές ενδείξεις ικανότητας αποπληρωμής δανείου σε δεδομένα συναλλαγών, για παράδειγμα. Οι ανθρώπινοι εμπειρογνώμονες θα μπορούσαν τότε να αξιολογήσουν αυτές τις ενδείξεις για δίκαιη και να κατασκευάσουν ρητές, κατανοητές μοντέλα για να επιβεβαιώσουν τη προβλεπτική τους δύναμη.

Αυτή η προσέγγιση για το εξηγήσιμο AI θα δημιουργήσει một σαφέστερη διαίρεση μεταξύ των οργανισμών που χρησιμοποιούν το AI επιφανειακά και εκείνων που μετασχηματίζουν τις επιχειρήσεις τους γύρω του. Οι τελευταίοι θα αυξάνονται ολοένα και περισσότερο στις βιομηχανίες τους, σε θέση να προσφέρουν προϊόντα και υπηρεσίες σε τιμές που οι ανταγωνιστές τους δεν μπορούν να αντιταχθούν.

Σε αντίθεση με το αδιαφανές AI, τα συστήματα AI που εξηγούνται διασφαλίζουν ότι οι άνθρωποι διατηρούν τη σημαντική επιτήρηση της εφαρμογής της τεχνολογίας, δημιουργώντας ένα μέλλον όπου το AI ενισχύει το ανθρώπινο δυναμικό αντί να αντικαθιστά απλώς την ανθρώπινη εργασία.