Πώς Μετέφερα τις Γνώσεις Μου σε Συστήματα AI που Μπορούν Πραγματικά να Λαμβάνουν Αποφάσεις Όπως οι Ανθρώπινοι Εкспέρτες

Όταν έφυγα από τη Microsoft και συνέχισα να εργάζομαι με επιχειρήσεις για τις αναπτύξεις τους σε AI, συνέχισα να βλέπω ότι τα περισσότερα από τα συστήματα AI που ενθουσίαζαν τους ανθρώπους δεν μπορούσαν πραγματικά να λαμβάνουν αποφάσεις με αληθινή ανθρώπινη κρίση. Βέβαια, μπορούσαν να γράφουν, να συνοψίζουν και να παράγουν εξαιρετικά ευφάνταστη γραπτή γλώσσα που ήχησε σαν απόφαση, αλλά όταν τα συστήματα αυτά τοποθετούνταν σε πραγματικά λειτουργικά περιβάλλοντα, όπου υπάρχουν συμβιβασμοί, αβεβαιότητα, ελλιπείς οδηγίες και πραγματικές συνέπειες, τα συστήματα αυτά δυσκολεύονται γρήγορα. Αυτό ταιριάζει με τα δεδομένα του/MIT Project NANDA που δείχνουν ότι ενώ το 60% των οργανισμών αξιολόγησαν εργαλεία AI, μόνο το 20% έφτασε στο στάδιο πιλότου και μόνο το 5% έφτασε στη παραγωγή. Με άλλα λόγια, η βιομηχανία παλεύει να κατασκευάσει συστήματα που μπορούν πραγματικά να αντέξουν μέσα σε πραγματικές εργασίες.

Σε επιχειρηματικά περιβάλλοντα, ιδιαίτερα σε περιοχές όπως η αλυσίδα εφοδιασμού, η παραγωγή και οι επιχειρήσεις, το να πάρεις μια απάντηση δεν είναι δύσκολο· το δύσκολο είναι να γνωρίζεις ποια απάντηση να εμπιστευτείς, ποια μεταβλητά είναι τα πιο σημαντικά και τι είναι πιθανό να σπάσει στο hạ游 αν κάνεις λάθος. Στα μάτια μου, αυτό είναι και ένα πρόβλημα εμπειρογνωμοσύνης και κρίσης.

Για να είμαι σαφής, η AI έχει κάνει εξαιρετικές προόδους στην παραγωγή καλύτερων εξόδων. Αλλά καλύτερη έξοδος δεν είναι το ίδιο με καλύτερη απόφαση. Αυτά είναι δύο ξεχωριστά ορόσημα και πιστεύω ότι η βιομηχανία έχει περάσει πολύ χρόνο αντιμετωπίζοντάς τα ως αμοιβαία ανταλλάξιμα.

Η έλλειψη εμπειρογνωμοσύνης και κρίσης είναι ο λόγος για τον οποίο ενδιαφερθήκα να κατασκευάσω AI που οι ανθρώπινοι εμπειρογνώμονες μπορούν να διδάξουν να λαμβάνουν σύνθετες αποφάσεις όπως κάνουν. Η AI δεν πρέπει να ασχολείται μόνο με την αυτοματοποίηση εργασιών, αλλά και με την αποτελεσματική και ασφαλή μεταφορά ανθρώπινης κρίσης σε AI που αντέχει.

Τα μεγάλου μεγέθους γλωσσικά μοντέλα (LLMs) μιλούν σαν αποφασιστές, αλλά δεν είναι

Δεν υπάρχει αμφιβολία ότι τα LLMs είναι χρήσιμα, αλλά δεν είναι, από προεπιλογή, συστήματα λήψης αποφάσεων. Είναι συστήματα πρόβλεψης τυλιγμένα σε γλώσσα. Και η γλώσσα είναι πειστική, το οποίο είναι μέρος του προβλήματος. Αν ένα σύστημα μπορεί να εξηγήσει τον εαυτό του ευφάνταστα, εύκολα υπερτιμούμε τι καταλαβαίνει. Ρωτάς μια επιχειρηματική ερώτηση, σου δίνει μια δομημένη απάντηση με συμβιβασμούς, επιφυλάξεις και ένα όμορφο σύνολο στο τέλος, κάνοντας το να φαίνεται πιο έξυπνο από ό,τι είναι. Το να ακούγεται συνεκτικό και να είναι λειτουργικά ικανό δεν είναι το ίδιο πράγμα, και αυτό είναι όπου πολλά επιχειρηματικά AI σπάει. Τα μοντέλα μπορούν να σου πουν τι μια καλή απόφαση ακούγεται χωρίς να έχουν καμία κατανόηση για τι κάνει μια απόφαση καλή υπό πίεση, με την πάροδο του χρόνου ή σε контέκστ.

Η πληροφορία δεν είναι το ίδιο με την εμπειρογνωμοσύνη

Ένα από τα εύκολα λάθη που μπορείς να πέσεις με την AI είναι να υποθέσεις ότι αν ένα σύστημα έχει αρκετές πληροφορίες, θα πρέπει να μπορεί να εκτελέσει σαν εμπειρογνώμονας. Φαίνεται λογικό, αλλά όταν το σκέφτεσαι στην καθημερινή ζωή, η αύξηση των πληροφοριών μας για κάτι δεν μας κάνει αυτόματα εμπειρογνώμονες. Μπορείς να διαβάσεις κάθε εγχειρίδιο αεροπορίας και ακόμα να μην είσαι έτοιμος να προσγειωθείς σε ένα αεροπλάνο. Μπορείς να απομνημονεύσεις κάθε καλύτερη πρακτική στην αλυσίδα εφοδιασμού και ακόμα να παγώσεις όταν τρία πράγματα πάνε στραβά ταυτόχρονα.

Μπορώ να συνεχίσω, αλλά το σημείο είναι ότι η πληροφορία δεν ισοδυναμεί με ικανότητα. Η ικανότητα προέρχεται από την εμπειρία, συγκεκριμένα, από την επαναλαμβανόμενη έκθεση σε ακατάστατα περιβάλλοντα όπου η απάντηση δεν είναι σαφής.

Κάθε μέρα, βλέπω ότι τα περισσότερα από τα σημερινά συστήματα AI εκπαιδεύονται σε στατικά παραδείγματα. Αυτό είναι όλα χρήσιμα για την κάνωντας προβλέψεις, αλλά αυτό είναι μόνο ένα μικρό μέρος της λήψης αποφάσεων. Οι επιχειρήσεις δεν λείπουν σε δεδομένα per se, αλλά χρειάζονται δομημένα περιβάλλοντα για πρακτική, που σημαίνει να δίνουν συστήματα περιβάλλοντα όπου μπορούν να:

• Συναντήσουν πραγματικά σενάρια
• Κάνουν επιλογές
• Δουν τι συμβαίνει
• Λάβουν ανατροφοδότηση
• Βελτιωθούν με την πάροδο του χρόνου

Η AI μπορεί να εκπαιδευτεί χρησιμοποιώντας προβλεπτικά αλγόριθμους, αλλά αυτή η προσέγγιση έχει περιορισμούς. Τι χρειάζεται τώρα είναι AI που μπορεί να εκπαιδευτεί σε ένα προσομοιωμένο περιβάλλον με ανθρώπινη εποπτεία. Το ονομάζω αυτό μηχανική διδασκαλία, μια μεθοδολογία που διασπά τις σύνθετες αποφάσεις σε σενάρια και ικανότητες, παρέχοντας einen οδηγό για ανθρώπινους εμπειρογνώμονες να διδάξουν AI μέσω προσομοίωσης. Η ανταπόκριση και η δοκιμή-σφάλμα τελικά επιτρέπουν στους πράκτορες να μάθουν και να ενεργήσουν με πραγματική αυτονομία απευθείας από τους ανθρώπους που κατασκεύασαν αυτές τις διαδικασίες.

Παύστε να αντιμετωπίζετε την AI σαν μονόλιθο

Ένα άλλο λάθος που βλέπω πολύ είναι η υπόθεση ότι ένα μεγάλο μοντέλο πρέπει κάπως να κάνει τα πάντα. Καμία ομάδα μπάσκετ δεν αποτελείται μόνο από ένα άτομο. Καμία fabrika δεν διευθύνεται από ένα άτομο. Σύνθετα συστήματα λειτουργούν γιατί διαφορετικά συστατικά κάνουν διαφορετικά έργα, και υπάρχει μια δομή που τα κρατάει μαζί.

Η AI πρέπει να κατασκευαστεί με τον ίδιο τρόπο. Δεν πιστεύω ότι η μακροπρόθεσμη μελλοντική επιχείρηση AI είναι ένα γιγαντιαίο μοντέλο που κάθεται στο κέντρο της εταιρείας και υποτιμάται να είναι καθολικά ικανό. Είναι πολύ πιο πιθανό να μοιάζει με ομάδες εξειδικευμένων πρακτόρων.

Ένας πράκτορας θα μπορούσε να είναι ένας εμπειρογνώμονας στην ανάκτηση δεδομένων. Ένας άλλος είναι καλύτερος στην αξιολόγηση σεναρίων. Ένας άλλος χειρίζεται την προγραμματισμό. Ένας ελέγχει τη συμμόρφωση ή πιάνεται τις αντενδείξεις. Ένας άλλος ενεργεί περισσότερο σαν επόπτης, αποφασίζοντας πότε να ανέβει ή πότε η εμπιστοσύνη είναι πολύ χαμηλή για να συνεχίσει. Η αρχιτεκτονική της ομάδας έχει πολύ περισσότερη λογική για μένα επειδή αντιστοιχεί στο πώς λειτουργούν οι πραγματικές οργανώσεις και συγχρονίζεται με ευρύτερες αγορές τάσεις. Τα ευρήματα της McKinsey ενισχύουν ότι οι οργανισμοί λαμβάνουν την περισσότερη αξία από την AI ανασχεδιάζοντας τις ροές εργασιών και τις λειτουργικές δομές γύρω της.

Δεν όλες οι αποφάσεις λαμβάνονται με τον ίδιο τρόπο, και πολύ συχνά υποθέτουμε ότι το ίδιο μοντέλο, τα ίδια δεδομένα και ο ίδιος τύπος συλλογισμού μπορούν να χειριστούν όλες.

Οι τέσσερις τρόποι που οι αποφάσεις συμβαίνουν πραγματικά

Στην εμπειρία μου, οι περισσότερες αποφάσεις τείνουν να πέσουν σε λίγες κατηγορίες:

1. Συστήματα ελέγχου (κανόνες και τύποι): Οι αποφάσεις λαμβάνονται εφαρμόζοντας προκαθορισμένες εξισώσεις ή κανόνες σε γνωστές εισόδους. Αν συμβεί το X, κάνε το Y.
2. Αναζήτηση και βελτιστοποίηση: Οι αποφάσεις λαμβάνονται αξιολογώντας πολλές πιθανές επιλογές και επιλέγοντας την καλύτερη dựaώντας σε ένα καθορισμένο αντικείμενο.
3. Ενίσχυση μάθησης (δοκιμή και λάθος): Οι αποφάσεις μαθαίνονται με την πάροδο του χρόνου λαμβάνοντας ενέργειες, παρατηρώντας αποτελέσματα και điều chỉnhοντας με βάση ανταμοιβή ή ποινή.
4. Πρακτική και εμπειρία (ανθρώπινη μάθηση): Οι αποφάσεις διαμορφώνονται μέσω επαναλαμβανόμενης έκθεσης, καθοδηγούμενης ανατροφοδότησης και συσσωρευμένης κρίσης σε πραγματικά σενάρια.

Πολλά επιχειρηματικά AI κάνουν καλά στις δύο πρώτες κατηγορίες. Οι τρίτες και τέταρτες κατηγορίες είναι πιο δύσκολες για την AI, επειδή εκεί είναι που ζει η ανθρώπινη κρίση.

Αυτονομία χωρίς δομή είναι κίνδυνος

Όταν οι άνθρωποι μιλούν για αυτόνομη AI, η συζήτηση τείνει να χωριστεί σε δύο ακραίες απόψεις. Η μια πλευρά πιστεύει ότι τα συστήματα είναι βασικά μαγικά και έτοιμα να τρέξουν τα πάντα. Η άλλη πλευρά ενεργεί σαν να μην πρέπει ποτέ να εμπιστεύονται τίποτα σημαντικό.

Δεν πιστεύω ότι καμία από τις δύο απόψεις είναι χρήσιμη. Θα πρέπει να εστιάσουμε στην αυτονομία μέσα στη δομή επειδή η αυτονομία χωρίς εποπτεία, λογική ανέβασματος, όρια ή ευθύνη είναι η основная πηγή κινδύνου. Οι ανησυχίες για τον κίνδυνο εμφανίζονται τώρα, επίσης, συμπεριλαμβανομένων σε συζητήσεις που διαμορφώνονται από προσπάθειες όπως το Πλαίσιο Διαχείρισης Κινδύνου AI του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας, το οποίο αντικατοπτρίζει το πόσο σοβαρά οι οργανισμοί λαμβάνουν τις ερωτήσεις της εποπτείας, της ευθύνης και της λειτουργικής εμπιστοσύνης.

Το μέλλον της επιχειρηματικής AI лежει σε ομάδες πρακτόρων. Οι οργανισμοί που λαμβάνουν την περισσότερη αξία από την AI δεν θα είναι αυτοί που αυτοματοποιούν τις περισσότερες λέξεις. Είναι αυτοί που καταφέρνουν να μεταφέρουν πραγματική εμπειρογνωμοσύνη σε συστήματα που μπορούν να αντέξουν όταν το περιβάλλον γίνεται ακατάστατο. Αυτό, κατά τη γνώμη μου, είναι η διαφορά μεταξύ AI που φαίνεται εντυπωσιακό και AI που γίνεται πραγματικά χρήσιμο, παράγοντας πραγματική απόδοση επένδυσης.