Η τεχνητή νοημοσύνη γίνεται εξυπνότερη· η συνοχή γίνεται δυσκολότερη

Έχω αφιερώσει ολόκληρη την επαγγελματική μου πορεία στην προσπάθεια να κατανοήσω τη νοημοσύνη. Σπούδασα νευροεπιστήμη επειδή με ενδιέφερε η τεχνητή νοημοσύνη και σκέφτηκα πως ένας καλός τρόπος να ξεκινήσω ήταν να μάθω πρώτα πώς λειτουργεί ο εγκέφαλος. Πρώτα η νοημοσύνη, πριν από την «τεχνητή» νοημοσύνη. Αυτή η εκπαίδευση μου άφησε μια συνήθεια. Όταν εμφανίζεται μια νέα δυνατότητα ή τεχνολογία, η πρώτη μου ερώτηση είναι πρακτική. Τι μπορεί πραγματικά να κάνει και για ποια είδη προβλημάτων του πραγματικού κόσμου;

Ως άνθρωπος του χώρου της τεχνητής νοημοσύνης, σπάνια ενθουσιάζομαι με τους τίτλους ειδήσεων γύρω από αυτήν. Κοιτάζω πέρα από τον θόρυβο, για να κατανοήσω όχι μόνο τις σημαντικές εξελίξεις, αλλά και τα όρια των νέων δυνατοτήτων.

Από τα πεζά εργαλεία στην αξιοπιστία με πραγματικό διακύβευμα

Πίσω στο 2020, όταν η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης είχε φουντώσει από τον υπερβολικό ενθουσιασμό, είχα μια απλή συμβουλή. Να αντιμετωπίζουμε την τεχνητή νοημοσύνη ως εργαλείο — ισχυρό, αλλά και πάλι εργαλείο. Να μένουμε στις πεζές περιπτώσεις χρήσης. Να δουλεύουμε στο επίπεδο της επιμέρους εργασίας, όπου η τεχνολογία ήταν αρκετά αξιόπιστη ώστε να βοηθά. Το αισιόδοξο σενάριό μου ήταν ένας κόσμος με πεζά αλλά χρήσιμα εργαλεία.

Όταν, μερικά χρόνια αργότερα, άρχισε να αναπτύσσεται το κύμα των πρακτόρων τεχνητής νοημοσύνης, υιοθέτησα την ίδια οπτική και δεν πείστηκα. Ένα σύστημα πρακτόρων είναι τόσο ισχυρό όσο οι επιμέρους εργασίες που το στηρίζουν, και δεν είχα ακόμη δει την αξιοπιστία σε επίπεδο εργασίας που απαιτείται για να είναι αποτελεσματικά αυτά τα συστήματα.

Ωστόσο, ο ενθουσιασμός μεγάλωνε. Όταν παρακολούθησα το RSA στις αρχές της περασμένης χρονιάς, το χάσμα ανάμεσα στα λόγια και την ουσία εξακολουθούσε να είναι δύσκολο να αγνοηθεί. Δεν υπήρχε καν κοινή αντίληψη για το τι σήμαινε ο όρος «agentic»· ο καθένας είχε διαφορετικό ορισμό και διαφορετική οπτική. Και με ανησυχούσε κάτι δομικό. Ας πάρουμε δέκα πράκτορες, τον καθένα με ακρίβεια περίπου 95%. Ας τους συνδέσουμε έτσι ώστε η έξοδος του ενός να γίνεται είσοδος του επόμενου. Στο τέλος αυτής της αλυσίδας, η ακρίβεια πέφτει περίπου στο 60%. Η αξιοπιστία δεν αντέχει όταν οι επιμέρους επιδόσεις στοιβάζονται. Εκείνη την περίοδο άρχισα να σκέφτομαι συστήματα πρακτόρων, αν και εξακολουθούσα να ανησυχώ για το αν μπορούσε κανείς να βασιστεί σε αυτά ώστε να λειτουργούν και να κάνουν ουσιαστική διαφορά.

Ύστερα, οι ραγδαίες βελτιώσεις στους πράκτορες προγραμματισμού άλλαξαν γνώμη.

Μέσα σε λίγους μήνες από τη δημοσίευση του άρθρου μου για το θέμα, ο απίστευτος ρυθμός προόδου μού ξεκαθάρισε ένα πράγμα. Ήταν θέμα χρόνου να επιτευχθεί αξιοπιστία σε αρκετές εργασίες του πραγματικού κόσμου. Καλύτερα μοντέλα, πλαισιωμένα από καλύτερες μηχανικές υποδομές, θα έκλειναν το χάσμα που με ανησυχούσε. Το όριο που με προβλημάτιζε θα έπαυε να αποτελεί εμπόδιο.

Τότε άρχισε να διαφαίνεται το πραγματικό πρόβλημα, και δεν ήταν αυτό που παρακολουθούσα. Μόλις μπορείς να εμπιστευτείς τους μεμονωμένους πράκτορες, δεν σταματάς στην ανάπτυξη του πρώτου. Αναπτύσσεις πολλούς. Ολόκληρους στόλους, σε κάθε λειτουργία, με τον καθένα ικανό και να κάνει τη δουλειά του. Και προέκυψε ένα νέο ερώτημα, άσχετο με την αξιοπιστία. Αν κάθε πράκτορας του στόλου κάνει αυτό για το οποίο κατασκευάστηκε, εξακολουθεί ο στόλος, ως σύνολο, να ανταποκρίνεται σε αυτό που είχε σκοπό να πετύχει ο οργανισμός;

Η ανάγκη για οργανωσιακή ιδιοδεκτικότητα

Ένα σώμα με ικανά άκρα δεν μπορεί να κινείται ομαλά χωρίς ιδιοδεκτικότητα, δηλαδή τη διαρκή εσωτερική αίσθηση της θέσης όλων των μερών του και του τι κάνουν. Η παρεγκεφαλίδα δεν αντιδρά απλώς σε αυτή την ανατροφοδότηση. Κάνει προβλέψεις. Όταν ο εγκέφαλος δίνει εντολή για μια κίνηση, σχηματίζει μια προσδοκία για την αίσθηση που θα έπρεπε να προκαλέσει η κίνηση και στη συνέχεια τη συγκρίνει με αυτό που πράγματι συμβαίνει. Η απόκλιση ανάμεσα στα δύο είναι το σήμα που διορθώνει την επόμενη κίνηση. Η επιδέξια κίνηση είναι ένας κύκλος πρόβλεψης του αποτελέσματος και διόρθωσης της απόκλισης.

Ένας οργανισμός που λειτουργεί στόλους πρακτόρων χρειάζεται την ίδια αίσθηση του εαυτού του. Πρέπει να γνωρίζει διαρκώς πού βρίσκονται τα συστήματά του και πόσο έχουν απομακρυνθεί από την επιθυμητή κατάστασή τους. Χωρίς αυτή την εσωτερική επίγνωση, τα ικανά μέρη δεν συνδυάζονται σε συντονισμένη δράση. Δεν πρόκειται για έναν μηχανισμό αντίληψης που προσθέτεις εκ των υστέρων σε ένα σώμα για να το κάνεις ασφαλέστερο. Είναι απαραίτητος για να μπορέσει το σώμα να κινηθεί.

Υπάρχει η ευρέως μελετημένη περίπτωση ενός άνδρα ονόματι Ian Waterman, ο οποίος έχασε αυτή την αίσθηση στο μεγαλύτερο μέρος του σώματός του. Έμαθε ξανά να κινείται, αλλά μόνο παρακολουθώντας τον εαυτό του και καθοδηγώντας με τα μάτια του κάθε βήμα και κάθε έκταση του χεριού. Αυτό λειτουργεί. Είναι όμως εξαντλητικό και εύθραυστο. Αν σβήσουν τα φώτα, δεν μπορεί να συντονιστεί καθόλου. Ένας οργανισμός που εποπτεύει τους πράκτορές του μέσω χειροκίνητων ελέγχων και περιοδικών αξιολογήσεων βρίσκεται στην ίδια θέση. Αντισταθμίζει με συνεχή προσπάθεια μια αίσθηση που δεν ενσωμάτωσε ποτέ, και αυτή η αντιστάθμιση κοστίζει περισσότερο από αυτό που υποκαθιστά. Ολόκληρο το σύστημα καταρρέει μόλις αλλάξουν οι συνθήκες.

Υπάρχει και μια ακόμη πιο παράδοξη αστοχία που αξίζει να αναφερθεί, η οποία περιγράφεται σε ένα συναρπαστικό βιβλίο του νευροεπιστήμονα V S Ramachandran. Όταν ακρωτηριάζεται ένα άκρο, ο εγκέφαλος δεν σιωπά. Συνεχίζει να στέλνει σήματα για το άκρο που λείπει, και το άτομο τα αισθάνεται έντονα. Η εποπτεία μπορεί να αποτύχει με τον ίδιο τρόπο. Αν, λόγω αναδιάρθρωσης ή παραμέλησης, αφαιρεθεί η ουσιαστική κρίση από μια λειτουργία εποπτείας, αυτή δεν παύει να λειτουργεί. Οι αξιολογήσεις εξακολουθούν να ολοκληρώνονται και οι μετρήσεις να παράγονται. Ο οργανισμός εξακολουθεί να αισθάνεται ότι εποπτεύεται, ενώ η κρίση που βρίσκεται πίσω από αυτή την εποπτεία έχει αποδυναμωθεί εκ των έσω. Εδώ επανέρχεται η συμβουλή μου του 2020, σχετικά με τη διαφάνεια. Δεν υπάρχει εποπτεία χωρίς διαφάνεια, και δεν υπάρχει διαφάνεια σε ένα σύστημα που απλώς δημιουργεί την εντύπωση ότι βρίσκεται υπό παρακολούθηση.

Η συνοχή ως σπάνιος πόρος

Η νοημοσύνη γίνεται φθηνότερη. Σύντομα θα βρίσκεται σε κάθε ροή εργασίας και σε κάθε εργαλείο. Σε αυτόν τον κόσμο, ο σπάνιος πόρος είναι η συνοχή: ο ζωντανός σύνδεσμος ανάμεσα σε όσα κάνει κάθε σύστημα από μόνο του και σε όσα προσπαθεί να πετύχει η επιχείρηση. Η συνοχή είναι ο συνδετικός ιστός που διατηρεί την ευθυγράμμιση της κατανεμημένης νοημοσύνης με έναν και μόνο σκοπό.

Πέρασα χρόνια μελετώντας πώς ο εγκέφαλος συντονίζει τα πολλά μέρη του ώστε να λειτουργούν ως ένα. Η εποχή των πρακτόρων ΤΝ θέτει στην επιχείρηση το ίδιο ερώτημα. Ο στόχος δεν έχει αλλάξει από το 2020. Βαρετό, αλλά χρήσιμο — ακόμη. Τώρα, το βαρετό αλλά χρήσιμο πράγμα που πρέπει να οικοδομηθεί είναι η ίδια η συνοχή.