Γιού Σου, Συνιδρυτής και Διευθύνων Σύμβουλος της NeoCognition – Σειρά Συνεντεύξεων

Γιού Σου, Συνιδρυτής και Διευθύνων Σύμβουλος της NeoCognition, είναι ένας μακροχρόνιος ερευνητής της τεχνητής νοημοσύνης, ο οποίος έχει εργαστεί στην ακαδημία, στην επιχείρηση AI και στα προηγμένα συστήματα πρακτόρων. Εκτός από την ηγεσία της NeoCognition, διατελεί ως Αναπληρωτής Καθηγητής και Επιστήμονας Καινοτομίας στο Πανεπιστήμιο του Οχάιο, όπου το έργο του έχει επικεντρωθεί σε πράκτορες AI, συστήματα συλλογισμού και μηχανική μάθηση. Το ιστορικό του περιλαμβάνει επίσης περισσότερα από έξι χρόνια ως Ανώτερος Ερευνητής στη Microsoft (MSFT ), όπου εργάστηκε μαζί με κορυφαίους ερευνητές, συμπεριλαμβανομένου του Percy Liang, σε συστήματα対話τικής AI για το Outlook, χρησιμοποιώντας τεχνικές σεμαντικής ανάλυσης. Σε ρόλους στη Microsoft, την ακαδημία και τα ερευνητικά ιδρύματα, όπως το IBM T.J. Watson Research Center, ο Γιού Σου έχει建立σει μια φήμη για την προώθηση συστημάτων AI που μπορούν να συλλογιστούν, να μαθαίνουν και να αλληλεπιδρούν με σύνθετα ψηφιακά περιβάλλοντα, βοηθώντας να γεφυρωθεί το χάσμα μεταξύ προηγμένης έρευνας και πραγματικών εφαρμογών.

NeoCognition είναι μια εταιρεία έρευνας πρακτόρων AI που επικεντρώνεται στην ανάπτυξη того που περιγράφει ως «ειδικευμένη νοημοσύνη» — συστήματα AI που συνεχώς μαθαίνουν και βελτιώνουν μέσω της εμπειρίας. Ιδρυμένη από κορυφαίους ερευνητές AI, η εταιρεία ακολουθεί μια οράση που ξεπερνά τα στατικά μεγάλης κλίμακας μοντέλα γλωσσών προς πράκτορες που μπορούν να αναπτύξουν βαθιά εξειδίκευση σε συγκεκριμένα πεδία. Η έρευνά της επικεντρώνεται σε περιοχές όπως η συνεχής μάθηση, ο συλλογισμός, η σχεδίαση, η χρήση εργαλείων και η συνεργασία πολλών πρακτόρων, με στόχο τη δημιουργία συστημάτων AI που γίνονται πιο ικανοί και αξιόπιστοι με τον καιρό. Συνδυάζοντας προόδους στη μηχανική μάθηση με δομημένο συλλογισμό και τεχνικές προσαρμοστικής μάθησης, η NeoCognition στοχεύει να βοηθήσει στη διαμόρφωση της επόμενης γενιάς πρακτόρων AI που μπορούν να αντιμετωπίσουν ολοένα και πιο σύνθετα πραγματικά προβλήματα.

Πολυάριθμες εταιρείες βιάστηκαν να κυκλοφορήσουν γενικούς συνπιλότους AI, αλλά ακούμε ολοένα και περισσότερες ανησυχίες σχετικά με την αξιοπιστία όταν αυτά τα συστήματα εισέρχονται σε πραγματικές παραγωγικές περιβάλλοντα. Γιατί πιστεύετε ότι τόσοι πολλοί τρέχοντες πράκτορες AI δυσκολεύονται έξω από ελεγχόμενα demo;

Οι περισσότεροι τρέχοντες πράκτορες AI δυσκολεύονται στην παραγωγή因为 είναι ακόμη θεμελιωδώς γενικιστές που λειτουργούν χωρίς μια ανθεκτική κατανόηση του περιβάλλοντος στο οποίο εργάζονται. Μπορούν συχνά να ολοκληρώσουν μια εργασία μια φορά σε ένα demo, αλλά αυτό είναι πολύ διαφορετικό από το να αναπτύξουν επαναλαμβανόμενη κρίση μέσα σε ένα πραγματικό λειτουργικό σύστημα.

Τα σημερινά μοντέλα είναι εντυπωσιακοί αντιστοίχοι προτύπων, αλλά ακόμη λείπουν των μηχανισμών που οι άνθρωποι χρησιμοποιούν για να γίνουν αξιόπιστοι εμπειρογνώμονες. Οι άνθρωποι δεν γίνονται αξιόπιστοι με την απομνημόνευση απομονωμένων εργασιών. Ειδικεύουμε μαθαίνοντας τη δομή ενός συγκεκριμένου κόσμου: τις ροές εργασίας, τους περιορισμούς, τις σχέσεις, τα εργαλεία, τις προτεραιότητες και τις συνέπειες που ορίζουν μια επαγγελματική δραστηριότητα ή οργανισμό. Με τον καιρό, χτίζουμε ένα εσωτερικό μοντέλο λειτουργίας αυτού του περιβάλλοντος, και αυτό το μοντέλο είναι αυτό που επιτρέπει τις καλές αποφάσεις να γίνουν συνεχείς και επαναλαμβανόμενες.

Οι περισσότεροι πράκτορες AI σήμερα δεν χτίζουν αυτό το είδος λειτουργικής κατανόησης. Εξαρτώνται nặng από την προώθηση, την ανάκτηση ή τις στρώσεις ορχήστρασης που τους βοηθούν να ολοκληρώσουν απομονωμένες ενέργειες, αλλά εξακολουθούν να импровίζουν κάθε φορά που συναντούν μια νέα κατάσταση. Αυτός είναι ο λόγος για τον οποίο η απόδοση συχνά καταρρέει όταν το περιβάλλον αλλάζει και ακόμη περισσότερο όταν γίνεται ακατάστατο, δυναμικό ή υψηλού κινδύνου.

Το λείπων κομμάτι είναι η εξειδίκευση. Οι άνθρωποι ευημερούν επειδή μπορούμε να προσαρμοστούμε συνεχώς σε αλλαγμένα περιβάλλοντα και να γίνουμε εμπειρογνώμονες μέσα σε αυτά μέσω της συνεχούς μάθησης. Πιστεύουμε ότι οι πράκτορες AI χρειάζονται μια παρόμοια ικανότητα: την ικανότητα να μαθαίνουν τη τοπική δομή ενός πεδίου αρκετά sâu για να λειτουργήσουν με πραγματική ικανότητα.

Η NeoCognition έχει περιγράψει την οράση της ως την ανάπτυξη πρακτόρων που μπορούν να μαθαίνουν και να προσαρμόζονται συνεχώς όπως οι άνθρωποι. Τι σημαίνει αυτό τεχνικά σε σύγκριση με τις στατικές μεθόδους fine-tuning ή τις προσεγγίσεις που βασίζονται στην ανάκτηση που πολλές επιχειρήσεις εξαρτώνται σήμερα;

Τα περισσότερα συστήματα AI επιχειρήσεων σήμερα βελτιώνουν την απόδοση είτε με την εκπαίδευση ενός μοντέλου μια φορά είτε με την ανάκτηση σχετικών πληροφοριών κατά την εύρεση. Αυτές οι προσεγγίσεις μπορούν να είναι χρήσιμες, αλλά δεν επιτρέπουν ουσιαστικά σε ένα πράκτορα να αναπτύξει εξελισσόμενη εξειδίκευση μέσα σε ένα πεδίο.

Η εκπαίδευση είναι τυπικά στατική μετά την εκπαίδευση. Τα συστήματα ανάκτησης βοηθούν στην εμφάνιση πληροφοριών, αλλά η ανάκτηση γνώσης δεν είναι το ίδιο με την ανάπτυξη εξειδίκευσης πεδίου ή την προσαρμογή της συμπεριφοράς με βάση την εμπειρία με τον καιρό. Σε πολλές περιπτώσεις, ο πράκτορας εξακολουθεί να λείπει ενός σταθερού μοντέλου του περιβάλλοντος στο οποίο λειτουργεί.

Όταν ένας άνθρωπος εντάσσεται σε μια εταιρεία, δεν γίνεται αποτελεσματικός απλά και μόνο επειδή μπορεί να αναζητήσει έγγραφα. Σταδιακά αναπτύσσει κρίση κατανοώντας πώς η οργάνωση λειτουργεί πραγματικά και η εξειδίκευση προκύπτει από την συνεχή βελτίωση αυτού του εσωτερικού μοντέλου.

Πιστεύουμε ότι η επόμενη γενιά πρακτόρων χρειάζεται einen παρόμοιο μηχανισμό μάθησης. Στη NeoCognition, επικεντρωνόμαστε στην ενεργοποίηση πρακτόρων να σχηματίζουν αυτά τα είδη εξελισσόμενων λειτουργικών μοντέλων, ώστε να μπορούν να εξειδικευτούν και να βελτιωθούν συνεχώς μέσα σε ένα πεδίο με τον καιρό, αντί να ξεκινούν ξανά από την αρχή ή να εξαρτώνται από συνεχή ανθρώπινη επανεπεξεργασία.

Φαίνεται να υπάρχει μια αυξανόμενη διαίρεση μεταξύ πειραματισμού AI και λειτουργικής αξιοπιστίας. Οι επιχειρήσεις μπορεί να προωθήσουν επιτυχώς πράκτορες εσωτερικά, αλλά η ανάπτυξή τους σε κλίμακα είναι ένα ganz άλλο πρόκληση. Τι υποτιμούν οι οργανισμοί σχετικά με αυτή τη μετάβαση;

Πολυάριθμες οργανισμοί υποτιμούν πόσο δυναμικά είναι τα πραγματικά λειτουργικά περιβάλλοντα. Ένας πράκτορας που εκτελεί με ακρίβεια 85% μπορεί να ακούγεται ισχυρός σε δοκιμές, αλλά σε κλίμακα επιχείρησης αυτό μεταφράζεται ακόμη σε μια συνεχή ροή σφαλμάτων και καταστάσεων ανάκτησης που οι ανθρώπινες ομάδες πρέπει να διαχειριστούν. Η πρόκληση γίνεται ακόμη πιο σημαντική σε πολλαπλά βήματα ροών εργασίας όπου οι αποτυχίες επικαλύπτουν συστήματα και εργασίες, καθιστώντας την εποπτεία, την παρέμβαση και την ευθύνη πολύ πιο δύσκολη από ό,τι αρχικά περιμένουν οι οργανισμοί.

Οι επιχειρήσεις εξακολουθούν να αντιμετωπίζουν την ανάπτυξη ως πρόβλημα ορχήστρασης ή προώθησης, όταν στην πραγματικότητα είναι επίσης ένα πρόβλημα μάθησης. Το δύσκολο μέρος δεν είναι απλά να κάνετε ένα πράκτορα να εκτελέσει μια εργασία. Είναι να ενεργοποιήσετε το σύστημα να αναπτύξει διαρκή ικανότητα και κρίση μέσα σε ένα δυναμικό λειτουργικό περιβάλλον.

Το βάρος της προσαρμογής, της προώθησης, της επιτήρησης και της επανεπεξεργασίας εξακολουθεί να πέφτει βαριά στις ανθρώπινες ομάδες σήμερα. Αυτό είναι συχνά ένα σημάδι ότι το σύστημα εξακολουθεί να λείπει λειτουργικής κατανόησης· εξακολουθούν να οδηγούνται χειροκίνητα μέσα από αυτό κάθε φορά. Αυτό δεν είναι ένας δρόμος προς την κλίμακα ή την αξιοπιστία.

Ένας σημαντικός άξονας που εμφανίζεται σε όλη την βιομηχανία AI είναι η διακυβέρνηση, τα φράγματα και η επιβολή πολιτικής. Ωστόσο, η NeoCognition υποστηρίζει ότι η διακυβέρνηση μόνο δεν είναι αρκετή. Γιατί πιστεύετε ότι η αξιοπιστία τελικά απαιτεί συστήματα που συνεχώς προσαρμόζονται στο περιβάλλον τους αντί να ακολουθούν στατικά κανόνες;

Η διακυβέρνηση και τα φράγματα είναι εξαιρετικά σημαντικά, αλλά οι στατικοί κανόνες μόνο δεν μπορούν να λύσουν πλήρως την αξιοπιστία σε σύνθετα περιβάλλοντα.

Παραγωγικά λειτουργικά συστήματα είναι συνεχώς σε αλλαγή. Οι ροές εργασίας εξελίσσονται, τα εργαλεία ενημερώνονται, οι πολιτικές μεταβάλλονται και αναπάντεχες καταστάσεις εμφανίζονται που δεν μπορούν πάντα να προβλεφθούν εκ των προτέρων. Αν ένας πράκτορας γνωρίζει μόνο πώς να ακολουθήσει προκαθορισμένους κανόνες χωρίς να κατανοήσει το περιβάλλον στο οποίο λειτουργεί, θα συναντήσει τελικά καταστάσεις που αυτοί οι κανόνες δεν έχουν ληφθεί υπόψη.

Η αξιοπιστία των ανθρώπων προέρχεται από την κρίση, όχι μόνο από τη σκληρή συμμόρφωση με σενάρια, αλλά επειδή αναπτύσσουμε κρίση κατανοώντας τη δομή και τους περιορισμούς του κόσμου γύρω μας. Μαθαίνουμε πότε να ανυψώνουμε, πότε κάτι φαίνεται ανώμαλο και πότε η контекστ αλλάζει τη σωστή πορεία δράσης.

Πιστεύουμε ότι οι πράκτορες AI χρειάζονται μια παρόμοια ικανότητα προσαρμογής και περιβαλλοντικής κατανόησης. Ασφαλέστερα συστήματα θα προέρχονται από το να τα κάνουμε πιο ικανούς και εξειδικευμένους μέσα σε καθορισμένα λειτουργικά κόσμους. Αυτού του είδους το σύστημα παρατηρεί το δικό του περιβάλλον και τις δικές του εξόδους και παρακολουθεί όπου αποτυγχάνει και ενημερώνει τη συμπεριφορά του.

Η βιομηχανία AI συχνά τονίζει μεγαλύτερα μοντέλα και ευρύτερες ικανότητες, αλλά η NeoCognition φαίνεται να επικεντρώνεται στην εξειδίκευση και την περιβαλλοντική μάθηση. Πιστεύετε ότι το μέλλον των επιχειρηματικών πρακτόρων AI θα μοιάζει περισσότερο με εξειδικευμένους ψηφιακούς εργαζόμενους παρά με καθολικούς βοηθούς;

Πιστεύουμε ισχυρά ότι το μέλλον θα οδηγηθεί από την εξειδίκευση. Η βιομηχανία έχει κατανοητά επικεντρωθεί σε ολοένα και πιο γενικά μοντέλα επειδή η ευρεία ικανότητα είναι εντυπωσιακή. Αλλά σε επιχειρηματικά περιβάλλοντα, η πραγματική πρόκληση δεν είναι αν ένας πράκτορας μπορεί να κάνει λίγο από τα πάντα. Είναι αν μπορεί να εκτελέσει ένα συγκεκριμένο ρόλο με αξιοπιστία και σωστή κρίση με τον καιρό. Η δύναμή μας δεν είναι ότι γεννιόμαστε εμπειρογνώμονες σε κάθε περιβάλλον. Είναι ότι μπορούμε να μάθουμε τη δομή ενός συγκεκριμένου κόσμου αρκετά sâu για να λειτουργήσουμε αποτελεσματικά μέσα σε αυτό.

Στη NeoCognition, πιστεύουμε ότι το μέλλον δεν θα είναι ένα siêu-πράκτορας που κάνει τα πάντα. Αντίθετα, θα είναι μια αφθονία εξειδικευμένων πρακτόρων, каждый από τους οποίους μαθαίνει έναν συγκεκριμένο κόσμο αρκετά sâu για να λειτουργήσει με εξειδικευμένη ικανότητα, αξιοπιστία και κρίση. Ο σκοπός τους δεν είναι να αντικαταστήσουν την ανθρώπινη εξειδίκευση, αλλά να την κάνουν πιο αφθονή: να τοποθετήσουν ικανότητες πρώτης τάξης σε πολλά περισσότερα χέρια και να αυξήσουν το βασικό επίπεδο του τι μπορεί να κάνει οποιοσδήποτε άνθρωπος ή οργανισμός.

Μια από τις μεγαλύτερες ανησυχίες που περιβάλλουν τους αυτόνομους πράκτορες είναι πώς συμπεριφέρονται όταν τα περιβάλλοντα αλλάζουν απροσδόκητα. Πόσο σημαντική είναι η προσαρμογή στο πραγματικό κόσμο και η περιβαλλοντική ευαισθησία για την πρόληψη αποτυχιών, ψευδαισθήσεων ή ασφαλών ενεργειών;

Είναι απολύτως κρίσιμο. Χωρίς περιβαλλοντική ευαισθησία, οι πράκτορες μπορούν να συνεχίσουν να ενεργούν με εμπιστοσύνη ακόμη και όταν η κατανόησή τους για την κατάσταση είναι παλιά ή ελλιπής. Αυτό είναι όπου οι λειτουργικές αποτυχίες συχνά εμφανίζονται.

Πιστεύουμε ότι η αξιοπιστία απαιτεί τους πράκτορες να μαθαίνουν συνεχώς τη τοπική δομή του περιβάλλοντος στο οποίο λειτουργούν και να ενημερώνουν την κατανόησή τους με τον καιρό. Η αξιοπιστία αλλάζει και εξελίσσεται με τον καιρό: τι φαινόταν αξιόπιστο τον Σεπτέμβριο μπορεί να μην φαίνεται το ίδιο τον Μάιο. Όσο πιο sâu ένας πράκτορας κατανοεί τα συστήματα, τους περιορισμούς, τις ροές εργασίας και τις σχέσεις γύρω του, τόσο πιο ικανός γίνεται να αναγνωρίσει όταν οι συνθήκες έχουν αλλάξει ή όταν η αβεβαιότητα απαιτεί ανύψωση.

Πόσο κοντά πιστεύετε ότι είναι η βιομηχανία στο να αναπτύξει συστήματα AI που μπορούν πραγματικά να βελτιώσουν τον εαυτό τους μέσω της συνεχούς αλληλεπίδρασης με πραγματικά λειτουργικά περιβάλλοντα;

Είμαστε ακόμη στην αρχή της κατασκευής των υποκείμενων μηχανισμών μάθησης που απαιτούνται για την αξιοπιστία της συνεχούς μάθησης και της αυτοβελτίωσης, αλλά η βιομηχανία είναι πολύ πιο κοντά σε αυτή τη μετάβαση από ό,τι πολλοί άνθρωποι συνειδητοποιούν. Ζούμε σε einen συμπιεσμένο χρονοδιάγραμμα. Τα συστατικά για την επόμενη τεχνολογική επανάσταση είναι έτοιμα. Μπορεί να συμβεί πολύ σύντομα.

Τι είναι σημαντικό δεν είναι απλά η αυτοβελτίωση στο αφηρημένο, αλλά η δομημένη εξειδίκευση μέσα σε πραγματικά περιβάλλοντα. Αυτό σημαίνει μάθηση ροών εργασίας, περιορισμών, σχέσεων και προτύπων επιτυχημένης συμπεριφοράς με τρόπους που είναι σταθεροί, κυβερνώσιμοι και ανθεκτικοί σε καταστροφική λήθη. Αυτό είναι το πρόβλημα στο οποίο επικεντρωνόμαστε στη NeoCognition.

Κοιτάζοντας μπροστά σε vài χρόνια, τι πιστεύετε ότι θα χωρίσει τελικά τους αξιόπιστους επιχειρηματικούς πράκτορες AI από την κυμαία πειραματικών συστημάτων που πλημμυρίζουν την αγορά;

Τα συστήματα που θα επιτύχουν θα είναι αυτά που θα φαίνονται λιγότερο σαν παιχνίδια και περισσότερο σαν αξιόπιστοι χειριστές.

Η καθαρή ικανότητα του μοντέλου μόνο δεν θα είναι αρκετή. Οι επιχειρήσεις θα φροντίσουν τελικά αν οι πράκτορες μπορούν να λειτουργήσουν συνεχώς μέσα στα πραγματικά περιβάλλοντά τους, να κατανοήσουν τις τοπικές ροές εργασίας και τους περιορισμούς, να σεβαστούν τα όρια και τις άδειες, να προσαρμοστούν ασφαλώς με τον καιρό και να παράγουν επαναλαμβανόμενα αποτελέσματα.

Οι νικητές του μέλλοντος στην επιχειρηματική AI δεν θα είναι απλά τα συστήματα που μπορούν να απαντήσουν το ευρύτερο φάσμα ερωτημάτων. Θα είναι τα συστήματα που μπορούν να μάθουν έναν συγκεκριμένο λειτουργικό κόσμο αρκετά sâu για να ενεργήσουν με πραγματική ικανότητα, κρίση και αξιοπιστία μέσα σε αυτό.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν NeoCognition.