Babak Hodjat, Chief AI Officer at Cognizant: Μια Επιστροφή Συζήτησης

Babak Hodjat, Chief AI Officer at Cognizant, ηγείται των AI Research Labs της εταιρείας, όπου η δουλειά του καλύπτει agentic AI, εξελικτικούς αλγορίθμους, κατανεμημένη νοημοσύνη και την ανάπτυξη συστημάτων AI σχεδιασμένων για ευρεία επιχειρησιακή υλοποίηση. Ένας μακρόχρονος ερευνητής AI, εφευρέτης και επιχειρηματίας, ο Hodjat είχε προηγουμένως συνιδρύσει τη Sentient Technologies, όπου συνέβαλε στην κατασκευή ενός από τα μεγαλύτερα κατανεμημένα συστήματα AI παγκοσμίως, και νωρίτερα συνιδρύει τη Dejima, αναπτύσσοντας τεχνολογία φυσικής γλώσσας προσανατολισμένης σε πράκτορες που συνέβαλε στα θεμέλια του Siri της Apple.

Όταν προηγουμένως μιλήσαμε με Babak Hodjat, η συζήτησή μας εξερεύνησε την καριέρα του στην AI, τις εξελικτικές προσεγγίσεις στη λήψη σύνθετων αποφάσεων, το έργο της Cognizant στην εφαρμογή AI σε προκλήσεις κλίματος και χρήσης γης, καθώς και τη διαδοχική δημοκρατικοποίηση της AI σε όλη την επιχείρηση. Σε αυτή τη συνέχεια της συνέντευξης, η εστίαση μετατοπίζεται προς την ταχέως αναδυόμενη agentic enterprise. Βασιζόμενος σε θέματα από το πρόσφατο βιβλίο του, The Agentic Enterprise, ο Hodjat εξετάζει γιατί η αρχιτεκτονική μπορεί να έχει μεγαλύτερη σημασία από τις δυνατότητες του μοντέλου, πώς οι οργανισμοί μπορούν να συντονίσουν ολοένα πιο σύνθετα δίκτυα πρακτόρων AI, πού ταιριάζει η κεντρική εμπιστοσύνη και διακυβέρνηση σε αποκεντρωμένα οικοσυστήματα πρακτόρων, και τι πρέπει ακόμη να αλλάξει προτού τα αυτόνομα συστήματα μπορούν αξιόπιστα να διαχειρίζονται μακροπρόθεσμους στόχους με ελάχιστη ανθρώπινη παρέμβαση.

Η καριέρα σας περιλαμβάνει μερικές από τις πρώτες εργασίες πάνω σε έξυπνους πράκτορες, από την τεχνολογία φυσικής γλώσσας της Dejima που βοήθησε στην έμπνευση του Siri, μέχρι την κατασκευή τεράστιων κατανεμημένων συστημάτων AI στη Sentient και τώρα ως Chief AI Officer στη Cognizant. Πώς έχει εξελιχθεί ο ορισμός σας για έναν “AI agent” κατά τη διάρκεια αυτής της πορείας, και τι μπορούν να μάθουν οι σύγχρονοι προγραμματιστές από εκείνες τις πρώτες γενιές συστημάτων βασισμένων σε πράκτορες;

Ο ορισμός παραμένει ο ίδιος, αλλά οι δυνατότητες των πρακτόρων σήμερα σημαίνουν ότι πολλές από τις βασικές λειτουργίες ενός πράκτορα που έπρεπε να κωδικοποιούμε τη δεκαετία του 90 είναι πλέον διαθέσιμες έτοιμες με τα LLM. Γι’ αυτό οι πράκτορες βασισμένοι σε LLM είναι το πρότυπο τώρα, και όταν οι άνθρωποι μιλούν για πράκτορες, υποθέτουν ότι υπάρχει ένα LLM που τροφοδοτεί τη διεπαφή και τη λογική του.

Στο πρόσφατο βιβλίο σας, The Agentic Enterprise, υποστηρίζετε ότι τα συστήματα AI επιχειρήσεων συχνά πετυχαίνουν ή αποτυγχάνουν λόγω της αρχιτεκτονικής τους και όχι της ακατέργαστης ικανότητας του υποκείμενου μοντέλου. Τι κάνουν λάθος οι εταιρείες όταν υποθέτουν ότι η αναβάθμιση σε ένα πιο ισχυρό μοντέλο θα λύσει τα προβλήματα agentic AI τους;

Όπως οι ζώνες (δηλαδή τα μη‑LLM μέρη ενός πράκτορα) μπορούν να κάνουν ή να σπάσουν έναν κωδικοποιητικό πράκτορα, η αρχιτεκτονική ενός πολυ‑πρακτικού συστήματος είναι κρίσιμη για την επιτυχία του. Αυτό συμβαίνει επειδή η αρχιτεκτονική αντανακλά το πλαίσιο μέσα στο οποίο πρέπει να λειτουργούν οι πράκτορες — κάτι σαν το σκελετό που κρατάει ενωμένη την agentic enterprise. Χωρίς αυτήν, οι πράκτορες παραμένουν αποσυνδεδεμένοι από τις πραγματικότητες των επιχειρησιακών λειτουργιών, δεδομένων, ροών εργασίας και διαδικασιών. Αυτό είναι κάπως ανάλογο της οργανωτικής δομής μιας επιχείρησης, η οποία περιλαμβάνει τις περιγραφές θέσεων, τους ορισμούς διαδικασιών και τα πρωτόκολλα επικοινωνίας για τους υπαλλήλους.

Έχετε τονίσει ότι το περιβάλλον σύστημα, συμπεριλαμβανομένων των ελέγχων πρόσβασης, της λογοδοσίας, του συντονισμού, της παρατηρησιμότητας και της εποπτείας, μπορεί να έχει μεγαλύτερη σημασία από το ίδιο το μοντέλο. Τι χρειάζεται πραγματικά μια παραγωγικά έτοιμη αρχιτεκτονική πρακτορικού χαρακτήρα, που λείπει στις περισσότερες υλοποιήσεις proof‑of‑concept;

Τα proof of concepts (PoC) συχνά δεν είναι καλά θεμελιωμένα, επομένως για αρχή χρειάζεται οι πράκτορες να λειτουργούν σε ένα περιβάλλον όπου έχουν πρόσβαση στα εσωτερικά δεδομένα και εφαρμογές της εταιρείας. Πρέπει να τεθούν σημαντικά ερωτήματα, όπως ποια δεδομένα και εφαρμογές είμαστε διατεθειμένοι να επιτρέψουμε στους πράκτορες να έχουν πρόσβαση, και ποιες αποφάσεις είμαστε άνετοι να τους επιτρέψουμε να λαμβάνουν ώστε το σύστημα να είναι ασφαλές και προστατευμένο, ενώ ταυτόχρονα να επιτυγχάνονται τα αναμενόμενα κέρδη σε ποιότητα και παραγωγικότητα. Είναι δύσκολο να προσδιοριστεί η απάντηση σε αυτά τα ερωτήματα σε ένα περιβάλλον PoC. Επιπλέον, τα όρια ασφαλείας και η εποπτεία μπορούν να έχουν νόημα μόνο όταν ένα σύστημα agentic λειτουργεί σε συνδυασμό με άλλες ανθρώπινες ή agentic διαδικασίες εντός της εταιρείας. Συνεπώς, η απομόνωση (sandboxing) αποτελεί ένα σημαντικό βήμα στη διαδικασία της αποτελεσματικής μετάβασης από PoC σε παραγωγή.

Η Cognizant έχει περιγράψει την εμφάνιση ενός “Agent Operating System” για τον συντονισμό δικτύων πρακτόρων AI. Ποιες λειτουργίες θα πρέπει να εκτελεί αυτό το επίπεδο, και αναμένετε ότι η ορχήστρωση πρακτόρων θα γίνει τελικά τόσο θεμελιώδης για την επιχειρησιακή υπολογιστική όσο είναι σήμερα τα λειτουργικά συστήματα και οι πλατφόρμες cloud;

Ο συντονισμός των πρακτόρων είναι σημαντικός: αν είναι πολύ άκαμπτος, το σύστημά σας υποβαθμίζεται και γίνεται εύθραυστο. Αν είναι υπερβολικά ανοιχτός, με τον συντονισμό να ανατίθεται πλήρως στον πράκτορα, διακινδυνεύετε να καταστήσετε το έργο του πράκτορα πολύπλοκο ή επικίνδυνο. Ένας καλός μηχανισμός συντονισμού επιτρέπει στους πράκτορες να σχηματίζουν αυτόματα ομάδες ως αντίδραση σε διάφορες καταστάσεις, οδηγώντας σε μια ανθεκτική και ευέλικτη οργανωτική πειθαρχία. Είμαι υπέρτης του κατανεμημένου συντονισμού. Είναι ανάλογο με την ενδυνάμωση ενός ανθρώπινου οργανισμού με κάποιο επίπεδο εξουσίας πάνω στον τομέα ευθύνης του. Όταν εμφανίζεται ένα πλαίσιο, τα μέλη του οργανισμού επικοινωνούν και συντονίζονται μέσω της οργανωτικής δομής για να προσδιορίσουν τα άτομα που είναι υπεύθυνα για τη διαχείριση της κατάστασης, και η ανταπόκριση συγκεντρώνεται, συντονίζεται και ενοποιείται μεταξύ των οργανωτικών κόμβων. Το καλό νέο είναι ότι μπορούν να εφαρμοστούν αυστηροί έλεγχοι και μέτρα ασφαλείας στα πρακτορικά συστήματα ώστε αυτή η ευελιξία να μην οδηγεί σε επικίνδυνη συμπεριφορά.

Πιστεύω ότι, όπως το MCP έχει γρήγορα γίνει ένα de facto πρότυπο για πρόσβαση σε πρακτορικές εφαρμογές, τα πρωτόκολλα συντονισμού θα εμφανιστούν επίσης και θα τυποποιηθούν σε όλες τις πρακτορικές πλατφόρμες, ώστε να επιτρέπουν αυτόχθονες διαδικασίες πολλαπλών πρακτόρων πέρα από τα όρια των πρακτορικών συστημάτων. Τα λειτουργικά συστήματα και οι πλατφόρμες cloud πιθανώς δεν είναι η καλύτερη αναλογία εδώ· αντίθετα, θα πρέπει να εμφανιστούν ευρέως αποδεκτά πρότυπα για τον ορισμό πολλαπλών πρακτόρων και τα πρωτόκολλα συντονισμού, προκειμένου να επιτευχθεί μεγαλύτερη διείσδυση και άνθηση της πρακτοροποίησης στις επιχειρήσεις.

Καθώς οι επιχειρήσεις μεταβαίνουν από μεμονωμένους βοηθούς (copilots) σε δίκτυα που περιλαμβάνουν δεκάδες ή ακόμη και εκατοντάδες εξειδικευμένους πράκτορες, πώς πρέπει οι οργανισμοί να αποφασίζουν ποιες ευθύνες ανήκουν σε μεμονωμένους πράκτορες και ποιες πρέπει να παραμείνουν κεντρικές;

Όπως και το τείχος προστασίας (firewall) του διαδικτύου και τα μηχανήματα ασφαλείας, η δημιουργία εμπιστοσύνης μέσω ζωντανής ελέγχου κατά των πολιτικών και η επιβολή περιοριστικών γραμμών (guardrails) στα πρακτορικά συστήματα θα πρέπει να αποτελεί κεντρική λειτουργία εντός μιας επιχείρησης, ορισμένη και διατηρούμενη από μια ενιαία οντότητα της εταιρείας. Όλα τα άλλα πρακτορικά συστήματα μπορούν να παρέχονται ή να υλοποιούνται με αποκεντρωμένο τρόπο, αλλά αυτά τα συστήματα θα πρέπει να εγγραφούν στο σύστημα εμπιστοσύνης για να επιτραπεί η λειτουργία τους.

Η Cognizant έχει υλοποιήσει εσωτερικά ένα πολυπρακτορικό σύστημα που συνδέει περίπου 200 πράκτορες σε έναν οργανισμό με περίπου 350.000 υπαλλήλους. Τι αποκάλυψε η λειτουργία σε αυτήν την κλίμακα σχετικά με την πρακτορική AI, κάτι που θα ήταν δύσκολο να εντοπιστεί μέσω μικρότερων πιλοτικών προγραμμάτων;

Έπρεπε να σχεδιάσουμε για κλιμακωσιμότητα, επεκτασιμότητα, αποδοτικότητα κόστους και λογικούς χρόνους απόκρισης. Σε έργα τέτοιας κλίμακας, συχνά πρέπει να εφευρίσετε στοιχεία που απλώς δεν χρειάζονται σε μικρά, περιορισμένα πρακτορικά συστήματα με λίγους χρήστες. Για παράδειγμα, πρέπει να κάνετε τον διαπρακτορικό συντονισμό εξατομικευμένο και αποδοτικό, ώστε να αποφεύγονται επιπλέον βήματα και κόστος. Επίσης, το σύστημα πρέπει να μπορεί να ενσωματώνει εφαρμογές που έχουν δημιουργηθεί ειδικά καθώς και συστήματα και πράκτορες τρίτων, ώστε η διαλειτουργικότητα να είναι σημαντική και να εξοικονομεί χρόνο και χρήματα.

Όταν οι αυτόνομοι πράκτορες μπορούν να καλούν APIs, να έχουν πρόσβαση σε επιχειρησιακά συστήματα, να επικοινωνούν με άλλους πράκτορες και να εκτελούν ενέργειες με ταχύτητα μηχανής, η παραδοσιακή διακυβέρνηση της AI γίνεται πολύ πιο δύσκολη. Πού θα πρέπει η ανθρώπινη επίβλεψη να παραμένει υποχρεωτική και πού μπορούν οι οργανισμοί να επιτρέπουν με ασφάλεια στους πράκτορες να λειτουργούν ανεξάρτητα;

Πιστεύω ότι ο τελικός καθοριστικός παράγοντας για το πού απαιτείται και είναι υποχρεωτική η ανθρώπινη επίβλεψη είναι η εμπιστοσύνη. Καθώς αυτά τα συστήματα γίνονται πιο αξιόπιστα, θα τους επιτρέπουμε μεγαλύτερη αυτονομία, και εκτός εάν είναι νομικά υποχρεωτικό (π.χ., λόγω έλλειψης προσωπικότητας για την AI), θα νιώθουμε άνετα να αναθέτουμε σε πράκτορες. Η μέτρηση της εμπιστοσύνης και του κινδύνου είναι επομένως σημαντική και μπορεί να βοηθήσει στον καθορισμό του ορίου μεταξύ αυτονομίας και ανθρώπινης επίβλεψης — ένα όριο που μπορεί να αρχίσει να μετατοπίζεται καθώς αυτά τα συστήματα γίνονται πιο αξιόπιστα και λιγότερο επικίνδυνα για αυτόνομη λειτουργία.

Το μεγαλύτερο μέρος της προηγούμενης έρευνάς σας εστιάστηκε στην εξελικτική υπολογιστική και σε συστήματα που βελτιώνονται μέσω επιλογής και προσαρμογής. Πώς θα μπορούσαν οι εξελικτικές προσεγγίσεις να συμπληρώνουν τα μεγάλα γλωσσικά μοντέλα και τη μάθηση ενίσχυσης καθώς προσπαθούμε να δημιουργήσουμε πράκτορες που μπορούν να βελτιώνονται συνεχώς αντί να εκτελούν απλώς προκαθορισμένες ροές εργασίας;

Η κύρια ροή στην AI σήμερα κυριαρχείται από προσεγγίσεις με βάση την ελαχιστοποίηση μέσω gradient descent, που αποτελούν μια μορφή αναζήτησης ανάβασης λόφου και δεν είναι πολύ δημιουργικές. Η εξελικτική υπολογιστική είναι εξαιρετικά αποδοτική στην εξερεύνηση σύνθετων χώρων αναζήτησης και μπορεί να συμπληρώνει τις κυρίαρχες προσεγγίσεις. Το εργαστήριό μας, για παράδειγμα, σημείωσε πρόσφατη πρόοδο σε αυτό το πεδίο: καταφέραμε να δείξουμε ότι οι Εξελικτικές Στρατηγικές είναι ανώτερες από τη Μάθηση Ενίσχυσης για την πλειονότητα της μετα-εκπαίδευσης LLM, οδηγώντας σε μοντέλα ίσης ή καλύτερης ποιότητας με πολύ χαμηλότερο κόστος. Οι εξελικτικές προσεγγίσεις θα μπορούσαν επίσης να βοηθήσουν με την Εκπαίδευση κατά τη Δοκιμή (Test-Time Training), η οποία στοχεύει να επιτρέψει στα LLM να μαθαίνουν μετά την ανάπτυξη.

Η έρευνα της Cognizant έχει εξερευνήσει περιβάλλοντα όπου οι αλληλεπιδραστικοί πράκτορες αναπτύσσουν συνεργασία, ανταγωνισμό, κοινή γνώση και ακόμη και παραπλανητικές στρατηγικές. Καθώς τα πολυπρακτορικά συστήματα γίνονται πιο σύνθετα, θα μπορούσε η εμφάνιση νέων συμπεριφορών να αποτελέσει μία από τις μεγαλύτερες προκλήσεις για τη διατήρηση της προβλεψιμότητας και της ευθυγράμμισης της επιχειρησιακής AI με τους οργανωτικούς στόχους;

Αυτό είναι ήδη έτσι, όπως αποδεικνύεται από το ευρέως δημοσιοποιημένο πρόσφατο περιστατικό OpenAI/Hugging Face. Μπορεί να νομίζουμε ότι οι πράκτορες, περιορισμένοι στα prompts και τα συμφραζόμενά τους, και χρησιμοποιώντας LLM που δεν μαθαίνουν σε πραγματικό χρόνο, θα παραμείνουν περισσότερο ή λιγότερο συνεπείς στη συμπεριφορά τους. Ωστόσο, το γεγονός είναι ότι το περιβάλλον και τα κίνητρα ενός πράκτορα μπορούν να αλλάξουν, συχνά ως αποτέλεσμα των δικών του ενεργειών στο περιβάλλον, οδηγώντας σε απρόβλεπτη συμπεριφορά. Αυτό είναι ακόμη πιο πιθανό όταν αλληλεπιδρούν πολλοί πράκτορες, και γι’ αυτό είναι κρίσιμο να παρατηρούμε αυτόνομους πράκτορες σε ασφαλή δοκιμαστικά περιβάλλοντα ώστε να καθορίσουμε το εύρος και την κλίμακα των αναδυόμενων τάσεων τους, και να το λάβουμε υπόψη στον σχεδιασμό και τα μέτρα ασφαλείας των πρακτόρων. Το δημόσια διαθέσιμο σύστημά μας, TerraLingua, όπου μπορείτε να εισάγετε πράκτορες, αντικείμενα και ακόμη να υποδυθείτε πράκτορες και να παρατηρήσετε τη μεμονωμένη και συλλογική τους συμπεριφορά, αποτελεί ένα βήμα προς αυτή την κατεύθυνση.

Κοιτάζοντας πέρα από το σημερινό κύμα της πράκτορας AI, ποια τεχνολογική ανακάλυψη ή αρχιτεκτονική αλλαγή πιστεύετε ότι λείπει ακόμη πριν μπορέσουμε να δημιουργήσουμε συστήματα AI ικανά να διαχειρίζονται αξιόπιστα μακροπρόθεσμους, πολύπλοκους στόχους με ελάχιστη ανθρώπινη παρέμβαση;

Πολλά από τα περιοριστικά στοιχεία των σημερινών πρακτόρων προέρχονται από τους περιορισμούς της τρέχουσας κατάστασης της τεχνητής νοημοσύνης. Τα LLM είναι σχεδόν αμετάβλητα μετά την εκπαίδευση και δεν μπορούν να «αλλάξουν γνώμη» για κάτι καθώς συναντούν νέες πληροφορίες. Τα LLM είναι ταυτόχρονα όλα και όλοι, και έτσι χρειάζεται να προετοιμαστούν με συμφραζόμενα και prompts και είναι ιδιαίτερα ευαίσθητα σε αυτήν την προετοιμασία. Τα LLM έχουν περιορισμένα παράθυρα συμφραζομένων και πρέπει να τροφοδοτούνται ξανά με όλα για κάθε λέξη που παράγουν ή ενέργεια που εκτελούν. Σε επίπεδο πολλαπλών πρακτόρων, πιστεύω ότι χρειαζόμαστε ευρέως αποδεκτά διανεμημένα πρωτόκολλα συντονισμού, φράγματα εμπιστοσύνης και πολιτικές, καθώς και συστήματα διαμεσολάβησης συναλλαγών ώστε το πράκτορα μέλλον να φτάσει στο πλήρες δυναμικό του.

Σας ευχαριστούμε για τη σπουδαία συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα θα πρέπει να επισκεφθούν το Cognizant ή τη προηγούμενη συνέντευξη.