Μιχάλης Ματζスター, Συνεργάτης στην Arthur D. Little – Σειρά Συνεντεύξεων

Μιχάλης Ματζスター, Συνεργάτης στην Arthur D. Little, είναι ένας έμπειρος σύμβουλος στρατηγικής και τεχνολογίας με βαθιά εμπειρία στη ψηφιακή μεταμόρφωση, στρατηγική ΤΠΕ και καινοτομία που οδηγεί στην ανάπτυξη. Με έδρα τις Βρυξέλλες και εργαζόμενος σε ολόκληρη την περιοχή του Μπενελούξ, φέρνει περισσότερες από δύο δεκαετίες εμπειρίας συμβουλεύοντας διευθυντές ΤΠΕ και ανώτερους εκτελεστικούς για την οδήγηση μεγάλης κλίμακας αλλαγών και την παράδοση μετρήσιμων επιχειρηματικών αποτελεσμάτων. Πριν ενταχθεί στην Arthur D. Little, πέρασε 16 χρόνια στην Accenture, όπου κατέλαβε ανώτερες ηγετικές θέσεις, συμπεριλαμβανομένης της θέσης Διευθυντή για τους Τεχνολογικούς Πόρους στη Γαλλία και στο Μπενελούξ, και ανέπτυξε ισχυρή εξειδίκευση σε τομείς όπως η ενέργεια, οι κοινωφελείς υπηρεσίες, τα χημικά και οι φυσικοί πόροι.

Arthur D. Little είναι μία από τις παλαιότερες εταιρείες διαχείρισης στηνโลก, ιδρυθείσα πριν από 135 χρόνια και ευρέως αναγνωρισμένη για την εστίασή της στην καινοτομία, τη στρατηγική και τη μεταμόρφωση που οδηγείται από την τεχνολογία. Η εταιρεία συνεργάζεται με παγκόσμιες οργανώσεις για να giải quyết σύνθετα επιχειρηματικά προβλήματα, συνδυάζοντας στρατηγική είσπραξη με βαθιά γνώση του κλάδου για να υποστηρίξει περιοχές όπως η ψηφιακή μεταμόρφωση, η διαχείριση καινοτομίας και η βελτίωση λειτουργιών. Με ισχυρή έμφαση στη γέφυρα της στρατηγικής, της τεχνολογίας και της εκτέλεσης, η Arthur D. Little έχει χτίσει φήμη για τη βοήθεια των πελατών της να αναπτύξουν καινοτομίες και να προσαρμοστούν σε ταχέως εξελισσόμενες αγορές.

Πέρασα περισσότερα από 16 χρόνια στην Accenture, οδηγώντας τελικά την τεχνολογία και τους πόρους στο Μπενελούξ και τη Γαλλία, πριν γίνω Συνεργάτης στην Arthur D. Little. Πώς αυτή η διαδρομή σχήμασε την προοπτική σας για το τι πραγματικά χρειάζονται οι οργανισμοί για να μεταβούν από την πειραματική χρήση του AI στην μεγάλης κλίμακας λειτουργική μεταμόρφωση;

Κατά τη διάρκεια της θητείας μου στην Accenture, είδα την εταιρεία να επεκτείνεται από 30.000 σε περισσότερους από 500.000 υπαλλήλους. Βίωσα από πρώτο χέρι πώς η παράδοση ΤΠΕ μπορεί να βιομηχανοποιηθεί σε ακραίο βαθμό για να υποστηρίξει μεγάλης κλίμακας μεταμορφώσεις για τους διευθυντές ΤΠΕ.

Ωστόσο, με τα χρόνια, η ΤΠΕ έχει γίνει ολοένα και περισσότερο μέρος του πυρήνα της επιχείρησης, οδηγώντας σε ανάγκη για τις οργανώσεις να απομακρύνθούν από τη μεταχείριση της ως εμπορεύματος.

Ενώ μεταβαίνω στην Arthur D. Little, ήθελα να εξερευνήσω πώς αυτές οι στρατηγικές μεταμορφώσεις του πυρήνα της επιχείρησης θα μπορούσαν να αντιμετωπιστούν από μέσα, πώς οι εξειδικευμένες λύσεις αντί για стандαρδισμένα πλαίσια θα μπορούσαν να ενεργοποιήσουν τη διαφοροποίηση, και πώς η συνδυασμένη ευθύνη του ExCo θα μπορούσε να βοηθήσει τις οργανώσεις να κάνουν ένα βήμα αλλαγής στην δημιουργία αξίας.

Στην πρόσφατη άποψή σας, Δεν είναι οι πράκτορες, είναι το σύστημα, υποστηρίζετε ότι το multi-agent AI είναι λιγότερο για την τεχνολογία και περισσότερο για την αλλαγή του λειτουργικού μοντέλου. Γιατί νομίζετε ότι τόσοι πολλοί οργανισμοί ακόμη προσεγγίζουν το AI κυρίως ως πρόβλημα εργαλείων;

Οι οργανισμοί προσεγγίζουν το AI ως πρόβλημα εργαλείων επειδή ταιριάζει καλά στις υφιστάμενες δομές, προϋπολογισμούς και ιδιοκτησία, αποφεύγοντας την πολυπλοκότητα της διαλειτουργικής αλλαγής. Αυτό επιτρέπει γρήγορες πιλότους και ορατές προόδους, αλλά συχνά οδηγεί σε πρωτοβουλίες που αποτυγχάνουν να κλιμακωθούν ή να παραδώσουν σημαντικά οφέλη. Πολλοί ηγέτες επίσης βασίζονται σε legacy λογισμικά μοντέλα, υποθέτοντας ότι το AI μπορεί να αναπτυχθεί όπως τα παραδοσιακά συστήματα ΤΠΕ και όχι να απαιτεί επανασχεδιασμό του workflow και της λήψης αποφάσεων. Ταυτόχρονα, η ευθύνη για την αλλαγή του λειτουργικού μοντέλου είναι διασκορπισμένη και πιο δύσκολο να διαχειριστεί, καθιστώντας τις πρωτοβουλίες που οδηγούνται από την τεχνολογία πιο ελκυστικές. Ως αποτέλεσμα, οι εταιρείες προτιμούν τα εργαλεία επειδή είναι πιο εύκολο και ασφαλέστερο από το να αντιμετωπίσουν την πιο sâuστή μεταμόρφωση που απαιτείται για να ξεκλειδώσουν την πλήρη αξία του AI.

Πολλά επιχειρήματα πειραματίζονται τώρα με το agentic AI αλλά δυσκολεύονται να το κλιμακώσουν. Ποιοι είναι οι πιο συνηθισμένοι δομικοί εμποδισμοί που εμποδίζουν τις οργανώσεις από το να μεταβούν πέρα από τους πιλότους στην παραγωγή;

Οι οργανισμοί δυσκολεύονται να κλιμακώσουν το agentic AI επειδή επικεντρώνονται σε απομονωμένες περιπτώσεις χρήσης αντί να επανασχεδιάζουν τις διαδικασίες από άκρη σε άκρη με σαφή ιδιοκτησία. Τα λειτουργικά μοντέλα δεν έχουν προσαρμοστεί, με ασαφείς ρόλους, δικαιώματα λήψης αποφάσεων και ανεπαρκή ενσωμάτωση της συνεργασίας ανθρώπου-πράκτορα στις καθημερινές διαδικασίες. Πολλές πρωτοβουλίες επίσης λείπουν από ισχυρές συνδέσεις με μετρήσιμα επιχειρηματικά αποτελέσματα, οδηγώντας τις να σταματήσουν στη φάση πιλότου χωρίς να αποδείξουν οφέλη. Επιπλέον, τα θραυσματικά δεδομένα και τα legacy συστήματα περιορίζουν την ικανότητα των πρακτόρων να λειτουργούν ομαλά σε όλες τις λειτουργίες. Τέλος, η αδύναμη διαχείριση αλλαγών και οι ανεπίλυτες ανησυχίες διακυβέρνησης σχετικά με τον κίνδυνο και την αξιοπιστία επιβραδύνουν την υιοθέτηση και την κλιμάκωση.

Τονίζετε ότι η ορχήστρα, όχι οι μεμονωμένοι πράκτορες, είναι εκεί που βρίσκεται η πραγματική αξία. Τι μοιάζει η αποτελεσματική ορχήστρα σε ένα πραγματικό περιβάλλον επιχείρησης;

Η αποτελεσματική ορχήστρα σημαίνει το σχεδιασμό του AI γύρω από τις επιχειρηματικές διαδικασίες από άκρη σε άκρη, όχι γύρω από μεμονωμένα εργαλεία, με πράκτορες που έχουν καθορισμένους ρόλους σε όλη τη διαδικασία. Πολλοί πράκτορες συνεργάζονται σαν μια ομάδα-χειρίζονται την εισαγωγή, τη λήψη αποφάσεων, την εκτέλεση και την εποπτεία – συντονισμένοι μέσω ενός κεντρικού στρώματος ορχήστρας. Αυτοί οι πράκτορες είναι στενά ενσωματωμένοι με τα επιχειρηματικά συστήματα μέσω API και πηγών δεδομένων, επιτρέποντας πραγματικές ενέργειες και όχι μόνο ενημερώσεις. Το στρώμα ορχήστρας επίσης διαχειρίζεται την αλληλουχία εργασιών, τις εξαιρέσεις και την αναβάθμιση στους ανθρώπους, εξασφαλίζοντας ομαλή και ελεγχόμενη εκτέλεση. Τέλος, ισχυρά μηχανισμοί διακυβέρνησης, μηχανισμοί επαλήθευσης και βρόχοι ανατροφοδότησης είναι ενσωματωμένοι για να εξασφαλίσουν την αξιοπιστία και τη συνεχής βελτίωση.

Καθώς οι οργανισμοί ανασχεδιάζουν τις διαδικασίες τους γύρω από το AI, πώς πρέπει να εξελιχθούν τα δικαιώματα λήψης αποφάσεων μεταξύ ανθρώπων και αυτόνομων συστημάτων για να αποφευχθούν τόσο η υπερ-αυτοματοποίηση όσο και τα κολλώδη σημεία;

Τα δικαιώματα λήψης αποφάσεων πρέπει να εξελιχθούν σε ένα μοντέλο που βασίζεται στον κίνδυνο, όπου οι αποφάσεις χαμηλού κινδύνου και υψηλής όγκου αυτοματοποιούνται, ενώ οι αποφάσεις υψηλής επίδρασης ή αβεβαιότητας παραμένουν υπό τον έλεγχο των ανθρώπων. Οι πράκτορες πρέπει να χειρίζονται την αντίληψη, την ανάλυση και την εκτέλεση, ενώ οι άνθρωποι επικεντρώνονται στην κρίση, τις εξαιρέσεις και τον ορισμό των σωστών αποτελεσμάτων. Σαφείς διαδρομές αναβάθμισης είναι απαραίτητες για να γνωρίζουν οι πράκτορες πότε να αναβάλλουν τις αποφάσεις αντί να υπερβούν την εξουσία τους. Για να αποφευχθούν τα κολλώδη σημεία, η συμμετοχή των ανθρώπων πρέπει να είναι επιλεκτική και να επικεντρωθεί στις εξαιρέσεις αντί για την πλήρη εποπτεία κάθε βήματος. Ταυτόχρονα, ισχυρά φράγματα, μηχανισμοί επαλήθευσης και παρακολούθηση εξασφαλίζουν τον έλεγχο και την αποφυγή της υπερ-αυτοματοποίησης.

Ένα από τα βασικά σημεία σας είναι ότι η αξιοπιστία πρέπει να σχεδιαστεί από άκρη σε άκρη. Ποιοι είναι οι μεγαλύτεροι τρόποι αποτυχίας που βλέπετε σήμερα όταν οι εταιρείες αναπτύσσουν συστήματα multi-agent χωρίς επαρκείς προφυλάξεις;

Ένας βασικός τρόπος αποτυχίας είναι η διάδοση σφαλμάτων, όπου μικρά λάθη από έναν πράκτορα διαδίδονται στο σύστημα και γίνονται ενισχυμένα. Ένα άλλο ζήτημα είναι η ψευδής εμπιστοσύνη και η ψευδής βεβαιότητα, καθώς το AI μπορεί να παράγει πιθανές αλλά λανθασμένες εξόδους χωρίς να δείχνει αβεβαιότητα. Οι οργανισμοί επίσης δυσκολεύονται όταν δίνεται υπερβολική αυτονομία στους πράκτορες σε αποφάσεις υψηλής επίδρασης χωρίς σωστές επαλήθευσεις ή πύλες έγκρισης. Η αδύναμη διαχείριση εξαιρέσεων επιδεινώνει το πρόβλημα, με τους πράκτορες να αποτυγχάνουν να αναβάλλουν τις αμφίβολες ή περιπτώσεις άκρης σε ανθρώπους. Συνολικά, οι αποτυχίες συμβαίνουν επειδή η αξιοπιστία δεν σχεδιάζεται σε όλο το σύστημα της συντονισμού, επαλήθευσης και εποπτείας.

Η διακυβέρνηση συχνά αντιμετωπίζεται ως ένα στρώμα συμμόρφωσης αντί για αρχή σχεδιασμού. Πώς πρέπει οι εταιρείες να ξανασκέφτονται τη διακυβέρνηση όταν χτίζουν λειτουργικά μοντέλα που βασίζονται στο AI;

Η διακυβέρνηση πρέπει να μετατοπιστεί από ένα στρώμα συμμόρφωσης μετά τη λήψη αποφάσεων σε μια βασική αρχή σχεδιασμού που είναι ενσωματωμένη απευθείας στις διαδικασίες AI. Αυτό σημαίνει την ενσωμάτωση φραγμάτων, βημάτων επαλήθευσης και πυλών έγκρισης σε κρίσιμους σημεία λήψης αποφάσεων αντί να προστίθενται ελέγχοι μετά την ανάπτυξη. Οι εταιρείες πρέπει να υιοθετήσουν μια προσέγγιση που βασίζεται στον κίνδυνο, điều chỉnhοντας τα επίπεδα αυτονομίας και της ανθρώπινης εποπτείας ανάλογα με την επίδραση και την αβεβαιότητα της απόφασης. Σαφής ευθύνη και δικαιώματα λήψης αποφάσεων πρέπει να οριστούν, εξασφαλίζοντας ότι οι πράκτορες γνωρίζουν πότε να ενεργήσουν και πότε να αναβάλλουν. Τέλος, η συνεχής παρακολούθηση, οι βρόχοι ανατροφοδότησης και οι μηχανισμοί αξιοπιστίας είναι απαραίτητοι για να διατηρήσουν την εμπιστοσύνη, την απόδοση και τον έλεγχο σε κλίμακα.

Από την εργασία σας συμβουλεύοντας διευθυντές ΤΠΕ και CDO, τι διακρίνει τις οργανώσεις που επιτύχουν μετρήσιμα οφέλη από το AI από εκείνες που παραμένουν σε μόνιμη πειραματική φάση;

Οι οργανισμοί που επιτύχουν οφέλη από το AI επικεντρώνονται στην ολική μεταμόρφωση της διαδικασίας αντί για απομονωμένες περιπτώσεις χρήσης AI. Συνδέουν τις πρωτοβουλίες με σαφείς οικονομικούς δείκτες και ενσωματώνουν το AI στις διαδικασίες, τους ρόλους και τις δομές λήψης αποφάσεων. Επενδύουν επίσης στη διαχείριση αλλαγών, την υιοθέτηση και τη διακυβέρνηση για να εξασφαλίσουν ότι οι λύσεις κλιμακώνονται αποτελεσματικά. Αντίθετα, οι οργανισμοί που παραμένουν στην πειραματική φάση τρέχουν αποσυνδεμένες πιλότους, επικεντρώνονται στα εργαλεία αντί για τις διαδικασίες και λείπουν σαφούς ιδιοκτησίας και ευθύνης. Ως αποτέλεσμα, αποτυγχάνουν να μετατρέψουν το AI σε μετρήσιμη επιχειρηματική αξία και παραμένουν παγιδευμένοι στη φάση πιλότου.

Καθώς τα συστήματα multi-agent γίνονται πιο σύνθετα, πώς πρέπει οι οργανισμοί να σκέφτονται την παρατηρησιμότητα, την παρακολούθηση και την αναβάθμιση για να διατηρήσουν την εμπιστοσύνη στις αποφάσεις που οδηγούνται από το AI;

Οι οργανισμοί πρέπει να αντιμετωπίζουν την παρατηρησιμότητα, την παρακολούθηση και την αναβάθμιση ως βασικά στοιχεία του σχεδιασμού του συστήματος, όχι ως υστερόβουλα. Αυτό περιλαμβάνει την εξασφάλιση της πλήρους ιχνηλασιμότητας μέσω καταγραφής, αρχείων ελέγχου και σημείων επαλήθευσης, ώστε οι αποφάσεις να μπορούν να κατανοηθούν και να επικυρωθούν. Η παρακολούθηση πρέπει να επικεντρωθεί όχι μόνο στην απόδοση, αλλά και στην ποιότητα των αποτελεσμάτων, τα λάθη και τον τρόπο με τον οποίο τα ζητήματα διαδίδονται μεταξύ των πρακτόρων. Σαφείς κανόνες αναβάθμιξης είναι απαραίτητοι, ώστε οι πράκτορες να γνωρίζουν πότε να αναβάλλουν στις ανθρώπινες αποφάσεις σε υψηλού κινδύνου ή αμφίβολες καταστάσεις χωρίς να δημιουργούν κολλώδη σημεία. Τελικά, η εμπιστοσύνη προέρχεται από συστήματα που είναι διαφανή, μετρήσιμα και σχεδιασμένα για ανθρώπινη εποπτεία εξ ορισμού.

Κοιτάζοντας μπροστά, πώς βλέπετε τα λειτουργικά μοντέλα των επιχειρήσεων να εξελίσσονται τα επόμενα 3 έως 5 χρόνια, καθώς τα συστήματα multi-agent AI γίνονται πιο βαθιά ενσωματωμένα στις βασικές επιχειρηματικές διαδικασίες;

Τα λειτουργικά μοντέλα των επιχειρήσεων θα εξελιχθούν προς υβριδικά ανθρώπινα-AI εργατικά δράματα, όπου οι πράκτορες ενεργούν ως ψηφιακοί υπάλληλοι ενσωματωμένοι στις βασικές διαδικασίες. Οι οργανισμοί θα μετατοπιστούν από λειτουργικές σιλό σε διαδικασίες-κεντρικές δομές με ολική ιδιοκτησία και ορχήστρα σε όλες τις διαδικασίες. Η λήψη αποφάσεων θα γίνει πιο δυναμική, με τις ρουτινικές εργασίες να αυτοματοποιούνται και οι άνθρωποι να επικεντρώνονται στις εξαιρέσεις και την εποπτεία. Οι μηχανισμοί διακυβέρνησης και αξιοπιστίας θα ενσωματωθούν στην καθημερινή λειτουργία αντί να αντιμετωπίζονται ως ξεχωριστά στρώματα. Τελικά, το ανταγωνιστικό πλεονέκτημα θα εξαρτηθεί από το πώς οι εταιρείες θα ανασχεδιάσουν τα λειτουργικά τους μοντέλα γύρω από το AI, όχι μόνο από την τεχνολογία herself.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Arthur D. Little.