Marc Fernandez, Διευθυντής Στρατηγικής στην Neurologyca – Σειρά Συνεντεύξεων

Marc Fernandez, Διευθυντής Στρατηγικής στην Neurologyca, είναι στρατηγικός τεχνολογίας και εκτελεστικός υπεύθυνος ανάπτυξης επιχειρήσεων με περισσότερα από δύο δεκαετίες εμπειρίας που καλύπτουν τεχνητή νοημοσύνη, αναδυόμενες τεχνολογίες, καταναλωτικά ηλεκτρονικά και αλληλεπίδραση ανθρώπου-υπολογιστή. Στην Neurologyca, εστιάζει στη στρατηγική και στην εμπορευματοποίηση του Human Context AI, το οποίο έχει σχεδιαστεί για να βοηθά τα συστήματα AI να ερμηνεύουν σήματα όπως το στρες, η αυτοπεποίθηση και η δέσμευση. Ο Fernandez υπηρέτησε προηγουμένως ως Διευθύνων Σύμβουλος της Pearl, μιας πλατφόρμας με καθοδήγηση AI που εστιάζει σε «soft skills» και επαγγελματική ανάπτυξη, και ως Entrepreneur in Residence στην ALIVE Ventures, όπου εργάστηκε στον τομέα age‑tech. Πριν από αυτό, ηγήθηκε της στρατηγικής των Η.Π.Α. στην OPPO, εστιάζοντας σε τεχνολογίες επόμενης γενιάς όπως AI, Web3, blockchain και κινητά λειτουργικά συστήματα, και κατείχε ανώτερες θέσεις ανάπτυξης επιχειρήσεων στην Emerge, Denizen, SweetLabs, Movella και X‑Rite/Pantone. Επιπλέον, πέρασε 15 χρόνια ως επιπρόσθετος καθηγητής στο Πανεπιστήμιο της Νότιας Καλιφόρνιας, διδάσκοντας στο σταυροδρόμι της επιχειρηματικότητας, επικοινωνίας, κοινωνικών πλατφορμών, AI, blockchain και άλλων αναδυόμενων τεχνολογιών.

Neurologyca είναι μια εταιρεία AI με έδρα το Σαν Φρανσίσκο που δημιουργεί ό,τι περιγράφει ως το Human Context Layer για έξυπνα συστήματα, επιτρέποντας στις εφαρμογές και στους πράκτορες AI να κατανοούν και να προσαρμόζονται καλύτερα στους ανθρώπους που εξυπηρετούν. Η πλατφόρμα της, βασισμένη σε API και SDK, επεξεργάζεται πολυμορφικά σήματα συμπεριφοράς, πρότυπα αλληλεπίδρασης και καταστατικό πλαίσιο για να δημιουργήσει δείκτες αναγνώσιμους από μηχανές σχετικά με παράγοντες όπως η δέσμευση, η αυτοπεποίθηση, το στρες, η προσοχή και η εμπιστοσύνη. Αυτές οι πληροφορίες μπορούν να βοηθήσουν τα συστήματα AI να προσαρμόζουν τις απαντήσεις, το ρυθμό, τις συστάσεις και τις ενέργειές τους σε πραγματικό χρόνο, διατηρώντας τη συνοχή του πλαισίου κατά τις αλληλεπιδράσεις. Η Neurologyca τοποθετεί την τεχνολογία ως υποδομή παρά ως αυτόνομη εφαρμογή, με πιθανές χρήσεις που καλύπτουν την εκπαίδευση και κατάρτιση, την ευεξία, το λογισμικό επιχειρήσεων, τους αυτόνομους πράκτορες, την ασφάλεια οδηγών, τα παιχνίδια και άλλα διαδραστικά συστήματα. Η εταιρεία προσφέρει επί του παρόντος την πλατφόρμα μέσω ενός επιλεκτικού προγράμματος πρώιμης πρόσβασης για συνεργάτες που δημιουργούν προσαρμοστικές εμπειρίες AI.

Η καριέρα σας σας οδήγησε από τη στρατηγική τεχνολογίας επόμενης γενιάς στην OPPO, στη δημιουργία της Pearl γύρω από τις «soft skills» με καθοδήγηση AI και τώρα στην ανάπτυξη του human‑context AI στην Neurologyca. Πώς αυτή η εξέλιξη διαμόρφωσε την άποψή σας ότι ένας από τους μεγαλύτερους περιορισμούς του AI δεν είναι η νοημοσύνη καθαυτή, αλλά η κατανόηση του ανθρώπου πίσω από μια εντολή;

Πριν τριάντα χρόνια, το διαδίκτυο έκανε τις πληροφορίες προσβάσιμες. Πριν πέντε χρόνια, η AI παρήγαγε αφθονία αποτελεσμάτων. Σήμερα πνίγουμε σε περιεχόμενο ενώ συνεχίζουμε να δυσκολευόμαστε να πάρουμε χρήσιμα αποτελέσματα. Η ακατέργαστη τεχνική ισχύς δεν εγγυάται ένα καλό αποτέλεσμα για τον πραγματικό άνθρωπο που το λαμβάνει.

Αυτή ήταν η συνεχή γραμμή στην εργασία μου — από την ενσωμάτωση των αναδυόμενων τεχνολογιών στην καθημερινή ζωή στην OPPO, στη δοκιμή του αν η AI μπορεί να διδάξει διαπροσωπικές δεξιότητες στην Pearl, μέχρι την κατασκευή του ανθρώπινου πλαισίου ως υποδομής στην Neurologyca. Η νοημοσύνη δεν αποτελεί πλέον το πραγματικό εμπόδιο· τα μοντέλα λογίζονται και εκτελούν καλά. Το πιο δύσκολο ζήτημα είναι όλο το αθέατο πλαίσιο που οι άνθρωποι φέρνουν σε μια απλή αίτηση: γιατί ρώτησαν, τι τους κάνει να νιώθουν άβολα ή αν μια ελαφριά διστακτικότητα σημαίνει ότι το σύστημα πρέπει να ακυρώσει. Προς το παρόν, η AI βλέπει μόνο ένα συμπιεσμένο τμήμα αυτού μέσω κειμένου, και καθώς οι πράκτορες αρχίζουν να αναλαμβάνουν ενέργειες στον πραγματικό κόσμο, αυτό το τυφλό σημείο γίνεται κρίσιμο.

Πρόσφατα παραδείγματα αυτόνομων πρακτόρων που κλέβουν διαπιστευτήρια, δημιουργούν ψεύτικες ταυτότητες ή κρύβουν τις ενέργειές τους εγείρουν ερωτήματα σχετικά με το τι συμβαίνει όταν ένα AI γίνεται εξαιρετικά αποτελεσματικό στην επίτευξη ενός στόχου χωρίς να κατανοεί πλήρως την πρόθεση πίσω από αυτόν. Το βλέπετε κυρίως ως πρόβλημα ευθυγράμμισης, πρόβλημα μηχανικής ή θεμελιώσιμο περιορισμό του τρόπου που σχεδιάζουμε σήμερα τους πράκτορες;

Αυτή είναι μια αποτυχία σχεδίου που καλύπτει τόσο την ευθυγράμμιση όσο και τη μηχανική. Έχουμε βελτιστοποιήσει τα συστήματα ώστε να επιτυγχάνουν στόχους χωρίς να αφιερώνουμε το ήμισυ της προσπάθειας στη διδασκαλία του τι αποτελεί πραγματική επιτυχία για έναν ανθρώπινο χρήστη.

Δείτε το κλασικό παράδειγμα GPT‑4 TaskRabbit: όταν αντιμετώπισε ένα CAPTCHA, το μοντέλο είπε ψέματα και ισχυρίστηκε ότι είναι οπτικά περιορισμένο ώστε να πάρει έναν ανθρώπινο εργαζόμενο να το λύσει. Κανείς δεν το δίδαξε να εξαπατάει κανέναν· απλώς εντόπισε ένα εμπόδιο και πήρε τη λιγότερο ανθεκτική διαδρομή. Αν ανταμείψετε έναν πράκτορα μόνο με βάση το αποτέλεσμα, θα πάρει άγριες συντομεύσεις. Η κύρια πρόκληση είναι ο διαχωρισμός των ενεργειών που πρέπει να αποκλειστούν αρχιτεκτονικά από εκείνες που είναι τεχνικά επιτρεπτές αλλά λανθασμένες στο πλαίσιο.

Έχετε υποστηρίξει ότι οι εταιρείες γίνονται καλύτερες στο να λένε στους πράκτορες AI ποιο στόχο να επιδιώξουν χωρίς να τους παρέχουν επαρκή κατανόηση του τι σημαίνει πραγματικά η «επιτυχία» για τον ανθρώπινο χρήστη. Ποια πληροφορία χρειάζεται ένας πράκτορας πέρα από το ίδιο το prompt για να κατανοήσει πραγματικά την πρόθεση;

Τα prompts είναι μόνο η επιφανειακή στρώση. Η πραγματική πρόθεση βασίζεται στο βάθος της κατάστασης: το προηγούμενο ιστορικό, ποιες ανταλλαγές είναι αποδεκτές, τα πραγματικά στοίχημα και πώς ο χρήστης αντιδρά κατά τη διάρκεια της εργασίας.

Μερικά από αυτά προέρχονται από την κατάσταση του περιβάλλοντος της εφαρμογής ή το ιστορικό συνομιλίας, αλλά σε άμεσες αλληλεπιδράσεις, τα σήματα συμπεριφοράς είναι αυτά που διατηρούν το πλαίσιο δυναμικό. Οι άνθρωποι διστάζουν, αλλάζουν γνώμη στη μέση ή μπερδεύονται. Αν ένας πράκτορας δεν μπορεί να διαβάσει αυτές τις αλλαγές, καταλήγει αδιάκοπα να ακολουθεί μια εντολή που έγινε παρωχημένη δύο βήματα νωρίτερα.

Υπάρχει μια σημαντική διάκριση μεταξύ ενεργειών που θα πρέπει απλώς να είναι τεχνικά αδύνατες για έναν πράκτορα και ενεργειών που επιτρέπονται αλλά είναι ακατάλληλες σε συγκεκριμένο πλαίσιο. Πώς πρέπει οι προγραμματιστές να χωρίσουν την ευθύνη μεταξύ σκληρών ασφαλιστικών φραγμών και της ικανότητας του συστήματος AI να ασκεί συγκριτική κρίση;

Οποιαδήποτε ενέργεια που προκαλεί σοβαρή ζημιά χωρίς κανένα νόμιμο σενάριο χρήσης — κλοπή διαπιστευτηρίων, διαγραφή αρχείων ελέγχου, μη εξουσιοδοτημένη κλιμάκωση προνομίων — θα πρέπει να αφαιρεθεί κωδικοποιημένα από την ύπαρξη. Ένας πράκτορας δεν πρέπει να σπαταλά πόρους υπολογισμού διαπραγματευόμενος αν θα παρακάμψει τους ελέγχους ασφαλείας· η αρχιτεκτονική του συστήματος θα πρέπει απλώς να τους κάνει αδύνατους.

Η πραγματική γκρι ζώνη είναι καθημερινές ενέργειες όπως η αποστολή email, η ακύρωση συναντήσεων ή η τροποποίηση εσωτερικών ροών εργασίας. Αυτές είναι θεωρητικά επιτρεπτές, αλλά το αν ένας πράκτορας πρέπει να τις εκτελεί αυτόματα εξαρτάται από τα στοίχημα, το ιστορικό του χρήστη, την αντιστρεψιμότητα και τα λεπτά σήματα δισταγμού του χρήστη. Το να γνωρίζουμε πότε να σταματήσουμε επειδή λείπει το πλαίσιο είναι πολύ πιο σημαντικό από την ακατέργαστη δυνατότητα.

Η Neurologyca αναπτύσσει τεχνολογία που μπορεί να μετατρέπει σήματα όπως το στρες, η αυτοπεποίθηση, η προσοχή, η δέσμευση και η εμπιστοσύνη σε πλαίσιο αναγνώσιμο από μηχανές. Πώς τέτοια σήματα θα μπορούσαν πρακτικά να αλλάξουν τη συμπεριφορά ενός αυτόνομου πράκτορα AI ενώ εκτελεί μια εργασία;

Αυτές οι εισόδους συμπεριφοράς είναι ουσιαστικά δεδομένα αντίδρασης σε πραγματικό χρόνο — ο ακριβής βρόχος ανατροφοδότησης που λείπει από τις τρέχουσες αρχιτεκτονικές AI. Προς το παρόν, τα μοντέλα παρακολουθούν τις δικές τους ενέργειες, αλλά λειτουργούν εντελώς τυφλά ως προς το πώς ο άνθρωπος τις λαμβάνει.
Σκεφτείτε ένα πλαίσιο διδασκαλίας: ένας χρήστης πληκτρολογεί «Καταλαβαίνω», αλλά τα φυσιολογικά ή συμπεριφορικά του σήματα δείχνουν αυξανόμενη σύγχυση και μείωση της προσοχής. Αυτό είναι ένα άμεσο σήμα για το AI να αλλάξει πορεία, να επιβραδύνει ή να προσφέρει εναλλακτική εξήγηση. Ο στόχος δεν είναι κλινική διάγνωση· είναι απλώς η δημιουργία ενός στενού βρόχου ανατροφοδότησης — πλαίσιο, ενέργεια, απόκριση, προσαρμογή — ώστε το σύστημα να μαθαίνει τι λειτουργεί πραγματικά για το συγκεκριμένο άτομο.

Το ανθρώπινο πλαίσιο μπορεί επίσης να είναι ασαφές. Ένα σύστημα μπορεί να ερμηνεύσει λανθασμένα τη διστακτικότητα, το στρες, τον τόνο της φωνής ή άλλα σήματα συμπεριφοράς. Πώς αποτρέπετε ένα AI που λαμβάνει υπόψη το πλαίσιο να γίνει υπερβολικά σίγουρο για το τι σκέφτεται ή προτίθεται ένα άτομο;

Τα σήματα συμπεριφοράς είναι εγγενώς θορυβώδη και πιθανοκρατικά. Ένα ξαφνικό άλμα στο στρες ή μια παύση στην πληκτρολόγηση μπορεί να σημαίνει σύγχυση, ή μπορεί απλώς να σημαίνει ότι ο χρήστης έριξε τον καφέ του. Τα συστήματα που μετατρέπουν ένα μόνο δεδομένο σε οριστική δήλωση για την συναισθηματική κατάσταση κάποιου είναι θεμελιωδώς εσφαλμένα.

Τα αξιόπιστα συστήματα εξετάζουν σύνθετα σήματα με την πάροδο του χρόνου, λαμβάνουν υπόψη τα περιβάλλοντα βάσεις και εξάγουν ρητά όρια εμπιστοσύνης. Υπάρχει τεράστια διαφορά μεταξύ της καταγραφής «αυξημένου γνωστικού φορτίου σε σχέση με τη βάση» και της απόφασης «ο χρήστης είναι ανήσυχος». Όταν η αβεβαιότητα είναι υψηλή ή τα στοίχημα σημαντικά, η δουλειά του πράκτορα δεν είναι να μαντεύει — είναι να θέτει μια διευκρινιστική ερώτηση.

Η ένταξη ενός ανθρώπου σε κάθε κρίσιμη απόφαση μπορεί να υπονομεύσει μεγάλο μέρος της αποδοτικότητας που υπόσχονται οι αυτόνομοι πράκτορες. Πώς φαίνεται ένα κλιμακώσιμο μοντέλο ανθρώπινης εποπτείας όπου ένας πράκτορας ξέρει πότε μπορεί να προχωρήσει ανεξάρτητα και πότε χρειάζεται πραγματικά να σταματήσει και να ζητήσει καθοδήγηση;

Η κλιμακώσιμη εποπτεία δεν αφορά τη διατήρηση μόνιμου ανθρώπου‑στο‑βρόχο· αφορά τη δυναμική κλιμάκωση.

Οι εργασίες χαμηλού κινδύνου και αντιστρέψιμες προχωρούν αυτόματα. Αλλά καθώς αυξάνονται τα στοίχημα, το περιβάλλον θόρυβο αυξάνεται ή τα σήματα υποδεικνύουν δυσφορία του χρήστη, το όριο έγκρισης αυξάνεται δυναμικά. Καίρια είναι η προσωποποίηση αυτών των ορίων — ένας διευθυντής μπορεί να αναθέσει με χαρά τη διαχείριση του ημερολογίου, ενώ ένας άλλος θέλει να εγκρίνει κάθε μικρή επεξεργασία. Το σύστημα πρέπει να μαθαίνει τα ατομικά όρια, όχι να εφαρμόζει άκαμπτες παγκόσμιες πολιτικές.

Καθώς οι πράκτορες αναπτύσσουν μόνιμη μνήμη και όλο και πιο λεπτομερή μοντέλα των ανθρώπων που εξυπηρετούν, το πλαίσιο μπορεί γρήγορα να γίνει ευαίσθητο προσωπικό δεδομένο. Πώς θα πρέπει οι εταιρείες να προσεγγίσουν τη συγκατάθεση, το απόρρητο, την ιδιοκτησία δεδομένων και τα όρια του τι θα επιτρέπεται σε ένα AI να θυμάται για έναν χρήστη;

Αυτό είναι το κύριο εμπόδιο εμπιστοσύνης που αντιμετωπίζουν τα αυτόνομα συστήματα. Η μόνιμη μνήμη μετατρέπει ένα γενικό εργαλείο σε βοηθό, αλλά υπάρχει επικίνδυνη επικάλυψη μεταξύ της αποθήκευσης προτιμήσεων ροής εργασίας και της σιωπηρής δημιουργίας μη εγκεκριμένου ψυχολογικού προφίλ.
Η διακυβέρνηση δεδομένων εδώ απαιτεί αυστηρά όρια σκοπού. Αν ένας πράκτορας ανιχνεύσει πρότυπα στρες κατά τη διάρκεια μιας συνεδρίας εκτελεστικού coaching, αυτό το πλαίσιο δεν μπορεί να διαρρεύσει σε αξιολογήσεις απόδοσης, αλγορίθμους ασφάλισης ή τεχνολογία διαφήμισης. Η διαφάνεια πρέπει να είναι λεπτομερής — οι χρήστες χρειάζονται ορατότητα στην αποθηκευμένη πληροφορία, διαγραφή με ένα κλικ και λογικά προεπιλεγμένα όρια διατήρησης. Το γεγονός ότι ένα σύστημα μπορεί να συμπεράνει κάτι για εσάς δεν του δίνει άδεια να το αποθηκεύσει.

Πώς πρέπει να αξιολογούμε αν ένας αυτόνομος πράκτορας κατανοεί πραγματικά την ανθρώπινη πρόθεση; Επικεντρώνονται τα σημερινά κριτήρια υπερβολικά στην ολοκλήρωση της εργασίας και την ακρίβεια, αντί για το αν ο πράκτορας πέτυχε τον στόχο με τρόπο που ο χρήστης θα θεωρούσε αποδεκτό;

Η ολοκλήρωση της εργασίας είναι ένα βαθιά παραπλανητικό κριτήριο. Ένας πράκτορας μπορεί να ακολουθήσει μια εντολή κατά γράμμα και να παραδώσει ακόμη και ένα αποτέλεσμα που ο χρήστης απεχθάνεται.

Αν ένας πράκτορας εξασφαλίσει τη χαμηλότερη τιμή σε μια σύμβαση αλλά καταστρέψει μια δεκαετή σχέση με προμηθευτή για να το πετύχει, τα παραδοσιακά κριτήρια αξιολόγησης καταγράφουν 100 % ποσοστό επιτυχίας. Στον εκτελεστικό, είναι καταστροφή. Χρειαζόμαστε κριτήρια που μετρούν την απόδοση εντός αδήλωτων ορίων: Σεβάστηκε τις αθέατες νόρμες; Στάθηκε όταν οι συνθήκες άλλαξαν; Αυτό το χάσμα μεταξύ της ακατέργαστης ολοκλήρωσης και της πραγματικής ικανοποίησης είναι αυτό που αγνοούν πλήρως τα τρέχοντα κριτήρια.

Κοιτάζοντας το μέλλον, αναμένετε οι δυνατότητες ανθρώπινου πλαισίου να γίνουν ένα τυπικό στρώμα της στοίβας AI μαζί με τα μοντέλα, τη μνήμη, τα εργαλεία και την ασφάλεια; Τι πρέπει ακόμη να λυθεί πριν οι επιχειρήσεις μπορούν με σιγουριά να αναθέσουν ουσιαστική εργασία σε πράκτορες χωρίς συνεχή εποπτεία;

Καθώς η AI μεταβαίνει από τη δημιουργία περιεχομένου στην πραγματοποίηση δράσεων στον πραγματικό κόσμο, το ανθρώπινο πλαίσιο γίνεται ένα απαραίτητο στρώμα. Τα μοντέλα χειρίζονται τη λογική και τα εργαλεία δίνουν στο σύστημα «χέρια», αλλά χωρίς το ανθρώπινο πλαίσιο να λειτουργεί ως ζωντανός βρόχος ανατροφοδότησης, η μνήμη και οι ασφαλιστικοί φραγμοί λειτουργούν ουσιαστικά με στατικές υποθέσεις.

Πριν οι επιχειρήσεις αναθέσουν πραγματική εξουσία, πρέπει ακόμη να λύσουμε το ζήτημα του συγκριτικού απορρήτου, της πιθανοκρατικής λογικής υπό αβεβαιότητα και των λεπτομερών κανόνων διακυβέρνησης. Η δημιουργία AI που ολοκληρώνει απομονωμένες εργασίες είναι κυρίως επιλυμένη· η προσαρμογή των συστημάτων δυναμικά στον άνθρωπο πίσω από το prompt θα καθορίσει πόση πραγματική αυτονομία είμαστε διατεθειμένοι να τους παραχωρήσουμε.

Σας ευχαριστούμε για τη σπουδαία συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα θα πρέπει να επισκεφθούν το Neurologyca.