Μανουέλ Ρομέρο, Συνιδρυτής και Αρχισcientific Officer στη Maisa – Σειρά Συνεντεύξεων

Μανουέλ Ρομέρο, Συνιδρυτής και Αρχισcientific Officer στη Maisa, είναι ερευνητής και μηχανικός του AI που επικεντρώνεται στην ανάπτυξη αξιόπιστων, επιχειρηματικών συστημάτων τεχνητής νοημοσύνης. Ιδρύθηκε στη Maisa το 2024 για να δημιουργήσει υπεύθυνους AI που μπορούν να εκτελέσουν σύνθετες επιχειρηματικές διαδικασίες με διαφάνεια και έλεγχο. Πριν από τη Maisa, ο Ρομέρο κατέχει υψηλές θέσεις μηχανικής και μηχανικής μάθησης σε εταιρείες όπως η Clibrain και η Narrativa, όπου ειδικεύτηκε στην επεξεργασία φυσικής γλώσσας και σε μεγάλα συστήματα AI. Νωρίτερα στην καριέρα του, εργάστηκε ως μηχανικός λογισμικού και ειδικός DevOps πριν μεταπηδήσει στην προηγμένη έρευνα και ανάπτυξη AI, γίνοντας ενεργός συνεισφέρων στην ανοιχτή πηγή του AI ecosystem.

Maisa AI αναπτύσσει αυτόνομους “ψηφιακούς εργαζόμενους”, πράκτορες AI που σχεδιάστηκαν για να αυτοματοποιήσουν σύνθετες επιχειρηματικές διαδικασίες διατηρώντας τη διαφάνεια, τη διακυβέρνηση και την αξιοπιστία. Η πλατφόρμα επιτρέπει στις οργανώσεις να δημιουργήσουν και να αναπτύξουν πράκτορες AI χρησιμοποιώντας φυσική γλώσσα, ενεργοποιώντας την αυτοματοποίηση σε εσωτερικά συστήματα και πηγές δεδομένων χωρίς εκτεταμένο κωδικοποίηση. Εστιάζοντας στην επαλήθευση της λογικής και στην δομημένη εκτέλεση, η Maisa στοχεύει να υπερβεί τα κοινά όρια που συνδέονται με τα συστήματα AI και να βοηθήσει τις επιχειρήσεις να αναπτύξουν αυτονομούς AI με ασφάλεια σε κλίμακα.

Έχετε συχνά επικεντρωθεί στην κατανόηση του βαθύτερου “γιατί” πίσω από τα συστήματα AI. Από τεχνικής πλευράς, τι σας ώθησε να ιδρύσετε τη Maisa το 2024, και ποια ήταν η лакούνα στην αρχιτεκτονική της επιχειρηματικής AI που πιστεύατε ότι δεν αντιμετωπίζεται;

Η мотίβηση για την ίδρυση της Maisa προήλθε από την ανάγνωση ότι οι περισσότερες επιχειρηματικές στοίβες AI χτίστηκαν γύρω από μοντέλα, όχι συστήματα.

Κατά τη διάρκεια της εκρηκτικής AI, πολλές εταιρείες επικεντρώθηκαν στην ενσωμάτωση μεγάλων μοντέλων γλωσσών σε υπάρχουσες διαδικασίες. Ωστόσο, αυτά τα συστήματα ήταν συχνά εύθραυστα, αδιαφανή και δύσκολα να λειτουργήσουν σε κλίμακα. Λείπαν:

• детерμινιστική εκτέλεση όπου mattered.
• ισχυρή παρατηρησιμότητα, ιχνηλασιμότητα
• αναπαραγωγιμότητα

Η лакούνα που είδαμε ήταν η απουσία αληθινής υποδομής AI για επιχειρήσεις. Οι εταιρείες χτίζαν εφαρμογές γύρω από APIs LLM, αλλά τους έλειπε κάτι ισοδύναμο με μια αρχιτεκτονική υπολογιστή για την εργασία της γνώσης.

Η Maisa δημιουργήθηκε για να αντιμετωπίσει αυτή τη λακούνα σχεδιάζοντας μια αρχιτεκτονική που επικεντρώνεται στο Knowledge Processing Unit (KPU), ένα σύστημα που επιτρέπει στο AI να λειτουργεί αξιόπιστα μέσα σε πραγματικές επιχειρηματικές διαδικασίες.

Έχετε εργαστεί σε προηγμένα自然 γλώσσα και γεννητικά συστήματα πριν από την ίδρυση της Maisa. Πώς οι εμπειρίες σας επηρέασαν τις αρχιτεκτονικές επιλογές πίσω από την πλατφόρμα;

Η εμπειρία μου στην NLP και NLG, ιδιαίτερα γύρω από την εκπαίδευση και την προ-εκπαίδευση μοντέλων γλωσσών και αργότερα μεγάλων μοντέλων γλωσσών (εκατοντάδες από αυτά), έκανε κάτι πολύ σαφές όταν προσπαθούσα να χτίσω πραγματικά συστήματα πάνω από αυτά. Η αρχιτεκτονική του μετασχηματιστή είναι εξαιρετικά ισχυρή, αλλά έρχεται με τουλάχιστον τρεις θεμελιώδεις περιορισμούς που πρέπει να αντιμετωπιστούν για να χρησιμοποιηθεί αξιόπιστα στην παραγωγή.

Ο πρώτος είναι οι ψευδαισθήσεις. Αυτά τα μοντέλα παράγουν κείμενο πιθανοτικά και μπορούν να παράγουν εξόδους που ακούγονται σωστά αλλά δεν είναι εδραιωμένα σε επικυρωμένες πληροφορίες.

Ο δεύτερος είναι οι περιορισμοί του контекstu. Ακόμη και με μεγαλύτερα παράθυρα контекstu, τα μοντέλα λειτουργούν μέσα σε einem περιορισμένο χώρο token, που καθιστά δύσκολο να συλλογιστεί πάνω σε μεγάλες ή σύνθετες σώματα γνώσης.

Ο τρίτος είναι οι πληροφορίες ενημέρωσης. Τα προ-εκπαιδευμένα μοντέλα αντιπροσωπεύουν μια στιγμιότυπο γνώσης κατά την εκπαίδευση, ενώ οι επιχειρηματικές περιβάλλοντες απαιτούν συστήματα που μπορούν να συλλογισθούν πάνω σε συνεχώς μεταβαλλόμενες πληροφορίες.

Η αναγνώριση αυτών των περιορισμών διαμόρφωσε πολλές από τις αρχιτεκτονικές αποφάσεις πίσω από τη Maisa. Αντί να βασιστούμε μόνο στο μοντέλο, επικεντρωθήκαμε στη δημιουργία ενός συστήματος που παρέχει δομημένη πρόσβαση στη γνώση, μηχανισμούς επαλήθευσης και ελεγχόμενη εκτέλεση, ώστε το AI να μπορεί να λειτουργήσει αξιόπιστα σε πραγματικές επιχειρηματικές διαδικασίες.

Πολυάριθμες επιχειρήσεις πειραματίζονται με γεννητική AI αλλά δυσκολεύονται να μεταβούν πέρα από πιλότους. Από μια προοπτική σχεδιασμού συστήματος, ποιο είναι το βασικό λόγο που η κλίμακα αποτυγχάνει σε इतनές οργανώσεις;

Πολυάριθμες επιχειρήσεις δυσκολεύονται να μεταβούν πέρα από πειραματικά γεννητικά AI γιατί οι περισσότερες αναπτύξεις χτίζονται ως πειράματα παρά ως ρομποτικά συστήματα. Τα πρώτα πρωτότυπα συχνά βασίζονται σε μηχανική προώθησης, ελαφριά ορχήστρα και απλές διαδικασίες ανάκτησης, τα οποία μπορούν να δείξουν αξία αλλά δεν παρέχουν την αξιοπιστία, την παρατηρησιμότητα ή τον έλεγχο που απαιτούνται για περιβάλλοντα παραγωγής. Όταν οι οργανώσεις προσπαθούν να κλιμακώσουν αυτά τα συστήματα, αντιμετωπίζουν προβλήματα όπως ασυνεπείς εξόδους, έλλειψη ιχνηλασιμότητας, δυσκολία ενσωμάτωσης με επιχειρηματικές διαδικασίες και περιορισμένη διακυβέρνηση για το πώς το AI συμπεριφέρεται. Στο$core, το πρόβλημα είναι ότι τα μεγάλα μοντέλα γλωσσών είναι πιθανοτικά γεννήτορες, ενώ οι επιχειρηματικές διαδικασίες απαιτούν προβλέψιμη και ελεγχόμενη συμπεριφορά. Χωρίς μια αρχιτεκτονική που προσθέτει δομή γύρω από τη λογική, την επαλήθευση, την εκτέλεση και την παρακολούθηση, τα συστήματα γεννητικής AI παραμένουν δύσκολα να κλιμακωθούν πέρα από απομονωμένες περιπτώσεις χρήσης.

Οι Ψηφιακοί Εργαζόμενοι της Maisa σχεδιάστηκαν για να είναι ελεγχόμενοι και δομημένοι παρά καθαρώς πιθανοτικοί. Τι σημαίνει αυτό σε πρακτικούς όρους για τις επιχειρήσεις που αξιολογούν το AI για χρήση παραγωγής;

Όταν λέμε ότι οι Ψηφιακοί Εργαζόμενοι της Maisa είναι ελεγχόμενοι και δομημένοι παρά καθαρώς πιθανοτικοί, σημαίνει ότι το AI λειτουργεί μέσα σε ένα ελεγχόμενο σύστημα όπου οι ενέργειές του και η λογική του μπορούν να αναζητηθούν και να κυβερνηθούν. Αντί να επιτρέψουμε σε ένα μοντέλο να παράγει ελεύθερα εξόδους και αποφάσεις, το σύστημα δομεί πώς το AI αλληλεπιδρά με δεδομένα, εργαλεία και διαδικασίες. Κάθε βήμα στη διαδικασία μπορεί να καταγραφεί, να ελεγχθεί και να επικυρωθεί, και οι ενέργειες εκτελούνται μέσω καθορισμένων διεπαφών παρά από άμεση έξοδο μοντέλου. Για τις επιχειρήσεις, αυτό σημαίνει ότι τα συστήματα AI μπορούν να παρακολουθούνται, να ελέγχονται και να ενσωματώνονται σε κρίσιμες διαδικασίες με μεγαλύτερη εμπιστοσύνη. Μετάβασε το AI από ένα μαύρο κουτί βοηθού σε ένα σύστημα της οποίας η συμπεριφορά μπορεί να κατανοηθεί, να ελεγχθεί και να εμπιστευτεί σε περιβάλλοντα παραγωγής.

Ως αρχιτέκτονας της Μονάδας Επεξεργασίας Γνώσης, πώς διαφέρει από ένα τυπικό επίπεδο ορχήστρας ή μηχανής ροής που χτίστηκε γύρω από μεγάλα μοντέλα γλωσσών;

Η Μονάδα Επεξεργασίας Γνώσης διαφέρει από τα τυπικά επίπεδα ορχήστρας γιατί σχεδιάστηκε για να διαχειρίζεται τον πλήρη κύκλο ζωής της AI-οδηγούμενης λογικής παρά να συντονίζει απλώς τις κλήσεις μοντέλων και τις ενέργειες. Τα περισσότερα πλαίσια ορχήστρας λειτουργούν ως διαχειριστές ροής που αλυσίδουν μαζί βήματα όπως η ανάκτηση, η προώθηση και η εκτέλεση εργαλείων. Η Μονάδα Επεξεργασίας Γνώσης λειτουργεί σε ένα βαθύτερο αρχιτεκτονικό επίπεδο, δομώντας πώς η γνώση προσεγγίζεται, πώς η λογική εκτελείται και πώς οι ενέργειες εκτελούνται μέσα στο σύστημα. Θεωρεί την επεξεργασία γνώσης ως μια βασική υπολογιστική στρώση, ενσωματώνοντας μνήμη, επαλήθευση και ελεγχόμενη εκτέλεση, ώστε το AI να μπορεί να λειτουργήσει αξιόπιστα μέσα σε σύνθετες επιχειρηματικές διαδικασίες παρά μόνο να παράγει απαντήσεις.

Σε ρυθμιζόμενους κλάδους, η ανεκτικότητα στο ρίσκο είναι χαμηλή. Ποια συγκεκριμένα σχέδια αποφάσεων έκανα για να διασφαλίσω ότι οι εξόδους AI παραμένουν αξιόπιστοι και δεν προωθούν λάθη σε σύνθετες διαδικασίες;

Σε ρυθμιζόμενους κλάδους, η αξιοπιστία και ο έλεγχος είναι απαραίτητοι, οπότε σχεδιάσαμε το σύστημα με πολλά μέτρα για να διασφαλίσουμε ότι οι εξόδους AI παραμένουν αξιόπιστοι. Ένα βασικό principio είναι η δομημένη εκτέλεση, όπου το AI δεν μπορεί να ενεργοποιήσει απευθείας κρίσιμες ενέργειες χωρίς να περάσει από ελεγχόμενες διεπαφές. Επίσης, ενσωματώνουμε στρώματα επαλήθευσης που ελέγχουν τις εξόδους μοντέλων με σχήματα, κανόνες ή δευτερεύουσες μηχανισμούς πριν τις αποδεχθούμε. Επιπλέον, το σύστημα διατηρεί πλήρη παρατηρησιμότητα, καταγράφοντας βήματα λογικής, αλληλεπιδράσεις εργαλείων και αποφάσεις, ώστε να μπορούν να αναζητηθούν και να ελεγχθούν. Μαζί, αυτές οι αρχιτεκτονικές επιλογές βοηθούν να αποτρέψουν τα λάθη από το να προωθούνται μέσω διαδικασιών και να επιτρέψουν στις οργανώσεις να λειτουργούν συστήματα AI με το επίπεδο αξιοπιστίας και διακυβέρνησης που απαιτείται σε ρυθμιζόμενους περιβάλλοντες.

Τι είναι οι πιο πειστικοί πρώτοι χρήσεις όπου έχετε δει τους Ψηφιακούς Εργαζόμενους να μεταβαίνουν από καθοδηγούμενη βοήθεια σε πλήρως λειτουργική εκτέλεση AI;

Ορισμένοι από τους πιο πειστικούς πρώτους χρήσεις εμφανίζονται σε διαδικασίες εργασίας που είναι πλούσιες σε γνώση, όπου οι διαδικασίες είναι καλά καθορισμένες αλλά vẫn απαιτούν σημαντική ανάλυση και λήψη αποφάσεων. Σε περιοχές όπως η ανασκόπηση συμμόρφωσης, οι τεχνικές επιχειρήσεις υποστήριξης και η εσωτερική διαχείριση γνώσης, οι Ψηφιακοί Εργαζόμενοι μπορούν να μεταβούν πέρα από την απλή βοήθεια ανθρώπων και να αρχίσουν να εκτελούν δομημένες εργασίες από άκρη σε άκρη. Μπορούν να ανακτήσουν και να αναλύσουν μεγάλους όγκους εσωτερικών πληροφοριών, να εφαρμόσουν καθορισμένες διαδικασίες, να αλληλεπιδράσουν με εταιρικά συστήματα μέσω ελεγχόμενων εργαλείων και να παράγουν εξόδους που τροφοδοτούν直接 στις επιχειρηματικές διαδικασίες. Η βασική μεταβολή συμβαίνει όταν το AI δεν παράγει μόνο προτάσεις αλλά μπορεί να εκτελέσει αξιόπιστα καθορισμένες ενέργειες μέσα σε ένα ελεγχόμενο σύστημα, επιτρέποντας στις οργανώσεις να αυτοματοποιήσουν τμήματα σύνθετης εργασίας γνώσης παρά μόνο να την ενισχύσουν.

Καθώς η ρυθμιστική επιτήρηση γύρω από το AI εντείνεται παγκοσμίως, πώς βλέπετε την πυρήνα υποδομή AI να εξελίσσεται για να ανταποκριθεί στις απαιτήσεις συμμόρφωσης χωρίς να περιορίζει την καινοτομία;

Καθώς η ρυθμιστική επιτήρηση γύρω από το AI αυξάνεται, πιστεύω ότι θα δούμε μια μετατόπιση μακριά από αρχιτεκτονικές που απλώς καλούν APIs μοντέλων και εμπιστεύονται την έξοδο τους. Οι επιχειρήσεις και οι ρυθμιστές θα απαιτούν ολοένα και περισσότερο συστήματα όπου η συμπεριφορά του AI είναι παρατηρήσιμη, ελεγχόμενη και κυβερνήσιμη. Αυτό είναι όπου αρχιτεκτονικές όπως η Μονάδα Επεξεργασίας Γνώσης γίνονται σημαντικές. Αυτού του είδους τα συστήματα επιτρέπουν στις οργανώσεις να επιβάλλουν ελέγχους, να ιχνηλατούν αποφάσεις και να διασφαλίσουν ότι οι εξόδους AI είναι αξιόπιστοι πριν επηρεάσουν πραγματικές διαδικασίες. Με την πάροδο του χρόνου, περιμένω αυτά τα είδη συστημάτων να γίνουν το τυποικό υπόβαθρο για αξιόπιστη υποδομή AI.

Έχετε μιλήσει για ηθική και υπευθυνότητα μαζί με το τεχνικό σας έργο. Πώς αυτές οι προοπτικές επηρεάζουν τον τρόπο με τον οποίο κατασκευάζετε διαφανή συστήματα AI;

Η ηθική και η υπευθυνότητα, για μένα, μεταφράζονται直接 σε επιλογές σχεδιασμού συστήματος. Αν τα συστήματα AI θα συμμετέχουν σε πραγματικές επιχειρηματικές διαδικασίες, δεν μπορούν να λειτουργούν ως αδιαφανή μαύρα κουτιά της οποίας η συμπεριφορά δεν μπορεί να ελεγχθεί ή να κατανοηθεί. Αυτή η προοπτική έχει επηρεάσει mạnh mẽ τον τρόπο με τον οποίο κατασκευάζω συστήματα AI. Η διαφάνεια, η ιχνηλασιμότητα και η ανθρώπινη επιτήρηση πρέπει να ενσωματωθούν στην αρχιτεκτονική από την αρχή. Αυτό σημαίνει ότι τα βήματα λογικής μπορούν να παρατηρηθούν, οι αποφάσεις μπορούν να ελεγχθούν και οι ενέργειες εκτελούνται μέσω ελεγχόμενων μηχανισμών. Όταν αυτές οι αρχές ενσωματωθούν στο επίπεδο υποδομής, τα συστήματα AI γίνονται όχι μόνο πιο αξιόπιστα αλλά και πιο εύκολα για τις οργανώσεις να κυβερνήσουν υπεύθυνα.

Μπροστά, πιστεύετε ότι η υποδομή AI με ατζέντα θα γίνει τόσο θεμελιώδης όσο η υποδομή cloud ήταν την προηγούμενη δεκαετία — και τι πρέπει να συμβεί τεχνικά για να υλοποιηθεί αυτή η μετατόπιση;

Πιστεύω ότι η υποδομή AI με ατζέντα έχει το δυναμικό να γίνει τόσο θεμελιώδης όσο η υποδομή cloud έχει γίνει τις τελευταίες δεκαετίες. Καθώς οι οργανώσεις αναζητούν να αυτοματοποιήσουν ολοένα και πιο σύνθετη εργασία γνώσης, θα χρειαστούν συστήματα που μπορούν να συντονίσουν τη λογική, τη μνήμη και την εκτέλεση σε πολλά καθήκοντα και πηγές δεδομένων. Ωστόσο, για να υλοποιηθεί αυτή η μετατόπιση, η υποκείμενη αρχιτεκτονική πρέπει να ωριμάσει πέρα από τις απλές ενσωματώσεις μοντέλων. Χρειαζόμαστε υποδομή που παρέχει δομημένη λογική, αξιόπιστη πρόσβαση σε εταιρική γνώση, ισχυρή παρατηρησιμότητα και ελεγχόμενη εκτέλεση. Όταν αυτές οι ικανότητες ενσωματωθούν στο πυρήνα του συστήματος, η υποδομή AI με ατζέντα μπορεί να εξελιχθεί από πειραματικά εργαλεία σε αξιόπιστη υποδομή της οποίας οι οργανώσεις θα εξαρτηθούν για να λειτουργήσουν κρίσιμες επιχειρήσεις.

Ευχαριστώ για την υπέροχη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Maisa AI.