Aaron Fulkerson, διευθύνων σύμβουλος της OPAQUE – Σειρά συνεντεύξεων

Aaron Fulkerson, διευθύνων σύμβουλος της OPAQUE, είναι έμπειρος επιχειρηματίας στον χώρο του εταιρικού λογισμικού και πρωτοπόρος του ανοικτού κώδικα. Εδώ και περισσότερες από δύο δεκαετίες δημιουργεί και αναπτύσσει σε μεγάλη κλίμακα τεχνολογικές πλατφόρμες με επίκεντρο την εμπιστοσύνη, τα δεδομένα και τον ψηφιακό μετασχηματισμό. Πριν ενταχθεί στην OPAQUE το 2023, ίδρυσε τη MindTouch και συνέβαλε στην εξέλιξή της σε ευρέως χρησιμοποιούμενη πλατφόρμα διαχείρισης εταιρικής γνώσης, πριν από την εξαγορά της από τη NICE Systems. Αργότερα ηγήθηκε της έναρξης του ServiceNow Impact, μιας από τις ταχύτερα αναπτυσσόμενες επιχειρηματικές μονάδες στην ιστορία της ServiceNow. Στην πορεία του εργάστηκε στο σημείο συνάντησης αναδυόμενων τεχνολογιών, εταιρικού λογισμικού και ανοικτών οικοσυστημάτων, παρέχοντας παράλληλα συμβουλές σε αρκετές νεοφυείς τεχνολογικές επιχειρήσεις και οργανισμούς. Πιο πρόσφατα έγινε σημαντικός υποστηρικτής του Confidential AI, της τεχνητής νοημοσύνης που διασφαλίζει την εμπιστευτικότητα των δεδομένων. Υποστηρίζει ότι η ιδιωτικότητα, η διακυβέρνηση και η επαληθεύσιμη εμπιστοσύνη θα αποτελούν θεμελιώδεις απαιτήσεις καθώς τα συστήματα AI ενσωματώνονται σε κρίσιμες εταιρικές ροές εργασίας.

OPAQUE είναι εταιρεία Confidential AI που προήλθε από το φημισμένο RISELab του UC Berkeley, το ίδιο ερευνητικό οικοσύστημα που συνέβαλε στη δημιουργία τεχνολογιών όπως το Apache Spark και το Databricks. Ανέπτυξε μια πλατφόρμα που επιτρέπει στις επιχειρήσεις να εκτελούν μοντέλα AI, πράκτορες και ροές εργασίας πάνω σε ιδιαίτερα ευαίσθητα δεδομένα, με κρυπτογραφικά επαληθεύσιμες εγγυήσεις ιδιωτικότητας και συμμόρφωσης. Αντί να αναγκάζει τους οργανισμούς να επιλέξουν μεταξύ καινοτομίας AI και ασφάλειας δεδομένων, η OPAQUE χρησιμοποιεί εμπιστευτική υπολογιστική, κρυπτογραφημένα περιβάλλοντα εκτέλεσης και εκτέλεση με πιστοποίηση από το υλικό, ώστε οι ευαίσθητες πληροφορίες να παραμένουν προστατευμένες πριν, κατά τη διάρκεια και μετά την επεξεργασία AI. Η τεχνολογία προορίζεται για κλάδους με αυστηρό κανονιστικό πλαίσιο, όπως χρηματοοικονομικά, ασφάλιση, υγεία και υψηλή τεχνολογία. Στους πελάτες και συνεργάτες περιλαμβάνονται η ServiceNow (NOW ), η Anthropic, η Accenture και άλλες επιχειρήσεις που θέλουν να περάσουν τα έργα AI από την πιλοτική στην παραγωγική λειτουργία χωρίς να εκθέτουν ιδιόκτητα δεδομένα ή δεδομένα που υπόκεινται σε κανονισμούς.

Έχετε δημιουργήσει και αναπτύξει σε μεγάλη κλίμακα αρκετές εταιρικές πλατφόρμες. Τι σας ώθησε να αναλάβετε τη θέση του διευθύνοντος συμβούλου της OPAQUE και να αφιερώσετε το επόμενο κεφάλαιο στην εμπιστοσύνη, την ιδιωτικότητα και τη διακυβέρνηση της AI;

Έχω περάσει σχεδόν δύο δεκαετίες δημιουργώντας εταιρικές πλατφόρμες, πρώτα στη MindTouch, την οποία εξακολουθούν να χρησιμοποιούν ένα δισεκατομμύριο χρήστες ετησίως, και έπειτα στη ServiceNow, όπου δημιούργησα το ταχύτερα αναπτυσσόμενο προϊόν της. Και οι δύο εμπειρίες μού δίδαξαν το ίδιο: ακόμη και η ισχυρότερη τεχνολογία κερδίζει μόνο όταν οι άνθρωποι την εμπιστεύονται.

Όταν γνώρισα τους συνιδρυτές της OPAQUE, Raluca Ada Popa, Ion Stoica και Rishabh Poddar, είδα έναν σπάνιο συνδυασμό ταλέντου και οράματος. Η Raluca είναι μία από τις κορυφαίες ερευνήτριες παγκοσμίως στην ιδιωτικότητα και την ασφάλεια. Ο Ion συνίδρυσε το Databricks. Ο Rishabh δημιούργησε τα βασικά κρυπτογραφικά συστήματα που αποτέλεσαν τα θεμέλια της OPAQUE.

Στο RISELab του UC Berkeley είχαν δημιουργήσει κάτι που αναγνώρισα αμέσως ως τομή με σημασία για μια ολόκληρη γενιά: κρυπτογραφική απόδειξη ότι τα δεδομένα παραμένουν ιδιωτικά σε όλη τη διάρκεια κάθε ροής εργασίας AI. Όχι υποσχέσεις. Όχι πολιτικές. Απόδειξη.

Κοίταξα προς τα πού κατευθυνόταν η AI: πράκτορες που ενεργούν αυτόνομα σε εταιρικά συστήματα με ταχύτητα μηχανής. Είδα το ίδιο κενό για το οποίο προειδοποιεί ο Vint Cerf εδώ και 30 χρόνια: την απουσία επιπέδου εμπιστοσύνης. Το διαδίκτυο επιβίωσε χωρίς αυτό επειδή οι άνθρωποι λειτουργούσαν ως προστατευτικό κιγκλίδωμα. Ο ιστός των πρακτόρων δεν θα έχει αυτή την πολυτέλεια. Αυτό ήταν που με προσέλκυσε.

Το MCP (Model Context Protocol, ένα πρότυπο που επιτρέπει στους πράκτορες AI να αποκτούν ασφαλή πρόσβαση σε εργαλεία, εφαρμογές και δεδομένα) αναδεικνύεται σε κοινή βάση. Πώς πιστεύετε ότι θα αλλάξει τον τρόπο με τον οποίο οι επιχειρήσεις θέτουν σε λειτουργία την AI με πράκτορες και διευρύνουν την κλίμακά της;

Το MCP είναι σημαντικό βήμα στον τρόπο με τον οποίο οι επιχειρήσεις θέτουν σε λειτουργία την AI με πράκτορες και διευρύνουν την κλίμακά της. Σκεφτείτε το ως έναν καθολικό σύνδεσμο για ροές εργασίας AI. Τυποποιεί τον τρόπο σύνδεσης των πρακτόρων με εργαλεία, εφαρμογές και δεδομένα, μειώνοντας πραγματικά εμπόδια και επιταχύνοντας τον πειραματισμό.

Όμως η τυποποίηση της πρόσβασης, από μόνη της, δεν καθιστά την AI με πράκτορες ασφαλή ή επεκτάσιμη. Καθώς αυξάνονται οι συνδέσεις, με περισσότερους πράκτορες, εργαλεία και πηγές δεδομένων, κάθε νέα ενσωμάτωση διευρύνει την επιφάνεια από την οποία μπορεί να διαρρεύσουν δεδομένα. Κάθε σημείο σύνδεσης χωρίς επιβολή κανόνων κατά την εκτέλεση αποτελεί πιθανή οδό έκθεσης. Όταν οι πράκτορες AI αλληλεπιδρούν με ευαίσθητα συστήματα και ιδιόκτητη λογική, η κρυπτογράφηση των αποθηκευμένων δεδομένων και οι έλεγχοι δικτύου δεν αρκούν. Το όριο ασφάλειας έχει μετατοπιστεί στην ίδια την εκτέλεση, και αυτή η μετατόπιση γίνεται πιο επιτακτική καθώς μεγαλώνει η κλίμακα του οικοσυστήματος.

Η δυνατότητα επαλήθευσης σε αυτά τα ουσιώδη σημεία σύνδεσης θα είναι κρίσιμη για τις επιχειρήσεις. Μπορούν να διευρύνουν την κλίμακα της AI με πράκτορες όταν η πρόσβαση τύπου MCP συνδυάζεται με κρυπτογραφική απόδειξη για το ποιος κώδικας εκτελέστηκε, πού και υπό ποια πολιτική, πριν, κατά τη διάρκεια και μετά την εκτέλεση. Πρόσβαση μαζί με δυνατότητα επαλήθευσης. Αυτός είναι ο συνδυασμός που επιτρέπει την παραγωγική λειτουργία.

Καθώς το MCP τυποποιεί την πρόσβαση των πρακτόρων, πού βλέπετε σήμερα τα μεγαλύτερα κενά στην ασφάλεια, την επιβολή πολιτικών και την εμπιστοσύνη σε συστήματα που καθοδηγούνται από πράκτορες;

Ολοκληρώσαμε την έρευνα AI Leak Surface για το 2026 και δημοσιεύσαμε μια σύνοψη των ευρημάτων με τίτλο «Δώδεκα τρόποι με τους οποίους το περιβάλλον AI σας διαρρέει δεδομένα», η οποία εξετάζει αυτό το ζήτημα. Εντοπίσαμε 46 οδούς έκθεσης σε 8 κατηγορίες που καλύπτουν ολόκληρο το όριο εμπιστοσύνης της AI: υπολογιστική επεξεργασία, έλεγχο, εφαρμογή και τις μεταβιβάσεις μεταξύ τους. Και αυτά χωρίς να λάβουμε υπόψη κακόβουλους παράγοντες. Πρόκειται για περιπτώσεις όπου τίποτα δεν έχει χαλάσει, τα αρχεία καταγραφής φαίνονται καθαρά, αλλά το σύστημα εξακολουθεί να διαρρέει δεδομένα.

Τα μεγαλύτερα κενά δεν αφορούν τη συνδεσιμότητα· αυτό το λύνει το MCP. Αφορούν όσα συμβαίνουν μετά τη σύνδεση ενός πράκτορα. Οι περισσότεροι οργανισμοί δεν μπορούν να απαντήσουν σε τρία βασικά ερωτήματα: Πώς συμπεριφέρεται πραγματικά η AI μας; Ποιος την ελέγχει; Και πώς αποδεικνύουμε ότι οι πολιτικές επιβλήθηκαν;

Η έρευνά μας έδειξε ότι τα όρια ρυθμίζονται, αλλά ποτέ δεν επιβάλλονται. Μια πολιτική υπάρχει σε ένα έγγραφο, αρχείο ρυθμίσεων ή ρύθμιση κατά την εγκατάσταση, αλλά δεν περιορίζει το σύστημα που λειτουργεί. Ένας βοηθός AI για τη διοίκηση βάζει ουσιώδεις μη δημόσιες πληροφορίες σε μια πρόσκληση ημερολογίου. Ένας βοηθός RAG δίνει σε έναν αναλυτή αρχικού επιπέδου οικονομικά στοιχεία που προορίζονται για το διοικητικό συμβούλιο. Το SDK ενός προμηθευτή εξάγει κρυφά 10 εκατομμύρια ερωτήματα σε 12 μήνες. Σε κάθε περίπτωση υπήρχαν έλεγχοι πρόσβασης. Τα δεδομένα διέρρευσαν ούτως ή άλλως.

Μέχρι οι επιχειρήσεις να κλείσουν το κενό μεταξύ ρυθμισμένης πολιτικής και πολιτικής που επιβάλλεται στην πράξη, το MCP τυποποιεί την εξώπορτα. Το σπίτι όμως παραμένει αφύλακτο.

Όταν οι πράκτορες AI αποκτούν πρόσβαση σε ευαίσθητα συστήματα και ιδιόκτητα δεδομένα, ποιοι νέοι κίνδυνοι ιδιωτικότητας και συμμόρφωσης εμφανίζονται, για τους οποίους οι επιχειρήσεις συχνά δεν είναι προετοιμασμένες;

Οι περισσότερες επιχειρήσεις σκέφτονται την ιδιωτικότητα με βάση τα αποθηκευμένα δεδομένα ή όσα μεταφέρονται. Αυτό το μοντέλο καταρρέει στις ροές εργασίας με πράκτορες, επειδή ο μεγαλύτερος κίνδυνος είναι η έκθεση δεδομένων την ώρα που χρησιμοποιούνται.

Να τι εννοώ. Ένας κατασκευαστής αυτοκινήτων υψηλών επιδόσεων χρησιμοποιεί AI στη γραμμή συναρμολόγησης. Τα ακατέργαστα δεδομένα φαίνονται αθώα: μετρήσεις αισθητήρων, χρονικές ακολουθίες, έλεγχοι ποιότητας. Ένα μεγάλο γλωσσικό μοντέλο μπορεί πλέον να ανασυνθέσει ιδιόκτητες διαδικασίες κατασκευής από τα ίχνη δεδομένων που παράγονται παρεμπιπτόντως από τη λειτουργία. Ό,τι ήταν θόρυβος πριν από πέντε χρόνια είναι σήμερα έτοιμο σχέδιο για έναν ανταγωνιστή.

Η έρευνα AI Leak Surface τεκμηριώνει αυτό το μοτίβο σε δεκάδες σενάρια. Τα εργαλεία λειτουργικής τηλεμετρίας καταγράφουν από προεπιλογή ολόκληρο το περιεχόμενο δεδομένων AI. Σε μια ευρωπαϊκή τράπεζα, 2,1 εκατομμύρια προτροπές με πληροφορίες ταυτοποίησης προσώπων κατέληγαν σε μια εγκατάσταση SaaS στις ΗΠΑ, επειδή κανείς δεν άλλαξε τις προεπιλογές της παρακολούθησης απόδοσης εφαρμογών (APM). Η μνήμη των πρακτόρων διαρρέει συμφραζόμενα μεταξύ συνεδριών. Τα ίχνη αλυσίδων συλλογισμού εκθέτουν πλήρη αρχεία ερευνών σε πλατφόρμες παρατηρησιμότητας προσβάσιμες σε εξωτερικούς συνεργάτες. Τα παραδοσιακά πλαίσια συμμόρφωσης δεν σχεδιάστηκαν για να εντοπίζουν τέτοιες διαρροές. Υπέθεταν ότι οι άνθρωποι μετέφεραν δεδομένα με ανθρώπινη ταχύτητα.

Γιατί το Confidential AI γίνεται απαραίτητο συμπλήρωμα του MCP και πώς αντιμετωπίζει προκλήσεις που δεν μπορούν να λύσουν μόνα τους τα πρότυπα πρόσβασης;

Το MCP λύνει το ποιος μπορεί να έχει πρόσβαση σε τι και πώς, ενώ το Confidential AI λύνει το τι συμβαίνει μετά τη χορήγηση πρόσβασης. Είναι συμπληρωματικά επίπεδα.

Τα πρότυπα πρόσβασης, από μόνα τους, δεν μπορούν να αποτρέψουν την παραβίαση ασφάλειας κατά την εκτέλεση, τη σταδιακή απόκλιση από τις πολιτικές ή τη μη εξουσιοδοτημένη χρήση δεδομένων. Σκεφτείτε το ως εξής: το MCP προσφέρει έναν τυποποιημένο τρόπο σύνδεσης των πρακτόρων με τα συστήματα. Το Confidential AI προσφέρει κρυπτογραφικές εγγυήσεις ότι, αφού συνδεθούν, οι πράκτορες μπορούν να κάνουν μόνο όσα έχουν εξουσιοδοτηθεί να κάνουν, και ότι μπορείτε να το αποδείξετε.

Το Confidential AI παρέχει αυτές τις εγγυήσεις κατά την εκτέλεση για δεδομένα, ταυτότητα, κώδικα και επικοινωνία. Προσφέρει επαληθεύσιμη απόδειξη εκτέλεσης και διασφαλίζει ότι η ιδιωτικότητα και η επιβολή πολιτικών δεν σταματούν στο όριο πρόσβασης, αλλά συνεχίζονται όσο η AI συλλογίζεται, παράγει και ενεργεί. Χωρίς αυτό, το MCP είναι ένα γερό θεμέλιο. Όμως τα θεμέλια, από μόνα τους, δεν κάνουν ένα κτίριο ασφαλές.

Στην πράξη, πώς μοιάζει η επαληθεύσιμη εμπιστοσύνη για μια επιχείρηση που χρησιμοποιεί αυτόνομους πράκτορες AI σε κρίσιμες ροές εργασίας;

Επαληθεύσιμη εμπιστοσύνη σημαίνει ότι μπορώ να αποδείξω ποιος κώδικας εκτελέστηκε, πού, υπό ποιες πολιτικές, σε ποια δεδομένα απέκτησε πρόσβαση και πώς συμπεριφέρθηκε το σύστημα με την πάροδο του χρόνου.

Πάρτε, για παράδειγμα, μια ασφαλιστική εταιρεία που χρησιμοποιεί πράκτορες AI για να επεξεργάζεται επιστολές αξίωσης αποζημίωσης. Πριν από την εκτέλεση, η πιστοποίηση μέσω υλικού επαληθεύει την ταυτότητα του πράκτορα και την ακεραιότητα του περιβάλλοντος. Κατά την εκτέλεση, η κρυπτογραφική δέσμευση στις πολιτικές μέσα σε ένα έμπιστο περιβάλλον εκτέλεσης προστατευμένο από το υλικό (Trusted Execution Environment, TEE) διασφαλίζει την προστασία των δεδομένων και την επιβολή των πολιτικών. Μετά την εκτέλεση, ένα ίχνος ελέγχου ανθεκτικό σε παραποίηση καταγράφει ακριβώς όσα συνέβησαν.

Ο κίνδυνος στις ροές εργασίας με πράκτορες δεν είναι να ξεφύγει ένας πράκτορας από τον έλεγχο. Ο πραγματικός κίνδυνος είναι να μην μπορείτε να αποδείξετε αν επιβλήθηκε μια πολιτική ή αν προστατεύθηκαν ευαίσθητα δεδομένα όσο οι πράκτορες λειτουργούσαν, πριν, κατά τη διάρκεια και μετά. Αυτό σημαίνει επαληθεύσιμη εμπιστοσύνη.

Όταν τα συστήματα με πράκτορες λειτουργούν με ταχύτητα μηχανής, γιατί αποτυγχάνει η παραδοσιακή ανθρώπινη εποπτεία και πώς πρέπει οι οργανισμοί να ξανασκεφτούν τη διακυβέρνηση σε αυτό το περιβάλλον;

Για δεκαετίες το διαδίκτυο είχε ένα αόρατο προστατευτικό κιγκλίδωμα: εμάς. Οι άνθρωποι διαβάζουν περιεχόμενο, κάνουν κλικ συνειδητά και δεν ενεργούν αθόρυβα σε εκατό συστήματα ταυτόχρονα.

Η AI με πράκτορες καταργεί αυτές τις παραδοχές από τη μια μέρα στην άλλη. Οι πράκτορες λειτουργούν συνεχώς, αποφασίζουν με ταχύτητα μηχανής και μπορούν να χειραγωγηθούν μέσω περιβαλλόντων σχεδιασμένων για ανθρώπους, αλλά αξιοποιήσιμων από μηχανές. Μια κακόβουλη ιστοσελίδα δεν χρειάζεται να ξεγελάσει την AI όπως έναν άνθρωπο· μπορεί απλώς να της δώσει οδηγίες.

Με κίνδυνο μόλις 1% ανά πράκτορα, ένα δίκτυο 100 πρακτόρων αντιμετωπίζει πιθανότητα παραβίασης 63%. Αυξήστε τους σε χίλιους και η πιθανότητα φτάνει το 99,99%. Η διακυβέρνηση που απαιτεί ανθρώπινη συμμετοχή στη διαδικασία δεν μπορεί να ακολουθήσει αυτούς τους αριθμούς. Η εποπτεία πρέπει να περάσει από την εκ των υστέρων αντιδραστική εξέταση στις εγγυήσεις κατά την εκτέλεση. Αυτό σημαίνει ροές εργασίας μηδενικής εμπιστοσύνης, επιβολή πολιτικών από προεπιλογή και επαληθεύσιμη εκτέλεση που δεν εξαρτάται από έναν άνθρωπο ο οποίος θα εντοπίσει την αστοχία κατόπιν εορτής.

Ποιες είναι οι συνηθέστερες αστοχίες ασφάλειας όταν οι επιχειρήσεις πειραματίζονται με AI πρακτόρων χωρίς ενσωματωμένο επίπεδο εμπιστοσύνης;

Το μοτίβο που βλέπω συχνότερα είναι ότι οι επιχειρήσεις αφήνουν τους πράκτορες να ενεργούν και να συντονίζονται χωρίς κρυπτογραφικές εγγυήσεις για τη συμπεριφορά τους. Επεξεργάζονται ευαίσθητη πνευματική ιδιοκτησία βασιζόμενες στην ελπίδα.

Το αποτέλεσμα είναι προβλέψιμο και έχουμε καταγράψει τα συγκεκριμένα μοτίβα στην έρευνα AI Leak Surface. Οι παραβιάσεις κατά την εκτέλεση παρακάμπτουν τις παραδοσιακές περιμετρικές άμυνες, επειδή ο πράκτορας βρίσκεται ήδη μέσα στο δίκτυο. Οι αυτόνομες αλυσίδες πρακτόρων δημιουργούν αλυσιδωτές αστοχίες. Ένας πράκτορας που έχει γίνει αντικείμενο εκμετάλλευσης προκαλεί φαινόμενο ντόμινο στα συνδεδεμένα συστήματα. Η ιδιόκτητη λογική διαρρέει μέσω ιχνών δεδομένων που κανείς δεν σκέφτηκε να παρακολουθήσει. Οι πράκτορες χάνουν την ικανότητα να ξεχωρίζουν την πρόθεση της επιχείρησης από κακόβουλες εισόδους, επειδή κατά την εκτέλεση δεν υπάρχει επαληθεύσιμη ταυτότητα ή δέσμευση στις πολιτικές.

Δεν πρόκειται για υποθέσεις. Χαρτογραφήσαμε 46 οδούς μέσω των οποίων τα δεδομένα διαφεύγουν από τους προβλεπόμενους ελέγχους, ακόμη κι όταν τίποτα δεν φαίνεται χαλασμένο. Οι πράκτορες AI παράγουν και μοιράζονται δεδομένα με ταχύτητα μηχανής. Χωρίς επαληθεύσιμα μέτρα προστασίας κατά την εκτέλεση, ενσωματωμένα στη ροή εργασίας, οι αστοχίες διαδίδονται ταχύτερα από όσο μπορεί οποιαδήποτε ομάδα ασφάλειας να τις εντοπίσει ή να αντιδράσει.

Πώς συνδυάζουν οι πρωτοπόροι οργανισμοί την αξιοποίηση προηγμένων δυνατοτήτων AI με την προστασία των πιο ευαίσθητων δεδομένων τους;

Οι οργανισμοί που το πετυχαίνουν αντιμετωπίζουν την ιδιωτικότητα και τη διακυβέρνηση ως επιταχυντές, όχι ως φρένα. Αυτή είναι η βασική διαπίστωση.

Στην πράξη βλέπω τις πρωτοπόρες επιχειρήσεις να συνδυάζουν προηγμένες δυνατότητες AI με πλατφόρμες Confidential AI που παρέχουν επαληθεύσιμες εγγυήσεις, όχι απλώς καταλόγους ελέγχου συμμόρφωσης. Αξιοποιούν ευαίσθητα δεδομένα για καινοτομία AI, διασφαλίζοντας παράλληλα ότι οι ιδιόκτητες πληροφορίες παραμένουν προστατευμένες ακόμη κι όταν οι ροές εργασίας λειτουργούν αυτόνομα.

Παλιότερα το ζήτημα παρουσιαζόταν ως επιλογή ανάμεσα στις δυνατότητες και την ασφάλεια. Οι οργανισμοί που προχωρούν ταχύτερα έχουν απορρίψει εντελώς αυτόν τον συμβιβασμό. Ενσωματώνουν επαληθεύσιμη εμπιστοσύνη στα θεμέλια της στρατηγικής AI, ώστε να αξιοποιούν τα πιο πολύτιμα δεδομένα τους. Την ίδια στιγμή οι ανταγωνιστές παραμένουν κολλημένοι στην πιλοτική φάση, λειτουργώντας AI σε καθαρισμένα σύνολα δεδομένων που δεν αποφέρουν ουσιαστικά αποτελέσματα.

Με βάση όσα βλέπετε σήμερα, πώς αναμένετε να εξελιχθούν τα εταιρικά μοντέλα διακυβέρνησης AI τα επόμενα χρόνια, καθώς τα συστήματα με πράκτορες περνούν από την πιλοτική στην πλήρη παραγωγική λειτουργία;

Η διακυβέρνηση θα περάσει από τη γραφειοκρατία στην απόδειξη. Αυτός είναι ο απλούστερος τρόπος να το πω. Τα πρώτα μοντέλα διακυβέρνησης σχεδιάστηκαν για λογισμικό που λειτουργούσε με ανθρώπινους ρυθμούς: πολιτικές στο χαρτί, εγκρίσεις πριν από την εγκατάσταση, ανασκοπήσεις αφού κάτι πήγαινε στραβά. Τα συστήματα με πράκτορες καταρρίπτουν καθεμία από αυτές τις παραδοχές. Λειτουργούν συνεχώς, ενεργούν αυτόνομα και δημιουργούν αλυσιδωτές επιπτώσεις με ταχύτητα μηχανής.

Βλέπουμε τη διακυβέρνηση να μετακινείται προς τη δυνατότητα επαλήθευσης κατά την εκτέλεση ως νέο όριο ασφάλειας, με κρυπτογραφικές εγγυήσεις που αποδεικνύουν τη συμπεριφορά σε κάθε στάδιο του κύκλου ζωής ενός πράκτορα, πριν, κατά τη διάρκεια και μετά. Το ίδιο μοτίβο που είδαμε με το HTTPS γίνεται η προεπιλογή για την κίνηση στον ιστό. Κανείς δεν συζητά πλέον αν πρέπει να κρυπτογραφούνται οι διαδικτυακές συνδέσεις. Σε λίγα χρόνια κανείς δεν θα συζητά αν πρέπει να επαληθεύεται η εκτέλεση της AI την ώρα που συμβαίνει. Θα είναι βασική απαίτηση.

Ευχαριστούμε για την εξαιρετική συνέντευξη. Οι αναγνώστες που θέλουν να μάθουν περισσότερα μπορούν να επισκεφθούν την OPAQUE.