Τα πράγματα προχωρούν μπροστά με τα χρηματοοικονομικά μέτρα. Είναι η βιομηχανία έτοιμη;

Θέλω να αγοράσω μερικά British Airways

Όταν ξεκίνησα σε μια τραπεζική επιχείρηση το 1980, το τηλέφωνο ήταν η διεπαφή. Ένας πελάτης θα καλούσε, συνήθως ένας άντρας που είχε κάνει τα λεφτά του σε κάτι βαρετό και ήθελε λίγα από αυτά σε μετοχές, και θα έλεγε ότι του άρεσε να αγοράσει μερικά British Airways. Κάποιος στην επιχείρηση θα έπαιρνε την παραγγελία και αυτό ήταν η συναλλαγή. Δύο άνθρωποι, ένα τηλέφωνο και μια αξιοσημείωτη εμπιστοσύνη και στα δύο μέρη.

Τότε η βιομηχανία ξόδεψε σαράντα χρόνια για να αφαιρέσει το τηλέφωνο. Πρώτα οι οθόνες συναλλαγών. Στη συνέχεια οι ηλεκτρονικές终端. Στη συνέχεια οι API που επέτρεπαν σε ένα ταμείο να εκτελέσει χιλιάδες παραγγελίες ανά δευτερόλεπτο χωρίς κανείς να πει μια λέξη. Το ονομάζαμε πρόοδο και για το μεγαλύτερο μέρος ήταν.

Τώρα ο κύκλος κλείνει. Η πιο πρόσφατη ιδέα στη βιομηχανία είναι να αφήσει τον πελάτη να μιλήσει με την μηχανή και πάλι, εκτός αν αυτή τη φορά η μηχανή απαντά. Λέτε σε ένα πράγματι έξυπνο πράγμα, με σχεδόν απλή αγγλική, να εκτελέσει μια συναλλαγή ζευγαριών σε δύο κατηγορίες περιουσιακών στοιχείων ή να διατηρήσει μια θέση επιλογών που είναι βελτιστοποιημένη ενάντια σε μια σειρά από συνθήκες που τις λένε, και αυτό το κάνει. Ξόδεψαμε μια γενιά για να αντικαταστήσουμε τον άνθρωπο στην επιχείρηση. Τώρα πρόκειται να τον ξαναπροσλάβουμε σε σιλικόνη.

Δεν έχω καμία μεγάλη αντίρρηση σε όλα αυτά. Αυτό που με ανησυχεί είναι το σύστημα κάτω από την επιφάνεια, το οποίο είναι πολύ νεότερο από το μάρκετινγκ.

Το σύστημα είναι νεότερο από το μάρκετινγκ

Το πράγμα που τροφοδοτεί ήσυχα αυτή τη κυμαία ολοκλήρωσης είναι το Πρωτόκολλο Πλαισίου Μοντέλου, ή MCP, και είναι σχεδόν δέκα οκτώ μηνών. Η Anthropic το έκανε ανοιχτό κώδικα στα τέλη του 2024 για να λύσει ένα εσωτερικό πρόβλημα: πώς να συνδέσει τα μοντέλα γλωσσών με εξωτερικά εργαλεία και δεδομένα χωρίς να γράφει ειδικό κώδικα για κάθε ζευγάρι. Μέχρι τη στιγμή που η Anthropic παρέδωσε το πρωτόκολλο στο νεοσύστατο Ίδρυμα Agentic AI τον Δεκέμβριο του 2025, ήδη εκτελούνταν περισσότερα από 10.000 δημόσιους servers και είχε επιλεγεί από το ChatGPT, Gemini και Microsoft (MSFT ) Copilot, μεταξύ άλλων. Αυτή είναι η κατηγορία που κάνει το “πρώτο να ολοκληρώσει” να αισθάνεται σαν το μόνο ερώτημα που πρέπει να κάνουν.

Λύνει ένα πραγματικό πρόβλημα μηχανικής. Αντί να γράψουν χειροκίνητα μια ολοκλήρωση για κάθε θεσμικό εργαλείο, δημοσιεύουν ένα ενιαίο κατάλογο ικανοτήτων και αφήνουν το μοντέλο να διαβάσει από αυτό. Ένα μοντέλο μετώπου μπορεί τότε να μιλήσει σε μια βάση δεδομένων τριάντα ετών σαν να είχαν γνωριστεί σε ένα πάρτι.

Το πρόβλημα είναι ότι η ίδια ομοιομορφία περνάει απευθείας από το περιφερειακό δίκτυο που χτίσατε για δέκα χρόνια. Η διεπαφή που επιτρέπει στο μοντέλο να φτάσει στη βάση δεδομένων κληρονομιάς επιτρέπει επίσης να φτάσει σε οτιδήποτε άλλο εκτεθεί στην ίδια διεπαφή. Και ένας πράκτορας που κάνει μια πραγματική δουλειά σε μια πραγματική εταιρεία συναλλαγών πρέπει να διαβάσει τον έξω κόσμο για να λειτουργήσει: σχόλια αγοράς, ροές ειδήσεων, το αρχείο που κάποιος μόλις έπεσε. Η στιγμή που αρχίζει να διαβάζει μη αξιόπιστα κείμενα, οι οδηγίες και τα δεδομένα φτάνουν κάτω από την ίδια σωλήνα, γραμμένα στην ίδια γλώσσα, χωρίς αξιόπιστη τρόπο για το μοντέλο να πει ποιο είναι ποιο.

Εξαπάτηση του μοντέλου είναι πιο εύκολη από το να σπάσει την τράπεζα

Αυτό δεν είναι υποθετικό. Μια μελέτη του 2026 έθεσε ως στόχο να μετρήσει πόσο καλά τα πράγματα του AI αντιστέκονται στην ένεση προώθησης, το κόλπο της απόκρυψης οδηγιών μέσα στο περιεχόμενο που διαβάζει ο πράκτορας, ώστε να κάνει κάτι άλλο από ότι του ζητήθηκε. Σε χιλιάδες προσομοιωμένες επιθέσεις σε πράκτορες που χτίστηκαν σε συστήματα μετώπου όπως το GPT-5 και το Gemini, η άμεση ένεση κατάφερε περισσότερο από το 79% της φοράς, και οι έμμεσες επιθέσεις, όπου η οδηγία είναι θαμμένη σε κανονικό περιεχόμενο ιστού ή μεταδεδομένων, προσγειώθηκαν κάπου μεταξύ 41% και 68%. Δεν υπήρχε μια seule ρύθμιση που ελέγχεται πλήρως.

Το OWASP GenAI Security Project έκανε μια πιο ήσυχη αλλά σχετική παρατήρηση στη rapport του 2026 για την ασφάλεια και τη διακυβέρνηση του AI, που δημοσιεύθηκε τον Ιούνιο. Η πρώτη έκδοση είχε καταγράψει κινδύνους που ήταν κυρίως πιθανό σε χαρτί. Η έκδοση του 2026 βασίζεται σε καταγεγραμμένα περιστατικά, συμβουλές προμηθευτών και καταγεγραμμένες ευπάθειες που συνδέονται σχεδόν με κάθε κατηγορία κινδύνου που παρακολουθεί. Δύο χρόνια, και το θεωρητικό έγινε το καταγεγραμμένο. Αυτό μόνο είναι ένα επιχείρημα για να γνωρίζετε ακριβώς τι συνδέετε, και σε τι, πριν συνδέσετε.

Μια μηχανή που γράφει τις δικές της εκμεταλλεύσεις

Στη συνέχεια η εικόνα άλλαξε και πάλι. Τον Απρίλιο του 2026 η Anthropic αποκάλυψε το Claude Mythos Preview, ένα περιορισμένο, μετώπου-τάξης μοντέλο που χτίστηκε για κυβερνο-έργα. Σύμφωνα με την τεχνική περιγραφή της Anthropic, το Mythos θα μπορούσε να βρει αυτόνομα zero-day ευπάθειες σε μεγάλους λειτουργικούς συστήματα και περιηγητές ιστού και να παράγει λειτουργικές εκμεταλλεύσεις για αυτά, χωρίς κανείς να κρατάει το χέρι του. Το Ηνωμένο Βασίλειο του Ινστιτούτου Ασφάλειας AI ελέγχθηκε την αξίωση ανεξάρτητα και βρήκε ότι το Mythos ολοκλήρωσε μια ολική προσομοίωση 32-βήματος επιχείρησης δίκτυου και λύσε 73% των προκλήσεων υψηλού επιπέδου.

Το Mythos είναι σε μια σύντομη αγκαλιά, περιορισμένο σε một χούφτα παρόχων υποδομής κάτω από κάτι που ονομάζεται Project Glasswing. Αλλά η ύπαρξή του καθιστά μια διαμάχη. Η αμυντική ικανότητα τώρα τρέχει πολύ μπροστά από τη διακυβέρνηση που προορίζεται να τη περιέχει. Βάλτε μια ικανότητα σαν αυτή στα λάθος χέρια, δείξτε την σε einen πράκτορα που έχει εξουσία να μετακινήσει χρήματα, και έχετε μια πιπεριά που μπορεί να απομακρύνει τις υποκείμενες API και να εκτελέσει υγροποιήσεις περιουσιακών στοιχείων ή εξωτερικές μεταφορές που κανείς δεν εξουσιοδότησε.

Δεν απαιτεί να σπάσει την κρυπτογραφημένη βάση δεδομένων. Αυτό είναι το μέρος που αξίζει να καθίσετε. Τα παραδοσιακά χρηματοοικονομικά συστήματα τρέχουν σε детерμινιστικό κώδικα, όπου η ίδια δράση σας δίνει την ίδια απάντηση κάθε φορά, και αξιοπιστώς. Ένας πράκτορας τρέχει σε πιθανολογική λογική, που είναι ένας ευγενικός τρόπος για να πει ότι δεν έρχεται με σκληρά περιθώρια. Έτσι ο επιτιθέμενος παραλείπει το θησαυροφυλάκιο εντελώς και απλά μιλάει το μοντέλο να διαβάσει λανθασμένα τις οδηγίες του. Γιατί να διαλέξεις το κλείδωμα όταν μπορείς να μιλήσεις το δρόμο σου πέρα από τον φύλακα;

Τι προστατεύει πραγματικά είναι κάτω από το μοντέλο

Υπάρχει μια γωνία κόστους εδώ, και δείχνει τον ίδιο δρόμο. Το MCP είναι ομιλητικό. Χρειάζεται πολλή πίσω και μπροστά, και αυτή η πίσω και μπροστά καίει tokens, που σημαίνει χρήματα. Όσο αυξάνεται το λογαριασμός, η προσδοκία μου είναι ότι οι σοβαροί φορείς θα απομακρύνθούν από το γενικό ανοιχτό πρότυπο και προς τα στενά βελτιστοποιημένα ιδιωτικά τελικά σημεία. Φθηνότερο, και πολύ πιο εύκολο να κλειδώσει.

Επειδή τα δικά του φραγμοί ασφαλείας του μοντέλου δεν είναι ούτε κοντά αρκετά για να προστατεύσουν τα κεφάλαια άλλων. Τι προστατεύει πραγματικά είναι κάτω από το μοντέλο, στο σύστημα. Μια σοβαρή ανάπτυξη αρχίζει με device-επίπεδο φύλαξη. Στο EXANTE, χτίζουμε το πλαίσιο συμμόρφωσης απευθείας σε αυτή τη στρωματοποιημένη αρχιτεκτονική: πριν μια seule λέξη φτάσει στο μοντέλο γλωσσών, ένα hardware-ασφαλισμένο περιθώριο έχει ήδη καθιερώσει ποιος είναι στην άλλη πλευρά της συνομιλίας.

Κάτω από αυτό, οι API πρέπει να ξαναχτιστούν για να χρησιμοποιηθούν από μια μηχανή, όχι από一个人. Ένας ανθρώπινος developer παίρνει μια assez permissive διεπαφή επειδή εμπιστεύεστε την κρίση του. Ένας αυτόνομος πράκτορας παίρνει ένα σκληρό σχήμα που περιορίζει στενά τι μπορεί να ζητήσει από το backend να κάνει, επειδή ένας πράκτορας θα χρησιμοποιήσει ευχαρίστως ό,τι αφήσετε γύρω. Δώστε του πρόσβαση σε ένα πράγμα, και θα βρει μια χρήση για το πράγμα. Έτσι η παραγωγή πρέπει να εκθέσει όσο λιγότερο μπορεί να ξεφύγει.

Το έργο του πράκτορα πρέπει τότε να τρέξει μέσα σε ένα περιβάλλον με φράγματα, με την πιπεριά που διαβάζει τον κόσμο να κρατιέται δομικά χωριστά από την μηχανή που μπορεί να ενεργήσει σε αυτό. Διαβάζοντας και ενεργώντας είναι διαφορετικά έργα και ανήκουν σε διαφορετικά δωμάτια. Και για οτιδήποτε πραγματικά υψηλό κίνδυνο, ένας άνθρωπος πρέπει ακόμα να πει ναι. Κάποιος με ένα όνομα και μια σύνδεση εγκρίνει τη συναλλαγή πριν πάει οπουδήποτε. Αυτό το βήμα δεν είναι για διαπραγμάτευση.

Η χελώνα έχει ένα σημείο

Ξέρετε την ιστορία. Ένας λαγός τόσο ικανοποιημένος με την ταχύτητά του που σταματά για ένα ύπνο, και μια χελώνα που κερδίζει με τη ριζική τακτική να μην σταματά. Είναι ένα μύθο, όχι ένα εγχειρίδιο λειτουργίας, και δεν θα στηριζόμουν σε αυτό πολύ. Αλλά ο τρέχων αγώνας ρίμνει με αυτό. Οι εταιρείες που τρέχουν πιο γρήγορα συλλέγουν την περισσότερη κάλυψη, και η κάλυψη δεν είναι η ίδια με τη διαρκή. Η αγορά έχει την τάση να θυμάται τον μεσάζοντα που μετακίνησε ένα τέταρτο πολύ νωρίς για πολύ περισσότερο χρόνο από ότι θυμάται εκείνον που περίμενε.

Εν τω μεταξύ, οι κανόνες πιάνουν. Όσο οι πλαισιοί όπως ο Νόμος AI της Ευρωπαϊκής Ένωσης σφίγγουν την εποπτεία των αυτοματοποιημένων συστημάτων στη χρηματοοικονομία, η αντιμετώπιση της συμμόρφωσης ως κάτι που το προσθέτετε αργότερα σταματά να είναι μια επιλογή και αρχίζει να είναι μια πρόστιμο. Όταν ένας πράκτορας που έχει υποστεί βλάβη κάνει κάτι που δεν πρέπει, η ευθύνη πέφτει στην υποδομή που του επέτρεψε, όχι στο μοντέλο που εξαπατήθηκε. Η ανθεκτικότητα σε αυτή την εποχή θα ανήκει στις εταιρείες που διατηρούν τα περιουσιακά στοιχεία των πελατών τους σωστά分离, διατηρούν τα φώτα αναμμένα όταν τα πράγματα σπάσουν, και μπορούν να δείξουν το έργο τους σε哪里 τα δεδομένα πήγαν. Όχι σε εκείνον που συνδέθηκε με την πιο φανταχτερή σύνδεση πρώτος.

Ο οποίος με φέρνει πίσω στον άνθρωπό μου στο τηλέφωνο το 1985. Για όλα τα λάθη του, είχε ένα πλεονέκτημα έναντι του πράκτορα που προσπαθούμε να χτίσουμε για να τον αντικαταστήσει. Όταν μου έλεγε να αγοράσω British Airways, αγόρασε British Airways. Δεν θα μπορούσατε να τον εξαπατήσετε να μεταφέρει το λογαριασμό σε έναν ξένο με ένα έξυπνα γραμμένο κεφάλαιο. Πρόοδος, τότε. Μια sorte. Στο EXANTE, ξοδεύουμε μια αξιοσημείωτη προσπάθεια για να βεβαιωθούμε ότι η σιλικόνη εκδοχή είναι τουλάχιστον τόσο δύσκολο να εξαπατηθεί όσο ο άνθρωπος με το τηλέφωνο ήταν, το οποίο σας λέει κάτι για το πού έχει φτάσει η τεσσαράκοντα χρόνια καινοτομίας.