Adam Markowitz, διευθύνων σύμβουλος και συνιδρυτής της Drata – Σειρά συνεντεύξεων

Ο Adam Markowitz είναι διευθύνων σύμβουλος και συνιδρυτής της Drata, όπου διευρύνει το έργο της εταιρείας στον τομέα της συνεχούς συμμόρφωσης και της εμπιστοσύνης, επεκτείνοντάς το στη διακυβέρνηση πρακτόρων τεχνητής νοημοσύνης. Πριν συνιδρύσει τη Drata το 2020, ίδρυσε την Portfolium μαζί με τους Troy Markowitz και Daniel Marashlian. Η εμπειρία του από τη διαχείριση ερωτηματολογίων ασφαλείας, ελέγχων και αξιολογήσεων συμμόρφωσης συνέβαλε στη διαμόρφωση της προσέγγισης της Drata για την αυτοματοποίηση του τρόπου με τον οποίο οι οργανισμοί αποδεικνύουν την αξιοπιστία τους.

Η Drata παρέχει μια πλατφόρμα διακυβέρνησης, διαχείρισης κινδύνων και συμμόρφωσης, η οποία συνδυάζει την αυτοματοποιημένη συλλογή τεκμηρίων, τη συνεχή παρακολούθηση των δικλίδων ελέγχου, τη διαχείριση κινδύνων τρίτων και τις ροές εργασίας για ερωτηματολόγια ασφαλείας. Οι δυνατότητές της για τη διακυβέρνηση πρακτόρων τεχνητής νοημοσύνης εστιάζουν στον εντοπισμό πρακτόρων, στην εφαρμογή πολιτικών πριν από την εκτέλεση ενεργειών και στην καταγραφή αποφάσεων, ώστε αυτές να μπορούν να ελεγχθούν. Σε αυτή τη συνέντευξη, ο Markowitz μιλά για τις απειλές από εσωτερικούς πράκτορες, τις ταυτότητες μηχανών, τα όρια ασφαλείας των κλήσεων εργαλείων και τους ελέγχους που χρειάζονται οι επιχειρήσεις για να αναπτύσσουν αυτόνομους πράκτορες σε μεγάλη κλίμακα.

Ιδρύσατε την Portfolium πριν συνιδρύσετε τη Drata το 2020, έχοντας βιώσει από πρώτο χέρι πόσο δυσκίνητη μπορούσε να γίνει η συμμόρφωση με τις απαιτήσεις ασφαλείας καθώς αναπτυσσόταν μια εταιρεία. Τι σας έκανε να πιστέψετε ότι επρόκειτο για ένα πρόβλημα που άξιζε να αποτελέσει τη βάση μιας εντελώς νέας εταιρείας και πώς εξελίχθηκε η αποστολή της Drata καθώς η τεχνητή νοημοσύνη άλλαζε το τοπίο της ασφάλειας;

Καθώς διευθύναμε την Portfolium μαζί με τους συνιδρυτές μου, Troy Markowitz και Daniel Marashlian, μάθαμε ένα πολύτιμο μάθημα: η οικοδόμηση εμπιστοσύνης στις επιχειρήσεις είναι διαδικασία, όχι εμπορική παρουσίαση. Λόγω του μεγάλου όγκου και της ευαίσθητης φύσης των πληροφοριών των φοιτητών, τα πανεπιστήμια και οι επιχειρήσεις δεν συνεργάζονταν μαζί μας αν δεν αποδεικνύαμε ότι κάναμε όσα έπρεπε για να προστατεύσουμε τα δεδομένα τους. Συνειδητοποιήσαμε ότι η αργή και επίπονη διαδικασία της χειροκίνητης συμπλήρωσης κάθε ερωτηματολογίου ασφαλείας και της διεκπεραίωσης κάθε ελέγχου και αξιολόγησης συμμόρφωσης ήταν μια κοινή εμπειρία. Μετά την εξαγορά της Portfolium, ξαναβρεθήκαμε με τον Troy και τον Daniel και περάσαμε έξι μήνες δημιουργώντας την πρώτη έκδοση της Drata. Συζητήσαμε με δεκάδες εταιρείες και ελεγκτές για να επιβεβαιώσουμε ότι υπήρχε πράγματι το πρόβλημα, προτού καν αρχίσουμε να γράφουμε κώδικα. Όταν κυκλοφορήσαμε την πλατφόρμα, φτάσαμε τους 100 πελάτες μέσα στις πρώτες έξι εβδομάδες και τους 1.000 μέσα σε έναν χρόνο — και αυτό μας έδειξε ότι είχαμε περάσει από την πώληση ενός προϊόντος που ήταν απλώς «χρήσιμο να υπάρχει» στην προσφορά κάτι χωρίς το οποίο οι άνθρωποι δεν μπορούσαν να λειτουργήσουν.

Με την τεχνητή νοημοσύνη, η αποστολή της Drata να προσφέρει συνεχή εμπιστοσύνη δεν έχει αλλάξει, αλλά το πεδίο εφαρμογής της εμπιστοσύνης αυτής έχει διευρυνθεί. Αρχίσαμε αυτοματοποιώντας την επίπονη διαδικασία της συμμόρφωσης και στη συνέχεια περάσαμε σε ροές εργασίας με πράκτορες, οι οποίοι μπορούσαν να διεκπεραιώνουν από την αρχή μέχρι το τέλος αξιολογήσεις κινδύνων τρίτων και ερωτηματολόγια ασφαλείας. Η ουσιαστική αλλαγή ήρθε, όμως, όταν οι ίδιοι οι πράκτορες έγιναν το αντικείμενο που έπρεπε να τεθεί υπό διακυβέρνηση. Πλέον, έχουμε επεκτείνει την πλατφόρμα, ώστε να υποστηρίζει τη διακυβέρνηση πρακτόρων τεχνητής νοημοσύνης: να εντοπίζει τους πράκτορες, να ελέγχει τι επιτρέπεται να κάνουν και να παράγει τεκμήρια που αντέχουν σε έλεγχο όταν κάποιος τα ζητήσει.

Εισαγάγατε τον όρο «απειλή από εσωτερικό πράκτορα» για να περιγράψετε κινδύνους που δεν προκαλούνται από εξωτερικό εισβολέα, αλλά από τους ίδιους τους πράκτορες τεχνητής νοημοσύνης ενός οργανισμού. Τι διακρίνει μια τέτοια απειλή από την παραδοσιακή απειλή εκ των έσω, για την οποία οι ομάδες ασφαλείας προετοιμάζονται εδώ και δεκαετίες;

Οι παραδοσιακές απειλές εκ των έσω αφορούν περιπτώσεις κατά τις οποίες ένα άτομο κάνει κακή χρήση της πρόσβασης που ήδη διαθέτει, όπως ένας δυσαρεστημένος υπάλληλος, ένας απρόσεκτος υπάλληλος ή κάποιος που απλώς πατάει το λάθος κουμπί. Οι ομάδες ασφαλείας έχουν περάσει δεκαετίες καταρτίζοντας προγράμματα για την αντιμετώπιση αυτού του κινδύνου, με έμφαση στους ελέγχους ιστορικού, στην αρχή των ελάχιστων προνομίων, στις λίστες ελέγχου για την αποχώρηση εργαζομένων και σε παρόμοια μέτρα.

Η απειλή από εσωτερικό πράκτορα είναι διαφορετική, επειδή στον πράκτορα δεν είχε δοθεί εξαρχής πρόσβαση. Ο κίνδυνος δεν αφορά πλέον την κακή χρήση, αλλά την απόκτηση πρόσβασης. Αν δοθεί σε έναν πράκτορα ένας στόχος και μπλοκαριστεί η προφανής διαδρομή για την επίτευξή του, δεν θα υποβάλει απλώς ένα αίτημα υποστήριξης και δεν θα περιμένει, όπως θα έκανε ένας άνθρωπος. Θα προσπαθήσει να βρει άλλη διαδρομή: έναν λογαριασμό υπηρεσίας με αδύναμο κωδικό πρόσβασης ή ένα τελικό σημείο που κανείς δεν θυμήθηκε να απενεργοποιήσει. Εξασφαλίζει πρόσβαση χωρίς κακόβουλη πρόθεση και χωρίς να αντιλαμβάνεται ότι παραβιάζει κάποια πολιτική. Κάνει ακριβώς αυτό που του ζητήσατε, κι αυτό είναι που καθιστά τόσο δύσκολο τον εντοπισμό του. Κάθε βήμα μοιάζει εύλογο αν εξεταστεί μεμονωμένα, και στο τέλος ο πράκτορας αναφέρει ότι πέτυχε τον στόχο του.

Γνωρίζουμε ήδη πώς να θέτουμε υπό διακυβέρνηση εργαζομένους και τρίτους που έχουν πρόσβαση σε ευαίσθητα συστήματα, αλλά οι πράκτορες αποτελούν μια τρίτη κατηγορία και τα εργαλεία που έχουν δημιουργηθεί για τις δύο πρώτες δεν τους καλύπτουν.

Οι πράκτορες τεχνητής νοημοσύνης μπορούν να επιδιώκουν επίμονα τους στόχους τους, να λειτουργούν με την ταχύτητα των μηχανών και να αλληλεπιδρούν με πολλά συστήματα χωρίς την κρίση που θα μπορούσε να ασκήσει ένας άνθρωπος. Πόσο ριζικά αλλάζει αυτό το μοντέλο απειλών για τις επιχειρήσεις;

Πάνω απ’ όλα, αλλάζει το χρονοδιάγραμμα. Ένας άνθρωπος που ψάχνει τρόπο να εισβάλει σε ένα σύστημα, αργά ή γρήγορα θα βαρεθεί, θα συλληφθεί ή θα τα παρατήσει. Ένας πράκτορας δεν κάνει τίποτα από αυτά. Μια ανοιχτή είσοδος που δεν είχε εντοπιστεί μέχρι πρότινος βρίσκεται τώρα, επειδή ο πράκτορας δεν κουράζεται και δεν σταματά να ψάχνει.

Και δεν πρόκειται μόνο για μία είσοδο. Ένας πράκτορας που έχει σχεδιαστεί για να εκτελέσει μία εργασία θα περάσει πρόθυμα από δώδεκα συστήματα μέχρι να την ολοκληρώσει — θα αναζητήσει το ιστορικό ενός λογαριασμού εδώ, θα ελέγξει μια βάση δεδομένων εκεί — και το μεγαλύτερο μέρος αυτών των ενεργειών δεν έχει καμία σχέση με όσα του ζητήθηκε πραγματικά να κάνει. Καθώς ετοιμάζει μια παρουσίαση, μπορεί να αποκτήσει πρόσβαση σε δεδομένα άλλου πελάτη, οικονομικά αρχεία, πληροφορίες εργαζομένων ή οτιδήποτε άλλο βρεθεί στον δρόμο του. Τίποτα από αυτά δεν καταγράφεται ως περιστατικό.

Επομένως, το μοντέλο απειλών έχει αλλάξει. Το ερώτημα που θα πρέπει να θέτει σήμερα μια ομάδα ασφαλείας είναι μέχρι πού θα φτάσουν οι ίδιοι της οι πράκτορες για να ολοκληρώσουν μια εργασία, αν κανείς δεν τους έχει πει πού να σταματήσουν.

Πολλοί οργανισμοί διαθέτουν ήδη συστήματα διαχείρισης ταυτότητας και πρόσβασης, διαχείρισης προνομιακής πρόσβασης και αρχιτεκτονικές μηδενικής εμπιστοσύνης. Γιατί δεν επαρκούν από μόνα τους αυτοί οι έλεγχοι για τη διακυβέρνηση αυτόνομων πρακτόρων ΤΝ;

Αυτά τα πλαίσια σχεδιάστηκαν για ανθρώπους και προμηθευτές — και οι δύο ομάδες διαθέτουν κρίση και σταματούν όταν συναντούν ένα εμπόδιο. Η ταυτότητα των πρακτόρων χρειάζεται την ίδια αυστηρότητα με εκείνη που εφαρμόζεται στους ανθρώπους και στον κίνδυνο τρίτων μερών: εντοπισμό, ανάθεση ευθύνης και τεκμήρια που μπορεί να υποστηρίξει ένας ελεγκτής. Το κενό είναι ότι δεν υπάρχει ακόμη κοινό πρότυπο για το τι σημαίνει στην πράξη «υπό διακυβέρνηση», όταν αυτό που κατέχει το διαπιστευτήριο είναι ένας πράκτορας.

Για παράδειγμα, ένας πράκτορας που δημιουργήθηκε από έναν μηχανικό σας μπορεί να ενεργεί με τα δικαιώματα πρόσβασης του συγκεκριμένου μηχανικού — ακόμη και σε συστήματα που εκείνος δεν χρησιμοποιεί ποτέ προσωπικά. Τα συστήματα IAM και PAM προϋποθέτουν ότι αυτό που κατέχει το διαπιστευτήριο γνωρίζει πότε πρέπει να σταματήσει, όμως οι πράκτορες δεν διαθέτουν εκ των προτέρων αυτή την προϋπόθεση.

Θα πρέπει οι επιχειρήσεις να αρχίσουν να αντιμετωπίζουν κάθε πράκτορα ΤΝ ως ξεχωριστή ταυτότητα μηχανής, με σαφώς καθορισμένο υπεύθυνο, δικαιώματα, πεδίο δράσης και κύκλο ζωής; Πώς θα έμοιαζε ένα ώριμο πλαίσιο διαχείρισης ταυτότητας για πράκτορες;

Ναι, αλλά οι περισσότερες επιχειρήσεις δεν έχουν φτάσει ακόμη σε αυτό το σημείο. Περισσότερες απ’ όσες θα περίμενε κανείς δεν μπορούν καν να πουν πόσοι πράκτορες λειτουργούν εντός του οργανισμού τους, πόσο μάλλον ποιος είναι υπεύθυνος για τον καθένα. Ένα ώριμο πλαίσιο ξεκινά με τον εντοπισμό — μια πραγματική, συνεχή απογραφή κάθε πράκτορα. Στη συνέχεια, κάθε πράκτορας χρειάζεται έναν υπεύθυνο, ένα σαφώς καθορισμένο πεδίο δράσης που να ορίζει σε τι επιτρέπεται να έχει πρόσβαση, καθώς και μια πολιτική που να επιβάλλει ουσιαστικά αυτά τα όρια. Από τη δική μας έρευνα, βλέπουμε το ίδιο πρόβλημα και στην πλευρά των προμηθευτών: τρεις στους τέσσερις οργανισμούς επαναξιολογούν τους τρίτους συνεργάτες τους μόνο μία φορά τον χρόνο ή και λιγότερο, με αποτέλεσμα να βασίζουν τη διακυβέρνησή τους σε δεδομένα που έχουν ήδη παλιώσει μέχρι να αλλάξει οτιδήποτε. Οι στιγμιαίοι έλεγχοι δεν επαρκούν για τους πράκτορες, είτε είναι εσωτερικοί είτε εξωτερικοί.

Θέλουμε ένα ενιαίο πρότυπο που να ισχύει με τον ίδιο τρόπο για κάθε πράκτορα, αντί οι ομάδες ασφάλειας να προσπαθούν να εντοπίσουν τι κατασκεύασε από μόνος του κάθε μεμονωμένος προγραμματιστής. Αυτό σημαίνει πολιτικές που μπορούν να διατυπωθούν σε απλή γλώσσα, να δοκιμαστούν με βάση πραγματική ιστορική κίνηση πριν ενεργοποιηθούν και, στη συνέχεια, να εφαρμόζονται κατά την εκτέλεση, ώστε το πλαίσιο να ελέγχει κάθε ενέργεια του πράκτορα και να μην παραμένει απλώς καταγεγραμμένο στην τεκμηρίωση.

Ένα ιδιαίτερα δύσκολο σενάριο είναι όταν ένας πράκτορας παραβιάζει την πολιτική ασφάλειας χωρίς να ενεργεί κακόβουλα. Αν ένας πράκτορας ανακαλύψει μια ακούσια διαδρομή προς ευαίσθητα δεδομένα απλώς και μόνο επειδή προσπαθεί να ολοκληρώσει την εργασία που του ανατέθηκε, πώς μπορούν οι ομάδες ασφάλειας να ξεχωρίσουν τον επιτυχή αυτοματισμό από ένα περιστατικό ασφάλειας;

Προς το παρόν, η ειλικρινής απάντηση είναι ότι δεν μπορείτε. Φανταστείτε έναν πράκτορα υποστήριξης, σχεδιασμένο να συντάσσει τριμηνιαίες επιχειρηματικές ανασκοπήσεις, στον οποίο ανατίθεται να αντλήσει το ιστορικό ενός λογαριασμού και να ετοιμάσει την παρουσίαση. Η προβλεπόμενη διαδρομή — η εξαγωγή από την οποία υποτίθεται ότι θα αντλήσει τα δεδομένα — επιστρέφει κενό αποτέλεσμα. Ένας άνθρωπος θα σταματούσε εκεί, αλλά ο πράκτορας βρίσκει μια άλλη διαδρομή και, από τη δική του οπτική, ολοκληρώνει με επιτυχία την εργασία.

Η εργασία όντως ολοκληρώθηκε, αλλά ο πράκτορας παρέκαμψε τα πρωτόκολλα ασφάλειας και εισήλθε σε συστήματα στα οποία δεν έπρεπε να έχει πρόσβαση. Το κριτήριο που κάνει τη διαφορά είναι αν ο πράκτορας παρέμεινε εντός των ορίων που του θέσαμε. Το ερώτημα δεν ήταν ποτέ αν ολοκλήρωσε την εργασία. Αυτό είναι ζήτημα πολιτικής. Απαιτεί να οριστούν τα όρια με αρκετή ακρίβεια, ώστε ο «επιτυχής αυτοματισμός» και το «περιστατικό ασφάλειας» να μη μοιάζουν εκ των υστέρων ταυτόσημα.

Η παραδοσιακή παρακολούθηση ασφάλειας συχνά εντοπίζει ύποπτη δραστηριότητα αφού αυτή συμβεί, όμως ένας αυτόνομος πράκτορας μπορεί να εκτελέσει εκατοντάδες ενέργειες προτού προλάβει να αντιδράσει κάποιος άνθρωπος. Απαιτεί η πρακτορική ΤΝ ελέγχους ασφάλειας που λειτουργούν απευθείας κατά την εκτέλεση, αντί να βασίζεται κυρίως σε ειδοποιήσεις και εκ των υστέρων παρακολούθηση;

Ναι, χωρίς αμφιβολία. Αν το εντοπίζετε κατά την εκτέλεση, είναι ήδη πολύ αργά. Μέχρι να επισημάνει την ενέργεια ένα εργαλείο παρακολούθησης, αυτή έχει ήδη εκτελεστεί. Θα έχετε ένα τέλειο αρχείο που θα δείχνει ακριβώς πώς εκτεθήκατε, αλλά δεν θα μπορείτε πλέον να το σταματήσετε.

Το μόνο είδος διακυβέρνησης που λειτουργεί για κάτι που κινείται με την ταχύτητα μιας μηχανής είναι εκείνο που αξιολογεί την ενέργεια πριν από την εκτέλεσή της και εμποδίζει την παράβαση επιτόπου. Δεν θα δίναμε ποτέ τα πιο ευαίσθητα δεδομένα μας σε έναν νέο υπάλληλο ελπίζοντας απλώς ότι η παρακολούθηση θα εντόπιζε ό,τι πήγαινε στραβά. Οι πράκτορες αξίζουν την ίδια αυστηρότητα, ακριβώς τη στιγμή που πρόκειται να εκτελεστεί η ενέργεια. Όχι αφού εκτελεστεί.

Το Model Context Protocol (MCP) και άλλες διεπαφές μεταξύ πρακτόρων και εργαλείων παρέχουν στα συστήματα ΤΝ πρόσβαση σε ολοένα ισχυρότερες εξωτερικές δυνατότητες. Ποια νέα όρια ασφάλειας πρέπει να θεσπιστούν γύρω από τις κλήσεις εργαλείων, τα API, τα διαπιστευτήρια και τους λογαριασμούς υπηρεσιών, καθώς οι επιχειρήσεις διευρύνουν το εύρος των ενεργειών που επιτρέπουν στους πράκτορές τους;

Η κλήση εργαλείων αποτελεί το νέο όριο ασφαλείας. Κάθε φορά που ένας πράκτορας αναζητά ένα διαπιστευτήριο, καλεί ένα API ή χρησιμοποιεί ένα εργαλείο, λαμβάνεται μια απόφαση· και σήμερα οι περισσότερες επιχειρήσεις δεν διαθέτουν κανένα όριο ασφαλείας που να αξιολογεί εκείνη ακριβώς τη στιγμή αν πρέπει να εκτελεστεί η ενέργεια. Αυτό ακριβώς έλειπε. Διαπιστώνουμε το ίδιο τυφλό σημείο και από την άλλη πλευρά: μόλις το 37% των επικεφαλής ασφάλειας είναι βέβαιοι ότι μπορούν έστω να εντοπίσουν πού χρησιμοποιείται η τεχνητή νοημοσύνη στους προμηθευτές με τους οποίους ήδη συνεργάζονται. Αν δεν μπορείτε να τη δείτε στο προϊόν ενός προμηθευτή, δεν πρόκειται να δείτε ούτε την επόμενη κίνηση του δικού σας πράκτορα. Τα διαπιστευτήρια και οι λογαριασμοί υπηρεσιών που βρίσκονται στη βάση όλων αυτών χρειάζονται επίσης την ίδια αυστηρότητα που εφαρμόζουμε στην ανθρώπινη πρόσβαση: σαφή ιδιοκτησία, καθορισμένο πεδίο εφαρμογής και τακτικό έλεγχο. Ένας πράκτορας δεν θα πρέπει να μπορεί να χρησιμοποιήσει ένα διαπιστευτήριο που δεν του έχει παραχωρηθεί ποτέ, απλώς και μόνο επειδή το διαπιστευτήριο υπήρχε κάπου στη διαδρομή του.

Όταν ένας ελεγκτής, μια ρυθμιστική αρχή ή ένας πελάτης ρωτήσει σε τι απέκτησε πρόσβαση ένας πράκτορας τεχνητής νοημοσύνης, ποιες αποφάσεις έλαβε και πού κατέληξαν τα δεδομένα που προέκυψαν, τι επίπεδο ιχνηλασιμότητας θα πρέπει ρεαλιστικά να μπορούν να παρέχουν οι οργανισμοί; Θα μπορούσαν τα ίχνη ελέγχου των πρακτόρων να καταστούν τελικά εξίσου θεμελιώδη με τα παραδοσιακά αρχεία καταγραφής πρόσβασης;

Οι οργανισμοί θα πρέπει να μπορούν, ανά πάσα στιγμή, να απαντούν σε τι απέκτησε πρόσβαση ένας πράκτορας, ποιες αποφάσεις έλαβε και πού κατέληξαν τα δεδομένα που προέκυψαν. Δεν αρκεί να συνθέτουν την απάντηση εκ των υστέρων, συγκεντρώνοντας στοιχεία από αρχεία καταγραφής. Το ζητούμενο είναι να υπάρχει ήδη, όταν τίθεται το ερώτημα, ένα συνεχές αρχείο στο οποίο κάθε αλλοίωση είναι ανιχνεύσιμη. Αυτή τη στιγμή, οι περισσότερες εταιρείες δεν έχουν καμία απάντηση σε αυτά τα ερωτήματα. Δεν μπορείτε να δικαιολογήσετε ένα τέτοιο κενό σε έναν πελάτη και, ανάλογα με το τι διέρρευσε, ούτε οι ρυθμιστικές αρχές θα το αποδεχτούν.

Και ναι, πιστεύω ότι τα ίχνη ελέγχου των πρακτόρων σύντομα θα καταστούν εξίσου θεμελιώδη με τα αρχεία καταγραφής πρόσβασης. Εδώ και χρόνια θεωρούμε αδιαπραγμάτευτο, στα ανθρώπινα συστήματα, το να γνωρίζουμε «ποιος απέκτησε πρόσβαση σε τι και πότε». Δεν υπάρχει λόγος να υπόκεινται οι πράκτορες σε χαμηλότερα πρότυπα απλώς και μόνο επειδή δεν ήταν άνθρωπος αυτός που έκανε κλικ. Πλαίσια όπως ο EU AI Act, το AIUC-11 και το ISO 42001 κινούνται ήδη προς αυτή την κατεύθυνση. Η ιχνηλασιμότητα των πρακτόρων πρέπει να αντιστοιχεί στους ίδιους μηχανισμούς ελέγχου και στην ίδια λογική τεκμηρίωσης που ήδη στηρίζουν τα προγράμματα συμμόρφωσης. Αν την αντιμετωπίσετε ως εκ των υστέρων σκέψη, θα παραμεριστεί.

Κοιτάζοντας προς το μέλλον, πιστεύετε ότι η διακυβέρνηση των πρακτόρων τεχνητής νοημοσύνης θα εξελιχθεί σε ξεχωριστή κατηγορία ασφάλειας ή τελικά θα ενσωματωθεί στις υφιστάμενες πλατφόρμες διακυβέρνησης, διαχείρισης κινδύνων, συμμόρφωσης, ταυτοτήτων και κυβερνοασφάλειας; Τι πιστεύετε ότι θα πρέπει να έχουν εξασφαλίσει οι επιχειρήσεις προτού μπορέσουν να αναπτύξουν με ασφάλεια πραγματικά αυτόνομους πράκτορες σε μεγάλη κλίμακα;

Κάθε μεγάλο τεχνολογικό κύμα δημιουργεί το δικό του κύμα ασφάλειας: το υπολογιστικό νέφος δημιούργησε την Wiz, τα τερματικά σημεία δημιούργησαν την CrowdStrike — και τώρα οι πράκτορες τεχνητής νοημοσύνης δημιουργούν το δικό τους. Οι πάροχοι μοντέλων αναπτύσσουν κονσόλες και πολιτικές για τις δικές τους πλατφόρμες, κάτι χρήσιμο· όμως καμία επιχείρηση δεν βασίζεται σε έναν μόνο πάροχο μοντέλων, έναν μόνο βοηθό προγραμματισμού και ένα μόνο σύνολο εσωτερικά ανεπτυγμένων πρακτόρων. Κάποιος πρέπει να διαχειρίζεται όλα αυτά βάσει ενός ενιαίου συνόλου πολιτικών και με μία ενιαία πηγή τεκμηρίωσης, και καμία μεμονωμένη πλατφόρμα τεχνητής νοημοσύνης δεν έχει σχεδιαστεί για να επιλύσει αυτό το πρόβλημα. Δεν είναι αυτός ο λόγος ύπαρξής τους. Η διακυβέρνηση των πρακτόρων τεχνητής νοημοσύνης αποτελεί ήδη ξεχωριστή κατηγορία, παρότι συνδέεται με τα συστήματα διακυβέρνησης, διαχείρισης κινδύνων και συμμόρφωσης (GRC), καθώς και τα συστήματα ταυτοτήτων και συμμόρφωσης που χρησιμοποιούν ήδη οι εταιρείες.

Προτού μπορέσουν να αναπτύξουν πραγματικά αυτόνομους πράκτορες σε μεγάλη κλίμακα, οι επιχειρήσεις πρέπει να έχουν εξασφαλίσει τέσσερα πράγματα, και οι περισσότερες δεν έχουν ακόμη κανένα από αυτά. Πρώτον, χρειάζεται εντοπισμός σε πραγματικό χρόνο: να γνωρίζουν κάθε πράκτορα που λειτουργεί, ποιος είναι υπεύθυνος γι’ αυτόν και με ποια ταυτότητα λειτουργεί, τη στιγμή που δημιουργείται.

Έπειτα, χρειάζεται εφαρμογή πολιτικών ενσωματωμένη στη ροή λειτουργίας, με αξιολόγηση πριν από την εκτέλεση κάθε ενέργειας. Τρίτον, οι επιχειρήσεις χρειάζονται συνεχή παρακολούθηση για αποκλίσεις, καθώς οι πράκτορες εξακολουθούν να λειτουργούν και μετά τη λήξη της συνεδρίας που τους δημιούργησε και το πεδίο εφαρμογής τους μπορεί να διευρυνθεί αθόρυβα. Τέλος, χρειάζεται ένα αρχείο κάθε απόφασης που λαμβάνει ένας πράκτορας, στο οποίο κάθε αλλοίωση είναι ανιχνεύσιμη και το οποίο αντιστοιχίζεται στα πλαίσια που αναγνωρίζουν πράγματι οι ελεγκτές και οι ρυθμιστικές αρχές. Αυτό είναι το επίπεδο που αναπτύσσουμε στην Drata. Χωρίς αυτό, μια επιχείρηση που αναπτύσσει αυτόνομους πράκτορες σε μεγάλη κλίμακα απλώς ποντάρει στην τύχη.

Σας ευχαριστούμε για την εξαιρετική συνέντευξη. Οι αναγνώστες που θέλουν να εξερευνήσουν τη διακυβέρνηση των πρακτόρων τεχνητής νοημοσύνης, τη συνεχή συμμόρφωση και τους μηχανισμούς ελέγχου για απειλές εκ των έσω από πράκτορες μπορούν να επισκεφθούν την Drata.