Συνεντεύξεις

Oran Moyal, συνιδρυτής και τεχνικός διευθυντής της Ocean Security – Σειρά συνεντεύξεων

Antoine Tardif
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Oran Moyal, Co-Founder and CTO of Ocean Security
Βασικά σημείαΗ ιδιότητα του AI-native είναι οργανωτική παρά τεχνική, επειδή αλλάζει τον τρόπο με τον…
Δείτε περισσότερα
  • Η ιδιότητα του AI-native είναι οργανωτική παρά τεχνική, επειδή αλλάζει τον τρόπο με τον οποίο κάθε ομάδα διαχειρίζεται την εργασία.
  • Η επιτάχυνση μεμονωμένων εργασιών αποτυγχάνει όταν οι παραδόσεις και οι εγκρίσεις παραμένουν τα πραγματικά σημεία συμφόρησης μεταξύ των βημάτων.
  • Οι πράκτορες χρειάζονται επιβεβλημένα δικαιώματα και ανεξάρτητη επικύρωση, επειδή οι οδηγίες από μόνες τους δεν αποτελούν ελέγχους ασφαλείας.

Oran Moyal είναι συνιδρυτής και τεχνικός διευθυντής της Ocean Security, όπου αναπτύσσει πρακτορική τεχνητή νοημοσύνη για τη διερεύνηση σύνθετων απειλών μέσω ηλεκτρονικού ταχυδρομείου. Η επαγγελματική του πορεία καλύπτει την έρευνα και ανάπτυξη στον τομέα της κυβερνοασφάλειας, την επιθετική κοινωνική μηχανική και την ασφάλεια επιχειρήσεων. Συνίδρυσε την Ocean το 2024 μαζί με τον Shay Shwartz, αξιοποιώντας την εμπειρία τους στην ανάλυση του τρόπου με τον οποίο οι επιτιθέμενοι εκμεταλλεύονται τις έμπιστες επικοινωνίες και του τρόπου με τον οποίο τα συστήματα ασφαλείας μπορούν να ανταποκριθούν σε ολοένα πιο στοχευμένες απειλές.

Η Ocean Security αναπτύσσει μια πλατφόρμα ασφάλειας ηλεκτρονικού ταχυδρομείου με πρακτορική τεχνητή νοημοσύνη, σχεδιασμένη για τη διερεύνηση στοχευμένων επιθέσεων ηλεκτρονικού ψαρέματος, παραβιάσεων εταιρικών λογαριασμών ηλεκτρονικού ταχυδρομείου και οικονομικής απάτης. Οι εξειδικευμένοι πράκτορες τεχνητής νοημοσύνης της αναλύουν το πλαίσιο της επικοινωνίας και τις προθέσεις του αποστολέα, ώστε να βοηθούν τις ομάδες ασφαλείας να εντοπίζουν απειλές μέσα σε αλληλεπιδράσεις που μοιάζουν με νόμιμες επιχειρηματικές επικοινωνίες. Σε αυτή τη συνέντευξη, ο Moyal συζητά τι κάνει έναν οργανισμό εγγενώς προσανατολισμένο στην τεχνητή νοημοσύνη, πώς να ανασχεδιάζονται οι ροές εργασίας γύρω από πράκτορες τεχνητής νοημοσύνης και γιατί οι σαφείς απαιτήσεις, η ανεξάρτητη επικύρωση, η επιβολή δικαιωμάτων πρόσβασης και η ανθρώπινη κρίση παραμένουν καθοριστικής σημασίας για την αποτελεσματική αυτοματοποίηση.

Πριν συνιδρύσετε την Ocean το 2024, εργαστήκατε επί χρόνια στην έρευνα και ανάπτυξη στον τομέα της κυβερνοασφάλειας, μεταξύ άλλων στις Ισραηλινές Ένοπλες Δυνάμεις και στη VisibleRisk / Microsoft Security. Ποιες εμπειρίες σάς οδήγησαν στην ίδρυση της Ocean και πώς επηρέασε η εμφάνιση της τεχνητής νοημοσύνης το όραμά σας για την εταιρεία από την αρχή;

Κάποτε, μια στοχευμένη εκστρατεία ηλεκτρονικού ψαρέματος τύπου spear phishing απαιτούσε ειδική ομάδα και εβδομάδες χειροκίνητης έρευνας και προετοιμασίας. Όταν εμφανίστηκε η παραγωγική τεχνητή νοημοσύνη, συνειδητοποιήσαμε ότι κάθε εργαζόμενος σε κάθε επιχείρηση είναι πλέον εκτεθειμένος σε καταστροφικές επιθέσεις ηλεκτρονικού ψαρέματος επιπέδου κρατικού φορέα. Μέσα σε μια νύχτα, μια συνδρομή 20 δολαρίων έδωσε σε κάθε επιτιθέμενο δυνατότητες επιπέδου κρατικού φορέα.

Ο Shay κι εγώ διαθέτουμε βαθιά εμπειρία στην κοινωνική μηχανική από την πλευρά της επίθεσης, ενώ έχουμε ιδρύσει και αναπτύξει και οι δύο εταιρείες ασφάλειας επιχειρήσεων, οπότε γνωρίζαμε ότι τα παλαιού τύπου εργαλεία δεν θα μπορούσαν να συμβαδίσουν. Αναζητούν παραβιάσεις κανόνων και ανωμαλίες, όμως αυτές οι επιθέσεις κρύβονται μέσα στις συνήθεις επιχειρηματικές επικοινωνίες: σε πραγματικές αλληλογραφίες, έμπιστους λογαριασμούς και νόμιμες υπηρεσίες. Τίποτα δεν φαίνεται ασυνήθιστο. Γι’ αυτό, το 2024 ιδρύσαμε την Ocean για να βοηθήσουμε τις επιχειρήσεις να προσαρμοστούν σε αυτή τη νέα απειλή, με ασφάλεια ηλεκτρονικού ταχυδρομείου που βασίζεται στην τεχνητή νοημοσύνη και αναλύει σε πραγματικό χρόνο το πλαίσιο και τις προθέσεις του αποστολέα, όπως θα έκανε ένας ανθρώπινος ερευνητής, προτού συμβεί μια παραβίαση.

Πολλοί οργανισμοί αυτοχαρακτηρίζονται «εγγενώς προσανατολισμένοι στην τεχνητή νοημοσύνη» απλώς και μόνο επειδή έχουν υιοθετήσει εργαλεία τεχνητής νοημοσύνης ή έχουν αυτοματοποιήσει ορισμένες διαδικασίες. Κατά τη γνώμη σας, τι διακρίνει ουσιαστικά έναν πραγματικά εγγενώς προσανατολισμένο στην τεχνητή νοημοσύνη οργανισμό από έναν οργανισμό που απλώς έχει ενσωματώσει την τεχνητή νοημοσύνη στις υφιστάμενες λειτουργίες του;

Πολλές εταιρείες αυτοχαρακτηρίζονται εγγενώς προσανατολισμένες στην τεχνητή νοημοσύνη επειδή αγόρασαν εργαλεία τεχνητής νοημοσύνης. Αυτό είναι υιοθέτηση τεχνολογίας. Το να είναι μια εταιρεία εγγενώς προσανατολισμένη στην τεχνητή νοημοσύνη αλλάζει τον τρόπο με τον οποίο διεκπεραιώνει την καθημερινή εργασία και αντιμετωπίζει τα σημεία συμφόρησης.

Όλα ξεκινούν από τον τρόπο με τον οποίο οι επικεφαλής αντιμετωπίζουν ένα σημείο συμφόρησης. Η παραδοσιακή αντίδραση είναι: «Αυτό απαιτεί υπερβολικά πολύ χρόνο· ας προσλάβουμε κάποιον για να το αναλάβει». Ένας οργανισμός που είναι εγγενώς προσανατολισμένος στην τεχνητή νοημοσύνη αναρωτιέται πρώτα: «Πώς μπορεί η τεχνητή νοημοσύνη να επιταχύνει ολόκληρη αυτή τη λειτουργία;» Αν τεθεί το ίδιο ερώτημα σε κάθε ομάδα, ολόκληρη η εταιρεία αρχίζει να λειτουργεί διαφορετικά.

Ο πραγματικός μετασχηματισμός προς έναν οργανισμό εγγενώς προσανατολισμένο στην τεχνητή νοημοσύνη είναι οργανωτικός, όχι τεχνικός. Αν επιταχύνετε ένα τμήμα, το σημείο συμφόρησης απλώς μεταφέρεται στο επόμενο και η εταιρεία καταλήγει να κινείται με τον ρυθμό της πιο αργής λειτουργίας της. Οι οργανισμοί που είναι εγγενώς προσανατολισμένοι στην τεχνητή νοημοσύνη μετασχηματίζονται συλλογικά, ώστε οι πληροφορίες να κυκλοφορούν ταχύτερα, οι κύκλοι ανατροφοδότησης να συντομεύουν και οι ομάδες να λειτουργούν ως ένα ενιαίο, διασυνδεδεμένο σύστημα.

Σε αυτό το μοντέλο, αλλάζει η αξία που προσφέρουν οι άνθρωποι. Καθώς η τεχνητή νοημοσύνη αναλαμβάνει μεγαλύτερο μέρος της εργασίας, οι δεξιότητες που σπανίζουν είναι ο καθορισμός σαφούς κατεύθυνσης και πρόθεσης, καθώς και η άσκηση κρίσης. Οι άνθρωποι και οι πράκτορες τεχνητής νοημοσύνης συνεργάζονται. Η τεχνητή νοημοσύνη αναλαμβάνει μεγαλύτερο μέρος της εκτέλεσης και οι άνθρωποι αποφασίζουν τι αξίζει να αναπτυχθεί και γιατί.

Στόχος είναι κάθε ομάδα να πετυχαίνει περισσότερα με τους ίδιους πόρους, να κινείται ταχύτερα και να συνεργάζεται καλύτερα, χωρίς συμβιβασμούς στην ποιότητα.

Έχετε υποστηρίξει ότι τα οφέλη της τεχνητής νοημοσύνης στην παραγωγικότητα μπορούν γρήγορα να εξανεμιστούν όταν οι υποκείμενες ροές εργασίας είναι αναποτελεσματικές. Ποια είναι τα συνηθέστερα λειτουργικά σημεία συμφόρησης που εμποδίζουν τις εταιρείες να αποκομίσουν πλήρως τα οφέλη της τεχνητής νοημοσύνης και πώς θα πρέπει οι επικεφαλής να προσεγγίζουν τον ανασχεδιασμό αυτών των ροών εργασίας;

Η επιτάχυνση μεμονωμένων εργασιών δεν επιταχύνει αυτομάτως ολόκληρο τον οργανισμό. Αν οι διαδικασίες, οι αλληλεξαρτήσεις και η επικοινωνία μεταξύ των ομάδων παραμείνουν ίδιες, μεγάλο μέρος της παραγωγικότητας που προσφέρει η τεχνητή νοημοσύνη χάνεται στην πορεία.

Τα συνηθέστερα σημεία συμφόρησης δεν είναι τεχνικά. Είναι οι ασαφείς απαιτήσεις, που οδηγούν σε επαναλαμβανόμενες διορθώσεις και επανεργασία, οι αργές μεταβιβάσεις εργασιών μεταξύ ομάδων και η εργασία που μένει σε αναμονή για εγκρίσεις. Η τεχνητή νοημοσύνη επιταχύνει κάθε βήμα, αλλά ο χρόνος χάνεται ανάμεσα στα βήματα.

Οι επικεφαλής θα πρέπει να αρχίσουν μετρώντας πού δαπανάται πραγματικά ο χρόνος, επειδή το ουσιαστικό σημείο συμφόρησης συχνά δεν είναι αυτό που όλοι υποθέτουν. Έπειτα, θα πρέπει να ανασχεδιάσουν τη ροή εργασίας από την αρχή μέχρι το τέλος, βελτιώνοντας τις μεταβιβάσεις, τους ορισμούς και τους κύκλους ανατροφοδότησης αντί να εστιάζουν μόνο σε μεμονωμένες εργασίες. Τέλος, θα πρέπει να συνδέσουν κάθε πρωτοβουλία τεχνητής νοημοσύνης με τους βασικούς δείκτες απόδοσης (KPI) για τους οποίους είναι ήδη υπεύθυνες οι ομάδες.

Το σημαντικότερο είναι ότι οι επικεφαλής πρέπει να αλλάξουν νοοτροπία. Η αυτοματοποίηση και η επιτάχυνση θα πρέπει να γίνουν η προεπιλογή. Αντί να αποδέχονται τις υφιστάμενες διαδικασίες, οι ομάδες θα πρέπει να αμφισβητούν διαρκώς τον τρόπο με τον οποίο γίνονται τα πράγματα, ώστε να κινούνται ταχύτερα και να αυξάνουν τον αντίκτυπό τους χωρίς συμβιβασμούς στην ποιότητα.

Μία από τις αρχές που τονίζετε είναι η σημασία του σαφούς καθορισμού των απαιτήσεων πριν από την ενσωμάτωση πρακτόρων ΤΝ σε μια ροή εργασιών. Πώς θα πρέπει οι οργανισμοί να επανεξετάσουν τον τρόπο με τον οποίο ορίζουν τις εργασίες, επικοινωνούν τις προσδοκίες και καθορίζουν τα κριτήρια επιτυχίας, όταν οι πράκτορες ΤΝ αναλαμβάνουν σημαντικό μέρος της εκτέλεσης;

Όταν οι πράκτορες ΤΝ αναλαμβάνουν μεγάλο μέρος της δουλειάς, οι οργανισμοί πρέπει να επανεξετάσουν τον τρόπο με τον οποίο επικοινωνούν και ορίζουν τις εργασίες. Ένα αόριστο αίτημα δεν σταματά έναν πράκτορα. Εκείνος κάνει υποθέσεις, και κάθε λανθασμένη υπόθεση οδηγεί σε περισσότερη επανεργασία.

Το προσεγγίζω σε τρία επίπεδα:

Σαφείς εργασίες, στόχοι και πλαίσιο. Ο πράκτορας πρέπει να κατανοεί τι πρέπει να γίνει, γιατί έχει σημασία και ποιο είναι το ευρύτερο πλαίσιο. Πριν ξεκινήσει η εργασία, θα πρέπει να μπορεί να ζητήσει διευκρινίσεις για οτιδήποτε δεν είναι σαφές, ώστε τα κενά να καλύπτονται εξαρχής και όχι να εντοπίζονται στα μισά της διαδικασίας.

Αυτοεπικύρωση. Τα κριτήρια επιτυχίας πρέπει να καθορίζονται εκ των προτέρων, με τρόπο που να επιτρέπει στον πράκτορα να τα ελέγχει μόνος του. Για παράδειγμα, στον προγραμματισμό, ένας πράκτορας θα πρέπει να μπορεί να εκτελεί τον κώδικα, να ελέγχει αν λειτουργεί όπως προβλέπεται και να επιβεβαιώνει ότι περνά τις δοκιμές πριν τον εξετάσει οποιοσδήποτε άλλος.

Οι άνθρωποι ως τελευταίο επίπεδο ελέγχου. Οι άνθρωποι θα πρέπει να λαμβάνουν ένα αποτέλεσμα που ο πράκτορας έχει ήδη βελτιώσει μέσα από αρκετές επαναλήψεις, με βάση τα συμφωνημένα κριτήρια. Ο ρόλος τους είναι να ασκούν κρίση, όχι να διορθώνουν βασικά λάθη.

Όσο σαφέστερος είναι ο ορισμός, τόσο λιγότερο ανθρώπινο χρόνο απαιτεί κάθε αποτέλεσμα.

Υποστηρίζετε ότι οι πράκτορες ΤΝ πρέπει να μπορούν να επικυρώνουν τη δουλειά τους πριν αυτή φτάσει στους ανθρώπους που την εξετάζουν. Πώς είναι στην πράξη μια αποτελεσματική διαδικασία επικύρωσης με χρήση ΤΝ και πώς μπορούν οι οργανισμοί να διασφαλίσουν ότι οι αυτοματοποιημένοι έλεγχοι ποιότητας δεν αναπαράγουν απλώς τα ίδια λάθη που έγιναν κατά την εκτέλεση;

Μια αποτελεσματική διαδικασία επικύρωσης ελέγχει τη δουλειά με τον τρόπο που θα χρησιμοποιηθεί στην πράξη. Ο πράκτορας θα πρέπει να εκτελεί το πραγματικό σύστημα από την αρχή έως το τέλος, να επιβεβαιώνει ότι το αποτέλεσμα ανταποκρίνεται στα κριτήρια επιτυχίας και να διορθώνει ό,τι αποτυγχάνει, προτού το παραλάβει οποιοσδήποτε άνθρωπος.

Για να μην επαναλαμβάνει η διαδικασία επικύρωσης τα ίδια λάθη του πράκτορα, έχουν σημασία ορισμένες αρχές:

Διαχωρίστε τα κριτήρια από την εκτέλεση. Οι άνθρωποι πρέπει να ορίζουν τι θεωρείται επιτυχία πριν ξεκινήσει η εργασία. Αν ένας πράκτορας αποφασίζει τι σημαίνει «ολοκληρωμένο», είναι σαν να βαθμολογεί ο ίδιος τον εαυτό του.

Θέστε αυστηρά όρια. Δεν θα πρέπει κάθε έλεγχος να βασίζεται στην κρίση ενός πράκτορα. Ορισμένοι πρέπει να είναι προκαθορισμένοι, ντετερμινιστικοί έλεγχοι που επαληθεύουν συγκεκριμένες παραμέτρους, πρότυπα και πολιτικές. Έτσι, ο πράκτορας έχει σαφή όρια που δεν μπορεί να παρακάμψει με συλλογισμούς.

Χρησιμοποιήστε ανεξάρτητο αξιολογητή. Ένας δεύτερος πράκτορας, με φρέσκια οπτική και χωρίς να έχει δεσμευτεί στην αρχική προσέγγιση, εντοπίζει λάθη που διαφεύγουν από τον πρώτο.

Δείξτε στοιχεία, όχι μόνο ένα πόρισμα. Τα αποτελέσματα των δοκιμών, τα στιγμιότυπα οθόνης και οι καταγραφές επιτρέπουν στους ανθρώπους να δουν τι συνέβη, αντί να εμπιστεύονται απλώς μια ένδειξη «επιτυχίας».

Έτσι, η ανθρώπινη προσοχή κατευθύνεται εκεί όπου ο κίνδυνος είναι μεγαλύτερος. Στόχος δεν είναι να απομακρυνθούν οι άνθρωποι από τη διαδικασία, αλλά να διασφαλιστεί ότι αφιερώνουν τον χρόνο τους στην κρίση και όχι σε μηχανικούς ελέγχους.

Οι παραδοσιακοί οργανισμοί βασίζονται συχνά σε πολλά επίπεδα διοίκησης, εγκρίσεων και μεταβιβάσεων εργασιών μεταξύ ομάδων. Πώς αλλάζει ένα λειτουργικό μοντέλο με επίκεντρο την ΤΝ τον τρόπο με τον οποίο συνεργάζονται οι ομάδες μηχανικής, προϊόντος, ασφάλειας και επιχειρηματικής λειτουργίας, και τι συμβαίνει με τους παραδοσιακούς ρόλους και τις αρμοδιότητες καθώς οι πράκτορες αναλαμβάνουν μεγαλύτερο μέρος της εκτέλεσης;

Η ΤΝ επιτρέπει σε κάθε άνθρωπο και κάθε ομάδα να παράγει περισσότερο. Αν όμως οι μεταβιβάσεις εργασιών, οι εγκρίσεις και ο συντονισμός παραμείνουν ίδια, η πρόσθετη παραγωγή απλώς συσσωρεύεται, περιμένοντας το επόμενο βήμα. Ο οργανισμός δεν κινείται ταχύτερα. Δημιουργεί νέα σημεία συμφόρησης. Ένα λειτουργικό μοντέλο με επίκεντρο την ΤΝ πρέπει να επανασχεδιάσει τον τρόπο με τον οποίο συνεργάζονται οι ομάδες και όχι μόνο τον τρόπο λειτουργίας κάθε ομάδας ξεχωριστά.

Αυτό ξεκινά από τον τρόπο με τον οποίο κυκλοφορεί η πληροφορία. Μεγαλύτερο μέρος της θα πρέπει να διακινείται μέσω αυτοματισμών, ώστε οι συναντήσεις να αφιερώνονται στη λήψη αποφάσεων και όχι σε ενημερώσεις. Όταν οι πληροφορίες από το πεδίο φτάνουν απευθείας στην ομάδα προϊόντος, οι αποφάσεις λαμβάνονται ταχύτερα και με μεγαλύτερη ακρίβεια, με αποτέλεσμα σαφέστερους ορισμούς και καλύτερη υλοποίηση.

Οι εγκρίσεις χρειάζονται αντίστοιχη επανεξέταση, και αυτό είναι το δυσκολότερο μέρος, επειδή απαιτεί αλλαγή σε όσα ο οργανισμός θεωρεί φυσιολογικά. Οι εγκρίσεις εξακολουθούν να έχουν σημασία, αλλά δεν θα πρέπει να αντιμετωπίζουν όλες τις αλλαγές με τον ίδιο τρόπο. Για παράδειγμα, η προσθήκη αξιολόγησης κινδύνου σε μια συγκεκριμένη διαδικασία έγκρισης μπορεί να μειώσει τις χειροκίνητες εγκρίσεις για εργασίες χαμηλού κινδύνου, διατηρώντας παράλληλα τον ανθρώπινο έλεγχο εκεί όπου είναι απαραίτητος. Αυτός είναι μόνο ένας τρόπος να επιταχυνθεί μια διαδικασία χωρίς να χαθεί ο έλεγχος.

Οι ρόλοι επαναπροσδιορίζονται επίσης. Καθώς οι πράκτορες αναλαμβάνουν μεγαλύτερο μέρος της εκτέλεσης, οι άνθρωποι περνούν από την ευθύνη για τις εργασίες στην ευθύνη για τα αποτελέσματα. Πρέπει να κατανοούν πλήρως το πλαίσιο, να αμφισβητούν παραδοχές και να ξεπερνούν τα παραδοσιακά όρια του ρόλου τους. Θα επικρατήσουν οι οργανισμοί που θα επανασχεδιάσουν τον τρόπο με τον οποίο συνεργάζονται οι άνθρωποι, όχι απλώς εκείνοι που θα προσθέσουν την περισσότερη ΤΝ.

Η Ocean χρησιμοποιεί εξειδικευμένους πράκτορες ΤΝ για τη διερεύνηση σύνθετων απειλών μέσω ηλεκτρονικού ταχυδρομείου. Πώς έχει επηρεάσει η εμπειρία σας στην ανάπτυξη πρακτόρων ΤΝ για την κυβερνοασφάλεια τον τρόπο με τον οποίο αξιοποιείτε την ΤΝ εσωτερικά και ποια διδάγματα από τη δημιουργία αυτόνομων συστημάτων ασφάλειας μπορούν να εφαρμοστούν στη διοίκηση ενός οργανισμού με επίκεντρο την ΤΝ;

Η δημιουργία αυτόνομων πρακτόρων για την ασφάλεια του ηλεκτρονικού ταχυδρομείου διαμόρφωσε τον τρόπο με τον οποίο χρησιμοποιούμε εσωτερικά την ΤΝ με δύο τρόπους.

Το πρώτο δίδαγμα είναι ότι οι πράκτορες αποδίδουν μόνο όσο καλά κατανοούν το πλαίσιο. Ένας πράκτορας ασφάλειας λαμβάνει καλύτερες αποφάσεις όταν κατανοεί τον οργανισμό που προστατεύει. Το ίδιο ισχύει και εσωτερικά. Για να έχουμε καλά αποτελέσματα από τους πράκτορες, πρέπει να τους βοηθήσουμε να κατανοήσουν ουσιαστικά πώς λειτουργεί ο οργανισμός, ποιος είναι ο σκοπός κάθε εργασίας και πώς αυτή συνδέεται με τη συνολική εικόνα.

Το δεύτερο δίδαγμα είναι ότι οι πράκτορες χρειάζονται συνεχή αξιολόγηση. Στην παραγωγή, αξιολογούμε διαρκώς την απόδοση των πρακτόρων μας, τα σημεία στα οποία αποτυγχάνουν και τα εργαλεία ή τα δεδομένα που τους λείπουν. Εσωτερικά, εφαρμόζουμε την ίδια προσέγγιση. Χρειαζόμαστε έναν ειδικό χώρο για να δοκιμάζουμε και να εκπαιδεύουμε τους πράκτορες, αλλά και να συλλέγουμε σχόλια γι’ αυτούς. Χωρίς αυτόν, είναι δύσκολο να διαπιστώσουμε αν ένας πράκτορας βελτιώνεται ή τι χρειάζεται στη συνέχεια.

Η λειτουργία ενός οργανισμού με επίκεντρο την ΤΝ μοιάζει πολύ με την κατασκευή ενός αυτόνομου συστήματος ασφάλειας: δώστε στους πράκτορες βαθιά γνώση του πλαισίου, αξιολογείτε διαρκώς την απόδοσή τους και διατηρείτε τους ανθρώπους στη διαδικασία, όπου απαιτείται κρίση.

Καθώς οι οργανισμοί παραχωρούν μεγαλύτερη αυτονομία στους πράκτορες ΤΝ, ανακύπτουν ανησυχίες σχετικά με τη λογοδοσία, την ασφάλεια και τις ανεπιθύμητες συνέπειες. Με βάση την εμπειρία σας στον τομέα της κυβερνοασφάλειας, πώς θα πρέπει οι εταιρείες να θεσπίζουν δικλίδες ασφαλείας που επιτρέπουν στους πράκτορες να λειτουργούν αυτόνομα, χωρίς να διακυβεύεται η ασφάλεια ή να χάνεται ουσιαστική ανθρώπινη εποπτεία;

Οι πράκτορες κινούνται προς ολοένα μεγαλύτερη αυτονομία και οι οργανισμοί θα πρέπει να προχωρήσουν σταδιακά προς αυτή την κατεύθυνση. Ξεκινήστε από περιπτώσεις όπου ο αντίκτυπος είναι σαφώς κατανοητός, αποδείξτε την αξία και, στη συνέχεια, επεκτείνετε τη χρήση τους.

Οι πραγματικές δικλίδες ασφαλείας δεν είναι οδηγίες. Το να πείτε σε έναν πράκτορα «μην το κάνεις αυτό» δεν αποτελεί μέτρο ασφαλείας. Οι δικλίδες ασφαλείας πρέπει να επιβάλλονται: με αυστηρά όρια στην πρόσβαση του πράκτορα, επαλήθευση ότι δεν μπορεί να προσεγγίσει τίποτα έξω από το πεδίο αρμοδιοτήτων του και συνεχή παρακολούθηση που αποκλείει ενέργειες τις οποίες κανείς δεν είχε προβλέψει. Όπως κάθε άλλο μέρος του συστήματος, πρέπει να δοκιμάζονται και να επικυρώνονται τακτικά.

Η λογοδοσία ξεκινά από τον χειριστή. Το άτομο που θέτει σε λειτουργία έναν πράκτορα ορίζει τα όριά του: τι μπορεί να κάνει μόνος του, τι χρειάζεται έγκριση και πού δεν επιτρέπεται να κινηθεί. Ας πάρουμε ως παράδειγμα έναν πράκτορα που αντιμετωπίζει απειλές μέσω ηλεκτρονικού ταχυδρομείου. Μπορεί να θέτει σε καραντίνα ύποπτα μηνύματα μόνος του, γρήγορα και αξιόπιστα. Για ενέργειες με ευρύτερο αντίκτυπο, όπως ο αποκλεισμός ενός αποστολέα σε ολόκληρο τον οργανισμό, ο χειριστής μπορεί αρχικά να ζητά έλεγχο. Καθώς ενισχύεται το ιστορικό επιδόσεων του πράκτορα, τα όριά του μπορούν να διευρυνθούν με σιγουριά. Οι σαφείς δικλίδες ασφαλείας είναι αυτές που καθιστούν εφικτή τη μεγαλύτερη αυτονομία.

Αυτό είναι ακόμη πιο σημαντικό, καθώς οι επιτιθέμενοι στοχεύουν ολοένα συχνότερα τους πράκτορες ΤΝ. Η επιχείρηση θέλει να κινηθεί ταχύτερα, αλλά οι ομάδες ασφάλειας δεν διαθέτουν ακόμη σαφές σχέδιο για την προστασία των πρακτόρων. Γι’ αυτό, θεμέλιο της προστασίας πρέπει να είναι τα δικαιώματα πρόσβασης που επιβάλλονται στην πράξη και η συνεχής παρακολούθηση.

Πολλές εταιρείες μετρούν την υιοθέτηση της ΤΝ με βάση τον χρόνο που εξοικονομείται, τις εργασίες που αυτοματοποιούνται ή την παραγωγικότητα των εργαζομένων. Ποιοι δείκτες, κατά τη γνώμη σας, αποδεικνύουν πραγματικά αν ένα λειτουργικό μοντέλο με επίκεντρο την ΤΝ προσφέρει διατηρήσιμη επιχειρηματική αξία, ιδίως όταν συνυπολογίζονται οι δαπάνες για επανεκτέλεση εργασιών, η ποιότητα και ο συντονισμός;

Ο χρόνος που εξοικονομείται είναι σημαντικός δείκτης και συχνά η πρώτη σαφής ένδειξη ότι η ΤΝ δημιουργεί αξία. Ο πλήρης αντίκτυπός του, όμως, φαίνεται όταν συνδυάζεται με δείκτες που δείχνουν πώς αξιοποιεί ο οργανισμός αυτόν τον χρόνο και αν τα οφέλη διατηρούνται μακροπρόθεσμα.

Ποιότητα. Η μεγαλύτερη ταχύτητα είναι καλύτερη μόνο αν η ποιότητα διατηρείται ή βελτιώνεται. Παρακολουθήστε τις επαναλήψεις εργασιών, τα ελαττώματα και πόσο συχνά χρειάζεται να διορθώνονται τα αποτελέσματα μετά την παράδοσή τους. Όταν βελτιώνονται ταυτόχρονα η ταχύτητα και η ποιότητα, τα οφέλη είναι πραγματικά και διαρκή.

Επιχειρηματική ανάπτυξη. Η πραγματική αξία ενός οργανισμού με επίκεντρο την ΤΝ έγκειται σε όσα καθιστά δυνατά ο χρόνος που εξοικονομείται. Μετράμε πόσες νέες δυνατότητες και πρωτοβουλίες αναλαμβάνουμε χωρίς να αυξήσουμε τον αριθμό των εργαζομένων.

Ταχύτητα από άκρη σε άκρη. Ο χρόνος που χρειάζεται ένας πράκτορας για να αναπτύξει μια λειτουργία είναι ένα μόνο μέρος της εικόνας. Το πραγματικό μέτρο είναι η συνολική διαδικασία, μαζί με κάθε μεταβίβαση, από τη στιγμή που αποφασίζουμε να δώσουμε προτεραιότητα σε κάτι έως τη στιγμή που αυτό διατίθεται στο προϊόν. Αυτό δείχνει πόσο γρήγορα λειτουργούμε στην πράξη και αποκαλύπτει το κόστος συντονισμού που δεν αποτυπώνουν οι δείκτες σε επίπεδο εργασίας. Στον τομέα της ασφάλειας, η ταχύτητα από άκρη σε άκρη είναι κρίσιμη. Οι επιτιθέμενοι χρησιμοποιούν ήδη πράκτορες ΤΝ, επομένως ο χρόνος που απαιτείται για τον εντοπισμό και την αντιμετώπιση μιας απειλής πρέπει να μειώνεται διαρκώς.

Ο χρόνος που εξοικονομείται δείχνει ότι η ΤΝ αποδίδει. Αυτοί οι δείκτες δείχνουν ότι δημιουργεί διαρκή αξία για την επιχείρηση.

Έχετε υποστηρίξει ότι οι μικρότερες και πιο ευέλικτες εταιρείες τεχνολογίας μπορούν να αποκτήσουν ουσιαστικό ανταγωνιστικό πλεονέκτημα αναδιαμορφώνοντας τις λειτουργίες τους με βάση την ΤΝ. Ποια πλεονεκτήματα έχουν οι νεοφυείς επιχειρήσεις με επίκεντρο την ΤΝ έναντι των καθιερωμένων εταιρειών και πώς φαντάζεστε ότι θα εξελιχθεί η δομή των επιτυχημένων εταιρειών τεχνολογίας μέσα στα επόμενα τρία έως πέντε χρόνια;

Οι νεοφυείς επιχειρήσεις με επίκεντρο την ΤΝ έχουν ένα δομικό πλεονέκτημα. Μπορούν από την πρώτη μέρα να σχεδιάζουν τις ροές εργασίας, την τεχνολογία και τις ομάδες τους γύρω από πράκτορες ΤΝ, ενώ οι καθιερωμένες εταιρείες πρέπει να διαχειριστούν δεκαετίες παλαιών υποδομών και οργανωτικής πολυπλοκότητας. Το μεγαλύτερο χάσμα δεν είναι τεχνικό. Όλοι έχουν πρόσβαση στα ίδια εργαλεία ΤΝ. Το πλεονέκτημα ανήκει στις εταιρείες που μπορούν να ανασχεδιάσουν τον τρόπο λειτουργίας τους χωρίς να χρειάζεται πρώτα να άρουν πολλαπλά επίπεδα εγκρίσεων, διαδοχικές μεταβιβάσεις εργασιών και παγιωμένους ρόλους.

Τα επόμενα τρία έως πέντε χρόνια, πιστεύω ότι οι επιτυχημένες εταιρείες τεχνολογίας θα ξεπεράσουν τον βασικό αυτοματισμό με τεχνητή νοημοσύνη και θα στραφούν σε λειτουργικά μοντέλα βασισμένα σε αυτόνομους πράκτορες, όπου εξειδικευμένοι πράκτορες τεχνητής νοημοσύνης θα εκτελούν ολόκληρες ροές εργασιών. Οι ανθρώπινες ομάδες δεν θα εξαφανιστούν, αλλά οι άνθρωποι θα αφιερώνουν λιγότερο χρόνο στην εκτέλεση εργασιών με το χέρι και περισσότερο στην παροχή πλαισίου, στον καθορισμό ορίων και στην καθοδήγηση των αποτελεσμάτων. Το αποτέλεσμα θα είναι πιο ευέλικτοι οργανισμοί, οι οποίοι θα μπορούν να αναπτύσσονται ταχύτερα, να λειτουργούν αποδοτικότερα και να ανταγωνίζονται εταιρείες πολλαπλάσιου μεγέθους.

Σας ευχαριστώ για την εξαιρετική συνέντευξη. Οι αναγνώστες που θέλουν να μάθουν περισσότερα για την ασφάλεια ηλεκτρονικού ταχυδρομείου με πράκτορες τεχνητής νοημοσύνης μπορούν να επισκεφθούν την Ocean Security.

Ο Antoine είναι ένας οραματιστής ηγέτης και ιδρυτικός εταίρος της Unite.AI, με αμείωτο πάθος για τη διαμόρφωση και την προώθηση του μέλλοντος της τεχνητής νοημοσύνης και της ρομποτικής. Έχοντας ιδρύσει πολλές επιχειρήσεις, πιστεύει ότι η τεχνητή νοημοσύνη θα μεταμορφώσει την κοινωνία όσο και ο ηλεκτρισμός και συχνά μιλά με ενθουσιασμό για τις δυνατότητες των ανατρεπτικών τεχνολογιών και της τεχνητής γενικής νοημοσύνης (AGI).

Ως μελλοντολόγος, είναι αφοσιωμένος στη διερεύνηση του τρόπου με τον οποίο αυτές οι καινοτομίες θα διαμορφώσουν τον κόσμο μας. Επιπλέον, είναι ιδρυτής του Securities.io, μιας πλατφόρμας που εστιάζει στις επενδύσεις σε τεχνολογίες αιχμής οι οποίες επαναπροσδιορίζουν το μέλλον και μεταμορφώνουν ολόκληρους κλάδους.