Η Zenity Ανεβάζει $125 Εκατομμύρια Ενώ οι Επιχειρήσεις Αντιμετωπίζουν τους Κινδύνους Ασφαλείας των Αυτόνομων Πρακτόρων AI

Zenity έχει ανεβάσει $125 εκατομμύρια σε χρηματοδότηση Σειράς C καθώς οι επιχειρήσεις μεταφέρουν τους πρακτόρες της τεχνητής νοημοσύνης από ελεγχόμενα πειράματα σε συστήματα που μπορούν να έχουν πρόσβαση σε δεδομένα, να καλούν εργαλεία λογισμικού και να ολοκληρώνουν λειτουργικές εργασίες.

Η Norwest ηγήθηκε του γύρου, με Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures και LG Technology Ventures να προσχωρούν ως νέοι επενδυτές. Οι υφιστάμενοι υποστηρικτές Vertex Ventures, Third Point Ventures, DTCP και Intel Capital επίσης συμμετείχαν. Η εταιρεία δεν αποκάλυψε την αξιολόγησή της.

Η χρηματοδότηση αυτή ακολουθεί τη χρηματοδότηση Σειράς B της Zenity τον Οκτώβριο του 2024 και φέρνει τη δηλωμένη χρηματοδότηση της εταιρείας σε τουλάχιστον $180 εκατομμύρια.

Από τους Πειραματισμούς της Τεχνητής Νοημοσύνης στα Αυτόνομα Συστήματα

Το μέγεθος του γύρου αντανακλά μια ευρύτερη αλλαγή στο πώς οι επιχειρήσεις υιοθετούν την τεχνητή νοημοσύνη. Η αρχική κυμαία της γεννητικής τεχνητής νοημοσύνης αφορούσε κυρίως τους υπαλλήλους που αλληλεπιδρούν με chatbots για να παράγουν κείμενο, να συνοψίσουν έγγραφα ή να ανακτήσουν πληροφορίες.

Οι πρακτόρες της τεχνητής νοημοσύνης εισάγουν ένα διαφορετικό επίπεδο κινδύνου επειδή μπορούν να thựcουν ενέργειες. Ανавис από τις άδειες τους, οι πρακτόρες μπορεί να έχουν πρόσβαση σε εσωτερικές βάσεις δεδομένων, να καλούν διεπαφές προγραμματισμού εφαρμογών, να ενημερώνουν εγγραφές, να εκτελούν κώδικα, να στέλνουν μηνύματα ή να ξεκινούν εργασίες που διαρκούν σε πολλά εταιρικά συστήματα.

Αυτό μετατοπίζει το πρόβλημα ασφαλείας πέρα από το αν ένα μοντέλο παράγει μια ανάρμοστη απάντηση. Οι οργανισμοί πρέπει επίσης να κατανοήσουν ποιοι πρακτόρες έχουν αναπτυχθεί, ποιος τους ελέγχει, ποια πληροφορία μπορούν να φτάσουν και ποιες ενέργειες είναι εξουσιοδοτημένοι να εκτελέσουν.

Ένας πρακτόρας μπορεί να συμπεριφερθεί ακριβώς όπως σχεδιάστηκε ενώ ακόμη δημιουργεί ένα περιστατικό ασφαλείας εάν έχει υπερβολικές άδειες, συναντά μη αξιόπιστες πληροφορίες ή ερμηνεύει τις οδηγίες ενός επιτιθέμενου ως μέρος μιας νόμιμης εργασίας.

Η Zenity περιγράφει αυτό ως ένα “πρόβλημα στρώματος πρακτόρων”. Η πλατφόρμα της έχει σχεδιαστεί για να εξετάσει τη διαμόρφωση ενός πρακτόρα, τις άδειες, τα συνδεδεμένα εργαλεία, τη μνήμη και τις ενέργειες εκτέλεσης αντί να κοιτάζει μόνο τις προτροπές που εισέρχονται σε ένα μοντέλο ή τις απαντήσεις που παράγονται.

Πώς η Zenity Ασφαλίζει τους Πρακτόρες της Τεχνητής Νοημοσύνης

Η Zenity διαιρεί την πλατφόρμα της σε τρεις κύριες περιοχές: παρατηρησιμότητα, διαχείριση στάθμης ασφαλείας και ανίχνευση και απόκριση.

Το συστατικό παρατηρησιμότητας ανακαλύπτει και καταγράφει τους πρακτόρες που λειτουργούν σε μια οργάνωση. Αυτό περιλαμβάνει πρακτόρες που είναι ενσωματωμένοι σε πλατφόρμες λογισμικού ως υπηρεσία, εσωτερικά αναπτυγμένους πρακτόρες που τρέχουν σε περιβάλλοντα cloud και τοπικά εργαλεία που έχουν εγκατασταθεί σε συσκευές υπαλλήλων.

Ο στόχος είναι να δώσει στις ομάδες ασφαλείας μια συνεχώς ενημερωμένη εικόνα του ιδιοκτήτη κάθε πρακτόρα, της διαμόρφωσής του, των αδειών του, των ολοκληρώσεων και της συμπεριφοράς του σε χρόνο εκτέλεσης. Αυτό γίνεται ολοένα και πιο σημαντικό καθώς τα ατομικά τμήματα και οι υπάλληλοι κερδίζουν την ικανότητα να δημιουργούν πρακτόρες χωρίς να περνούν από μια συμβατική διαδικασία ανάπτυξης λογισμικού ή ελέγχου ασφαλείας.

Το στρώμα διακυβέρνησης της Zenity αξιολογεί τις διαμορφώσεις και τις άδειες πριν ένας πρακτόρας εισέλθει σε παραγωγή. Οι πολιτικές μπορούν να χρησιμοποιηθούν για να αναγνωρίσουν υπερβολική πρόσβαση, ασφαλείς ολοκληρώσεις ή εργαλεία που θα μπορούσαν να επιτρέψουν σε έναν πρακτόρα να λειτουργήσει πέρα από τον προβλεπόμενο του ρόλο. Η πλατφόρμα μπορεί να συνεχίσει τον έλεγχο αυτών των ελέγχων καθώς οι πρακτόρες τροποποιούνται με την πάροδο του χρόνου.

Σε χρόνο εκτέλεσης, η Zenity αναλύει το μονοπάτι εκτέλεσης ενός πρακτόρα, συμπεριλαμβανομένων των κλήσεων εργαλείων, της πρόσβασης στη μνήμη, της χρήσης δεδομένων και των αλληλεπιδράσεων με άλλα συστήματα. Η εταιρεία λέει ότι μπορεί να χρησιμοποιήσει αυτό το контέκστ για να επιτρέψει, να τροποποιήσει ή να μπλοκάρει μια ενέργεια πριν συμβεί.

Αυτή η προσέγγιση έχει ως στόχο να διακρίνει μεταξύ μιας κανονικής αίτησης και μιας φαινομενικά κανονικής αίτησης που έχει επηρεαστεί από κακόβουλο περιεχόμενο. Επίσης, αντιμετωπίζει một σημαντική περιορισμό του φιλτράρου προτροπών: ένα επικίνδυνο αποτέλεσμα μπορεί να προκύψει από μια σειρά ατομικών αβλαβών ενεργειών.

Κάλυψη SaaS, Cloud και Συσκευών Υπαλλήλων

Η Zenity προσπαθεί να παρέχει ένα κοινό στρώμα ασφαλείας σε ένα κατακερματισμένο οικοσύστημα πρακτόρων.

Για περιβάλλοντα λογισμικού ως υπηρεσία, υποστηρίζει πρακτόρες που συνδέονται με πλατφόρμες όπως Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise και Salesforce (CRM ) Agentforce. Αυτά τα συστήματα μπορούν να παρέχουν στους πρακτόρες πρόσβαση σε επιχειρηματικά έγγραφα, εγγραφές πελατών, επικοινωνίες και εργασίες που η επιχείρηση δεν φιλοξενεί πλήρως ή δεν ελέγχει.

Η πλατφόρμα επίσης καλύπτει προσαρμοσμένους πρακτόρες που έχουν κατασκευαστεί με υπηρεσίες όπως AWS Bedrock, Azure AI Foundry και Google Vertex AI. Η Zenity παρακολουθεί ποια εργαλεία και υπηρεσίες cloud καλούν αυτοί οι πρακτόρες ενώ εφαρμόζει πολιτικές κατά τη διάρκεια της ανάπτυξης και της εκτέλεσης.

Μια τρίτη περιοχή αφορά τους πρακτόρες που βασίζονται σε συσκευές, όπως βοηθοί προγραμματισμού, εφαρμογές επιφάνειας εργασίας και αγεντικοί περιηγητές. Αυτά τα εργαλεία μπορούν να λειτουργούν μέσα στο αυθεντικοποιημένο περιβάλλον ενός υπαλλήλου, потенτικά κληρονομώντας πρόσβαση σε αρχεία, συνεδρίες περιηγητή και συνδεδεμένες υπηρεσίες.

Η ενοποίηση αυτών των περιβαλλόντων σε ένα σύστημα μπορεί να απλοποιήσει τη διακυβέρνηση, αλλά επίσης δημιουργεί μια σημαντική τεχνική πρόκληση. Η αρχιτεκτονική, οι άδειες και η τηλεμετρία που είναι διαθέσιμες από ένα λογισμικό ως υπηρεσία copilot μπορεί να διαφέρουν σημαντικά από εκείνες ενός προσαρμοσμένου πρακτόρα cloud ή ενός τοπικά εγκατεστημένου εργαλείου προγραμματισμού.

Ερευνες Ασφαλείας που Υπογραμμίζουν το Emergent Θρησκευτικό Μοντέλο

Η Zenity έχει υποστηρίξει την ανάπτυξη του προϊόντος της με ερευνες που διεξάγονται μέσω Zenity Labs, τα οποία ερευνώνται πώς τα αυτόνομα συστήματα μπορούν να χειραγωγηθούν μέσω μη αξιόπιστου περιεχομένου.

Η έρευνα AgentFlayer εξέτασε αλυσίδες επιθέσεων zero-click και one-click που αφορούν ευρέως χρησιμοποιούμενες εταιρικές πλατφόρμες AI. Οι επιδείξεις περιελάμβαναν σενάρια όπου κακόβουλοι οδηγίες που παραδόθηκαν μέσω email, εγγράφων, περιπτώσεων υποστήριξης ή εργαλείων συνεργασίας προκάλεσαν στους πρακτόρες να εκθέσουν πληροφορίες, να κακοχρεώσουν συνδεδεμένα εργαλεία ή να τροποποιήσουν τις απαντήσεις τους.

Πιο πρόσφατες ερευνες εξέτασαν τον αγεντικό περιηγητή Comet της Perplexity. Οι ερευνητές της Zenity επέδειξαν πώς κρυμμένες οδηγίες μέσα σε μια πρόσκληση ημερολογίου θα μπορούσαν να επηρεάσουν τον περιηγητή ενώ εκτελούσε μια κανονική εργασία. Σε ένα σενάριο, ο προσβεβλημένος πρακτόρας πλοήγησε σε ένα ανοικτό 1Password web θησαυροφυλάκιο και μετέδωσεπιστεύω μέσω κανονικών αιτημάτων ιστού.

Η έρευνα απέδωσε το ζήτημα στην ανεπαρκή διαχωριστική γραμμή μεταξύ των προθέσεων του χρήστη και του περιεχομένου που συναντά ο πρακτόρας. Επειδή ο πρακτόρας λειτουργούσε ήδη μέσα σε μια αυθεντικοποιημένη συνεδρία περιηγητή, θα μπορούσε να χρησιμοποιήσει πρόσβαση που ο χρήστης είχε νομίμως χορηγήσει.

Αυτές οι επιδείξεις εικονογραφούν γιατί η ασφάλεια του πρακτόρα δεν μπορεί να βασιστεί αποκλειστικά στην ανίχνευση προφανώς κακόβουλων προτροπών. Οι οδηγίες μπορεί να είναι θαμμένες μέσα σε δεδομένα που ένας πρακτόρας αναμένεται να διαβάσει, ενώ οι αντίστοιχες ενέργειες μπορεί να μοιάζουν με κανονική πλοήγηση, ανάκτηση εγγράφων ή δραστηριότητα εφαρμογής.

Επίσης, υπογραμμίζουν τη σημασία των ορίων που παραμένουν επιβαλλόμενα ακόμη και όταν η λογική ενός πρακτόρα έχει χειραγωγηθεί.

Χρηματοδότηση της Παγκόσμιας Επέκτασης και Ανάπτυξης Προϊόντων

Η Zenity λέει ότι οι έσοδοι της έχουν τριπλασιαστεί κάθε χρόνο και είναι σε πορεία να τριπλασιαστούν και φέτος. Η εταιρεία αναφέρει ότι πολλοί από τους πελάτες της είναι οργανισμοί Fortune 500 και Global 2000 που λειτουργούν σε ρυθμιζόμενους κλάδους όπως οι χρηματοοικονομικές υπηρεσίες, η υγεία, οι φαρμακευτικές εταιρείες, η βιομηχανία και η ενέργεια.

Τώρα έχει περισσότερους από 230 υπαλλήλους, με έρευνα και ανάπτυξη που επικεντρώνονται στην Τελ Αβίβ και τις λειτουργίες go-to-market και λειτουργικές που ηγούνται από τη Νέα Υόρκη.

Η χρηματοδότηση Σειράς C θα χρησιμοποιηθεί για να επιταχύνει την ανάπτυξη προϊόντων, να επεκτείνει τα Zenity Labs και να ενισχύσει την παρουσία της εταιρείας στην Ευρώπη και την περιοχή της Ασίας-Ειρηνικού. Θα δώσει επίσης στην Zenity πρόσθετους πόρους για να υποστηρίξει έναν αυξανόμενο αριθμό πλαισίων πρακτόρων καθώς η εταιρική υποδομή AI γίνεται πιο ποικιλόμορφη.

Αυτή η επέκταση έρχεται λιγότερο από δύο χρόνια μετά τον προηγούμενο θεσμικό γύρο της εταιρείας, όταν η Zenity ήταν ακόμη επικεντρωμένη στις ρίζες της στην ασφάλεια εφαρμογών χαμηλού κώδικα και χωρίς κώδικα. Η τρέχουσα θέση της αντανακλά πώς αυτές οι προηγούμενες ανησυχίες έχουν εξελιχθεί: οι υπάλληλοι που θα μπορούσαν να δημιουργήσουν απλές επιχειρηματικές εφαρμογές μπορούν τώρα να δημιουργήσουν πρακτόρες που μπορούν να λαμβάνουν αποφάσεις και να λειτουργούν συνδεδεμένα συστήματα.

Η Ασφάλεια του Πρακτόρα AI Γίνεται Ιδιοκατασκευασμένη Κατηγορία

Η χρηματοδότηση της Zenity σηματοδοτεί την εμπιστοσύνη των επενδυτών ότι η ασφάλεια του πρακτόρα AI θα μπορούσε να εξελιχθεί σε μια σημαντική κατηγορία κυβερνοασφάλειας και όχι να παραμείνει μια λειτουργία μέσα σε υπάρχοντα cloud, ταυτότητα ή προϊόντα端點.

Το επιχείρημα για μια αφιερωμένη κατηγορία είναι ότι τα συμβατικά εργαλεία γενικά βλέπουν μόνο ένα μέρος της δραστηριότητας του πρακτόρα. Οι πλατφόρμες ασφαλείας cloud μπορούν να ελέγξουν την υποδομή, τα συστήματα ταυτότητας μπορούν να διαχειριστούν τις άδειες και τα προϊόντα端點 μπορούν να ανιχνεύσουν απειλές σε επίπεδο λειτουργικού συστήματος. Δεν κατανοούν αναγκαστικά τον προβλεπόμενο ρόλο του πρακτόρα ή πώς μια αλυσίδα κλήσεων εργαλείων σχετίζεται με τον αρχικό στόχο του χρήστη.

Η Zenity θα πρέπει ακόμη να αποδείξει ότι οι ελέγχοι με βάση την πρόθεση μπορούν να λειτουργήσουν σε γρήγορα μεταβαλλόμενα πλαισιά χωρίς να δημιουργούν υπερβολικές ειδοποιήσεις, να μπλοκάρουν νόμιμο έργο ή να προσθέτουν απαράδεκτη καθυστέρηση. Πρέπει επίσης να αποδείξει ότι οι επιχειρήσεις θα αγοράσουν một ξεχωριστή πλατφόρμα ασφαλείας πρακτόρων αντί να βασίζονται σε ελέγχους που προστίθενται από μεγάλους παρόχους cloud και λογισμικού.

Η άμεση αγορά ευκαιρίας γίνεται Tuy nhiên πιο σαφής. Όσο οι πρακτόρες κερδίζουν πρόσβαση σε ευαίσθητα δεδομένα και αρχίζουν να ελέγχουν σημαντικές επιχειρηματικές διαδικασίες, οι οργανισμοί θα χρειαστούν περισσότερα από ένα αρχείο του τι συνέβη μετά από ένα περιστατικό. Θα χρειαστούν μηχανισμούς που μπορούν να αναγνωρίσουν ποιοι πρακτόρες υπάρχουν, να περιορίσουν τι μπορούν να κάνουν και να παρέμβουν πριν μια ανεπιθύμητη ενέργεια γίνει μια παραβίαση.

Η Zenity με $125 εκατομμύρια Σειράς C δίνει στην εταιρεία σημαντικούς πόρους για να καταδιώξει αυτόν τον ρόλο καθώς οι ομάδες ασφαλείας προετοιμάζονται για ένα εταιρικό περιβάλλον που γίνεται ολοένα και πιο κατοικημένο από αυτόνομα λογισμικά.