Ηγέτες σκέψης

Η Ασφάλεια του AI Δεν Είναι Κατεστραμμένη, Απλώς Υπερασπίζουμε τα Λάθος Πράγματα

Piyush Sharma
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι επιτιθέμενοι εκμεταλλεύονται τις ενσωματώσεις τεχνητής νοημοσύνης ως δρόμους…
Δείτε περισσότερα
  • Οι επιτιθέμενοι εκμεταλλεύονται τις ενσωματώσεις τεχνητής νοημοσύνης ως δρόμους πρόσβασης σε ολόκληρα οικοσυστήματα επιχειρήσεων, όχι τα ίδια τα μοντέλα.
  • Τα εργαλεία ασφαλείας που λειτουργούν απομονωμένα δεν μπορούν να αποκαλύψουν πώς οι επιτιθέμενοι συνδέουν παραμετροποιήσεις σε διάφορους τομείς.
  • Η συνεχής προσομοίωση διαδρομών επίθεσης πρέπει να αντικαταστήσει τις στατικές αξιολογήσεις για περιβάλλοντα με ενσωματωμένη τεχνητή νοημοσύνη.

Η βιομηχανία κυβερνοασφάλειας έχει ένα μοτίβο όταν εμφανίζεται μια νέα τεχνολογία, αμέσως αρχίζουμε να χτίζουμε τοίχους γύρω της. Το κάναμε με το cloud, το κάναμε με τα containers και τώρα, το κάνουμε με το AI, εκτός ότι αυτή τη φορά, οι τοίχοι που χτίζουμε είναι σε εντελώς λάθος μέρη.

Μπείτε σε οποιαδήποτε επιθεώρηση ασφάλειας επιχείρησης σήμερα και θα ακούσετε τις ίδιες προτεραιότητες: ασφάλεια μοντέλων AI, προστασία δεδομένων εκπαίδευσης, επικύρωση εξόδων και ανάπτυξη AI-ενισχυμένων copilots. Οι προμηθευτές βιάζονται να πουλήσουν εργαλεία “ασφάλειας AI” που εστιάζουν αποκλειστικά σε ελέγχους μοντέλου, όπως guardrails, άμυνες κατά της έγχυσης εντολών και πλατφόρμες παρακολούθησης μοντέλων.

Αλλά οι επιτιθέμενοι χρησιμοποιούν τις ολοκληρώσεις AI σας ως αυτοκινητόδρομους σε όλα τα άλλα.

Η Πραγματική Επιφάνεια Επίθεσης που Κανείς Δεν Παρακολουθεί

Ένα μοτίβο που παρατηρούμε συνεχώς σε περιβάλλοντα επιχειρήσεων λέει μια ανησυχητική ιστορία για ομάδες ασφάλειας που επενδύουν πολύ σε ασφάλεια περιβαλλόντων ανάπτυξης AI: έλεγχοι πρόσβασης μοντέλων, πλαίσια διακυβέρνησης δεδομένων, εργαλεία ασφάλειας MLOps. Αυτό δίνει μια ψευδή αυτοπεποίθηση ότι το AI τους είναι “κλειδωμένο”.

Αλλά όταν χαρτογραφείτε την πραγματική επιφάνεια επίθεσης, βλέπετε ότι τα chatbots AI συχνά κατέχουν tokens OAuth για δεκάδες πλατφόρμες SaaS, κλειδιά API με υπερβολικά δικαιώματα στο cloud και σχέσεις εμπιστοσύνης ταυτοτήτων που μπορούν να δημιουργήσουν άμεσους δρόμους από μια απλή έγχυση εντολής σε υποδομή παραγωγής. Τα μοντέλα ίσως είναι ασφαλή, αλλά τα οικοσυστήματα στα οποία ζουν συχνά είναι ανοιχτά και αυτό δεν είναι μια περίπτωση άκρης.

Οι επιχειρήσεις χρησιμοποιούν τώρα μέσο όρο 130+ εφαρμογών SaaS, με ολοκληρώσεις AI που εκτείνονται σε παρόχους ταυτοτήτων, υποδομή cloud, βάσεις δεδομένων και συστήματα κρίσιμης επιχειρηματικής σημασίας. Κάθε ολοκλήρωση είναι ένας πιθανός δρόμος επίθεσης και κάθε σύνδεση API είναι ένα όριο εμπιστοσύνης που οι επιτιθέμενοι ενεργά ερευνάν.

Το πρόβλημα δεν είναι ότι τα εργαλεία ασφάλειας AI μας είναι κατεστραμμένα. Είναι ότι ασφαλίζουμε μεμονωμένα συστατικά ενώ οι επιτιθέμενοι εκμεταλλεύονται τις συνδέσεις μεταξύ τους.

Γιατί η Ασφάλεια Κεντροποιημένη στο Μοντέλο Χάνει το Σημείο

Η τρέχουσα προσέγγιση της ασφάλειας AI λειτουργεί σε μια θεμελιώδη παρεξήγηση του τρόπου με τον οποίο λειτουργούν οι σύγχρονες επιθέσεις. Θεωρούμε το AI ως ένα αυτόνομο περιουσιακό στοιχείο που χρειάζεται προστασία, παρόμοια με το πώς θα ασφαλίσαμε μια βάση δεδομένων ή μια εφαρμογή web. Αλλά το AI σε παραγωγή δεν υπάρχει σε απομόνωση. Είναι ένα σημείο σε ένα σύνθετο γράφο ταυτοτήτων, δικαιωμάτων, API και ροών δεδομένων.

Σκεφτείτε μια τυπική ανάπτυξη AI επιχείρησης. Έχετε ένα πράκτορα AI με πρόσβαση στο Google Workspace. Είναι συνδεδεμένο με το Salesforce (CRM ) μέσω API. Είναι ολοκληρωμένο με το Slack για ειδοποιήσεις. Αντλεί δεδομένα από bucket του AWS S3. Πιστοποιείται μέσω Okta ή Azure AD. Ενεργοποιεί ροές εργασιών στο ServiceNow.

Η παραδοσιακή ασφάλεια AI εστιάζει στο ίδιο το μοντέλο: την κατάσταση ασφάλειάς του, την επικύρωση εντολών, την ασφάλεια εξόδων. Αλλά οι επιτιθέμενοι εστιάζουν στις ολοκληρώσεις: τι μπορούν να φτάσουν μέσω των παραβιασμένων λογαριασμών υπηρεσιών, πού μπορούν να κινηθούν μέσω χειρισμών API, ποια όρια εμπιστοσύνης μπορούν να διασχίσουν μέσω εκμεταλλευμένων ολοκληρώσεων.

Η επίθεση δεν αρχίζει ή τελειώνει με το μοντέλο AI. Το μοντέλο είναι απλώς το σημείο εισόδου.

Οι Δρόμοι Επίθεσης Δεν Σέβονται τα Όρια Προϊόντων

Εδώ είναι όπου οι περισσότερες οργανώσεις μπερδεύονται. Έχουν αναπτύξει εργαλεία ασφάλειας που κάθε ένα παρέχει ορατότητα σε έναν μόνο τομέα. Ένα εργαλείο παρακολουθεί τα δικαιώματα στο cloud. Ένα άλλο παρακολουθεί τις ρυθμίσεις SaaS. Ένα τρίτο διαχειρίζεται τη διακυβέρνηση ταυτοτήτων. Ένα τέταρτο χειρίζεται τη διαχείριση ευπαθειών.

Κάθε εργαλείο σας δείχνει το κομμάτι του puzzle. Κανένα από αυτά δεν σας δείχνει πώς τα κομμάτια συνδέονται.

Σύμφωνα με τη Gartner, οι οργανώσεις χρησιμοποιούν τώρα μέσο όρο 45+ εργαλεία ασφάλειας. Παρόλα αυτά, παρά την τεράστια επένδυση, οι επιτιθέμενοι είναι επιτυχημένοι στο να συνδέουν τις λανθασμένες ρυθμίσεις σε αυτά τα πεδία, επειδή κανένα εργαλείο δεν μπορεί να δει τον πλήρη δρόμο επίθεσης.

Ένας επιτιθέμενος δεν χρειάζεται να βρει μια κρίσιμη ευπάθεια στο μοντέλο AI σας. Απλώς χρειάζεται να βρει μια αλυσίδα. Ίσως είναι ένας λάθος ρόλος IAM που είναι συνδεδεμένος με την υπηρεσία AI σας, η οποία έχει δικαιώματα σε ένα bucket S3, το οποίο περιέχει διαπιστευτήρια για μια εφαρμογή SaaS που έχει διαχειριστική πρόσβαση στο περιβάλλον παραγωγής σας.

Κάθε μεμονωμένη λανθασμένη ρύθμιση μπορεί να έχει βαθμολογία “μεσαία” ή “χαμηλή” στα εργαλεία ασφάλειας σας. Αλλά όταν συνδέονται; Αυτό είναι μια κρίσιμη έκθεση. Και είναι εντελώς αόρατο αν κοιτάτε κάθε τομέα ασφάλειας σε απομόνωση.

Η Απαραίτητη Διαχείριση Έκθεσης

Αυτό είναι το λόγο για τον οποίο η συζήτηση πρέπει να μετατοπιστεί από “ασφάλεια AI” σε συνεχή διαχείριση έκθεσης απειλών για περιβάλλοντα που ολοκληρώνονται με AI.

Δεν είναι αρκετό να ρωτήσουμε αν τα μοντέλα AI μας είναι ασφαλή. Οι ομάδες ασφάλειας χρειάζεται να κατανοήσουν τι μπορεί να φτάσει ένας επιτιθέμενος αν παραβιάσει έναν λογαριασμό υπηρεσίας AI. Χρειάζονται ορατότητα σε πώς οι λανθασμένες ρυθμίσεις σε cloud, SaaS και συστήματα ταυτοτήτων μπορούν να συνδεθούν. Χρειάζονται να γνωρίζουν πώς οι ολοκληρώσεις AI αλλάζουν την επιφάνεια επίθεσης σε πραγματικό χρόνο. Και χρειάζονται να προτεραιοποιήσουν τους κινδύνους με βάση την πραγματική δυνατότητα επίθεσης, όχι μόνο τις βαθμολογίες σοβαρότητας.

Τα περισσότερα προγράμματα ασφάλειας εξακολουθούν να προτεραιοποιούν τους κινδύνους σε απομόνωση, χρησιμοποιώντας βαθμολογίες CVSS και λίστες ελέγχου συμμόρφωσης που αγνοούν πλήρως αν μια ευπάθεια είναι πραγματικά εκμεταλλεύσιμη στο συγκεκριμένο περιβάλλον σας.

Αυτό το κενό είναι ακόμη πιο έντονο με τα συστήματα AI επειδή αυτά αλλάζουν συνεχώς. Νέες ολοκληρώσεις προστίθενται εβδομαδιαίως. Τα δικαιώματα εξελίσσονται. Οι συνδέσεις API αλλάζουν. Η επιφάνεια επίθεσης του τελευταίου μήνα δεν είναι η επιφάνεια επίθεσης σας σήμερα, αλλά η αξιολόγηση ασφάλειας σας πιθανότατα είναι.

Πώς Είναι Πραγματικά η Ασφάλεια που Λαμβάνει Υπόψη τις Διαδρομές Επίθεσης

Η ασφάλεια του AI σε παραγωγή απαιτεί μια θεμελιωδώς διαφορετική προσέγγιση και αυτή συνοψίζεται σε τέσσερις βασικές αλλαγές στη σκέψη.

Πρώτον, χρειάζεστε ενοποιημένη ορατότητα σε όλους τους τομείς ασφάλειας. Σταματήστε να ρωτάτε κάθε εργαλείο ασφάλειας να λειτουργήσει σε δικό του σιλό. Τα εργαλεία ασφάλειας cloud, διακυβέρνησης ταυτοτήτων, διαχείρισης SaaS και σκανάρισματος ευπαθειών κατέχουν όλα κομμάτια του puzzle της επιφάνειας επίθεσης. Χρειάζεται να μοιράζονται δεδομένα σε πραγματικό χρόνο ώστε να δείτε πώς οι λανθασμένες ρυθμίσεις συνδέονται.

Δεύτερον, ενστερνιστείτε τη συνεχή προσομοίωση δρόμων επίθεσης. Μην περιμένετε τις δοκιμές διείσδυσης ή τις ασκήσεις red team για να ανακαλύψετε εκμεταλλεύσιμους δρόμους. Συνεχώς δοκιμάστε πώς ένας επιτιθέμενος μπορεί να κινηθεί στο περιβάλλον σας, εστιάζοντας στην πραγματική εκμεταλλευσιμότητα αντί να βασίζεστε σε θεωρητικές βαθμολογίες σοβαρότητας.

Τρίτον, προτεραιοποιήστε με βάση το πλαίσιο. Μια λανθασμένη ρύθμιση σε ένα bucket S3 δεν είναι κρίσιμη μόνο επειδή είναι δημόσιο. Είναι κρίσιμη αν είναι δημόσιο και περιέχει διαπιστευτήρια και αυτά τα διαπιστευτήρια έχουν προνομιακή πρόσβαση και είναι προσβάσιμα από ένα asset που εκτίθεται στο διαδίκτυο. Το πλαίσιο έχει σημασία περισσότερο από οποιαδήποτε μεμονωμένη βαθμολογία.

Τέταρτον, κινηθείτε προς την προληπτική διόρθωση. Μέχρι την ώρα που η ομάδα SOC σας ερευνά μια ειδοποίηση, έχετε ήδη χάσει πολύτινο χρόνο απόκρισης. Η σύγχρονη άμυνα απαιτεί την ικανότητα να κλείσετε εκμεταλλεύσιμους δρόμους πριν γίνουν όπλα, όχι μετά από ένα περιστατικό.

Η Προειδοποίηση που Δεν Μπορούμε να Αγνοήσουμε

Όσο το AI γίνεται ενσωματωμένο σε όλα τα επίπεδα του στακ επιχείρησης, η επιφάνεια επίθεσης επεκτείνεται γρηγορότερα από ό,τι οι ομάδες ασφάλειας μπορούν να την αναλύσουν χειροκίνητα. Προσθέτουμε ολοκληρώσεις AI με ρυθμό 10 φορές ταχύτερο από ό,τι τις ασφαλίζουμε.

Αν ασφαλίζετε το AI σε απομόνωση, προστατεύοντας το μοντέλο ενώ αγνοείτε το οικοσύστημα στο οποίο λειτουργεί, είστε ήδη πίσω. Οι επιτιθέμενοι δεν σκέφτονται σε εργαλεία, σκέφτονται σε δρόμους. Δεν εκμεταλλεύονται μεμονωμένες ευπαθειές. Συνδέουν τις λανθασμένες ρυθμίσεις σε όλο το περιβάλλον σας.

Οι επιχειρήσεις που θα ασφαλίσουν επιτυχώς το AI δεν θα είναι αυτές με τα περισσότερα εργαλεία ασφάλειας AI. Θα είναι αυτές που κατανοούν ότι η ασφάλεια του AI είναι αδιαχώριστη από τη διαχείριση έκθεσης σε όλη την επιφάνεια επίθεσης.

Η ασφάλεια του μοντέλου είναι βασική προϋπόθεση. Αυτό που έχει σημασία είναι να κατανοήσουμε τι μπορεί να φτάσει ένας επιτιθέμενος όταν παραβιάσει μια ολοκλήρωση AI. Μέχρι οι ομάδες ασφάλειας να μπορέσουν να απαντούν σε αυτό το ερώτημα συνεχώς, σε πραγματικό χρόνο, σε όλο το περιβάλλον τους, δεν ασφαλίζουν το AI. Απλώς ελπίζουν ότι οι τοίχοι που έχουν χτίσει είναι στα σωστά μέρη.

Ο Piyush Sharma, συνιδρυτής και CEO της Tuskira, διαθέτει πάνω από δύο δεκαετίες εμπειρίας στην κυβερνοασφάλεια, με στήριξη από πτυχίο στην Επιστήμη των Υπολογιστών και MBA. Ένας σειριακός επιχειρηματίας με δύο επιτυχείς εξόδους, ο Piyush έχει αναλάβει εξέχουσες θέσεις προϊόντων και επιχειρηματικών ηγετικών ρόλων, συμπεριλαμβανομένων των Symantec και Tenable. Επίσης, υπηρέτησε ως CEO και συνιδρυτής της Accurics, η οποία αργότερα αποκτήθηκε από την Tenable Inc. Ένας καταξιωμένος εφευρέτης, ο Piyush κατέχει δώδεκα πατέντες στην κυβερνοασφάλεια, αποδεικνύοντας τις καινοτόμες συνεισφορές του στο πεδίο.