AI εναντίον AI: Η Νέα Πραγματικότητα της Κυβερνοασφάλειας

Οι κυβερνοεπιθέσεις που βασίζονται στο AI έχουν έρθει, επιβεβαιώνοντας τι ήταν κάποτε μόνο một θεωρητικό, αλλά αναμενόμενο, κίνδυνο και σηματοδοτούν μια νέα εποχή στο τοπίο των απειλών. Με τους πράκτορες AI να μπορούν τώρα να εκκινήσουν σύνθετες, ενδο-ενδο-εκστρατείες σε λίγα λεπτά, οι κυβερνοεγκληματίες μπορούν να εντοπίσουν και να εκμεταλλευτούν τις ευπαθειές των επιχειρήσεων με ταχύτητα μηχανής. Οι κανόνες του παιχνιδιού έχουν αλλάξει: η κυβερνοάμυνα της χθες δεν μπορεί πλέον να跟ψει με την AI-κίνητη επίθεση της σήμερα.

Όσο το AI ενισχύει τις κυβερνοαπειλές, οι επιχειρήσεις πρέπει να αναπτύξουν τις δικές τους AI-κίνητες αμυντικές ικανότητες για να跟ψουν όρους ταχύτητας, κλίμακας και ακρίβειας. Για τώρα, οι κυβερνοαντίπαλοι ακόμη ακολουθούν οικείες τακτικές, τεχνικές και διαδικασίες (TTPs), αλλά το AI επιταχύνει και αναβαθμίζει το βιβλίο τους. Επιπλέον, τα μοντέλα AI των επιχειρήσεων είναι επίσης ένα νέο στόχο μέσω της δηλητηρίασης μοντέλων και της γλωσσικής κοινωνικής μηχανικής, απαιτώντας από τις κυβερνοομάδες να ασφαλίσουν σωστά τις ικανότητες AI τους.，因此, η ασφάλεια πρέπει να είναι ένα βασικό μέρος της μεγαλύτερης στρατηγικής AI μιας οργάνωσης.

Τι Διακρίνει τις Κυβερνοεπιθέσεις που Βασίζονται στο AI;

Σε ένα ψηφιακό κόσμο που ήδη είναι κορεσμένος από σχεδόν συνεχείς κυβερνοεισβολές, το εμπόδιο εισόδου για einen κακόβουλο πράκτορα έχει μειωθεί, αυξάνοντας όχι μόνο τον όγκο αλλά και τη σύνθετη των επιθέσεων. Οι επιθέσεις που βασίζονται στο AI μπορούν τώρα να χρησιμοποιήσουν το AI ή τη μηχανική μάθηση (ML) για να αυτοματοποιήσουν, να επιταχύνουν ή να ενισχύσουν οποιαδήποτε και κάθε φάση του κύκλου ζωής της επίθεσης, από την αναγνώριση και τη συλλογή πληροφοριών μέχρι την εκμετάλλευση και την εξαγωγή ευαίσθητων δεδομένων.

Η εξάρτηση αποκλειστικά από τις υφιστάμενες ασφαλείς διαδικασίες και τεχνολογίες χωρίς την ανάπτυξη της ίδιας προηγμένης τεχνολογίας που χρησιμοποιούν οι αντίπαλοι δίνει στον αντίπαλο ένα πλεονέκτημα που είναι σχεδόν αδύνατο να κλιμακωθεί χωρίς αμυντικό AI. Οι οργανώσεις ήδη είναι υπερφορτωμένες με την παρακολούθηση του επιχειρηματικού τους περιβάλλοντος από παραδοσιακούς απειλητικούς παράγοντες. Οι επιθέσεις που βασίζονται στο AI θα επιδεινώσουν την κόπωση των ενεργειών. Αυτό απαιτεί μια εξέλιξη από τις ανθρώπινες διαδικασίες σε einen υβριδικό κυβερνοανθρώπινο/ψηφιακό εργατικό δυναμικό.

Χαρτογραφήστε Κάθε Ψηφιακό Περιουσιακό Στοιχείο

Σήμερα, η κατανόηση των πιθανών σημείων εισόδου σε ένα επιχειρηματικό περιβάλλον είναι ένα βασικό στοιχείο, αλλά ακόμη είναι εκτός εύρους για πολλές μεγάλες επιχειρήσεις. Πέρα από τα ψηφιακά συστήματα και περιουσιακά στοιχεία, υπάρχει η ανάγκη για μια ολοκληρωμένη χαρτογράφηση όλων των ταυτοτήτων και της πρόσβασης μέσα σε μια οργάνωση. Η ψηφιακή ταυτότητα, η οποία συνδέει τα φυσικά και συμπεριφορικά χαρακτηριστικά με ένα άτομο, είναι καλά κατανοητή με τις υφιστάμενες ελέγχους που απαιτούνται για τη διαχείριση της ψηφιακής πρόσβασης.

Ωστόσο, η κατανόηση του επιχειρηματικού τοπίου των μη ανθρώπινων ταυτοτήτων (NHIs) είναι απαραίτητη για την ασφάλεια των ψηφιακών περιουσιακών στοιχείων. Η πραγματοποίηση της πιθανής αξίας του AI μέσα σε μια οργάνωση σημαίνει να δώσει στους πράκτορες AI πρόσβαση και άδεια για να ολοκληρώσουν αυτόνομα μια επιχειρηματική διαδικασία. Όπως και τα περιβάλλοντα cloud της προηγούμενης ασφαλικής εποχής, τα σημερινά εργαλεία-κίνητα workflows ξεκινούν και σταματούν NHIs σε κλίμακα, απαιτώντας μια προηγμένη ικανότητα για τη διαχείριση και τον έλεγχο του περιβάλλοντος όπου λειτουργούν και πώς επιτυγχάνουν τους προορισμούς ή τους ρόλους τους.

Οι επιχειρήσεις πρέπει να επεκτείνουν τη διακυβέρνηση ταυτότητας σε όλη τη διάρκεια ζωής της ταυτότητας του πράκτορα και να παρακολουθούν τις ενέργειες του πράκτορα, όπως και τις ανθρώπινες χρήστες σήμερα για συμπεριφορές insider risk ή λογαριασμούς που έχουν υποστεί επιθέσεις από απειλητικούς παράγοντες. Όσο οι ικανότητες του πράκτορα λαμβάνουν περισσότερη αυτονομία και επιχειρηματικά κρίσιμες εργασίες, η κατανόηση του προφίλ ταυτότητας και του μοτίβου πρόσβασης είναι κρίσιμη για την εφαρμογή των ελέγχων πρόσβασης και παρακολούθησης που απαιτούνται για την προστασία τους και την επιχείρηση από κακοποίηση.

Κλειδώστε τα Μοντέλα AI

Οι ικανότητες AI έχουν την υπόσχεση να ξεκλειδώσουν την αποτελεσματικότητα και την παραγωγικότητα, αλλά και το πιθανό να γίνουν αντίπαλοι των οργανώσεων. Η εισαγωγή του AI σε κάθε аспект των επιχειρηματικών λειτουργιών δεν είναι πλέον ένα “ωραίο να έχεις” – είναι μια απαραίτητη προϋπόθεση για την επιτυχία στο σημερινό ανταγωνιστικό τοπίο.，因此, η ασφαλής ανάπτυξη του AI είναι ένα απαραίτητο συστατικό για την ασφαλή πραγματοποίηση του πλήρους επιχειρηματικού potencial και των αποτελεσμάτων.

Η μετάβαση στην αμυντική κυβερνοάμυνα που βασίζεται στο AI είναι σε εξέλιξη, ενώ τα μοντέλα AI themselves έχουν γίνει στόχοι. Οι αντίπαλοι μπορεί να προσπαθήσουν να δηλητηριάσουν τα δεδομένα που τροφοδοτούν αυτά τα μοντέλα και να τα χειριστούν για να λάβουν ανεπιθύμητες ενέργειες ή ακόμη και να αποκαλύψουν ευαίσθητες πληροφορίες.

Οι επιθέσεις κατά του AI μπορούν να έρθουν σε διάφορες μορφές, όπως επιθέσεις δηλητηρίασης, επιθέσεις έγχυσης προτύπων και άλλες. Για να προστατεύσετε σωστά το AI από πιθανή χειραγώγηση, οι οργανώσεις πρέπει να χρησιμοποιήσουν τη φιλοσοφία του Cyber Infrastructure and Security Agency (CISA) του Secure by Design. Αυτό ξεκινά με τα δεδομένα που τροφοδοτούν την εκπαίδευση του μοντέλου.  Η κλειδώματος των εισόδων νωρίς στη διαδικασία ανάπτυξης θέτει τις βάσεις για αξιόπιστες εξόδους στην ανάπτυξη.

Η κατανόηση των εισόδων που đi vào την ανάπτυξη των μοντέλων και των ικανοτήτων είναι δυνατή μέσω της προθέσμου διακυβέρνηση δεδομένων μαζί με τον έλεγχο της πρόσβασης στα μοντέλα themselves. Κρίσιμες ελέγχοι που επιτρέπουν την επαλήθευση των επιθυμητών εξόδων έρχονται στη μορφή της προστασίας από την απώλεια δεδομένων (DLP)· της επιβολής πολιτικής και ασφάλειας· της εναρμόνισης μέσω επαλήθευτων πηγών· και των αυστηρών ελέγχων έγκρισης για υψηλής επίδρασης ενέργειες, ελέγχου, και συνεχούς δοκιμής, συμπεριλαμβανομένης της δοκιμής διείσδυσης των μοντέλων για να τα κάνουν battle-σκληρά.

Ενσωματώστε το AI στις Ασφαλείς Επιχειρήσεις

Μέχρι τώρα, η εφαρμογή του AI στην κυβερνοάμυνα έχει sido τακτική, με πολλές οργανώσεις να προσθέτουν το AI σε παραδοσιακές, ανθρώπινες διαδικασίες, αντί να σκέφτονται στρατηγικά πώς να χτίσουν τις AI-κίνητες διαδικασίες.  Αυτό είναι σαν να προσθέσετε einen V8 κινητήρα σε ένα ποδήλατο.  Η επόμενη εξέλιξη της ενεργοποίησης του AI θα είναι η σχεδίαση των διαδικασιών από την αρχή, με τους πράκτορες AI και την αυτοματοποίηση να είναι εγγενείς στη σχεδίαση. Οι δοκιμασμένες και αληθινές μεθόδους και διαδικασίες ασφάλειας, όπως η ανίχνευση απειλών, η κυνηγός απειλών και η μηχανική ανίχνευσης, είναι ακόμη τα κρίσιμα στοιχεία που είναι απαραίτητα για την ασφάλεια της οργάνωσης στην εποχή του AI. Η μετασχηματίζοντας τις τρέχουσες ασφαλείς διαδικασίες για να ενεργοποιήσουν την ενίσχυση του AI μπορεί να θέσει μια ισχυρή βάση για το μέλλον της ασφάλειας που βασίζεται στο AI.

Τι Είναι το Επόμενο;

Η ασφάλεια πρέπει να παραμείνει στην κορυφή του νου για τις επιχειρήσεις και την IT για να διατηρήσουν τα κρίσιμα περιουσιακά στοιχεία και τους χρήστες ασφαλείς από κακόβουλες εκμεταλλεύσεις. Το ασφαλές AI είναι μια αναγκαιότητα με την ταχύτητα με την οποία τα μοντέλα AI μπορούν να αναπτυχθούν και να ζητηθούν να εκτελέσουν πιο κρίσιμες δραστηριότητες. Οι κυβερνοομάδες πρέπει να σκέφτονται στρατηγικά για τη μετασχηματίζοντας των διαδικασιών από την αρχή για να εφαρμόσουν σωστά τις νέες ικανότητες AI για να跟ψουν στο κυβερνο-παίγνιο του γάτου και του ποντικού.

Οι ηγέτες ασφάλειας μπορούν να λάβουν beberapa συγκεκριμένα βήματα στο κοντινό μέλλον: να διεξάγουν μια ολοκληρωμένη ανασκόπηση των τρεχουσών ασφαλών διαδικασιών για να εντοπίσουν κενά, ευκαιρίες για εκσυγχρονισμό και περιοχές που είναι έτοιμες για μετασχηματισμό. Να παραμείνουν στην κορυφή των αναδυόμενων απειλών, τάσεων και τεχνολογιών του AI. Πάνω από όλα, να παραμείνουν συνδεδεμένοι με το θεμελιώδες ασφαλές αρχή της αμυντικής βάθους που έχει αποδείξει τον εαυτό του με την πάροδο του χρόνου – στρωμένη προστασία και επαλήθευση από ταυτότητα, σε σημείο, σε δίκτυο, σε δεδομένα, με ρομπούς ελέγχου και ανταπόκρισης που είναι πάντα υπό δοκιμή.

Η μετασχηματιστική δυνατότητα του AI υπόσχεται ένα πολύ μεγάλο όφελος να μην απορριφθεί η υιοθέτησή του, και ο génie είναι έξω από το μπουκάλι για τους απειλητικούς παράγοντες.，因此, ο ρόλος των ηγετών ασφάλειας σε αυτή τη νέα εποχή είναι ο ίδιος με αυτόν που ήταν πάντα: να υποστηρίζουν τις οργανώσεις τους στην επίτευξη των επιχειρηματικών τους στόχων με σκέψη μείωση του κινδύνου – τώρα με την ταχύτητα μηχανής με την χρήση του AI.