Μάχη με τον AI με τον AI στο Σύγχρονο Τοπίο Απειλών

Δεν είναι ακριβώς είδηση να πούμε ότι ο AI έχει αλλάξει δραματικά την βιομηχανία κυβερνοασφάλειας. ΚΑΙ οι επιτιθέμενοι ΚΑΙ οι υπερασπιστές στρέφονται στον τεχνητό νοημοσύνη για να ανεβάσουν τις ικανότητές τους, καθένας από τους οποίους προσπαθεί να μείνει ένα βήμα μπροστά από τον άλλον. Αυτό το παιχνίδι γάτας και ποντικού δεν είναι τίποτα νέο—οι επιτιθέμενοι προσπαθούν να ξεπεράσουν τις ομάδες ασφαλείας για δεκαετίες,毕竟—αλλά η εμφάνιση του τεχνητού νοημοσύνου έχει εισαγάγει ένα φρέσκο (και συχνά απρόβλεπτο) στοιχείο στη δυναμική. Οι επιτιθέμενοι σε όλο τον κόσμο τρίβουν τα χέρια τους με χαρά στην προοπτική της αξιοποίησης αυτής της νέας τεχνολογίας για την ανάπτυξη καινοτόμων, chưa từng見 phương pháp επίθεσης.

Αλλά η πραγματικότητα είναι λίγο διαφορετική. Ενώ είναι αλήθεια ότι οι επιτιθέμενοι χρησιμοποιούν ολοένα και περισσότερο τον AI, χρησιμοποιούν τον meisten για να αυξήσουν την κλίμακα και την πολυπλοκότητα των επιθέσεων, βελτιώνοντας την προσέγγισή τους σε υφιστάμενες τακτικές παρά να σπάσουν νέο έδαφος. Η σκέψη εδώ είναι σαφής: γιατί να ξοδέψετε τον χρόνο και την προσπάθεια για την ανάπτυξη των μεθόδων επίθεσης του αύριο όταν οι υπερασπιστές ήδη δυσκολεύονται να σταματήσουν αυτές της σήμερα; Ευτυχώς, οι σύγχρονες ομάδες ασφαλείας αξιοποιούν τις ικανότητες του AI—πολλές από τις οποίες βοηθούν στην ανίχνευση κακόβουλου λογισμικού, προσπαθειών phishing και άλλων κοιňών τακτικών επίθεσης με μεγαλύτερη ταχύτητα και ακρίβεια. Όσο συνεχίζεται ο “πολέμος AI” μεταξύ επιτιθέμενων και υπερασπιστών, θα είναι ολοένα και πιο σημαντικό για τις ομάδες ασφαλείας να κατανοήσουν πώς οι αντίπαλοι αναπτύσσουν στην πραγματικότητα την τεχνολογία—και να διασφαλίσουν ότι οι δικές τους προσπάθειες εστιάζονται στο σωστό σημείο.

Πώς οι Επιτιθέμενοι Αξιοποιούν τον AI

Η ιδέα ενός ημι-αυτόνομου AI που αναπτύσσεται για να διασχίσει μεθοδικά τις αμυντικές δομές ενός οργανισμού είναι μια τρομακτική, αλλά (για τώρα) παραμένει σταθερά στο πεδίο των μυθιστορημάτων του William Gibson και άλλων επιστημονικών φαντασιών. Είναι αλήθεια ότι ο AI έχει προοδεύσει με απίστευτο ρυθμό τα τελευταία χρόνια, αλλά είμαστε ακόμα μακριά από τον τύπο τεχνητής γενικής νοημοσύνης (AGI) που είναι ικανός να μιμηθεί τέλεια τα πρότυπα σκέψης και συμπεριφοράς του ανθρώπου. Αυτό δεν σημαίνει ότι ο σημερινός AI δεν είναι εντυπωσιακός—βέβαια που είναι. Αλλά τα εργαλεία γεννητικού AI και μεγάλες γλωσσικές μοντέλα (LLMs) είναι πιο αποτελεσματικά στο να συνθέτουν πληροφορίες από υλικό που υπάρχει ήδη και να παράγουν μικρές, επαναλαμβανόμενες αλλαγές. Δεν μπορεί να δημιουργήσει κάτι εντελώς νέο με δική του πρωτοβουλία—αλλά μην κάνετε λάθος, η ικανότητα να συνθέτει και να επαναλαμβάνει είναι απίστευτα χρήσιμη.

Στην πράξη, αυτό σημαίνει ότι αντί να αναπτύσσουν νέες μεθόδους επίθεσης, οι αντίπαλοι μπορούν να ανεβάσουν τις τρέχουσες τους. Χρησιμοποιώντας τον AI, ένας επιτιθέμενος μπορεί να στείλει εκατομμύρια emails phishing, αντί για χιλιάδες. Μπορούν επίσης να χρησιμοποιήσουν ένα LLM για να δημιουργήσουν ένα πιο πειστικό μήνυμα, απογύμνωνοντας περισσότερους αποδέκτες να κάνουν κλικ σε một κακόβουλο σύνδεσμο ή να κατεβάσουν ένα αρχείο με κακόβουλο λογισμικό. Τακτικές όπως το phishing είναι ουσιαστικά ένα παιχνίδι αριθμών: η μεγάλη πλειοψηφία των ανθρώπων δεν θα πέσει θύμα ενός email phishing, αλλά αν εκατομμύρια άνθρωποι το λάβουν, ακόμη και ένα 1% ποσοστό επιτυχίας μπορεί να οδηγήσει σε χιλιάδες νέους θύματα. Αν τα LLMs μπορούν να αυξήσουν αυτό το 1% ποσοστό επιτυχίας στο 2% ή περισσότερο, οι scammers μπορούν να διπλασιάσουν την αποτελεσματικότητα των επιθέσεων τους με ελάχιστη έως καμία προσπάθεια. Το ίδιο ισχύει και για τον κακόβουλο λογισμικό: αν μικρές τροποποιήσεις του κώδικα του κακόβουλου λογισμικού μπορούν να αποκρύψουν την ανίχνευση από εργαλεία ανίχνευσης, οι επιτιθέμενοι μπορούν να πάρουν πολύ περισσότερη απόδοση από ένα μεμονωμένο πρόγραμμα κακόβουλου λογισμικού πριν πρέπει να προχωρήσουν σε κάτι νέο.

Το άλλο στοιχείο που παίζει εδώ είναι η ταχύτητα. Επειδή οι επιθέσεις που βασίζονται στον AI δεν υπόκεινται σε ανθρώπινες περιορισμούς, μπορούν συχνά να διεξάγουν ολόκληρη την ακολουθία της επίθεσης με πολύ μεγαλύτερη ταχύτητα από έναν ανθρώπινο χειριστή. Αυτό σημαίνει ότι ένας επιτιθέμενος θα μπορούσε να σπάσει σε ένα δίκτυο και να φτάσει στα πιο ευαίσθητα ή πολύτιμα δεδομένα του θύματος—τα “κορώνες” του—πριν ακόμη η ομάδα ασφαλείας λάβει ειδοποίηση, αφήνοντας ακόμη και να απαντήσει σε αυτή. Αν οι επιτιθέμενοι μπορούν να κινηθούν γρηγορότερα, δεν χρειάζεται να είναι τόσο προσεκτικοί—μπορούν να ξεφύγουν με θορύβους, πιο διαταρακτικές δραστηριότητες χωρίς να σταματηθούν. Δεν κάνουν τίποτα νέο εδώ, αλλά推進ώντας τις επιθέσεις τους πιο γρήγορα, μπορούν να ξεπεράσουν τις αμυντικές δομές του δικτύου με έναν πιθανό τρόπο που αλλάζει το παιχνίδι.

Αυτό είναι το κλειδί για την κατανόηση του πώς οι επιτιθέμενοι αξιοποιούν τον AI. Οι κοινωνικές μηχανές και τα προγράμματα κακόβουλου λογισμικού είναι ήδη επιτυχημένες τακτικές επίθεσης—αλλά τώρα οι αντίπαλοι μπορούν να τα κάνουν ακόμη πιο αποτελεσματικά, να τα αναπτύξουν πιο γρήγορα και να λειτουργήσουν σε ακόμη μεγαλύτερη κλίμακα. Αντί να αγωνίζονται για να απομακρύνουν δεκάδες απόπειρες την ημέρα, οι οργανισμοί μπορεί να αγωνίζονται για να απομακρύνουν εκατοντάδες, χιλιάδες ή ακόμη και δεκάδες χιλιάδες γρήγορες επιθέσεις. Και αν δεν έχουν λύσεις ή διαδικασίες στο σημείο για να ανιχνεύσουν γρήγορα αυτές τις επιθέσεις, να αναγνωρίσουν ποιες αντιπροσωπεύουν πραγματικές, ουσιαστικές απειλές και να τις αποκαταστήσουν αποτελεσματικά, αφήνουν τους εαυτούς τους επικίνδυνα ανοιχτούς στους επιτιθέμενους. Αντί να αναρωτιούνται πώς οι επιτιθέμενοι μπορεί να αξιοποιήσουν τον AI στο μέλλον, οι οργανισμοί πρέπει να αξιοποιήσουν τις λύσεις AI των ιδίων με στόχο να χειριστούν τις υφιστάμενες μεθόδους επίθεσης σε μεγαλύτερη κλίμακα.

Στρέφοντας τον AI προς το Πλεονέκτημα των Ομάδων Ασφαλείας

Οι εμπειρογνώμονες ασφαλείας σε όλα τα επίπεδα της επιχείρησης και της κυβέρνησης αναζητούν τρόπους για να αξιοποιήσουν τον AI για αμυντικούς σκοπούς. Το अगसτού, η αμερικανική Υπηρεσία Έρευνας και Ανάπτυξης Άμυνας (DARPA) ανακοίνωσε τους τελικούς για τον πρόσφατο Διαγωνισμό AI Cyber Challenge (AIxCC), ο οποίος απονέμει βραβεία σε ομάδες ερευνών ασφαλείας που εργάζονται για την εκπαίδευση LLMs για την ανίχνευση και διόρθωση κωδικών-βασισμένων ευπαθειών. Ο διαγωνισμός υποστηρίζεται από μεγάλους παρόχους AI, συμπεριλαμβανομένων Google, Microsoft και OpenAI, οι οποίοι παρέχουν τεχνολογική και οικονομική υποστήριξη για αυτές τις προσπάθειες για την ενίσχυση της ασφαλείας AI. Βέβαια, η DARPA είναι μόνο ένα παράδειγμα—δεν μπορείτε几乎 να κουνήσετε ένα ξύλο στο Silicon Valley χωρίς να χτυπήσετε δώδεκα ιδρυτές startup που είναι έτοιμοι να σας πούν για τις προηγμένες νέες λύσεις ασφαλείας AI. Αρκεί να πούμε, η αναζήτηση νέων τρόπων για να αξιοποιήσουν τον AI για αμυντικούς σκοπούς είναι μια υψηλή προτεραιότητα για οργανισμούς όλων των τύπων και μεγεθών.

Αλλά όπως και οι επιτιθέμενοι, οι ομάδες ασφαλείας συχνά βρίσκουν την μεγαλύτερη επιτυχία όταν χρησιμοποιούν τον AI για να ενισχύσουν τις υφιστάμενες ικανότητές τους. Με τις επιθέσεις που συμβαίνουν σε ολοένα και αυξανόμενη κλίμακα, οι ομάδες ασφαλείας είναι συχνά απασχολημένες—και σε όρους χρόνου και πόρων—καθιστώντας δύσκολο να αναγνωρίσουν, να ερευνήσουν και να αποκαταστήσουν κάθε ειδοποίηση ασφαλείας που εμφανίζεται. Δεν υπάρχει ο χρόνος. Οι λύσεις AI παίζουν σημαντικό ρόλο στην ανακούφιση αυτής της προκλήσης παρέχοντας αυτοματοποιημένες ικανότητες ανίχνευσης και απόκρισης. Αν υπάρχει κάτι που ο AI είναι καλός, είναι η ανίχνευση προτύπων—και αυτό σημαίνει ότι τα εργαλεία AI είναι πολύ καλά στο να αναγνωρίζουν ανώμαλη συμπεριφορά, ιδιαίτερα αν αυτή η συμπεριφορά συμμορφώνεται με γνωστά πρότυπα επίθεσης. Επειδή ο AI μπορεί να εξετάσει τεράστια ποσά δεδομένων πολύ πιο γρήγορα από τους ανθρώπους, αυτό επιτρέπει στις ομάδες ασφαλείας να ανεβάσουν τις λειτουργίες τους σε σημαντικό βαθμό. Σε πολλές περιπτώσεις, αυτές οι λύσεις μπορούν ακόμη και να αυτοματοποιήσουν βασικές διαδικασίες αποκατάστασης, αντίστοιχες με τις χαμηλού επιπέδου επιθέσεις χωρίς την ανάγκη ανθρώπινης παρέμβασης. Μπορούν επίσης να χρησιμοποιηθούν για την αυτοματοποίηση της διαδικασίας επαλήθευσης ασφαλείας, συνεχούς κλοτσιάματος γύρω από τις αμυντικές δομές του δικτύου για να διασφαλίσουν ότι λειτουργούν όπως προορίζονται.

Είναι επίσης σημαντικό να σημειωθεί ότι ο AI δεν επιτρέπει μόνο στις ομάδες ασφαλείας να αναγνωρίσουν πιθανή δραστηριότητα επίθεσης πιο γρήγορα—αυξάνει επίσης δραματικά την ακρίβεια. Αντί να κυνηγούν ψευδείς συναγερμούς, οι ομάδες ασφαλείας μπορούν να είναι βέβαιες ότι όταν μια λύση AI τις ειδοποιεί για μια πιθανή επίθεση, αξίζει της άμεσης προσοχής. Αυτό είναι ένα στοιχείο του AI που δεν μιλάει αρκετά—ενώ πολλή συζήτηση κεντρίζεται γύρω από τον AI “αντικαθιστώντας” τους ανθρώπους και παίρνοντας τις δουλειές τους, η πραγματικότητα είναι ότι οι λύσεις AI είναι ενεργοποιώντας τους ανθρώπους να κάνουν τις δουλειές τους καλύτερα και πιο αποτελεσματικά, ενώ επίσης ανακουφίζουν την εξάντληση που προέρχεται από την εκτέλεση τετριμμένων και επαναλαμβανόμενων εργασιών. Μακράν από το να έχουν αρνητική επίδραση στους ανθρώπινους χειριστές, οι λύσεις AI χειρίζονται πολύ από το “βυσματικό” που σχετίζεται με τις θέσεις ασφαλείας, επιτρέποντας στους ανθρώπους να εστιάσουν σε πιο ενδιαφέρουσες και σημαντικές εργασίες. Σε μια εποχή που η εξάντληση είναι στο υψηλότερο σημείο και πολλές επιχειρήσεις αγωνίζονται να προσελκύσουν νέο ταλέντο ασφαλείας, η βελτίωση της ποιότητας ζωής και της ικανοποίησης της δουλειάς μπορεί να έχει μια τεράστια θετική επίδραση.

Εκεί βρίσκεται το πραγματικό πλεονέκτημα για τις ομάδες ασφαλείας. Όχι μόνο οι λύσεις AI μπορούν να βοηθήσουν να ανεβάσουν τις λειτουργίες τους για να αντιμετωπίσουν αποτελεσματικά τους επιτιθέμενους που αξιοποιούν εργαλεία AI—μπορούν να giữ τους chuyênικούς ασφαλείας πιο ευτυχισμένους και ικανοποιημένους στις θέσεις τους. Αυτό είναι μια σπάνια λύση νίκης για όλους τους εμπλεκόμενους, και πρέπει να βοηθήσει τις σημερινές επιχειρήσεις να αναγνωρίσουν ότι η ώρα να επενδύσουν σε λύσεις ασφαλείας AI είναι τώρα.

Ο Αγώνας AI Μόλις Ξεκινά

Ο αγώνας για την υιοθέτηση λύσεων AI είναι σε εξέλιξη, με τους επιτιθέμενους και τους υπερασπιστές να βρίσκουν διαφορετικούς τρόπους για να αξιοποιήσουν την τεχνολογία προς το πλεονέκτημά τους. Όσο οι επιτιθέμενοι χρησιμοποιούν τον AI για να αυξήσουν την ταχύτητα, την κλίμακα και την πολυπλοκότητα των επιθέσεων, οι ομάδες ασφαλείας θα πρέπει να πολεμήσουν με πυρ τον AI, χρησιμοποιώντας εργαλεία AI για να βελτιώσουν την ταχύτητα και την ακρίβεια των ικανοτήτων ανίχνευσης και αποκατάστασης. Ευτυχώς, οι λύσεις AI παρέχουν κρίσιμες πληροφορίες στις ομάδες ασφαλείας, επιτρέποντας τους να δοκιμάσουν και να αξιολογήσουν την αποτελεσματικότητα των δικών τους λύσεων, ενώ επίσης ελευθερώνουν χρόνο και πόρους για πιο κρίσιμες εργασίες. Μην κάνετε λάθος, ο αγώνας AI μόλις ξεκινά—αλλά το γεγονός ότι οι επαγγελματίες ασφαλείας ήδη χρησιμοποιούν τον AI για να μείνουν ένα βήμα μπροστά από τους επιτιθέμενους είναι ένα πολύ καλό σημάδι.