Τι μας λέει η άφιξη των μοντέλων AI Frontier για το μέλλον της ανακάλυψης των ευπαθειών

Όταν ανακοινώθηκε το Claude Mythos τον Απρίλιο, έγινε γρήγορα ένα από τα μεγαλύτερα σημεία συζήτησης για την κυβερνοασφάλεια στην εποχή του AI. Ανεπτυγμένο από την Anthropic, το νέο LLM επέδειξε ανεπανάληπτες κυβερνοικανότητες και προκάλεσε αντιδράσεις που το κατηγοριοποίησαν ως eine σημαντική τεχνολογική επανάσταση, μαζί με προειδοποιήσεις ότι η κυβερνοασφάλεια μπορεί να εισέλθει σε μια περίοδο απρόσμενης διαταραχής.

Σύμφωνα με την Anthropic, το μοντέλο μπορεί να ανακαλύψει αυτόνομα μεγάλο αριθμό zero-day ευπαθειών, αναφέροντας λάθη σε μεγάλους λειτουργικούς συστήματα και περιηγητές, συμπεριλαμβανομένων παραδειγμάτων που παρέμειναν ανακαλυπτά για δεκαετίες. Μπορούσε επίσης να συνδέσει μεμονωμένες αδυναμίες σε λειτουργικές multi-βήμα εκμεταλλεύσεις.

Η επίδρασή του ήταν τόσο δραματική που, μέχρι τις 12 Ιουνίου, η αμερικανική κυβέρνηση διέταξε την Anthropic να αναστείλει κάθε πρόσβαση στην τεχνολογία για κάθε ξένο πολίτη παγκοσμίως, συμπεριλαμβανομένων των ξένων-εθνικών υπαλλήλων της Anthropic. Αυτό θεωρήθηκε ευρέως ως μια αντίδραση στις ανησυχίες ότι οι επιθετικές ικανότητες του AI μπορεί να έχουν φτάσει σε ένα σημείο όπου η α제λεγμένη πρόσβαση θα μπορούσε να δημιουργήσει απαράδεκτα, ακόμη και ανεξέλεγκτα, рисκ.

Στο πλαίσιο του Project Glasswing, το πρόγραμμα ανακοίνωσης και επιδιόρθωσης της Anthropic, η πρόσβαση είναι目前 περιορισμένη σε περίπου 50 οργανισμούς, συμπεριλαμβανομένων των AWS, Apple, Google, Microsoft, CrowdStrike, Cisco και του Linux Foundation, μεταξύ άλλων. Αυτές οι επιχειρήσεις έχουν δοθεί ένα παράθυρο για να επιδιορθώσουν κρίσιμους συστήματα πριν οι ευπαθειές που ανακαλύφθηκαν από το Mythos ανακοινωθούν δημοσίως από τον Ιούλιο και μετά. Σε εκείνο το σημείο, η βιομηχανία πραγματικά εισέρχεται σε νέο έδαφος.

Διαβαίνοντας τον Ρουβίκωνα

Πολλοί θα συμφωνήσουν ότι η άφιξη των μοντέλων AI Frontier σημαίνει ότι ο Ρουβίκωνας έχει διαβαστεί. Και ας είμαστε σαφείς: το βασικό ζήτημα δεν είναι απαραίτητα η εμφάνιση ενός συγκεκριμένου μοντέλου, αλλά η πιθανότητα (ή ακόμη και η πιθανότητα) ότι η ανακάλυψη ευπαθειών και η ανάπτυξη εκμεταλλεύσεων ίσως εισέλθουν σε μια νέα εποχή, με το AI να λειτουργεί σε μια κλίμακα και ταχύτητα πέρα από εκείνη των ανθρώπινων ερευνητών.

Εάν αυτό αποδειχθεί να είναι η περίπτωση, οι επιπτώσεις εκτείνονται πολύ πέρα από συγκεκριμένες ευπαθειές· επηρεάζουν τις υποθέσεις στις οποίες βασίζονται παραδοσιακά οι διαδικασίες διαχείρισης και επιδιόρθωσης ευπαθειών. Συγκεκριμένα, οι τρέχουσες διαδικασίες διαχείρισης ευπαθειών αναπτύχθηκαν σε μια εποχή όπου οι ανθρώπινοι ερευνητές περιόριζαν το ρυθμό ανακάλυψης. Το AI έχει τη δυνατότητα να αλλάξει θεμελιωδώς αυτή τη σχέση.

Μια συνέπεια είναι πιθανό να είναι μια απότομη αύξηση του αριθμού των ευπαθειών που εισέρχονται στο οικοσύστημα ασφαλείας. Οι όγκοι CVE έχουν ήδη αυξηθεί δραματικά τα τελευταία χρόνια, και οι ομάδες ασφαλείας είναι ήδη υπό αυξανόμενη πίεση ακόμη και πριν από την πλήρη επίδραση των μοντέλων AI Frontier.

Σε αυτό το πλαίσιο, η ανακάλυψη ευπαθειών ίσως δεν είναι πλέον ο περιοριστικός παράγοντας. Αντίθετα, το μπουκάλι μεταφέρεται στη διαλογή και επιδιόρθωση. Η πρόκληση ενισχύεται από το γεγονός ότι οι χρονοδιαγράμματα εκμεταλλεύσεων έχουν μειωθεί τα τελευταία χρόνια, και σε ορισμένες περιπτώσεις, οι εκμεταλλεύσεις εμφανίζονται πριν από την κυκλοφορία των επιδιορθώσεων, αφήνοντας τις οργανώσεις με λίγο χρόνο για αντίδραση.

Η ετοιμότητα λειτουργίας γίνεται προτεραιότητα

Τι είναι λοιπόν μια ενημερωμένη, κατάλληλη προσέγγιση για τη διαχείριση ευπαθειών; Πρώτα, πρέπει να αντιμετωπίζεται ως μια συνεχής λειτουργική ικανότητα, επειδή, όπως είναι τώρα, το παράθυρο μεταξύ ανακάλυψης και εγκατάστασης επιδιορθώσεων είναι συχνά πολύ αργό. Οι ομάδες ασφαλείας πρέπει να κατανοούν ποιες ευπαθειές είναι πραγματικά εκμεταλλεύσιμες και ποια συστήματα επηρεάζονται.

Καθώς ο όγκος των ευρημάτων αυξάνεται και ο χρόνος για εκμετάλλευση μειώνεται, η λειτουργία του AI για την ασφάλεια θα γίνει απαραίτητη. Οι ομάδες που αξιοποιούν τις προηγμένες ικανότητες ανίχνευσης του AI (ενώ διαχειρίζονται το κόστος των token) και αυτοματοποιούν την ανίχνευση, τη διαλογή και την επιδιόρθωση θα είναι οι καλύτερα τοποθετημένες για να ελαττώσουν τα παράθυρα έκθεσης και τις αρνητικές επιπτώσεις για τις επιχειρήσεις. Αυτό δεν αφορά την ανακάλυψη του μεγαλύτερου αριθμού ευπαθειών· αφορά την ταυτοποίηση και την επιδιόρθωση των πιο σημαντικών ζητημάτων γρήγορα.

Δεύτερον και πιο σημαντικό, τα μοντέλα AI Frontier) είναι εργαλεία για την κυβερνοάμυνα. Τα μέλη του Glasswing μπορούν να χρησιμοποιήσουν τα μοντέλα για να ανιχνεύσουν και να διορθώσουν προηγουμένως ανεκάλυπτες ευπαθειές, ιδανικά με προηγμένη πρόσβαση για να έχουν ένα προβάδισμα έναντι των επιτιθέμενων όταν αυτοί έχουν πρόσβαση σε ικανότητες AI Frontier. Τα μοντέλα AI Frontier είναι ένα πολύτιμο εργαλείο ανίχνευσης· ωστόσο, δεν λύνουν αυτόματα τις λειτουργικές πτυχές του πώς να διαχειριστούν τις σκανnings του AI (τι χρειάζεται για σάρωση, πότε, πώς να ορχηστρώσουν τη σάρωση, τι να κάνουν με τα ευρήματα, πώς να διαχειριστούν το κόστος των token, κ.λπ.). Ανεξάρτητα από το ποιο μοντέλο χρησιμοποιείται (και θα γίνουν καλύτερα με το χρόνο), οι ομάδες ασφαλείας πρέπει να能够 να λειτουργούν τις ικανότητες AI Frontier για την ασφάλεια πιο γρήγορα από ότι οι επιτιθέμενοι μπορούν να αξιοποιήσουν τις ικανότητες για εκμετάλλευση.

Η μακροπρόθεσμη πρόκληση που αντιμετωπίζουν οι οργανώσεις είναι λοιπόν όχι η προετοιμασία για ένα μοντέλο ή μια συγκεκριμένη κυματική ανακοίνωση, αλλά εάν τα υπάρχοντα λειτουργικά μοντέλα μπορούν να προσαρμοστούν σε ένα κόσμο όπου οι ευπαθειές ανακαλύπτονται και εξοπλίζονται με απρόσμενη ταχύτητα. Κάντε λάθος, και οι οργανώσεις αντιμετωπίζουν ένα κόσμο δυσκολιών.