Γεννητική AI στην Κυβερνοασφάλεια: Το Πεδίο Μάχης, Η Απειλή, & Τώρα Η Άμυνα

Το Πεδίο Μάχης

Τι ξεκίνησε ως ενθουσιασμός γύρω από τις ικανότητες της Γεννητικής AI έχει γρήγορα μετατρέψει σε ανησυχία. Εργαλεία Γεννητικής AI όπως το ChatGPT, το Google Bard, το Dall-E, κ.λπ. συνεχίζουν να κάνουν τους τίτλους λόγω προβλημάτων ασφαλείας και ιδιωτικότητας. Ακόμη και οδηγεί σε ερωτήσεις για τι είναι πραγματικό και τι δεν είναι. Η Γεννητική AI μπορεί να παράγει εξαιρετικά πιθανό και因此 πειστικό περιεχόμενο. Τόσο πολύ που στο τέλος ενός πρόσφατου επεισοδίου του 60 Minutes για την AI, ο παρουσιαστής Scott Pelley άφησε τους θεατές με αυτήν την δήλωση: “Θα τελειώσουμε με μια σημείωση που δεν έχει εμφανιστεί ποτέ στο 60 Minutes, αλλά μια, στην επανάσταση της AI, μπορεί να ακούτε συχνά: το προηγούμενο δημιουργήθηκε με 100% ανθρώπινο περιεχόμενο.”

Ο πόλεμος της Γεννητικής AI στην κυβερνοασφάλεια ξεκινά με αυτό το πειστικό και πραγματικό περιεχόμενο και το πεδίο μάχης είναι όπου οι хακερς χρησιμοποιούν τη Γεννητική AI, χρησιμοποιώντας εργαλεία όπως το ChatGPT, κ.λπ. Είναι εξαιρετικά εύκολο για τους κυβερνοεγκληματίες, ιδιαίτερα εκείνους με περιορισμένα μέσα και μηδενική τεχνική γνώση, να διεξάγουν τις εγκληματικές τους ενέργειες μέσω κοινωνικής μηχανικής, phishing και επιθέσεων εξαπάτησης.

Η Απειλή

Η Γεννητική AI έχει τη δύναμη να τροφοδοτεί ολοένα και πιο σύνθετες κυβερνοεπιθέσεις.

Επειδή η τεχνολογία μπορεί να παράγει τόσο πειστικό και ανθρώπινο περιεχόμενο με ευκολία, οι νέες κυβερνοαπάτες που χρησιμοποιούν την AI είναι πιο δύσκολο για τις ομάδες ασφαλείας να τις εντοπίσουν εύκολα. Οι απάτες που παράγονται από την AI μπορούν να έρθουν σε μορφή επιθέσεων κοινωνικής μηχανικής, όπως πολυκαναλικές επιθέσεις phishing που διεξάγονται μέσω email και εφαρμογών μηνυμάτων. Ένα πραγματικό παράδειγμα θα μπορούσε να είναι ένα email ή μήνυμα που περιέχει ένα έγγραφο που στέλνεται σε einen corporate executive από έναν τρίτο πάροχο μέσω Outlook (Email) ή Slack (Εφαρμογή μηνυμάτων). Το email ή το μήνυμα οδηγεί τον χρήστη να κάνει κλικ για να δει μια τιμολόγηση. Με τη Γεννητική AI, είναι σχεδόν αδύνατο να διακρίνουμε μεταξύ ενός ψεύτικου και ενός πραγματικού email ή μηνύματος. Αυτός είναι ο λόγος για τον οποίο είναι τόσο επικίνδυνο.

Ένα από τα πιο ανησυχητικά παραδείγματα, ωστόσο, είναι ότι με τη Γεννητική AI, οι κυβερνοεγκληματίες μπορούν να παράγουν επιθέσεις σε πολλές γλώσσες – ανεξάρτητα από το αν ο хακερ μιλάει πραγματικά τη γλώσσα. Ο στόχος είναι να ρίχνουν ένα ευρύ δίκτυο και οι κυβερνοεγκληματίες δεν θα διακρίνουν τις θύματα με βάση τη γλώσσα.

Η πρόοδος της Γεννητικής AI σηματοδοτεί ότι η κλίμακα και η αποτελεσματικότητα αυτών των επιθέσεων θα συνεχίσει να αυξάνεται.

Η Άμυνα

Η κυβερνοάμυνα για τη Γεννητική AI έχει χαρακτηρισθεί ως το λείπων κομμάτι του παζλ. Μέχρι τώρα. Χρησιμοποιώντας τον αγώνα μηχανής με μηχανή, ή τοποθετώντας την AI εναντίον της AI, μπορούμε να αμυνθούμε εναντίον αυτής της νέας και αυξανόμενης απειλής. Αλλά πώς πρέπει αυτή η στρατηγική να οριστεί και πώς φαίνεται;

Πρώτα, η βιομηχανία πρέπει να ενεργήσει για να τοποθετήσει τον υπολογιστή εναντίον του υπολογιστή αντί του ανθρώπου εναντίον του υπολογιστή. Για να προχωρήσουμε σε αυτήν την προσπάθεια, πρέπει να λάβουμε υπόψη μας προηγμένα πλαίσια ανίχνευσης που μπορούν να ανιχνεύσουν απειλές που παράγονται από την AI, να μειώσουν τον χρόνο που χρειάζεται για να σημάνουν και τον χρόνο που χρειάζεται για να λύσουν μια επίθεση κοινωνικής μηχανικής που προέρχεται από τη Γεννητική AI. Κάτι που ένας άνθρωπος δεν είναι σε θέση να κάνει.

Πρόσφατα διεξήγαμε ένα τεστ για να δούμε πώς μπορεί να φανεί αυτό. Είχαμε το ChatGPT να δημιουργήσει ένα email phishing με βάση τη γλώσσα σε πολλές γλώσσες για να δούμε αν μια πλατφόρμα κατανοήσεων φυσικής γλώσσας ή προηγμένο πλαίσιο ανίχνευσης θα μπορούσε να το ανιχνεύσει. Δώσαμε στο ChatGPT την εντολή, “γράψτε ένα επείγον email που να παρακαλεί κάποιον να κάνει κλήση για μια τελική ειδοποίηση σχετικά με μια συμφωνία αδειών λογισμικού.” Επίσης, διατάξαμε να το γράψουμε στα αγγλικά και στα ιαπωνικά.

Η προηγμένη πλατφόρμα ανίχνευσης ήταν σε θέση να σημάνει αμέσως τα emails ως επίθεση κοινωνικής μηχανικής. ΑΛΛΑ, οι εγγενείς ελέγχοι email, όπως η πλατφόρμα ανίχνευσης phishing του Outlook, δεν μπορούσαν. Ακόμη και πριν από την κυκλοφορία του ChatGPT, οι επιθέσεις κοινωνικής μηχανικής που διεξάγονται μέσω συνομιλίας, επιθέσεων με βάση τη γλώσσα, αποδείχθηκαν επιτυχείς επειδή μπορούσαν να αποφύγουν τους παραδοσιακούς ελέγχους, προσγειώνοντας στα εισερχόμενά τους χωρίς σύνδεσμο ή φορτίο. Έτσι, ναι, χρειάζεται αγώνας μηχανής με μηχανή για να αμυνθούμε, αλλά πρέπει επίσης να βεβαιωθούμε ότι χρησιμοποιούμε αποτελεσματικά πυρομαχικά, όπως μια προηγμένη πλατφόρμα ανίχνευσης. Οποιοσδήποτε έχει αυτά τα εργαλεία στη διάθεσή του έχει ένα πλεονέκτημα στον αγώνα ενάντια στη Γεννητική AI.

Όταν πρόκειται για την κλίμακα και την πιθανότητα των επιθέσεων κοινωνικής μηχανικής που παρέχονται από το ChatGPT και άλλες μορφές Γεννητικής AI, η άμυνα μηχανής με μηχανή μπορεί επίσης να βελτιωθεί. Για παράδειγμα, αυτή η άμυνα μπορεί να αναπτυχθεί σε πολλές γλώσσες. Επίσης, δεν πρέπει να περιορίζεται μόνο στην ασφάλεια email, αλλά μπορεί να χρησιμοποιηθεί και για άλλους καναles επικοινωνίας, όπως εφαρμογές όπως Slack, WhatsApp, Teams κ.λπ.

Μείνετε Ευαισθητοί

Όταν σερφάραμε στο LinkedIn, ένας από τους υπαλλήλους μας ήρθε αντιμέτωπος με μια προσπάθεια κοινωνικής μηχανικής της Γεννητικής AI. Ένα περίεργο “λευκό χαρτί” download διαφήμιση εμφανίστηκε με αυτό που μπορεί να περιγραφεί γενναιόδωρα ως “μπιζάρο” διαφημιστική δημιουργία. Με την πιο προσεκτική έρευνα, ο υπάλληλος είδε ένα χαρακτηριστικό χρωματικό μοτίβο στη κάτω δεξιά γωνία που σφραγίστηκε στις εικόνες που παράγονται από το Dall-E, ένα μοντέλο AI που γεννά εικόνες από κειμενικές εντολές.

Η συνάντηση με αυτή τη ψεύτικη διαφήμιση του LinkedIn ήταν μια σημαντική υπενθύμιση για τις νέες απειλές κοινωνικής μηχανικής που εμφανίζονται τώρα όταν συνδυάζονται με τη Γεννητική AI. Είναι πιο κρίσιμο από ποτέ να είμαστε ευαισθητοί και να είμαστε προετοιμασμένοι να αντιμετωπίσουμε πίσω με κάθε εργαλείο στη διάθεσή μας.