Γεννητική ΙΑ στην Κυβερνοασφάλεια: Το Πεδίο Μάχης, Η Απειλή, & Τώρα Η Άμυνα

Το Πεδίο Μάχης

Αυτό που ξεκίνησε ως ενθουσιασμός για τις ικανότητες της Γεννητικής ΙΑ έχει γρήγορα μετατρέψει σε ανησυχία. Τα εργαλεία Γεννητικής ΙΑ όπως το ChatGPT, το Google Bard, το Dall-E κ.λπ. συνεχίζουν να κάνουν τις επικεφαλίδες λόγω προβλημάτων ασφάλειας και ιδιωτικότητας. Αυτό οδηγεί ακόμη και σε ερωτήματα για τι είναι πραγματικό και τι όχι. Η Γεννητική ΙΑ μπορεί να παράγει πολύ πιθανό και έτσι πειστικό περιεχόμενο. Τόσο πολύ, ώστε στο τέλος ενός πρόσφατου επεισοδίου του 60 Minutes για την ΙΑ, ο παρουσιαστής Scott Pelley άφησε τους θεατές με αυτή την δήλωση: “Θα τελειώσουμε με μια σημείωση που δεν έχει εμφανιστεί ποτέ στο 60 Minutes, αλλά μια, στην επανάσταση της ΙΑ, μπορεί να ακούτε συχνά: το προηγούμενο δημιουργήθηκε με 100% ανθρώπινο περιεχόμενο.”

Ο πόλεμος της Γεννητικής ΙΑ ξεκινά με αυτό το πιθανό και πραγματικό περιεχόμενο και το πεδίο μάχης είναι όπου οι хακερς εκμεταλλεύονται τη Γεννητική ΙΑ, χρησιμοποιώντας εργαλεία όπως το ChatGPT κ.λπ. Είναι εξαιρετικά εύκολο για τους κυβερνοεγκληματίες, ιδιαίτερα εκείνους με περιορισμένα μέσα και μη τεχνικές γνώσεις, να εκτελέσουν τα εγκλήματά τους μέσω κοινωνικής μηχανικής, φισινγκ και επιθέσεων εξαπάτησης.

Η Απειλή

Η Γεννητική ΙΑ έχει τη δύναμη να τροφοδοτήσει ολοένα και πιο σύνθετες κυβερνοεπιθέσεις.

Επειδή η τεχνολογία μπορεί να παράγει τόσο πιθανό και ανθρώπινο περιεχόμενο με ευκολία, οι νέες κυβερνοαπάτες που χρησιμοποιούν την ΙΑ είναι πιο δύσκολο για τις ομάδες ασφαλείας να τις αναγνωρίσουν εύκολα. Οι απάτες της ΙΑ μπορούν να έρθουν σε μορφή επιθέσεων κοινωνικής μηχανικής, όπως πολυκαναλικές επιθέσεις φισινγκ που διεξάγονται μέσω email και εφαρμογών μηνυμάτων. Ένα πραγματικό παράδειγμα θα μπορούσε να είναι ένα email ή μήνυμα που περιέχει ένα έγγραφο που στέλνεται σε einen εκτελεστικό της εταιρείας από έναν τρίτο προμηθευτή μέσω Outlook (Email) ή Slack (Εφαρμογή μηνυμάτων). Το email ή το μήνυμα κατευθύνει τους χρήστες να κάνουν κλικ σε αυτό για να δουν μια τιμολόγηση. Με τη Γεννητική ΙΑ, είναι σχεδόν αδύνατο να διακρίνουμε μεταξύ ενός ψευδούς και ενός πραγματικού email ή μηνύματος. Αυτό είναι που είναι τόσο επικίνδυνο.

Ένα από τα πιο ανησυχητικά παραδείγματα, ωστόσο, είναι ότι με τη Γεννητική ΙΑ, οι κυβερνοεγκληματίες μπορούν να παράγουν επιθέσεις σε πολλές γλώσσες – ανεξάρτητα από το αν ο хакερ μιλάει πραγματικά τη γλώσσα. Ο στόχος είναι να ρίχνουν ένα ευρύ δίκτυο και οι κυβερνοεγκληματίες δεν θα διακρίνουν τις θύματα με βάση τη γλώσσα.

Η εξέλιξη της Γεννητικής ΙΑ σηματοδοτεί ότι η κλίμακα και η αποτελεσματικότητα αυτών των επιθέσεων θα συνεχίσει να αυξάνεται.

Η Άμυνα

Η κυβερνοάμυνα για τη Γεννητική ΙΑ ήταν ο λείπων πήχης στο puzzle. Μέχρι τώρα. Χρησιμοποιώντας τη μάχη μηχανής με μηχανή, ή πinning την ΙΑ εναντίον της ΙΑ, μπορούμε να αμυνθούμε ενάντια σε αυτή τη νέα και αυξανόμενη απειλή. Αλλά πώς πρέπει να οριστεί αυτή η στρατηγική και πώς φαίνεται;

Πρώτα, η βιομηχανία πρέπει να ενεργήσει για να πinnen τον υπολογιστή εναντίον του υπολογιστή αντί του ανθρώπου εναντίον του υπολογιστή. Για να προχωρήσουμε σε αυτή την προσπάθεια, πρέπει να λάβουμε υπόψη τα προηγμένα πλαίσια ανίχνευσης που μπορούν να ανιχνεύσουν τις απειλές της ΙΑ, να μειώσουν τον χρόνο που χρειάζεται για να σημάνουν και τον χρόνο που χρειάζεται για να λύσουν μια επίθεση κοινωνικής μηχανικής που προέρχεται από τη Γεννητική ΙΑ. Κάτι που ένας άνθρωπος δεν είναι σε θέση να κάνει.

Πρόσφατα διεξήγαμε einen δοκιμή για να δούμε πώς μπορεί να φανεί αυτό. Έχουμε το ChatGPT να δημιουργήσει einen γλωσσικό callback φισινγκ email σε πολλές γλώσσες για να δούμε αν μια πλατφόρμα κατανοήσεων φυσικής γλώσσας ή προηγμένο πλαίσιο ανίχνευσης θα μπορούσε να το ανιχνεύσει. Δώσαμε στο ChatGPT την εντολή, “γράψτε einen επείγον email που παρακαλεί κάποιον να καλέσει για μια τελική ειδοποίηση σχετικά με μια συμφωνία αδειών λογισμικού.” Επίσης, διατάξαμε να το γράψουμε στα αγγλικά και στα ιαπωνικά.

Το προηγμένο πλαίσιο ανίχνευσης ήταν σε θέση να σημάνει αμέσως τα email ως επίθεση κοινωνικής μηχανικής. ΑΛΛΑ, οι εγγενείς ελέγχοι email όπως η πλατφόρμα ανίχνευσης φισινγκ του Outlook δεν μπορούσαν. Ακόμη και πριν από την κυκλοφορία του ChatGPT, οι επιθέσεις κοινωνικής μηχανικής που διεξάγονταν μέσω συνομιλίας, γλωσσικών επιθέσεων, αποδείχθηκαν επιτυχείς επειδή μπορούσαν να αποφύγουν τους παραδοσιακούς ελέγχους, προσγείωναν στα εισερχόμενά τους χωρίς σύνδεσμο ή φορτίο. Έτσι, ναι, χρειάζεται η μάχη μηχανής με μηχανή για να αμυνθούμε, αλλά πρέπει επίσης να βεβαιωθούμε ότι χρησιμοποιούμε αποτελεσματικά πυροβόλα, όπως ένα προηγμένο πλαίσιο ανίχνευσης. Οποιοςδήποτε έχει αυτά τα εργαλεία στη διάθεσή του έχει ένα πλεονέκτημα στον αγώνα ενάντια στη Γεννητική ΙΑ.

Όταν πρόκειται για την κλίμακα και την πιθανότητα των επιθέσεων κοινωνικής μηχανικής που παρέχονται από το ChatGPT και άλλες μορφές Γεννητικής ΙΑ, η άμυνα μηχανής με μηχανή μπορεί επίσης να βελτιωθεί. Για παράδειγμα, αυτή η άμυνα μπορεί να αναπτυχθεί σε πολλές γλώσσες. Επίσης, δεν πρέπει να περιορίζεται μόνο στην ασφάλεια email, αλλά μπορεί να χρησιμοποιηθεί για άλλους καναles επικοινωνίας, όπως εφαρμογές όπως Slack, WhatsApp, Teams κ.λπ.

Μείνετε Ευγνώμονες

Όταν σερφάρω στο LinkedIn, ένας από τους υπαλλήλους μας συνάντησε μια προσπάθεια κοινωνικής μηχανικής της Γεννητικής ΙΑ. Μια περίεργη “λευκή βίβλος” διαφήμιση εμφανίστηκε με αυτό που μπορεί να περιγραφεί γενναιόδωρα ως “μπιζάρο” διαφημιστικό υλικό. Μετά από μια πιο προσεκτική έρευνα, ο υπάλληλος είδε einen χαρακτηριστικό χρωματικό μοτίβο στη κάτω δεξιά γωνία που ήταν σφραγισμένος σε εικόνες που παράγονται από το Dall-E, ένα μοντέλο ΙΑ που γεννά εικόνες από κειμενικές εντολές.

Η συνάντηση με αυτή τη ψευδή διαφήμιση του LinkedIn ήταν ένας σημαντικός υπενθύμιση για τις νέες απειλές κοινωνικής μηχανικής που εμφανίζονται τώρα όταν συνδυάζονται με τη Γεννητική ΙΑ. Είναι πιο κρίσιμο από ποτέ να είμαστε ευγνώμονες και να υποψιαζόμαστε.

Η εποχή της γεννητικής ΙΑ που χρησιμοποιείται για κυβερνοεγκλήματα είναι εδώ, και πρέπει να μείνουμε ευγνώμονες και να είμαστε έτοιμοι να αντισταθούμε με όλα τα εργαλεία που διαθέτουμε.