Μπορεί η τεχνητή νοημοσύνη να γράψει ένα πιο πειστικό ηλεκτρονικό μήνυμα ηλεκτρονικού ψαρέματος από τους ανθρώπους;

Η επεξεργασία φυσικής γλώσσας και οι προηγμένες μεταφραστικές δυνατότητες καθιστούν το γενετικό AI ένα ανεκτίμητο εργαλείο για τους χάκερ. Ωστόσο, τα μηνύματα ηλεκτρονικού ψαρέματος που δημιουργούνται από την τεχνητή νοημοσύνη δεν είναι πιο επικίνδυνα από το περιεχόμενο απάτης που δημιουργείται από τον άνθρωπο. Τι πρέπει να γνωρίζουν οι χρήστες και οι επαγγελματίες ασφάλειας για τον ρόλο της τεχνητής νοημοσύνης στο phishing και τις κυβερνοεπιθέσεις;

Πώς η τεχνητή νοημοσύνη γράφει μηνύματα ηλεκτρονικού ψαρέματος

Αναφέρθηκε περιεχόμενο phishing αυξήθηκε κατά 61% από το 2021 έως το 2022. Από κακόβουλες διευθύνσεις URL έως απάτες μέσω email, το ηλεκτρονικό ψάρεμα γίνεται όλο και πιο διαδεδομένο κάθε χρόνο. Η τεχνητή νοημοσύνη είναι το πιο πρόσφατο εργαλείο που υιοθετούν οι χάκερ για να προωθήσουν τις καμπάνιες phishing. Ενώ η επεξεργασία φυσικής γλώσσας της τεχνητής νοημοσύνης είναι επωφελής, οι χάκερ μπορούν να την αξιοποιήσουν για να δημιουργήσουν πιο αποτελεσματικό περιεχόμενο phishing.

Η διαθεσιμότητα πλατφορμών AI-as-a-Service, όπως το ChatGPT, διευκολύνει από ποτέ οποιονδήποτε να δημιουργήσει περιεχόμενο. Ένας χάκερ θα μπορούσε να δείξει σε ένα μοντέλο τεχνητής νοημοσύνης μεγάλης γλώσσας χιλιάδες παραδείγματα νόμιμων email και στη συνέχεια να του ζητήσει να δημιουργήσει πρωτότυπα μηνύματα ηλεκτρονικού ταχυδρομείου με βάση αυτά. Η επεξεργασία φυσικής γλώσσας (NLP) επιτρέπει στο AI να κατανοήσει και να αναδημιουργήσει ρεαλιστικό γραπτό περιεχόμενο — ένα τέλειο εργαλείο για επιθέσεις phishing.

Ιδανικά, το AI δημιουργεί ένα πρωτότυπο email που μιμείται ένα ανθρώπινο γραμμένο email. Ο χάκερ μπορεί να του ζητήσει να προσαρμόσει το μήνυμα ώστε να περιλαμβάνει λεπτομέρειες σχετικά με μια συγκεκριμένη εταιρεία, άτομο ή μέρος. Το AI μπορεί ακόμη και να μεταφράσει το μήνυμα σε διαφορετική γλώσσα. Οι χάκερ μπορούν να δημιουργήσουν αποτελεσματικά εντελώς πρωτότυπα, εξατομικευμένα μηνύματα ηλεκτρονικού ψαρέματος σε λίγες μόνο στιγμές, επιτρέποντάς τους να απομακρυνθούν από την ανακύκλωση ενός κακόβουλου μηνύματος ηλεκτρονικού ταχυδρομείου μεταξύ πολλών στόχων.

Είναι αποτελεσματικά τα μηνύματα ηλεκτρονικού ψαρέματος που δημιουργούνται από AI; 

Οι δυνατότητες του phishing με τεχνητή νοημοσύνη μπορεί να ακούγονται τρομακτικές, αλλά είναι πιο επικίνδυνες από το περιεχόμενο phishing που δημιουργείται από τον άνθρωπο; Τα πλεονεκτήματα των μηνυμάτων ηλεκτρονικού ψαρέματος που δημιουργούνται από την τεχνητή νοημοσύνη οφείλονται κυρίως σε πιο αποτελεσματικές ροές εργασίας για τους χάκερ.

Πρώιμες ερευνητικές μελέτες έχουν δείξει μηνύματα ηλεκτρονικού ψαρέματος που δημιουργούνται από AI είναι εξίσου πειστικά ως μηνύματα ηλεκτρονικού ψαρέματος που δημιουργούνται από τον άνθρωπο. Οι χάκερ είναι επίσης περιορισμένοι στην πρόσβασή τους στις πλατφόρμες AI–as-a-Service. Οι περισσότεροι μεγάλοι προγραμματιστές — συμπεριλαμβανομένου του OpenAI — έχουν δικλείδες ασφαλείας για την αποτροπή παράνομων εφαρμογών μοντέλων τεχνητής νοημοσύνης. 

Τα κύρια πλεονεκτήματα της τεχνητής νοημοσύνης για τους χάκερς phishing είναι η αποτελεσματικότητα και η γλώσσα. Η χρήση της τεχνητής νοημοσύνης για τη δημιουργία ηλεκτρονικών μηνυμάτων απάτης είναι ταχύτερη από τη μη αυτόματη εγγραφή τους, επιτρέποντας στους χάκερ να δημιουργήσουν μεγαλύτερη ποικιλία από μηνύματα ηλεκτρονικού ψαρέματος. Επιπλέον, μπορούν να στοχεύουν θύματα οπουδήποτε στον κόσμο, χάρη στα εύκολα προσβάσιμα εργαλεία μετάφρασης AI με δυνατότητες NLP.

Έτσι, τα μηνύματα ηλεκτρονικού ψαρέματος που δημιουργούνται από την τεχνητή νοημοσύνη αυξάνουν τον κίνδυνο επιθέσεων phishing, αλλά μπορεί να μην είναι απαραίτητα πιο πειστικά από το περιεχόμενο που δημιουργείται από τον άνθρωπο.

Πώς να αμυνθείτε ενάντια στο ηλεκτρονικό ψάρεμα που δημιουργείται από την τεχνητή νοημοσύνη

Το AI είναι ένα χρήσιμο εργαλείο για τους χάκερ, αλλά δεν είναι αλάνθαστο. Η τεχνολογία ασφαλείας και οι χρήστες μπορούν επίσης να προωθήσουν τις αμυντικές στρατηγικές τους καθώς οι επιθέσεις phishing γίνονται πιο έξυπνες. Οι χρήστες θα πρέπει να ξεκινήσουν μένοντας ενημερωμένοι σχετικά κόκκινες σημαίες περιεχομένου phishing, καθώς αυτά θα παραμείνουν σχετικά ακόμα και με τα email που δημιουργούνται από AI.

Αν και μπορεί να γίνει πιο δύσκολο να ανιχνευθούν τα μηνύματα ηλεκτρονικού ψαρέματος με μια ματιά, ορισμένα βήματα ασφαλείας μπορούν να ελαχιστοποιήσουν ή να εξαλείψουν την πιθανότητα πρόκλησης ζημιάς από το ηλεκτρονικό ψάρεμα. Επιπλέον, οι νέες τεχνολογίες ανίχνευσης μπορούν να συλλάβουν κακόβουλα email τόσο με τεχνητή νοημοσύνη όσο και από άνθρωπο.

Μετάβαση στο Cloud Storage

Η αλλαγή σε αποθήκευση cloud είναι ένας πολύ καλός τρόπος για να ελαχιστοποιήσετε την απειλή ηλεκτρονικού "ψαρέματος" και επιθέσεων στον κυβερνοχώρο. Η απομονωμένη φύση της συμβατικής αποθήκευσης δεδομένων την καθιστά εξαιρετικά ευάλωτη στην εκμετάλλευση από χάκερ. Το μόνο που χρειάζεται να κάνει ένας χάκερ είναι να πάρει τον έλεγχο ενός σκληρού δίσκου ή ενός διακομιστή και μπορεί να κρατήσει όμηρο όλα τα δεδομένα κάποιου.

Το cloud storage αποφεύγει αυτήν την απειλή. Δεδομένου ότι τα δεδομένα δεν συνδέονται με κάποια συγκεκριμένη συσκευή, είναι πολύ πιο δύσκολο για τους χάκερ να διαγράψουν ή να καταστρέψουν οποιαδήποτε πληροφορία. Η κυβερνοασφάλεια που βασίζεται στο cloud μπορεί επίσης να βελτιώσει την ανθεκτικότητα σε απόπειρες hacking.

Για παράδειγμα, οι χρήστες μπορούν να εφαρμόσουν αυτοματοποιημένες σαρώσεις ευπάθειας σε βρίσκουν αδυναμίες στο σύννεφο τους ασφάλεια. Αυτό είναι εξαιρετικό για να αποτρέψετε τους χάκερ να χρησιμοποιούν κερκόπορτες ή κλεμμένα διαπιστευτήρια για πρόσβαση σε δεδομένα στο cloud. Ακόμα κι αν το κάνουν, θα είναι δύσκολο για αυτούς να ελέγξουν πλήρως τα δεδομένα, καθώς η αποθήκευση cloud είναι τόσο διασκορπισμένη.

Δημιουργήστε ένα σύστημα επαλήθευσης DIY

Μια λύση DIY για την αποτροπή μηνυμάτων ηλεκτρονικού ψαρέματος οποιουδήποτε είδους είναι η δημιουργία ενός συστήματος κωδικών μεταξύ αξιόπιστων ανταποκριτών. Αυτό θα μπορούσε να περιλαμβάνει άτομα όπως την οικογένεια, τους φίλους και τους συναδέλφους. Κάθε φορά που τα μέλη της ομάδας αλληλογραφούν μεταξύ τους, θα μπορούσαν να γράψουν μια συγκεκριμένη κωδική φράση για να επαληθεύσουν ότι το μήνυμα προέρχεται όντως από αυτούς.

Αυτό το σύστημα κωδικών δεν χρειάζεται να είναι υπερβολικά περίπλοκο. Η ιδέα είναι απλώς να προστεθεί ένας παράγοντας στα email που ένας χάκερ ή η τεχνητή νοημοσύνη δεν θα μπορούσε να γνωρίζει εκ των προτέρων με αξιοπιστία. Κάντε την κωδική φράση κάτι ασυνήθιστο, ώστε να είναι απίθανο να βρίσκεται συχνά στα email εκπαίδευσης μιας τεχνητής νοημοσύνης.

Για παράδειγμα, ο κωδικός θα μπορούσε να είναι το όνομα ενός οικισμού φάντασμα, όπως "Agloe, Νέα Υόρκη". Οι οικισμοί φάντασμα είναι απίθανο να εμφανίζονται συχνά στα μηνύματα ηλεκτρονικού ταχυδρομείου, καθώς είναι φανταστικά μέρη που απλώς προστίθενται στους χάρτες για λόγους πνευματικών δικαιωμάτων.

Χρησιμοποιήστε το AI Phishing Detection

Οι χάκερ δεν είναι οι μόνοι που χρησιμοποιούν την τεχνητή νοημοσύνη για να καινοτομήσουν τη μεθοδολογία τους. Οι χρήστες και οι επαγγελματίες ασφαλείας μπορούν να αξιοποιήσουν μοντέλα τεχνητής νοημοσύνης για να ανιχνεύσουν περιεχόμενο phishing, είτε το γράφει άνθρωπος είτε AI.

Για παράδειγμα, οι προγραμματιστές μπορούν να χρησιμοποιήσουν τη μηχανική εκμάθηση παρακολουθεί και παρακολουθεί τη φυσική επικοινωνία πρότυπα των νόμιμων ανταποκριτών ηλεκτρονικού ταχυδρομείου. Εάν η τεχνητή νοημοσύνη μπορούσε να μάθει γρήγορα το μοναδικό στυλ επικοινωνίας ενός ατόμου, θα μπορούσε να αναγνωρίσει ψεύτικα μηνύματα ηλεκτρονικού ταχυδρομείου που δεν ταιριάζουν. Αυτό ισχύει ανεξάρτητα από το αν κάποιος άνθρωπος ή τεχνητή νοημοσύνη έγραψε το email.

Ένα από τα μεγαλύτερα πλεονεκτήματα του phishing που βασίζεται σε AI είναι επίσης ένα σημαντικό ελάττωμα. Οι χάκερ μπορούν να δημιουργήσουν αποτελεσματικά πιστευτά ψεύτικα email με AI, αλλά το στυλ επικοινωνίας αυτών των email δεν μπορεί να εξατομικευτεί αποτελεσματικά. Ένας χάκερ συνήθως δεν έχει την τεχνική τεχνογνωσία ή τους πόρους για να εκπαιδεύσει ένα AI ώστε να αναπαράγει με ακρίβεια το στυλ γραφής ενός συγκεκριμένου ατόμου. Τα μοντέλα τεχνητής νοημοσύνης ανίχνευσης phishing μπορούν να αξιοποιήσουν αυτήν την αδυναμία για την υπεράσπιση των χρηστών.

Κατανόηση του κινδύνου ηλεκτρονικού ψαρέματος με τεχνητή νοημοσύνη

Η τεχνητή νοημοσύνη μπορεί να είναι ένα πολύτιμο εργαλείο για τους χάκερ όταν δημιουργούν μηνύματα ηλεκτρονικού ψαρέματος. Ωστόσο, τα email που δημιουργούνται από την τεχνητή νοημοσύνη δεν είναι απαραίτητα πιο πειστικά από το περιεχόμενο phishing που δημιουργείται από τον άνθρωπο. Οι κύριες κόκκινες σημαίες του ηλεκτρονικού ψαρέματος — όπως οι επείγουσες παροτρύνσεις για δράση — παραμένουν σχετικές, ανεξάρτητα από το ποιος ή τι δημιουργεί το μήνυμα ηλεκτρονικού ψαρέματος. Οι χρήστες και οι επαγγελματίες ασφάλειας μπορούν να υιοθετήσουν καινοτόμες τεχνικές και τεχνολογίες για να προστατεύσουν τα δεδομένα τους από καμπάνιες phishing που βασίζονται σε τεχνητή νοημοσύνη.