Ηγέτες σκέψης
Παραγωγική ΤΝ στην κυβερνοασφάλεια: το πεδίο μάχης, η απειλή και τώρα η άμυνα

Βασικά σημείαΗ γενετική τεχνητή νοημοσύνη επιτρέπει εξελιγμένες πολύγλωσσες επιθέσεις phishing που…
Δείτε περισσότερα
- Η γενετική τεχνητή νοημοσύνη επιτρέπει εξελιγμένες πολύγλωσσες επιθέσεις phishing που παρακάμπτουν την παραδοσιακή ασφάλεια email.
- Η μάχη μηχανής προς μηχανή με χρήση προηγμένων πλατφορμών ανίχνευσης είναι απαραίτητη για την αντιμετώπιση της κοινωνικής μηχανικής που δημιουργείται από την τεχνητή νοημοσύνη.
- Μια ψεύτικη διαφήμιση στο LinkedIn με εικόνες από το Dall-E δείχνει ότι η γενετική τεχνητή νοημοσύνη έχει πλέον οπλοποιηθεί για στοχευμένο κυβερνοέγκλημα.
Το πεδίο μάχης
Ο αρχικός ενθουσιασμός για τις δυνατότητες της παραγωγικής τεχνητής νοημοσύνης μετατράπηκε γρήγορα σε ανησυχία. Εργαλεία όπως το ChatGPT, το Google Bard και το Dall-E εξακολουθούν να απασχολούν την επικαιρότητα λόγω ζητημάτων ασφάλειας και ιδιωτικότητας. Προκαλούν ακόμη και αμφιβολίες για το τι είναι πραγματικό και τι όχι. Η παραγωγική ΤΝ μπορεί να δημιουργεί εξαιρετικά αληθοφανές και, επομένως, πειστικό περιεχόμενο. Μάλιστα, στο τέλος ενός πρόσφατου ρεπορτάζ της εκπομπής «60 Minutes» για την ΤΝ, ο παρουσιαστής Scott Pelley είπε στους θεατές: «Θα ολοκληρώσουμε με μια επισήμανση που δεν έχει ακουστεί ποτέ στην εκπομπή „60 Minutes“, αλλά την οποία, στην επανάσταση της ΤΝ, ενδέχεται να ακούτε συχνά: όλο το προηγούμενο υλικό δημιουργήθηκε αποκλειστικά από ανθρώπους».
Ο κυβερνοπόλεμος της παραγωγικής ΤΝ ξεκινά με αυτό το πειστικό και ρεαλιστικό περιεχόμενο. Το πεδίο μάχης είναι εκεί όπου οι χάκερ αξιοποιούν την παραγωγική ΤΝ, χρησιμοποιώντας εργαλεία όπως το ChatGPT. Είναι εξαιρετικά εύκολο για τους κυβερνοεγκληματίες, ιδίως όσους διαθέτουν περιορισμένους πόρους και καθόλου τεχνικές γνώσεις, να διαπράττουν εγκλήματα μέσω κοινωνικής μηχανικής, ηλεκτρονικού ψαρέματος και επιθέσεων πλαστοπροσωπίας.
Η απειλή
Η παραγωγική ΤΝ μπορεί να τροφοδοτήσει ολοένα πιο εξελιγμένες κυβερνοεπιθέσεις.
Επειδή η τεχνολογία παράγει εύκολα πειστικό περιεχόμενο που μοιάζει να έχει δημιουργηθεί από άνθρωπο, οι νέες κυβερνοαπάτες που αξιοποιούν την ΤΝ είναι δυσκολότερο να εντοπιστούν από τις ομάδες ασφαλείας. Οι απάτες που δημιουργούνται με ΤΝ μπορούν να λάβουν τη μορφή επιθέσεων κοινωνικής μηχανικής, όπως πολυκαναλικές επιθέσεις ηλεκτρονικού ψαρέματος μέσω email και εφαρμογών μηνυμάτων. Ένα παράδειγμα από την πράξη θα ήταν ένα email ή μήνυμα με ένα έγγραφο, το οποίο αποστέλλεται σε στέλεχος εταιρείας από εξωτερικό προμηθευτή μέσω Outlook ή Slack. Το μήνυμα ζητά από το στέλεχος να κάνει κλικ στο έγγραφο για να δει ένα τιμολόγιο. Με την παραγωγική ΤΝ μπορεί να είναι σχεδόν αδύνατο να διακρίνει κανείς ένα πλαστό από ένα γνήσιο email ή μήνυμα. Γι’ αυτό είναι τόσο επικίνδυνη.
Ένα ιδιαίτερα ανησυχητικό παράδειγμα είναι ότι οι κυβερνοεγκληματίες μπορούν να δημιουργούν επιθέσεις σε πολλές γλώσσες, ανεξάρτητα από το αν ο χάκερ μιλά πραγματικά τη συγκεκριμένη γλώσσα. Στόχος είναι να προσεγγίσουν όσο το δυνατόν περισσότερα θύματα, χωρίς να περιορίζονται από τη γλώσσα τους.
Η πρόοδος της παραγωγικής ΤΝ υποδηλώνει ότι η κλίμακα και η αποτελεσματικότητα αυτών των επιθέσεων θα συνεχίσουν να αυξάνονται.
Η άμυνα
Η κυβερνοάμυνα απέναντι στην παραγωγική ΤΝ ήταν το κομμάτι που έλειπε από το παζλ. Μέχρι τώρα. Αντιπαραθέτοντας μηχανή σε μηχανή, δηλαδή ΤΝ σε ΤΝ, μπορούμε να αμυνθούμε απέναντι σε αυτή τη νέα και αυξανόμενη απειλή. Πώς όμως πρέπει να οριστεί αυτή η στρατηγική και πώς εφαρμόζεται;
Πρώτον, ο κλάδος πρέπει να αντιπαραθέσει υπολογιστή σε υπολογιστή, αντί για άνθρωπο σε υπολογιστή. Για να το πετύχουμε, πρέπει να εξετάσουμε προηγμένες πλατφόρμες ανίχνευσης που εντοπίζουν απειλές δημιουργημένες με ΤΝ και μειώνουν τόσο τον χρόνο επισήμανσης όσο και τον χρόνο αντιμετώπισης μιας επίθεσης κοινωνικής μηχανικής που προέρχεται από παραγωγική ΤΝ. Αυτό είναι κάτι που ένας άνθρωπος δεν μπορεί να κάνει.
Πρόσφατα πραγματοποιήσαμε μια δοκιμή για να δούμε πώς θα μπορούσε να λειτουργήσει. Ζητήσαμε από το ChatGPT να δημιουργήσει σε πολλές γλώσσες ένα email ηλεκτρονικού ψαρέματος, του οποίου το κείμενο παρακινεί τον παραλήπτη να τηλεφωνήσει, ώστε να διαπιστώσουμε αν μπορεί να το εντοπίσει μια πλατφόρμα κατανόησης φυσικής γλώσσας ή μια προηγμένη πλατφόρμα ανίχνευσης. Δώσαμε την εντολή: «Γράψε ένα επείγον email που παροτρύνει κάποιον να τηλεφωνήσει σχετικά με μια τελική ειδοποίηση για μια σύμβαση άδειας χρήσης λογισμικού». Ζητήσαμε επίσης να γραφτεί στα αγγλικά και στα ιαπωνικά.
Η προηγμένη πλατφόρμα ανίχνευσης επισήμανε αμέσως τα email ως επίθεση κοινωνικής μηχανικής. Όμως οι ενσωματωμένοι έλεγχοι email, όπως η πλατφόρμα ανίχνευσης ηλεκτρονικού ψαρέματος του Outlook, δεν τα κατάφεραν. Ακόμη και πριν από την κυκλοφορία του ChatGPT, οι επιθέσεις κοινωνικής μηχανικής μέσω συνομιλίας και γλωσσικού περιεχομένου αποδεικνύονταν επιτυχείς, επειδή παρέκαμπταν τους παραδοσιακούς ελέγχους και έφταναν στα εισερχόμενα χωρίς σύνδεσμο ή κακόβουλο φορτίο. Χρειάζεται λοιπόν αντιπαράθεση μηχανής με μηχανή για την άμυνα, αλλά πρέπει επίσης να χρησιμοποιούμε αποτελεσματικά μέσα, όπως μια προηγμένη πλατφόρμα ανίχνευσης. Όποιος διαθέτει αυτά τα εργαλεία έχει πλεονέκτημα στην αντιμετώπιση της παραγωγικής ΤΝ.
Όσον αφορά την κλίμακα και την αληθοφάνεια των επιθέσεων κοινωνικής μηχανικής που επιτρέπουν το ChatGPT και άλλες μορφές παραγωγικής ΤΝ, η άμυνα μηχανής απέναντι σε μηχανή μπορεί επίσης να βελτιωθεί. Για παράδειγμα, μπορεί να εφαρμοστεί σε πολλές γλώσσες. Δεν χρειάζεται να περιορίζεται στην ασφάλεια email, αλλά μπορεί να χρησιμοποιηθεί και σε άλλα κανάλια επικοινωνίας, όπως το Slack, το WhatsApp και το Teams.
Παραμείνετε σε επαγρύπνηση
Καθώς περιηγούνταν στο LinkedIn, ένας από τους εργαζομένους μας συνάντησε μια απόπειρα κοινωνικής μηχανικής με παραγωγική ΤΝ. Εμφανίστηκε μια παράξενη διαφήμιση για τη λήψη μιας αναλυτικής έκθεσης, με εικαστικό που ακόμη και με επιείκεια θα μπορούσε να χαρακτηριστεί αλλόκοτο. Εξετάζοντάς το προσεκτικότερα, ο εργαζόμενος είδε στην κάτω δεξιά γωνία το χαρακτηριστικό χρωματικό μοτίβο που αποτυπώνεται στις εικόνες του Dall-E, ενός μοντέλου ΤΝ που δημιουργεί εικόνες από γραπτές εντολές.
Αυτή η πλαστή διαφήμιση στο LinkedIn ήταν μια σημαντική υπενθύμιση των νέων κινδύνων κοινωνικής μηχανικής που εμφανίζονται σε συνδυασμό με την παραγωγική ΤΝ. Είναι πιο κρίσιμο από ποτέ να είμαστε σε επαγρύπνηση και να αντιμετωπίζουμε ύποπτα μηνύματα με δυσπιστία.
Η εποχή της χρήσης παραγωγικής ΤΝ για κυβερνοεγκλήματα έχει φτάσει. Πρέπει να παραμείνουμε σε επαγρύπνηση και να είμαστε έτοιμοι να αντισταθούμε με κάθε διαθέσιμο εργαλείο.












