Possono gli AI creare un’e-mail di phishing più convincente degli esseri umani?

L’elaborazione del linguaggio naturale e le avanzate capacità di traduzione rendono l’AI generativa uno strumento inestimabile per gli hacker. Le e-mail di phishing generate dall’AI potrebbero non essere più pericolose del contenuto di phishing creato dagli esseri umani, tuttavia. Cosa dovrebbero sapere gli utenti e i professionisti della sicurezza sul ruolo dell’AI nel phishing e negli attacchi informatici?

Come gli AI creano e-mail di phishing

Il contenuto di phishing segnalato è aumentato del 61% dal 2021 al 2022. Dalle URL maliziose alle truffe via e-mail, il phishing sta diventando sempre più diffuso ogni anno. L’AI è l’ultimo strumento che gli hacker stanno adottando per avanzare le campagne di phishing.

La disponibilità di piattaforme di AI-as-a-Service come ChatGPT rende più facile che mai per chiunque generare contenuti. Un hacker potrebbe mostrare a un modello di linguaggio di grandi dimensioni dell’AI migliaia di esempi di e-mail legittime, quindi chiedergli di creare e-mail originali in base a quelle. L’elaborazione del linguaggio naturale (NLP) consente all’AI di comprendere e ricreare contenuti scritti realistici – uno strumento perfetto negli attacchi di phishing.

Idealmente, l’AI genera un’e-mail originale che imita un’e-mail scritta da un essere umano. L’hacker può chiedergli di personalizzare il messaggio per includere dettagli su una particolare azienda, persona o luogo. L’AI può anche tradurre il messaggio in un’altra lingua. Gli hacker possono effettivamente creare e-mail di phishing completamente originali e personalizzate in pochi momenti, consentendo loro di allontanarsi dal riciclo di una sola e-mail maliziosa tra molti bersagli.

Sono efficaci le e-mail di phishing generate dall’AI?

Le possibilità del phishing alimentato da AI possono sembrare intimidatorie, ma sono più pericolose del contenuto di phishing creato dagli esseri umani? I vantaggi delle e-mail di phishing generate dall’AI si riducono principalmente a flussi di lavoro più efficienti per gli hacker.

Gli studi di ricerca hanno mostrato che le e-mail di phishing generate dall’AI sono circa altrettanto convincenti quanto le e-mail di phishing create dagli esseri umani. Gli hacker sono anche limitati nel loro accesso alle piattaforme di AI-as-a-Service. La maggior parte dei grandi sviluppatori – compresa OpenAI – ha salvaguardie per prevenire applicazioni illegali di modelli di AI.

I principali vantaggi dell’AI per gli hacker di phishing sono l’efficienza e la lingua. Utilizzare l’AI per generare e-mail di truffa è più veloce che scriverle manualmente, consentendo agli hacker di creare una maggiore varietà di e-mail di phishing. Inoltre, possono bersagliare le vittime in tutto il mondo, grazie a strumenti di traduzione dell’AI facilmente accessibili con capacità di NLP.

Quindi, le e-mail di phishing generate dall’AI aumentano il rischio di attacchi di phishing, ma potrebbero non essere necessariamente più convincenti del contenuto di phishing creato dagli esseri umani.

Come difendersi dalle e-mail di phishing generate dall’AI

L’AI è uno strumento utile per gli hacker, ma non è infallibile. La tecnologia di sicurezza e gli utenti possono anche avanzare le loro strategie di difesa mentre gli attacchi di phishing diventano più intelligenti. Gli utenti dovrebbero iniziare a stare al passo con le bandiere rosse del contenuto di phishing, poiché queste rimarranno rilevanti anche con le e-mail generate dall’AI.

Mentre potrebbe diventare più difficile rilevare le e-mail di phishing a colpo d’occhio, alcuni passi di sicurezza possono minimizzare o eliminare il potenziale di danni del phishing. Inoltre, le nuove tecnologie di rilevamento possono intercettare sia le e-mail maliziose scritte da esseri umani che quelle generate dall’AI.

Passare all’archiviazione cloud

Cambiare all’archiviazione cloud è un ottimo modo per minimizzare la minaccia delle e-mail di phishing e degli attacchi informatici. La natura isolata dell’archiviazione dei dati convenzionale la rende estremamente vulnerabile allo sfruttamento da parte degli hacker. A un hacker basta ottenere il controllo di un hard disk o di un server e può tenere in ostaggio tutti i dati di qualcuno.

L’archiviazione cloud evita questa minaccia. Poiché i dati non sono legati a un dispositivo specifico, è molto più difficile per gli hacker cancellare o danneggiare le informazioni. La sicurezza basata su cloud può anche migliorare la resilienza ai tentativi di hacking.

Ad esempio, gli utenti possono implementare scan di vulnerabilità automatizzati per trovare le debolezze nella sicurezza cloud. Ciò è utile per prevenire che gli hacker utilizzino backdoor o credenziali rubate per accedere ai dati nel cloud. Anche se ci riescono, sarà difficile per loro controllare completamente i dati, poiché l’archiviazione cloud è così dispersa.

Creare un sistema di verifica DIY

Una soluzione DIY per aiutare a scoraggiare i messaggi di phishing di qualsiasi tipo è stabilire un sistema di codici tra corrispondenti di fiducia. Ciò potrebbe includere persone come familiari, amici e colleghi. Ogni volta che le persone del gruppo si inviano e-mail, potrebbero scrivere una specifica frase di codice per verificare che il messaggio provenga effettivamente da loro.

Il sistema di codici non deve essere troppo complesso. L’idea è semplicemente quella di aggiungere un fattore alle e-mail che un hacker o un AI non potrebbe conoscere in anticipo in modo affidabile. Fare in modo che la frase di codice sia qualcosa di insolito in modo che sia improbabile che venga trovata frequentemente nelle e-mail di addestramento dell’AI.

Ad esempio, il codice potrebbe essere il nome di un insediamento fantasma, come “Agloe, New York”. Gli insediamenti fantasma sono improbabili da apparire frequentemente nelle e-mail, poiché sono luoghi fittizi semplicemente aggiunti alle mappe per scopi di copyright.

Utilizzare il rilevamento di phishing dell’AI

Gli hacker non sono gli unici a utilizzare l’AI per innovare la loro metodologia. Gli utenti e i professionisti della sicurezza possono sfruttare i modelli di AI per rilevare il contenuto di phishing, indipendentemente da chi lo scriva.

Ad esempio, gli sviluppatori possono utilizzare l’apprendimento automatico per monitorare e tracciare i modelli di comunicazione naturali dei corrispondenti e-mail legittimi. Se l’AI potesse rapidamente apprendere lo stile di comunicazione univoco di un individuo, potrebbe riconoscere le e-mail false che non corrispondono. Ciò si applica indipendentemente da chi abbia scritto l’e-mail, un essere umano o un AI.

Una delle maggiori forze del phishing alimentato da AI è anche un grave difetto. Gli hacker possono creare e-mail di phishing credibili con l’AI, ma lo stile di comunicazione di quelle e-mail non può essere personalizzato in modo efficiente. Un hacker di solito non ha le competenze tecniche o le risorse per addestrare un AI a replicare con precisione lo stile di scrittura di una persona specifica. I modelli di rilevamento di phishing dell’AI possono sfruttare questa debolezza per difendere gli utenti.

Comprendere il rischio del phishing alimentato da AI

L’AI può essere uno strumento prezioso per gli hacker quando si crea e-mail di phishing. Tuttavia, le e-mail generate dall’AI non sono necessariamente più convincenti del contenuto di phishing creato dagli esseri umani. Le principali bandiere rosse del phishing – come le richieste urgenti di azione – rimangono rilevanti indipendentemente da chi o cosa sta creando l’e-mail di phishing. Gli utenti e i professionisti della sicurezza possono adottare tecniche e tecnologie innovative per proteggere i propri dati dalle campagne di phishing alimentate da AI.