L'intelligenza artificiale può scrivere un'e-mail di phishing più convincente rispetto agli umani?

L’elaborazione del linguaggio naturale e le funzionalità di traduzione avanzate rendono l’intelligenza artificiale generativa uno strumento prezioso per gli hacker. Tuttavia, le e-mail di phishing generate dall'intelligenza artificiale potrebbero non essere più pericolose dei contenuti truffa generati dagli esseri umani. Cosa dovrebbero sapere gli utenti e i professionisti della sicurezza sul ruolo dell’intelligenza artificiale nel phishing e negli attacchi informatici?

Come l'IA scrive le email di phishing

Contenuti di phishing segnalati è aumentato del 61% rispetto al 2021 al 2022. Dagli URL dannosi alle truffe via e-mail, il phishing sta diventando sempre più diffuso ogni anno. L'intelligenza artificiale è l'ultimo strumento che gli hacker stanno adottando per far avanzare le campagne di phishing. Sebbene l'elaborazione del linguaggio naturale dell'intelligenza artificiale sia vantaggiosa, gli hacker possono sfruttarla per creare contenuti di phishing più efficaci.

La disponibilità di piattaforme AI-as-a-Service come ChatGPT rende più facile che mai per chiunque generare contenuti. Un hacker potrebbe mostrare a un modello di linguaggio di grandi dimensioni AI migliaia di esempi di e-mail legittime, quindi chiedergli di creare e-mail originali basate su quelli. L'elaborazione del linguaggio naturale (NLP) consente all'IA di comprendere e ricreare contenuti scritti realistici, uno strumento perfetto per gli attacchi di phishing.

Idealmente, l'intelligenza artificiale genera un'e-mail originale che imita un'e-mail scritta da un essere umano. L'hacker può chiedergli di personalizzare il messaggio per includere dettagli su una particolare azienda, persona o luogo. L'intelligenza artificiale può persino tradurre il messaggio in una lingua diversa. Gli hacker possono creare efficacemente e-mail di phishing completamente originali e personalizzate in pochi istanti, consentendo loro di evitare di riciclare un'e-mail dannosa tra molti obiettivi.

Le e-mail di phishing generate dall'intelligenza artificiale sono efficaci? 

Le possibilità del phishing basato sull'intelligenza artificiale possono sembrare intimidatorie, ma sono più pericolose dei contenuti di phishing creati dall'uomo? I vantaggi delle e-mail di phishing generate dall'intelligenza artificiale si riducono principalmente a flussi di lavoro più efficienti per gli hacker.

I primi studi di ricerca hanno mostrato e-mail di phishing generate dall'intelligenza artificiale sono altrettanto convincenti come e-mail di phishing generate dall'uomo. Gli hacker sono anche limitati nel loro accesso alle piattaforme AI-as-a-Service. La maggior parte dei grandi sviluppatori, incluso OpenAI, dispone di misure di salvaguardia per prevenire applicazioni illegali di modelli di intelligenza artificiale. 

I principali vantaggi dell'intelligenza artificiale per gli hacker di phishing sono l'efficienza e il linguaggio. Usare l'intelligenza artificiale per generare e-mail di truffa è più veloce che scriverle manualmente, consentendo agli hacker di creare una maggiore varietà di e-mail di phishing. Inoltre, possono prendere di mira le vittime in qualsiasi parte del mondo, grazie a strumenti di traduzione AI facilmente accessibili con funzionalità NLP.

Pertanto, le e-mail di phishing generate dall'intelligenza artificiale aumentano il rischio di attacchi di phishing, ma potrebbero non essere necessariamente più convincenti dei contenuti generati dall'uomo.

Come difendersi dal phishing generato dall'intelligenza artificiale

L'intelligenza artificiale è uno strumento utile per gli hacker, ma non è infallibile. La tecnologia di sicurezza e gli utenti possono anche migliorare le loro strategie di difesa man mano che gli attacchi di phishing diventano più intelligenti. Gli utenti dovrebbero iniziare rimanendo aggiornati su bandiere rosse di contenuti di phishing, poiché rimarranno pertinenti anche con le e-mail generate dall'intelligenza artificiale.

Sebbene possa essere più difficile rilevare a colpo d'occhio le e-mail di phishing, alcune misure di sicurezza possono ridurre al minimo o eliminare la possibilità che il phishing causi danni. Inoltre, le nuove tecnologie di rilevamento sono in grado di rilevare e-mail dannose scritte dall'IA e dall'uomo.

Passa a Cloud Storage

Il passaggio all'archiviazione cloud è un ottimo modo per ridurre al minimo la minaccia di e-mail di phishing e attacchi informatici. La natura isolata dell'archiviazione dei dati convenzionale la rende altamente vulnerabile allo sfruttamento da parte degli hacker. Tutto ciò che un hacker deve fare è ottenere il controllo di un disco rigido o di un server e può tenere in ostaggio tutti i dati di qualcuno.

Il cloud storage schiva questa minaccia. Poiché i dati non sono collegati a nessun dispositivo specifico, è molto più difficile per gli hacker eliminare o danneggiare qualsiasi informazione. La sicurezza informatica basata sul cloud può anche migliorare la resilienza ai tentativi di hacking.

Ad esempio, gli utenti possono implementare scansioni di vulnerabilità automatizzate per trovare punti deboli nel loro cloud sicurezza. Questo è ottimo per impedire agli hacker di utilizzare backdoor o credenziali rubate per accedere ai dati nel cloud. Anche se lo facessero, sarà difficile per loro controllare completamente i dati poiché l'archiviazione cloud è così dispersa.

Crea un sistema di verifica fai-da-te

Una soluzione fai-da-te per aiutare a scoraggiare i messaggi di phishing di qualsiasi tipo è stabilire un sistema di codice tra i corrispondenti fidati. Ciò potrebbe includere persone come familiari, amici e colleghi di lavoro. Ogni volta che i membri del gruppo si scambiano messaggi di posta elettronica, potrebbero scrivere una frase in codice specifica per verificare che il messaggio provenga effettivamente da loro.

Questo sistema di codice non deve essere eccessivamente complicato. L'idea è semplicemente quella di aggiungere un fattore alle e-mail che un hacker o un'intelligenza artificiale non potrebbero conoscere in modo affidabile in anticipo. Rendi la frase in codice qualcosa di insolito in modo che sia improbabile che si trovi comunemente nelle e-mail di formazione di un'intelligenza artificiale.

Ad esempio, il codice potrebbe essere il nome di un insediamento fantasma, come "Agloe, New York". È improbabile che gli insediamenti fantasma appaiano frequentemente nelle e-mail poiché sono luoghi fittizi semplicemente aggiunti alle mappe per motivi di copyright.

Usa il rilevamento del phishing AI

Gli hacker non sono gli unici a utilizzare l'intelligenza artificiale per innovare la loro metodologia. Gli utenti e i professionisti della sicurezza possono sfruttare i modelli di intelligenza artificiale per rilevare i contenuti di phishing, indipendentemente dal fatto che siano scritti da un essere umano o da un'intelligenza artificiale.

Ad esempio, gli sviluppatori possono utilizzare l'apprendimento automatico per monitorare e tracciare la comunicazione naturale modelli di corrispondenti e-mail legittimi. Se l'intelligenza artificiale potesse apprendere rapidamente lo stile di comunicazione unico di un individuo, potrebbe riconoscere le e-mail false che non corrispondono. Questo vale indipendentemente dal fatto che l'e-mail sia stata scritta da un essere umano o da un'intelligenza artificiale.

Uno dei maggiori punti di forza del phishing basato sull'intelligenza artificiale è anche un grave difetto. Gli hacker possono creare in modo efficiente e-mail false credibili con l'intelligenza artificiale, ma lo stile di comunicazione di tali e-mail non può essere personalizzato in modo efficiente. Un hacker di solito non ha le competenze tecniche o le risorse per addestrare un'IA a replicare accuratamente lo stile di scrittura di una persona specifica. I modelli di intelligenza artificiale per il rilevamento del phishing possono sfruttare questa debolezza per difendere gli utenti.

Comprensione del rischio di phishing basato sull'intelligenza artificiale

L'intelligenza artificiale può essere uno strumento prezioso per gli hacker durante la creazione di e-mail di phishing. Tuttavia, le e-mail generate dall'intelligenza artificiale non sono necessariamente più convincenti dei contenuti di phishing generati dall'uomo. I principali segnali di allarme del phishing, come gli inviti all'azione urgenti, rimangono rilevanti indipendentemente da chi o cosa sta creando l'e-mail di phishing. Gli utenti e i professionisti della sicurezza possono adottare tecniche e tecnologie innovative per proteggere i propri dati dalle campagne di phishing basate sull'intelligenza artificiale.