IA nel phishing: avvantaggiano di più gli aggressori o i difensori?

Con la crescita del crimine informatico, l'industria della sicurezza informatica ha dovuto adottare tecnologie all'avanguardia per stare al passo. L'intelligenza artificiale (AI) è rapidamente diventata uno degli strumenti più utili per fermare gli attacchi informatici, ma anche gli aggressori possono utilizzarla. Le recenti tendenze del phishing sono un eccellente esempio di entrambi i lati della questione.

Il phishing è il tipo più comune di criminalità informatica oggi di gran lunga. Man mano che sempre più aziende sono diventate consapevoli di questa crescente minaccia, altre hanno implementato strumenti di intelligenza artificiale per fermarla. Tuttavia, i criminali informatici stanno anche aumentando il loro utilizzo dell'intelligenza artificiale nel phishing. Ecco uno sguardo più da vicino su come entrambe le parti utilizzano questa tecnologia e chi ne trae maggiori benefici.

Come l'intelligenza artificiale aiuta a combattere il phishing

Gli attacchi di phishing sfruttano la naturale tendenza delle persone alla curiosità e alla paura. Poiché questa ingegneria sociale è così efficace, uno dei modi migliori per proteggersi è assicurarsi di non vederla in primo luogo. È qui che entra in gioco l'IA.

Gli strumenti di intelligenza artificiale anti-phishing in genere si presentano sotto forma di filtri e-mail avanzati. Questi programmi eseguono la scansione dei messaggi in arrivo alla ricerca di segni di tentativi di phishing e inviano automaticamente e-mail sospette alla cartella della posta indesiderata. Alcune soluzioni più recenti possono individuare le e-mail di phishing con una precisione del 99.9%. generando diverse versioni di messaggi di truffa basati su esempi reali per allenarsi a individuare le variazioni.

Man mano che i ricercatori della sicurezza rilevano più e-mail di phishing, possono fornire a questi modelli più dati, rendendoli ancora più accurati. Le capacità di apprendimento continuo dell'intelligenza artificiale aiutano anche a perfezionare i modelli per ridurre i falsi positivi.

L'intelligenza artificiale può anche aiutare a fermare gli attacchi di phishing quando si fa clic su un collegamento dannoso. Il software di monitoraggio automatico può stabilire una base di comportamento normale per rilevare anomalie che potrebbero verificarsi quando qualcun altro utilizza il tuo account. Possono quindi bloccare il profilo e allertare i team di sicurezza prima che l'intruso faccia troppi danni.

In che modo gli aggressori utilizzano l'intelligenza artificiale nel phishing

Il potenziale dell'intelligenza artificiale per fermare gli attacchi di phishing è impressionante, ma è anche un potente strumento per generare e-mail di phishing. Poiché l'intelligenza artificiale generativa come ChatGPT è diventata più accessibile, sta rendendo gli attacchi di phishing più efficaci.

Lo spearphishing, che utilizza dati personali per creare messaggi specifici per l'utente, è uno dei tipi più efficaci di phishing. Un'e-mail che riporta correttamente tutte le tue informazioni personali sarà naturalmente molto più convincente. Tuttavia, la creazione di questi messaggi è stata tradizionalmente difficile e richiedeva molto tempo, soprattutto su larga scala. Questo non è più il caso dell'IA generativa.

L'intelligenza artificiale può generare enormi quantità di messaggi di phishing su misura in una frazione del tempo che impiegherebbe un essere umano. È anche più bravo delle persone a scrivere falsi convincenti. In uno studio del 2021, e-mail di phishing generate dall'intelligenza artificiale ha registrato percentuali di clic significativamente più elevate di quanto scrivessero quegli umani - e questo era prima del rilascio di ChatGPT.

Proprio come i professionisti del marketing utilizzano l'intelligenza artificiale per personalizzare le proprie campagne di sensibilizzazione dei clienti, i criminali informatici possono utilizzarla per creare messaggi di phishing efficaci e specifici per l'utente. Man mano che l'IA generativa migliora, questi falsi diventeranno solo più convincenti.

Gli aggressori rimangono in testa grazie alle debolezze umane

Con attaccanti e difensori che sfruttano l'intelligenza artificiale, quale parte ha visto i vantaggi più importanti? Se osservi le recenti tendenze del crimine informatico, vedrai che i criminali informatici hanno prosperato nonostante protezioni più sofisticate.

Attacchi di posta elettronica aziendale compromessi è aumentato dell'81% nella seconda metà del 2022 e i dipendenti hanno aperto il 28% di questi messaggi. Questo fa parte di un aumento del 175% a lungo termine negli ultimi due anni, suggerendo che il phishing sta crescendo più velocemente che mai. Anche questi attacchi sono efficaci, rubando $ 17,700 al minuto, che è probabilmente il motivo per cui sono responsabili del 91% degli attacchi informatici.

Perché il phishing è cresciuto così tanto nonostante l'intelligenza artificiale abbia migliorato le protezioni anti-phishing? Probabilmente si riduce all'elemento umano. I dipendenti devono effettivamente utilizzare questi strumenti affinché siano efficaci. Oltre a ciò, i lavoratori potrebbero impegnarsi in altre attività non sicure che li rendono inclini a tentativi di phishing, come l'accesso ai propri account di lavoro su dispositivi personali non autorizzati e non protetti.

Il sondaggio citato in precedenza ha inoltre rilevato che i lavoratori segnalano solo il 2.1% degli attacchi. Questa mancanza di comunicazione può rendere difficile vedere dove e come le misure di sicurezza devono migliorare.

Come proteggersi dai crescenti attacchi di phishing

Data questa tendenza allarmante, le aziende e i singoli utenti dovrebbero adottare misure per rimanere al sicuro. L'implementazione di strumenti anti-phishing AI è un buon inizio, ma non può essere l'unica misura. Soltanto 7% dei team di sicurezza non stanno utilizzando o pianificano di utilizzare l'intelligenza artificiale, tuttavia il predominio del phishing persiste, quindi le aziende devono affrontare anche l'elemento umano.

Poiché gli esseri umani sono l'anello più debole contro gli attacchi di phishing, dovrebbero essere al centro delle misure di mitigazione. Le organizzazioni dovrebbero rendere le best practice di sicurezza una parte più importante dell'onboarding dei dipendenti e della formazione continua. Questi programmi dovrebbero includere come individuare gli attacchi di phishing, perché è un problema e simulazioni per testare la conservazione delle conoscenze dopo la formazione.

Anche l'utilizzo di strumenti di gestione delle identità e degli accessi più solidi è importante, in quanto aiutano a bloccare le violazioni riuscite dopo che sono entrate in un account. Anche i dipendenti esperti possono commettere errori, quindi dovresti essere in grado di individuare e bloccare gli account violati prima che causino danni estesi.

L'intelligenza artificiale è uno strumento potente sia per il bene che per il male

L'intelligenza artificiale è una delle tecnologie più dirompenti della storia recente. Che sia buono o cattivo dipende dal suo utilizzo.

È fondamentale riconoscere che l'intelligenza artificiale può aiutare i criminali informatici tanto quanto, se non di più, dei professionisti della sicurezza informatica. Quando le organizzazioni riconoscono questi rischi, possono adottare misure più efficaci per affrontare i crescenti attacchi di phishing.