Le aziende sono pronte per la prossima ondata di attacchi informatici guidati dall’intelligenza artificiale?

Analizzare le tendenze attuali consente agli esperti di prevedere come i cybercriminali utilizzeranno l’intelligenza artificiale in futuro. Con queste informazioni, possono identificare le principali minacce emergenti e determinare se le aziende sono preparate. Potrebbero anche essere in grado di scoprire una soluzione.

Lo stato delle minacce AI negli ultimi anni

Sebbene la tecnologia AI sia relativamente nuova, è già diventata uno strumento importante per gli hacker. Queste tendenze suggeriscono che gli attacchi informatici AI sono in aumento.

1. Manipolazione del modello

Facendo bersaglio dei modelli linguistici grandi (LLM) direttamente, gli attaccanti possono manipolare il comportamento del modello, diminuire la precisione dell’output o esporre dati personali identificativi di formazione. L’avvelenamento dei dati e l’ingegneria dei prompt sono tecniche di attacco comuni.

Alcuni attacchi sono guidati da attaccanti che cercano di causare caos o rubare informazioni sensibili. Altri sono amministrati da artisti scontenti che vogliono proteggere le loro opere d’arte dall’estrazione AI. In ogni caso, l’azienda e i suoi utenti finali sono colpiti negativamente.

2. Attacchi di impersonazione

Nel 2024, un dirigente Ferrari ha ricevuto diversi messaggi WhatsApp dal CEO, Benedetto Vigna. Vigna ha parlato di un’imminente acquisizione e ha sollecitato il suo dipendente a firmare un accordo di non divulgazione. Ha anche chiamato per discutere del finanziamento. C’era un problema — non era lui.

Il deepfake era quasi perfetto, imitando eccezionalmente bene l’accento italiano meridionale di Vigna. Tuttavia, lievi incoerenze nella voce hanno fatto capire all’esecutivo che si trattava di una truffa. Il dipendente ha chiesto il titolo di un libro che Vigna aveva consigliato giorni prima, una domanda alla quale solo il vero CEO avrebbe potuto rispondere. Lo scammers ha riattaccato subito.

L’AI può clonare la voce di una persona, il comportamento di navigazione, lo stile di scrittura e la somiglianza. Man mano che questa tecnologia si evolve, diventa sempre più difficile identificare i deepfake. Gli scammers spesso mettono la vittima in una situazione urgente per impedirle di mettere in discussione le piccole discordanze.

3. Phishing AI

In passato, una persona poteva identificare un’e-mail di phishing guardando la cattiva grammatica, i link sospetti, i saluti generici e le richieste fuori posto. Ora, con la tecnologia di elaborazione del linguaggio naturale, gli hacker possono creare messaggi credibili con una grammatica impeccabile.

I ricercatori hanno scoperto che le e-mail di phishing completamente automatizzate abilitate dall’AI hanno un tasso di clic del 54%, che è pari a quello delle e-mail di phishing scritte da esseri umani. Poiché queste truffe sono più convincenti, stanno diventando sempre più comuni. Gli studi hanno scoperto che oltre l’80% delle e-mail di phishing mostra prove di coinvolgimento dell’AI.

4. Ingegneria sociale

L’ingegneria sociale consiste nel manipolare qualcuno per farlo agire o divulgare informazioni. L’AI consente agli hacker di rispondere più velocemente e creare messaggi più convincenti. Qualsiasi modello di elaborazione del linguaggio naturale può condurre un’analisi semantica per identificare lo stato emotivo del destinatario, rendendolo più propenso a cedere.

In aggiunta all’aggiornamento delle tecniche di ingegneria sociale, la tecnologia di apprendimento automatico riduce le barriere di ingresso tradizionali, consentendo ai novizi di condurre campagne sofisticate. Se chiunque può diventare un cybercriminale, chiunque può diventare un bersaglio.

La prossima ondata di attacchi AI guidati dai dati

All’inizio del 2026, gli attacchi AI sono previsti rimanere a un livello di maturità basso. Tuttavia, si evolveranno esponenzialmente nel corso dell’anno, consentendo ai cybercriminali di entrare nelle fasi di ottimizzazione, distribuzione e scalabilità. Presto saranno in grado di lanciare campagne completamente automatizzate. Gli esempi confermati di attacchi informatici AI non saranno rari per molto tempo.

Il malware polimorfo è un virus abilitato dall’AI che può cambiare il suo codice ogni volta che si replica per evitare la rilevazione. Gli attaccanti possono consegnare il payload attraverso ecosistemi AI, chiamare i LLM al runtime per generare comandi o incorporare direttamente il virus nel LLM. Il Google Threat Intelligence Group ha scoperto che gli avversari hanno schierato questo malware per la prima volta nel 2025.

Le famiglie di malware sono PROMPTFLUX e PROMPTSTEAL. Durante l’esecuzione, utilizzano i LLM per richiedere la tecnica di offuscamento e di evasione VBScript. Evitano la rilevazione basata su firma offuscando il proprio codice su richiesta.

Le prove suggeriscono che queste minacce sono ancora nella fase di testing — alcune funzionalità incomplete sono commentate e le chiamate di programmazione dell’applicazione sono limitate. Queste famiglie di malware AI potrebbero ancora essere in fase di sviluppo, ma la loro stessa esistenza rappresenta un enorme passo avanti nella direzione di tecniche di attacco autonome e adattive.

La ricerca di NYU Tandon mostra che i LLM possono già eseguire autonomamente attacchi di ransomware, chiamati Ransomware 3.0. Possono condurre ricognizioni, generare payload e personalizzare estorsioni senza intervento umano. Richiede solo prompt di linguaggio naturale incorporati nel binario. Il modello produce varianti polimorfe che si adattano all’ambiente di esecuzione generando dinamicamente il codice malintenzionato al runtime.

Le aziende sono preparate per gli attacchi AI?

Nonostante i miliardi di spese per la sicurezza informatica, le aziende private continuano a lottare per stare al passo con il panorama delle minacce in evoluzione. La tecnologia di apprendimento automatico potrebbe rendere obsolete le attuali tecnologie di rilevamento e risposta, complicando ulteriormente la difesa. Non aiuta il fatto che molte aziende non riescono a soddisfare gli standard di sicurezza di base.

Il rapporto sulla maturità della sicurezza informatica DIB del 2024 ha intervistato 400 professionisti dell’informatica negli Stati Uniti della base industriale della difesa (DIB). Oltre la metà dei rispondenti ha riferito di essere lontani anni dalla certificazione di maturità della sicurezza informatica (CMMC) 2.0, nonostante la equivalente conformità NIST 800-171 sia stata delineata nei contratti del Dipartimento della Difesa (DoD) dal 2016. Molti valutano la loro postura di sicurezza come molto migliore di quanto non sia in realtà.

I nuovi requisiti CMMC sono entrati in vigore il 10 novembre 2025. In futuro, tutti i contratti DoD richiederanno un certo livello di conformità CMMC come condizione di aggiudicazione del contratto. Le nuove regole sono intese a rafforzare la sicurezza informatica della DIB, ma saranno efficaci nell’era dell’AI?

La difesa AI è la risposta?

Combattere il fuoco con il fuoco potrebbe essere l’unico modo per contrastare l’inevitabile ondata di attacchi AI. Con la difesa AI, le organizzazioni possono rispondere dinamicamente alle minacce in tempo reale. Tuttavia, questo approccio presenta le sue stesse vulnerabilità di sicurezza — proteggere il modello contro la manipolazione richiederà una supervisione e un’auditing continui.

Secondo Harvard Business Review, le soluzioni convenzionali lasciano le aziende vulnerabili agli attacchi informatici AI. Per raggiungere la resilienza informatica, devono utilizzare la tecnologia di apprendimento automatico per anticipare e rispondere automaticamente alle minacce.

Non c’è una risposta semplice alla domanda se la difesa AI sia la soluzione a questo problema. Le aziende dovrebbero investire risorse nel dispiegamento di strumenti di apprendimento automatico non testati o nell’espansione dei loro team di tecnologia dell’informazione? È impossibile prevedere quale investimento pagherà nel lungo termine.

Le grandi aziende potrebbero vedere ritorni significativi con la sicurezza informatica automatizzata, mentre le piccole aziende potrebbero lottare per giustificare il costo. La tecnologia di automazione convenzionale potrebbe essere in grado di colmare il divario a un prezzo molto più basso, ma non sarà in grado di rispondere a minacce dinamiche.

Steve Durbin, CEO di Information Security Forum, afferma che l’adozione dell’AI ha benefici significativi, ma ha anche svantaggi significativi. Ad esempio, le aziende spesso sperimentano un aumento di avvisi falsi positivi, che spreca il tempo dei team di sicurezza. Inoltre, la dipendenza eccessiva dall’AI può portare i team a diventare troppo fiduciosi, risultando in lacune di sicurezza.

Navigare nel panorama delle minacce AI

È impossibile determinare l’esatta portata della presenza dell’AI nel panorama delle minacce, poiché gli attaccanti possono utilizzarla per creare codice malintenzionato o redigere e-mail di phishing, piuttosto che utilizzarla al runtime. I cybercriminali solitari e i gruppi di attaccanti sponsorizzati dallo stato potrebbero utilizzarla su larga scala.

Basandosi sulle informazioni disponibili, la manipolazione del modello, il phishing AI e il malware polimorfo saranno le principali minacce informatiche del 2026. I cybercriminali probabilmente continueranno a utilizzare i LLM per generare, consegnare e adattare payload malintenzionati, prendendo di mira settori ad alto valore come le finanze, nonché persone comuni.